Problem Set 1

Problem Set 1.1

Problem 1.1.1

$1)$
基本情况：若$z=0$，则$yz=0$，返回正确值
归纳假设：令$d$为一个常数，假设$\mathrm{\forall }z<d$，算法返回正确值
归纳步骤：若$z=d$，利用数学归纳法

• 若$z$为偶数，则返回$\text{INT-MULT}(2y,\frac{z}{2})$，由于函数的第二个参数变小了，根据数学归纳法，有$\text{INT-MULT}(2y,\frac{z}{2})=2y\cdot \frac{z}{2}=yz$，返回正确值
• 若$z$为奇数，则返回$\text{INT-MULT}(2y,\frac{z-1}{2})+y$，由于函数的第二个参数变小了，根据数学归纳法，有$\text{INT-MULT}(2y,\frac{z-1}{2})+y=2y\cdot \frac{z-1}{2}+y=yz$，返回正确值

$2)$
基本情况：若$z=0$，则$yz=0$，返回正确值
归纳假设：令$d$为一个常数，假设$\mathrm{\forall }z<d$，算法返回正确值
归纳步骤：若$z=d$，利用数学归纳法。设$z\text{mod}c=r$，则返回$\text{INT-MULT}(cy,\frac{z-r}{c})+ry=yz$，返回正确值

Problem 1.1.2

由代码有$T(n)=\frac{n/4}{n}\cdot 10+\frac{2(n/2-n/4)}{n}\cdot 20+\frac{3n/4-n/2}{2n}\cdot 30+\frac{n-3n/4}{2n}\cdot n=16.25+\frac{n}{8}$

Problem 1.1.3

$1)$
令$U=\{1,2,3,4\},S=\{\{1,2,3\},\{4\},\{1,2\}\}$
可知算法会选择会选择$S$的所有元素，但实际上只用选择两个元素即可
$2)$
使用深度优先搜索，考察$S$中每个元素是否选，一共有$2^m$种选择，将这些选择全部检查一遍，从符合题意的组合中选择组合包含元素个数最少的即可。由于覆盖了所有可能的情况，如果问题有解，那么肯定可以找出最小覆盖，也就是说算法是正确的。代码如下

void work(int step,int cnt)
//step表示当前正在选择第step个集合 
//cnt表示已经选择的集合个数 
{
	if(step==m+1)
	{
		//now表示选择了的集合的并集
		//ans表示最小覆盖数 
		if(now.size()==n) ans=min(ans,cnt);
		return;
	}
	work(step+1,cnt);
	set<int> now_copy=now;
	for(set<int>::iterator it=s[step].begin();it!=s[step].end();++it) 
	now.insert(*it);
	work(step+1,cnt+1);
	now=now_copy;
}

$3)$
能，除非问题无解，比如令$U=\{1,2\},S=\{\{1\}\}$

Problem 1.1.4

以下代码均忽略数值溢出的问题
$1)$

int work(int T)//设S是全局变量，找到了返回最后一个被扫描到的硬币的下标，未找到返回0
{
	int sum=0;
	for(int i=1;i<=n;i++)
	{
		sum+=s[i];
		if(sum==T) return i;
	}
	return 0;
 } 

反例：$S=\{1,2,3,4,5\},T=4$
$2)$

int work(int T)//设S是全局变量，找到了返回最后一个被扫描到的硬币的下标，未找到返回0
{
	sort(s+1,s+n+1);
	int sum=0;
	for(int i=1;i<=n;i++)
	{
		sum+=s[i];
		if(sum==T) return i;
	}
	return 0;
 } 

反例同$1)$
$3)$

int work(int T)//设S是全局变量，找到了返回最后一个被扫描到的硬币的下标，未找到返回0
{
	sort(s+1,s+n+1,greater<int>());
	int sum=0;
	for(int i=1;i<=n;i++)
	{
		sum+=s[i];
		if(sum==T) return i;
	}
	return 0;
 } 

反例同$1)$

Problem Set 1.2

Problem 1.2.1

$1)$
利用数学归纳法证明。
基本情况：有$F_1=F_2=1,F_3=2$，可知，对于前三个数符合题意
归纳假设：设对前$n$个数符合题意（不妨设$n$是$3$的倍数）
归纳步骤：由于$F_{n+1}=F_n+F_{n-1}$，而偶数加奇数为奇数，所以$F_{n+1}$为奇数，同理有$F_{n+2}=F_{n+1}+F_n$为奇数；有$F_{n+3}=F_{n+1}+F_{n+2}$，而奇数加奇数为偶数，所以$F_{n+3}$为偶数。由于$n$是$3$的倍数，所以$n+1,n+2$不能被$3$整除而$n+3$可以，所以对于前$n+3$个数符合题意
$2)$
利用数学归纳法证明。
基本情况：对于$F_1,F_2$，显然符合上述公式
归纳假设：假设对于前$n-1$个数符合上述公式
归纳步骤：要证明$F_n^2-F_{n+1}{F}_{n-1}=(-1{)}^{(n+1)}$，只用证明$F_n^2-(F_n+F_{n-1})F_{n-1}=(-1{)}^{(n+1)}$，而

$$F_n^2-(F_n+F_{n-1})F_{n-1}=-(F_{n-1}^2-(F_{n-1}+F_{n-2})F_{n-2})=(-1{)}^{(n+1)}$$

证毕

Problem 1.2.2

$1)$
直接证明$2)$
$2)$
在二叉树中，有边数$=$总结点个数$-1$
而边数又等于子节点个数，所以子节点个数等于总结点个数$-1$
在这道题目中，即$n_1+2n_2=n_0+n_1+n_2-1$
化简即$n_0=n_2+1$

Problem 1.2.3

我认为题干的符号可能使用的不是很正确，像$O$这种符号都表示一个集合，而题干却让一个函数等于了一个集合，应该不是题目的意思，所以我认为等号应该换成$\in$，下面仍然使用等号，但是表达$\in$的意思
$1)$

• O：若 $f=O(g)$，则存在 $c_1,n_1$ 使得当 $n\ge n_1$ 时，$f(n)\le c_{1}g(n)$。若 $g=O(h)$，则存在 $c_2,n_2$ 使得当 $n\ge n_2$ 时，$g(n)\le c_{2}h(n)$。取 $n_0=max(n_1,n_2)$，当 $n\ge n_0$ 时，$f(n)\le c_1{c}_{2}h(n)$，即 $f=O(h)$
• Ω：类似 O，方向相反
• Θ：结合 O 和 Ω 的传递性，存在常数使得上下界同时传递
• o：若 $f=o(g)$，则 $\underset{n\to \mathrm{\infty }}{lim}\frac{f(n)}{g(n)}=0$。若 $g=o(h)$，则 $\underset{n\to \mathrm{\infty }}{lim}\frac{g(n)}{h(n)}=0$。故 $\frac{f(n)}{h(n)}=\frac{f(n)}{g(n)}\cdot \frac{g(n)}{h(n)}\to 0$，即 $f=o(h)$
• ω：类似 o，极限趋向于无穷大，乘积仍趋向无穷大

$2)$

• O：取 $c=1$，则 $f(n)\le 1\cdot f(n)$，故 $f=O(f)$
• Ω：同理，$f(n)\ge 1\cdot f(n)$，故 $f=\Omega (f)$
• Θ：由 O 和 Ω 自反性，得 $f=\Theta (f)$

$3)$

• 自反性：已证
• 对称性：若 $f=\Theta (g)$，则存在 $c_1,c_2>0$ 使得 $c_{1}g(n)\le f(n)\le c_{2}g(n)$，从而 $\frac{1}{c_2}f(n)\le g(n)\le \frac{1}{c_1}f(n)$，即 $g=\Theta (f)$
• 传递性：已证

综上，Θ 是等价关系

$4)$
$f=\Theta (g)⟺f=O(g)\cap \Omega (g)⟺f=O(g),f=\Omega (g)$

$5)$

• O与Ω：$f=O(g)⟺\mathrm{\exists }c>0,f(n)\le cg(n)⟺g(n)\ge \frac{1}{c}f(n)⟺g=\Omega (f)$
• o与ω：$f=o(g)⟺\underset{n\to \mathrm{\infty }}{lim}\frac{f(n)}{g(n)}=0⟺\underset{n\to \mathrm{\infty }}{lim}\frac{g(n)}{f(n)}=\mathrm{\infty }⟺g=\omega (f)$

$6)$

• o(g) ∩ ω(g) = ∅：若 $h\in o(g)$，则 $\underset{n\to \mathrm{\infty }}{lim}\frac{h(n)}{g(n)}=0$，但若 $h\in \omega (g)$，则 $\underset{n\to \mathrm{\infty }}{lim}\frac{h(n)}{g(n)}=\mathrm{\infty }$，矛盾
• Θ(g) ∩ o(g) = ∅：若 $h\in \Theta (g)$，则 $\mathrm{\exists }c>0$ 使得 $h(n)\ge cg(n)$，但 $h\in o(g)$ 要求 $h(n)\le ϵg(n)$ 对所有 $ϵ>0$，矛盾
• Θ(g) ∩ ω(g) = ∅：类似上一条

Problem 1.2.4

下面的小于符号和等于符号都代表渐进复杂度
$1)$
直接做$2)$
$2)$

$$\log \log n<\log n<{\log }^{2}n<\sqrt{n}<n<n\log n<n^{1+ϵ}<n^2=n^2+\log n<n^3$$

$$<n-n^3+7n^5<2^{n-1}=2^n<e^n<n!$$

Problem Set 1.3

Problem 1.3.1

第二个是正确的。对$n=1,2$显然成立
假设对前$n-1$项成立，那么$F(n)=F(n-1)+F(n-2)\ge 0.01(\frac{3}{2}{)}^{n-1}+0.01(\frac{3}{2}{)}^{n-2}=0.01(\frac{3}{2}{)}^{n-2}\cdot \frac{5}{2}\ge 0.01(\frac{3}{2}{)}^n$
第一个是不正确的，类似上面的正面，有$\frac{5}{2}\le \frac{9}{4}$，这显然是不对的

Problem 1.3.2

a.
有$a=2,b=3,f(n)=1$，根据主定理，$\mathrm{\exists }ϵ,f(n)\in O(n^{{\log }_{b}a-ϵ})$，所以$T(n)\in \mathrm{\Theta }(n^{{\log }_{b}a})$
b.
$T(n)=c\log n+c\log \frac{n}{2}+c\log \frac{n}{4}+...+c\log 1=c\underset{k=0}{\sum ^{\log n}}\log n-k\in \mathrm{\Theta }({\log }^{2}n)$（用递归树也可以得到相同结果）
c.
有$a=1,b=2,f(n)=cn$，根据主定理，$\mathrm{\exists }ϵ,f(n)\in \mathrm{\Omega }(n^{{\log }_{b}a+ϵ})$，且有$f(n/2)\le \frac{3}{4}f(n)$，所以$T(n)\in \mathrm{\Theta }(n)$
d.
有$a=2,b=2,f(n)=cn$，根据主定理，$f(n)\in \mathrm{\Theta }(n^{{\log }_{b}a})$，所以$T(n)\in \mathrm{\Theta }(n\log n)$
e.
$T(n)=cn\log n+2\cdot c\frac{n}{2}\log \frac{n}{2}+4\cdot c\frac{n}{4}\log \frac{n}{4}+...+n\cdot c\log 1=cn\underset{k=0}{\sum ^{\log n}}\log n-k\in \mathrm{\Theta }(n{\log }^{2}n)$
f.
用递归树进行计算，如下

可以知道每一层的计算量都为$O(n)$，一共有$O(\log n)$层，所以复杂度为$O(n\log n)$
g.
利用递归树分析。对于第一层，总耗费为$O(n)$；对于第二层，总耗费为$O((a_1+a_2+...+a_k)n)$；对于第三层，总耗费为$O((a_1+a_2+...+a_k{)}^{2}n)$；依此类推。由于$a_1+a_2+...+a_k<1$，所以$T(n)=O(n)\cdot \underset{i=0}{\sum ^{\mathrm{\infty }}}(a_1+a_2+...+a_k{)}^i=O(n)$
也可以用代入法做，而且得出的结论更强。
假设$T(n)\le dn$，代入递归式得$T(n)\le d(a_1+a_2+...+a_k)n+cn$；要让$d(a_1+a_2+...+a_k)n+cn\le dn$，只需取$d\ge \frac{c}{1-(a_1+a_2+...+a_k)}$，所以$T(n)\in O(n)$；同理可证$T(n)\in \mathrm{\Omega }(n)$；所以$T(n)\in \mathrm{\Theta }(n)$

Problem 1.3.3

仍然使用递归树分析，将$\sqrt{n}T(\sqrt{n})$看做$\sqrt{n}$个$T(\sqrt{n})$相加，可以知道每层的计算复杂度为$\sqrt{n}O(\sqrt{n})=O(n)$，层数为$n$可以开根号的次数，设为$m$，则时间复杂度为$O(mn)$.$m$是一个很小的数，对于百万级别的数据来说，$m$不会超过$10$，所以甚至可以视为一个常数
另外一种做法：$T(n)=\sqrt{n}T(\sqrt{n})+n=\sqrt{n}(\sqrt{\sqrt{n}}T(\sqrt{\sqrt{n}})+\sqrt{n})+n=n^{3/4}T(n^{1/4})+2n$
继续展开可以得到类似结论

Problem 1.3.4

(a)
最终的矩阵一共有四个元素，每个元素都是经过两次乘法运算和一次加法运算得到的，所以一共会经过八次乘法运算和四次加法运算；根据递推，不难得到，如果不使用矩阵快速幂而是使用$O(n)$的乘法的话，会经过$8(n-1)$次乘法运算
(b)
这个使用矩阵快速幂即可，数学原理是矩阵乘法满足结合律，代码见下

void mul(arr x,arr y)
{
    ll z[1][2];
	memset(z,0,sizeof(z));
	for(int i=0;i<=0;i++)
	for(int j=0;j<=1;j++)
	for(int k=0;k<=1;k++)
	z[i][j]=(z[i][j]+x[i][k]*y[k][j])%p;
	memcpy(x,z,sizeof(z));
}
void mulself(arr x,arr y)
{
    ll z[2][2];
	memset(z,0,sizeof(z));
	for(int i=0;i<=1;i++)
	for(int j=0;j<=1;j++)
	for(int k=0;k<=1;k++)
	z[i][j]=(z[i][j]+x[i][k]*y[k][j])%p;
	memcpy(x,z,sizeof(z));
}
int main()
{
		n=read();
		ans[0][0]=0,ans[0][1]=1;
		ll A[2][2]={{0,1},{1,1}};
		while(n)
		{
			if(n&1) mul(ans,A);
			mulself(A,A);
			n>>=1;
		}
		printf("%lld\n",ans[0][0]);
    return 0;
}

(c)
要计算中间结果都是$O(n)$位长的，由于数列中的数都是正数，所以矩阵快速幂中间的矩阵的元素值不会比数列中的某些值大，所以只用证明$F(n)$的长度是$O(n)$的即可，即证明${\log }_{10}F(n)\in O(n)$.根据特征方程可以计算出$F(n)$的通项公式为$\frac{{\varphi }^n}{\sqrt{5}}$，于是不难证明
(d)
我们已经证明了会有$O(\log n)$次矩阵乘法，而每次矩阵乘法的复杂度为$M(n)=O(n^2)$（由(c)，中间结果不会超过$O(n)$位），所以总的时间复杂度是$O(M(n)\log n)$
(e)
由提示，我们真正的复杂度其实是$O(1^2)+O(2^2)+O(4^2)+O(8^2)+...+O(n^2)\in O(n^2)$，得证