递归时间复杂度分析

在算法分析中，当一个算法中包含递归调用时，其时间复杂度的分析会转化为一个递归方程求解。实际上，这个问题是数学上求解渐近阶的问题，而递归方程的形式多种多样，其求解方法也是不一而足，比较常用的有以下四种方法：

    (1)代入法(Substitution Method)
    
    代入法的基本步骤是先推测递归方程的显式解，然后用数学归纳法来验证该解是否合理。
    
    (2)迭代法(Iteration Method)
    
    迭代法的基本步骤是迭代地展开递归方程的右端，使之成为一个非递归的和式，然后通过对和式的估计来达到对方程左端即方程的解的估计。
    
    (3)套用公式法(Master Method)
    
    这个方法针对形如“T(n) = aT(n/b) + f(n)”的递归方程。这种递归方程是分治法的时间复杂性所满足的递归关系，即一个规模为n的问题被分成规模均为n/b的a个子问题，递归地求解这a个子 问题，然后通过对这a个子间题的解的综合，得到原问题的解。
    
    (4)差分方程法(Difference Formula Method)

    可以将某些递归方程看成差分方程，通过解差分方程的方法来解递归方程，然后对解作出渐近阶估计。
    
    下面就以上方法给出一些例子说明。
        
    一、代入法
    
    大整数乘法计算时间的递归方程为：T(n) = 4T(n/2) + O(n)，其中T(1) = O(1)，我们猜测一个解T(n) = O(n²)，根据符号O的定义，对n>n0，有T(n) < cn² - eO(2n)（注意，这里减去O(2n)，因其是低阶项，不会影响到n足够大时的渐近性），把这个解代入递归方程，得到：
    
    T(n) =  4T(n/2) + O(n)
           ≤ 4c(n/2)² - eO(2n/2)) + O(n)
           =  cn² - eO(n) + O(n)
           ≤ cn² 
    
    其中，c为正常数，e取1，上式符合 T(n)≤cn² 的定义，则可认为O(n² )是T(n)的一个解，再用数学归纳法加以证明。

转：一篇文章：

 

因为递推式求解的重要性，许多算法书籍对其有专门介绍。Donald Knuth在Concrete Mathematics一书中多个章节都涉及递推式求解方法。算法导论也在第四章中专门论述的这个主题。

在这些相关论述中，主要介绍了一些启发式方法，这些方法往往需要一些特殊的技巧和灵感才能完成。

而本文将论述一种纯代数式的方法，这种方法将求解递推式转化为求解一个多项式的根和求解一组线性方程组，这样就使得整个求解过程不依赖于太多技巧，因此具有更好的易用性。

本文首先会给出两个例子：如何使用纯代数方法求解斐波那契数列和汉诺塔递推式；然后会借助线性代数论述这种方法背后的数学意义，说明线性递推式与线性方程的内在联系以及这种解法的数学原理；最后将例子中的方法推广到一般情况。

 

转自：http://blog.codinglabs.org/articles/linear-algebra-for-recursion.html
    
    二、迭代法

    某算法的计算时间为：T(n) = 3T(n/4) + O(n)，其中T(1) = O(1)，迭代两次可将右端展开为：
    
    T(n) = 3T(n/4) + O(n)
         = O(n) + 3( O(n/4) + 3T(n/4² ) )
         = O(n) + 3( O(n/4) + 3( O(n/4² ) + 3T(n/4³ ) ) )
         
    从上式可以看出，这是一个递归方程，我们可以写出迭代i次后的方程：
    
    T(n) = O(n) + 3( O(n/4) + 3( O(n/4² ) + ... + 3( n/4ⁱ + 3T(n/4ⁱ⁺¹ ) ) ) )
    
    当n/4ⁱ⁺¹ =1时，T(n/4ⁱ⁺¹ )=1，则
    
    T(n) = n + (3/4) + (3² /4² )n + ... + (3ⁱ /4ⁱ )n + (3ⁱ⁺¹ )T(1)
         < 4n + 3ⁱ⁺¹ 
         
    而由n/4ⁱ⁺¹ =1可知，i<log₄ n，从而
    
    3ⁱ⁺¹ ≤ 3^log₄ n+1 = 3^{log₃ n*log₄ 3} +1 = 3nlog₄ 3
    
    代入得：
    
    T(n) < 4n + 3nlog₄ 3，即T(n) = O(n)。
    
    三、套用公式法
    
    这个方法为估计形如：

　　T(n) = aT(n/b) + f(n)

　　其中，a≥1和b≥1，均为常数，f(n)是一个确定的正函数。在f(n)的三类情况下，我们有T(n)的渐近估计式：

    1.若对于某常数ε>0，有f(n) = O(n^log_b a-ε )，则T(n) = O(n^log_b a )
    
    2.若f(n) = O(n^log_b a )，则T(n) = O(n^log_b a *logn)
    
    3.若f(n) = O(n^log_b a+ε )，且对于某常数c>1和所有充分大的正整数n，有af(n/b)≤cf(n)，则T(n)=O(f(n))。
    
    设T(n) = 4T(n/2) + n，则a = 4，b = 2，f(n) = n，计算得出n^log_b a = n^log₂ 4 = n² ，而f(n) = n = O(n^2-ε )，此时ε= 1，根据第1种情况，我们得到T(n) = O(n² )。
    
    这里涉及的三类情况，都是拿f(n)与n^log_b a 作比较，而递归方程解的渐近阶由这两个函数中的较大者决定。在第一类情况下，函数n^log_b a 较大，则T(n)=O(n^log_b a )；在第三类情况下，函数f(n)较大，则T(n)=O(f (n))；在第二类情况下，两个函数一样大，则T(n)=O(n^log_b a *logn)，即以n的对数作为因子乘上f(n)与T(n)的同阶。
    
    但上述三类情况并没有覆盖所有可能的f(n)。在第一类情况和第二类情况之间有一个间隙：f(n)小于但不是多项式地小于n^log_b a ，第二类与第三类之间也存在这种情况，此时公式法不适用。

 

题目：

n带了根号，乍看之下是无法应用主定理的，但是我们可以通过换元等trick将递归式转化成可以用主定理求解的式子

 

而对于某些式子，如上面所说，看着似乎可以用MM求解，但是实际上不满足3条中的任何一条，比如下面的：

 

更多：

http://www.cnblogs.com/python27/archive/2011/12/09/2282486.html

http://blog.sina.com.cn/s/blog_4aba4b7101013vmh.html