算法概念以及算法简单分析

  随着互联网技术的发展,python这门语言被广泛使用,特别是在大数据与机器学习领域,他的优势特别明显。我相信,在不久的将来,python这门年轻而优美的语言也将会受到更多的追捧,会pthon编程的人将越来越吃香。现在自己也必须顺应时代发展,也开始研究数据算法与结构,机器学习相关的东西了。

  这是我的第一篇关于数据方面的文章,也是这个博客账号的第一篇文章。文章内容虽然简单,但对于初学者来说却很实用,相信通过此篇文章,一定会有所收获。今天的主要内容时主要分享:算法与数据先关的概念,。

一.问题的引入:

  先来看一道题,通过这道题,我们先体会一下算法思想在计算机编程中的使用:

  如果 a+b+c=1000,且 a^2+b^2=c^2(a,b,c 为自然数),如何求出所有a、b、c可能的组合?

  现在我们先用一段简单的python代码来实现这个功能,代码如下:    

    import time

    start_time = time.time()

    # 此处是三次for循环嵌套
    for a in range(0, 1001):
        for b in range(0, 1001):
            for c in range(0, 1001):
                if a**2 + b**2 == c**2 and a+b+c == 1000:
                    print("a, b, c: %d, %d, %d" % (a, b, c))

    end_time = time.time()
    print("endtime: %f" % (end_time - start_time))
    print("end!")

   运行结果如下:

    a, b, c: 0, 500, 500
    a, b, c: 200, 375, 425
    a, b, c: 375, 200, 425
    a, b, c: 500, 0, 500
    endtime: 214.583347
    end!

  这段功能与逻辑简单代码,特就涉及了计算机编程中一个最基本的算法思想,下面我们想讲解一下算法概念吧。

二.算法:

算法的概念

   算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或某个存储地址供以后再调用。

  算法是独立存在的一种解决问题的方法和思想。

  对于算法而言,实现的语言并不重要,重要的是思想。

  算法可以有不同的语言描述实现版本(如C描述、C++描述、Python描述等),我们现在是在用Python语言进行描述实现。

算法的五大特性

  1. 输入: 算法具有0个或多个输入
  2. 输出: 算法至少有1个或多个输出
  3. 有穷性: 算法在有限的步骤之后会自动结束而不会无限循环,并且每一个步骤可以在可接受的时间内完成
  4. 确定性:算法中的每一步都有确定的含义,不会出现二义性
  5. 可行性:算法的每一步都是可行的,也就是说每一步都能够执行有限的次数完成

  对什么是算法有了了解之后,还是刚才的问题,我们只将刚才的那段代码部分改动,看看最后的输出时间又有什么不同?

  改动后的代码如下: 

  import time

  start_time = time.time()

  # 此处现在为两次for循环嵌套
  for a in range(0, 1001):
      for b in range(0, 1001-a):
          c = 1000 - a - b       # 原来c的值是用for循环遍历来取,现在我们将c直接用a、b 表示
          if a**2 + b**2 == c**2:
              print("a, b, c: %d, %d, %d" % (a, b, c))

  end_time = time.time()
  print("endtime: %f" % (end_time - start_time))
  print("end!")

 输出的结果为:  

  a, b, c: 0, 500, 500
  a, b, c: 200, 375, 425
  a, b, c: 375, 200, 425
  a, b, c: 500, 0, 500
  endtime: 0.182897
  end!

   现在我们将这两次代码运行的时间做个比较,就能发现,对于同一问题,当算法不同时,代码的运行结果差异也非常大。

  下面我们进一步了解一下算法效率 

算法效率衡量

执行时间反应算法效率

   对于同一问题,我们给出了两种解决算法,在两种算法的实现中,我们对程序执行的时间进行了测算,发现两段程序执行的时间相差悬殊(214.583347秒相比 于0.182897秒),由此我们可以得出结论:实现算法程序的执行时间可以反应出算法的效率,即算法的优劣。

单靠时间值绝对可信吗?

  假设我们将第二次尝试的算法程序运行在一台配置古老性能低下的计算机中,情况会如何?很可能运行的时间并不会比在我们的电脑中运行算法一的214.583347秒快多少。

  单纯依靠运行的时间来比较算法的优劣并不一定是客观准确的!

  程序的运行离不开计算机环境(包括硬件和操作系统),这些客观原因会影响程序运行速度并反应在程序的执行时间上。那么如何才能客观评判一个算法的优劣呢?

时间复杂度与“大O记法”

  我们假定计算机执行算法每一个基本操作的时间是固定的一个时间单位,那么有多少个基本操作就代表会花费多少时间单位。显然对于不同的机器环境而言,确切的单位时间是不同的,但是对于算法进行多少个基本操作(即花费多少时间单位)在规模数量级上却是相同的,由此可以忽略机器环境的影响而客观的反应算法的时间效率。

对于算法的时间效率,我们可以用“大O记法”来表示。

“大O记法”:对于单调的整数函数f,如果存在一个整数函数g和实常数c>0,使得对于充分大的n总有f(n)<=c*g(n),就说函数g是f的一个渐近函数(忽略常数),记为f(n)=O(g(n))。也就是说,在趋向无穷的极限意义下,函数f的增长速度受到函数g的约束,亦即函数f与函数g的特征相似。

时间复杂度:假设存在函数g,使得算法A处理规模为n的问题示例所用时间为T(n)=O(g(n)),则称O(g(n))为算法A的渐近时间复杂度,简称时间复杂度,记为T(n)

如何理解“大O记法”

对于算法进行特别具体的细致分析虽然很好,但在实践中的实际价值有限。对于算法的时间性质和空间性质,最重要的是其数量级和趋势,这些是分析算法效率的主要部分。而计量算法基本操作数量的规模函数中那些常量因子可以忽略不计。例如,可以认为3n2和100n2属于同一个量级,如果两个算法处理同样规模实例的代价分别为这两个函数,就认为它们的效率“差不多”,都为n2级。

最坏时间复杂度

分析算法时,存在几种可能的考虑:

  • 算法完成工作最少需要多少基本操作,即最优时间复杂度
  • 算法完成工作最多需要多少基本操作,即最坏时间复杂度
  • 算法完成工作平均需要多少基本操作,即平均时间复杂度

对于最优时间复杂度,其价值不大,因为它没有提供什么有用信息,其反映的只是最乐观最理想的情况,没有参考价值。

对于最坏时间复杂度,提供了一种保证,表明算法在此种程度的基本操作中一定能完成工作。

对于平均时间复杂度,是对算法的一个全面评价,因此它完整全面的反映了这个算法的性质。但另一方面,这种衡量并没有保证,不是每个计算都能在这个基本操作内完成。而且,对于平均情况的计算,也会因为应用算法的实例分布可能并不均匀而难以计算。

因此,我们主要关注算法的最坏情况,亦即最坏时间复杂度。

时间复杂度的几条基本计算规则

  1. 基本操作,即只有常数项,认为其时间复杂度为O(1)
  2. 顺序结构,时间复杂度按加法进行计算
  3. 循环结构,时间复杂度按乘法进行计算
  4. 分支结构,时间复杂度取最大值
  5. 判断一个算法的效率时,往往只需要关注操作数量的最高次项,其它次要项和常数项可以忽略
  6. 在没有特殊说明时,我们所分析的算法的时间复杂度都是指最坏时间复杂度

空间复杂度

类似于时间复杂度的讨论,一个算法的空间复杂度S(n)定义为该算法所耗费的存储空间,它也是问题规模n的函数。

渐近空间复杂度也常常简称为空间复杂度。

空间复杂度(SpaceComplexity)是对一个算法在运行过程中临时占用存储空间大小的量度。

算法的时间复杂度和空间复杂度合称为算法的复杂度。

 

现在我们已经对算法以及算法的表示方法有了了解,现在我们用大O表示法来分析一下刚才那两个代码,看看到底为什么不同算法会导致结果差异非常大了?

三:算法分析:

  第一段代码的核心部分: 

  for a in range(0, 1001):
      for b in range(0, 1001):
          for c in range(0, 1001):
              if a**2 + b**2 == c**2 and a+b+c == 1000:
                  print("a, b, c: %d, %d, %d" % (a, b, c))  

  时间复杂度:

    T(n) = O(n*n*n) = O(n3)

  第二段代码的算法核心部分:

  for a in range(0, 1001):
      for b in range(0, 1001-a):
          c = 1000 - a - b
          if a**2 + b**2 == c**2:
              print("a, b, c: %d, %d, %d" % (a, b, c))

  时间复杂度:

    T(n) = O(n*n*(1+1)) = O(n*n) = O(n2)

  由此可见,我们尝试的第二种算法要比第一种算法的时间复杂度好多的

四.常见时间复杂度:

  常见时间复杂度之间的关系:

  

    所消耗的时间从小到大

    O(1) < O(logn) < O(n) < O(nlogn) < O(n2) < O(n3) < O(2n) < O(n!) < O(nn)

 

到此,关于算法基础知识已经介绍完毕,希望看了之后读者能够有所收获。

 

如果感觉这篇文章还不错的话,可以关注我,后期还会陆续发送数据结构方面的文章,希望可以更多的帮助到你们!

 

 

  

 

 

    

 

  

posted @ 2018-01-08 10:43  payneLi  阅读(1983)  评论(0编辑  收藏  举报