算法复杂度分析概念学习

7 sec read

算法复杂度是算法性能最基本的评价标准。算法复杂度由时间复杂度和空间复杂度组成,属于计算复杂性理论中的内容。

时间复杂度

时间复杂度描述了算法的运行时间, 算法的时间复杂度是一个函数,它定量描述了该算法的运行时间。这是一个关于代表算法输入值的字符串的长度的函数。时间复杂度常用大O符号表述,不包括这个函数的低阶项和首项系数。使用这种方式时,时间复杂度可被称为是渐近的,它考察当输入值大小趋近无穷时的情况。举例,如果一个算法对于任何大小为n的输入,它至多需要5n^3+3n的时间运行完毕,那么它的渐近时间复杂度是O(n^3)。

常见的算法复杂度大约有6种,以时间复杂度为例,他们的含义如下:

  • O(1):表示在常数级别完成问题的解,如在数组种获取索引为k的值
  • O(lg n):一般采用分治法思想的算法,根据一定的解题特征对问题求解
  • O(n):可以理解为将问题的数据进行了常数次迭代,如查找无序数组中的最大值
  • O(n lg n):在数据的遍历过程中又采用的分支法的思想,如归并排序、快速排序
  • O(n^2):表示对问题的数据进行了两次嵌套式迭代,如插入排序
  • O(n^3):表示对问题的数据进行了三次嵌套式迭代

更多常见时间复杂度的例子:

来源于维基百科

其他相关概念:

  • 最坏时间复杂度:运行时间最长的算法的时间复杂度,也就是算法的上界,一般没有特指我们讨论的时间复杂度就是指最坏时间复杂度,不管这个问题有多少种思路解决,它的算法运行时间不会超过这个时间上限。
  • 平均时间复杂度:是指所有可能的输入实例均以等概率出现的情况下,算法的期望运行时间。(疑问)
  • 最好时间复杂度:运行时间最少,也可以理解为问题最优解

空间复杂度

类似于时间复杂度的讨论,一个算法的空间复杂度S(n)定义为该算法所耗费的存储空间,它也是问题规模n的函数。渐近空间复杂度也常常简称为空间复杂度。空间复杂度是对一个算法在运行过程中临时占用存储空间大小的量度。

一个算法在计算机存储器上所占用的存储空间,包括存储算法本身所占用的存储空间,算法的输入输出数据所占用的存储空间和算法在运行过程中临时占用的存储空间这三个方面。算法的输入输出数据所占用的存储空间是由要解决的问题决定的,是通过参数表由调用函数传递而来的,它不随本算法的不同而改变。存储算法本身所占用的存储空间与算法书写的长短成正比,要压缩这方面的存储空间,就必须编写出较短的算法。算法在运行过程中临时占用的存储空间随算法的不同而异,有的算法只需要占用少量的临时工作单元,而且不随问题规模的大小而改变,我们称这种算法是“就地”进行的,是节省存储的算法,有的算法需要占用的临时工作单元数与解决问题的规模n有关,它随着n的增大而增大,当n较大时,将占用较多的存储单元,例如快速排序和归并排序算法就属于这种情况。

一个算法的空间复杂度只考虑在运行过程中为局部变量分配的存储空间的大小,它包括为参数表中形参变量分配的存储空间和为在函数体中定义的局部变量分配的存储空间两个部分。若一个算法为递归算法,其空间复杂度为递归所使用的堆栈空间的大小,它等于一次调用所分配的临时存储空间的大小乘以被调用的次数(即为递归调用的次数加1,这个1表示开始进行的一次非递归调用)。算法的空间复杂度一般也以数量级的形式给出。如当一个算法的空间复杂度为一个常量,即不随被处理数据量n的大小而改变时,可表示为O(1);当一个算法的空间复杂度与以2为底的n的对数成正比时,可表示为O(log2n);当一个算法的空间复杂度与n成线性比例关系时,可表示为O(n).若形参为数组,则只需要为它分配一个存储由实参传送来的一个地址指针的空间,即一个机器字长空间;若形参为引用方式,则也只需要为其分配存储一个地址的空间,用它来存储对应实参变量的地址,以便由系统自动引用实参变量。

空间复杂度与时间复杂度选择

在实现相同功能的算法中,优秀的算法总是在时间复杂度和空间复杂度中使得二者的值均尽可能小。在追求较好性能的算法中,时间复杂度和空间复杂度往往相互影响,当时间复杂度较好时,空间复杂度较差;当时间复杂度较差时,空间复杂度可能较好。因此在大部分情况下,都会在时间和空间的开销中寻求性能的平衡。

打赏作者
微信支付标点符 wechat qrcode
支付宝标点符 alipay qrcode

Hive SQL中的datediff、current_dat…

Hive SQL中的datediff函数返回的是2个日期的天数。在使用过程中发现了一个比较有趣的坑: SELE
2 min read

使用Python进行相关性分析

在数据分析时,经常会针对两个变量进行相关性分析。在Python中主要用到的方法是pandas中的corr()方
42 sec read

动态规划之背包问题

2 min read

发表评论

电子邮件地址不会被公开。 必填项已用*标注