时间复杂度与空间复杂度详解

一、算法效率

1.1 如何衡量一个算法的好坏

• 我一直有个问题，算法到底如何比较，如何衡量一个算法的好坏？

• 我的理解：

• 思路巧妙，神来之笔！

  枯燥的代码，却带着无限的智慧，也是这智慧让程序员在学习过程中一次次惊呼：妙哉！此法妙哉！！所以对我而言，一个奇巧的思路是竞赛衡量的一个标准（主观感受）

• 时间、空间资源利用！

  一串好的算法代码不一定是简洁的，但一定是空间、时间资源占用少的。

1.2 算法的复杂度

• 算法在编写成可执行程序运行时，需要耗费时间资源和空间资源，因此衡量一个算法的好坏，是从时间和空间两个维度上衡量的，即时间复杂度和空间复杂度。
• 时间复杂度主要衡量一个算法的运行快慢，而空间复杂度主要衡量一个算法运行所需要的额外空间大小。

二、时间复杂度

2.1 时间复杂度的定义

时间复杂度的定义：在计算机科学中，算法的时间复杂度是一个函数，它定量描述了该算法的运行时间。一个算法执行所耗费的时间，从理论上说，是不能算出来的，只有你把你的程序放在机器上跑起来，才能知道。但是我们需要每个算法都上机测试吗？是可以都上机测试，但是这很麻烦，所以才有了时间复杂度这个分析方式。一个算法所花费的时间与其中语句的执行次数成正比例，算法中的基本操作的执行次数，为算法的时间复杂度。

举个例子：

// 请计算一下Func1中++count语句总共执行了多少次？
void Func1(int N)
{
	int count = 0;
	for (int i = 0; i < N ; ++ i)
	{
		for (int j = 0; j < N ; ++ j)
		{
			++count;
		}
	}

	for (int k = 0; k < 2 * N ; ++ k)
	{
		++count;
	}

	int M = 10;
	while (M--)
	{
		++count;
	}

	printf("%d\n", count);
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25

Func1 执行的基本操作次数 ：

• N = 10 F(N) = 130
• N = 100 F(N) = 10210
• N = 1000 F(N) = 1002010

根据上述带入尝试，我们不难得出Func1执行的基本操作次数是下面这个函数表达式：
$$F(N)=N^2+2\ast N+10（数学表达式）$$
在实际计算中，我们并不会计算精准的次数，一般采取估算量级，所以我们会使用大O的渐进表示法

2.2 大O的渐进表示法

大O符号（Big O notation）：是用于描述函数渐进行为的数学符号。

推导大O阶方法：

1、用常数1取代运行时间中的所有加法常数。

2、在修改后的运行次数函数中，只保留最高阶项(高数极限思想)。

3、如果最高阶项存在且不是1，则去除与这个项目相乘的常数。得到的结果就是大O阶。

使用大O的渐进表示法以后，Func1的时间复杂度为：
$$O(N^2+2\ast N+10)-->O(N^2)$$

总结一下： 大O渐进表示法主要是记录复杂度量级，去掉了那些对结果影响不大的项。

2.3 如何记录表示算法复杂度

一个算法运行过程往往有三种衡量记录情况：

最坏情况： 任意输入规模的最大运行次数(上界)

平均情况： 任意输入规模的期望运行次数

​最好情况： 任意输入规模的最小运行次数(下界)

所以可以描述一个算法的复杂度范围，来表示算法的复杂度范围，但实际中我们往往采用最坏的情况来表示记录一个算法的复杂度（我也喜欢，因为每一次运行都只会有惊喜！！！）

三、空间复杂度

3.1 空间复杂度的定义

• 空间复杂度也是一个数学表达式，是对一个算法在运行过程中临时占用存储空间大小的量度(额外空间大小) 。

• 空间复杂度不是程序占用了多少bytes的空间，因为这个也没太大意义，所以空间复杂度算的是变量的个数。空间复杂度计算规则基本跟实践复杂度类似，也使用大O渐进表示法。

注意：函数运行时所需要的栈空间(存储参数、局部变量、一些寄存器信息等)在编译期间已经确定好了，因此空间复杂度主要通过函数在运行时候显式申请的额外空间来确定。

3.2 小试牛刀

实例1：

// 计算BubbleSort的空间复杂度？
void BubbleSort(int* a, int n)
{
	assert(a);
	for (size_t end = n; end > 0; --end)
	{
		int exchange = 0;
		for (size_t i = 1; i < end; ++i)
		{
			if (a[i-1] > a[i])
			{
				Swap(&a[i-1], &a[i]);
				exchange = 1;
			}
		}

		if (exchange == 0)
			break;
	}
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

实例1：我们必须明确的是：空间复杂度记录的是额外的临时变量空间大小，因此我们再看实例1的时候，只会计算end、exchange、i等临时变量大小即可。不用计算数组a开辟的空间大小。所以这里空间复杂度就是O(1);

实例2：

// 计算Fibonacci的空间复杂度？
// 返回斐波那契数列的前n项
long long* Fibonacci(size_t n)
{
 if(n==0)
      return NULL;

 long long * fibArray = (long long *)malloc((n+1) * sizeof(long long));
 fibArray[0] = 0;
 fibArray[1] = 1;
 for (int i = 2; i <= n ; ++i)
 {
     fibArray[i] = fibArray[i - 1] + fibArray [i - 2];
 }

 return fibArray;
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

实例2：这里相当于malloc，创建了n+1个临时空间大小，因此也非常简单，这里空间复杂度也就是O(N)。

这就是最基本的。空间复杂度相较于时间复杂度要简单很多，通常不是O(N)就是O(1)。