算法：
算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。
2.4 算法的定义
什么是算法呢？算法是描述解决问题的方法。
算法定义中，提到了指令，指令能被人或机器等计算装置执行。它可以是计算机指令，也可以是我们平时的语言文字。
为了解决某个或某类问题，需要把指令表示成一定的操作序列，操作序列包括一组操作，每一个操作都完成特定的功能，这就是算法了。
2.5 算法的特性
算法具有5个基本特征：输入，输出，有穷性，确定性和可行性。
1 输入输出
算法具有零个或多个输入。 算法至少有一个或多个输出。
算法是一定需要输出的，不需要输出，你用这个算法干嘛？输出的形式可以是打印输出，也可以是返回一个或多个值等。
2 有穷性
有穷性：指算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。
当然这里有穷的概念并不是纯数学意义的，而是在实际应用当中合理的，可以接受的“有边界”。
3 确定性
确定性：算法的每一步骤都具有确定的含义，不会出现二义性。
算法在一定条件下，只有一条执行路径，相同的输入只能有唯一的输出结果。算法的每个步骤被精确定义而无歧义。
4 可行性
可行性：算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。
可行性意味着算法可以转换为程序上机运行，并得到正确的结果。
2.6 算法设计的要求
算法不是唯一的，同一个问题，可以有多种解决问题的算法。
2.6.1 正确性
正确性：算法的正确性是指算法至少应该具有输入，输出和加工处理无歧义性，能正确反映问题的需求，能够得到问题的正确答案。
但是算法的“正确”通常在用法上有很大的区别，大体分为一下4个层次。
- 1.算法程序没有语法错误。
- 2.算法程序对于合法的输入数据能够产生满足要求的输出结果。
- 3.算法程序对于非法的输入数据能够得出满足规格说明的结果。
- 4.算法程序对于精心选择的，甚至刁难的测试数据都有满足要求的输出结果。
对于这4层含义，层次1要求最低，但是仅仅没有语法错误实在谈不上是好算法。而层次4是最困难的，我们几乎不可能逐一验证所有的输入都得到正确的结果。
因此算法的正确性在大部分情况下都不可能用程序来证明，而是用数学方法来证明的。证明一个复杂算法在所有层次上都是正确的，代价非常昂贵。所以一般情况下，我们把层次3作为一个算法是否正确的标准。
2.6.2 可读性
可读性：算法设计的另一目的是为了便于阅读，理解和交流。
我们写代码的目的，一方面是为了让计算机执行，但还有一个重要的目的是为了便于他人阅读，让人理解或交流，自己将来也可能阅读，如果可读性不好，时间长了自己都不知道写了些什么。可读性是算法好坏很重要的标志。
2.6.3 健壮性
健壮性：当输入数据不合法时，算法也能做出相关处理，而不是产生异常或莫名其妙的结果。
2.6.4 时间效率高和存储量低
时间效率指的是算法的执行时间。
存储量需求指的是算法在执行过程中需要的最大存储空间，主要指算法程序运行时所占用的内存或外部硬盘存储空间。
设计算法应该尽量满足时间效率高和存储量低的需求。
2.7 算法效率的度量方法
设计算法要提高效率。这里效率大都指算法的执行时间。
2.7.1 事后统计方法
事后统计方法：这种方法主要是通过设计好的测试程序和数据，利用计算机计时器对对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低。
缺陷：
- 必须依据算法事先编制好程序，这通常需要花费大量的时间和精力。
- 时间的比较依赖计算机硬件和软件等环境因素。
- 算法的测试数据设计困难，并且程序的运行时间往往还与测试数据的规模有很大关系，效率高的算法在小的测试数据面前往往得不到体现。
基于事后统计方法有这样那样的缺陷，我们考虑不予采纳。
2.7.2 事前分析估算方法
事前分析估算方法：在计算机程序编制前，依据统计方法对算法进行估算。
一个程序的运行时间，依赖于算法的好坏和问题的输入规模。所谓问题输入规模是指输入量的多少。
测定运行时间最可靠的方法就是计算对运行时间有消耗的基本操作的执行次数。运行时间与这个计数成正比。
不记那些循环索引的递增和循环终止条件，变量声明，打印结果等操作，最终，在分析程序的运行时间时，最重要的是把程序看成是独立于程序设计语言的算法或一系列步骤。
同样问题的输入规模是n,求和算法的第一种，求1+2+3+4+...+n需要一段代码执行n次。那么这个问题的输入规模使得操作数量是f(n)=n，显然运行100次的同一段代码规模试运行10次的10倍。而第二种，无论n为多少，运行次数都为1，即f(n)=1，第三种，运算100次是运算10次的100倍，因为他是f(n)=n2。
随着n值的越来越大，它们在时间效率上的差异也就越来越大。
2.8 函数的渐进增长
函数的渐进增长：
给定两个函数
f(n)和g(n),如果存在一个整数N，使得对于所有的n>N,f(n)总是比g(n)大，那么，我们说f(n)的增长渐近快于g(n)。
与最高次项相乘的常数并不重要。
最高次项的指数大的，函数随着n的增长，结果也会变得增长特别快。
判断一个算法的效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项(最高阶项)的阶数。
判断一个算法好不好，我们只通过少量的数据是不能做出准确判断的。
某个算法，随着n的增大，它会越来越优于另一算法，或者越来越差于另一算法。
2.9 算法时间复杂度
在进行算法分析时，语句总的执行次数
T(n)是关于问题规模n的函数，进而分析T(n)随n的变化情况并确定T(n)的数量级。算法的时间复杂度，也就是算法的时间量度，记做:T(n)=O(f(n))。它表示随问题规模n的增大，算法执行时间的增长率和f(n)的增长率相同，称作算法的渐近时间复杂度，简称为时间复杂度。其中f(n)是问题规模n的某个函数
这样用大写O()来体现算法时间复杂度的记法，我们称之为大O记法。
一般情况下，随着n的增大，T(n)增长最慢的算法为最优算法。
由此算法时间复杂度的定义可知，我们的三个求和算法的时间复杂度分别为O(n),O(1),O(n2)。我们分别给它们取了非官方的名称，O(1)叫常数阶，O(n)叫线性阶，O(n2)叫平方阶。
2.9.2 推导大O阶方法
如何分析一个算法的时间复杂度呢？即如何推导大O阶呢？
推导大O阶：
- 用常数
1取代运行时间中的所有加法常数。- 在修改后的运行次数函数中，只保留最高阶项。
- 如果最高阶项存在且不是1，则去除与这个项相乘的常数。得到的结果就是大O阶。
2.9.3 常数阶
这种与问题的大小无关(n的多少)，执行时间恒定的算法，我们称之为具有O(1)的时间复杂度，又叫常数阶。
注意：不管这个常数是多少，我们都记作O(1)，而不是O(3)，O(12)等其他任何数字，这是初学者常常犯的错误。
对于分支结构而言，无论是真还是假，执行的次数都是恒定的，不会随着n的变大而发生变化，所以单存的分支结构(不包含在分支结构中)，其时间复杂度也是O(1)。
2.9.4 线性阶
线性阶的循环结构会复杂很多，要确定某个算法的阶次，我们常常需要确定某个特定语句或某个语句集运行的次数。因此我们要分析算法的复杂度，关键就是要分析循环结构的运行情况。
对数阶
平方阶
循环的时间复杂度等于循环体的复杂度乘以该循环运行的次数。
其实理解大O推导不算难，难的是对数列的一些相关运算，这更多的是考察你的数学知识和能力。
2.10 常见的时间复杂度
2.11### 最坏情况和平均情况
最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。在应用中，这是一种最重要的需求，通常，除非特被指定，我们提到的运行时间都是最坏情况的运行时间。
平均运行时间是所有情况中最有意义的，因为它是期望的运行时间。
对算法的分析，一种方法是计算所有情况的平均值，这种时间复杂度的计算方法称为平均时间复杂度。另一种方法是计算最坏情况下的时间复杂度，这种方法称为最坏时间复杂度。一般在没有特殊说明的情况下，都是指最坏时间复杂度。
2.12 算法空间复杂度
算法的空间复杂度：通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S(n) = O(f(n)),其中，n为问题的规模，f(n)为语句关于n所占存储空间的函数。
通常，我们都使用“时间复杂度”来指运行时间的需求，使用“空间复杂度”指空间需求。当不用限定词地使用“复杂度”时，通常都是指时间复杂度。
