title: 查找、排序算法总结和python实现
date: 2020-04-13 20:33:48
tags:
- 算法
- leetcode

查找

• 顺序查找
  • 平均查找长度为：（假设每个数据元素的概率相等） ASL = 1/n(1+2+3+…+n) = (n+1)/2 ;
  • 时间复杂度为：O(n)
• 二分查找
  • 时间复杂度：O(log2(n))
  • 前提：有序表
• 插值查找
  • 类似二分查找，将二分查找：mid=low+1/2*(high-low)，而插值查找：low+(key-a[low])/(a[high]-a[low])*(high-low)
  • 查找成功或者失败的时间复杂度均为：O(log2(log2n)) （为啥）
• 斐波那契查找
• 二叉查找树
• 哈希查找

排序

排序的定义

对一序列对象根据某个关键字进行排序。

术语说明

• 稳定：如果a原本在b前面，而a=b，排序之后a仍然在b的前面；
• 不稳定：如果a原本在b的前面，而a=b，排序之后a可能会出现在b的后面；
• 内排序：所有排序操作都在内存中完成；
• 外排序：由于数据太大，因此把数据放在磁盘中，而排序通过磁盘和内存的数据传输才能进行；
• 时间复杂度： 一个算法执行所耗费的时间。
• 空间复杂度：运行完一个程序所需内存的大小。

排序算法总结

paixu.png

• 图片名词解释：
  • n: 数据规模
  • k: “桶”的个数
  • In-place: 占用常数内存，不占用额外内存
  • Out-place: 占用额外内存

注：排序算法均在leetcode 912实现和测试

冒泡排序

冒泡排序 是一种简单的排序算法。它重复地走访过要排序的数列，一次比较两个元素，如果它们的顺序错误就把它们交换过来。走访数列的工作是重复地进行直到没有再需要交换，也就是说该数列已经排序完成。这个算法的名字由来是因为越小的元素会经由交换慢慢“浮”到数列的顶端。

• 算法描述

  • 步骤1: 比较相邻的元素。如果第一个比第二个大，就交换它们两个；
  • 步骤2: 对每一对相邻元素作同样的工作，从开始第一对到结尾的最后一对，这样在最后的元素应该会是最大的数；
  • 步骤3: 针对所有的元素重复以上的步骤，除了最后一个；
  • 步骤4: 重复步骤1~3，直到排序完成。

• 动图演示
  

  aHR0cHM6Ly9pbWFnZXMyMDE3LmNuYmxvZ3MuY29tL2Jsb2cvODQ5NTg5LzIwMTcxMC84NDk1ODktMjAxNzEwMTUyMjMyMzg0NDktMjE0NjE2OTE5Ny5naWY.gif

• 算法实现
  leetcode 912

class Solution:
    def sortArray(self, nums: List[int]) -> List[int]:            
        for i in range(len(nums)-1):
            flag = 1
            for j in range(len(nums)-i-1):
                if nums[j] > nums[j+1]:
                    flag = 0
                    nums[j], nums[j+1] = nums[j+1], nums[j]
            if flag:
                break
        return nums

• 算法分析
  • 最佳情况：T(n) = O(n)
  • 最差情况：T(n) = O(n2)
  • 平均情况：T(n) = O(n2)

选择排序

选择排序是表现最稳定的排序算法之一，因为无论什么数据进去都是O(n2)的时间复杂度，所以用到它的时候，数据规模越小越好。唯一的好处可能就是不占用额外的内存空间了吧。理论上讲，选择排序可能也是平时排序一般人想到的最多的排序方法了吧。
选择排序(Selection-sort)是一种简单直观的排序算法。它的工作原理：首先在未排序序列中找到最小（大）元素，存放到排序序列的起始位置，然后，再从剩余未排序元素中继续寻找最小（大）元素，然后放到已排序序列的末尾。以此类推，直到所有元素均排序完毕。

• 算法描述
  n个记录的直接选择排序可经过n-1趟直接选择排序得到有序结果。具体算法描述如下：

  • 步骤1：初始状态：无序区为R[1…n]，有序区为空；
  • 步骤2：第i趟排序(i=1,2,3…n-1)开始时，当前有序区和无序区分别为R[1…i-1]和R(i…n）。该趟排序从当前无序区中-选出关键字最小的记录 R[k]，将它与无序区的第1个记录R交换，使R[1…i]和R[i+1…n)分别变为记录个数增加1个的新有序区和记录个数减少1个的新无序区；
  • 步骤3：n-1趟结束，数组有序化了。

• 动图演示
  

  xuanzepaixu.gif

• 算法实现

def sortArray(self, nums:List[int]):
    for i in range(len(nums) - 1):
        m = i
        for j in range(i, len(nums)):
            if nums[j] < nums[m]:
                m = j
        nums[i], nums[m] = nums[m], nums[i]
    return nums

• 算法分析
  • 最佳情况：T(n) = O(n2)
  • 最差情况：T(n) = O(n2)
  • 平均情况：T(n) = O(n2)

插入排序

插入排序（Insertion-Sort）的算法描述是一种简单直观的排序算法。它的工作原理是通过构建有序序列，对于未排序数据，在已排序序列中从后向前扫描，找到相应位置并插入。插入排序在实现上，通常采用in-place排序（即只需用到O(1)的额外空间的排序），因而在从后向前扫描过程中，需要反复把已排序元素逐步向后挪位，为最新元素提供插入空间。

• 算法描述
  一般来说，插入排序都采用in-place在数组上实现。具体算法描述如下：

  • 步骤1: 从第一个元素开始，该元素可以认为已经被排序；
  • 步骤2: 取出下一个元素，在已经排序的元素序列中从后向前扫描；
  • 步骤3: 如果该元素（已排序）大于新元素，将该元素移到下一位置；
  • 步骤4: 重复步骤3，直到找到已排序的元素小于或者等于新元素的位置；
  • 步骤5: 将新元素插入到该位置后；
  • 步骤6: 重复步骤2~5。

• 动图演示
  

  插入算法.gif

• 算法实现

class Solution:
    def sortArray(self, nums):
    # 第一层for表示循环插入的遍数
    for i in range(1,len(nums)):
        for j in range(i,0,-1):
            if nums[j]<nums[j-1]:
                nums[j],nums[j-1]=nums[j-1],nums[j]
            else:
                break
    return nums

• 算法分析
  • 最佳情况：T(n) = O(n)
  • 最坏情况：T(n) = O(n2)
  • 平均情况：T(n) = O(n2)

希尔排序

希尔排序是希尔（Donald Shell）于1959年提出的一种排序算法。希尔排序也是一种插入排序，它是简单插入排序经过改进之后的一个更高效的版本，也称为缩小增量排序，同时该算法是冲破O(n2）的第一批算法之一。它与插入排序的不同之处在于，它会优先比较距离较远的元素。希尔排序又叫缩小增量排序。
希尔排序是把记录按下表的一定增量分组，对每组使用直接插入排序算法排序；随着增量逐渐减少，每组包含的关键词越来越多，当增量减至1时，整个文件恰被分成一组，算法便终止。

• 算法描述
  我们来看下希尔排序的基本步骤，在此我们选择增量gap=length/2，缩小增量继续以gap = gap/2的方式，这种增量选择我们可以用一个序列来表示，{n/2,(n/2)/2…1}，称为增量序列。希尔排序的增量序列的选择与证明是个数学难题，我们选择的这个增量序列是比较常用的，也是希尔建议的增量，称为希尔增量，但其实这个增量序列不是最优的。此处我们做示例使用希尔增量。
  先将整个待排序的记录序列分割成为若干子序列分别进行直接插入排序，具体算法描述：

  • 步骤1：选择一个增量序列t1，t2，…，tk，其中ti>tj，tk=1；
  • 步骤2：按增量序列个数k，对序列进行k 趟排序；
  • 步骤3：每趟排序，根据对应的增量ti，将待排序列分割成若干长度为m 的子序列，分别对各子表进行直接插入排序。仅增量因子为1 时，整个序列作为一个表来处理，表长度即为整个序列的长度。

• 算法图解
  

  希尔排序.png

• 算法实现

# 评论区
class solution:
    def shell_sort(s):
        b = len(s)                         #列表长度
        gap = b // 2                       #初始步长设置为总长度的一半
        while gap >= 1:
            for i in range (b):
                j = i
                while j>=gap and s[j-gap] > s[j]:   #在每一组里面进行直接插入排序
                    s[j],s[j-gap] = s[j-gap],s[j]
                    j-= gap
            gap=gap//2   

# 我的实现
class Solution:
    def sortArray(self, nums):
    length = len(nums) // 2
    while length >= 1:
        for i in range(length):
            j = i + length
            while j < len(nums):
                for k in range(j, i, -length):
                    if nums[k] < nums[k-length]:
                        nums[k], nums[k-length] = nums[k-length], nums[k]
                    else:
                        break
                j += length
        length //= 2
    return nums

• 算法分析
  • 最佳情况：T(n) = O(nlog2 n)
  • 最坏情况：T(n) = O(nlog2 n)
  • 平均情况：T(n) =O(nlog2n)

归并排序

和选择排序一样，归并排序的性能不受输入数据的影响，但表现比选择排序好的多，因为始终都是O(n log n）的时间复杂度。代价是需要额外的内存空间。

归并排序是建立在归并操作上的一种有效的排序算法。该算法是采用分治法（Divide and Conquer）的一个非常典型的应用。归并排序是一种稳定的排序方法。将已有序的子序列合并，得到完全有序的序列；即先使每个子序列有序，再使子序列段间有序。若将两个有序表合并成一个有序表，称为2-路归并。

• 算法描述

  • 步骤1：把长度为n的输入序列分成两个长度为n/2的子序列；
  • 步骤2：对这两个子序列分别采用归并排序；
  • 步骤3：将两个排序好的子序列合并成一个最终的排序序列。

• 动图演示
  

  归并排序.gif

• 算法实现

class Solution:
    def sortArray(self, nums):
        if len(nums) <= 1:
            return nums
        left = nums[0:len(nums)//2]
        right = nums[len(nums)//2:]

        def helper(left, right):
            r = []
            i,j = 0,0
            # print(left,right)
            for k in range(len(left)+len(right)):
                print(i,j)
                if left[i] > right[j]:
                    r.append(right[j])
                    j += 1
                    if j == len(right):
                        r.extend(left[i:])
                        break
                else:
                    r.append(left[i])
                    i += 1
                    if i == len(left):
                        r.extend(right[j:])
                        break
            return r    

        return helper(self.sortArray(left), self.sortArray(right))

• 算法分析
  • 最佳情况：T(n) = O(n)
  • 最差情况：T(n) = O(nlogn)
  • 平均情况：T(n) = O(nlogn)

快速排序

快速排序的基本思想：通过一趟排序将待排记录分隔成独立的两部分，其中一部分记录的关键字均比另一部分的关键字小，则可分别对这两部分记录继续进行排序，以达到整个序列有序。

• 算法描述
  快速排序使用分治法来把一个串（list）分为两个子串（sub-lists）。具体算法描述如下：
  • 步骤1：从数列中挑出一个元素，称为 “基准”（pivot ）；
  • 步骤2：重新排序数列，所有元素比基准值小的摆放在基准前面，所有元素比基准值大的摆在基准的后面（相同的数可以到任一边）。在这个分区退出之后，该基准就处于数列的中间位置。这个称为分区（partition）操作；
  • 步骤3：递归地（recursive）把小于基准值元素的子数列和大于基准值元素的子数列排序。
• 图解

  • 如下图所示,假设最开始的基准数据为数组第一个元素23,则首先用一个临时变量去存储基准数据,即tmp=23;然后分别从数组的两端扫描数组，设两个指示标志:low指向起始位置，high指向末尾.
    

    快排1.png

  • 首先从后半部分开始，如果扫描到的值大于基准数据就让high减1,如果发现有元素比该基准数据的值小(如上图中18<=tmp)，就将high位置的值赋值给low位置 ,结果如下:
    

    快排2.png

  • 然后开始从前往后扫描,如果扫描到的值小于基准数据就让low加1,如果发现有元素大于基准数据的值(如上图46=>tmp)，就再将low位置的值赋值给high位置的值,指针移动并且数据交换后的结果如下:
    

    快排3.png

  • 然后再开始从后向前扫描,原理同上,发现上图11<=tmp,则将low位置的值赋值给high位置的值,结果如下:
    

    快排4.png

  • 然后再开始从前往后遍历,直到low=high结束循环,此时low或high的下标就是基准数据23在该数组中的正确索引位置.如下图所示.
    

    快排5.png

  • 这样一遍走下来,可以很清楚的知道,其实快速排序的本质就是把基准数大的都放在基准数的右边,把比基准数小的放在基准数的左边,这样就找到了该数据在数组中的正确位置.

  • 采用递归的方式分别对前半部分和后半部分排序，当前半部分和后半部分均有序时该数组就自然有序了。

• 算法实现

class Solution:
    def sortArray(self,nums):

        l = 0
        r = len(nums) - 1
        

        def quckSort(nums, l , r):
            if l >= r:
                return
            i = partition(nums, l, r)
            quckSort(nums,l, i-1)
            quckSort(nums, i + 1, r)
        
        def partition(nums, l , r):
            pivot= nums[l]
            while l<r:
                while(l<r and nums[r] >= pivot):
                    r -= 1
                if l<r and nums[r] < pivot:
                    nums[l] = nums[r]
                    l += 1
                while l<r and nums[l] <= pivot:
                    l += 1
                if l<r and nums[l] > pivot:
                    nums[r] = nums[l]
                    r -= 1
            assert r == l
            nums[l] = pivot
            return l
            
        quckSort(nums, l, r)
        return nums

• 算法分析
  • 最佳情况：T(n) = O(nlogn)
  • 最差情况：T(n) = O(n2)
  • 平均情况：T(n) = O(nlogn)

堆排序

参考博客
堆排序是指利用堆这种数据结构所设计的一种排序算法。堆积是一个近似完全二叉树的结构，并同时满足堆积的性质：即子结点的键值或索引总是小于（或者大于）它的父节点。

• 堆的特点
  • arr[i] 的左子节点为 arr[2*i+1],右子节点为arr[2*i+2]
  • 大顶堆：arr[i] >= arr[2i+1] && arr[i] >= arr[2i+2]
  • 小顶堆：arr[i] <= arr[2i+1] && arr[i] <= arr[2i+2]
• 算法描述
  • 步骤1：将初始待排序关键字序列(R1,R2….Rn)构建成大顶堆，此堆为初始的无序区；
  • 步骤2：将堆顶元素R[1]与最后一个元素R[n]交换，此时得到新的无序区(R1,R2,……Rn-1)和新的有序区(Rn),且满足R[1,2…n-1]<=R[n]；
  • 步骤3：由于交换后新的堆顶R[1]可能违反堆的性质，因此需要对当前无序区(R1,R2,……Rn-1)调整为新堆，然后再次将R[1]与无序区最后一个元素交换，得到新的无序区(R1,R2….Rn-2)和新的有序区(Rn-1,Rn)。不断重复此过程直到有序区的元素个数为n-1，则整个排序过程完成。
• 图解
  参考博客
• 算法实现

class Solution:
    def sortArray(self,nums):
        # 递归adjust
        # def adjust(start,end):
        #     left = 2 * start + 1
        #     if left <= end:
        #         right = left+1
        #         m = right if right <= end and nums[right] > nums[left] else left
        #         if nums[m] > nums[start]:
        #             nums[start], nums[m] = nums[m], nums[start]
        #             adjust(m,end)

        # 迭代adjust
        def adjust(start,end):
            left = 2 * start + 1
            while left <= end:
                right = left + 1
                m = right if right <= end and nums[right] > nums[left] else left
                if nums[m] > nums[start]:
                    nums[start], nums[m] = nums[m], nums[start]
                    start = m
                    left = 2 * m + 1
                else:
                    break

        if not nums:
            return
        end = len(nums) - 1
        for i in range(len(nums)//2-1, -1, -1):
            adjust(i,end)
        nums[0],nums[end] = nums[end],nums[0]
        # print(nums)
        for i in range(1,len(nums)):
            
            adjust(0,end-i)
            nums[0],nums[end-i] = nums[end-i],nums[0]
        return nums

• 算法分析
  • 最佳情况：T(n) = O(nlogn)
  • 最差情况：T(n) = O(nlogn)
  • 平均情况：T(n) = O(nlogn)
  • 建堆时间复杂度 O(n)
  • python heapq.heapify() 时间复杂度为o(n)
  • python heapq.heappop() 时间复杂度为o(logn)
  • python heapq.heappush() 时间复杂度为o(logn)

计数排序

计数排序的核心在于将输入的数据值转化为键存储在额外开辟的数组空间中。 作为一种线性时间复杂度的排序，计数排序要求输入的数据必须是有确定范围的整数。

计数排序是一种稳定的排序算法。计数排序使用一个额外的数组C，其中第i个元素是待排序数组A中值等于i的元素的个数。然后根据数组C来将A中的元素排到正确的位置。它只能对整数进行排序。

• 算法描述

  • 步骤1：找出待排序的数组中最大和最小的元素；
  • 步骤2：统计数组中每个值为i的元素出现的次数，存入数组C的第i项；
  • 步骤3：对所有的计数累加（从C中的第一个元素开始，每一项和前一项相加）；
  • 步骤4：反向填充目标数组：将每个元素i放在新数组的第C(i)项，每放一个元素就将C(i)减去1。

• 图解算法
  

  计数排序.jpg

• 算法实现

class Solution:
    def sortArray(self, nums):
        if not nums: return
        min_num = min(nums)
        max_num = max(nums)
        arr = [0 for _ in range(max_num - min_num + 1)]
        for num in nums:
            arr[num-min_num] += 1
        i = 0
        for j in range(len(arr)):
            while arr[j] != 0:
                nums[i] = j+min_num
                i += 1
                arr[j] -= 1
        return nums

• 算法分析
  • 最佳情况：T(n) = O(n+k)
  • 最差情况：T(n) = O(n+k)
  • 平均情况：T(n) = O(n+k)

桶排序

桶排序是计数排序的升级版。它利用了函数的映射关系，高效与否的关键就在于这个映射函数的确定。

桶排序 (Bucket sort)的工作的原理：
假设输入数据服从均匀分布，将数据分到有限数量的桶里，每个桶再分别排序（有可能再使用别的排序算法或是以递归方式继续使用桶排序进行排

• 算法描述

  • 步骤1：人为设置一个BucketSize，作为每个桶所能放置多少个不同数值（例如当BucketSize==5时，该桶可以存放｛1,2,3,4,5｝这几种数字，但是容量不限，即可以存放100个3）；
  • 步骤2：遍历输入数据，并且把数据一个一个放到对应的桶里去；
  • 步骤3：对每个不是空的桶进行排序，可以使用其它排序方法，也可以递归使用桶排序；
  • 步骤4：从不是空的桶里把排好序的数据拼接起来。

  注意，如果递归使用桶排序为各个桶排序，则当桶数量为1时要手动减小BucketSize增加下一循环桶的数量，否则会陷入死循环，导致内存溢出。

• 算法实现
  这里初始桶大小为10，即每个桶内可放范围为10以内的数（最大值与最小值的差可为10）

class Solution:
    def sortArray(self, nums):
        self.res = []
        def bucketsort(nums,bucketsize):
            max_num = max(nums)
            min_num = min(nums)

            bucketnum = (max_num - min_num + 1) // bucketsize + 1
            buckets = [[] for _ in range(bucketnum)]
            for num in nums:
                buckets[(num-min_num)//bucketsize].append(num)
            for bucket in buckets:
                if not bucket: continue
                if max(bucket)==min(bucket):
                    self.res.extend(bucket)
                else:
                    bucketsort(bucket, bucketsize-1)
        bucketsort(nums,10)
        return self.res

• 算法分析
  • 最佳情况：T(n) = O(n+k)
  • 平均情况：T(n) = O(n+k)
  • 最差情况：T(n) = O(n2)

基数排序

基数排序也是非比较的排序算法，对每一位进行排序，从最低位开始排序，复杂度为O(kn),为数组长度，k为数组中的数的最大的位数；

基数排序是按照低位先排序，然后收集；再按照高位排序，然后再收集；依次类推，直到最高位。有时候有些属性是有优先级顺序的，先按低优先级排序，再按高优先级排序。最后的次序就是高优先级高的在前，高优先级相同的低优先级高的在前。基数排序基于分别排序，分别收集，所以是稳定的。

• 算法图解
  

  基数排序.jpg

• 算法实现
  因为有负数，故先用快排将数组分为大于零小于零两部分

class Solution:
    def sortArray(self, nums):
        if not nums: return
        nums.append(0)
        left, right = 0, len(nums)-1
        while left < right:
            while left < right and nums[left]<0:
                left += 1
            nums[left], nums[right] = nums[right],nums[left]
            while left < right and nums[right] >= 0:
                right -= 1
            nums[left], nums[right] = nums[right],nums[left]
        nums[left] = 0

        def jishupaixu(nums,fushu = False):
            if not nums: return []
            weishu = len(str(max(nums))) if not fushu else len(str(min(nums)))-1
            buckets = [[] for _ in range(10)]
            div = 1
            for _ in range(weishu):
                for num in nums:
                    buckets[(num//div)%10].append(num)
                div *= 10
                i = 0
                # print(buckets)
                for j in range(len(buckets)):
                    for num in buckets[j]:
                        # print(i)
                        nums[i] = num
                        i += 1
                    buckets[j] = []
            return nums
        nums[:left] = jishupaixu(nums[:left], fushu=True)
        nums[left:len(nums)-1] = jishupaixu(nums[left+1:])
        nums.pop()
        return nums

• 算法分析

  • 最佳情况：T(n) = O(n * k)
  • 最差情况：T(n) = O(n * k)
  • 平均情况：T(n) = O(n * k)

• 基数排序有两种方法：

  • MSD 从高位开始进行排序
  • LSD 从低位开始进行排序

• 基数排序vs计数排序vs桶排序
  这三种排序算法都利用了桶的概念，但对桶的使用方法上有明显差异：

  • 基数排序：根据键值的每位数字来分配桶
  • 计数排序：每个桶只存储单一键值
  • 桶排序：每个桶存储一定范围的数值