转载

常见的内排序和外排序算法

文/董飞

常见的内排序算法

所谓的内排序是指所有的数据已经读入内存,在内存中进行排序的算法。排序过程中不需要对磁盘进行读写。同时,内排序也一般假定所有用到的辅助空间也可以直接存在于内存中。与之对应地,另一类排序称作外排序,即内存中无法保存全部数据,需要进行磁盘访问,每次读入部分数据到内存进行排序。我们在9.1.2“常见的外排序算法”中讨论该类问题。

1.合并排序

合并排序(Merge Sort)是一种典型的排序算法,应用“分而治之(divide and conquer)”的算法思路,将线性数据结构(如array、vector或list)分为两个部分,对两部分分别进行排序,排序完成后,再将各自排序好的两个部分合并还原成一个有序结构。由于合并排序不依赖于随机读写,因此具有很强的普适性,适用于链表等数据结构。算法的时间复杂度为O(nlogn),如果是处理数组需要额外O(n)空间,处理链表只需要O(1)空间。算法实现如下:

void merge_sort( int array[], int helper[], int left, int right){   if( left >= right )     return;    // divide and conquer: array will be divided into left part and right part   // both parts will be sorted by the calling merge_sort   int mid = right - (right - left) / 2;   merge_sort( array, helper, left, mid );   merge_sort( array, helper, mid + 1, right);    // now we merge two parts into one   int helperLeft = left;   int helperRight = mid + 1;   int curr = left;   for(int i = left; i <= right; i++)     helper[i] = array[i];   while( helperLeft <= mid && helperRight <= right ){     if( helper[helperLeft] <= helper[helperRight] )       array[curr++] = helper[helperLeft++];     else       array[curr++] = helper[helperRight++];   }    // left part has some large elements remaining. Put them into the right side   while( helperLeft <= mid )     array[curr++] = helper[helperLeft++]; }

当递归调用merge_sort返回时,array的左右两部分已经分别由子函数排序完成,我们利用helper数组暂存array中的数值,再利用两个while循环完成合并。helper数组的左右半边就是两个排序完的队列,第一个while循环相当于比较队列头,将较小的元素取出放入array,最后使得array的左半边由小到大排序完成。第二个while循环负责扫尾,把helper左半边剩余元素复制入array中。注意,此时我们不需要对helper右半边做类似操作,因为即使右半边有剩余元素,它们也已经处于array中恰当的位置。

关于合并排序更多理论方面的讨论,请见9.3“工具箱”。

2.快速排序

快速排序(Quick Sort)是最为常用的排序算法,C++自带的排序算法的实现就是快速排序。该算法以其高效性,简洁性,被评为20世纪十大算法之一(虽然合并排序与堆排序的时间复杂度量级相同,但一般还是比快速排序慢常数倍)。快速排序的算法核心与合并排序类似,也采用“分而治之”的想法:随机选定一个元素作为轴值,利用该轴值将数组分为左右两部分,左边元素都比轴值小,右边元素都比轴值大,但它们不是完全排序的。在此基础上,分别对左右两部分递归调用快速排序,使得左右部分完全排序。算法的平均时间复杂度是O(nlogn),在最坏情况下为O(n^2),额外空间复杂度为O(logn)。算法实现如下:

int partition( int array[], int left, int right ) {   int pivot = array[right];   while( left != right ){     while( array[left] < pivot && left < right)       left++;     if (left < right) {       swap( array[left], array[right--]);     }     while( array[right] > pivot && left < right)       right--;     if( left < right )       swap( array[left++], array[right]);   }   //array[left] = pivot;   return left; } void qSort( int array[], int left, int right ){   if( left >=right )     return;   int index = partition( array, left, right);   qSort(array, left, index - 1);   qSort(array, index + 1, right); }

partition函数先选定数组right下标所指的元素作为轴值,用pivot变量存储该元素值。然后,右移left,即从左向右扫描数组,直到发现某个元素大于轴值或者扫描完成。如果某个元素大于轴值,则将该元素与轴值交换。该操作特性在于:保证交换后轴值左侧的元素都比轴值小。再次,左移right,即从右向左扫描数组,直到发现某个元素小于轴值或者扫描完成。如果某个元素小于轴值,则将该元素与轴值交换。该操作特性在于:保证交换后轴值右侧的元素都比轴值大。重复上述过程直到left和right相遇,最终相遇的位置即为轴值所在位置。由于上述操作的特性,最终轴值左侧的元素都比轴值小,轴值右侧的元素都比轴值大。

关于快速排序的更多理论讨论请见9.3“工具箱”。C++标准模版库提供函数sort,实现快速排序的功能:sort( iterator first, iterator last, Compare comp ); // can also be pointers here。

3.堆排序

堆排序(Heap Sort)利用了我们在第5章中提到的堆作为逻辑存储结构,将输入array变成一个最大值堆。然后,我们反复进行堆的弹出操作。回顾之前所述的弹出过程:将堆顶元素与堆末元素交换,堆的大小减一,向下移动新的堆顶以维护堆的性质。事实上,该操作等价于每次将剩余的最大元素移动到数组的最右边,重复这样的操作最终就能获得由小到大排序的数组。初次建堆的时间复杂度为O(n),删除堆顶元素并维护堆的性质需要O(logn),这样的操作一共进行n次,故最终时间复杂度为O(nlogn)。我们不需要利用额外空间,故空间复杂度O(1)。具体实现如下:

void heapSort(int array[], int size) {    Heapify(array, size);   for (int i = 0; i < size - 1; i++)            popHeap(array); }

Heapify和popHeap的实现参考本书第5章。

4.桶排序和基数排序

桶排序(Bucket Sort)和基数排序(Radix Sort)不需要进行数据之间的两两比较,但是需要事先知道数组的一些具体情况。特别地,桶排序适用于知道待排序数组大小范围的情况。其特性在于将数据根据其大小,放入合适的“桶(容器)”中,再依次从桶中取出,形成有序序列。具体实现如下:

void BucketSort(int array[], int n, int max) {   // array of length n,all records in the range of [0,max)   int tempArray[n];   int i;   for (i = 0; i < n; i++)     tempArray[i] = array[i];    int count[max];  // buckets   memset(count, 0, max * sizeof(int));   for (i = 0; i < n; i++)  // put elements into the buckets     count[array[i]]++;   for (i = 1; i < max; i++)     count[i] = count[i-1] + count [i]; // count[i] saves the starting index (in array) of value i+1    // for value tempArray[i], the last index should be count[tempArray[i]]-1   for (i = n-1; i >= 0; i--)     array[--count[tempArray[i]]] = tempArray[i]; }

该实现总的时间代价为O(max+n),适用于max相对n较小的情况。空间复杂度也为O(max+n),用以记录原始数组和桶计数。

桶排序只适合max很小的情况,如果数据范围很大,可以将一个记录的值即排序码拆分为多个部分来进行比较,即使用基数排序。基数排序相当于将数据看作一个个有限进制数,按照由高位到低位(适用于字典序),或者由低位到高位(适用于数值序)进行排序。排序具体过程如下:对于每一位,利用桶排序进行分类,在维持相对顺序的前提下进行下一步排序,直到遍历所有位。该算法复杂度为O(k*n),k为位数(或者字符串长度)。直观上,基数排序进行了k次桶排序。具体实现如下:

void RadixSort(int Array[], int n, int digits, int radix) {   // n is the length of the array   // digits is the number of digits   int *TempArray = new int[n];   int *count = new int[radix]; // radix buckets   int i, j, k;   int Radix = 1; // radix modulo, used to get the ith digit of Array[j]   // for ith digit   for (i = 1; i <= digits; i++) {     for (j = 0; j < radix; j++)       count[j] = 0;      // initialize counter     for (j = 0; j < n; j++)   {       // put elements into buckets       k = (Array[j] / Radix) % radix; // get a digit       count[k]++;     }      for (j = 1; j < radix; j++) {       // count elements in the buckets       count[j] = count[j-1] + count[j];     }     // bucket sort     for (j = n-1; j >= 0; j--) {       k = (Array[j] / Radix ) % radix;       count[k]--;       TempArray[count[k]] = Array[j];     }     for (j = 0; j < n; j++) {       // copy data back to array       Array[j] = TempArray[j];     }     Radix *= radix;   // get the next digit   } }

与其他排序方式相比,桶排序和基数排序不需要交换或比较,它更像是通过逐级的分类来把元素排序好。

常见的外排序算法

外排序算法的核心思路在于把文件分块读到内存,在内存中对每块文件依次进行排序,最后合并排序后的各块数据,依次按顺序写回文件。外排序需要进行多次磁盘读写,因此执行效率往往低于内排序,时间主要花费于磁盘读写上。我们给出外排序的算法步骤如下:

假设文件需要分成k块读入,需要从小到大进行排序。

(1)依次读入每个文件块,在内存中对当前文件块进行排序(应用恰当的内排序算法)。此时,每块文件相当于一个由小到大排列的有序队列。

(2)在内存中建立一个最小值堆,读入每块文件的队列头。

(3)弹出堆顶元素,如果元素来自第i块,则从第i块文件中补充一个元素到最小值堆。弹出的元素暂存至临时数组。

(4)当临时数组存满时,将数组写至磁盘,并清空数组内容。

(5)重复过程(3)、(4),直至所有文件块读取完毕。

本文摘自新上架新书《程序员面试白皮书》的第9章的9.11、9.12节

常见的内排序和外排序算法

本书是程序员和IT从业人员的面试求职指南。本书遵从大多数面试参考图书的组织方式,结合实例,按照常见的数据结构、算法以及计算机基础知识进行章节划分。每一章的“知识要点”部分介绍章节涉及的相关知识点,回顾重要的基础知识点;“模式识别”部分给出一些例题,帮助大家总结解决相关问题的常见方法,并且通过分析问题中的关键信息,教授读者如何从题目中分析题型和解题方法。程序员面试是对于面试者计算机知识的全面检测,因此,本书设有专门的章节覆盖了网络、操作系统、编译器、算法和数据结构等等各个领域的知识。

本书作者来自硅谷一线的IT公司,书中包含了作者亲身的经验和体验,书中收集的题目部分来自互联网上分享的面试经验、在线编程网站leetcode,以及一些著名的面试参考资料。本书适合想要从事正规的程序员、架构师以及相关IT公司的专业人士和学生参考,尤其适合那些以一线IT外企或互联网公司为求职目标的读者阅读。

点此购买

正文到此结束
Loading...