算法-05| 二分查找
1. 概述
二分查找(Binary Search)算法,也叫折半查找算法。
二分查找针对的是一个有序的数据集合,查找思想有点类似分治思想。每次都通过跟区间的中间元素对比,将待查找的区间缩小为之前的一半,直到找到要查找的元素,或者区间被缩小为 0。
假设有 1000 条订单数据,已经按照订单金额从小到大排序,每个订单金额都不同,并且最小单位是元。现在想知道是否存在金额等于 19 元的订单。如果存在,则返回订单数据,如果不存在则返回 null。
利用二分思想,每次都与区间的中间数据比对大小,缩小查找区间的范围。下图中,low 和 high 表示待查找区间的下标,mid 表示待查找区间的中间元素下标。
二分查找的时间复杂度:
假设数据大小是 n,每次查找后数据都会缩小为原来的一半,也就是会除以 2。最坏情况下,直到查找区间被缩小为空,才停止。
被查找区间的大小变化:
n, n/2, n/4, n/8, ...,n/2k...
这是一个等比数列。其中 n/2k = 1 时,k 的值就是总共缩小的次数。而每一次缩小操作只涉及两个数据的大小比较,所以,经过了 k 次区间缩小操作,时间复杂度就是 O(k)。通过 n/2k = 1,
可以求得 k=log2n,所以时间复杂度就是 O(logn)。这是一种极其高效的时间复杂度,有的时候甚至比时间复杂度是常量级 O(1) 的算法还要高效。
因为 logn 是一个非常“恐怖”的数量级,即便 n 非常非常大,对应的 logn 也很小。比如 n 等于 2 的 32 次方,大约是 42 亿。也就是说,如果我们在 42 亿个数据中用二分查找一个数据,最多需要比较 32 次。
用大 O 标记法表示时间复杂度的时候,会省略掉常数、系数和低阶。对于常量级时间复杂度的算法来说,O(1) 有可能表示的是一个非常大的常量值,比如 O(1000)、O(10000)。所以,常量级时间复杂度的算法有时候可能还没有 O(logn) 的算法执行效率高。
反过来,对数对应的就是指数。一个非常著名的“阿基米德与国王下棋的故事”。 指数时间复杂度的算法在大规模数据面前是无效的。
2. 二分查找的递归与非递归实现
/**
* 1.循环退出条件是 low <= high,而不是 low < high。
* 2.mid = (low + high) / 2这种写法,在 low 和 high 比较大时,两者之和可能会溢出。
* 改进的方法是将 mid 的计算方式写成 low + (high - low) / 2, 转化成位运算 low+((high-low)>>1) 更佳。
* 3.low=mid+1,high=mid-1。注意这里的 +1 和 -1,如果直接写成 low=mid 或者 high=mid,就可能会发生死循环。
* 比如,当 high=3,low=3 时,如果 a[3] 不等于 value,就会导致一直循环不退出。
* 时间复杂度为 O(logn)
* @param arr
* @param n
* @param value
* @return
*/
public int bsearch(int[] arr, int n, int value) {
int low = 0;
int high = n - 1;
while (low <= high) {
int mid = low + (high - low) / 2; // (low + high) / 2, 可能会发生溢出
if (arr[mid] > value ) { // 中间值 > 目标值, 往左边找, mid - 1
high = mid - 1;
} else if (arr[mid] < value) { // 中间值 < 目标值, 往右边找, mid + 1
low = mid + 1;
} else { // 中间值 == 目标值
return mid;
}
}
return -1;
}
/**
* 2. 二分查找的递归实现
* @param arr
* @param n
* @param value
* @return
*/
public int bsearch_recurse(int[] arr, int n, int value) {
return recursive(arr, 0, n - 1, value);
}
private int recursive(int[] arr, int low, int high, int value) {
if (low > high) return -1;
int mid = low + ((high - low) >> 1);
if (arr[mid] > value) {
return recursive(arr, low, mid - 1, value);
} else if (arr[mid] < value) {
return recursive(arr, mid + 1, high, value);
} else {
return mid;
}
}
3. 二分查找应用场景的局限性
首先,二分查找依赖的是顺序表结构,简单点说就是数组。
那二分查找能否依赖其他数据结构呢?比如链表。答案是不可以的,主要原因是二分查找算法需要按照下标随机访问元素。数组按照下标随机访问数据的时间复杂度是 O(1),而链表随机访问的时间复杂度是 O(n)。所以,如果数据使用链表存储,二分查找的时间复杂就会变得很高。
二分查找只能用在数据是通过顺序表来存储的数据结构上。如果你的数据是通过其他数据结构存储的,则无法应用二分查找。
如果数据使用链表存储,二分查找的时间复杂就会变得很高, 选择用数组而不是链表来实现二分查找了。 假设链表长度为n,二分查找每次都要找到中间点(计算中忽略奇偶数差异): 第一次查找中间点,需要移动指针n/2次; 第二次,需要移动指针n/4次; 第三次需要移动指针n/8次; ...... 以此类推,一直到1次为值 总共指针移动次数(查找次数) = n/2 + n/4 + n/8 + ...+ 1,这显然是个等比数列,根据等比数列求和公式:Sum = n - 1. 最后算法时间复杂度是:O(n-1),忽略常数,记为O(n),时间复杂度和顺序查找时间复杂度相同 但是稍微思考下,在二分查找的时候,由于要进行多余的运算,严格来说,会比顺序查找时间慢
其次,二分查找针对的是有序数据。
二分查找对这一点的要求比较苛刻,数据必须是有序的。如果数据没有序,我们需要先排序。排序的时间复杂度最低是 O(nlogn)。所以,如果我们针对的是一组静态的数据,没有频繁地插入、删除,可以进行一次排序,多次二分查找。这样排序的成本可被均摊,二分查找的边际成本就会比较低。
但是,如果数据集合有频繁的插入和删除操作,要想用二分查找,要么每次插入、删除操作之后保证数据仍然有序,要么在每次二分查找之前都先进行排序。针对这种动态数据集合,无论哪种方法,维护有序的成本都是很高的。
所以,二分查找只能用在插入、删除操作不频繁,一次排序多次查找的场景中即静态数据。针对动态变化的数据集合,二分查找将不再适用。那针对动态数据集合,如何在其中快速查找某个数据呢?二叉树
再次,数据量太小不适合二分查找。
如果要处理的数据量很小,完全没有必要用二分查找,顺序遍历就足够了。比如在一个大小为 10 的数组中查找一个元素,不管用二分查找还是顺序遍历,查找速度都差不多。只有数据量比较大的时候,二分查找的优势才会比较明显。
不过,这里有一个例外。如果数据之间的比较操作非常耗时,不管数据量大小,我都推荐使用二分查找。比如,数组中存储的都是长度超过 300 的字符串,如此长的两个字符串之间比对大小,就会非常耗时。需要尽可能地减少比较次数,而比较次数的减少会大大提高性能,这个时候二分查找就比顺序遍历更有优势。
最后,数据量太大也不适合二分查找。
二分查找的底层需要依赖数组这种数据结构,而数组为了支持随机访问的特性,要求内存空间连续,对内存的要求比较苛刻。比如,有 1GB 大小的数据,如果希望用数组来存储,那就需要 1GB 的连续内存空间。
注意这里的“连续”二字,也就是说,即便有 2GB 的内存空间剩余,但是如果这剩余的 2GB 内存空间都是零散的,没有连续的 1GB 大小的内存空间,那照样无法申请一个 1GB 大小的数组。二分查找是作用在数组这种数据结构之上的,所以太大的数据用数组存储就比较吃力了,也就不能用二分查找了。
4. 应用
假设我们有 1000 万个整数数据,每个数据占 8 个字节,如何设计数据结构和算法,快速判断某个整数是否出现在这 1000 万数据中? 我们希望这个功能不要占用太多的内存空间,最多不要超过 100MB,你会怎么做呢?
如何在 1000 万个整数中快速查找某个整数?
我们的内存限制是 100MB,每个数据大小是 8 字节,最简单的办法就是将数据存储在数组中,内存占用差不多是 80MB,符合内存的限制。可以先对这 1000 万数据从小到大排序,然后再利用二分查找算法,就可以快速地查找想要的数据了。
你可能会觉得,用散列表和二叉树也可以解决这个问题。实际上是不行的。
虽然大部分情况下,用二分查找可以解决的问题,用散列表、二叉树都可以解决。但是,不管是散列表还是二叉树,都会需要比较多的额外的内存空间。如果用散列表或者二叉树来存储这 1000 万的数据,用 100MB 的内存肯定是存不下的。而二分查找底层依赖的是数组,除了数据本身之外,不需要额外存储其他信息,是最省内存空间的存储方式,所以刚好能在限定的内存大小下解决这个问题。
1000w 个 8字节整数的中查找某个整数是否存在,且内存占用不超过100M ? 1、由于内存限制,存储一个整数需要8字节,也就是 64 bit。此时是否可以考虑bitmap这样的数据结构,也就是每个整数就是一个索引下标, 对于每一个索引bit,1 表示存在,0 表示不存在。同时考虑到整数的数据范围,8字节整数的范围太大,这是需要考虑压缩的问题, 压缩方案可以参考 RoaringBitmap 的压缩方式。 2、我们要解决的问题,也就是判断某个元素是否属于某个集合的问题。这里是否可以和出题方探讨是否严格要求100%判断正确。 在允许很小误差概率的情景下(比如判断是否在垃圾邮件地址黑名单中),可以考虑 BloomFilter 。 BloomFilter 存储空间更加高效。1000w数据、0.1%的误差下需要的内存仅为 17.14M 时间复杂度上,上面两种都是 hashmap的变种,因此为 O(1)。 1000万数中快速查找某个整数,考虑用数组下标来存储数据,一个bit位来存储标记。 第一次排序的时候能得到这组数的最大值和最小值。 假如最小是5,最大是2000万。那我们定义一个字节数组Byte arr[2000万],因为我只需要打标记, 所以一个bit能存下标记,一个byte能存8个数。只需要2MB多一点就能存2000万个数的状态(存在还是不存在) 先把这1000万个数存进去,用数x/8得到下标。用数x%8得到余数,因为每8个数一组得到的数组下标相同,所以还需要通过余数来确定具体是哪一个数。 之后开始设置状态,从低位到高位,每一位代表一个数的状态,case0到7,每一次设置当下号码的状态时,先用按位于计算把其他不相关位置为1,当前位置为0,然后按位或对当前位置设置状态。 存在就设置位1 ,不存在就设置位0 上述操作执行完之后,就支持任意查找了。只需要输入一个数x,我就能立刻通过x/8和x%8得到当前这个数的位置,然后把这个位置的状态位数字取出来。如果是1表示存在,如果是0表示不存在。
在庞大的地址库中逐一比对 IP 地址所在的区间,是非常耗时的。假设我们有 12 万条这样的 IP 区间与归属地的对应关系,如何快速定位出一个 IP 地址的归属地呢?
当我们想要查询 202.102.133.13 这个 IP 地址的归属地时,我们就在地址库中搜索,发现这个 IP 地址落在 [202.102.133.0, 202.102.133.255] 这个地址范围内,那我们就可以将这个 IP 地址范围对应的归属地“山东东营市”显示给用户了。
如果 IP 区间与归属地的对应关系不经常更新,我们可以先预处理这 12 万条数据,让其按照起始 IP 从小到大排序。如何来排序呢?我们知道,IP 地址可以转化为 32 位的整型数。所以,我们可以将起始地址,按照对应的整型值的大小关系,从小到大进行排序。
然后,这个问题就可以转化为下面的第四种变形问题“在有序数组中,查找最后一个小于等于某个给定值的元素”了。
当我们要查询某个 IP 归属地时,我们可以先通过二分查找,找到最后一个起始 IP 小于等于这个 IP 的 IP 区间,然后,检查这个 IP 是否在这个 IP 区间内,如果在,我们就取出对应的归属地显示;如果不在,就返回未查找到。
IP地址归属地问题,从工程实现的角度考虑,我更偏向于直接使用关系型数据库实现。也就是将12w条归属地与IP区间的开始、结束存入数据库中。
数据库表ip_table有如下字段:area_name | start_ip | end_ip ,start_ip及end_ip 均建立索引
SQL语句:
select area_name from ip_table where input_ip >= start_ip and input_ip <= end_ip;
数据库可以 但其单性能会受限
5. 二分查找的变形
二分查找中最简单的一种情况是 在不存在重复元素的有序数组中,查找值等于给定值的元素。
变体一:查找第一个值等于给定值的元素
/**
* 变体一: 查找第一个值等于给定值的元素
* @param arr
* @param n
* @param value
* @return
*/
public int bsearch1(int arr[], int n, int value) {
int low = 0;
int high = n - 1;
while (low <= high) {
int mid = low + ((high - low) >> 1);
if (arr[mid] > value) {
high = mid - 1;
} else if (arr[mid] < value) {
low = mid + 1;
} else {
if ((mid == 0) || (arr[mid - 1] != value)) return mid;
else high = mid -1;// 如果 arr[mid - 1] == value, 说明mid不是第一个下标值, 继续往左 查找
}
}
return -1;
}
变体二:查找最后一个值等于给定值的元素
/**
* 变体二:查找最后一个值等于给定值的元素
* @param arr
* @param n
* @param value
* @return
*/
public int bsearch2(int arr[], int n, int value) {
int low = 0;
int high = n - 1;
while (low <= high) {
int mid = low + ((high - low) >> 1);
if (arr[mid] > value) {
high = mid - 1;
} else if (arr[mid] < value) {
low = mid + 1;
} else {
if ((mid == n - 1) || (arr[mid + 1] != value)) return mid;
else low = mid + 1; // 如果 arr[mid + 1] == value, 说明mid不是最后一个下标值, 继续往右 查找
}
}
return -1;
}
变体三:查找第一个大于等于给定值的元素
/**
* 变体三:查找第一个大于等于给定值的元素
* @param arr
* @param n
* @param value
* @return
*/
public int bsearch3(int arr[], int n, int value) {
int low = 0;
int high = n - 1;
while (low <= high) {
int mid = low + ((high - low) >> 1);
if (arr[mid] >= value) {
if ((mid == 0) || (arr[mid - 1] < value)) return mid;
else high = mid - 1;
} else {
low = mid + 1;
}
}
return -1;
}
变体四:查找最后一个小于等于给定值的元素
/**
* 变体四:查找最后一个小于等于给定值的元素
* @param arr
* @param n
* @param value
* @return
*/
public int bsearch4(int[] arr, int n, int value) {
int low = 0;
int high = n - 1;
while (low <= high) {
int mid = low + ((high - low) >> 1);
if (arr[mid] > value) {
high = mid - 1;
} else {
if ((mid == n - 1) || (arr[mid + 1] > value)) return mid;
else low = mid + 1;
}
}
return -1;
}