BitMap 算法介绍及java代码解读

2018-09-2510:52:15数据结构与算法Comments3,523 views字数 2186阅读模式

假如给你 20 亿个非负数的 int 型整数,然后再给你一个非负数的 int 型整数 t ,让你判断 t 是否存在于这 20 亿数中,你会怎么做呢?文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

有人可能会用一个 int 数组,然后把 20 亿个数给存进去,然后再循环遍历一下就可以了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

想一下,这样的话,时间复杂度是 O(n),所需要的内存空间文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

4 byte * 20 亿,一共需要 80 亿个字节,文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

大概需要 8GB 的内存空间,显然有些计算机的内存一次是加载不了这么这么多的数据的。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

初步优化

按照上面的做法,时间复杂度是 O(n),内存是 8GB,实际上我们是可以把时间复杂度降低到 O(1) 的。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

例如我们可以这样来存数据,把一个 int 非负整数 n 作为数组下标,如果 n 存在,则对应的值为 1,如果不存在,对应的值为 0。例如数组 arr[n] = 1,表示n存在,arr[n] = 0表示 n 不存在。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

那么,我们就可以把 20 亿个数作为下标来存,之后直接判断 arr[t] 的值,如果 arr[t] = 1,则代表存在,如果 arr[t] = 0,则代表不存在。这样,我们就可以把时间复杂度降低到 O(1)。不过空间复杂度我们并没有降低。还稍微大了点。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

由于 int 非负整数一共有 2^31 个,所以数组的大小需要 2^32 这么大。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

这里可能有人说也可以用HashSet来存啊,时间复杂度也是近似O(1)。不过这里需要说明的是,HashSet里面存的必须是对象,也就是说需要把int包装成Integer,显然一个对象的话是更花销内存的,需要对象头啊什么的.....文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

再次优化

大家想一个问题,对于一个数,实际上我们只需要两种状态,就是这个数存在不存在这两种可能。上面我们用1代表存在,用0代表不存在。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

也就是说,我们是可以不用int型的数组来存储的,一个int型占用4个字节,即32个二进制位,一共可以表示40亿多个状态。用int型的来存两个状态,多浪费。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

所以我们可以考虑用boolean型的来存的,boolean貌似就占用一个字节(java中的boolena貌似是占用一个字节)。而一个boolean有true和false两种状态,所以也是成立的。这样子的话占用的内存就是2GB的内存了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

这样,就可以降低到之前的四分之1内存了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

最终优化:bitmap

大家再想一个问题,虽然boolean是表示两种状态,但是boolean实际上占用了8bit啊,按道理8bit是可以表示128种状态的。而被我们拿来表示两个状态,是否也有点浪费了呢?文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

我们都知道,一个二进制位,有0和1两种状态,所以说,其实我们是可以用一个二进制位来代表一个int型的数是否存在的。例如对于1,3,5,7这四个数,如果存在的话,则可以这样表示:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

BitMap 算法介绍及java代码解读

1代表这个数存在,0代表不存在。例如表中01010101代表1,3,5,7存在,0,2,4,6不存在。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

那如果8,10,14也存在怎么存呢?如图,8,10,14我们可以存在第二个字节里文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

BitMap 算法介绍及java代码解读

以此类推。这样子,我们又可以把内存降低到之前的8分之一了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

这种采用一个二进制位来存储数据的方法,我们也叫做bitmap算法。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

可能有人会问,假如我要添加一个数n,我知道它要存在第n个位那里,把第n个二进制改为1,可是我要怎么操作呢?文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

这个对于bitmap算法是如何存储的,如何进行增删操作的,我会在之后的文章里讲,这篇就大概介绍下bitmap算法。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

Java中有自带的bitmap实现,今天我们就用Java中自带的bitmap来做道题练练手。我们换道类似题目吧,不知道你一眼是否就能想到用bitmap算法来做。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

题目描述:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

现在有五十亿个int类型的正整数,要从中找出重复的数并返回。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

判断50亿个数有哪些是重复和刚才上面那个判断是否存在,其实是一样的。我们采用bitmap算法来做。不过这里50亿个数,别人肯定是以文件流的形式给你的。这样我们为了方便,我们就假设这些数是以存在int型数组的形式给我们的文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

代码如下:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

public class Test {
    //为了方便,假设数据是以数组的形式给我们的
    public static Set<Integer> test(int[] arr) {
        int j = 0;
        //用来把重复的数返回,存在Set里,这样避免返回重复的数。
        Set<Integer> output = new HashSet<>();
        BitSet bitSet = new BitSet(Integer.MAX_VALUE);
        int i = 0;
        while (i < arr.length) {
            int value = arr[i];
            //判断该数是否存在bitSet里
            if (bitSet.get(value)) {
                output.add(value);
            } else {
                bitSet.set(value, true);
            }
            i++;
        }
        return output;
    }
    //测试
    public static void main(String[] args) {
        int[] t = {1,2,3,4,5,6,7,8,3,4};
        Set<Integer> t2 = test(t);
        System.out.println(t2);
    }
}

复制代码

打印结果:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

[3, 4]
复制代码

当然,bitmap算法的应用不仅仅是节省内存,它还有很多其他的优点。之后有机会就拿一些其他的应用来写篇文章。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

作者:帅地
链接:https://juejin.im/post/5ba481f75188255c94463357
来源:掘金
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html

文章源自菜鸟学院-https://www.cainiaoxueyuan.com/suanfa/5839.html
  • 本站内容整理自互联网,仅提供信息存储空间服务,以方便学习之用。如对文章、图片、字体等版权有疑问,请在下方留言,管理员看到后,将第一时间进行处理。
  • 转载请务必保留本文链接:https://www.cainiaoxueyuan.com/suanfa/5839.html

Comment

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定