• 【C++ STL】哈希 Hash(闭散列、开散列介绍及其实现)


    一、unordered 系列关联式容器

    在C++98中,STL提供了底层为红黑树结构的一系列关联式容器,在查询时效率可达到 O(log2N),即最差情况下需要比较红黑树的高度次,当树中的节点非常多时,查询效率也不理想。最好的查询是,进行很少的比较次数就能够将元素找到,因此在C++11中,STL又提供了4个 unordered 系列的关联式容器,这4个容器与红黑树结构的关联式容器底层结构不同,是哈希表(哈希其实就是一种散列,一种映射)

    image-20220401172326741

    哈希表结构的 unordered 系列的关联式容器与红黑树结构的关联式容器 map/set/multimap/multiset 使用方式上基本类似,它们的主要区别在于:

    • unordered 系列关联式容器,遍历出来不是有序的
    • unordered 系列关联式容器,迭代器是单向迭代器
    • unordered_map 和 unordered_set 不允许数据冗余,支持 [] 操作符
    • unordered_multimap 和 unordered_multiset 允许数据冗余,不支持 [] 操作符

    二、unordered 系列关联式容器底层结构

    unordered 系列的关联式容器之所以效率比较高,是因为其底层使用了哈希结构。

    【示例】set 和 unordered_set 插入效率比较:

    // release下测试,debug下可能还会受限于编译器的优化程度,release下是最高优化
    void test()
    {
    	// 用n个随机值元素来测试set和unordered_set
    
    	// 定义容量为N的向量
    	const int N = 1000000;
    	vector<int> v;
    	v.reserve(N);
    
    	srand(time(0)); // 初始化随机种子
    
    	for (size_t i = 0; i < N; i++)
    	{
    		v.push_back(rand()); // 插入生成的随机值
    	}
    
    	// 定义set和unordered_set
    	set<int> s;
    	unordered_set<int> us;
    
        /* ----------------------------------------------------------------- */
    	// 向set中插入N个随机值,统计时间(ms)
    	size_t begin1 = clock();
    	for (auto& e : v)
    	{
    		s.insert(e);
    	}
    	size_t end1 = clock();
    
    	// 向unordered_set插入N个随机值,统计时间(ms)
    	size_t begin2 = clock();
    	for (auto& e : v)
    	{
    		us.insert(e);
    	}
    	size_t end2 = clock();
    
    	cout << "set - inset: " << end1 - begin1 << endl;
    	cout << "unordered_set - inset: " << end2 - begin2 << endl;
        
        /* ----------------------------------------------------------------- */
    	// 依次去set中查找向量中的N个元素,统计时间(ms)
    	size_t begin3 = clock();
    	for (auto& e : v)
    	{
    		s.find(e);
    	}
    	size_t end3 = clock();
    	
    	// 依次去unordered_set中查找向量中的N个元素,统计时间(ms)
    	size_t begin4 = clock();
    	for (auto& e : v)
    	{
    		us.find(e);
    	}
    	size_t end4 = clock();
    
    	cout << "set - find(): " << end3 - begin3 << endl;
    	cout << "unordered_set - find(): " << end4 - begin4 << endl;
    	
        /* ----------------------------------------------------------------- */
    	// 依次删除set中的N个元素,统计时间(ms)
    	size_t begin5 = clock();
    	for (auto& e : v)
    	{
    		s.erase(e);
    	}
    	size_t end5 = clock();
    
    	// 依次删除unordered_set中的N个元素,统计时间(ms)
    	size_t begin6 = clock();
    	for (auto& e : v)
    	{
    		us.erase(e);
    	}
    	size_t end6 = clock();
    
    	cout << "set - erase(): " << end5 - begin5 << endl;
    	cout << "unordered_set - erase(): " << end6 - begin6 << endl;
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64
    • 65
    • 66
    • 67
    • 68
    • 69
    • 70
    • 71
    • 72
    • 73
    • 74
    • 75
    • 76
    • 77
    • 78
    • 79
    • 80
    • 81

    用同一批100万个数据来测试 unordered_set 和 set,结果分析如下:

    可以看出在数据量大的时候,插入和查找元素 unordered_set 要比 set 快一些,而删除元素 unordered_set 要比 set 慢一些。

    image-20220401205317810

    所以一般情况下,建议使用 unordered 系列的关联式容器。


    2.1 哈希概念

    顺序结构以及二叉平衡树中,元素关键码与其存储位置之间没有对应的关系,因此在查找一个元素时,必须要经过关键码的多次比较。顺序结构的查找时间复杂度为O(N)二叉平衡树中查找时间复杂度为树的高度O(log2N)搜索的效率取决于搜索过程中元素的比较次数

    理想的搜索方法:可以不经过任何比较,一次直接从表中得到要搜索的元素。 如果构造一种存储结构,通过某种函数 ( hashFunc ) 使 元素的存储位置与它的关键码之间能够建立一一映射的关系 ,那么在查找时通过该函数可以很快找到该元素。方便我们搜索。

    当向该结构中:

    • 插入元素

      根据待插入元素的关键码,用哈希函数 计算出该元素的存储位置 并按此位置进行存放。

    • 搜索元素

      对元素的关键码进行同样的计算,把求得的函数值当做元素的存储位置,在结构中按此位置取元素比较,若关键码相等,则搜索成功。

    该方式即为哈希(散列)方法,哈希方法中使用的转换函数称为哈希(散列)函数,构造出来的结构称为哈希表(Hash Table或散列表)

    哈希表就好比一本的目录,通过目录我们可以知道某章节的页码,通过页码快速定位到那一章节。


    2.2 哈希函数

    其实就是按照某种规则,给元素找一个存储位置(哈希位置、映射位置)

    【常见哈希函数】

    1、直接定址法(常用)

    取关键字的某个线性函数为散列地址:Hash(Key)= A * Key + B

    优点:简单、均匀

    缺点:需要事先知道关键字的分布情况,如果关键字的分布比较分散,会很浪费空间

    使用场景:适合查找比较小且连续的情况

    比如:


    2、除留余数法(常用)

    开一段固定大小的空间,比如哈希表中允许的地址数为 n,按照哈希函数:Hash(key) = key % n,得到的余数就是该关键码的哈希地址,存放到哈希表对应位置中。

    缺陷

    • 适用于整数的存储(字符串、浮点数不能直接存储,因为不能直接取模,后面会讲如何解决)
    • 余数相同时,会出现哈希冲突

    举例说明:

    image-20220405164611003

    2.3 哈希冲突

    不同关键字通过相同哈希哈数计算出相同的哈希地址,映射到了相同位置,该种现象称为哈希冲突或哈希碰撞。

    【思考】发生哈希冲突该如何处理呢?


    2.4 哈希冲突的解决

    解决哈希冲突两种常见的方法是:闭散列开散列


    三、闭散列

    闭散列也叫开放定址法:

    开放寻址法的核心思想是,通过哈希函数计算出这个数据对应的哈希位置,如果该位置出现了哈希冲突,我们就重新探测一个空闲位置,将其插入。那如何重新探测新的位置呢?当我们往散列表中插入数据时,如果某个数据经过散列函数散列之后,存储位置已经被占用了,我们就从当前位置开始,依次往后查找,看是否有空闲位置,直到找到为止。如果数组整个都没有空位置,这个时候就需要对数组进行扩容操作。

    而我们要获取数据的时候就需要先Hash运算,然后得到下标后再去拿值,拿到值后要比对是不是要拿的数据,因为有可能Hash冲突了,此时的值并不是你想要的,如果是就直接取出,不是的话就需要重新遍历数组,直到找到对应的数。

    从上面可以明显的看出来开发寻址法并不是一种好的方案,当最好的情况时查询数据时间复杂度为O(1),而最坏的情况时就需要遍历整个数组从而退化为O(n),平均时间复杂度为O(1)。


    3.1 找下一个空位置

    当前哈希位置已经存放的有数据了,下一个元素也是映射的这个位置,发生哈希冲突了,那怎么办呢?

    • 如果哈希表未被装满,说明在哈希表中必然还有空位置,那么可以把该元素存放到冲突位置的 “ 下一个空位置 ” 中去。
    • 如果整个数组都没有空位置了,这个时候就需要对数组进行扩容操作。

    找下一个空位置有两种方法:线性探测和二次线性探测。

    ① 线性探测

    线性探测:从发生冲突的位置开始,依次向后探测,直到寻找到下一个空位置为止。


    举例说明,插入最后一个数据 333 时,产生了哈希冲突:

    image-20220405170242060

    线性探测的优点:实现起来非常简单

    线性探测的缺陷

    如果某个位置冲突的多,会导致一片冲突很多,数据堆积在一起。

    插入和查找的效率都会降低很多,插入元素时,从冲突位置开始不断往后找到下一个空位置;查找元素时,从冲突位置开始不断往后找,需要比较许多次,导致搜索效率降低。最坏情况下要直到找到空位置时,才能说明没有该元素。

    举例说明:

    image-20220405171838196

    思考

    观察发现,冲突的那一块区域,数据很集中,但是其它位置又是空着的,那有没有什么办法,让这些数据稍微分散一点点呢?不要那么集中,于是有人提出了二次探测方法。


    ② 二次探测

    线性探测的缺陷是产生冲突的数据堆积在一块,这与其找下一个空位置有关系,因为找空位置的方式就是挨着往后逐个去找,因此二次探测为了避免该问题,找下一个空位置的方法为:Hash(key) = key % n + i2 ( i = 1,2,3… ),通过哈希函数 Hash(key) 计算出元素的关键码 key 对应的位置再加上 i 的平方,n 是表的大小。

    二次探测相比线性探测的好处

    如果一个位置有很多数据冲突,那么二次探测会让这些数据存储位置会比较分散,不会集中在一起,导致一片一片的冲突。


    举例说明:如果要插入 333 和 33,产生冲突,分别使用线性探测和二次探测,解决后的情况为:

    image-20220405174648287

    3.2 闭散列的实现

    哈希表就是数组,只不过是按照某种映射关系把元素存放进去的数组。

    image-20220405180435723

    问题一:如何向哈希表中插入元素?

    • 先检查哈希表是否需要扩容(表为空或表的负载因子超过某个值,则进行扩容)。
    • 再通过哈希函数计算出待插入元素在哈希表中的位置:
      • 如果该位置有元素(即存储状态为: EXIST),说明发生了哈希冲突,使用线性探测(或二次探测)找到下一个空位置,然后插入新元素;
      • 如果该位置中没有元素(即存储状态为: EMPTY / DELETE),则直接插入新元素。

    问题二:如何在哈希表中查找元素?

    先检查哈希表是否为空,若为空,查找失败,直接返回nullptr

    再通过哈希函数计算出要查找元素在哈希表中对应的位置:

    • 如果该位置不为空(即存储状态为: EXIST / DELETE),开始往后查找,直到遇到空位置才停止(如果遇到空位置都还没查找到,说明哈希表中没有该元素),查找过程中,如果当前位置存储状态为存在,则判断是不是要查找的元素:
      • 如果是,查找成功,返回该元素的地址;
      • 如果不是,继续往后找
    • 如果该位置为空(即存储状态为: EMPTY),返回nullptr

    问题三:如何表示哈希表中某个位置是否存放的有元素?

    肯定不能用 0 / -1 来表示,万一需要存放的数据就有 0 / -1 呢?

    问题四:如何删除哈希表中某个位置的元素?

    采用闭散列处理哈希冲突时,不能随便物理删除哈希表中已有的元素,若直接删除元素会影响其他元素的搜索。

    如上图:直接删除掉了元素 333,那么元素 44 查找起来就会受影响(因为哈希位置4此时为空),导致查找不到。因此线性探测采用标记的伪删除法来删除一个元素。

    问题三和四的解决方案

    哈希表中每个位置存储数据的同时,再存储一个状态标记,表示该位置的存储状态(空、存在、删除)


    思考一

    因为哈希函数采用的是除留余数法,被模的 key 必须要为整型才可以处理,导致闭散列只能存储 key 为整型的元素,其他类型怎么解决?

    回答:如果 key 是 string 类型或其它自定义类型,不能直接取模来计算出它的位置,我们就传一个对应的仿函数,来将其转换成整型。

    // 定义一个默认仿函数类(针对size_t类型和能够隐式类型转换成size_t的类型)
    template<class K>
    struct HashFunc
    {
        // key: 元素关键码
        // 如果key是整数,转换成size_t,然后返回key
        // 如果key是浮点数,隐式类型转换成size_t,然后返回key
        size_t operator()(const K& key)
        {
            return key;
        }
    };
    
    // 定义仿函数类(专门针对元素关键码是string类型的,将其转换成可以取模的size_t类型)
    struct HashFuncString
    {
        size_t operator()(const string& key)
        {
            // 方法一:每个字符的ASCII码值加起来
            // 缺陷:不同字符串可能加出同样的结果,不能保证key的唯一性
            size_t hash_key = 0;
            for (size_t i = 0; i < key.size(); i++)
            {
                hash_key += key[i];
            }
            return hash_key;
        }
    };
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28

    思考二

    unordered 系列容器底层就是哈希表,但我们用的时候也并没有传仿函数呀,因为 string 类型作为元素关键码 key 很常见,我们也不可能每次都去写个仿函数吧!

    那是如何做到的呢?-- 写一个针对 string 类型取模的特化版本仿函数

    // 默认仿函数类(针对size_t类型和能够隐式类型转换成size_t的类型)
    template<class K>
    struct HashFunc
    {
        size_t operator()(const K& key)
        {
            return key;
        }
    };
    
    // 特化仿函数(把string类型转换成可以取模的size_t类型)
    template<>
    struct HashFunc<string>
    {
        size_t operator()(const string& key)
        {
    		size_t hash_key = 0;
    		for (size_t i = 0; i < key.size(); i++)
    		{
                hash_key *= 131;
    			hash_key += key[i];
    		}
    		return hash_key;
        }
    };
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25

    ① 闭散列的结构(KV模型)

    // 闭散列
    namespace close_hash
    {
        /*---------------------------------------------------------*/
    	// 标记哈希表中某个位置的存储状态
    	enum Status
    	{
    		EMPTY,   // 此位置空
    		EXIST,   // 此位置已有元素
    		DELETE   // 此位置元素已被删除
    	};
    
        /*---------------------------------------------------------*/
    	// 定义哈希表中元素的结构
    	template<class K, class V>
    	struct HashData
    	{
    		pair<K, V> _kv;         // 键值对
    		Status _status = EMPTY; // 存储状态标记,默认为空
    	};
        
        /*---------------------------------------------------------*/
        // 仿函数(解决哈希函数采用除留余数法时,将不能取模的类型转换成可以取模的size_t类型)
        // 默认仿函数类
        template<class K>
    	struct HashFunc
        {
            // 针对size_t类型和能够隐式类型转换成size_t的类型
            size_t operator()(const K& key)
            {
                return key;
            }
        };
    
        // 特化仿函数
        template<>
        struct HashFunc<string>
        {
            // 把string类型转换成可以取模的size_t类型
            size_t operator()(const string& key)
            {
                size_t hash_key = 0;
                for (size_t i = 0; i < key.size(); i++)
                {
                    hash_key *= 131;
                    hash_key += key[i];
                }
                return hash_key;
            }
        };
        
        /*---------------------------------------------------------*/
    	// 定义哈希表(KV模型)
    	// Hash = HashFunc<K>:仿函数,给一个默认的仿函数
    	template<class K, class V, class Hash = HashFunc<K>>
    	class HashTable
    	{
    	public:
            /*----------------------------------------------------*/
    		// 构造、拷贝构造、赋值重载、析构都不需要写,调用vector的就行了
            
            /*----------------------------------------------------*/
            HashData<K, V>* Find(const K& key); // 查找元素
            bool Insert(const pair<K, V>& kv);  // 插入元素
            bool Erase(const K& key);           // 删除元素
    		
    	private:
    		vector<HashData<K, V>> _tables; // 哈希表
    		size_t _n = 0;                  // 存储的有效元素个数,默认为0
    		
            // 注意:因为元素不是挨着挨着存的,所以需要一个变量去表示有效元素个数
    	};
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64
    • 65
    • 66
    • 67
    • 68
    • 69
    • 70
    • 71
    • 72
    • 73

    ② 查找元素

    这里写了线性探测 / 二次探测两个版本

    HashData<K, V>* Find(const K& key)
    {
        // 先检查哈希表是否为空
        if (_tables.size() == 0) // 查找失败
        {
            return nullptr;
        }
    
        // 1. 先通过哈希函数计算出要查找元素在哈希表中对应的位置
        size_t start = Hash()(key) % _tables.size();
        size_t i = 0;
        size_t index = start;
    
        // 2. 该位置不为空
        while (_tables[index]._status != EMPTY)
        {
            /* 当前位置存储状态为存在,才去判断当前位置是不是要查找的元素
    		* 为什么呢?
    		* 因为我们采用标记的伪删除法来删除一个元素,并没有清除元素的关键码,所以还可以被查找到
    		*/
            if (_tables[index]._status == EXIST && key == _tables[index]._kv.first)
            {
                return &_tables[index]; // 返回该元素的地址
            }
    
            // 继续往后找
            i++;
            index = start + i;       // 线性探测
            // index = start + i * i;   // 二次探测
    
            // 如果超出表尾了,又从表头继续开始找
            index %= _tables.size();
        }
    
        // 3. 该位置为空
        return nullptr;
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37

    ③ 插入元素

    思考 1

    我们要严格控制闭散列中的元素数量,为什么呢

    1. 如果元素数量太多,插入元素时很容易发生哈希冲突。
    2. 如果元素数量太多,又存在哈希冲突,就会导致插入和查找效率大幅降低。
    3. 因为查找元素最坏要查找到空位置时才能停止,所以 闭散列是不能存满的,如果存满了,就没有空位置了,当查找的元素又不在闭散列中时,就会陷入死循环。

    所以,当闭散列中的元素数量达到一定程度时,就必须要扩容,降低哈希冲突的概率,提高性能。


    思考 2

    哈希表什么情况下进行扩容如何扩容

    这里需要引入一个概念:

    负载因子

    散列表的负载因子(load factor)定义为:α = 填入表中的元素个数 / 散列表的长度

    负载因子是散列表装满程度的标志因子,由于表长是定值,负载因子与 “ 填入表中的元素个数 ” 成正比,所以:

    • 负载因子越大,表明填入表中的元素越多,发生哈希冲突的可能性越大,空间浪费少
    • 负载因子越小,表明填入表中的元素越少,发生哈希冲突的可能性越小,空间浪费多

    对于开放定址法(即闭散列),负载因子是特别重要的因素,因严格限制在 0.7 - 0.8 以下,超过 0.8,查表时的 CPU 缓存不命中(cache missing)按照指数曲线上升,因此,一些采用开放定址法的 hash 库,如 Java 的系统库限制了负载因子为 0.75,超过此值将扩容(resize)散列表。

    负载因子的作用很简单,相当于是一个扩容机制的阈值。当超过了这个阈值,就会触发扩容机制。HashMap源码已经为我们默认指定了负载因子是0.75。

    比如闭散列的容量是10,负载因子是 0.7,10 * 0.7 = 7,也就是说,当容量超过 7 的时候就会进行扩容操作。


    需要注意的小细节 1

    如果当前的闭散列容量是10,表中有 n 个元素,如何判断当前闭散列的负载因子是否超过 0.7 了:

    • 不能直接这样写:if (n / 10 >= 0.7),两个整数相除等于0,无法判断。
    • 正确写法,强转成double: if ((double)(n / 10) >= 0.7),同乘10: if (n * 10 / 10 >= 7)

    需要注意的小细节 2

    如果有重复元素,将会导致闭散列中不同位置存放着相同的关键码,引起歧义。

    该如何防止数据冗余呢?-- 插入前先 Find(key) 查找一下,判断待插入元素是否已存在表中,如果存在,就不要插入了。

    image-20220406200408192

    代码如下

    这里写了线性探测 / 二次探测两个版本

    bool Insert(const pair<K, V>& kv)
    {
        // 防止数据冗余
        if (Find(kv.first) != nullptr)
        {
            return false; // 若待插入元素的关键码已存在表中,则插入失败
        }
    
        // 1. 先检查哈希表是否需要扩容:表为空或表的负载因子>=0.7
        if (_tables.size() == 0 || _n * 10 / _tables.size() >= 7) // 注意
        {
            // 计算新容量(按2倍扩容)
            size_t new_size = _tables.size() == 0 ? 10 : _tables.size() * 2;
    
            /* 开始扩容 */
    
            // 定义一个新的哈希表(局部变量)
            HashTable<K, V, Hash> new_hash_table;
            new_hash_table._tables.resize(new_size); // 更改新表容量
    
            // 遍历旧表中的所有元素,重新计算它在新表中的位置,一一插入到新表中
            for (size_t i = 0; i < _tables.size(); i++)
            {
                if (_tables[i]._status == EXIST) // EXIST: 此位置已有元素
                {
                    new_hash_table.Insert(_tables[i]._kv); // 递归调用Insert,复用代码
                }
            }
    
            // 交换新表和旧表的内容(即交换新旧表vector的内容)
            _tables.swap(new_hash_table._tables);
        }
    
        /* 2. 再通过哈希函数计算出待插入元素在哈希表中的位置
    	* 注意:
    	* 这里要模size(),不能模capacity(),因为vector中能存放元素的个数为size()
    	*/
        size_t start = Hash()(kv.first) % _tables.size();
        size_t i = 0;
        size_t index = start;
    
        // 3. 该位置有元素,说明发生了哈希冲突,则使用线性检测找到下一个空位置
        while (_tables[index]._status == EXIST) // EXIST: 此位置已有元素
        {
            // 往后找
            i++;
            index = start + i;       // 线性探测
            // index = start + i * i;   // 二次探测
    
            // 如果超出表尾了,又从表头继续开始找
            index %= _tables.size();
        }
    
        // 4. 该位置没有元素则直接插入
        _tables[index]._kv = kv;
        _tables[index]._status = EXIST; // 标记该位置的存储状态:存在
        _n++;                           // 有效元素个数+1
    
        // 5. 插入成功,返回true
        return true;
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61

    测试:插入元素过程中,分别用线性探测和二次探测来找下一个空位置

    image-20220406225326749

    ④ 删除元素

    // 删除元素
    bool Erase(const K& key)
    {
        // 先查找一下,判断该元素是否在表中
        HashData<K, V>* ret = Find(key);
    
        // 待删除元素的关键码不在表中
        if(ret == nullptr)
        {
            return false; // 删除失败
        }
    
        // 待删除元素的关键码在表中
        ret->_status = DELETE; // 伪删除,标记该位置存储状态为:删除
        _n--;                  // 有效元素个数-1
        
        // 删除成功返回true
        return true;
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19

    ⑤ 闭散列的效率

    当最好的情况时,时间复杂度为O(1),而最坏的情况时就需要遍历整个数组从而退化为O(n),平均时间复杂度为O(1)


    四、开散列(⭐重要)

    开散列法又叫哈希桶、链地址法,首先对关键码集合用散列函数计算散列地址,发生哈希冲突的具有相同地址的关键码归于同一子集合,每一个子集合称为一个桶,各个桶中的元素通过一个单链表链接起来,各链表的头结点地址存储在哈希表中。

    我们获取数据的时候只需要Hash运算后拿到下标,然后拿到链表比对是否为获取的数据即可,可能眨眼一看好像复杂度和开放寻址法也差不多。其实不然,首先Hash冲突并不是每次都会发生,其次因为会不断的进行动态扩容所以碰撞几率会减少,所以冲突的链表并不会像开放寻址法的数组那样长。

    开散列中每个桶中放的都是发生哈希冲突的元素。

    image-20220407163006169

    4.1 开散列的实现

    ① 开散列的结构(KV模型)

    思考1

    因为哈希函数采用的是除留余数法,被模的 key 必须要为整型才可以处理,导致开散列只能存储 key 为整型的元素,其他类型怎么解决?

    回答:如果 key 是 string 类型或其它自定义类型,通过传对应仿函数,将不能取模的类型转换成可以取模的 size_t 类型

    代码如下

    namespace hash_bucket
    {
        /*--------------------------------------------------------------*/
    	// 定义哈希表节点结构(KV模型)
    	template<class K, class V>
    	struct HashNode
    	{
    		pair<K, V> _kv;        // 数据域:键值对
    		HashNode<K, V>* _next; // 后继指针
    
    		// 构造函数
    		HashNode(const pair<K, V>& kv)
    			: _kv(kv)
    			, _next(nullptr)
    		{}
    	};
    
        /*---------------------------------------------------------*/
        // 仿函数(解决哈希函数采用除留余数法时,将不能取模的类型转换成可以取模的size_t类型)
        // 默认仿函数类
        template<class K>
    	struct HashFunc
        {
            // 针对size_t类型和能够隐式类型转换成size_t的类型
            size_t operator()(const K& key)
            {
                return key;
            }
        };
    
        // 特化仿函数
        template<>
        struct HashFunc<string>
        {
            // 把string类型转换成可以取模的size_t类型
            size_t operator()(const string& key)
            {
                size_t hash_key = 0;
                for (size_t i = 0; i < key.size(); i++)
                {
                    hash_key *= 131;
                    hash_key += key[i];
                }
                return hash_key;
            }
        };
        
        /*--------------------------------------------------------------*/
    	// 定义哈希表结构(KV模型)
    	// Hash = HashFunc<K>:仿函数,给一个默认的仿函数
    	template<class K, class V, class Hash = HashFunc<K>>
    	{
    		typedef HashNode<K, V> Node;
    	private:
    		vector<Node*> _tables; // 哈希表存储各链表的头结点地址
    		size_t _n = 0;         // 哈希表中有效节点的个数,缺省为0
    
    	public:
    		/*----------------------------------------------------*/
    		// 构造、拷贝构造、赋值重载需要自己写,因为这里是哈希桶结构
            // ...
            // 析构函数
    		~HashTable()
    		{
    			// 遍历哈希表,找到不为空的哈希桶
    			for (size_t i = 0; i < _tables.size(); i++)
    			{
    				Node* cur = _tables[i];
    				while (cur) // 哈希桶不为空,释放哈希桶中的所有节点
    				{
    					Node* next = cur->_next; // 记录cur指向节点的下一个节点
    					delete cur; // 释放节点
    					cur = next; // 继续去释放下一个节点
    				}
    				_tables[i] = nullptr;
    			}
    			_n = 0;
    		}
    
    		/*----------------------------------------------------*/
            Node* Find(const K& key);          // 查找节点
            bool Insert(const pair<K, V>& kv); // 插入节点
            bool Erase(const K& key);          // 删除节点
        };
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64
    • 65
    • 66
    • 67
    • 68
    • 69
    • 70
    • 71
    • 72
    • 73
    • 74
    • 75
    • 76
    • 77
    • 78
    • 79
    • 80
    • 81
    • 82
    • 83
    • 84
    • 85

    ② 查找节点

    开散列的搜索效率由桶的长度决定,桶的长度短,效率就高。

    查找节点思路

    • 先检查哈希表是否为空,若为空,直接返回nullptr
    • 通过哈希函数计算出该元素映射的哈希桶的位置,然后遍历该哈希桶,查找节点,若找到,返回节点地址;若没找到,返回空。
    Node* Find(const K& key)
    {
        // 1. 先检查哈希表是否为空
        if (_tables.size() == 0)
        {
            return nullptr;
        }
    
        // 2. 再通过哈希函数计算出该元素所映射的位置(即映射的哈希桶位置)
        size_t index = Hash()(key) % _tables.size();
    
        // 3. 遍历该哈希桶,查找节点
        Node* cur = _tables[index]; // cur指向该哈希桶
        while (cur)                 // 遍历该哈希桶的所有节点
        {
            if (key == cur->_kv.first)
            {
                return cur; // 找到了,返回节点地址
            }
    
            // 继续往后遍历
            cur = cur->_next;
        }
    
        // 4. 没找到,返回空
        return nullptr;
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27

    ③ 插入节点

    1、负载因子

    负载因子(load factor)定义为:α = 填入表中的元素个数 / 散列表的长度

    哈希桶一般是把负载因子控制在 1 以内(平均每个位置下面挂了一个节点),等于 1 就要扩容了

    2、开散列扩容

    桶的个数是一定的,随着元素的不断插入,每个桶中元素的个数不断增多,极端情况下,可能会导致一个桶中链表节点非常多,会影响的哈希表的性能,因此在一定条件下需要对哈希表进行增容,那该条件怎么确认呢?开散列最好的情况是:每个哈希桶中刚好挂一个节点,再继续插入元素时,每一次都会发生哈希冲突,因此,当元素个数刚好等于桶的个数时,可以给哈希表增容。


    插入节点思路

    • 先检查哈希表是否需要扩容:表为空或者负载因子为1

      • 扩容时,需要把旧表的所有节点转移到新表中,然后再交换新表和旧表
    • 再通过哈希函数计算出待插入节点映射的哈希桶的位置

    • 检查该哈希桶中是否存在该节点:

      • 若不存在,则进行头插;
      • 若存在,不允许数据冗余,插入失败。

    插入节点图解

    image-20220407205604738

    扩容操作图解

    扩容前:遍历旧表所有节点,准备转移到新表

    image-20220407210022489

    扩容后:是把旧表的节点转移到新表中,而不是 new 新的节点插入到新表中,转移结束后,旧表为空。

    image-20220407210114029

    代码如下

    bool Insert(const pair<K, V>& kv)
    {
        // 1. 先检查哈希表是否需要扩容:表为空或者负载因子超过1
        if (_n == _tables.size())
        {
            // 计算新容量(按2倍扩)
            size_t newSize = _tables.size() == 0 ? 10 : _tables.size() * 2;
            // 计算新容量(素数大小,按近似2倍扩)
            // size_t newSize = GetNextPrime(_tables.size());
    
            /* 开始扩容 */ 
    
            // 创建一个新表(局部变量)
            vector<Node*> newTables;
            newTables.resize(newSize);
    
            /* 遍历完旧表中的所有节点,重新计算它在新表中的位置,转移到新表中
    		* 注意:
    		* 这里是把旧表的节点转移到新表中,而不是构造新的节点插入到新表中
    		*/
            for (size_t i = 0; i < _tables.size(); i++)
            {
                Node* cur = _tables[i]; // cur当前指向的哈希桶
    
                // 哈希桶不为空,开始转移哈希桶中的节点
                while (cur != nullptr)
                {
                    // 保存cur指向节点的下一个节点
                    Node* next = cur->_next;
    
                    // 重新计算cur指向的旧表节点,映射到新表中的位置
                    size_t index = Hash()(cur->_kv.first) % newSize;
    
                    // 把cur指向的旧表节点,转移到新表中
                    cur->_next = newTables[index];
                    newTables[index] = cur;
    
                    // 继续转移下一个旧表节点
                    cur = next;
                }
    
                // 节点转移完毕,把当前哈希桶置空
                _tables[i] = nullptr;
            }
    
            // 旧表所有节点全部转移到新表中了,交换新表与旧表
            _tables.swap(newTables);
        }
    
        // 2. 再通过哈希函数计算出待插入元素映射的哈希桶的位置
        size_t index = Hash()(kv.first) % _tables.size();
    
        // 3. 插入节点到该位置的哈希桶中
    
        // 3.1 先检查哈希桶中是否存在重复节点(因为不允许数据冗余)
        Node* cur = _tables[index]; // cur指向哈希桶的第一个节点
        while (cur)                 
        {
            if (kv.first == cur->_kv.first)
            {
                return false; // 存在重复节点,插入失败
            }
    
            cur = cur->_next;
        }
    
        // 3.2 开始头插
        Node* newNode = new Node(kv);    // 申请新节点
        newNode->_next = _tables[index]; // 头插
        _tables[index] = newNode;
        _n++;                            // 有效节点个数+1
    
        // 3.3 插入成功
        return true;
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64
    • 65
    • 66
    • 67
    • 68
    • 69
    • 70
    • 71
    • 72
    • 73
    • 74
    • 75

    关于扩容的思考:了解一下即可,没有太多理论依据

    有人建议哈希表的大小是一个素数,除留余数法,也最好模一个素数(SGI STL里面的哈希表是使用的这个),如何每次快速取一个类似两倍关系的素数?

    哈希表每次扩容时,调用 GetNextPrime(_tables.size()) 获取下一个素数,既保证了表的大小是一个素数,而且还达到了近似2倍的扩容,还保证了计算哈希位置时是模一个素数。

    // 素数表,放了经过筛选的28个素数
    const int PRIMECOUNT = 28;
    const size_t primeList[PRIMECOUNT] =
    {
        53ul,         97ul,         193ul,       389ul,       769ul,
        1543ul,       3079ul,       6151ul,      12289ul,     24593ul,
        49157ul,      98317ul,      196613ul,    393241ul,    786433ul,
        1572869ul,    3145739ul,    6291469ul,   12582917ul,  25165843ul,
        50331653ul,   100663319ul,  201326611ul, 402653189ul, 805306457ul,
        1610612741ul, 3221225473ul, 4294967291ul
        // ul: unsigned long
    };
    
    // 获取下一个素数,下一个素数是上一个素数的类似两倍
    size_t GetNextPrime(size_t prime)
    {
        size_t i = 0;
        for (; i < PRIMECOUNT; ++i)
        {
            if (primeList[i] > prime)
                return primeList[i];
        }
        return primeList[i];
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24

    ④ 删除节点

    删除节点思路

    • 先判断哈希表是否为空,若为空,则删除失败
    • 再通过哈希函数计算出待删除节点对应的哈希桶的位置
    • 遍历该哈希桶,查找待删除节点和它的前驱节点
      • 若找到,判断是头节点还是非头节点,好确定删除方式;
      • 若没找到,则删除失败。

    删除节点图解

    image-20220407210905658
    // 删除节点
    bool Erase(const K& key)
    {
        // 1. 先判断哈希表是否为空
        if (_tables.size() == 0)
        {
            return false; // 表为空,删除失败
        }
    
        // 2. 通过哈希函数计算出待删除节点所映射哈希桶的位置
        size_t index = Hash()(key) % _tables.size();
    
        // 3. 遍历该哈希桶,查找待删除节点,以及它的前驱节点
        Node* cur = _tables[index];
        Node* prev = nullptr;
        while (cur)
        {
            if (key == cur->_kv.first) // 找到该节点了
            {
                if (cur == _tables[index]) // cur是头节点,进行头删
                {
                    _tables[index] = cur->_next;
                }
                else // cur不是头节点
                {
                    prev->_next = cur->_next;
                }
    
                delete cur;    // 删除节点
                cur = nullptr;
                _n--;          // 有效节点个数-1
    
                return true;   // 删除成功,返回true
            }
    
            // 继续往后遍历
            prev = cur;
            cur = cur->_next;
        }
    
        // 没有找到该节点,返回false
        return false;
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43

    ⑤ 开散列的效率

    开散列每次扩容2倍,或者一个素数的大小,都是为了减少Hash冲突,而减少Hash冲突的原因就是让时间复杂度降低到 O(1),因为一旦Hash冲突,时间复杂度可能就不在是 O(1)


    4.2 开散列与闭散列比较

    应用链地址法处理溢出,需要增设链接指针,似乎增加了存储开销。事实上: 由于开地址法必须保持大量的空闲空间以确保搜索效率,如二次探测法要求负载因子 a <= 0.7,而表项所占空间又比指针大的多,所以使用链地址法反而比开地址法节省存储空间。


    4.3 开散列的思考

    哈希桶一般是把负载因子控制在 1 以内(平均每个位置下面挂了一个节点),等于 1 就要扩容了

    如果出现极端情况,所有节点都挂在了哈希表中的一个桶下面,导致链表越来越长,这将会极大影响查找节点和删除节点的效率,插入节点的效率倒不影响,因为是头插。

    image-20220410181635135

    如何解决呢?当链表长度达到一定长度的时候,就会把链表转化为红黑树。

    但 C++ 库里面暂时没有这样做,Java 的 HashMap 使用的是这种方案,原因就是因为红黑树查询的时间复杂度是比链表要快的(JDK 中每个桶默认超过 8 个就会转成红黑树)

    image-20220410182231468

    五、总结

    参考文章:如何使用散列表实现一个O(1)时间复杂度的LRU缓存算法

    闭散列(开放寻址法)

    开放寻址法的核心思想是,如果出现了散列冲突,我们就重新探测一个空闲位置,将其插入。那如何重新探测新的位置呢?当我们往散列表中插入数据时,如果某个数据经过散列函数散列之后,存储位置已经被占用了,我们就从当前位置开始,依次往后查找,看是否有空闲位置,直到找到为止。如果数组整个都没有空位置,这个时候就需要对数组进行扩容操作。

    而我们要获取数据的时候就需要先Hash运算,然后得到下标后再去拿值,拿到值后要比对是不是要拿的数据,因为有可能Hash冲突了,此时的值并不是你想要的,如果是就直接取出,不是的话就需要重新遍历数组,直到找到对应的数。

    从上面可以明显的看出来开发寻址法并不是一种好的方案,当最好的情况时查询数据时间复杂度为O(1),而最坏的情况时就需要遍历整个数组从而退化为O(n),平均时间复杂度为O(1)。

    开散列(链地址法)

    而链表法就是如果冲突的话直接形成一个链表,相当于挂在了上一个元素上,我们获取数据的时候只需要Hash运算后拿到下标,然后拿到链表比对是否为获取的数据即可,可能眨眼一看好像复杂度和开放寻址法也差不多。其实不然,首先Hash冲突并不是每次都会发生,其次因为会不断的进行动态扩容所以碰撞几率会减少,所以冲突的链表并不会像开放寻址法的数组那样长。

    像JDK1.7的HashMap就是采用的这种方式来解决冲突的,而到了JDK1.8以后则换成了红黑树,原因就是因为红黑树查询的时间复杂度是比链表要快的。所以实际上我们是说的链表法,实际上我们还可以采用红黑树或者把链表改为跳表。

    看到这儿你或许应该明白了为什么Java中的HashMap无论是负载因子还是2的n次方扩容,都是因为减少Hash冲突,而减少Hash冲突的原因就是让时间复杂度降低到O(1),因为一旦Hash冲突时间复杂度可能就不在是O(1)。

    负载因子

    上面说过如果数据量到达一定量的时候我们是需要进行扩容的,而扩容实际上我们不需要等没有位置的时候才进行,我们只要插入数据达到一定数量时就可以提前扩容。比如我们我们默认数组为16,然后只要达到12时就就行扩容,然后我们可以算出其中比例是0.75,也就是负载因子。

    熟悉HashMap的人应该知道HashMap就是这样操作的,但是这个负载因子实际上是要取一个合适的值的,如果你取1的话实际上很容易发生冲突,相当于满了才进行扩容。而如果取太低的话又会出现空间的浪费,比如取0.5,实际上才一半就扩容了。


  • 相关阅读:
    /proc/meminfo参数说明
    java毕业设计的家居销售网站mybatis+源码+调试部署+系统+数据库+lw
    App测试经典面试题及参考答案
    美 DISA 发布数据战略实施计划
    @ 代码随想录算法训练营第8周(C语言)|Day56(动态规划)
    一次搞定33种python机器学习回归算法!超级全!
    学习SpringSecurity这一篇就够了
    网络安全(黑客)自学笔记
    [Azure VM] Azure virtual machine agent status is not ready
    C++读取系统剪贴板数据(windows)
  • 原文地址:https://blog.csdn.net/weixin_48025315/article/details/125472734