easy-algorithm-interview-an.../traditional-algorithm/Hash算法小结.md

6.5 KiB
Raw Permalink Blame History

1.哈希(Hash)与加密(Encrypt)的区别

在本文开始我需要首先从直观层面阐述哈希Hash和加密Encrypt的区别因为我见过很多朋友对这两个概念不是很清晰容易混淆两者。而正确区别两者是正确选择和使用哈希与加密的基础。

概括来说哈希Hash是将目标文本转换成具有相同长度的、不可逆的杂凑字符串或叫做消息摘要而加密Encrypt是将目标文本转换成具有不同长度的、可逆的密文。

具体来说,两者有如下重要区别:
1、哈希算法往往被设计成生成具有相同长度的文本而加密算法生成的文本长度与明文本身的长度有关。

例如设我们有两段文本“Microsoft”和“Google”。两者使用某种哈希算法得到的结果分别为“140864078AECA1C7C35B4BEB33C53C34”和“8B36E9207C24C76E6719268E49201D94”而使用某种加密算法的到的结果分别为“Njdsptpgu”和“Hpphmf”。可以看到哈希的结果具有相同的长度而加密的结果则长度不同。实际上如果使用相同的哈希算法不论你的输入有多么长得到的结果长度是一个常数而加密算法往往与明文的长度成正比。

2.哈希算法是不可逆的,而加密算法是可逆的。

这里的不可逆有两层含义一是“给定一个哈希结果R没有方法将E转换成原目标文本S”二是“给定哈希结果R即使知道一段文本S的哈希结果为R也不能断言当初的目标文本就是S”。其实稍微想想就知道哈希是不可能可逆的因为如果可逆那么哈希就是世界上最强悍的压缩方式了——能将任意大小的文件压缩成固定大小。

加密则不同给定加密后的密文R存在一种方法可以将R确定的转换为加密前的明文S。

2.哈希Hash与加密Encrypt的数学基础

从数学角度讲,哈希和加密都是一个映射。下面正式定义两者:
一个哈希算法R=H(S)是一个多对一映射给定目标文本SH可以将其唯一映射为R并且对于所有SR具有相同的长度。由于是多对一映射所以H不存在逆映射使得R转换为唯一的S。

有了以上定义,就很清楚为什么会存在上文提到的两个区别了。由于哈希算法的定义域是一个无限集合,而值域是一个有限集合,将无限集合映射到有限集合,根据“鸽笼原理(Pigeonhole principle)”,每个哈希结果都存在无数个可能的目标文本,因此哈希不是一一映射,是不可逆的。

而加密算法是一一映射,因此理论上来说是可逆的。
下图是哈希和加密过程的图示:

在这里插入图片描述
在这里插入图片描述

但是,符合上面两个定义的映射仅仅可以被叫做哈希算法和加密算法,但未必是好的哈希和加密,好的哈希和加密往往需要一些附加条件,下面介绍这些内容。

一个设计良好的哈希算法应该很难从哈希结果找到哈希目标文本的碰撞Collision。那么什么是碰撞呢对于一个哈希算法H如果S_1\neq S_2, H(S_1)=H(S_2)则S1和S2互为碰撞。关于为什么好的哈希需要难以寻找碰撞在下面讲应用的时候会详解。另外好的哈希算法应该对于输入的改变极其敏感即使输入有很小的改动如一亿个字符变了一个字符那么结果应该截然不同。这就是为什么哈希可以用来检测软件的完整性。

一个设计良好的加密算法应该是一个“单向陷门函数(Trapdoor one-way function)”,单向陷门函数的特点是一般情况下即使知道函数本身也很难将函数的值转换回函数的自变量,具体到加密也就是说很难从密文得到明文,虽然从理论上这是可行的,而“陷门”是一个特殊的元素,一旦知道了陷门,则这种逆转换则非常容易进行,具体到加密算法,陷门就是密钥。

顺便提一句,在加密中,应该保密的仅仅是明文和密钥。也就是说我们通常假设攻击者对加密算法和密文了如指掌,因此加密的安全性应该仅仅依赖于密钥而不是依赖于假设攻击者不知道加密算法。

3.解决散列冲突

常用的散列冲突解决方法有两类开放寻址法open addressing和链表法chaining
开放寻址法是一种解决碰撞的方法对于开放寻址冲突解决方法比较经典的有线性探测方法Linear Probing、二次探测Quadratic probing和 双重散列Double hashing等方法。

当我们往散列表中插入数据时,如果某个数据经过散列函数散列之后,存储位置已经被占用了,我们就从当前位置开始,依次往后查找,看是否有空闲位置,直到找到为止。以上图为例,散列表的大小为 8 ,黄色区域表示空闲位置,橙色区域表示已经存储了数据。目前散列表中已经存储了 4 个元素。此时元素 7777777 经过 Hash 算法之后,被散列到位置下标为 7 的位置,但是这个位置已经有数据了,所以就产生了冲突。于是按顺序地往后一个一个找,看有没有空闲的位置,此时,运气很好正巧在下一个位置就有空闲位置,将其插入,完成了数据存储。线性探测法一个很大的弊端就是当散列表中插入的数据越来越多时,散列冲突发生的可能性就会越来越大,空闲位置会越来越少,线性探测的时间就会越来越久。极端情况下,需要从头到尾探测整个散列表,所以最坏情况下的时间复杂度为 O(n)。

链表法是一种更加常用的散列冲突解决办法,相比开放寻址法,它要简单很多。如下动图所示,在散列表中,每个位置对应一条链表,所有散列值相同的元素都放到相同位置对应的链表中。

4.非加密hash算法Murmur3

MurmurHash 是一种非加密型哈希函数适用于一般的哈希检索操作。已经被应用到很多开源项目如RedisMemcachedCassandraHBaseLucene等。与其它流行的哈希函数相比对于规律性较强的keyMurmurHash的随机分布特征表现更良好。

优缺点如下:
速度快,比安全散列算法快几十倍;
变化足够激烈相似的字符串如“abc”和“abd”能够均匀散落在哈希环上
不保证安全性(缺点);