雪花算法(Snowflake)是twitter公司内部分布式项目采用的ID生成算法
SnowFlake可以保证:
所有生成的id按时间趋势递增
整个分布式系统内不会产生重复id(因为有datacenterId和workerId来做区分)
根据这个算法的逻辑,只需要将这个算法实现出来,封装为一个工具方法,那么各个业务应用可以直接使用该工具方法来获取分布式ID,只需保证每个业务应用有自己的工作机器id即可,而不需要单独去搭建一个获取分布式ID的应用。
public class SnowFlake {
// 因为二进制里第一个 bit 为如果是 1,那么都是负数,但是我们生成的 id 都是正数,所以第一个 bit 统一都是 0。
/**
* 机器ID 2进制5位
*/
private long workerId;
/**
* 机房ID 2进制5位
*/
private long datacenterId;
/**
* 代表一毫秒内生成的多个id的最新序号 12位,范围从0到4095
*/
private long sequence;
/**
* 设置一个时间初始值(这个用自己业务系统上线的时间) 2^41 - 1 差不多可以用69年
*/
private long twepoch = 1585644268888L;
/**
* 5位的机器id
*/
private long workerIdBits = 5L;
/**
* 5位的机房id
*/
private long datacenterIdBits = 5L;
/**
* 每毫秒内产生的id数 2 的 12次方
*/
private long sequenceBits = 12L;
/**
* 这个是二进制运算,就是5 bit最多只能有31个数字,也就是说机器id最多只能是32以内
*/
private long maxWorkerId = -1L ^ (-1L << workerIdBits);
/**
* 这个是一个意思,就是5 bit最多只能有31个数字,机房id最多只能是32以内
*/
private long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);
/**
* 机器ID向左移12位
*/
private long workerIdShift = sequenceBits;
/**
* 机房ID向左移17位
*/
private long datacenterIdShift = sequenceBits + workerIdBits;
/**
*时间戳向左移22位
*/
private long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;
/**
* 生成序列的掩码,这里为4095 (0b111111111111=0xfff=4095)
*/
private long sequenceMask = -1L ^ (-1L << sequenceBits);
/**
* 上次生成ID的时间截,记录产生时间毫秒数,判断是否是同1毫秒
*/
private long lastTimestamp = -1L;
/**
* 构造函数
* @param workerId
* @param datacenterId
* @param sequence
*/
public SnowFlake(long workerId, long datacenterId, long sequence){
// 检查机房id和机器id是否超过最大值,不能小于0
if (workerId>maxWorkerId||workerId<0){
throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0",maxWorkerId));
}
if (datacenterId>maxDatacenterId||datacenterId<0){
throw new IllegalArgumentException(String.format("datacenter Id can't be greater than %d or less than 0",maxDatacenterId));
}
this.workerId=workerId;
this.datacenterId=datacenterId;
this.sequence=sequence;
}
/**
* 这个是核心方法,通过调用nextId()方法,让当前这台机器上的snowflake算法程序生成一个全局唯一的id
* @return
*/
public synchronized long nextId(){
// 获取当前的时间戳,单位是毫秒
long timestamp=timeGen();
//如果当前时间小于上一次ID生成的时间戳,说明系统时钟回退过这个时候应当抛出异常
if (timestamp<lastTimestamp){
System.err.printf("clock is moving backwards. Rejecting requests until %d.",lastTimestamp);
throw new RuntimeException(String.format("Clock moved backwards. Refusing to generate id for %d milliseconds",lastTimestamp-timestamp));
}
// 下面是说假设在同一个毫秒内,又发送了一个请求生成一个id
// 这个时候就得把seqence序号给递增1,最多就是4096
if (lastTimestamp == timestamp) {
// 这个意思是说一个毫秒内最多只能有4096个数字,无论你传递多少进来,
//这个位运算保证始终就是在4096这个范围内,避免你自己传递个sequence超过了4096这个范围
sequence = (sequence + 1) & sequenceMask;
//当某一毫秒的时间,产生的id数 超过4095,系统会进入等待,直到下一毫秒,系统继续产生ID
if (sequence == 0) {
// 阻塞到下一个毫秒,获得新的时间戳
timestamp = tilNextMillis(lastTimestamp);
}
}else{ // 时间戳改变,毫秒内序列重置
sequence=0;
}
//上次生成ID的时间截
lastTimestamp=timestamp;
// 这儿就是最核心的二进制位运算操作,生成一个64bit的id
// 先将当前时间戳左移,放到41 bit那儿;将机房id左移放到5 bit那儿;将机器id左移放到5 bit那儿;将序号放最后12 bit
// 最后拼接起来成一个64 bit的二进制数字,转换成10进制就是个long型
return ((timestamp-twepoch)<<timestampLeftShift)|
(datacenterId<<datacenterIdShift)|
(workerId<<workerIdShift)|sequence;
}
/**
* 当某一毫秒的时间,产生的id数 超过4095,系统会进入等待,直到下一毫秒,系统继续产生ID
* @param lastTimestamp 上次生成ID的时间截
* @return 当前时间戳
*/
private long tilNextMillis(long lastTimestamp) {
long timestamp=timeGen();
while(timestamp<=lastTimestamp){
timestamp=timeGen();
}
return timestamp;
}
/**
* 获取当前时间戳
* @return 当前时间(毫秒)
*/
private long timeGen() {
return System.currentTimeMillis();
}
/**
* main 测试类
* @param args
*/
public static void main(String[] args) {
SnowFlake worker=new SnowFlake(1,1,1);
for (int i=0;i<22;i++){
System.out.println(worker.nextId());
}
}
}
产生的唯一序列ID:
309845423537917952
309845423542112256
309845423542112257
309845423542112258
309845423542112259
309845423542112260
309845423542112261
309845423542112262
309845423542112263
309845423542112264
309845423542112265
309845423542112266
309845423542112267
309845423542112268
309845423542112269
309845423542112270
309845423542112271
309845423542112272
309845423542112273
309845423542112274
309845423542112275
309845423542112276
1.数据库表主键:很多DBA在大型生产应用禁用auto_increment的ID,这时可以选snowflake替代。
2.TraceId:分布式系统追踪,希望用一个ID贯穿所有子系统来追踪分布式交互过程。也有系统产生一个Exception,我们需要对Exception编号等。
3. 摇一摇/抢红包ID:摇一摇的特点是活动促销的时候,短时间内访问特别大,需要一个高性能的ID生成器。
优点:
缺点:
UUID只能保证全局唯一性,不满足后面的趋势递增,单调递增
我们每次插入的时候,发现都会把原来的数据给替换,并且ID也会增加
这就满足了:递增性、单调性、唯一性
在分布式情况下,并且并发量不多的情况,可以使用这种方案来解决,获得一个全局的唯一ID
单机版
因为Redis是单线程的,天生就能够保证原子性,可以使用原子操作INCR和INCRBY来实现。
集群分布式
Redis集群可以获取更高的吞吐量。
注意:
在Redis集群情况下,同样和MySQL一样需要设置不同的增长步长,同时key一定要设置有效期,可以使用Redis集群来获取更高的吞吐量。
假如一个集群有Redis,可以初始化每台Redis的值分别为1,2,3,4,5,然后步长都是5:
各个Redis生成的ID为:
A:1,6,11,16,21
B:2,7,12,17,22
C:3,8,13,18,23
D:4,9,14,19,24
E:5,10,15,20,25
缺点:需要额外配置和维护Redis集群等工作才能获得id,比较麻烦。
其它补充:
为了解决时钟回拨问题,导致ID重复,后面有人专门提出了解决的方案