Netty 5的第一个alpha版本于2022/5/17发布。不同于老早发布但后面长期封存的ForkJoinPool
版本,这次的新Netty 5改动相对3到4的升级来说没有那么大,侧重点放在了更安全好用的Buffer API和其他一些API的优化上。本文介绍的内容正是这次新版本的重头戏——新的Buffer API。
现存的Netty ByteBuf
API已经使用多年,随着时间推移,类库逐渐变得臃肿庞大。导致以下问题:
try-with-resources
。MemorySegment
功能,以取代原来Unsafe
类提供的API。在不久前发布的Java 19中,该功能还处于preview阶段,所以Netty 5也会等正式版发布后再跟进实现,不过新API已经对此做好了设计上的预留。MemorySegment
API保持一致,因为这也是后者使用的基本要求。try-with-resource
中管理生命周期。Autocloseable
接口,能够使用try-with-resource
来管理。每次buffer的分配都需要对应一次close()
的释放,每次Send.receive()
也需要对应close()
。引用计数不再通过公共API暴露对外,但仍在内部保留,用于计算内存占用(尤其是堆外内存)。现在对外的是open/closed状态,它们的改变不是线程安全的。 try (Buffer buf = allocator.allocate(8)) {
// Access the buffer.
} // buf is deallocated here.
Cleaner
。新版本则是默认开启,好处是:当buffer被忘记关闭时,Cleaner
线程会自动回收内存,这样可以避免内存泄漏的发生。小知识——Java对堆外内存的管理逻辑:
- 通过Unsafe分配的堆外内存,只有在Full GC或调用System.gc()时才会回收。
- 通过创建DirectByteBuffer分配的堆外内存,会自带一个Cleaner对象,当DirectByteBuffer对象被回收时,会触发Cleaner对象的clean()方法对堆外内存回收。
在第一种情况下,如果一直不触发Full GC,那么当发生内存泄漏时,内存会逐渐耗尽。(如果在JVM启动参数中设置了最大堆外内存大小,那么达到阈值后也会触发Full GC)
slice()
和duplicate()
可以让多个buffer共享同一块内存。现在去除内存共享,让引用计数的规则更加简单。ByteBuff
抽象类和大量的实现类都被统一的Buffer
接口取代;新的Buffer
接口只有两种实现,一种基于MemorySegment
,一个是CompositeBuffer
。通过Buffer
接口而非实现类来提供public访问。ByteBufAllocator
接口被Allocator
取代。堆内/堆外、池化/非池化两个维度的不同buffer都通过Allocator
的静态工厂方法来分配。下面代码演示了Allocator
接口的用法:try (BufferAllocator allocator = BufferAllocator.heap();
Buffer buf = allocator.allocate(8)) {
// Access the buffer.
}
CompositeByteBuf
是对外暴露的类,新版本用CompositeBuffer
取代了它,不过大部分方法都隐藏在Buffer
接口下。这样做的好处是,不论是组合还是非组合buffer,它们的对外方法都被抽象成一致的,从而避免了许多地方需要对是否为组合buffer做条件判断。另一方面,有些方法是组合buffer特殊的,它们也提供在了CompositeBuffer
类中。组合buffer和普通buffer一样,也需要知道它们的allocator,因为在实现ensureWritable()
时需要。因此compose()
方法需要BufferAllocator
作为第一个参数:try (Buffer x = allocator.allocate(128);
Buffer y = allocator.allocate(128)) {
return CompositeBuffer.compose(allocator, x.send(), y.send());
}
通过compose()
生成的组合buffer会取得子buffer的所有权。
capacity管理:老版本有capacity()
和maxCapacity()
两个独立的概念,而且capacity是可以动态修改的。新版本只有capacity()
,不再有maxCapacity()
。只有ensureWritable()
和CompositeBuffer.extendWith()
方法可以增加capacity。ensureWritable()
需要先获取所有权,否则会抛出异常。write*()
方法不再自动增加capacity,若耗尽则会抛出异常。
字节顺序:老版本的ByteBuf.order(ByteOrder)
会返回代表原始buffer视图的新buffer实例,而新版本的Buffer.order(ByteOrder)
是直接在原buffer上修改,改变它的访问方法的字节顺序。对比之下,老版本API实现会造成额外的分配和包装buffer的性能开销。为了避免这部分开销,老版本还提供了get/set/read/write*LE()
方法,如今也都不需要了。
用split()切分buffer:老版本的slice()
让内存可以共享,但这会带来所有权混乱的问题。新版本用split()
来取代,与slice()
不同的是,用split()
切分后的两个buffer彼此独立,他们各自拥有不同的内存块、capacity、offset和owner。在内存管理中使用了二级引用计数的机制:当切分出来的子buffer都关闭后,原始的buffer也会被关闭。
buf.writeLong(x);
buf.writeLong(y);
executor.submit(new Task(buf.split().send()));
buf.ensureWritable(512);
在上面的例子中,buf被切成两段,一段通过send()
传给另一个线程做进一步处理,另一段(原始buf)保留原来的所有者,这使得它能够调用ensureWritable()
方法而不会抛出异常。
try-with-resource
管理buffer生命周期,但这只局限于本线程操作。如果我们需要在另一个线程关闭buffer,就需要显式地把buffer的所有权从一个线程转移到另一个。新版本提供了send()
和receive()
方法来发送和接收buffer的所有权。这里要注意两点:一是若只调用send()
不调用receive()
,则buffer最终会被Cleaner
回收掉;二是send()
会将buffer状态暂时置为不可用,receive()
时再恢复状态。下面代码演示了send()
和receive()
的用法:var send = buf.send();
executor.submit(() -> {
try (Buf received = send.receive()) {
// process received buffer...
}
});