• SpringBoot 集成缓存性能之王 Caffeine


    使用缓存的目的就是提高性能,今天码哥带大家实践运用 spring-boot-starter-cache 抽象的缓存组件去集成本地缓存性能之王 Caffeine

    大家需要注意的是:in-memeory 缓存只适合在单体应用,不适合与分布式环境

    分布式环境的情况下需要将缓存修改同步到每个节点,需要一个同步机制保证每个节点缓存数据最终一致。

    Spring Cache 是什么

    不使用 Spring Cache 抽象的缓存接口,我们需要根据不同的缓存框架去实现缓存,需要在对应的代码里面去对应缓存加载、删除、更新等。

    比如查询我们使用旁路缓存策略:先从缓存中查询数据,如果查不到则从数据库查询并写到缓存中。

    伪代码如下:

    public User getUser(long userId) {
        // 从缓存查询
        User user = cache.get(userId);
        if (user != null) {
            return user;
        }
        // 从数据库加载
        User dbUser = loadDataFromDB(userId);
        if (dbUser != null) {
            // 设置到缓存中
            cache.put(userId, dbUser)
        }
        return dbUser;
    }
    

    我们需要写大量的这种繁琐代码,Spring Cache 则对缓存进行了抽象,提供了如下几个注解实现了缓存管理:

    • @Cacheable:触发缓存读取操作,用于查询方法上,如果缓存中找到则直接取出缓存并返回,否则执行目标方法并将结果缓存。
    • @CachePut:触发缓存更新的方法上,与 Cacheable 相比,该注解的方法始终都会被执行,并且使用方法返回的结果去更新缓存,适用于 insert 和 update 行为的方法上。
    • @CacheEvict:触发缓存失效,删除缓存项或者清空缓存,适用于 delete 方法上。

    除此之外,抽象的 CacheManager 既能集成基于本地内存的单体应用,也能集成 EhCache、Redis 等缓存服务器。

    最方便的是通过一些简单配置和注解就能接入不同的缓存框架,无需修改任何代码。

    集成 Caffeine

    码哥带大家使用注解方式完成缓存操作的方式来集成,完整的代码请访问 githubhttps://github.com/MageByte-Zero/springboot-parent-pom,在 pom.xml 文件添加如下依赖:

    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-cache</artifactId>
    </dependency>
    
    <dependency>
        <groupId>com.github.ben-manes.caffeine</groupId>
        <artifactId>caffeine</artifactId>
    </dependency>
    

    使用 JavaConfig 方式配置 CacheManager

    @Slf4j
    @EnableCaching
    @Configuration
    public class CacheConfig {
    
        @Autowired
        @Qualifier("cacheExecutor")
        private Executor cacheExecutor;
    
        @Bean
        public Caffeine<Object, Object> caffeineCache() {
    
            return Caffeine.newBuilder()
                    // 设置最后一次写入或访问后经过固定时间过期
                    .expireAfterAccess(7, TimeUnit.DAYS)
                    // 初始的缓存空间大小
                    .initialCapacity(500)
                	// 使用自定义线程池
                    .executor(cacheExecutor)
                    .removalListener(((key, value, cause) -> log.info("key:{} removed, removalCause:{}.", key, cause.name())))
                    // 缓存的最大条数
                    .maximumSize(1000);
        }
    
        @Bean
        public CacheManager cacheManager() {
            CaffeineCacheManager caffeineCacheManager = new CaffeineCacheManager();
            caffeineCacheManager.setCaffeine(caffeineCache());
            // 不缓存空值
            caffeineCacheManager.setAllowNullValues(false);
            return caffeineCacheManager;
        }
    }
    

    准备工作搞定,接下来就是如何使用了。

    @Slf4j
    @Service
    public class AddressService {
    
        public static final String CACHE_NAME = "caffeine:address";
    
        private static final AtomicLong ID_CREATOR = new AtomicLong(0);
    
        private Map<Long, AddressDTO> addressMap;
    
        public AddressService() {
            addressMap = new ConcurrentHashMap<>();
    
            addressMap.put(ID_CREATOR.incrementAndGet(), AddressDTO.builder().customerId(ID_CREATOR.get()).address("地址1").build());
            addressMap.put(ID_CREATOR.incrementAndGet(), AddressDTO.builder().customerId(ID_CREATOR.get()).address("地址2").build());
            addressMap.put(ID_CREATOR.incrementAndGet(), AddressDTO.builder().customerId(ID_CREATOR.get()).address("地址3").build());
        }
    
        @Cacheable(cacheNames = {CACHE_NAME}, key = "#customerId")
        public AddressDTO getAddress(long customerId) {
            log.info("customerId:{} 没有走缓存,开始从数据库查询", customerId);
            return addressMap.get(customerId);
        }
    
        @CachePut(cacheNames = {CACHE_NAME}, key = "#result.customerId")
        public AddressDTO create(String address) {
            long customerId = ID_CREATOR.incrementAndGet();
            AddressDTO addressDTO = AddressDTO.builder().customerId(customerId).address(address).build();
    
            addressMap.put(customerId, addressDTO);
            return addressDTO;
        }
    
        @CachePut(cacheNames = {CACHE_NAME}, key = "#result.customerId")
        public AddressDTO update(Long customerId, String address) {
    
            AddressDTO addressDTO = addressMap.get(customerId);
            if (addressDTO == null) {
                throw new RuntimeException("没有 customerId = " + customerId + "的地址");
            }
    
            addressDTO.setAddress(address);
            return addressDTO;
        }
    
        @CacheEvict(cacheNames = {CACHE_NAME}, key = "#customerId")
        public boolean delete(long customerId) {
            log.info("缓存 {} 被删除", customerId);
            return true;
        }
    }
    

    使用 CacheName 隔离不同业务场景的缓存,每个 Cache 内部持有一个 map 结构存储数据,key 可用使用 Spring 的 Spel 表达式。

    单元测试走起:

    @RunWith(SpringRunner.class)
    @SpringBootTest(classes = CaffeineApplication.class)
    @Slf4j
    public class CaffeineApplicationTests {
    
        @Autowired
        private AddressService addressService;
    
        @Autowired
        private CacheManager cacheManager;
    
        @Test
        public void testCache() {
            // 插入缓存 和数据库
            AddressDTO newInsert = addressService.create("南山大道");
            // 要走缓存
            AddressDTO address = addressService.getAddress(newInsert.getCustomerId());
            long customerId = 2;
    
            // 第一次未命中缓存,打印 customerId:{} 没有走缓存,开始从数据库查询
            AddressDTO address2 = addressService.getAddress(customerId);
            // 命中缓存
            AddressDTO cacheAddress2 = addressService.getAddress(customerId);
    
            // 更新数据库和缓存
            addressService.update(customerId, "地址 2 被修改");
    
            // 更新后查询,依然命中缓存
            AddressDTO hitCache2 = addressService.getAddress(customerId);
            Assert.assertEquals(hitCache2.getAddress(), "地址 2 被修改");
    
            // 删除缓存
            addressService.delete(customerId);
    
            // 未命中缓存, 从数据库读取
            AddressDTO hit = addressService.getAddress(customerId);
            System.out.println(hit.getCustomerId());
        }
    
    }
    
    

    大家发现没,只需要在对应的方法上加上注解,就能愉快的使用缓存了。需要注意的是, 设置的 cacheNames 一定要对应,每个业务场景使用对应的 cacheNames。

    另外 key 可以使用 spel 表达式,大家重点可以关注 @CachePut(cacheNames = {CACHE_NAME}, key = "#result.customerId"),result 表示接口返回结果,Spring 提供了几个元数据直接使用。

    名称 地点 描述 例子
    methodName 根对象 被调用的方法的名称 #root.methodName
    method 根对象 被调用的方法 #root.method.name
    target 根对象 被调用的目标对象 #root.target
    targetClass 根对象 被调用的目标的类 #root.targetClass
    args 根对象 用于调用目标的参数(作为数组) #root.args[0]
    caches 根对象 运行当前方法的缓存集合 #root.caches[0].name
    参数名称 评估上下文 任何方法参数的名称。如果名称不可用(可能是由于没有调试信息),则参数名称也可在#a<#arg> where#arg代表参数索引(从 开始0)下获得。 #iban#a0(您也可以使用#p0#p<#arg>表示法作为别名)。
    result 评估上下文 方法调用的结果(要缓存的值)。仅在unless 表达式、cache put表达式(计算key)或cache evict 表达式(when beforeInvocationis false)中可用。对于支持的包装器(例如 Optional),#result指的是实际对象,而不是包装器。 #result

    核心原理

    Java Caching定义了5个核心接口,分别是 CachingProvider, CacheManager, Cache, EntryExpiry

    核心类图:

    • Cache:抽象了缓存的操作,比如,get()、put();
    • CacheManager:管理 Cache,可以理解成 Cache 的集合管理,之所以有多个 Cache,是因为可以根据不同场景使用不同的缓存失效时间和数量限制。
    • CacheInterceptor、CacheAspectSupport、AbstractCacheInvoker:CacheInterceptor 是一个AOP 方法拦截器,在方法前后做额外的逻辑,比如查询操作,先查缓存,找不到数据再执行方法,并把方法的结果写入缓存等,它继承了CacheAspectSupport(缓存操作的主体逻辑)、AbstractCacheInvoker(封装了对 Cache 的读写)。
    • CacheOperation、AnnotationCacheOperationSource、SpringCacheAnnotationParser:CacheOperation定义了缓存操作的缓存名字、缓存key、缓存条件condition、CacheManager等,AnnotationCacheOperationSource 是一个获取缓存注解对应 CacheOperation 的类,而SpringCacheAnnotationParser 是解析注解的类,解析后会封装成 CacheOperation 集合供AnnotationCacheOperationSource 查找。

    CacheAspectSupport:缓存切面支持类,是CacheInterceptor 的父类,封装了所有的缓存操作的主体逻辑。

    主要流程如下:

    1. 通过CacheOperationSource,获取所有的CacheOperation列表
    2. 如果有@CacheEvict注解、并且标记为在调用前执行,则做删除/清空缓存的操作
    3. 如果有@Cacheable注解,查询缓存
    4. 如果缓存未命中(查询结果为null),则新增到cachePutRequests,后续执行原始方法后会写入缓存
    5. 缓存命中时,使用缓存值作为结果;缓存未命中、或有@CachePut注解时,需要调用原始方法,使用原始方法的返回值作为结果
    6. 如果有@CachePut注解,则新增到cachePutRequests
    7. 如果缓存未命中,则把查询结果值写入缓存;如果有@CachePut注解,也把方法执行结果写入缓存
    8. 如果有@CacheEvict注解、并且标记为在调用后执行,则做删除/清空缓存的操作

    今天就到这了,分享一些工作小技巧给大家,后面码哥会分享如何接入 Redis ,并且带大家实现一个基于 Sping Boot 实现一个 Caffeine 作为一级缓存、Redis 作为二级缓存的分布式二级缓存框架。

    我们下期见,大家可以在评论区叫我靓仔么?不叫也行,点赞分享也是鼓励。

    参考资料

    [1]https://segmentfault.com/a/1190000041640222

    [2]https://docs.spring.io/spring-framework/docs/current/reference/html/integration.html#cache

  • 相关阅读:
    Android 开发者的跨平台 - Flutter or Compose ?
    第二证券|11月十大牛股出炉 特一药业163%涨幅问鼎榜首
    【问题记录】audio标签变更currentTime属性值无效,currentTime变为0
    CRM项目记录(一)
    AdServices归因和iAd归因集成
    血糖老控制不好,是不是因为以下的原因
    Win10应用商店无法加载页面,错误代码0x80131500怎么办
    性能测试:工具篇:Jmeter实时可视化平台搭建
    一篇文章学会C#的正则表达式
    [动态规划] 0-1背包问题和完全背包问题
  • 原文地址:https://www.cnblogs.com/uniqueDong/p/16396615.html