• 重构优化第三方查询接口返回大数据量的分页问题


    # 问题描述
         用户线上查询其上网流量详单数据加载慢,且有时候数据没有响应全~
         1、经排除是调用第三方数据量达10w条响应会超时,数据没正常返回
         2、现有线上缓存分页也是加载慢数据不能正常展示
         3、第三方接口返回类似报文jsonj:
         
        4、我们要返回页面的报文json
        

    5、页面最终类似截图显示结果:

    # 解决方案:
    >    第1种方案:历史遗留问题,第三方提供的接口是一次性返回数据,没考虑到用户查询一个月的数据量会超过几万条,所以我们作为调用方也只能通过redis缓存然后前端递归分页加载所有数据展现~
    > 代码示例:

           第1种方案若第三方接口返回的数据量少,线上一直正常呈现给用户数据;某天某个用户查询数据上万条返回然后问题暴露了,问题1、第三方接口超时失败(咱不通过协同系统解决问题);2、前端在递归查询缓存所有的数据加载慢用户体验非常差‘。
    因为是线上问题,尽量避免前端修改最少化,只能通过后端接口来解决,通过原有业务流程及代码的解读,第三方接口最新版本也有兼容分页调用,但是没法同步分页的,其分页返回的数据达不到我们现有线上前端展示的结构要求,要按日期yyyy-MM-dd分开分组,只能重构优化;
    第2种方案:

    #相关工具类代码

    /**
     * 时间数组中取最大最小日期
     *
     * @param dateArray 时间日期数据:yyyy-MM-dd
     * @param flag 值为true 返回最大值,false返回最小值
     * @return 2013-11-11
     */
    public static String showMaxOrMinDate(String[] dateArray, boolean flag) {
        Map dateMap = new TreeMap<>();
        int i, arrayLen;
        arrayLen = dateArray.length;
        for (i = 0; i < arrayLen; i++) {
            String dateKey = dateArray[i];
            if (dateMap.containsKey(dateKey)) {
                int value = dateMap.get(dateKey) + 1;
                dateMap.put(dateKey, value);
            } else {
                dateMap.put(dateKey, 1);
            }
        }
        Set keySet = dateMap.keySet();
        String[] sorttedArray = new String[keySet.size()];
        Iterator iter = keySet.iterator();
        int index = 0;
        while (iter.hasNext()) {
            String key = iter.next();
            sorttedArray[index++] = key;
        }
        int sorttedArrayLen = sorttedArray.length;
        String dateStr = "";
        if (flag) {
            dateStr = sorttedArray[sorttedArrayLen - 1];
        } else {
            dateStr = sorttedArray[0];
        }
        return dateStr;
    }
    /**
     * @Author dxw
     * @Description //TODO 获取传入日期所在年的第一天
     * @Date 19:19 2021/3/29
     * @Param
     * @return
     */
    public static Date getLastDayOfMonth(Date date) {
        final Calendar cal = Calendar.getInstance();
        cal.setTime(date);
        final int last = cal.getActualMaximum(Calendar.DAY_OF_MONTH);
        cal.set(Calendar.DAY_OF_MONTH, last);
        return cal.getTime();
    }
    
    /**
     * 日期转字符串
     */
    public static String date2String(Date date, String pattern) {
        if (date == null) {
            throw new IllegalArgumentException("timestamp null illegal");
        }
        pattern = (pattern == null || pattern.equals("")) ? "yyyy-MM-dd": pattern;
        SimpleDateFormat sdf = new SimpleDateFormat(pattern);
        return sdf.format(date);
    }
    /**
     * 比较两个日期的月份是否一致
     *
     * @param startDate 要比较日期
     * @param endDate 比较日期
     * @return
     */
    public static boolean isSameMonth(String startDate, String endDate) {
        Date date1 = DateUtil.parse(startDate);
        Date date2 = DateUtil.parse(endDate);
        return DateUtil.isSameMonth(date1, date2);
    }
    /**
     * 获取两个时间中间的日期(天)
     * 
     * @param startDate "2022-01-09"
     * @param endDate "2022-01-12"
     * @return [2022-01-09, 2022-01-10, 2022-01-11, 2022-01-12]
     */
    public static List getBetweenDay(String startDate, String endDate) {
        Date start = null;// 定义起始日期
        Date end = null;// 定义结束日期
        try {
            start = new SimpleDateFormat("yyyy-MM-dd").parse(startDate);
            end = new SimpleDateFormat("yyyy-MM-dd").parse(endDate);
        } catch (ParseException e) {
            e.printStackTrace();
        }
        List result = new ArrayList<>();
        SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd");
        Date date = start;
        Calendar cd = Calendar.getInstance();// 用Calendar 进行日期比较判断
        while (true) {
            assert date != null;
            assert end != null;
            if (!(date.getTime() <= end.getTime())) {
                break;
            }
            result.add(sdf.format(date));
            cd.setTime(date);
            cd.add(Calendar.DATE, 1);// 增加一天 放入集合
            date = cd.getTime();
        }
        return result;
    }

  • 相关阅读:
    数据分析实战│时间序列预测
    大学生餐饮主题网页制作 美食网页设计模板 学生静态网页作业成品 dreamweaver美食甜品蛋糕HTML网站制作
    logback-spring.xml 中根据不同的业务表示,分类打印到不同的文件夹、时区动态设置
    mobaxterm 中 docker 快速搜索进入 命令
    8、IOC 之容器扩展点
    eviews序列相关性修正完变量不显著了怎么办
    创建commons和cart模块
    Spring系列18:Resource接口及内置实现
    数据结构与算法——算法时间复杂度
    数字化转型企业成功的关键,用数据创造价值
  • 原文地址:https://blog.csdn.net/dengxw00/article/details/132866360