码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • expdp导出分区表缓慢排查(Streams AQ: waiting for messages in the queue )


    基本信息

    单机,从老环境迁移到19.19。之前的导出速度接受范围内。硬件是提升的

    导出使用了压缩,加密,并行64进程,表分区约90个,无lob字段。

    现象

    导出开始时能并行导出(并行约45个,没起到64个怀疑跟分区较少有关),然后所有dump在70m左右时,只有一个dump开始持续增长。

    dm,dw进程有正常启动,worker数量也是45个。

    空闲的worker事件为Streams AQ: waiting for messages in the queue 

    导出开始时没有报出estimate blocks的信息

    尝试增加large pool,依旧无法并行

    尝试调整access_method=extnernal_table,依旧无法并行

    尝试增加lstream pool,依旧无法并行

    尝试增加aq_tm_processes,依旧无法并行

    转机

    观察只在干活的worker导出进度,发现其一直在顺序导出分区(part 110 part 111 part112这样)。

    联想到没有estimate blocks的信息,怀疑导出是机械性的分片操作,导致有数据的分区集中在干活的worker上。

    查看分区的行数,发现大部分分区都没有填充的统计信息。

    收集该表的统计信息,然后重新正常导出,导出并行拉到20左右,多个dump在均衡增长。parallel在单个worker上有3的并行度

    总结

    巨大的知识性盲点。mos并没有相关文献可以参考。解决也是靠灵光一现。

    {统计信息会影响导出的分片逻辑}

    学习原理,积累工具;孵化思路,下笔有道

  • 相关阅读:
    【MySQL调优(二)】性能监控分析 - Show Profile
    30岁测试开发年薪不足80万,还要被面试官diss混得太差?
    任务及任务切换
    Mysql 死锁和死锁的解决方案
    SSM整合redis及redis的注解式开发和解决Redis缓存问题
    Django模板(一)
    【java数据结构】就是你爱的那颗二叉树
    一台电脑生成两个ssh,绑定两个GitHub账号
    vue165-main.js-vue中的小提示
    【四数之和】
  • 原文地址:https://blog.csdn.net/q195136130/article/details/134562440
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号