码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • expdp导出分区表缓慢排查(Streams AQ: waiting for messages in the queue )


    基本信息

    单机,从老环境迁移到19.19。之前的导出速度接受范围内。硬件是提升的

    导出使用了压缩,加密,并行64进程,表分区约90个,无lob字段。

    现象

    导出开始时能并行导出(并行约45个,没起到64个怀疑跟分区较少有关),然后所有dump在70m左右时,只有一个dump开始持续增长。

    dm,dw进程有正常启动,worker数量也是45个。

    空闲的worker事件为Streams AQ: waiting for messages in the queue 

    导出开始时没有报出estimate blocks的信息

    尝试增加large pool,依旧无法并行

    尝试调整access_method=extnernal_table,依旧无法并行

    尝试增加lstream pool,依旧无法并行

    尝试增加aq_tm_processes,依旧无法并行

    转机

    观察只在干活的worker导出进度,发现其一直在顺序导出分区(part 110 part 111 part112这样)。

    联想到没有estimate blocks的信息,怀疑导出是机械性的分片操作,导致有数据的分区集中在干活的worker上。

    查看分区的行数,发现大部分分区都没有填充的统计信息。

    收集该表的统计信息,然后重新正常导出,导出并行拉到20左右,多个dump在均衡增长。parallel在单个worker上有3的并行度

    总结

    巨大的知识性盲点。mos并没有相关文献可以参考。解决也是靠灵光一现。

    {统计信息会影响导出的分片逻辑}

    学习原理,积累工具;孵化思路,下笔有道

  • 相关阅读:
    Java通过相同属性合并多个List
    0915 算法题
    Maven项目目录结构和pom文件解读
    第三章:人工智能深度学习教程-基础神经网络(第一节-ANN 和 BNN 的区别)
    使用Chatgpt编写的PHP数据库pdo操作类(增删改查)
    【Kafka】Golang中使用Kafka基于发布订阅模式实现消息队列
    Spring中ApplicationListener事件监听机制详解
    2022年6月青少年机器人技术(三级)等级考试试卷-实操题
    同为科技(TOWE)主副控智能自动断电桌面PDU插排
    orm双下滑线
  • 原文地址:https://blog.csdn.net/q195136130/article/details/134562440
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号