• mongodb-gridfs下载文件报Sort exceeded memory limit of 104857600 bytes异常


    报错详细信息

    com.mongodb.MongoQueryException: Query failed with error code 292 and error message 'Executor error during find command :: caused by :: Sort exceeded memory limit of 104857600 bytes, but did not opt in to external sorting.' on server 11.51.141.63:27017
    	at com.mongodb.internal.operation.FindOperation.lambda$execute$1(FindOperation.java:670)
    	at com.mongodb.internal.operation.OperationHelper.lambda$withSourceAndConnection$2(OperationHelper.java:564)
    	at com.mongodb.internal.operation.OperationHelper.withSuppliedResource(OperationHelper.java:589)
    	at com.mongodb.internal.operation.OperationHelper.lambda$withSourceAndConnection$3(OperationHelper.java:563)
    	at com.mongodb.internal.operation.OperationHelper.withSuppliedResource(OperationHelper.java:589)
    	at com.mongodb.internal.operation.OperationHelper.withSourceAndConnection(OperationHelper.java:562)
    	at com.mongodb.internal.operation.FindOperation.lambda$execute$2(FindOperation.java:661)
    	at com.mongodb.internal.async.function.RetryingSyncSupplier.get(RetryingSyncSupplier.java:65)
    	at com.mongodb.internal.operation.FindOperation.execute(FindOperation.java:692)
    	at com.mongodb.internal.operation.FindOperation.execute(FindOperation.java:86)
    	at com.mongodb.client.internal.MongoClientDelegate$DelegateOperationExecutor.execute(MongoClientDelegate.java:191)
    	at com.mongodb.client.internal.MongoIterableImpl.execute(MongoIterableImpl.java:135)
    	at com.mongodb.client.internal.MongoIterableImpl.iterator(MongoIterableImpl.java:92)
    	at com.mongodb.client.gridfs.GridFSDownloadStreamImpl.getCursor(GridFSDownloadStreamImpl.java:240)
    	at com.mongodb.client.gridfs.GridFSDownloadStreamImpl.getChunk(GridFSDownloadStreamImpl.java:215)
    	at com.mongodb.client.gridfs.GridFSDownloadStreamImpl.getBuffer(GridFSDownloadStreamImpl.java:277)
    	at com.mongodb.client.gridfs.GridFSDownloadStreamImpl.read(GridFSDownloadStreamImpl.java:101)
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18

    解决方式(给fs.chunks集合的files_id字段加索引)如

    db.fs.chunks.find();
    
    db.fs.chunks.getIndexes();
    # 加索引
    db.fs.chunks.createIndex({files_id: 1, n: 1}, {unique: true});
    
    • 1
    • 2
    • 3
    • 4
    • 5

    加上索引后问题得以解决!


    针对网上说的

    1、直接修改系统限制内存大小的变量,如

    use admin
    db.auth("adminuser","passwd")
    db.adminCommand({setParameter:1, internalQueryExecMaxBlockingSortBytes:335544320})
    
    • 1
    • 2
    • 3

    执行这个命令需要admin用户认证成功,当时没有创建admin用户,也不好停掉MongoDB服务去创建admin用户,所以当时没有使用过此方式。当然不是所有的版本都有此变量,可以通过如下命令查询所有可修改的变量

    db.adminCommand({getParameter: '*'})
    
    • 1

    如果查到了就可以通过以上命令修改变量值,当然如MongoDB版本是5.0以上的,也可以直接修改配置文件如

    setParameter:
      internalQueryExecMaxBlockingSortBytes: 335544320
    
    • 1
    • 2

    2、开启使用磁盘(allowDiskUse)如

    db.getCollection('fs.chunks').aggregate([
    {$group:{_id:"$title",count:{$sum:1},title:{$addToSet:"$title"},ids:{$addToSet:"$_id"}}},{$match:{count:{$gt:1}}}],
    {allowDiskUse:true})
    
    • 1
    • 2
    • 3

    也可以从代码层面开启使用磁盘,具体可自行搜索一下。

    具体的配置含义也没有说清楚,当时试了很多次还是不行。估计是某个配置项没有配好,或者是不适用GridFs下载问题!

    3、找到具体报错的集合,然后添加合适的索引。

    如上面解决方式,问题得以解决。

    希望能帮助到您!

  • 相关阅读:
    【Linux(二)】最详细的centos7.6下载与安装
    leetcode-260.只出现一次的数字 III
    五个维度着手MySQL的优化,我和面试官都聊嗨了
    计算机毕业设计 SSM+Vue学生考研信息查询系统 考研资讯查询系统 考研咨询系统 考研论坛系统Java Vue MySQL数据库 远程调试 代码讲解
    Xilinx AXI USB2.0 Device IP 手册阅读笔记
    Win11系统点击wifi图标没有反应怎么解决?
    团建游戏------踩数字
    【数据分享】厦门市共享单车数据
    MySQL——简单认识一下索引吧(index)
    从Github登录的双因子验证到基于时间戳的一次性密码:2FA、OTP与TOTP
  • 原文地址:https://blog.csdn.net/m0_46357847/article/details/134021676