码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • HDFS 读写解析


    HDFS 读数据流程

    在这里插入图片描述

    客户端通过 FileSystem 向 NameNode 发起请求下载文件,NameNode 通过查询元数据找到文件所在的 DataNode 地址
    挑选一台 DataNode(就近原则)服务器,发送读取数据请求
    DataNode 开始传输数据给客户端
    客户端以 Packet 为单位接收,先在本地缓存,然后写入目标文件
    HDFS 写数据流程

    在这里插入图片描述

    客户端通过 FileSystem 模块向 NameNode 发送上传文件请求,NameNode 检查目标文件是否已存在,父目录是否存在
    NameNode 返回是否可以上传
    客户端请求询问第一个 Block 上传到哪几个 DataNode 服务器
    NameNode 返回 n 个 DataNode 节点,如 dn1、dn2、nd3
    客户端通过 FSDataOutputStream 模块请求 dn1 上传数据,dn1 收到请求会继续调用 dn2,然后 dn2 调用 dn3,将这个通信管道建立完成
    dn1、dn2、nd3 逐级应答客户端
    客户端开始往 dn1 上传第一个 Block(先从磁盘读取数据放到一个本地内存缓存),以 Packet 为单位,dn1 收到一个 Packet 就会传给 dn2,dn2 传给 dn3,dn1 每传一个 packet 会放入一个确认队列等待确认
    当一个 Block 传输完成之后,客户

  • 相关阅读:
    MySQL入门 - 数据分组之 group by
    【微服务解耦之事件启动】Spring Boot 解耦之事件驱动
    1、Python 基础知识总结
    vue项目created()被调用多次的坑
    才智杂志才智杂志社才智编辑部2022年第35期目录
    webrtc中的任务队列TaskQueue
    31.链表练习题(2)(王道2023数据结构2.3.7节16-25题)
    聊聊日报设计——日报怎么写,日报有何用?
    [附源码]计算机毕业设计springboot企业售后服务管理系统
    prize_p1
  • 原文地址:https://blog.csdn.net/weixin_43214644/article/details/126229112
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号