码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 从GPFS到NAS:共享文件系统使用之变革


    【导读】在过去的10-20年里,作为适用于高性能计算场景的方案,GPFS在过去的共享文件存储历史长河中发挥了巨大作用。随着企业存储系统的发展,集中式NAS存储在高可用架构、性能、软件特性等各个方面达到前所未有的水平。同时,集中式的NAS存储也提供了成熟的双活以及异步复制等解决方案,很好地匹配了企业的文件高可用性建设需求。本文结合笔者所在银行在共享文件存储的现状和未来发展等几个方面进行了分享,希望本文能给银行IT同行们带来一点启发和参考。

    1 概述

    1.1 背景

    我行ODS数据平台作为为全省农商行供数的重要数据系统,其中的ETL集群起着每日进行数据加工处理的功能。目前ODS ETL由10台PC服务器组成集群,每台服务器通过SAN网络连接集中存储,每台服务器操作系统上安装IBM GPFS软件实现10台服务器并行访问同一个容量为14TB的共享文件系统。

    随着业务的飞速发展,存储数据量快速增长,IOPS不断提高,原有存储架构的容量和性能逐渐面临瓶颈。另外,由于底层的主要集中存储使用年限已超8年,面临故障率高和性能不足的风险。在这样的背景下,我们计划对ODS ETL整体架构重新进行设计和建设,搭建一套全新架构,支撑未来业务的持续发展。

    1.2 目标

    随着业务的飞速发展,存储数据量快速增长,IOPS不断提高。为了支撑未来业务的高速发展,我们计划对搭建一套全新的ODS ETL架构,实现功能和性能的提升。这套新的架构首先要满足ODS ETL批量处理的性能增长需求,同时实现底层存储的双活架构,提升整体架构的高可用。

    2 GPFS使用现状

  • 相关阅读:
    快速修复“找不到xinput1_3.dll无法继续执行此代码的”问题的5个方法
    Jmeter之测试元件-JSR223 PreProcessor
    dolphinscheduler3.1.1 部署
    java-php-python--关爱留守儿童志愿者管理系统-计算机毕业设计
    每日分享html之2个悬停、2个加载、1个button
    奇迹mu技术分享:奇迹服务端中的【DATA】文件详细说明
    数据结构第四课 -----线性表之队列
    【Linux操作系统】——安装CentOS系统
    住院管理管理系统
    YOLO v9训练自己数据集
  • 原文地址:https://blog.csdn.net/qq_61890005/article/details/127988907
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号