• Doris扩容和缩容


    Doris 可以很方便的扩容和缩容 FE、BE、Broker 实例。

    FE 扩容和缩容

    可以通过将 FE 扩容至 3 个以上节点来实现 FE 的高可用。

    1)使用 MySQL 登录客户端后,可以使用 sql 命令查看 FE 状态,目前就一台 FE

    1. mysql -h hadoop1 -P 9030 -uroot -p
    2. SHOW PROC '/frontends';

    也可以通过页面访问进行监控,访问 8030,账户为 root,密码默认为空不用填写。

    2)增加 FE 节点

    FE 分为 Leader,Follower 和 Observer 三种角色。 默认一个集群,只能有一个 Leader,可以有多个 Follower 和 Observer。其中 Leader 和 Follower 组成一个 Paxos 选择组,如果Leader 宕机,则剩下的 Follower 会自动选出新的 Leader,保证写入高可用。Observer 同步Leader 的数据,但是不参加选举。

    如果只部署一个 FE,则 FE 默认就是 Leader。在此基础上,可以添加若干 Follower 和Observer。

    1. ALTER SYSTEM ADD FOLLOWER "hadoop2:9010";
    2. ALTER SYSTEM ADD OBSERVER "hadoop3:9010";

    3)配置及启动 Follower 和 Observer

    第一次启动时,启动命令需要添加参--helper leader 主机:edit_log_port:

    (1)分发 FE,修改 FE 的配置

    1. scp -r /opt/module/apache-doris-0.15.0/fe hadoop2:/opt/module/
    2. apache-doris-0.15.0
    3. scp -r /opt/module/apache-doris-0.15.0/fe hadoop3:/opt/module/
    4. apache-doris-0.15.0

    (2)在 hadoop2 启动 Follower

    /opt/module/apache-doris-0.15.0/fe/bin/start_fe.sh --helper hadoop1:9010 --daemon
    

    (3)在 hadoop3 启动 Observer

    /opt/module/apache-doris-0.15.0/fe/bin/start_fe.sh --helper hadoop1:9010 --daemon
    

    4)查看运行状态

    使用 mysql-client 连接到任一已启动的 FE。

    SHOW PROC '/frontends';
    

    5)删除 FE 节点命令

    ALTER SYSTEM DROP FOLLOWER[OBSERVER] "fe_host:edit_log_port";
    

    注意:删除 Follower FE 时,确保最终剩余的 Follower(包括 Leader)节点为奇数。

    BE 扩容和缩容

    1)增加 BE 节点

    在 MySQL 客户端,通过 ALTER SYSTEM ADD BACKEND 命令增加 BE 节点。

    2)DROP 方式删除 BE 节点(不推荐)

    ALTER SYSTEM DROP BACKEND "be_host:be_heartbeat_service_port";
    

    注意:DROP BACKEND 会直接删除该 BE,并且其上的数据将不能再恢复!!!所以我们强烈不推荐使用 DROP BACKEND 这种方式删除 BE 节点。当你使用这个语句时,会有对应的防误操作提示。

    3)DECOMMISSION 方式删除 BE 节点(推荐)

    ALTER SYSTEM DECOMMISSION BACKEND "be_host:be_heartbeat_service_port";
    

    该命令用于安全删除 BE 节点。命令下发后,Doris 会尝试将该 BE 上的数据向其他 BE 节点迁移,当所有数据都迁移完成后,Doris 会自动删除该节点。

    该命令是一个异步操作。执行后,可以通过 SHOW PROC '/backends'; 看到该 BE 节点的 isDecommission 状态为 true。表示该节点正在进行下线。

    该命令不一定执行成功。比如剩余 BE 存储空间不足以容纳下线 BE 上的数据,或者剩余机器数量不满足最小副本数时,该命令都无法完成,并且 BE 会一直处于isDecommission 为 true 的状态。

    DECOMMISSION 的进度,可以通过 SHOW PROC '/backends'; 中的 TabletNum 查 看,如果正在进行,TabletNum 将不断减少。

    该操作可以通过如下命令取消:

    CANCEL DECOMMISSION BACKEND "be_host:be_heartbeat_service_port";

    取消后,该 BE 上的数据将维持当前剩余的数据量。后续 Doris 重新进行负载均衡。

    Broker 扩容缩容

    Broker 实例的数量没有硬性要求。通常每台物理机部署一个即可。Broker 的添加和删除可以通过以下命令完成:

    1. ALTER SYSTEM ADD BROKER broker_name "broker_host:broker_ipc_port";
    2. ALTER SYSTEM DROP BROKER broker_name "broker_host:broker_ipc_port";
    3. ALTER SYSTEM DROP ALL BROKER broker_name;

    Broker 是无状态的进程,可以随意启停。当然,停止后,正在其上运行的作业会失败,重试即可。

  • 相关阅读:
    01-js书写方式、变量
    移动端异构运算技术 - GPU OpenCL 编程(基础篇)
    基于CNTK/C#实现图像分类【附部分源码及模型】
    神经网络训练准确率不变,神经网络越训练越差
    SQL教育行业案例:学员续费如何分析?(case when、窗口函数)
    淘宝/天猫获取卖出的商品订单列表 API
    元数据Metadata到底有什么用
    【Java】Java 11 新特性概览
    Java刷题面试系列习题(一)
    【排序算法】冒泡排序
  • 原文地址:https://blog.csdn.net/weixin_46039745/article/details/134546426