• FastDFS收藏起来,现在开始用Minio吧


    MinIo 分布式文件存储

    在这里插入图片描述

    一、Minio介绍

    MinIO是全球领先的对象存储先锋,目前在全世界有数百万的用户。

    • 高性能 ,在标准硬件上,读/写速度上高达183GB/秒和171GB/秒,拥有更高的吞吐量和更低的延迟
    • 可扩展性 ,为对象存储带来了简单的缩放模型,通过添加更多集群可以扩展空间
    • 简单 ,极简主义是MinIO的指导性设计原则,即可在几分钟内安装和配置
    • 与Amazon S3兼容 ,亚马逊云的 S3 API(接口协议)是在全球范围内达到共识的对象存储的协议,是全世界内大家都认可的标准
    • 数据安全 ,使用纠删码来保护数据免受硬件故障和无声数据损坏

    纠删码

      纠删码是一种恢复丢失和损坏数据的数学算法, Minio默认采用 Reed-Solomon code将数据拆分成N/2个数据块和N/2个奇偶校验块。这就意味着如果是16块盘,一个对象会被分成8个数据块、8个奇偶校验块,你可以丢失任意8块盘(不管其是存放的数据块还是校验块),你仍可以从剩下的盘中的数据进行恢复。

    http://docs.minio.org.cn/docs/master/java-client-quickstart-guide

    Minio和FastDFS的对比

    1. 安装难度
    2. 文档
    3. 性能
    4. 容器化支持
    5. SDK支持

    二、Minio安装

      为了快速搞定Minio的部署工作。我们通过Docker-Compose来一键快速部署操作

    1.安装DockerCompose

      安装DockerCompose的前提是先安装一个Docker环境,如果还没安装的参考波哥的博客地址:https://blog.csdn.net/qq_38526573/category_9619681.html

      Compose 是用于定义和运行多容器 Docker 应用程序的工具。通过 Compose,您可以使用 YML 文件来配置应用程序需要的所有服务。然后,使用一个命令,就可以从 YML 文件配置中创建并启动所有服务。

    一键启动所有的服务

    DockerCompose的使用步骤

    • 创建对应的DockerFile文件
    • 创建yml文件,在yml文件中编排我们的服务
    • 通过 docker-compose up命令 一键运行我们的容器

    官网地址:https://docs.docker.com/compose

    下载地址:

    curl -L https://get.daocloud.io/docker/compose/releases/download/1.25.0/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose
    
    • 1

    修改文件夹权限

    chmod +x /usr/local/bin/docker-compose
    
    • 1

    建立软连接

    ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
    
    • 1

    检查是否安装成功

    docker-compose --version
    
    • 1

    2.安装Minio集群

    官方推荐 docker-compose.yaml

    稍加修改,内容如下:

    version: '3.7'
    
    # 所有容器通用的设置和配置
    x-minio-common: &minio-common
      image: minio/minio
      command: server --console-address ":9001" http://minio{1...4}/data
      expose:
        - "9000"
      # environment:
        # MINIO_ROOT_USER: minioadmin
        # MINIO_ROOT_PASSWORD: minioadmin
      healthcheck:
        test: ["CMD", "curl", "-f", "http://localhost:9000/minio/health/live"]
        interval: 30s
        timeout: 20s
        retries: 3
    
    # 启动4个docker容器运行minio服务器实例
    # 使用nginx反向代理9000端口,负载均衡, 你可以通过9001、9002、9003、9004端口访问它们的web console
    services:
      minio1:
        <<: *minio-common
        hostname: minio1
        ports:
          - "9001:9001"
        volumes:
          - ./data/data1:/data
    
      minio2:
        <<: *minio-common
        hostname: minio2
        ports:
          - "9002:9001"
        volumes:
          - ./data/data2:/data
    
      minio3:
        <<: *minio-common
        hostname: minio3
        ports:
          - "9003:9001"
        volumes:
          - ./data/data3:/data
    
      minio4:
        <<: *minio-common
        hostname: minio4
        ports:
          - "9004:9001"
        volumes:
          - ./data/data4:/data
    
      nginx:
        image: nginx:1.19.2-alpine
        hostname: nginx
        volumes:
          - ./config/nginx.conf:/etc/nginx/nginx.conf:ro
        ports:
          - "9000:9000"
        depends_on:
          - minio1
          - minio2
          - minio3
          - minio4
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64

    接着新建文件夹 config,新建配置 nginx.conf

    user  nginx;
    worker_processes  auto;
    
    error_log  /var/log/nginx/error.log warn;
    pid        /var/run/nginx.pid;
    
    events {
        worker_connections  4096;
    }
    
    http {
        include       /etc/nginx/mime.types;
        default_type  application/octet-stream;
    
        log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                          '$status $body_bytes_sent "$http_referer" '
                          '"$http_user_agent" "$http_x_forwarded_for"';
    
        access_log  /var/log/nginx/access.log  main;
        sendfile        on;
        keepalive_timeout  65;
    
        # include /etc/nginx/conf.d/*.conf;
    
        upstream minio {
            server minio1:9000;
            server minio2:9000;
            server minio3:9000;
            server minio4:9000;
        }
    
        server {
            listen       9000;
            listen  [::]:9000;
            server_name  localhost;
    
            # To allow special characters in headers
            ignore_invalid_headers off;
            # Allow any size file to be uploaded.
            # Set to a value such as 1000m; to restrict file size to a specific value
            client_max_body_size 0;
            # To disable buffering
            proxy_buffering off;
    
            location / {
                proxy_set_header Host $http_host;
                proxy_set_header X-Real-IP $remote_addr;
                proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
                proxy_set_header X-Forwarded-Proto $scheme;
    
                proxy_connect_timeout 300;
                # Default is HTTP/1, keepalive is only enabled in HTTP/1.1
                proxy_http_version 1.1;
                proxy_set_header Connection "";
                chunked_transfer_encoding off;
    
                proxy_pass http://minio;
            }
        }
    
    }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61

    然后执行对应的命令

    docker-compose up -d
    
    • 1

    image.png

    访问控制台:http://192.168.56.100:9000

    image.png

    账号密码为:minioadmin

    image.png

    三、Minio客户端

      然后我们可以创建一个Java项目来操作文件上传下载操作。

    1.Bucket

      Bucket是桶的意思。我们创建一个Bucket

    image.png

    image.png

    我们还可以直接上传图片文件等

    image.png

    image.png

    2.用户管理

      针对客户端的操作,我们需要维护相关的账号来管理。

    image.png

    直接点击创建相关的用户即可

    image.png

    用户创建完成后我们就可以通过客户端工具来操作了。

    3. Java项目

      然后我们来看看如何在Java项目中来操作了。

    首先添加必要的依赖

    <dependency>
                <groupId>io.miniogroupId>
                <artifactId>minioartifactId>
                <version>7.0.2version>
            dependency>
            
            <dependency>
                <groupId>commons-iogroupId>
                <artifactId>commons-ioartifactId>
                <version>2.8.0version>
            dependency>
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11

    然后通过相关的API操作即可

    
        private String endpoint = "http://192.168.56.100:9000";
        private String accessKey = "dpb";
        private String secretKey = "12345678";
    
        @Test
        void contextLoads() throws Exception{
            // 1.使用MinIo服务的URL,端口 账号和密码 创建一个 MinIoClient对象
            MinioClient minioClient = new MinioClient(endpoint, accessKey, secretKey);
            boolean isExists = minioClient.bucketExists("test");
            if(isExists){
                System.out.println("已经存在了 test 这个 Bucket");
            }else{
                minioClient.makeBucket("test");
            }
            // 存储文件到 存储桶中
            minioClient.putObject("test","/group1/UserMapper.xml","d:/UserMapper.xml",null);
            System.out.println("文件上传成功...");
            // 下载文件
            InputStream in = minioClient.getObject("test", "/group1/UserMapper.xml");
            List<String> strings = IOUtils.readLines(in, "UTF-8");
            strings.stream().forEach(s -> System.out.println(s));
        }
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23

    执行后成功:

    image.png

    image.png

    搞定

    4.获取图片地址

      如果上传的是普通文件我们可以获取对应的字节流来操作,但是如果我们需要获取的是图片。只要访问就可以了,这时我们可以通过对应的API来获取图片的URL地址就可以了

    image.png

    但是在访问的时候缺提示访问不了

    image.png

    原因是我们需要设置下Bucket的策略

    image.png

    image.png

    访问就可以了

    image.png
    搞定~

  • 相关阅读:
    JAVA直播购物平台计算机毕业设计Mybatis+系统+数据库+调试部署
    基于VitePress创建组件文档
    Nanoprobes Mono- Sulfo -NHS-Nanogold的使用和应用
    git从远程仓库拉取指定日期版本的代码到本地
    Kubernetes网络侃闲天
    <二>派生类的构造过程
    Spring——三级缓存解决循环依赖详解
    无序点云排序
    记一次导入下载好的源码工程到本地工程异常解决方案
    PHP日志库 - Monolog 知识整理
  • 原文地址:https://blog.csdn.net/qq_38526573/article/details/127578178