• FastGPT | 3分钟构建属于自己的AI智能助手


    这是一篇使用指南!!!

    FastGPT是什么?

    FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

    fastgpt其实就是使用了chatgpt的api(或者其他的大模型),构建自己的AI知识库

    chatgpt是没办法获取到你自己的信息的

    如果你想部署属于自己的gpt,或者是公司内部使用的

    你可以选择fastgpt

    适用人群:

    • chatgpt爱好者
    • chatgpt深度使用者
    • 想要构建自己的AI知识库
    • 想要给其他人提供gpt服务
    • 公司/组织 私有化

    功能介绍

    目前我觉得比较好用的3个功能

    构建自己的知识库

    通过导入文档或已有问答对进行训练,让 AI 模型能根据你的文档以交互式对话方式回答问题。 alt

    数据预处理

    提供手动输入、直接分段、LLM 自动处理和 CSV 等多种数据导入途径,其中“直接分段”支持通过 PDF、WORD、Markdown 和 CSV 文档内容作为上下文。FastGPT 会自动对文本数据进行预处理、向量化和 QA 分割,节省手动训练时间,提升效能。 alt

    高级编排

    基于 Flow 模块的工作流编排,可以帮助你设计更加复杂的问答流程。例如查询数据库、查询库存、预约实验室等

    不过这个功能比较复杂,需要一定的学习成本

    alt

    在线使用

    • 🌐 国内版:ai.fastgpt.in
    • 🌍 海外版:fastgpt.run

    环境需要

    • 系统:windows or linux
    • docker环境
    • chatgpt账号,并有api

    项目仓库地址

    https://github.com/labring/FastGPT

    安装指南

    安装指引

    1. 获取API keys
    2. 在sealos上搭建nginx
    3. 安装fastgpt
    获取API keys

    这个很简单

    打开网址:https://platform.openai.com/account/api-keys

    登录你的gpt账号 (你得会魔法)

    创建一个keys即可

    alt
    搭建nginx

    这里是在sealos上搭建的nginx,因为sealos是国外服务器,可以直接代理openai

    不过它是收费的

    搭建nginx的话,一天大概2毛钱

    初次注册送5块钱

    当然你也可以用其他方式

    我们来开始搭建nginx

    使用 Sealos 部署 Nginx 实现中转

    登录 Sealos

    Sealos

    创建应用

    打开 「应用管理」,点击「新建应用」:

    alt
    alt
    填写基本配置

    务必开启外网访问,复制外网访问提供的地址。

    alt
    添加配置文件
    1. 复制下面这段配置文件,注意 server_name 后面的内容替换成第二步的外网访问地址。

      user nginx;
      worker_processes auto;
      worker_rlimit_nofile 51200;

      events {
          worker_connections 1024;
      }

      http {
          resolver 8.8.8.8;
          proxy_ssl_server_name on;

          access_log off;
          server_names_hash_bucket_size 512;
          client_header_buffer_size 64k;
          large_client_header_buffers 4 64k;
          client_max_body_size 50M;

          proxy_connect_timeout       240s;
          proxy_read_timeout          240s;
          proxy_buffer_size 128k;
          proxy_buffers 4 256k;

          server {
              listen 80;
              server_name tgohwtdlrmer.cloud.sealos.io; # 这个地方替换成 Sealos 提供的外网地址

              location ~ /openai/(.*) {
                  proxy_pass https://api.openai.com/$1$is_args$args;
                  proxy_set_header Host api.openai.com;
                  proxy_set_header X-Real-IP $remote_addr;
                  proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
                  # 如果响应是流式的
                  proxy_set_header Connection '';
                  proxy_http_version 1.1;
                  chunked_transfer_encoding off;
                  proxy_buffering off;
                  proxy_cache off;
                  # 如果响应是一般的
                  proxy_buffer_size 128k;
                  proxy_buffers 4 256k;
                  proxy_busy_buffers_size 256k;
              }
          }
      }
      • 1
    2. 点开高级配置。

    3. 点击「新增配置文件」。

    4. 文件名写: /etc/nginx/nginx.conf

    5. 文件值为刚刚复制的那段代码。

    6. 点击确认。

      alt
    部署应用

    填写完毕后,点击右上角的「部署」,即可完成部署。

    修改 FastGPT 环境变量
    1. 进入刚刚部署应用的详情,复制外网地址

      注意:这是个 API 地址,点击打开是无效的。如需验证,可以访问: *.cloud.sealos.io/openai/api,如果提示 Invalid URL (GET /api) 则代表成功。

    2. 修改环境变量(是 FastGPT 的环境变量,不是 Sealos 的):

       OPENAI_BASE_URL=https://tgohwtdlrmer.cloud.sealos.io/openai/v1
    • 1

    Done!

    本文由 mdnice 多平台发布

  • 相关阅读:
    通过Tomcat / Small Tomcat,如何部署Servlet?(超详细)
    docker 安装gitlab,配置邮件,备份全流程
    Python简单数据清洗
    IceRPC之依赖注入>快乐的RPC
    Canal1--搭建Canal监听数据库变化
    如何用 DDD 给 DDD 建模,破解 DDD 的魔法?
    QString、QLatin1String、QStringLiteral区别和用法以及效率
    电赛猜题?我觉得没用,还不如做好这些!
    (02)Cartographer源码无死角解析-(27) 数据订阅、变换、排序、转发→总体复盘
    MyBatis注解开发实现学生管理页面(分页pagehelper,多条件搜索,查看课程信息)
  • 原文地址:https://blog.csdn.net/qq_37462361/article/details/134248996