Chatto企业AI助手产品技术拆解(上)

往期文章：

• AI智能客服项目拆解(1) 产品大纲

在上一篇文章中，我们详细介绍了AI智能客服的基本概念、需求分析、产品形态及分类，以及AI在线客服的用户体验流程和系统架构。为了更深入地理解AI智能客服的内在工作机制和技术实现，本文将作为系列文章的第二篇，专注于剖析某AI智能客服产品的具体技术细节。

本文将探讨以下关键点：

• 知识库构建与管理：介绍如何构建和维护知识库，以及它是如何支持智能客服提供个性化和准确的服务的。
• 智能助手定制过程：智能助手的训练过程，包括数据收集、助手定制、评估和优化等。

Chatto简介

Chato是一款智能对话AI助手平台，可以帮助企业快速定制独特个性和超强能力的专属AI助手，将AI助手运用到多种对外的应用和使用场景。某知名电商平台，他们使用ChatoAI助手作为客服智能助手，帮助用户解答问题、提供售后服务、进行投诉处理等等。通过ChatoAI助手的智能问答技术，用户可以快速获取到所需的信息和服务，提高了用户的满意度和忠诚度。同时，AI助手还可以根据用户的历史记录和行为进行智能推荐和个性化服务，提高了用户的购物体验和转化率。

Chatto如何实现定制化

• 角色设定: 给AI设定一个基础角色，可以是
  客服、销售、培训师、营销人员、行业专家等，让AI助手更符合您的业务形象。
• 上传文档并建立知识库: 通过录入文档或问答来创建知识库，让AI助手学习，根据AI助手训练情况，可随时删除或替换文档。
• 为答案提供来源: AI助手的答案可附带文档来源，回答有理有据，训练效果满意后再发布。
• 多终端发布渠道: 满足多种业务场景，为您服务各渠道客户。包括网页、微信群、JS 嵌入网页、接入API，更多发布形式持续升级中。

Chatto助手的工作原理

Chatto助手的设定主要包括角色与知识库的设定，角色设定是为了让AI助手能够按照描述的要求以一定的规则进行回答，知识库的设定是为了让AI助手能够学习企业的业务知识，从而能够更加准确的回答用户关于企业业务的问题。

下面让我们拆解一下其中的原理。这是经典的RAG系统的流程：

结合RAG系统的框架图，不难看出：
角色设定的技术内涵是设定一段系统提示词，当用户输入问题时，Chatto便将设定的系统提示词与用户输入的问题组合成messages发送到GPT模型中，最终获得回答。

知识库便是RAG系统中的Documents和Indexing部分，当用户问题无法通过GPT模型回答时，Chatto便会从知识库中根据用用户输入相关的问题，从知识库中检索相关的文档，并与系统提示词和用户问题组合成messages发送到GPT模型中，最终获得回答。

Chatto的知识库管理

Chatto的知识库管理主要包括数据的录入与更新两部分。录入是为了让助手能够学习企业的私有数据，更新是为了优化助手的回答效果或者根据业务需求进行调整。

数据录入

其中数据的录入分为两种方式：问答集和文档集。

问题的录入有两种形式，可以手动输入也可以批量上传。

手动输入

批量上传

文档集的录入有多种方式，包括上传文档、输入文本、网页抓取、公众号抓取等。

问答集有助于Chatto学习客服回复的口吻，常见问题的回答方式，以及客户的问题类型。文档集则有助于Chatto学习企业的业务知识，从而能够更加准确的回答用户关于企业业务的问题。 无论那种方式，录入的数据都会预处理成为不同的段落，最后落入到向量数据库中，以便Chatto能够快速检索。

涉及到的技术主要是RAG，这其中包含：数据预处理、文本向量化、文本相似度计算等、文本检索等。 可以通过LlamaIndex或者langchain document loaders快速实现。

如果追求更多的数据源的接入，可以尝试airbyte，airbyte提供300种以上的数据源接入，可以接入大多数的数据源。

数据更新

Chatto提供助手预览功能，可以测试助手的回答效果，根据实际情况调整问答集。

在点击右侧修正按钮后，将会进入到单条问题的录入模块，会把问题和助手的回复自动带上，进过修改后，相当于上传了一条新的问答文档。

然而这种方式，人工成本较高，需要人工逐条修改，如果数据量较大，可以考虑使用自动测评系统，及时发现不能回答的问题，然后进行人工修改。

结语

以上便是本文内容，主要涵盖了智能助手定制过程与知识库管理。下期我们深入到RAG系统中，拆解下RAG系统的原理，以及大模型是如何根据知识库中的文档进行检索和问答的。