01
前言
随着各个大模型厂商的逐步发力,市场上的优秀模型越来越多,基于这些大模型可以简易地创建可持续运营的原生 AI 应用。Dify应运而生!
通过 Dify 创建的应用包含了:
开箱即用的的 Web 站点,支持表单模式和聊天对话模式
一套 API 即可包含插件、上下文增强等能力,替你省下了后端代码的编写工作
可视化的对应用进行数据分析,查阅日志或进行标注
02
产品优势
可视化编排 Prompt: 通过界面化编写 prompt 并调试,只需几分钟即可发布一个 AI 应用。
文本 Embedding 处理(数据集):全自动完成文本预处理,使用你的数据作为上下文,无需理解晦涩的概念和技术处理。支持 PDF、txt 等文件格式,支持从 Notion、网页、API 同步数据。
基于 API 开发: 后端即服务。您可以直接访问网页应用,也可以接入 API 集成到您的应用中,无需关注复杂的后端架构和部署过程。
插件能力: Dify 「智聊」平台已支持网页浏览、Google 搜索、Wikipedia 查询等第一方插件,可在对话中实现联网搜索、分析网页内容、展示 AI 的推理过程。
团队 Workspace: 团队成员可加入 Workspace 编辑、管理和使用团队内的 AI 应用。
数据标注与改进: 可视化查阅 AI 应用日志并对数据进行改进标注,观测 AI 的推理过程,不断提高其性能。(Coming soon)
Dify 原生提供了两种类型的应用:对话和文本生成,均已在 GitHub 上开源,您可以基于它们创造出所需的应用。
03
测试使用
1:构建应用
2:选择模型
模型支持: 你可以在 Dify 上选择基于不同模型的能力来开发你的 AI 应用。Dify 兼容 Langchain,这意味着我们将逐步支持多种 LLMs ,目前支持的模型供应商:
OpenAI:GPT4、GPT3.5-turbo、GPT3.5-turbo-16k、text-davinci-003
Azure OpenAI Service
Anthropic:Claude2、Claude-instant
Replicate
Hugging Face Hub
ChatGLM
Llama2
MiniMax
讯飞星火大模型
文心一言
通义千问
3:创建知识库并且编排
这个创建知识库真的超级简单,直接上传就行了。也支持API上传。上传后,直接点击下一步。
文本分段和清洗后,就完成啦。
在右上角选择对应的大模型后,在文本框内规定对话前的提示词,然后在下面的上下文中将应用绑定数据库即可。
4:发布应用
发布完毕后,可以点击预览使用,也可以嵌入到网站里面,也可以作为后端的Api.
5:统计监控
下面还提供各种统计消息数和用户数。