揭秘AI 原生应用技术栈

 

一次性把“AI 原生应用技术栈”说明白

   

AI热潮持续，厂商努力推动有价值的应用涌现，并打造服务AI原始应用的平台产品。本文精简介绍业界最新的AI原生应用技术栈，让您迅速把握前沿科技脉搏。

整体架构

AI技术栈逻辑图精简呈现，多层架构一览无余。以下详细解析图中①至⑤关键节点，揭示AI原始应用技术的核心魅力。

① 大模型

AI热潮再起，OpenAI功不可没，ChatGPT展现AGI潜力。当前，GPT 4.0仍领跑大模型技术前沿。云厂商与创业公司纷纷提供模型支持，共同推动AI发展。

• 国内大模型主要有：
  • RNIE 4.0（文心一言），百度出品
  • 通义千问，阿里出品
  • 盘古大模型，华为出品
  • 星火大模型，科大讯飞出品
  • Baichuan 3，王小川创业公司百川智能
  • abab 6.5，MiniMax出品
  • GLM-130B，智谱 AI
  • Yi-34B，零一万物，李开复老师创业公司
• 海外大模型主要有
  • GPT 4.0，OpenAI 出品，背后金主爸爸是微软
  • Google Gemini 1.5，刚刚Google next 2024大会发布
  • Claude 3，背后金主爸爸是 AWS
  • Llama-3，meta 开源，开源最强模型

阿里巴巴董事长蔡崇信指出，国内整体实力较海外落后1-2年，国内公司更重模型创新，而海外创业公司更侧重于应用创新。这一差异凸显了国内外商业环境和思路的显著差距。

② Model Builder

Model Builder提供大模型部署、精调、推理服务一体化工具链，简化操作，轻松驾驭大型模型应用。

主要还是云厂商提供这块的服务，关于这部分的功能划分不完全一样。

• 百度智能云Model Builder，实现模型复制、管理、评估与优化，支持一键调用与推理服务部署，高效便捷。
• AWS Bedrock 负责基础大模型提供服务

‍

• Google Vertex AI，集Model Garden、Model Builder、Agent Builder等功能于一体，铸就强大品牌，为您的AI之旅提供一站式解决方案。
• Azure 主要有两块服务：
  • OpenAI Service，引领AI前沿，提供GPT4、GPT3.5及卓越embedding等强大模型，助您解锁无限智能可能。
  • Azure AI Studio 第三方模型服务，如Llama

③向量数据库

生成式人工智能的飞跃，催生了大规模预训练模型的繁荣，其中，向量数据库成为关键环节。借助AI和机器学习，非结构化数据如文本、图像和视频，可转化为数学向量。向量数据库专为此而生，高效存储与检索向量数据，实现非结构化信息的精准检索与相似性计算。对大模型而言，它象征着高效与精准的模型应用新纪元。

大模型风潮中，向量数据库厂商备受资本瞩目。荷兰Weaviate获5000万美元B轮融资，美国Pinecone筹集1亿美元B轮融资。这些巨额融资彰显向量数据库领域的炙热关注度，预示着该领域正迎来前所未有的发展机遇。

大语言模型面临知识更新滞后、幻觉生成、行业知识匮乏及安全回答难题。引入向量存储模块作为长期记忆，借助数据反馈与干预，低成本解决上述挑战，显著提升模型性能与准确性。

• 国内
  • 百度向量数据库
  • 腾讯向量数据库
  • 开源的 milvus（商业产品 zilliz）
• 海外
  • pinecone

‍

④Agent builder & ⑤App builder

Agent 智能体是个时髦概念，吴恩达最近的预测通过智能设计，用 GPT 3.5 就能达到 4.0 的效果。AI Agent 和大模型的区别在于，大模型与人类之间的交互是基于prompt 实现的，用户prompt 是否清晰明确会影响大模型回答的效果。而AI Agent的工作仅需给定一个目标，它就能够针对目标独立思考并做出行动。从原理上说，AI Agent的核心驱动力是大模型，在此基础上增加规划（Planning）、记忆（Memory）和工具使用（Tool Use）三个关键组件。 

App builder 的范围要更大一些，帮助开发者和应用构建 App，Agent 理论上是一种App。不过现在能直接通过工具就能构建的 App 类型还比较少，前面比较流行的低代码平台，本质也是帮助用户构建企业里面流程管理 App，也是其中一种。

• 国内典型的有
  • 百度推出Agent Builder，专注于2C领域；同时，App Builder则致力于为企业提供2B解决方案，满足不同业务需求。
  • 字节 coze
  • google 在Vertex AI也包含了 Agent builder
• 这类的builder 核心提供三个能力
  • 一键发布至各大平台，轻松实现App分发，确保用户轻松下载使用，构建者提供全流程打通能力，助力快速上线。

‍

-对此，您有什么看法见解？-

-欢迎在评论区留言探讨和分享。-