自从最近微软开源Semantic-kernel (SK) 来帮助开发人员在其应用程序中使用AI大型语言模型(LLM)以来,Microsoft一直在忙于改进它,发布了有关如何使用它的新指南并发布了5篇文章介绍他的功能。
开发人员可以使用Semantic-kernel (SK) 创建自然语言提示、生成响应、提取信息、调用其他提示或执行可以用文本表示的其他任务。微软在3月17日开源Semantic-kernel (SK)时,提示是项目描述的关键部分:“Semantic-kernel (SK)是一个轻量级SDK,可让您将C#和Python等传统编程语言与最新的大型语言模型(LLM)AI'提示'混合在一起,具有提示模板,链接和规划功能。
微软将更好的提示列为SK的四个关键优势之一:
- 快速集成:SK旨在嵌入任何类型的应用程序中,使您可以轻松测试和运行LLM AI。
- 扩展:借助 SK,您可以连接外部数据源和服务,使其应用程序能够将自然语言处理与实时信息结合使用。
- 更好的提示:SK的模板化提示可让您使用有用的抽象和机制快速设计语义函数,以释放LLM AI的潜力。
- 新奇但熟悉:传统编程语言代码始终可供您作为一流的合作伙伴,帮助您快速完成工程设计,可以两全其美。
微软(3月30日)发布了一篇题为“Semantic-kernel 规划器:嵌入和语义记忆的改进”[1]文章,详细介绍了该项目规划器技能的[2]改进,允许用户根据语义查询创建和执行计划。这篇文章解释了最近的调整,使规划器技能更加通用。
调整涉及将嵌入集成到 Planner 技能中,以增强其可用性和功能。嵌入[3]是数字向量或数组,表示模型处理的令牌的含义和上下文。嵌入用于编码和解码输入和输出文本,可以帮助LLM理解令牌之间的关系并生成相关且连贯的文本。它们用于文本分类、摘要、翻译和生成,包括图像和代码生成。
微软在文章中说到:“随着Semantic-kernel 在Alpha阶段的发展,我们将优先考虑使用嵌入进行规划创建的其他方法,这些方法将更加强大,” ,3月22日还有一篇文章“Semantic-kernel 嵌入和记忆:使用聊天UI探索GitHub Repos”[4] ,文章中进行了展示了嵌入,该文章解释了他们如何帮助开发人员提出有关GitHub存储库的问题或使用自然语言查询探索GitHub存储库。与嵌入一起,这是在SK存储器[5](嵌入集合)的帮助下完成的,这有助于为提示(或SK世界中的ASK)提供更广泛的上下文。
这篇文章重点介绍了一个示例应用程序GitHub Repo Q&A Bot[5],它展示了开发人员如何使用SK函数下载任何GitHub存储库,将其存储在内存(嵌入集合)中,并使用聊天UI进行查询。
微软表示,该示例可用作存储和查询项目的指南,例如:
- 大型内部程序手册
- 学生教育材料
- 公司合同
- 产品文档
微软在周一还有一篇题为“如何在几分钟内将Semantic-kernel 部署到Azure” [6]的文章,这是通过Azure Function完成的,Azure Function是微软的Serverless 计算服务,允许用户在不管理服务器或基础设施的情况下运行代码。该演示使用的是 Visual Studio Code,需要安装 Azure Tools [7]扩展。
如果你一直在关注Semantic-kernel 的GitHub仓库 :https://github.com/microsoft/semantic-kernel/ [8],可以看到自从开源以来,star的增长非常快,目前已经有3717个star,并且各项功能的开发也在紧锣密鼓的进行之中,正在添加对其他LLM 模型支持,例如例子 https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server[9],这也是第一个Python语言的例子 ,还有更多的语言支持在进行当中。
semantic-kernel star增长曲线 https://starchart.cc/microsoft/semantic-kernel
相关链接:
- [1] Semantic-kernel 规划器:嵌入和语义记忆的改进: https://devblogs.microsoft.com/semantic-kernel/semantic-kernel-planner-improvements-with-embeddings-and-semantic-memory/
- [2]规划器技能 :https://learn.microsoft.com/en-us/semantic-kernel/concepts-sk/planner
- [3]嵌入:https://learn.microsoft.com/en-us/semantic-kernel/concepts-ai/embeddings
- [4]Semantic-kernel 嵌入和记忆:使用聊天UI探索GitHub Repos: https://devblogs.microsoft.com/semantic-kernel/semantic-kernel-embeddings-and-memories-explore-github-repos-with-chat-ui/
- [5]GitHub Repo Q&A Bot:https://aka.ms/sk/repo/samples/github-repo-qa-bot
- [6]如何在几分钟内将Semantic-kernel 部署到Azure: https://devblogs.microsoft.com/semantic-kernel/how-to-deploy-semantic-kernel-to-azure-in-minutes/
- [7] Azure Tools: https://marketplace.visualstudio.com/items?itemName=ms-vscode.vscode-node-azure-pack
- [8]Semantic-kernel 的GitHub仓库 :https://github.com/microsoft/semantic-kernel/
- [9]LLM模型 huggine-face: https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server