快速创建网站,成都哪里做网站备案,wordpress 破解,百度网页版主页SDK 前言一、SDK的优势二、千帆SDK#xff1a;快速落地LLM应用三、如何快速上手千帆SDK1、SDK快速启动快速安装平台鉴权如何获取AK/SK以“Chat 对话”为调用示例 2. SDK进阶指引3. 通过Langchain接入千帆SDK为什么选择Langchain 开源社区 前言 百度智能云千帆大模型平台再次升… SDK 前言一、SDK的优势二、千帆SDK快速落地LLM应用三、如何快速上手千帆SDK1、SDK快速启动快速安装平台鉴权如何获取AK/SK以“Chat 对话”为调用示例 2. SDK进阶指引3. 通过Langchain接入千帆SDK为什么选择Langchain 开源社区 前言 百度智能云千帆大模型平台再次升级在原有API基础上百度智能云正式上线Python SDK下文均简称千帆 SDK版本并全面开源企业和开发者可免费下载使用千帆SDK全面覆盖从数据集管理模型训练模型评估到服务部署等方面的功能我们可基于千帆SDK通过代码接入并调用百度智能云千帆大模型平台的能力轻松实现LLMOps全流程的落地快速构建自己的大语言模型应用。 一、SDK的优势
SDK当前主要的价值在于可快速使用API能力并完善API使用的周边工具链同时提供cookbook用于实践。 快速使用API能力不需要自己实现http客户端以及鉴权逻辑并在此基础上做了可配置重试流量控制提升了API功能的使用体验。 结合实际的案例和应用场景提供了响应的cookbook帮助我们快速上手甚至复用大部分已实现代码。 拓展了LLM应用的基础能力例如结合LLM应用层常见的Agent等概念进行了封装提供了基于Agent的应用模板类。
二、千帆SDK快速落地LLM应用
千帆SDK支持对话补全、续写补全、语义向量、插件、文生图等一系列功能可以帮助我们轻松完成应用开发。 对话补全ChatCompletion对话模型是语言模型的一种变体。虽然在内部使用了语言模型但它们所提供的接口有些不同。适用于对话生成智能问答等场景。 续写补全Completion语言模型提供了基本的续写能力结合丰富的训练语料非常适合于文档报告编写内容创作等场景。 语义向量Embedding百度智能云千帆大模型平台在提供大模型对话续写能力的同时应对于常见的文本检索知识库查询等场景也推出了文本转化成向量的能力。 插件应用Plugin为了填补大模型对于获取实时信息多模态垂直领域知识问答等场景的能力空白百度智能云千帆大模型平台推出了常用的几种插件应用包括百度搜索知识库天气查询智慧图问等几个插件应用。我们可以通过大模型的决策能力进行问答文本到插件应用调用的转化也可以直接调用插件应用以获取相应的数据。 文生图Text2Image基于开源的StableDiffusion等开源多模态大模型的基础上百度智能云千帆大模型平台推出了一系列预置的文生图模型我们也可以通过SDK快速调用进行图文创作。
三、如何快速上手千帆SDK
百度智能云千帆大模型平台为我们提供了详细的操作手册包括SDK快速启动、大模型开发基础功能快速入门和Langchain接入方法我们可通过以下步骤更加快速的使用千帆SDK。
1、SDK快速启动
在该模块我们通过必要快速上手步骤以及以Chat对话为调用示例介绍了如何快速进入LLM的应用开发。
快速安装
目前千帆SDK已发布到PyPI我们可使用pip命令进行安装。安装千帆SDK需要3.7.0或更高的Python版本。
平台鉴权
千帆SDK基于百度智能云千帆大模型平台对我们客户提供能力因此在使用前需要我们客户使用平台指定的鉴权方式进行初始化。
如何获取AK/SK
我们可首先进行应用接入获得AK/SK。 获取到AK和SK后我们还需要传递它们来初始化千帆SDK支持如下两种方式按优先级从低到高排序
以“Chat 对话”为调用示例
我们只需要提供预期使用的模型名称和对话内容即可调用百度智能云千帆大模型平台支持的包括ERNIE-Bot在内的所有预置模型如下所示
2. SDK进阶指引
对于对模型有微调训练需求的使用者千帆SDK提供了模型训练和管理的能力。
大模型训练百度智能云千帆大模型平台提供了高性能的训练模型微调能力可以快速的进行训练任务下发和管理。大模型管理主要用于自定义模型的管理和发布。大模型服务千帆平台提供了基础的大模型运行环境我们可以一键式发布自己的模型服务。
3. 通过Langchain接入千帆SDK
为什么选择Langchain
Langchain是可以帮助我们快速构建从原型到生产的LLM应用的框架。其封装了包括LLMEmbeddingChainAgentTool等一系列抽象的LLM应用组件在其开源社区成员的不断贡献下集成了当前大部分主流的大语言模型等调用方法是当前非常流行的开源大模型框架。它开发效率高资源配套完善拥有大量使用者。现在我们可以在langchain中通过千帆SDK接入并使用百度智能云千帆大模型平台的训练等一系列能力让应用场景开发更轻松、更便捷。
开源社区
千帆SDK已经开源到Github并将持续更新迭代可以关注订阅开始做自己的大模型应用了。
GIthub Repo https://github.com/baidubce/bce-qianfan-sdk 戳此链接 千帆社区 https://cloud.baidu.com/qianfandev 戳此链接
