原创作文网站,网站建设栏目图片,深圳代理记账公司电话,秦皇岛市做网站优化如何从零搭建一个 LLM 应用#xff1f;不妨试试 LangChain Milvus 的组合拳。
作为开发 LLM 应用的框架#xff0c;LangChain 内部不仅包含诸多模块#xff0c;而且支持外部集成#xff1b;Milvus 同样可以支持诸多 LLM 集成#xff0c;二者结合除了可以轻松搭建一个 LL…如何从零搭建一个 LLM 应用不妨试试 LangChain Milvus 的组合拳。
作为开发 LLM 应用的框架LangChain 内部不仅包含诸多模块而且支持外部集成Milvus 同样可以支持诸多 LLM 集成二者结合除了可以轻松搭建一个 LLM 应用还可以起到强化 ChatGPT 功能和效率的作用。
本文为解码 LangChain 系列将深入探讨如何借助 LangChain 与 Milvus 的力量增强 LLM 应用以及如何构建和优化 AIGC 应用的小秘籍
LangChain 向量数据库解决幻觉问题
LangChain
LangChain 是一种用于开发 LLM 应用的框架。LangChain 设计如下
Data-aware连接 LLM 与其他数据源Agentic允许 LLM 与 LangChain 环境交互
LangChain 包括许多模块例如 Models、Prompts、Memory、Indexes、Chains、Agents 和 Callbacks。对于每个模块LangChain 都提供标准化的可扩展接口。LangChain 还支持外部集成甚至可实现端到端。LLM Wrapper 是 LangChain 的核心功能提供了许多 LLM 模型例如 OpenAI、Cohere、Hugging Face 等模型。
向量数据库
LangChain 提供一系列有用的大型语言模型LLMs可满足多样的用户需求。LangChain 的另一大亮点是其扩展功能——集成各种向量数据库如 Milvus、Faiss 等因此可以很好地进行语义搜索。
LangChain 通过 VectorStore Wrapper 提供了标准化的接口从而简化数据加载和检索的流程。例如大家可以使用 LangChain 的 Milvus 类通过from_text方法存储文档的特征向量然后调用similarity_search方法获取查询语句的相似向量也就是在向量空间中找到距离最接近的文档向量从而轻松实现语义搜索。
通过 ChatGPT-Retrieval-Plugin 项目可以发现向量数据库在 LLM 应用中起着至关重要的作用它并不只局限于语义检索的用途还包括其他用途比如
存储问答上下文。这是 Auto-GPT 和 BabyAGI 等 LLM 平台提供的有用功能。这种功能可以增强LLM 应用对于上下文的理解和记忆能力。为 GPTCache 等 LLM 平台提供语义缓存优化性能并节省成本。实现文档知识功能降低 LLM 应用产生幻觉概率如OSSChat。
如何解决 ChatGPT 的幻觉问题
人工智能系统经常会产生“幻觉”、捏造事实、返回错误信息更有甚者把 ChatGPT 形容为“一本正经地说废话“。因此幻觉问题会降低 ChatGPT 回答的可信度向量数据库可以有效解决幻觉问题。
其工作流程如下图所示 首先在 Milvus 中存储由官方文档转化而来的文本向量。然后在响应问题时搜索相关文档如上图中红色箭头流程所示。ChatGPT 最后根据正确的上下文回答问题从而产生准确的答案如上图中绿色箭头流程所示。
上述事例说明用户无需标记、训练数据或进行额外开发和微调只需将文本数据转化为向量并存储在 Milvus 中即可解决 ChatGPT 的幻觉问题。LangChain Milvus ChatGPT 的组合可实现文本存储。ChatGPT 的答案也是基于参考文档库中的内容而返回的可大大提高其回答的准确性。这样一来聊天机器人可以基于正确的知识进行问答减少出现“胡说八道”的可能性。
接下来分享一个 LangChain Milvus ChatGPT 的组合一个实际的具体应用场景
如果我是一名 Milvus 社区管理员每天需要回答各种社区相关问题那么可以搭建一套智能应用来大大提高自己的工作效率。首先可以将所有 Milvus 官方文档存储起来。然后将这些文档作为必要的上下文知识提供给 ChatGPT。这样一来如果用户问道“如何使用 Milvus 搭建聊天机器人”构建的聊天机器人可以搜索与用户问题语义相关的官方文档。这种方法无需进行额外的数据训练但能够大大提升工作效率和回答准确性。
LangChain Milvus 搭建智能应用
搭建流程
前提条件
运行 pip install langchain命令安装 LangChain。
安装向量数据库 Milvus 或注册 Zilliz Cloud ——大家可以选择在本地系统上安装和启动开源向量数据库 Milvus 或者选择全托管向量数据库 Zilliz Cloud 服务免去运维部署的麻烦。Zilliz Cloud 简单易用具备高扩展性提供超强性能本教程将使用 Zilliz Cloud。
加载知识库数据
首先需要使用标准格式加载数据。也就是说我们需要将文本切成小块从而确保传入 LLM 模型的数据为一段段小的文本片段。 from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.text_splitter import CharacterTextSplitter
from langchain.vectorstores import Milvus
from langchain.document_loaders import TextLoaderloader TextLoader(state_of_the_union.txt)
documents loader.load()
text_splitter CharacterTextSplitter(chunk_size1000, chunk_overlap0)
docs text_splitter.split_documents(documents)
接下来我们需要将小块的文本片段转化为向量并存储在向量数据库中。以下示例代码使用 OpenAI 的模型和 Zilliz Cloud 向量数据库。 embeddings OpenAIEmbeddings()vector_db Milvus.from_documents(docs,embeddings,connection_args{uri: YOUR_ZILLIZ_CLOUD_URI,user: YOUR_ZILLIZ_CLOUD_USERNAME,password: YOUR_ZILLIZ_CLOUD_PASSWORD,secure: True}
) 查询数据
加载数据后可以在问答链Chain中使用这些数据下述代码主要解决上文提到的“幻觉”问题。
使用 similarity_search方法将查询语句转化为特征向量然后在 Zilliz Cloud 中搜索相似向量以及相关的文档内容。
query What did the president say about Ketanji Brown Jackson
docs vector_db.similarity_search(query) 运行 load_qa_chain获取最终答案。这是一个最通用的用于回答问题的接口它加载一整个链可以根据所有数据库中文本进行问答。以下示例代码使用 OpenAI 作为 LLM 模型。在运行时QA Chain 接收input_documents和 question将其作为输入。input_documents是与数据库中的query相关的文档。LLM 基于这些文档的内容和所提问的问题来组织答案。
from langchain.chains.question_answering import load_qa_chain
from langchain.llms import OpenAIllm OpenAI(temperature0)
chain load_qa_chain(llm, chain_typestuff)
chain.run(input_documentsdocs, questionquery)
Milvus更适合 AIGC 应用的向量数据库
如果想要提高应用的可靠性需要使用数据库存储文本向量。但为什么选择 Milvus 向量数据库
助力语义搜索不同于传统数据库Milvus 专为向量设计可以实现语义检索。高度可扩展支持灵活扩展用户可轻松存储和检索十亿级向量数据。此外可扩展性对于检索速度和效率至关重要。支持混合查询Milvus 支持混合查询将向量相似性搜索和标量过滤相结合可满足不同的搜索场景和要求。提供丰富的 APIMilvus 提供多语言的 API包括 Python、Java、Go、Restful 等方便用户在各种应用中集成和使用 Milvus。集成多种 LLM 模型Milvus 可与多种主流 LLM 模型集成包括 OpenAI Plugin、LangChain、LLamaIndex 等方便用户灵活定制化其应用。多种部署版本和配置Milvus 提供多种版本如MilvusLite 版、单机版、分布式版和云服务版可以轻松适应不同类型的应用场景即可支持小型项目也可适用于企业级数据检索。
如何优化 AIGC 应用
人工智能领域中不断涌现各种新技术、新突破。本文将介绍 2 种优化 AIGC 应用的秘籍帮助你进一步提升 AIGC 应用的性能和搜索质量。
提升 AIGC 应用程序性能使用 GPTCache
如果想要提升 AIGC 应用性能并节省成本可以试试 GPTCache。这个创新项目旨在创建语义缓存以存储 LLM 响应。
具体而言GPTCache 会缓存 LLM 的响应。在收到问题时GPTCache 使用向量数据库检索相似的问题并查询此前缓存的响应。这样一来应用便可快速准确地回答用户。GPTCache 可有效避免重复问题多次调用 LLM 接口所产生的费用以及需要等待的响应时间从而提供更快速、更准确的答案使 AIGC 应用更受用户欢迎。
提高搜索质量调整 Embedding 模型和 Prompt
此外我们可以通过微调 Embedding 模型和 Prompt 达到提高搜索质量的效果。Embedding 模型在 AIGC 应用中不可或缺发挥着将文本转化为向量的关键作用。微调模型具体指调节模型从而使其注重关注某些关键词或短语并调整模型权重和评分机制从而迎合用户的需求和偏好。微调后模型可以更准确地理解用户问题、将其进行分类从而提高语义搜索结果的准确性和相关性返回准确的结果。
影响搜索质量的另一重要因素是搜索提示。例如“我有什么可以帮助您的”或“您有什么想法”都可以用于提示用户该输入何种提问。通过测试和修改这些提示可以提高搜索结果的质量和相关性。如果你的应用程序面向特定行业或人群可以在提示内加入一些行业术语这样有助于指导用户进行更相关的搜索查询。
总之LangChain Milvus 的组合方式可以帮助开发者从零开始搭建 LLM 应用。LangChain 为 LLM 提供了标准化且易用的接口Milvus 则提供出色的存储和检索能力从而整体提升 ChatGPT 等应用的功能和效率。
