青海省城乡建设网站,域名网站网址,网络与智能媒体设计 干什么?,织梦系统网站首页upcache=1其实AI应用并不是一个什么很高大上的东西#xff0c;你可以将它当作一个文字的“调库”行为#xff0c;“调库”只需要知道库名就行了#xff0c;这里实际也是如此。甚至你只需要知道你想问什么#xff0c;将你的消息作为输入#xff0c;就能从大模型得到输出。而这个“库… 其实AI应用并不是一个什么很高大上的东西你可以将它当作一个文字的“调库”行为“调库”只需要知道库名就行了这里实际也是如此。甚至你只需要知道你想问什么将你的消息作为输入就能从大模型得到输出。而这个“库”本身是已经部署好了的对于这样的一个黑盒的使用并没有太多的技术要求不用担心自己的知识储备不够因为这里并不需要你对AI本身有了解也不需要你去训练一个AI只是使用它。 毕竟在ChatGPT发布2022.11.30之前AI应用并不广泛被需要这是大模型兴起之后的自然产物。 使用国内大模型API是为了降低获取门槛。不过获取步骤确实稍微复杂点有种国内外教科书风格的差异感 代码文件下载 这里假设你已经获取到了API KEY如果没有的话可以参考0. 阿里大模型API获取步骤阿里云将这个 API 命名为DASHSCOPE_API_KEY灵积是阿里云推出的模型服务平台DashScope 是灵积的英文名不过为了更加通用我们还是将其命名为OPENAI_API_KEY
环境变量配置
环境变量是操作系统中以键值对形式存储的配置项常用于保存敏感信息如 API 密钥、数据库连接地址等这样可以避免将这些私密的信息直接写在代码中。
你可以通过操作系统设置环境变量或者直接在 Python 脚本中设置二选一。
在终端 (Linux/Mac) 设置
export OPENAI_API_KEYyour-api-key在命令提示符 (Windows) 中设置
set OPENAI_API_KEYyour-api-key通过 Python 程序设置环境变量
import os
os.environ[OPENAI_API_KEY] your-api-keyos.getenv()
os.getenv() 是 Python 中 os 模块的一个函数用于获取系统环境变量的值语法
os.getenv(VARIABLE_NAME, default_value)VARIABLE_NAME: 要获取的环境变量的名称。default_value (可选): 如果环境变量不存在可以指定一个默认值当环境变量未设置时将返回该默认值。
示例
假设你已经配置好了 DASHSCOPE_API_KEY 的环境变量并且你想在 Python 脚本中访问它
import osapi_key os.getenv(OPENAI_API_KEY)
print(api_key) # 如果环境变量已设置它将输出对应的值。如果该环境变量没有设置并且你希望提供一个默认值
api_key os.getenv(OPENAI_API_KEY, default_key)
print(api_key) # 如果环境变量没有设置它将输出 default_key。演示
我们选择使用OpenAI库进行演示首先命令行安装。
pip3 install -U openai在安装完成后用 Python 进行访问尝试在这里我们使用通义千问-Turbo进行演示。
from openai import OpenAI
import osdef get_response():client OpenAI(api_keyos.getenv(OPENAI_API_KEY), # 如果你没有配置环境变量使用your-api-key替换base_urlhttps://dashscope.aliyuncs.com/compatible-mode/v1, # 这里使用的是阿里云的大模型如果需要使用其他平台请参考对应的开发文档后对应修改)completion client.chat.completions.create(modelqwen-turbo,messages[{role: system, content: You are a helpful assistant.},{role: user, content: 你是谁}])print(completion.model_dump_json())get_response()完整的运行流程和结果如下 注意不要误用成api_keyos.getenv(your-api-key)os.getenv()用于获取对应系统环境变量的值API本身并不是这个环境变量。 否则你就会遇到一个对于新手来讲不够直接的报错OpenAIError: The api_key client option must be set either by passing api_key to the client or by setting the OPENAI_API_KEY environment variable。 多轮对话
之前的代码只提供了单轮的对话没有历史记录没有上下文只是一个简单的临时对话你可以将其理解为无痕浏览关了就没了。
接下来我们介绍多轮的对话这里的轮指的是一次问答。模型本身并不会因为你的问题即时得到训练所以也不会保留你之前的对话那我们怎么去让模型知道呢
答朴素的手动保存上传。
from openai import OpenAI
import osdef get_response(messages):client OpenAI(api_keyos.getenv(OPENAI_API_KEY), base_urlhttps://dashscope.aliyuncs.com/compatible-mode/v1,)completion client.chat.completions.create(modelqwen-turbo,messagesmessages)return completionmessages [{role: system, content: You are a helpful assistant.}]
# 您可以自定义设置对话轮数当前为3
for i in range(3):user_input input(请输入)# 将用户问题信息添加到messages列表中这部分等价于之前的单轮对话messages.append({role: user, content: user_input})assistant_output get_response(messages).choices[0].message.content# 将大模型的回复信息添加到messages列表中这里是历史记录保存上下文messages.append({role: assistant, content: assistant_output})print(f用户输入{user_input})print(f模型输出{assistant_output})print(\n)流式输出
语言模型并不是直接得出完整的一句话而是一个字一个字其实是token为了更大白话一点这里用字帮助理解去生成的。前面的对话都是直接获取到了最终的生成结果我们怎么得知它具体是怎么来的呢
下面这部分相当于之前的单轮对话只是改变了输出方式。
from openai import OpenAI
import osdef get_response():client OpenAI(api_keyos.getenv(OPENAI_API_KEY),base_urlhttps://dashscope.aliyuncs.com/compatible-mode/v1,)completion client.chat.completions.create(modelqwen-turbo,messages[{role: system, content: You are a helpful assistant.},{role: user, content: 你是谁}],streamTrue,# 可选配置以后会在流式输出的最后一行展示token使用信息stream_options{include_usage: True})for chunk in completion:print(chunk.model_dump_json())if __name__ __main__:get_response()我们为什么要获取流式输出因为使用直接的对话模式需要等待大模型生成结束后才传回每个部分拼接后的结果而流式输出可以让你实时了解到生成的信息在模型生成的时候进行阅读从而利用上中间的等待时间这是一个可以同步进行的事情异步浪费了我们的时间。毕竟有些回答刚一开口就可以否决掉。 常见问题 通义千问、灵积、DashScope、百炼是什么关系 通义千问是阿里云研发的大语言模型灵积是阿里云推出的模型服务平台提供了包括通义千问在内的多种模型的服务接口DashScope是灵积的英文名两者指的是同一平台百炼是阿里云推出的一站式大模型应用开发平台同时也提供模型调用服务。 我如果想调用通义千问模型是要通过灵积平台还是百炼平台 对于需要调用通义千问模型的开发者而言通过灵积平台与百炼平台调用通义千问模型都是通过dashscope SDK或OpenAI兼容或HTTP方式实现。两个平台都可以获取到API-KEY且是同步的。因此您只需准备好计算环境并在两个平台任选其一创建API-KEY即可发起通义千问模型的调用。 进一步
当前文章所有的代码已经整理为了notebook文件LLM API 使用演示——从环境配置到多轮对话.ipynb 下载
阿里大模型平台同样支持很多其他的模型比如Llama3.1ChatGLM3StableDiffusion等感兴趣的话详细可见模型列表。
下一篇文章2. 简单入门使用API搭建AI应用待上传。
参考链接
Chat - OpenAI DocsCompletions - OpenAI Docs通过API使用通义千问-阿里云官方文档
