网站开发所需要的时间 知乎,江西响应式网页建设,佛山市网站公司,开发定制软件开发介绍 ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型#xff0c;在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上#xff0c;ChatGLM3-6B 引入了如下特性#xff1a; 更强大的基础模型在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上ChatGLM3-6B 引入了如下特性 更强大的基础模型 ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。在语义、数学、推理、代码、知识等不同角度的数据集上测评显示ChatGLM3-6B-Base 具有在 10B 以下的基础模型中最强的性能。 更完整的功能支持 ChatGLM3-6B 采用了全新设计的 Prompt 格式除正常的多轮对话外。同时原生支持工具调用Function Call、代码执行Code Interpreter和 Agent 任务等复杂场景。 更全面的开源序列 除了对话模型 ChatGLM3-6B 外还开源了基础模型 ChatGLM3-6B-Base、长文本对话模型 ChatGLM3-6B-32K。以上所有权重对学术研究完全开放在填写问卷进行登记后亦允许免费商业使用。 ChatGLM3 开源模型旨在与开源社区一起推动大模型技术发展恳请开发者和大家遵守开源协议勿将开源模型和代码及基于开源项目产生的衍生物用于任何可能给国家和社会带来危害的用途以及用于任何未经过安全评估和备案的服务。目前本项目团队未基于 ChatGLM3 开源模型开发任何应用包括网页端、安卓、苹果 iOS 及 Windows App 等应用。 尽管模型在训练的各个阶段都尽力确保数据的合规性和准确性但由于 ChatGLM3-6B 模型规模较小且模型受概率随机性因素影响无法保证输出内容的准确。同时模型的输出容易被用户的输入误导。
模型列表 Model Seq Length Download ChatGLM3-6B 8k HuggingFace | ModelScope ChatGLM3-6B-Base 8k HuggingFace | ModelScope ChatGLM3-6B-32K 32k HuggingFace | ModelScope 使用方式
环境安装 首先需要下载本仓库
git clone https://github.com/THUDM/ChatGLM3
cd ChatGLM3然后使用 pip 安装依赖
pip install -r requirements.txt transformers 库版本应该 4.30.2 以及以上的版本 torch 库版本应为 2.0 及以上的版本以获得最佳的推理性能。 为了保证 torch 的版本正确请严格按照 官方文档 的说明安装。 gradio 库版本应该为 3.x 的版本。
代码调用 可以通过如下代码调用 ChatGLM 模型来生成对话 from transformers import AutoTokenizer, AutoModel tokenizer AutoTokenizer.from_pretrained(THUDM/chatglm3-6b, trust_remote_codeTrue) model AutoModel.from_pretrained(THUDM/chatglm3-6b, trust_remote_codeTrue, devicecuda) model model.eval() response, history model.chat(tokenizer, 你好, history[]) print(response)你好!我是人工智能助手 ChatGLM3-6B,很高兴见到你,欢迎问我任何问题。 response, history model.chat(tokenizer, 晚上睡不着应该怎么办, historyhistory) print(response)晚上睡不着可能会让你感到焦虑或不舒服,但以下是一些可以帮助你入睡的方法:1. 制定规律的睡眠时间表:保持规律的睡眠时间表可以帮助你建立健康的睡眠习惯,使你更容易入睡。尽量在每天的相同时间上床,并在同一时间起床。2. 创造一个舒适的睡眠环境:确保睡眠环境舒适,安静,黑暗且温度适宜。可以使用舒适的床上用品,并保持房间通风。3. 放松身心:在睡前做些放松的活动,例如泡个热水澡,听些轻柔的音乐,阅读一些有趣的书籍等,有助于缓解紧张和焦虑,使你更容易入睡。4. 避免饮用含有咖啡因的饮料:咖啡因是一种刺激性物质,会影响你的睡眠质量。尽量避免在睡前饮用含有咖啡因的饮料,例如咖啡,茶和可乐。5. 避免在床上做与睡眠无关的事情:在床上做些与睡眠无关的事情,例如看电影,玩游戏或工作等,可能会干扰你的睡眠。6. 尝试呼吸技巧:深呼吸是一种放松技巧,可以帮助你缓解紧张和焦虑,使你更容易入睡。试着慢慢吸气,保持几秒钟,然后缓慢呼气。如果这些方法无法帮助你入睡,你可以考虑咨询医生或睡眠专家,寻求进一步的建议。
从本地加载模型 以上代码会由 transformers 自动下载模型实现和参数。完整的模型实现在 Hugging Face Hub。如果你的网络环境较差下载模型参数可能会花费较长时间甚至失败。此时可以先将模型下载到本地然后从本地加载。 从 Hugging Face Hub 下载模型需要先安装Git LFS然后运行
git clone https://huggingface.co/THUDM/chatglm3-6b 如果从你从 HuggingFace 下载比较慢也可以从 ModelScope 中下载。
模型微调 请参考对话模型微调 ChatGLM3-6B 微调示例,或基座模型微调 ChatGLM3-6B-base 微调示例。 请注意不同的微调脚本对应的模型并不相同请根据需要选择对应的模型。
低成本部署
模型量化 默认情况下模型以 FP16 精度加载运行上述代码需要大概 13GB 显存。如果你的 GPU 显存有限可以尝试以量化方式加载模型使用方法如下
model AutoModel.from_pretrained(THUDM/chatglm3-6b,trust_remote_codeTrue).quantize(4).cuda() 模型量化会带来一定的性能损失经过测试ChatGLM3-6B 在 4-bit 量化下仍然能够进行自然流畅的生成。
CPU 部署 如果你没有 GPU 硬件的话也可以在 CPU 上进行推理但是推理速度会更慢。使用方法如下需要大概 32GB 内存
model AutoModel.from_pretrained(THUDM/chatglm3-6b, trust_remote_codeTrue).float()
Mac 部署 对于搭载了 Apple Silicon 或者 AMD GPU 的 Mac可以使用 MPS 后端来在 GPU 上运行 ChatGLM3-6B。需要参考 Apple 的 官方说明 安装 PyTorch-Nightly正确的版本号应该是2.x.x.dev2023xxxx而不是 2.x.x。 目前在 MacOS 上只支持从本地加载模型。将代码中的模型加载改为从本地加载并使用 mps 后端
model AutoModel.from_pretrained(your local path, trust_remote_codeTrue).to(mps) 加载半精度的 ChatGLM3-6B 模型需要大概 13GB 内存。内存较小的机器比如 16GB 内存的 MacBook Pro在空余内存不足的情况下会使用硬盘上的虚拟内存导致推理速度严重变慢。
多卡部署 如果你有多张 GPU但是每张 GPU 的显存大小都不足以容纳完整的模型那么可以将模型切分在多张GPU上。首先安装 accelerate: pip install accelerate然后通过如下方法加载模型
from utils import load_model_on_gpusmodel load_model_on_gpus(THUDM/chatglm3-6b, num_gpus2) 即可将模型部署到两张 GPU 上进行推理。你可以将 num_gpus 改为你希望使用的 GPU 数。默认是均匀切分的你也可以传入 device_map 参数来自己指定。
