合肥建站软件,云服务器5元左右的,越秀学校网站建设,张家港做网站广告公司简介
通义千问系列模型为阿里云研发的大语言模型。千问模型基于 Transformer 架构#xff0c;在超大规模的预训练数据上进行训练得到。预训练数据类型多样#xff0c;覆盖广泛#xff0c;包括大量网络文本、专业书籍、代码等。同时#xff0c;在预训练模型的基础之上…简介
通义千问系列模型为阿里云研发的大语言模型。千问模型基于 Transformer 架构在超大规模的预训练数据上进行训练得到。预训练数据类型多样覆盖广泛包括大量网络文本、专业书籍、代码等。同时在预训练模型的基础之上使用对齐机制打造了模型的 chat 版本。其中千问-1.8B 是 18 亿参数规模的模型千问-7B 是 70 亿参数规模的模型千问-14B 是 140 亿参数规模的模型千问-72B 是 720 亿参数规模的模型。
Qwen1.5
Qwen1.5 是 Qwen 开源系列的下一个版本。与之前的版本相比Qwen1.5 显著提升了聊天模型与人类偏好的一致性改善了它们的多语言能力并具备了强大的链接外部系统能力。DashScope 上提供 API 服务的是新版本 qwen 模型的 chat 版本在 chat 能力上大幅提升即便在英文的 MT-Bench 上Qwen1.5-Chat 系列也取得了优秀的性能。
Qwen2
Qwen2 参数范围包括 0.5B 到 72B包括 MOE 模型。Qwen2 在一系列针对语言理解、语言生成、多语言能力、编码、数学、推理等的基准测试中总体上超越了大多数开源模型并表现出与专有模型的竞争力。Qwen2 增⼤了上下⽂⻓度⽀持最⾼达到 128K tokensQwen2-72B-Instruct能够处理大量输入
千问 2 性能 文生文本地部署 ollama Qwen2-72B-Instruct-demo 在线体验 Qwen2-VL ModelScope
Qwen2-VL 可以处理任意图像分辨率将它们映射到动态数量的视觉标记中提供更接近人类的视觉处理体验
Qwen2-VL 模型特点
读懂不同分辨率和不同长宽比的图片Qwen2-VL 在 MathVista、DocVQA、RealWorldQA、MTVQA 等视觉理解基准测试中取得了全球领先的表现。理解 20 分钟以上的长视频Qwen2-VL 可理解长视频并将其用于基于视频的问答、对话和内容创作等应用中。能够操作手机和机器人的视觉智能体借助复杂推理和决策的能力Qwen2-VL 可集成到手机、机器人等设备根据视觉环境和文字指令进行自动操作。多语言支持为了服务全球用户除英语和中文外Qwen2-VL 现在还支持理解图像中的多语言文本包括大多数欧洲语言、日语、韩语、阿拉伯语、越南语等。
本地部署示例 本地处理视频分析 Qwen2-VL ModelScope 在线体验 langchain 调用阿里云 api
from langchain_community.chat_models import ChatTongyi
from langchain_core.messages import HumanMessagechatLLM ChatTongyi(model_nameqwen-vl-max)
image_message {image: https://lilianweng.github.io/posts/2023-06-23-agent/agent-overview.png,
}
text_message {text: summarize this picture,
}
message HumanMessage(content[text_message, image_message])
chatLLM.invoke([message])token 消耗统计
content[{text: 图中是一位身穿黄色衣服的女子站在床边喂一个男人喝药。女人身穿一身黄色旗袍上面绣着精美的花纹。男人躺在床上似乎很虚弱的样子。}] response_metadata{model_name: qwen-vl-max, finish_reason: stop, request_id: 777814e2-873c-93c8-a280-eea5e91f59f1, token_usage: {input_tokens: 335, output_tokens: 39, image_tokens: 299}} idrun-7708852a-7069-4940-9b25-9bcda0e99e10-0代码调用 transformers modelscope
from PIL import Image
import requests
import torch
from torchvision import io
from typing import Dict
from transformers import Qwen2VLForConditionalGeneration, AutoTokenizer, AutoProcessor
from modelscope import snapshot_downloadfrom utils import debugmodel_dir snapshot_download(qwen/Qwen2-VL-7B-Instruct)
# Load the model in half-precision on the available device(s)
model Qwen2VLForConditionalGeneration.from_pretrained(model_dir, torch_dtypeauto, device_mapauto
)
processor AutoProcessor.from_pretrained(model_dir)def test_image():# Imageurl https://qianwen-res.oss-cn-beijing.aliyuncs.com/Qwen-VL/assets/demo.jpegimage Image.open(requests.get(url, streamTrue).raw)conversation [{role: user,content: [{type: image,},{type: text, text: Describe this image.},],}]# Preprocess the inputstext_prompt processor.apply_chat_template(conversation, add_generation_promptTrue)# Excepted output: |im_start|system\nYou are a helpful assistant.|im_end|\n|im_start|user\n|vision_start||image_pad||vision_end|Describe this image.|im_end|\n|im_start|assistant\ninputs processor(text[text_prompt], images[image], paddingTrue, return_tensorspt)inputs inputs.to(cuda)# Inference: Generation of the outputoutput_ids model.generate(**inputs, max_new_tokens128)generated_ids [output_ids[len(input_ids):]for input_ids, output_ids in zip(inputs.input_ids, output_ids)]output_text processor.batch_decode(generated_ids, skip_special_tokensTrue, clean_up_tokenization_spacesTrue)debug(output_text)总结
功能相对齐全文本、音频、图片、视频都比较开放在线服务完善 阿里云、魔搭、海外平台集成开放性高开源可私有部署 推荐学习
【霍格沃兹测试开发】7天软件测试快速入门带你从零基础/转行/小白/就业/测试用例设计实战
【霍格沃兹测试开发】最新版Web 自动化测试从入门到精通/ 电子商务产品实战/Selenium 上集
【霍格沃兹测试开发】最新版Web 自动化测试从入门到精通/ 电子商务产品实战/Selenium 下集
【霍格沃兹测试开发】明星讲师精心打造最新Python 教程软件测试开发从业者必学上集
【霍格沃兹测试开发】明星讲师精心打造最新Python 教程软件测试开发从业者必学下集
【霍格沃兹测试开发】精品课合集/ 自动化测试/ 性能测试/ 精准测试/ 测试左移/ 测试右移/ 人工智能测试
【霍格沃兹测试开发】腾讯/ 百度/ 阿里/ 字节测试专家技术沙龙分享合集/ 精准化测试/ 流量回放/Diff
【霍格沃兹测试开发】Pytest 用例结构/ 编写规范 / 免费分享
【霍格沃兹测试开发】JMeter 实时性能监控平台/ 数据分析展示系统Grafana/Docker 安装
【霍格沃兹测试开发】接口自动化测试的场景有哪些为什么要做接口自动化测试如何一键生成测试报告
【霍格沃兹测试开发】面试技巧指导/ 测试开发能力评级/1V1 模拟面试实战/ 冲刺年薪百万
【霍格沃兹测试开发】腾讯软件测试能力评级标准/ 要评级表格的联系我
【霍格沃兹测试开发】Pytest 与Allure2 一键生成测试报告/ 测试用例断言/ 数据驱动/ 参数化
【霍格沃兹测试开发】App 功能测试实战快速入门/adb 常用命令/adb 压力测试
【霍格沃兹测试开发】阿里/ 百度/ 腾讯/ 滴滴/ 字节/ 一线大厂面试真题讲解卷完拿高薪Offer
【霍格沃兹测试开发】App自动化测试零基础快速入门/Appium/自动化用例录制/参数配置
【霍格沃兹测试开发】如何用Postman 做接口测试从入门到实战/ 接口抓包最新最全教程
