电商商城网站建设方案,国内贸易平台,海外推广服务公司,淘客推广软件https://github.com/netease-youdao/QAnything 【阅读原文】跳转Github项目 转自AIGC创想者
项目简介
QAnything 是一个基于本地知识库的问答系统#xff0c;它能够理解和回答基于任何类型文件的问题。
QAnything支持的文件格式非常广泛#xff0c;包括PDF、Word、PPT、XL… https://github.com/netease-youdao/QAnything 【阅读原文】跳转Github项目 转自AIGC创想者
项目简介
QAnything 是一个基于本地知识库的问答系统它能够理解和回答基于任何类型文件的问题。
QAnything支持的文件格式非常广泛包括PDF、Word、PPT、XLS、Markdown、Email、TXT、Image、CSV和Web链接等这使得它能够适应多种不同的使用场景。 适用场景
QAnything适合于需要处理和分析大量文档和数据的场景如企业知识管理、学术研究、法律文档审查、市场分析等。 企业知识管理企业可以利用QAnything构建内部知识库员工通过自然语言问答的方式快速获取所需信息提高工作效率。 学术研究研究人员可以使用QAnything来管理和分析大量的学术论文、报告和数据集快速找到研究中需要的信息。 法律文档审查法律专业人士可以使用QAnything来审查和分析合同、法律文件等确保文档的合规性和准确性。 市场分析市场分析师可以利用QAnything分析市场报告、消费者反馈等以获得有价值的市场洞察。
使用方法
QAnything项目的安装步骤分为几个主要部分包括系统要求、Docker安装和纯Python环境安装。以下是详细的安装步骤
系统要求
在开始安装之前请确保您的系统满足以下最低要求 Linux推荐使用NVIDIA GPU至少GTX 1050Ti更好的选择是RTX 3090并确保GPU内存至少为4GB如果使用OpenAI API。 NVIDIA驱动版本至少为525.105.17。 Docker版本至少为20.10.5。 Docker Compose版本至少为2.23.3。 Git Large File Storage (LFS)需要安装。
Docker安装 拉取QAnything仓库
git clone https://github.com/netease-youdao/QAnything.git进入项目根目录
cd QAnything根据提供的启动脚本和说明启动QAnything服务 默认在GPU 0上启动如果使用OpenAI API确保GPU内存至少为4GB。
bash run.sh指定GPU启动可选 对于Windows10/Windows11 WSL2用户推荐使用以下命令启动
# For Windows OS: Need to enter the **WSL2** environment.
# Step 1. Download the public LLM model (e.g., Qwen-7B-QAnything) and save to /path/to/QAnything/assets/custom_models
# (Optional) Download Qwen-7B-QAnything from ModelScope: https://www.modelscope.cn/models/netease-youdao/Qwen-7B-QAnything
# (Optional) Download Qwen-7B-QAnything from Huggingface: https://huggingface.co/netease-youdao/Qwen-7B-QAnything
cd QAnything/assets/custom_models
git clone https://huggingface.co/netease-youdao/Qwen-7B-QAnything# Step 2. Execute the service startup command. Here we use -b hf to specify the Huggingface transformers backend.
cd ../../
bash ./run.sh -c local -i 0 -b hf -m Qwen-7B-QAnything -t qwen-7b-qanything对于GPU计算能力大于等于8.6且VRAM大于等于24GB的情况可以使用多GPU启动
bcd QAnything
bash ./run.sh -c local -i 0,1 -b default # gpu ids: 0,1, Please confirm how many GPUs are available. Supports up to two cards for startup. 体验应用 通过在Web浏览器中输入以下地址来访问前端界面http://your_host:5052/qanything/ 如果需要访问API请参考API地址http://your_host:8777/api/ 关闭服务如果需要 使用以下命令关闭服务
bash close.sh离线安装
如果需要在没有网络的环境中安装QAnything可以在有网络的机器上下载Docker镜像和代码然后将镜像和代码复制到离线机器上加载镜像并运行。 注本文内容仅供参考具体项目特性请参照官方 GitHub 页面的最新说明。
