做一个商城网站需要多少钱,医院内外网站建设,wordpress 翁,电商网站改版思路本地部署DeepSeek R1 界面可视化open-webui
本文主要讲述如何用ollama镜像和open-webui镜像部署DeepSeek R1#xff0c; 镜像比较方便我们在各个机器之间快速部署。
显卡推荐
模型版本CPU内存GPU显卡推荐1.5B4核8GB非必需4GBRTX1650、RTX20607B、8B8核16GB8GBRTX3070、RTX…本地部署DeepSeek R1 界面可视化open-webui
本文主要讲述如何用ollama镜像和open-webui镜像部署DeepSeek R1 镜像比较方便我们在各个机器之间快速部署。
显卡推荐
模型版本CPU内存GPU显卡推荐1.5B4核8GB非必需4GBRTX1650、RTX20607B、8B8核16GB8GBRTX3070、RTX406014B12核32GB16GBRTX4090、RTX508032B16核64GB24GBA100 40GB70B32核128GB多卡2×A100 80GB671B64核512GB多卡8×A100/H100
以上配置仅供参考
安裝部署ollama镜像
进入 ollama镜像官网 | https://hub.docker.com/r/ollama/ollama选择Download 镜像是部署在ubuntu系统上的请确保已经安装好docker和NVIDIA Container Toolkit等系统环境。
拉取启动镜像
创建一个目录用来保存ollama下载下来的模型
mkdir -p ollama/data
cd ollama/只有CPU的情况下:
sudo docker run -d -v ./data:/root/.ollama -p 11434:11434 --name ollama ollama/ollama有GPU的情况下:
sudo docker run -d --gpusall -v ./data:/root/.ollama -p 11434:11434 --name ollama ollama/ollama制作成docker-compose 文件管理镜像
version: 3.8services:ollama:image: ollama/ollamacontainer_name: ollamarestart: alwaysvolumes:- ./data:/root/.ollamaports:- 11434:11434安裝部署open-webui镜像
Open WebUI GithubOpen WebUI Document
echo export OLLAMA_HOST0.0.0.0 ~/.bashrc
source ~/.bashrc拉取并启动镜像
启动 docker会先拉取镜像再启动
sudo docker run --networkhost -v /work/open-webui/open-webui:/app/backend/data -e OLLAMA_BASE_URLhttp://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main制作成docker-compose 文件管理镜像
version: 3.8services:open-webui:image: ghcr.io/open-webui/open-webui:maincontainer_name: open-webuirestart: alwaysnetwork_mode: hostvolumes:- /work/open-webui/open-webui:/app/backend/dataenvironment:- OLLAMA_BASE_URLhttp://127.0.0.1:11434# Optionally add ports or other configurations if neededports:- 8080:8080启动镜像
sudo docker-compose up进入设置界面配置ollama服务地址 链接过程中遇到故障 服务器连接问题
下载模型
进入到 open-webui的主页点击 号添加模型 搜索模型输入deepseek-r1:32b或其他版本的模型下载模型需要等待请耐心等待模型下载完整。
开始进入搜嘎模型
END
