网站营售,沧州外贸公司,网站设计制作一般多少钱,做视频网站视频存放在哪里目前deepseek 十分火爆#xff0c;本地部署实现私有知识库#xff0c;帮助自己日常工作#xff0c;上一篇使用工具cherry studio可以做到私人知识库。今天学习了一下#xff0c;使用Dify链接deepseek#xff0c;实现私人知识库#xff0c;也非常不错#xff0c;这里分享… 目前deepseek 十分火爆本地部署实现私有知识库帮助自己日常工作上一篇使用工具cherry studio可以做到私人知识库。今天学习了一下使用Dify链接deepseek实现私人知识库也非常不错这里分享下我的学习过程吧。
一、克隆 Dify 源代码至本地环境。
git clone https://github.com/langgenius/dify.git
当然你也可以直接登录网址 https://github.com/langgenius/dify 点击Dnowload ZIP。
二、启动Dify前提是先安装docker for mac
1、进入 Dify 源代码的 Docker 目录
cd dify/docker
2、复制环境配置文件
cp .env.example .env
3、启动 Docker 容器
docker-compose up -d
安装好后可以通过docker ps 查看所有容器是否都已正常运行。
4、访问dify
# 初始化访问设置管理员账户
http://localhost/install
三、Dify配置deepseek大模型
首先从账户中心-设置中点开。然后可以点击 ”模型供应商“。这时候可以看到很多大模型的供应商。我们可以选择添加自己已经注册或者本地部署过得大模型。 可以直接选择deepseek的大模型通过填写自己的api-key,添加后可以看到已经添加的模型。 当然你也可以通过siliconflow来实现你的知识库注册账户后将api-key填入即可。
这里介绍下如何绑定自己本地环境通过ollma部署的deepseek的模型如下
首先在模型供应商中找到ollma,然后点击添加大模型填写本地部署的模型名称
注意这里的基础URL填写http://host.docker.internal:11434localhost是无法连接的。这里可以参考Dify官网查看 添加好后在按照同样的方法继续添加Text Embedding。这是为知识库添加bge-large模型 当然这里的模型名称是自己本地部署的模型名称。
四、搭建知识库
1、来到Dify的主界面点击知识库。创建新的知识库 2、上传文档 文档上传成功后会自动嵌入然后向量化。 文档也已经被分段处理 3、引用知识库
创建空白应用-创建聊天助手 然后在聊天界面中点击添加上下文也就是你刚才创建的知识库。 此时在右边的对话框中就可以输入大模型会根据知识库进行查询。在最后的界面中能看到引用自刚才创建的知识库文件。
知识库创建好后你可以本地使用如果想外部访问这个知识库可以添加外部知识库API。配置好API Endpoint后就可以。 当然想要让外部访问到你自己的机器网络也需要在公网上。
五、Dify的亮点
在最后还是想说一下Dify非常棒的功能 Dify和cherry- studio、chatbox都可以随时切换聊天对话的大模型像知识库这种它还可以直接将聊天对话功能嵌入到自己的网站中去这一点和阿里云的知识库很像。 它还有一个亮点让我觉得很惊喜的是它有自己的API接口可以直接对接实现文件上传啊文本创建啊等更加灵活的实现自己的知识库功能将Dify用于一个可视化的知识库管理页面来使用实在是太棒了。
