中国职业培训在线,沧州网站推广优化商集客电话,wordpress图片转移,wordpress登录下载附件因为之前使用dify搭建了一个知识库#xff0c;但是dify的效果#xff0c;尤其是在文档解析方面是非常不友好的#xff0c;虽然测试了#xff0c;纳米的效果非常好#xff0c;但是纳米只能容纳2000个文件#xff0c;如果
你的知识库中有代码#xff0c;sql文件等等… 因为之前使用dify搭建了一个知识库但是dify的效果尤其是在文档解析方面是非常不友好的虽然测试了纳米的效果非常好但是纳米只能容纳2000个文件如果
你的知识库中有代码sql文件等等如果太多就不行了。而如果分开智能体的话那么就非常麻烦所以自己搭建本地的知识库效果会好一些但是如果你没有
671b参数的大模型deepseek的话其实模型效果就又差了。 首先去搭建大模型用的Ubuntu24.04 hyper-v虚拟机这个之前章节已经有了。过程一样不重复截图然后
设置虚拟机可以被外网访问。这里看一下如何设置之前也说过但是这里再说一下其实只设置一个外部使用网络就可以了。
就可以实现本机访问虚拟机虚拟机也可以访问本机。 首先用hyper-v管理器创建一个外部网络可以看到点击虚拟机设置然后
创建网络适配器然后点击外部然后设置虚拟机适配器作成 然后填写名字然后选择本地网卡然后点击ok 就像上面一样填写演示了一下上面然后点击ok就可以了 可以看到就多出来一个网卡名字是刚刚创建的外部网络extenral 然后去看看他的ip地址是172.19.129.133
其实这个就是本机的ip但是dns没有带过来我给填写上了。 然后这个时候去看本机的地址也是原来的172.19.129.133
没有变感觉就是本机的网卡被使用创建了这个虚拟的外部网卡external然后
本机网卡就没有用了。 然后可以看到本机网卡的ipv4就被自动勾选掉了然后这个时候
经过测试本机172.19.129.133可以ping通虚拟机 172.19.129.135
注意配置以后需要手动在虚拟机配置一下ip地址 可以看到点开ipv4配置就可以了。 然后去设置一下root的密码 sudo passwd root
然后切换到root用户
# 检查的值vm.max_map_count
sysctl vm.max_map_count# 重置vm.max_map_count设置为大于等于262144的值 (如果不是)本机八张A100的8U机架人工智能一体机内存2TB , 所以设置100万负载
sysctl -w vm.max_map_count1048576在 /etc/sysctl.conf 文件里把 vm.max_map_count 的值再相应更新一遍vm.max_map_count1048576sysctl -p# 验证限制是否生效
cat /proc/sys/vm/max_map_count 然后去设置一下这个映射的值是1048576我查看了一下默认就是这个所以没有设置如果不是按照上面的方式设置。 apt-get install open-vm-tool apt-get install open-vm-tools-desktop sudo apt update 然后就可以继续安装首先安装docker。 可以看到首先执行
sudo apt install apt-transport-https curl 可以看到报了个错其实意思就是
我们这边有个认证浏览器访问上面的那个114.登录用户名密码以后才允许联网。
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg
执行这个添加密钥以后 echo deb [arch$(dpkg --print-architecture) signed-by/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu $(. /etc/os-release echo $VERSION_CODENAME) stable | sudo tee /etc/apt/sources.list.d/docker.list /dev/null
然后再来执行这个将 Docker 的官方仓库添加到 Ubuntu 24.04 LTS 的软件源列表 然后再执行一下 sudo apt update
这些步骤在之前的博文中有了为了参考的时候方便这里仅仅贴一下代码 然后sudo apt install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
执行这个来安装docker 会花一些时间大小大了一点。 sudo apt install git docker.io docker-compose
再去安装git sudo systemctl is-active docker
安装了docker以后然后再来执行上面这个命令查看运行状态
可以看到没问题了。
然后运行 apt install vim
sudo vim /etc/docker/daemon.json 执行这个命令
去添加几个国内的镜像源
{registry-mirrors: [https://docker.m.daocloud.io,https://mirror.baiduce.com,http://hub-mirror.c.163.com,https://docker.nju.edu.cn,https://docker.1panelproxy.com,https://hub.rat.dev,https://089rhvq.mirror.aliyuncs.com,https://ustc-edu-cn.mirror.aliyuncs.com/,https://docker.mirrors.ustc.edu.cn,https://ccr.ccs.tencentyun.com/,https://dockerproxy.com,https://docker.registry.cyou,https://docker-cf.registry.cyou,https://dockercf.jsdelivr.fyi,https://docker.jsdelivr.fyi,https://dockertest.jsdelivr.fyi,https://mirror.aliyuncs.com,https://dockerproxy.com,https://docker.mirrors.sjtug.sjtu.edu.cn,https://mirror.iscas.ac.cn,https://docker.rainbond.cc]
}添加了以后按esc按键 然后点击:wq
保存退出
sudo systemctl daemon-reload sudo systemctl restart docker
然后重新加载一下docker 然后执行 sudo docker info 可以看到apt源已经都加上了。 可以看到首先执行
systemctl start docker
systemctl enable docker
systemctl status docker sudo docker run hello-world 可以看到 运行结果 执行一个案例试了试这个是
没问题了 https://ragflow.io/docs/dev/ 首先执行
su root
sysctl -w vm.max_map_count262144
然后再去克隆代码 git clone https://github.com/infiniflow/ragflow.git
尝试了好多次在白天上午的时候速度快可以成功。 $ git clone https://github.com/infiniflow/ragflow.git
$ cd ragflow/docker
$ git checkout -f v0.19.0
可以看到按照顺序执行。 如果需要修改端口的话修改这个文件。
# Use CPU for embedding and DeepDoc tasks:
$ docker compose -f docker-compose.yml up -d# To use GPU to accelerate embedding and DeepDoc tasks:
# docker compose -f docker-compose-gpu.yml up -d
我们这个是CPU所以这里就
执行 去启动就可以了。 启动以后去访问就可以了。
