云南做网站费用免费软文网站

ragflow 是一个很方便的本地 RAG 库。本文主要记录一下在本机的部署过程

1、总体架构说明

开发环境：macbook pro（m1），16G内存 + 512G固态

因本机的内存和硬盘比较可怜，所以在服务器上部署基础 docker 包，本机仅运行 rag-server 部分。

服务器环境：28核56线程，64G，CentOS8

2、服务器部署

服务器安装 docker，过程略

服务器安装 docker-compose，过程略

安装基础包：进入到 ${code-root-folder}/docker/docker-compose-base.yml

运行 docker-compose 命令，以部署 docker

docker-compose -f docker-compose-base.yml up -d

3、本地运行服务

本地运行服务时，需要安装一些基础包：包含有 icu4c、unixodbc

使用brew 命令安装

# 安装icu4c
brew install icu4c# 安装unixodbc
brew install unixodbc

icu4c 的安装及相关配置请参考：《macbook使用 pip 安装 pyicu 报错》

使用这个命令运行服务：python api/ragflow_server.py

4、Web 端运行

进入web 文件夹，运行npm install

注意，要求的npm 版本较高，作者使用的是 v20.10.0

使用 nvm 进行版本管理，nvm use v20.10.0

而后运行 npm install

安装完成后，使用 npm run dev 运行即可。