手机网站 生成,深圳做义工的网站,正能量网站有哪些,北京做网站哪里好1 简介
Open WebUI#xff08;网址是openwebui.com#xff09;是一个高度可扩展、功能强大且用户友好的自托管Web用户界面#xff0c;专为完全离线操作设计#xff0c;编程语言是python。它支持对接Ollama和OpenAI兼容的API的大模型。 Open WebUI在架构上是一种中…1 简介
Open WebUI网址是openwebui.com是一个高度可扩展、功能强大且用户友好的自托管Web用户界面专为完全离线操作设计编程语言是python。它支持对接Ollama和OpenAI兼容的API的大模型。 Open WebUI在架构上是一种中间层屏蔽了后端具体的大模型最终对外体现为OpenAI兼容的API。
2 主要功能和特性
直观的界面Open WebUI的聊天界面灵感来自于ChatGPT确保了用户友好的体验。响应式设计在桌面和移动设备上都能享受无缝的体验。快速响应享受快速且响应迅速的性能。轻松设置使用Docker或Kuberneteskubectl、kustomize或helm无缝安装提供无忧的体验。代码语法高亮通过语法高亮功能享受增强的代码可读性。全面的Markdown和LaTeX支持提升LLM体验丰富互动。本地RAG集成支持检索增强生成RAG技术将文档交互无缝集成到聊天体验中。网络浏览能力将网站无缝集成到聊天体验中增强互动的丰富性和深度。提示预设支持使用聊天输入中的/命令即时访问预设提示加速互动。RLHF注释通过点赞和点踩赋予消息力量促进人类反馈强化学习RLHF的数据集训练。对话标记分类和定位特定聊天方便快速参考和简化数据收集。模型管理直接从Web UI中轻松下载或移除模型创建Ollama模型。多模型支持无缝切换不同的聊天模型进行多样化的互动。
3 API
Open WebUI的API接口文档是
https://docs.openwebui.com/getting-started/api-endpoints3.1 API 认证
访问API需要认证在设置 - 账号中获取API_KEY或者直接使用JWT放在HTTP Authorization头中。
3.2 聊天API
聊天API是一个OpenAI API兼容的API真的和openai的聊天接口一模一样。
curl -X POST http://localhost:3000/api/chat/completions \
-H Authorization: Bearer YOUR_API_KEY \
-H Content-Type: application/json \
-d {model: llama3.1,messages: [{role: user,content: Why is the sky blue?}]}3.3 获取大模型列表的API
curl -H Authorization: Bearer YOUR_API_KEY http://localhost:3000/api/models
