Open WebUI

Open WebUI 是一个 可扩展、自托管的人工智能界面，它被用于 AI 交互界面 等场景。Open WebUI 是一个可扩展、功能丰富、用户友好的自托管人工智能平台，可完全离线运行。它支持各种 LLM 运行程序，如 Ollama 和 OpenAI 兼容 API，并内置 RAG 推理引擎，是一个强大的人工智能部署解决方案。

准备

在参阅本文档使用 Open WebUI 时，需要确保如下几点：

• 登录 Websoft9 控制台，然后找到（或安装）Open WebUI：

  • 我的应用 菜单找到应用
  • 应用商店 菜单部署应用

• 应用是基于 Websoft9 安装的

• 应用的用途符合 MIT 开源许可协议

• 为应用准备配置访问方式：配置域名 或 服务器安全组开启网外端口

入门指南

初始化

1. Websoft9 控制台安装 Open WebUI 后，通过 我的应用 查看应用详情，在 访问 标签页中获取访问 URL

2. 根据向导创建管理员账号

3. 左上角 选择一个模型, 搜索 tinydolphin, 点击即可下载模型

4. 选择 tinydolphin模型，可以开始使用聊天功能

通过 GPU 运行

1. 创建此应用程序时选择 cuda 版本

2. 编排 > 马上修改，将 docker-compose-gpu.yml 更改为 docker-compose.yml

3. 重新创建此应用

配置选项

• 多语言（√）
• 设置 Ollama URL：设置 > 管理员设置

管理维护

故障