跳到主要内容
版本:2.0

Open WebUI

Open WebUI 是一个 自托管的 AI 多模型集成界面,它被用于 AI 多模型统一交互界面 AI 智能体/聊天/知识检索 AI 写作与创意内容生成 等场景。Open WebUI 是一个可扩展、功能丰富、用户友好的自托管人工智能平台,可完全离线运行。它支持各种 LLM 运行程序,如 Ollama 和 OpenAI 兼容 API,并内置 RAG 推理引擎,是一个强大的人工智能部署解决方案。

界面

准备​

在参阅本文档使用 Open WebUI 时,需要确保如下几点:

  • 登录 Websoft9 控制台,然后找到(或安装)Open WebUI:

    • 我的应用 菜单找到应用
    • 应用商店 菜单部署应用
  • 应用是基于 Websoft9 安装的

  • 应用的用途符合 MIT 开源许可协议

  • 为应用准备配置访问方式:配置域名 或 服务器安全组开启网外端口

入门指南​

初始化​

  1. Websoft9 控制台安装 Open WebUI 后,通过 我的应用 查看应用详情,在 访问 标签页中获取访问 URL

  2. 根据向导创建管理员账号

  3. 左上角 选择一个模型, 搜索 tinydolphin, 点击即可下载模型

  4. 选择 tinydolphin模型,可以开始使用聊天功能

通过 GPU 运行​

  1. 创建此应用程序时选择 cuda 版本

  2. 编排 > 马上修改,将 docker-compose-gpu.yml 更改为 docker-compose.yml

  3. 重新创建此应用

配置选项​

  • 多语言(√)
  • 设置 Ollama URL:设置 > 管理员设置

管理维护​

故障​