AnythingLLM
AnythingLLM 是一个 一体化人工智能应用程序,它被用于 开源大模型/服务 等场景。AnythingLLM是一个多功能的语言模型,支持多种任务和应用,提供智能对话和文本生成。
准备
在参阅本文档使用 AnythingLLM 时,需要确保如下几点:
-
登录 Websoft9 控制台,然后找到(或安装)AnythingLLM:
- 我的应用 菜单找到应用
- 应用商店 菜单部署应用
-
应用是基于 Websoft9 安装的
-
应用的用途符合 MIT 开源许可协议
-
为应用准备配置访问方式:配置域名 或 服务器安全组开启网外端口
入门指南
初始化
-
Websoft9 控制台安装 AnythingLLM 后,通过 我的应用 查看应用详情,在 访问 标签页中获取访问 URL
-
准备在线 LLM 或在 Websoft9 控制台创建 Ollama 应用程序
-
进入 Ollama 容器并运行命令
ollama run tinydolphin
来创建模型 -
浏览器访问 URL,进入 AnythingLLM 设置界面,选择在线 LLM(OpenAI)或之前安装的 Ollama
-
为工作区设置 LLM 提供商
-
设置完成就可以与 LLM 聊天了
配置选项
- 多语言(√)