Portkey
Portkey 是一个 AI 大模型网关,它被用于 AI 管理运维 应用网关 API 网关 等场景。使用单一的、一致的 API 进行连接、负载均衡、设 置回退并无缝管理 100+ AI 模型。
准备
在参阅本文档使用 Portkey 时,需要确保如下几点:
-
登录 Websoft9 控制台,然后找到(或安装)Portkey:
- 我的应用 菜单找到应用
- 应用商店 菜单部署应用
-
应用是基于 Websoft9 安装的
-
应用的用途符合 MIT 开源许可协议
-
为应用准备配置访问方式:配置域名 或 服务器安全组开启网外端口
入门指南
使用 Portkey
请参照 AI Gateway。