觅用 AI
自动模式按当地时间06:30至18:00使用浅色,其余时间使用深色
工具指南 / 从用途到使用

OpenLLM

把开源或自定义语言模型部署为兼容 OpenAI 的接口,并提供内置聊天界面。

打开官方项目

OpenLLM 能帮你完成什么工作

选一项工作查看准备材料、执行建议和交付检查。

01

部署带聊天界面的模型接口

准备材料
  • 模型配置
  • 运行环境
怎样开始
  1. 从支持的模型中选择一个与当前硬件相符的模型。
  2. 通过 OpenLLM 启动模型服务,打开其聊天界面或连接 API。
  3. 提交典型问题测试回复,再把已验证的服务地址配置到应用中。
交付目标
  • 模型接口
  • 聊天界面
人工检查
检查模型兼容性及接口调用结果。

OpenLLM 是什么

把开源或自定义语言模型部署为兼容 OpenAI 的接口,并提供内置聊天界面。

费用与使用条件

正式使用前,查看官方当前账号、功能、导出和输入资料要求,核对结果是否适合你的任务。

同类工具,换一个选择

按条件筛选 ↗