Sonar 能帮你完成什么工作
选一项工作查看准备材料、执行建议和交付检查。
01部署语言或多模态推理服务
- 准备材料
- 支持模型
- 服务器环境
- 推理配置
- 怎样开始
- 选择要部署的语言或多模态模型，并配置模型来源与推理设备。
- 启动 Sonar 服务，让应用连接该模型的推理入口。
- 使用与业务相同类型的输入试调用，检查响应和服务运行情况。
- 交付目标
- 模型服务
- 推理响应
- 人工检查
- 检查模型兼容性及实际响应。
Sonar 是什么
为兼容 Hugging Face 的语言和多模态模型提供推理、批处理与分布式服务。
费用与使用条件
正式使用前，查看官方当前账号、功能、导出和输入资料要求，核对结果是否适合你的任务。
