GPUStack 能帮你完成什么工作
选一项工作查看准备材料、执行建议和交付检查。
01为模型服务分配GPU资源
- 准备材料
- GPU节点
- 模型与推理引擎配置
- 怎样开始
- 将可用计算节点加入 GPUStack，检查节点与 GPU 资源状态。
- 选择待部署模型，配置推理后端与资源分配并发起部署。
- 等模型服务就绪后发送测试请求，结合资源使用情况调整分配。
- 交付目标
- 模型部署
- GPU实例与运行状态
- 人工检查
- 检查资源分配、网络访问与服务实际响应。
GPUStack 是什么
统一管理 GPU 集群，编排模型推理引擎，并按需提供可访问的 GPU 实例。
费用与使用条件
正式使用前，查看官方当前账号、功能、导出和输入资料要求，核对结果是否适合你的任务。
