请问lmdeploy如何在多卡部署
未关闭
- 主要语言
- Python
- 星标
- 2k
- 派生
- 1.5k
- PR 合并指标
- 30 天内没有已合并 PR
描述
输入命令lmdeploy serve api_server后，默认是在单卡（0号卡）上部署，请问怎么实现在多卡上部署？
贡献指南
这个仓库没有索引到贡献指南
评估
这个 Issue 还没有评估数据。
输入命令lmdeploy serve api_server后，默认是在单卡（0号卡）上部署，请问怎么实现在多卡上部署？
这个仓库没有索引到贡献指南
这个 Issue 还没有评估数据。
精选适合新手参与的 GitHub issue 摘要。