dstack

dstack

统一调度异构AI算力的编排层

AI官网

应用介绍

团队的 GPU 分布在几家云厂商、Kubernetes 集群和自有机房,每处跑训练和推理的方式都不一样。dstack 是一个统一调度异构 AI 算力的编排层,用同一套方式在 GPU 云、K8s、虚拟机或裸机集群上运行任务。

支持 NVIDIA 和 AMD GPU,可做开发环境、训练、微调和推理服务,是 Kubernetes 和 Slurm 的轻量替代。

软件功能



统一编排:多种算力来源。

多厂商 GPU:NVIDIA 与 AMD。

训练推理:一套配置。

轻量替代:K8s 与 Slurm。

应用截图