MagiCompiler

MagiCompiler

即插即用的AI模型编译优化器

AI官网

应用介绍

模型推理和训练想提速,往往要手写算子融合或改动大量代码。MagiCompiler 是一个即插即用的 AI 编译器,为推理和训练带来「免费午餐」式的性能优化。

只需少量改动即可接入,适用于大语言模型、多模态和视频生成模型。

软件功能



即插即用:改动极少。

推理加速:自动优化。

训练加速:同样适用。

多模型:语言、多模态、视频。