应用介绍
买了 AMD Radeon AI PRO R9700 想跑本地大模型,ROCm 和 Vulkan 环境配置踩坑无数。这个项目提供为 R9700 预构建的 llama.cpp 容器,拿来即用。
它支持 Vulkan 和 ROCm 加速,给出多卡配置和实测性能,方便快速复现。
预构建容器:开箱即用。
双后端:Vulkan 与 ROCm。
多卡配置:实测参数。
它支持 Vulkan 和 ROCm 加速,给出多卡配置和实测性能,方便快速复现。
软件功能
预构建容器:开箱即用。
双后端:Vulkan 与 ROCm。
多卡配置:实测参数。

