AMD R9700 AI Toolboxes

AMD R9700 AI Toolboxes

AMD R9700显卡的大模型运行容器

AI官网

应用介绍

买了 AMD Radeon AI PRO R9700 想跑本地大模型,ROCm 和 Vulkan 环境配置踩坑无数。这个项目提供为 R9700 预构建的 llama.cpp 容器,拿来即用。

它支持 Vulkan 和 ROCm 加速,给出多卡配置和实测性能,方便快速复现。

软件功能



预构建容器:开箱即用。

双后端:Vulkan 与 ROCm。

多卡配置:实测参数。

应用截图