KoboldCpp

想在本地跑 GGUF/GGML 模型做文本生成、角色扮演，配环境却一堆坑。KoboldCpp 一个文件就跑：易用的 AI 文本生成软件，支持 GGML 与 GGUF 模型，灵感来自初代 KoboldAI。

软件功能

本地生成：跑 GGUF/GGML 模型。

开箱即用：单文件启动。

Web 界面：浏览器交互生成。

开源：免费本地。