应用介绍
想在自己电脑上跑个开源大模型,得先搞懂 GGUF 还是 MLX、选哪个量化、配 llama.cpp;想微调一下,又要写一堆 Python、盯着显存爆掉。跑模型和训模型,平时是两套完全不同的工具链。
Unsloth 把这两件事装进了一个桌面应用:在内置的模型库里搜到 Qwen、DeepSeek、Gemma、Kimi,点一下下载就能聊天,同一个界面里还能拿自己的数据微调模型,速度快一倍、显存省七成,而且不掉精度。Windows、macOS、Linux 都有原生安装包,N 卡、A 卡、Intel 显卡和纯 CPU 都能用。
它原本就是 GitHub 上最火的微调库之一(七万多星),现在有了图形界面,不写代码也能用。喜欢命令行的照样可以装 Unsloth Studio 网页版,或者直接在 Python 里调用。开源协议 Apache-2.0。
模型库一站下载:内置模型浏览器,分「发现」和「本机」两栏,能看到每个模型的体积、量化版本和下载量,GGUF、MLX、扩散、嵌入、语音模型都能跑。
聊天带联网和深度研究:本地模型也能联网搜索、做深度研究、读文件、跑代码,长对话会自动压缩上下文,不怕爆窗口。
给 Claude Code 换上本地模型:一条
微调不写代码:LoRA、QLoRA、全量微调、预训练,以及 GRPO、DPO 等强化学习方法都支持,大模型、扩散模型、TTS、嵌入模型都能训。
用文档直接做数据集:把 PDF、CSV、Word 文件丢进去,用 Data Recipes 生成训练数据,省掉手工整理的那一步。
训完直接导出:一键导出 GGUF、FP8、NVFP4 等格式,拿去 Ollama、llama.cpp 里就能用。
本地出图出视频:文生图、视频扩散和多模态模型也能在本机跑、在本机训。
当成 API 服务用:提供 OpenAI 兼容接口,局域网里其他设备能直接连;也能通过 Cloudflare 的 HTTPS 通道从外网安全访问自己的模型。
Unsloth 把这两件事装进了一个桌面应用:在内置的模型库里搜到 Qwen、DeepSeek、Gemma、Kimi,点一下下载就能聊天,同一个界面里还能拿自己的数据微调模型,速度快一倍、显存省七成,而且不掉精度。Windows、macOS、Linux 都有原生安装包,N 卡、A 卡、Intel 显卡和纯 CPU 都能用。
它原本就是 GitHub 上最火的微调库之一(七万多星),现在有了图形界面,不写代码也能用。喜欢命令行的照样可以装 Unsloth Studio 网页版,或者直接在 Python 里调用。开源协议 Apache-2.0。
软件功能
模型库一站下载:内置模型浏览器,分「发现」和「本机」两栏,能看到每个模型的体积、量化版本和下载量,GGUF、MLX、扩散、嵌入、语音模型都能跑。
聊天带联网和深度研究:本地模型也能联网搜索、做深度研究、读文件、跑代码,长对话会自动压缩上下文,不怕爆窗口。
给 Claude Code 换上本地模型:一条
unsloth start claude 就把 Claude Code 接到本地模型上,Codex、OpenCode 等 Agent 也一样,支持工具调用和 MCP。微调不写代码:LoRA、QLoRA、全量微调、预训练,以及 GRPO、DPO 等强化学习方法都支持,大模型、扩散模型、TTS、嵌入模型都能训。
用文档直接做数据集:把 PDF、CSV、Word 文件丢进去,用 Data Recipes 生成训练数据,省掉手工整理的那一步。
训完直接导出:一键导出 GGUF、FP8、NVFP4 等格式,拿去 Ollama、llama.cpp 里就能用。
本地出图出视频:文生图、视频扩散和多模态模型也能在本机跑、在本机训。
当成 API 服务用:提供 OpenAI 兼容接口,局域网里其他设备能直接连;也能通过 Cloudflare 的 HTTPS 通道从外网安全访问自己的模型。


