PicoLM

PicoLM

10美元开发板上跑10亿参数模型

AI官网

应用介绍

在嵌入式板子上跑大模型,一般认为至少要几个 G 内存和 Python 环境。PicoLM 用纯 C 编写,在只有 256MB 内存的 10 美元开发板上运行 10 亿参数的大模型,零依赖、单个二进制、无需联网。

它支持 ARM 和 RISC-V,读取 GGUF 模型,是超轻量 AI 助手 PicoClaw 的本地大脑。

软件功能



极低资源:256MB 内存运行 1B 模型。

纯 C:零依赖单文件。

多架构:ARM、RISC-V。

离线:无需云端。