GuppyLM

大模型总像一个黑盒，想弄懂它从文本到权重到输出到底怎么来的，看论文又太抽象。GuppyLM 是一个只有约 900 万参数、假装自己是一条小鱼的语言模型，一个 Colab 笔记本、单块 GPU 约五分钟就能从零训练完。

数据生成、分词器、模型结构、训练循环和推理全部摊开给你看，训练出来的小模型只会用小写短句聊水、食物和鱼缸生活，但每一步都看得明明白白。

软件功能

完整流程：数据合成、分词、训练到推理一条龙。

极低门槛：单 GPU 约 5 分钟训练完成。

教学导向：代码短小，适合理解语言模型原理。