Cactus

在手机、手表或机器人上跑大模型，普通框架体积大、速度慢，还特别耗电。Cactus 是一个面向手机、可穿戴设备、智能家居和机器人的端侧 AI 推理引擎，包含量化、算子和运行时。

支持大模型、语音识别和 RAG，提供安卓、iOS 和 Flutter、React Native 等多种接入方式。

软件功能

端侧推理：离线运行。

量化优化：省内存省电。

多模态：文本与语音。

多框架：Flutter、RN。