LLMRouter

LLMRouter

开源的大模型路由库

AI官网

应用介绍

所有请求都丢给最贵的模型太浪费,全用小模型又答不好难题。LLMRouter 是一个按问题自动挑选合适大模型的开源路由库。

它内置多种路由算法,可训练和评测路由器,在效果和成本之间找到平衡。

软件功能



智能路由:按题选模型。

多种算法:可训练。

成本平衡:省钱不降质。