Caveman Compression

Caveman Compression

去掉语法废话的大模型上下文压缩

AI官网

应用介绍

长文档塞进上下文,大量 Token 花在了“的”“是”“然后”这些可预测的语法词上。Caveman Compression 是一种面向大模型上下文的语义压缩方法。

它删掉可预测的语法成分,只保留承载意义的事实内容,模型依然能读懂,Token 却省下一大截。

软件功能



语义压缩:保留事实。

省 Token:删除冗余语法。

模型可读:含义不丢。