bsp; 不换模型压缩。很多 Agent 开一个独立的 LLM call 用小模型做摘要。 问题是这个独立 call 跟主 session 没有任何共享前缀,压缩本身就是 100% miss;压完之后主 session 的历史也变了,又是一轮 miss。
当前文章:http://60hrer.vupqud.com/m64sdc0/y16r6f.docx
发布时间:01:20:13