Cache Engineering for Agents | AI Radar | OpenZhenZhen
新しい AI モデル、製品リリース、便利なツール、AI の未来を形作るトレンドを毎日紹介します。 让 LLM 智能体直接丢弃或重排自己的 KV 缓存，而不是改写对话历史再重新预填充；作者称比常规的“超阈值就总结”平均分高 1.7、成本低 27.7%�…
新しい AI モデル、製品リリース、便利なツール、AI の未来を形作るトレンドを毎日紹介します。 让 LLM 智能体直接丢弃或重排自己的 KV 缓存，而不是改写对话历史再重新预填充；作者称比常规的“超阈值就总结”平均分高 1.7、成本低 27.7%�…