Rethinking Sequence Compression with Test-time Regression | AI 雷达 | OpenZhenZhen

每日追踪 AI 模型、产品发布、实用工具和推动 AI 发展的重要趋势。 把序列压缩看成“测试时回归”:输入 token 构成一个回归问题,前向时闭式求出的系数就是压缩表示,用来替换池化或投影;作者称做块稀疏注意力压缩器时 RULER 大幅领先�…

浏览最新 AI 动态