Rethinking Sequence Compression with Test-time Regression | AI Radar | OpenZhenZhen

Suivez chaque jour les nouveaux modèles d'IA, les lancements de produits, les outils utiles et les tendances qui façonnent l'IA. 把序列压缩看成“测试时回归”:输入 token 构成一个回归问题,前向时闭式求出的系数就是压缩表示,用来替换池化或投影;作者称做块稀疏�…

Parcourir les dernières actualités IA