百度文心は11月9日、技術ブログで自動研究システム「ERNIE Evolve」を公開した。外側ループが研究方向を提案し、内側ループがコード修正、評価、経験の蓄積を行う。Director、Selector、Executor、Evaluator、Reviewerなどのエージェントが役割分担し、独立した評価と再検証を通過した改善のみが採用される。百度は、このシステムが開発中の文心5.5 Flashの推論最適化に既に適用されていると説明。昆仑芯P800における低遅延シナリオでの生成速度はベースラインの623.6%に向上し、決定論的推論のスループットは133.7%に向上、究極のデコード速度は累計で114.9%に向上した。いずれも本番環境での検証を完了している。雷峰網が百度に詳しい関係者の話を引用したところによると、文心の新モデルは近日中にリリースされる可能性がある。
なぜ重要か AI自身が方向性を提案し、実験を通じて推論を最適化させるというアプローチで、百度は昆仑芯P800上での本番レベルの高速化データを提示した。
信頼性:高い · 出典 文心技術ブログなど2社(公式含む) · イベント日時 11-09(北京時間)
理由
- 文心技術ブログによる公式発表であり、高速化の数値は百度の本番環境から得られたもの
リスク
- 文心5.5 Flashのリリース時期は未定で、百度に詳しい関係者の発言のみが根拠