WARC

WARC は 35M パラメータを持つ行動条件付き視覚 Transformer です。直近 3 フレームの 64×64、16 色のゲーム画面と行動を入力として受け取り、セルごとに次のフレームを予測します。エージェントは状態変化を観測するたびに、直近の遷移を用いて 20 ステップの勾配更新で全パラメータを更新します。著者によると、人間のプレイ映像で事前学習を行った後、未見のゲームに対しては、5 つのメカニズムのうち 4 つにおいて、変化したセルで少なくとも 80% の予測精度を達成できるとされています。リポジトリには 4 つのチェックポイントが提供されており、そのうち 3 つはホールドアウトゲームによる分割で訓練され、1 つは全 25 個のゲームで訓練されています。

WARC は 35M パラメータを持つ行動条件付き視覚 Transformer です。直近 3 フレームの 64×64、16 色のゲーム画面と行動を入力として受け取り、セルごとに次のフレームを予測します。エージェントは状態変化を観測するたびに、直近の遷移を用いて 20 ステップの勾配更新で全パラメータを更新します。著者によると、人間のプレイ映像で事前学習を行った後、未見のゲームに対しては、5 つのメカニズムのうち 4 つにおいて、変化したセルで少なくとも 80% の予測精度を達成できるとされています。リポジトリには 4 つのチェックポイントが提供されており、そのうち 3 つはホールドアウトゲームによる分割で訓練され、1 つは全 25 個のゲームで訓練されています。

なぜ重要か 小規模なモデルがテスト時学習によって未知のゲームメカニズムを迅速に習得できることを示しています。重みは CC0 で公開されており、研究で直接再利用可能です。

ハグ顔点赞 2 · ハグ顔上昇分 2 · ハグ顔ダウンロード 0

ライセンス:商用可 · ComfyUI:未対応 · VRAM:記載なし

理由

  • CC0 ライセンス、コードは GitHub で公開されており、各チェックポイントには訓練設定、エポックごとの検証精度、および SHA-256 マニフェストが添付されている

使い方

  • GitHub リポジトリをクローンし、README に従って torch 2.7.0 と依存関係をインストール、hf download third-intelligence/WARC でチェックポイントをダウンロードした後、build_from_checkpoint を呼び出して次のフレームを予測する

リスク

  • ARC-AGI-3 スタイルのグリッドゲームにのみ適用可能であり、研究用途に限定される
  • CUDA グラフィックカードが必要だが、モデルカードに VRAM 要件は記載されていない

開く

抱脸 world-model 标签

最新の AI ニュースを見る