WebHarbor : transformer 153 sites web réels en images Docker locales pour l'évaluation des agents web et l'apprentissage par renforcement (Docking Real Websites for Evolving GUI Agent Environments)

Ensemble d'environnements d'agents web initié par l'Université de Caroline du Nord à Chapel Hill et Microsoft : utilisation d'agents de codage (tels que Claude Code / Codex) pour créer 153 images Docker locales basées sur des sites web réels, reproduisant les interfaces, le contenu ainsi que les flux fonctionnels tels que la connexion, le panier et la réservation ; validation humaine de la fidélité visuelle, de l'exactitude fonctionnelle et de la validité des tâches ; l'environnement s'étend en fonction des nouvelles fonctionnalités requises par les tâches. Comprend 3,518 tâches (incluant des flux multi-étapes et post-connexion), chaque site disposant d'un validateur attribuant une récompense 0/1, avec une interface de contrôle permettant de réinitialiser la base de données entre les épisodes. Les auteurs l'utilisent pour effectuer un apprentissage par renforcement sur des agents GUI de taille 4B, puis évaluent les performances sur des sites et des tâches non vus lors de l'entraînement.

Ensemble d'environnements d'agents web initié par l'Université de Caroline du Nord à Chapel Hill et Microsoft : utilisation d'agents de codage (tels que Claude Code / Codex) pour créer 153 images Docker locales basées sur des sites web réels, reproduisant les interfaces, le contenu ainsi que les flux fonctionnels tels que la connexion, le panier et la réservation ; validation humaine de la fidélité visuelle, de l'exactitude fonctionnelle et de la validité des tâches ; l'environnement s'étend en fonction des nouvelles fonctionnalités requises par les tâches. Comprend 3,518 tâches (incluant des flux multi-étapes et post-connexion), chaque site disposant d'un validateur attribuant une récompense 0/1, avec une interface de contrôle permettant de réinitialiser la base de données entre les épisodes. Les auteurs l'utilisent pour effectuer un apprentissage par renforcement sur des agents GUI de taille 4B, puis évaluent les performances sur des sites et des tâches non vus lors de l'entraînement.

J'aime 19 · Étoiles du code 46

Raison

  • Les auteurs affirment que WebHarbor-4B (Qwen3-VL 4B, initialisé à partir de OpenWebRL-4B-SFT), entraîné uniquement dans l'environnement synthétique WebHarbor, obtient une moyenne de 75.8 sur WebVoyager et Online-Mind2Web ; la fiche du modèle indique séparatement 81.2 pour WebVoyager et 70.4 pour Online-Mind2Web ; aucun des 15 sites de WebVoyager n'est inclus dans l'entraînement.
  • Réponse à un problème ancien concernant l'évaluation et l'entraînement sur des sites web réels : contenu changeant, CAPTCHAs, restrictions géographiques, murs de connexion ; les images locales sont stables et reproductibles, les auteurs affirment que la réinitialisation de la base de données s'effectue en moins d'une seconde, ce qui convient à un grand nombre d'épisodes RL.
  • Prêt à l'emploi : une image Docker Hub wildawm/webharbor contient tous les 153 sites (environ 20 Go), les tâches sont disponibles au format Harbor sur Hugging Face ChilleD/WebHarbor-Tasks (avec des divisions telles que 2,288 tâches d'entraînement, 306 tâches de test, etc.), le modèle ChilleD/WebHarbor-4B peut être lancé sur une seule carte GPU ; nombre de likes sur Hugging Face ce jour-là : 19, étoiles du code : 46 (représentant uniquement l'attention portée).

Utilisation

  • Démarrer l'environnement : export WEBSYN_CONTROL_TOKEN=<chaîne aléatoire d'au moins 32 caractères>, docker run -e WEBSYN_CONTROL_TOKEN -p 8101:8101 -p 40000-40152:40000-40152 wildawm/webharbor:latest, l'agent accède aux ports 40000–40152 de localhost ; curl -H "Authorization: Bearer $WEBSYN_CONTROL_TOKEN" -X POST http://localhost:8101/reset/amazon pour réinitialiser un site unique, /reset-all pour tout réinitialiser.
  • Exécuter les tâches : uv tool install harbor==0.24.0, dans le répertoire harbor/ du dépôt, exécutez harbor run --repo https://huggingface.co/datasets/ChilleD/WebHarbor-Tasks -d [email protected] -a webharbor_agents.openwebrl:OpenWebRLWebHarbor -m openai/<nom du modèle>, le modèle testé utilise une interface compatible OpenAI.
  • Démarrer le modèle : installez sglang==0.5.6.post2 via pip, python -m sglang.launch_server --model-path ChilleD/WebHarbor-4B --context-length 32768 … (commande de lancement sur une seule carte GPU fournie par la fiche du modèle pour 32K), l'interface se trouve sur localhost:30000/v1.

Risques

  • Les images imitent des sites web de marques réelles telles qu'Amazon, Chase Bank et American Express ; ni le README du dépôt ni la fiche du modèle ne mentionnent de licence, il faut vérifier avant toute utilisation commerciale ou redistribution.
  • Le téléchargement anonyme depuis Docker Hub est soumis à des limites de fréquence ; pour télécharger de nombreuses images de sites individuels, il faut d'abord effectuer docker login ; l'évaluation par agent optionnelle appelle par défaut gpt-5.6-sol, ce qui nécessite votre propre clé API.
  • Les sites imités sont générés par un modèle et vérifiés manuellement ; les différences avec les sites réels ne peuvent être évaluées qu'en se référant aux instructions de vérification du papier ; les scores sont rapportés par les auteurs.

Ouvrir · Code · Page du papier sur Hugging Face

Hugging Face Daily Papers

Parcourir les dernières actualités IA