Agent-R²: Tổng hợp các tác vụ văn phòng từ các tệp web thực tế để huấn luyện các tác nhân nhỏ

Các tác nhân mô hình lớn vẫn gặp khó khăn khi thực hiện công việc văn phòng thực tế: chúng phải hoàn thành các quy trình dài, hiểu các tệp đính kèm ở nhiều định dạng khác nhau và tạo ra các sản phẩm có thể sử dụng được, trong khi dữ liệu huấn luyện hậu kỳ gần với công việc thực tế lại rất khan hiếm. Agent-R² không dựa vào việc con người tự viết quy trình hay để mô hình lớn bịa ra các tệp, mà bắt đầu từ các hạt giống tác vụ nghề nghiệp thực tế, bằng chứng quy trình làm việc được trích xuất từ ngữ liệu và các tệp thực tế tìm thấy trên mạng, từ đó chắt lọc 4 nghìn tác vụ có tệp đính kèm đa định dạng và tiêu chí chấm điểm sản phẩm từ 1 vạn ứng viên ngữ liệu web. Sau khi sử dụng dữ liệu này để thực hiện SFT kết hợp với học tăng cường dựa trên tiêu chí chấm điểm, các tác giả cho biết Agent-R²-4B đạt 51.0% trên GDPval và 14.8% trên OfficeQA, đều cao hơn Qwen3-235B-A22B-Thinking-2507 (48.0% và 13.8%), đồng thời giảm thiểu hành vi đi đường tắt.

Tựa đề gốc: Agent-R^2: Scaling Agents for Realistic Productivity Work via Real-Source Data Synthesis

Các tác nhân mô hình lớn vẫn gặp khó khăn khi thực hiện công việc văn phòng thực tế: chúng phải hoàn thành các quy trình dài, hiểu các tệp đính kèm ở nhiều định dạng khác nhau và tạo ra các sản phẩm có thể sử dụng được, trong khi dữ liệu huấn luyện hậu kỳ gần với công việc thực tế lại rất khan hiếm. Agent-R² không dựa vào việc con người tự viết quy trình hay để mô hình lớn bịa ra các tệp, mà bắt đầu từ các hạt giống tác vụ nghề nghiệp thực tế, bằng chứng quy trình làm việc được trích xuất từ ngữ liệu và các tệp thực tế tìm thấy trên mạng, từ đó chắt lọc 4 nghìn tác vụ có tệp đính kèm đa định dạng và tiêu chí chấm điểm sản phẩm từ 1 vạn ứng viên ngữ liệu web. Sau khi sử dụng dữ liệu này để thực hiện SFT kết hợp với học tăng cường dựa trên tiêu chí chấm điểm, các tác giả cho biết Agent-R²-4B đạt 51.0% trên GDPval và 14.8% trên OfficeQA, đều cao hơn Qwen3-235B-A22B-Thinking-2507 (48.0% và 13.8%), đồng thời giảm thiểu hành vi đi đường tắt.

Tại sao quan trọng Các tác nhân văn phòng thiếu dữ liệu huấn luyện sát với công việc thực tế; quy trình này tạo ra các tác vụ từ các tệp và quy trình làm việc thực tế, kèm theo các tiêu chí chấm điểm dựa trên sản phẩm đầu ra

Thích 3 · Số sao mã nguồn 7

Lý do

  • Mã nguồn cho tổng hợp dữ liệu, SFT (ms-swift), học tăng cường GRPO đa vòng (verl) và đánh giá GDPval cùng OfficeQA đều nằm trong một kho lưu trữ, với cấu hình tập trung trong settings.yaml
  • Mô hình Agent-R2-4B đã được phát hành trên Hugging Face, dựa trên Qwen3-4B-Thinking-2507, giấy phép Apache-2.0

Cách sử dụng

  • Mã nguồn: https://github.com/ZJU-REAL/Agent-R2;模型:抱脸 teng-pan/Agent-R2-4B, có thể tải bằng transformers
  • Để tái hiện kết quả, cần điền khóa cổng mô hình lớn, khóa tìm kiếm Serper và dịch vụ sandbox vào Agent-R2/settings/settings.yaml; dữ liệu đánh giá được tải từ openai/gdpval và databricks/officeqa

Rủi ro

  • Các đối tượng so sánh chủ yếu là các mô hình thế hệ trước; điểm số GDPval vẫn còn khoảng cách rõ rệt so với Claude-Opus-4.5, GLM-4.7 và các mô hình khác
  • Các thí nghiệm của tác giả sử dụng sandbox nội bộ của Baidu, cần thay thế bằng AIO Sandbox khi mã nguồn mở; cấu hình tham khảo cho SFT là huấn luyện toàn bộ tham số trên 8 GPU; các điểm số là do tác giả báo cáo, bài viết này chưa chạy thử

Mở · Mã nguồn · Trang bài báo trên Hugging Face

Hugging Face Daily Papers

Xem tin AI mới nhất