Các mô hình tác nhân mã nguồn mở như Axion của ByteDance 1.0, chỉ sử dụng ba giai đoạn huấn luyện

Theo The Decoder, các nhà nghiên cứu từ ByteDance cùng với Đại học Duke, Đại học Maryland và Đại học Buffalo đã công bố mô hình nền tảng cho tác nhân Axion 1.0, với quy trình huấn luyện chỉ gồm ba giai đoạn: hai vòng fine-tuning giám sát nhẹ, tiếp theo là một vòng học tăng cường, không thực hiện huấn luyện trung gian chuyên biệt, DPO hay chưng cất trực tuyến. Báo cáo kỹ thuật cho biết vòng đầu tiên sử dụng các bài toán suy luận khó dựa trên chiến lược giải quyết vấn đề của mô hình cơ sở, vòng thứ hai sử dụng các nhiệm vụ gọi công cụ được xây dựng từ nguồn dữ liệu thực tế với đáp án có thể tự động xác minh, và cuối cùng sử dụng học tăng cường để nâng cao khả năng suy luận dài hạn và tương tác với công cụ; bài báo cho rằng mô hình này có thể cạnh tranh với các mô hình thương mại hàng đầu trong nhiều bài đánh giá về tác nhân. Kho lưu trữ GitHub công khai mã nguồn cho việc xây dựng dữ liệu, lọc, lời nhắc và huấn luyện, dữ liệu huấn luyện được đặt trên Hugging Face, hai phiên bản được huấn luyện lần lượt dựa trên Qwen3.6-35B-A3B và Qwen3.5-122B-A10B.

Tiêu đề gốc: ByteDance lập luận rằng hầu hết các giai đoạn huấn luyện AI là không cần thiết và chứng minh điều này bằng một mô hình mã nguồn mở có tính cạnh tranh

Theo The Decoder, các nhà nghiên cứu từ ByteDance cùng với Đại học Duke, Đại học Maryland và Đại học Buffalo đã công bố mô hình nền tảng cho tác nhân Axion 1.0, với quy trình huấn luyện chỉ gồm ba giai đoạn: hai vòng fine-tuning giám sát nhẹ, tiếp theo là một vòng học tăng cường, không thực hiện huấn luyện trung gian chuyên biệt, DPO hay chưng cất trực tuyến. Báo cáo kỹ thuật cho biết vòng đầu tiên sử dụng các bài toán suy luận khó dựa trên chiến lược giải quyết vấn đề của mô hình cơ sở, vòng thứ hai sử dụng các nhiệm vụ gọi công cụ được xây dựng từ nguồn dữ liệu thực tế với đáp án có thể tự động xác minh, và cuối cùng sử dụng học tăng cường để nâng cao khả năng suy luận dài hạn và tương tác với công cụ; bài báo cho rằng mô hình này có thể cạnh tranh với các mô hình thương mại hàng đầu trong nhiều bài đánh giá về tác nhân. Kho lưu trữ GitHub công khai mã nguồn cho việc xây dựng dữ liệu, lọc, lời nhắc và huấn luyện, dữ liệu huấn luyện được đặt trên Hugging Face, hai phiên bản được huấn luyện lần lượt dựa trên Qwen3.6-35B-A3B và Qwen3.5-122B-A10B.

Tại sao quan trọng Quy trình huấn luyện tác nhân ngày càng trở nên phức tạp và khó tái tạo; điều này cho thấy một công thức đơn giản cũng có thể đạt hiệu suất gần với các mô hình thương mại, giúp cộng đồng mã nguồn mở có thể tái tạo và cải tiến dựa trên đó.

Độ tin cậy: Cao · Nguồn ByteDance GitHub (axion1_0) và 3 nguồn khác (bao gồm nguồn chính thức) · Thời gian sự kiện 11-21 17:17 (giờ Bắc Kinh)

Lý do

  • Kho lưu trữ GitHub của ByteDance và báo cáo kỹ thuật trên arXiv công khai toàn bộ công thức huấn luyện
  • Bài đưa tin của The Decoder

Cách sử dụng

  • Kho lưu trữ GitHub bytedance/axion1_0 chứa mã nguồn huấn luyện và hướng dẫn tái tạo, dữ liệu huấn luyện nằm trong bộ dữ liệu Axion1-0/axion-training-data trên Hugging Face

Rủi ro

  • README của kho lưu trữ ghi rõ Axion 1.0-35B trên Hugging Face là phiên bản do cộng đồng tái tạo, không phải trọng số chính thức
  • Điểm số của một số mô hình so sánh do chính nhóm Axion đánh giá (được đánh dấu bằng dấu hoa thị trong README); báo cáo kỹ thuật đã được công bố trên arXiv vào ngày 2 tháng 11, bản tin này được tổng hợp dựa trên các bài đưa tin của truyền thông

Mở · ByteDance GitHub (axion1_0) · Báo cáo kỹ thuật arXiv

The Decoder

Xem tin AI mới nhất