Mô hình nền tảng tác nhân từ Đại học Duke, ByteDance, Đại học Maryland và Đại học Buffalo, với quy trình huấn luyện chỉ gồm ba bước: hai giai đoạn SFT nhẹ kết hợp với học tăng cường, không thực hiện huấn luyện trung gian chuyên biệt, DPO hay chưng cất trực tuyến. Giai đoạn SFT đầu tiên rèn luyện khả năng suy luận không phụ thuộc vào công cụ: sau khi tổng hợp các bài toán khó, đối với những bài mà mô hình cơ sở đã giải được, độ khó được tăng lên bằng cách kết hợp, tham số hóa, thay đổi phạm vi giá trị và thảo luận theo từng trường hợp, đồng thời kiểm tra đáp án tham chiếu sau mỗi lần chỉnh sửa; giai đoạn thứ hai sử dụng các cơ sở dữ liệu công khai như Kho hành tinh ngoài hệ mặt trời của NASA, OurAirports, OpenAlex, UniProt, Ensembl, trong đó chương trình sẽ sàng lọc các bản ghi và tính toán đáp án tham chiếu duy nhất trước, sau đó để mô hình lớn tạo ra câu hỏi, còn mô hình chỉ có thể tìm bằng chứng thông qua tìm kiếm, duyệt web và Python; cuối cùng, GRPO bất đồng bộ được sử dụng để tăng cường tương tác công cụ trong dài hạn. Ngoài trọng số, toàn bộ mã nguồn cho việc xây dựng dữ liệu, sinh dữ liệu, lọc, kiểm tra, lời nhắc (prompt) và huấn luyện đều được công khai.
Lượt thích 39 · Số sao mã nguồn 37
Lý do
- Kết quả bài báo được liệt kê trong README: Axion 1.0-122B (dựa trên nền tảng Qwen3.5-122B-A10B) đạt 59.0 trên HLE đầy đủ với hạn chế truy cập trang web, 87.0 trên FrontierScience Olympiad, 66.7 trên FrontierScience Research; Axion 1.0-35B (dựa trên nền tảng Qwen3.6-35B-A3B, kích hoạt 3B) đạt 62.2 trên SEAL-0; tác giả tuyên bố mô hình tương đương với các mô hình thương mại hàng đầu trên một số chuẩn đánh giá tác nhân.
- Huấn luyện chi phí thấp: README ghi rõ giai đoạn SFT đầu tiên sử dụng 10,819 lượt tương tác (trajectory), giai đoạn thứ hai sử dụng 7,544 lượt (khoảng 312M token), hai giai đoạn SFT trên 32 card GPU cho mô hình 35B mất tổng cộng khoảng 90 giờ GPU, và mô hình 122B mất khoảng 240 giờ GPU.
- Có thể tái tạo: Dữ liệu huấn luyện có trên Hugging Face tại Axion1-0/axion-training-data, mã nguồn theo giấy phép Apache-2.0 (SFT sử dụng Swift + Megatron-FSDP, RL sử dụng verl); mô hình Axion1-0/Axion-1.0-35B trên Hugging Face là điểm kiểm tra (checkpoint) được tái tạo theo công thức (Apache-2.0), thẻ mô hình cho biết phiên bản tái tạo đạt 52.8 trên HLE, 60.4 trên SEAL-0, gần tương đương với phiên bản trong bài báo; lượt thích trên Hugging Face là 39, số sao mã nguồn là 37 (chỉ phản ánh mức độ quan tâm).
Cách sử dụng
- Triển khai phiên bản tái tạo (ví dụ trong thẻ mô hình sử dụng 8 card, có thể điều chỉnh theo dung lượng VRAM): vllm serve Axion1-0/Axion-1.0-35B --served-model-name axion-35b --tensor-parallel-size 8 --dtype bfloat16 --max-model-len 131072 --reasoning-parser qwen3 --enable-auto-tool-choice --tool-call-parser qwen3_coder, sau đó gọi giao diện tương thích OpenAI.
- Tạo dữ liệu / Đánh giá: git clone https://github.com/bytedance/axion1_0.git，另建 môi trường Python 3.11+ python -m pip install -e ".[data,evaluation]", tạo dữ liệu cho hai giai đoạn theo README trong axion/datagen/stage1, stage2; axion/evaluation chịu trách nhiệm chuẩn bị dữ liệu và chấm điểm cho FrontierScience, HiPhO, HLE-130, SEAL-0.
- Huấn luyện: Thực hiện hai giai đoạn SFT và GRPO bất đồng bộ theo axion/training/README.md, các điểm kiểm tra sau khi huấn luyện cần được xuất sang định dạng Hugging Face trước khi khởi động dịch vụ bằng vLLM.
Rủi ro
- README gọi điểm kiểm tra 35B là phiên bản tái tạo bởi cộng đồng, không phải điểm kiểm tra Axion chính thức; không tìm thấy trọng số cho mô hình 122B trong bài báo cũng như các biến thể 4B / 9B chỉ thực hiện SFT.
- Đánh giá tác nhân yêu cầu cấu hình thêm khung bên ngoài để thực thi các lệnh gọi công cụ, các script đánh giá trong kho chỉ thực hiện chuẩn bị dữ liệu và chấm điểm; RL yêu cầu phân bổ rollout, huấn luyện và các dịch vụ phụ trợ vào các cụm GPU riêng biệt, khiến rào cản tái tạo cao.
- Các điểm số cơ sở (baseline) có dấu * trong bảng so sánh là do nhóm Axion tự đo, các điểm số còn lại được lấy từ báo cáo chính thức; tất cả các điểm số đều do tác giả báo cáo.