Mô hình “ra quyết định” được Base Labs của Baseten hậu huấn luyện từ Qwen3.5-9B: đầu vào là một trạng thái (văn bản, có thể kèm hình ảnh) và một nhóm câu hỏi, chỉ thực hiện một lần tiền điền (prefill) với tiền tố chung, rồi đưa ra xác suất đã được hiệu chỉnh cho từng phương án của mỗi câu hỏi, có thể dùng để định tuyến ticket hỗ trợ, phân loại và đánh giá hàng rào bảo vệ.
Điểm tăng 74 · Lượt thích 75 · Lượt tải 1344
Lý do
- Ba loại câu hỏi: Có / Không (trả về P(yes)), chọn một trong nhiều phương án (trả về xác suất của từng phương án), chấm điểm theo thứ tự (trả về xác suất của từng mức); mục tiêu huấn luyện bổ sung thành phần hiệu chỉnh Brier ngoài hàm mất mát cross-entropy, và đã huấn luyện phương án “Tôi không biết”.
- Theo thông tin chính thức, chỉ số Jev Decision Index 0.4 đạt 62.65, là kết quả tốt nhất trong các mô hình dưới 15B và đồng hạng 8 trong số 208 mô hình; trên phiên bản tái tạo của Artificial Analysis Decision Index do họ tự xây dựng, đạt 65.2, ngang bằng với d1-ultra (65); mô hình cùng dòng mammoth-1 với 27B tham số có điểm cao hơn (71.24).
- Dữ liệu huấn luyện gồm 6.21 triệu mẫu quyết định, trong đó 16.1% liên quan đến an toàn và từ chối trả lời; tinh chỉnh toàn bộ phần ngôn ngữ, đóng băng bộ mã hóa thị giác. Giấy phép MIT, chưa được đưa vào các số trước đó.
Cách sử dụng
- Tự triển khai: hf download baselabs/elephant-1 --local-dir elephant-1 && bash elephant-1/setup.sh, cài đặt môi trường runtime OneJev phiên bản cố định (áp dụng serve.patch), yêu cầu một GPU CUDA và image pytorch/pytorch:2.8.0-cuda12.8-cudnn9-devel.
- Gọi API: DecisionEngine("baselabs/elephant-1", device="cuda:0").decide(SystemOneRequest(state=văn bản, questions={...})); trong questions, mỗi câu hỏi cần khai báo type (noul / choice / score), instructions, riêng choice và score còn phải khai báo criteria.
Rủi ro
- Độ dài tối đa 16,384 token, các yêu cầu vượt quá độ dài sẽ bị từ chối trực tiếp thay vì cắt ngắn; nhãn ngôn ngữ chỉ hỗ trợ tiếng Anh.
- Tuần dùng thử API miễn phí chính thức của Baseten đã kết thúc vào ngày 27 tháng 10; một trong hai chỉ số là phiên bản do chính hãng tự tái tạo.
- Không phải suy luận chuẩn bằng Transformers, cần chạy setup.sh và các bản vá trong kho mã nguồn.