MiniMind đã mã nguồn mở toàn bộ quy trình huấn luyện cho một mô hình ngôn ngữ siêu nhỏ với khoảng 64 triệu tham số: làm sạch dữ liệu, tiền huấn luyện, tinh chỉnh có giám sát, LoRA, DPO, PPO / GRPO / CISPO, gọi công cụ, học tăng cường tác nhân đa vòng và chưng cất, cùng với phiên bản MoE và các phần mở rộng về thị giác, đa phương tiện. Tác giả cho biết giai đoạn SFT mất khoảng 2 giờ cho mỗi vòng lặp trên một card 3090; trọng số được lưu trên Hugging Face và ModelScope, có thể trải nghiệm trực tuyến.
Tại sao quan trọng Các thuật toán cốt lõi được viết từ đầu bằng PyTorch gốc, không phụ thuộc vào các giao diện cấp cao của transformers, trl, peft, phù hợp để tìm hiểu chi tiết từng bước trong quy trình huấn luyện mô hình lớn.
Số sao 65991 (+192 / 24h)
Lý do
- Tăng 192 sao trong 24 giờ, tổng số sao là 65991, đứng thứ 14 trên cả Trendshift và GitHub Trending trong ngày hôm đó (chỉ phản ánh mức độ quan tâm); giấy phép Apache-2.0
- Nhật ký cập nhật trong README cho thấy dòng minimind-3 được phát hành vào tháng 4, và các kịch bản học tăng cường sử dụng công cụ đa vòng (Tool-Use) đã được thêm mới vào tháng 3
Cách sử dụng
- Chuẩn bị bộ dữ liệu theo README, chạy lần lượt các kịch bản huấn luyện như tiền huấn luyện, SFT; nếu chỉ muốn trải nghiệm, có thể sử dụng trực tiếp Demo trực tuyến trên ModelScope
Rủi ro
- Đây là mô hình nhỏ mang tính giáo dục, khả năng kém xa so với các mô hình lớn đa năng; kho lưu trữ được tạo vào năm 2024, không có phiên bản chính mới trong vài tháng gần đây
- README ghi rõ rằng không phải trọng số của mọi nhánh thử nghiệm đều được duy trì liên tục