Tiêu đề gốc: Linum-AI/pjit-21k
Điểm kiểm tra (checkpoint) do Linum công bố: P-JiT (Pyramid-JiT), kiến trúc khuếch tán không gian pixel, DiT với 2B tham số, được huấn luyện trên 6.1 trăm triệu mẫu ở độ phân giải 512px và 5000 vạn mẫu ở độ phân giải 1024px, sau đó tiếp tục huấn luyện hậu kỳ bằng biến thể FDFO. Tác giả cho biết chi phí tính toán khoảng 2.1 vạn USD. Bộ mã hóa văn bản sử dụng Qwen3.5-4B đã được đóng băng (frozen). Mô tả huấn luyện là các chú thích dày đặc gồm 50–80 từ, kho mã đi kèm một script để mở rộng các prompt ngắn thành định dạng này (yêu cầu API Key của OpenRouter, có thể tắt). Tác giả giải thích rằng đây là kết quả giai đoạn của mô hình video thế hệ tiếp theo.
Tại sao quan trọng Công bố toàn bộ mẫu huấn luyện từ đầu cho việc tạo ảnh từ văn bản với chi phí thấp, phù hợp để những người nghiên cứu phương pháp huấn luyện hiệu quả tham khảo và đối chiếu
Điểm tăng 66 · Lượt thích 66 · Lượt tải xuống 382
Lý do
- Trọng số, mã suy luận và blog về ý tưởng huấn luyện đều được công khai, giấy phép Apache-2.0
- Tác giả ghi rõ chi phí huấn luyện và quy mô dữ liệu, thuận tiện cho việc so sánh hiệu quả huấn luyện với các mô hình khác
- Prompt và seed của năm mẫu ví dụ đều được cung cấp, có thể tái tạo
Cách sử dụng
- Sau khi git clone Linum-AI/pjit-21k, chạy pip install -e ., rồi dùng generate.py để tạo ảnh; mặc định là 50 bước Euler, độ mạnh hướng dẫn (guidance scale) 15
- Với prompt ngắn, nên bật tính năng mở rộng hoặc tự viết mô tả chi tiết gồm 50–80 từ
Rủi ro
- Tác giả nói rõ rằng không thể tạo chữ hay poster, vì các hình ảnh chứa văn bản đã được cố ý loại bỏ trong quá trình huấn luyện
- Mô hình khá nhỏ, dễ gặp lỗi với ảnh toàn thân, tương tác giữa nhiều người, nhiều vật thể và các chi tiết đòi hỏi kiến thức nền
- Đây là điểm kiểm tra (checkpoint) nghiên cứu mang tính thử nghiệm, không phải mô hình sản xuất; trọng số ở định dạng fp32, dung lượng khoảng 8.7 GB
- Bài viết này chưa chạy thử nghiệm, hiệu quả thực tế cần xem xét dựa trên thẻ mô hình (model card)