phylobio/DeepSeek-V4.1-Flash-epistemic-lora

Nhóm Phylo đã trích xuất các vector steering từ một prompt hệ thống nhấn mạnh tính nghiêm ngặt khoa học, áp dụng cho các lớp từ 14–18 và 20–28; do khung suy luận không hỗ trợ vector steering, họ đã chưng cất nó thành LoRA hạng 1 trên phép chiếu xuống của chuyên gia chia sẻ, chỉ huấn luyện ma trận A (đầu tiên dùng hồi quy Ridge để khớp cường độ của từng từ, sau đó thực hiện KL tiến trên mô hình đã được steering). Các tác giả cho biết nó giảm đáng kể hiện tượng ảo giác trên AA-Omniscience và HalluLens, nhưng đổi lại là tỷ lệ từ chối trả lời tăng lên, độ chính xác trên một số câu hỏi kiến thức giảm, trong khi các chuẩn đánh giá khác hầu như không thay đổi; ngoài ra còn có các trọng số đầy đủ đã được hợp nhất.

Nhóm Phylo đã trích xuất các vector steering từ một prompt hệ thống nhấn mạnh tính nghiêm ngặt khoa học, áp dụng cho các lớp từ 14–18 và 20–28; do khung suy luận không hỗ trợ vector steering, họ đã chưng cất nó thành LoRA hạng 1 trên phép chiếu xuống của chuyên gia chia sẻ, chỉ huấn luyện ma trận A (đầu tiên dùng hồi quy Ridge để khớp cường độ của từng từ, sau đó thực hiện KL tiến trên mô hình đã được steering). Các tác giả cho biết nó giảm đáng kể hiện tượng ảo giác trên AA-Omniscience và HalluLens, nhưng đổi lại là tỷ lệ từ chối trả lời tăng lên, độ chính xác trên một số câu hỏi kiến thức giảm, trong khi các chuẩn đánh giá khác hầu như không thay đổi; ngoài ra còn có các trọng số đầy đủ đã được hợp nhất.

Tại sao quan trọng Các tác giả phát hiện ra rằng mô hình thường quá tự tin khi đánh giá bằng chứng khoa học; bộ thích ứng này giúp nó thận trọng hơn và ít bịa đặt hơn, có thể gắn trực tiếp vào SGLang mà không cần thay đổi khung suy luận.

Điểm tăng 2 · Lượt thích 2 · Lượt tải 58

Lý do

  • Giấy phép MIT; thẻ mô hình kèm theo biểu đồ thay đổi trên các chuẩn đánh giá và khoảng tin cậy 95%, đồng thời liên kết đến bài viết dài của tác giả
  • Các tác giả giải thích rằng việc hợp nhất rồi lượng tử hóa sang FP8 sẽ làm mất một phần hiệu quả (τ²-bench 0.82 so với bộ thích ứng 0.88), do đó họ khuyến nghị triển khai dưới dạng bộ thích ứng

Cách sử dụng

  • Các tác giả đã kiểm thử trên 4 card B200 bằng image dev-dsv41 của SGLang: tải DeepSeek-V4.1-Flash-1017 và bộ thích ứng này, khởi động với các tham số đầy đủ từ thẻ mô hình bao gồm --enable-lora --lora-paths epistemic=/lora, khi gửi yêu cầu hãy đặt tên mô hình là dsv4:epistemic và bật chế độ suy nghĩ

Rủi ro

  • Chỉ tương thích với phiên bản 1017; phiên bản vLLM công khai hiện chưa hỗ trợ LoRA cho mô hình này, các kết quả trong thẻ mô hình và bài viết dài đến từ phiên bản nội bộ của tác giả
  • Mô hình sẽ trở nên bảo thủ hơn, thường xuyên đẩy quyết định về phía người dùng hoặc từ chối trả lời; việc triển khai yêu cầu nhiều card đồ họa cấp trung tâm dữ liệu

Mở

Hugging Face

Xem tin AI mới nhất