Các mô hình lớn không giỏi trong việc xác định "nên hỏi câu hỏi nào để làm rõ tình huống nhanh nhất". Các tác giả sử dụng độ lợi thông tin làm phần thưởng, trực tiếp huấn luyện quá trình suy luận của mô hình trước khi chọn câu hỏi tiếp theo; mô hình sinh được thiết lập độc lập với niềm tin của chính mô hình lớn, do đó có thể tối ưu hóa độ lợi thông tin kỳ vọng dựa trên mô hình mà nó tự chọn. Bài báo cũng so sánh hệ thống các lựa chọn thiết kế như cấu trúc mô hình sinh, ước lượng phần thưởng, không gian giả thuyết và mục tiêu đa bước.
Lượt thích 5 · Số sao mã nguồn 2
Lý do
- Các tác giả tuyên bố rằng việc thu thập thông tin và hiệu suất tác vụ đều được cải thiện trong trò chơi 20 câu hỏi, vượt qua các đường cơ sở thiết kế thực nghiệm Bayes trong cả giai đoạn suy luận và huấn luyện với chi phí tính toán thấp hơn đáng kể, đồng thời có khả năng mở rộng sang các danh mục chưa từng thấy.
- Việc chuyển giao từ huấn luyện trong trò chơi 20 câu hỏi sang chuẩn chẩn đoán lâm sàng thực tế Medi-Q mang lại hiệu quả tích cực, cho thấy "thu thập thông tin chủ động" có thể được học như một kỹ năng suy luận chung.
- Mã nguồn và dữ liệu huấn luyện cho phiên bản động vật / Medi-Q đã có sẵn trong thư mục data/tq/ của kho lưu trữ; huấn luyện, đánh giá và đường cơ sở BED-LLM đều có thể chạy bằng một lệnh duy nhất.
Cách sử dụng
- Mã nguồn: github.com/anitakriz/ar-bed, pip install -r requirements.txt.
- Huấn luyện phiên bản động vật: python scripts/run.py --config-name k1_expected; phiên bản Medi-Q ba lĩnh vực: --config-name tq_mediq_3domain_k1_expected.
- Đánh giá: python -m scripts.evaluate_tq_checkpoints k1_expected --checkpoint-root … --batched-full-game; thêm --evaluate-base-model để kiểm tra mô hình nền; sử dụng scripts.evaluate_bed_llm_baseline cho các đường cơ sở.
Rủi ro
- README rất sơ sài: không nêu rõ mô hình nền là gì, yêu cầu bao nhiêu bộ nhớ VRAM, và không cung cấp các trọng số đã được huấn luyện; việc tái tạo dữ liệu hoặc bổ sung các hàm hợp lý còn thiếu đòi hỏi thông tin đăng nhập API trong utils/api_models.py.
- Các thí nghiệm tập trung vào các nhiệm vụ dạng trò chơi như 20 câu hỏi, việc chuyển giao sang lĩnh vực lâm sàng chỉ được xác minh trên một chuẩn duy nhất; README không ghi rõ giấy phép.
- Hiệu quả do các tác giả báo cáo, phần tóm tắt không cung cấp các con số cụ thể.
Mở · Mã nguồn · Trang bài báo