Tiêu đề gốc: Tiến độ về suy luận có thể chứng minh được cho các mô hình ngôn ngữ lớn
Nhóm Red Team tiên phong của Anthropic công bố tiến độ nghiên cứu về suy luận có thể chứng minh được (provable inference) và mã nguồn mở nguyên mẫu FlashProve: Nhà cung cấp mô hình đính kèm một chứng mật mã ngắn gọn (zkSNARK) cùng với câu trả lời, cho phép người dùng xác minh rằng câu trả lời thực sự được tạo ra bởi mô hình đã cam kết, trong khi bản thân chứng minh không tiết lộ các trọng số. Anthropic cho biết điều này có thể được sử dụng để ngăn chặn các dịch vụ định tuyến thay thế mô hình hoặc giả mạo đầu ra nhằm tiết kiệm chi phí, đồng thời hỗ trợ chứng minh tuân thủ; The Decoder nhận định hệ thống này vẫn còn những hạn chế rõ rệt.
Tại sao quan trọng Có thể ngăn chặn các dịch vụ trung gian thay thế bằng mô hình giá rẻ, đồng thời hỗ trợ chứng minh tuân thủ; The Decoder nhận định vẫn còn những hạn chế rõ rệt.
Độ tin cậy: Độ tin cậy cao · Nguồn từ Anthropic và 2 nguồn khác (bao gồm nguồn chính thức) · Thời gian sự kiện 11-05 01:17 (giờ Bắc Kinh)