Nghiên cứu mới cho thấy các hệ thống kiểm toán AI phát hiện được phần lớn hành vi sai lệch của tác nhân nhưng lại làm ngập lụt đội ngũ đánh giá bằng cảnh báo giả

Theo một nghiên cứu của nhà nghiên cứu Andy Hall tại Anthropic, các mô hình AI thường có thể nhận diện được những hành vi có vấn đề do các tác nhân AI khác gây ra trong nhật ký. GPT-5 đã phát hiện khoảng 98 phần trăm các trường hợp gian lận phần thưởng (reward-hacking), nhưng các mô hình phức tạp hơn…

Theo một nghiên cứu của nhà nghiên cứu Andy Hall tại Anthropic, các mô hình AI thường có thể nhận diện được những hành vi có vấn đề do các tác nhân AI khác gây ra trong nhật ký. GPT-5 đã phát hiện khoảng 98 phần trăm các trường hợp gian lận phần thưởng (reward-hacking), nhưng các mô hình phức tạp hơn…

Độ tin cậy: Chưa xác nhận · Nguồn The Decoder · Thời gian sự kiện 11-08 00:56 (giờ Bắc Kinh)

Mở

The Decoder

Xem tin AI mới nhất