Nhà nghiên cứu thả gần hai triệu mồi nhử vào chuỗi trung chuyển AI, phát hiện rò rỉ prompt

Theo Ars Technica, HD Moore, Giám đốc nghiên cứu của công ty an ninh Dragos, đã gửi gần 200 prompt, mỗi prompt chứa một “mồi nhử” độc nhất (khóa tài khoản AWS trống, mật khẩu SSH, liên kết riêng tư và địa chỉ kho Git), mỗi mồi nhử chỉ được gửi tới một nhà cung cấp dịch vụ, sau đó kiểm tra xem những mồi nhử nào bị sử dụng ở nơi khác. Kết quả cho thấy: ít nhất ba nhà cung cấp dịch vụ lưu trữ mô hình đã bị xâm nhập, kẻ tấn công sao chép yêu cầu ngay tại điểm vào, các khóa AWS bị đánh cắp đã được gọi hàng chục nghìn lần; một số nhà cung cấp lại bán (reseller) dùng giá thấp để thu hút lưu lượng rồi bật tính năng ghi log, chuyển tiếp prompt cho bên khác; còn có nhà cung cấp phớt lờ các nhãn “không lưu giữ dữ liệu” và “không thu thập dữ liệu”, thu thập các liên kết riêng tư trong prompt. Moore khuyến nghị nên tự triển khai nếu có thể, hoặc mua trực tiếp từ các nhà cung cấp dịch vụ cấp một, đồng thời tự chỉ định nhà cung cấp dịch vụ upstream, không sử dụng các pool reseller mặc định.

Tiêu đề gốc: Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.

Theo Ars Technica, HD Moore, Giám đốc nghiên cứu của công ty an ninh Dragos, đã gửi gần 200 prompt, mỗi prompt chứa một “mồi nhử” độc nhất (khóa tài khoản AWS trống, mật khẩu SSH, liên kết riêng tư và địa chỉ kho Git), mỗi mồi nhử chỉ được gửi tới một nhà cung cấp dịch vụ, sau đó kiểm tra xem những mồi nhử nào bị sử dụng ở nơi khác. Kết quả cho thấy: ít nhất ba nhà cung cấp dịch vụ lưu trữ mô hình đã bị xâm nhập, kẻ tấn công sao chép yêu cầu ngay tại điểm vào, các khóa AWS bị đánh cắp đã được gọi hàng chục nghìn lần; một số nhà cung cấp lại bán (reseller) dùng giá thấp để thu hút lưu lượng rồi bật tính năng ghi log, chuyển tiếp prompt cho bên khác; còn có nhà cung cấp phớt lờ các nhãn “không lưu giữ dữ liệu” và “không thu thập dữ liệu”, thu thập các liên kết riêng tư trong prompt. Moore khuyến nghị nên tự triển khai nếu có thể, hoặc mua trực tiếp từ các nhà cung cấp dịch vụ cấp một, đồng thời tự chỉ định nhà cung cấp dịch vụ upstream, không sử dụng các pool reseller mặc định.

Tại sao quan trọng Khi gọi mô hình thông qua các bộ định tuyến AI và nhà cung cấp lại bán, các khóa và thông tin riêng tư trong prompt có thể bị ghi lại, bị đánh cắp, và các thiết lập không lưu giữ dữ liệu cũng chưa chắc được tuân thủ.

Độ tin cậy: Khá đáng tin · Nguồn Ars Technica · Thời gian sự kiện 11-21 04:59 (giờ Bắc Kinh)

Lý do

  • Ars Technica đưa tin, trích dẫn bài nghiên cứu công khai của Moore
  • Liên quan trực tiếp đến các nhà phát triển gọi mô hình thông qua các bộ định tuyến như OpenRouter, Vercel

Cách sử dụng

  • Khi gọi mô hình qua các nền tảng định tuyến, hãy tự chỉ định nhà cung cấp dịch vụ upstream; không đặt các khóa thật trong prompt

Rủi ro

  • Bài báo của Ars Technica không nêu tên các nhà cung cấp dịch vụ liên quan

Mở

Ars Technica

Xem tin AI mới nhất