원제: Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
Ars Technica에 따르면, 보안 회사 Dragos의 최고 연구 책임자 HD Moore는 약 200만 개의 프롬프트를 발송했으며, 각 프롬프트에는 고유한 '미끼'(빈 AWS 계정 키, SSH 비밀번호, 비공개 링크 및 Git 저장소 주소)가 심어져 있었다. 각 미끼는 단 하나의 서비스 제공업체에만 전송된 후, 다른 곳에서 사용된 미끼가 있는지 확인했다. 그 결과, 최소 세 곳의 모델 호스팅 업체가 침해되었으며, 공격자가 진입점에서 요청을 복제했고, 훔친 AWS 키가 수만 번 호출된 것으로 드러났다. 일부 리셀러는 낮은 가격으로 트래픽을 유도한 후 로깅을 활성화하여 프롬프트를 타인에게 유출시켰으며, 다른 서비스 제공업체들은 '제로 데이터 보존' 및 '데이터 수집 금지' 표식을 무시하고 프롬프트 내의 비공개 링크를 수집했다. Moore는 가능한 한 자체 배포를 하거나, 1차 서비스 제공업체에서 직접 구매하고 기본 리셀러 풀 대신 자체적으로 업스트림 서비스 제공업체를 지정할 것을 권장했다.
왜 중요한가 AI 라우팅 및 리셀러를 통해 모델을 호출할 때, 프롬프트 내의 키와 개인정보가 기록되거나 도용될 수 있으며, 제로 데이터 보존 설정이 반드시 준수되지 않을 수도 있다.
신뢰도: 비교적 신뢰할 수 있음 · 출처 Ars Technica · 사건 발생 시간 11-21 04:59 (베이징 시간)
이유
- Ars Technica의 보도로, Moore의 공개 연구 기사를 인용함
- OpenRouter, Vercel 같은 라우팅을 통해 모델을 호출하는 개발자와 직접적으로 관련됨
사용법
- 라우팅 플랫폼을 통해 모델을 호출할 때, 자체적으로 업스트림 서비스 제공업체를 지정할 것; 프롬프트에 실제 키를 포함하지 말 것
리스크
- Ars Technica의 보도에서 해당 서비스 제공업체의 이름이 명시되지 않음