구형 Claude의 텍스트 워터마크는 파라미터 하나만 변경하면 비활성화할 수 있다

The Decoder 보도에 따르면, Anthropic은 EU AI 법안 시한을 앞두고 네 가지 Claude 모델에 추가로 텍스트 워터마크를 적용했지만, Claude Opus 4.6, Sonnet 4.6 등 이전 모델에서는 API 사용자가 샘플링 파라미터 하나만 변경하면 워터마크를 비활성화할 수 있었다. Anthropic의 대응은 준수 사항에 대한 안내였다. Anthropic의 업데이트 로그에서도 Sonnet 4.6의 샘플링 파라미터를 변경하면 워터마크가 포함되지 않을 수 있다고 명시한 바 있다.

원제: Anthropic's text watermark is easy to bypass on several older Claude models

The Decoder 보도에 따르면, Anthropic은 EU AI 법안 시한을 앞두고 네 가지 Claude 모델에 추가로 텍스트 워터마크를 적용했지만, Claude Opus 4.6, Sonnet 4.6 등 이전 모델에서는 API 사용자가 샘플링 파라미터 하나만 변경하면 워터마크를 비활성화할 수 있었다. Anthropic의 대응은 준수 사항에 대한 안내였다. Anthropic의 업데이트 로그에서도 Sonnet 4.6의 샘플링 파라미터를 변경하면 워터마크가 포함되지 않을 수 있다고 명시한 바 있다.

왜 중요한가 Anthropic은 EU AI 법안의 연말 시한을 앞두고 워터마크를 도입했으나, 이 취약점에 대해서는 준수 사항 안내만 제공했다.

신뢰도: 확인 대기 · 출처 The Decoder · 사건 발생 시간 11-05 03:03 (베이징 시간)

열기

The Decoder

최신 AI 소식 보기