원제: Progress on provable inference for large language models
Anthropic의 프론티어 레드팀이 증명 가능한 추론(provable inference) 연구 성과를 발표하고 프로토타입 FlashProve를 오픈소스로 공개했습니다. 모델 제공자는 답변과 함께 짧은 암호학적 증명(zkSNARK)을 첨부하며, 사용자는 답변이 실제로 약속된 모델에 의해 생성되었는지 검증할 수 있고, 증명 자체는 가중치를 노출하지 않습니다. Anthropic은 이 기술이 라우팅 서비스가 비용을 절감하기 위해 모델을 몰래 교체하거나 출력을 변조하는 것을 방지하고, 컴플라이언스 증명을 돕는 데 사용될 수 있다고 밝혔습니다. The Decoder는 이 시스템에 여전히 명백한 한계가 있다고 지적했습니다.
왜 중요한가 중개 서비스가 저렴한 모델로 몰래 교체하는 것을 방지하고 컴플라이언스 증명을 돕는 데 사용할 수 있습니다. The Decoder는 여전히 명백한 한계가 있다고 지적했습니다.
신뢰도: 높은 신뢰도 · 출처 Anthropic 등 2개(공식 포함) · 이벤트 시간 11-05 01:17(베이징 시간)