inclusionAI/DeepSeek-V4.1-Flash-1017-singprobe

SingProbe는 DeepSeek-V4.1-Flash-1017 내부에 내장된 어텐션 프로브로, 12, 25, 39 레이어의 은닉 상태를 읽어 생성 과정에서 단어별로 8가지 질문 의도, 답변 안전성 및 환각 위험 점수를 제공합니다. 모델 카드에 따르면 질문 의도 분류의 F1는 0.8756, 답변 안전성 분류의 F1는 0.8668이며, 스트리밍 안전성의 답변 단위 AUC는 0.9907, 환각 감지 AUC는 0.7951로 대조 방법인 DRIFT의 0.8000과 유사합니다. 방법론 및 학습 코드는 기술 보고서와 SingProbe 저장소에서 확인할 수 있습니다.

SingProbe는 DeepSeek-V4.1-Flash-1017 내부에 내장된 어텐션 프로브로, 12, 25, 39 레이어의 은닉 상태를 읽어 생성 과정에서 단어별로 8가지 질문 의도, 답변 안전성 및 환각 위험 점수를 제공합니다. 모델 카드에 따르면 질문 의도 분류의 F1는 0.8756, 답변 안전성 분류의 F1는 0.8668이며, 스트리밍 안전성의 답변 단위 AUC는 0.9907, 환각 감지 AUC는 0.7951로 대조 방법인 DRIFT의 0.8000과 유사합니다. 방법론 및 학습 코드는 기술 보고서와 SingProbe 저장소에서 확인할 수 있습니다.

왜 중요한가 프로브는 모델 내부의 은닉 상태를 직접 읽으며 매개변수 수가 매우 적어 별도의 가드레일 모델을 실행할 필요가 없습니다. 저자들은 여러 안전성 분류 성능이 8B급 전용 가드레일 모델과 동등하거나 더 우수하다고 주장합니다.

상승 점수 2 · 좋아요 2 · 다운로드 수 0

이유

  • MIT 라이선스, 11월 19일 업로드; arXiv 기술 보고서 및 학습 코드 저장소 포함
  • 모델 카드에 대조 기준선(Qwen3Guard, YuFeng-XGuard 등)과 출시 시의 허용 임계값이 명시되어 있음

사용법

  • 토큰 프로브 기능이 포함된 SGLang 분기 및 8개의 H20 GPU 필요: 시작 시 --probe-ckpt로 이 저장소를 지정하고, /generate 응답의 meta_info.token_probe_probs에서 점수를 읽으며, label_8는 답변 안전성, label_9는 환각 위험을 나타냄

위험 요소

  • 빠른 시작 가이드에서 참조하는 SGLang 분기는 code.alipay.com에 호스팅되어 있어 외부 접근 가능 여부가 불분명하며, 예제 명령어에도 저자의 내부 경로가 사용됨
  • 평가 수치는 모두 저자가 자체 보고한 것이며, 1017 버전에만 적용됨

열기

Hugging Face

최신 AI 소식 보기