OpenAI 10월 30일, ChatGPT의 폭력 예방 강화 발표: 미성년 사용자에게는 질문이 무해해 보이더라도 무기 및 보안 시스템 관련 실용 정보를 추가로 제한; 모든 사용자에게 과거 대규모 공격의 세부 사항(사용된 무기, 입수 방법, 사상자 규모 비교 등) 재현을 강화하여 제한; 대화가 폭력이나 타인에게 해를 끼치는 것에 집착하는 모습을 보일 경우 ChatGPT가 자동으로 대화를 종료할 수 있으며, 여러 번 종료된 계정은 정지될 수 있음. OpenAI는 또한 6개월마다 업데이트되는 '커뮤니티 안전 보고서'를 발표할 것을 약속함.
신뢰도: 높음(85) · 사건 발생 시간 2026-10-30
이유
- Unite.AI 보도에 따르면: 첫 번째 보고서는 2027년 초에 발표될 예정이며 2026년 하반기 내용을 다루고, 모델이 폭력 관련 위험을 발견하고 처리하는 방식, 익명 사례, 새로운 보호 조치 및 데이터를 포함함; OpenAI는 3분기에 법 집행 기관에 200건 이상의 사건을 의뢰했다고 밝힘.
- 연령 판별도 강화됨: 시스템은 사용 중 행동 신호를 지속적으로 평가하여 만 18세 미만으로 판단되면 청소년 모드로 전환하며, 오인된 성인은 파트너사 Persona를 통해 연령 인증을 받아 제한을 해제할 수 있음; 부모 제어 기능에는 '반복적인 폭력 언급으로 인해 청소년 계정이 정지됨'이라는 알림이 추가될 예정임.
- OpenAI는 새로운 조치가 향후 몇 주에 걸쳐 순차적으로 적용될 것이라고 밝힘.
사용법
- 부모는 ChatGPT에서 자녀 계정을 연결하여 안전 알림을 받을 수 있음; 미성년자로 오인된 성인 사용자는 Persona 연령 인증 절차를 진행할 수 있음. 일반 사용자는 별도의 조치가 필요 없음.
리스크
- OpenAI 원문 요청이 거부됨(403), RSS 요약만 확인 가능; 세부 사항 및 수치는 Unite.AI의 전언에 기반하며, 해당 기사는 AI 생성 후 편집 검수를 거쳤으나 원문 대조는 이루어지지 않음.
- '대화 자동 종료' 및 '계정 정지'의 트리거 기준이 공개되지 않아 뉴스, 역사 또는 글쓰기 관련 정상적인 대화가 오인될 가능성이 있음.