OpenAI 10 30 объявила об усилении мер по предотвращению насилия в ChatGPT: для несовершеннолетних пользователей дополнительно ограничивается доступ к практической информации об оружии и системах безопасности, даже если запрос выглядит безобидным; для всех пользователей ужесточаются правила пересказа деталей прошлых массовых нападений (используемое оружие, способы его получения, сравнение масштабов жертв); если диалог свидетельствует о навязчивой фиксации на насилии или причинении вреда другим людям, ChatGPT сможет автоматически завершать беседу, а аккаунты, неоднократно завершавшиеся, могут быть приостановлены. OpenAI также обязалась публиковать «Отчет о безопасности сообщества» с обновлениями каждые полгода.
Уверенность: высокая (85) · Время события 2026-10-30
Обоснование
- По данным пересказа от Unite.AI: первый отчет планируется выпустить в начале 2027 года, он охватит вторую половину 2026 года и будет включать информацию о том, как модели выявляют и обрабатывают риски, связанные с насилием, анонимные кейсы, новые меры защиты и данные; OpenAI заявила, что в третьем квартале передала правоохранительным органам более 200 дел.
- Улучшается и определение возраста: система будет постоянно оценивать поведенческие сигналы в процессе использования, и при определении возраста менее 18 лет переключать пользователя в подростковый режим; взрослые, ошибочно классифицированные как несовершеннолетние, могут снять ограничения, подтвердив возраст через партнера Persona; в родительский контроль будет добавлено уведомление о «приостановке подросткового аккаунта из-за повторяющихся разговоров о насилии».
- OpenAI заявила, что новые меры будут внедряться поэтапно в течение ближайших нескольких недель.
Использование
- Родители могут связать аккаунт ребенка с ChatGPT для получения уведомлений о безопасности; взрослые пользователи, ошибочно определенные как несовершеннолетние, могут пройти верификацию возраста через Persona. Обычным пользователям никаких действий предпринимать не нужно.
Риски
- Запрос к оригинальному тексту OpenAI был отклонен (403), доступна только RSS-выжимка; детали и цифры взяты из пересказа Unite.AI, статья которого помечена как созданная ИИ и отредактированная человеком, при этом оригинальный текст не проверялся.
- Критерии срабатывания «автоматического завершения диалога» и «приостановки аккаунта» не опубликованы, что может привести к ложным срабатываниям для обычных пользователей, обсуждающих новости, историю или занимающихся творческим письмом.