OpenAIは10月30日、ChatGPTの暴力予防策を強化すると発表した。未成年ユーザーに対しては、質問が一見無害に見える場合でも、武器やセキュリティシステムに関する実用的な情報をさらに制限する。全ユーザーに対しては、過去の大規模襲撃事件の詳細（使用された武器、入手方法、死傷者数の比較など）の反復を厳格化する。会話が暴力や他者への危害への執着を示している場合、ChatGPTは会話を自動的に終了でき、複数回終了されたアカウントは停止される可能性がある。OpenAIはまた、半年ごとに更新される『コミュニティ安全報告書』の公開も約束した。
信頼度：高（85） · イベント日時 2026-10-30
理由
- Unite.AIの報道によると：最初の報告書は2027年初頭に公開される予定で、2026年後半をカバーする。内容は、モデルが暴力関連のリスクをどのように検出し対処するか、匿名のケーススタディ、新たな保護措置およびデータを含む。OpenAIは、第3四半期に法執行機関へ200件以上の案件を通報したと述べている。
- 年齢判定も強化されている：システムは使用中に行動シグナルを継続的に評価し、18歳未満と判断された場合はティーンモードに切り替える。誤って未成年と判定された成人ユーザーは、パートナーのPersonaを通じて年齢確認を行うことで制限を解除できる。保護者向けコントロールには、「ティーンアカウントが暴力に関する反復的な会話により停止された」という通知が新たに追加される。
- OpenAIは、新措置が今後数週間にわたり順次導入されると述べている。
使い方
- 保護者はChatGPT内で子どものアカウントを関連付けることで、安全に関するアラートを受信できる。誤って未成年と判定された成人ユーザーは、Personaによる年齢確認手続きを行うことができる。一般ユーザーは操作を行う必要はない。
リスク
- OpenAIの原文へのリクエストは拒否された（403）。RSSの要約のみを確認できた。詳細や数値はUnite.AIによる転載情報であり、同記事はAI生成で編集者による審査済みだが、原文との照合は行われていない。
- 「会話の自動終了」や「アカウント停止」のトリガー基準は公開されておらず、ニュース、歴史、創作などに関する通常の会話をしているユーザーを誤って巻き込む可能性がある。