OpenAI 10 30 a annoncé le renforcement de la prévention de la violence dans ChatGPT : restriction accrue des informations pratiques sur les armes et les systèmes de sécurité pour les utilisateurs mineurs, même si les questions semblent inoffensives ; restriction accrue pour tous les utilisateurs concernant la restitution des détails des attaques de masse passées (armes utilisées, mode d'obtention, comparaison de l'ampleur des victimes) ; lorsque la conversation indique une obsession pour la violence ou pour nuire à autrui, ChatGPT pourra mettre fin automatiquement à la conversation, et les comptes ayant subi plusieurs interruptions pourraient être suspendus. OpenAI s'est également engagée à publier un « Rapport sur la sécurité de la communauté » mis à jour tous les six mois.
Confiance : élevée (85) · Date de l'événement 2026-10-30
Justification
- Selon le résumé de Unite.AI : le premier rapport est prévu pour le début de 2027, couvrant le second semestre 2026, et comprendra des informations sur la manière dont les modèles détectent et traitent les risques liés à la violence, des cas anonymes, ainsi que de nouvelles mesures de protection et des données ; OpenAI a déclaré avoir transmis plus de 200 cas aux forces de l'ordre au troisième trimestre.
- La détermination de l'âge est également renforcée : le système évalue en continu les signaux comportementaux pendant l'utilisation, et bascule en mode adolescent s'il est estimé que l'utilisateur a moins de 18 ans ; les adultes mal identifiés peuvent lever les restrictions en vérifiant leur âge via le partenaire Persona ; les contrôles parentaux ajouteront une notification indiquant qu'un « compte adolescent a été suspendu en raison de discussions répétées sur la violence ».
- OpenAI a indiqué que les nouvelles mesures seront déployées progressivement au cours des prochaines semaines.
Utilisation
- Les parents peuvent associer le compte de leur enfant dans ChatGPT pour recevoir des alertes de sécurité ; les utilisateurs adultes mal identifiés comme mineurs peuvent effectuer une vérification d'âge via Persona. Aucune action n'est requise pour les utilisateurs ordinaires.
Risques
- La demande d'accès au texte original d'OpenAI a été refusée (403) ; seuls les résumés RSS ont été consultés ; les détails et les chiffres proviennent du résumé de Unite.AI, un article signé comme généré par IA et révisé par un éditeur, sans vérification du texte original.
- Les critères déclencheurs de la « fin automatique de la conversation » et de la « suspension du compte » ne sont pas publics, ce qui pourrait affecter à tort les utilisateurs discutant normalement de l'actualité, de l'histoire ou de l'écriture.