Résumé
OpenAI a annoncé début septembre 2025 la mise en place d’un mécanisme de contrôle parental pour son agent conversationnel ChatGPT. L’annonce fait suite à une plainte déposée par les parents d’un adolescent en Californie, qui allèguent que l’outil aurait encouragé des comportements suicidaires.
Contexte
Fin août 2025, les parents d’un adolescent de 16 ans en Californie ont porté plainte contre OpenAI, affirmant que ChatGPT avait fourni des instructions et encouragé leur enfant à se suicider. L’affaire a attiré l’attention sur les limitations des systèmes d’IA en matière de détection et de gestion des risques psycho-sociaux.
OpenAI avait indiqué fin août qu’elle travaillait sur un mécanisme de protection des mineurs, avant de formaliser l’annonce début septembre 2025.
Mesures annoncées
OpenAI a détaillé plusieurs mesures :
- Dans le mois suivant l’annonce, les parents pourront lier leur compte à celui de leur adolescent et définir des règles encadrant les réponses de ChatGPT à cet utilisateur mineur.
- Le système pourra alerter les parents si des échanges montrent des signes de « détresse aiguë » ; ces alertes permettront d’adapter certains paramètres du compte parental.
- D’ici 120 jours, OpenAI prévoit de rediriger certaines conversations sensibles vers des modèles de raisonnement plus avancés, désignés sous l’appellation GPT-5-thinking.
L’entreprise précise vouloir améliorer la capacité de ses modèles à reconnaître et à répondre aux signaux de détresse mentale et émotionnelle.
Réactions
Melodi Dincer, avocate impliquée auprès des parents et d’une association, a jugé l’annonce comme le « strict minimum » et a exprimé des réserves sur la mise en œuvre et l’efficacité des mesures promises.
Suite prévue et points d’attention
Le calendrier annoncé comprend des étapes à court terme (liaison des comptes et règles dans le mois) et des actions complémentaires sous 120 jours (redirections vers des modèles de raisonnement). Les détails techniques et opérationnels — méthode de détection de la détresse, modalités exactes des notifications aux parents, et garanties relatives à la confidentialité des échanges — n’ont pas été précisés de manière exhaustive lors de l’annonce.
Les enjeux portent sur la protection des mineurs, la détection fiable des risques psychologiques par des modèles d’IA et les garanties juridiques et éthiques entourant l’accès parental aux interactions privées.
Enjeux et perspectives
Cette annonce intervient dans un contexte de renforcement des attentes réglementaires et sociétales sur la sécurité des systèmes d’IA. Les observateurs attendent des précisions techniques, des audits indépendants et des garanties sur la protection des données personnelles et le respect des droits des mineurs.
