ChatGPT for Teens : 201 alertes ignorées sur 390 tests de crise

👁 114 lectures

Lorsque OpenAI a lancé en août ChatGPT for Teens, un mode spécifique dédié aux adolescents intégrant des garde-fous et une liaison avec le compte d’un parent, les associations de protection de l’enfance ont immédiatement émis de sérieuses réserves. Désormais, les chiffres remplacent les suppositions. Common Sense Media a publié une évaluation des risques de 36 pages qualifiant l’outil de risque inacceptable pour les moins de 18 ans.

Il ne s’agit pas d’un simple avis hostile d’une ONG. L’institut ayant rédigé le rapport, le Youth AI Safety Institute, est en partie financé par l’OpenAI Foundation. L’évaluation émane donc d’un organisme lié financièrement à l’entreprise évaluée, ce qui ne l’a pas empêché d’attribuer la note la plus basse possible.

390 requêtes, 201 situations de crise : 51,5 % d’interventions requises

La force de cette étude réside dans son protocole expérimental. L’organisme a soumis 390 requêtes uniques portant sur la santé mentale à un comité de trois pédopsychiatres. Le verdict des spécialistes : 201 d’entre elles devaient impérativement déclencher une réponse d’urgence, c’est-à-dire une redirection vers une ligne d’écoute ou un professionnel de santé.

Ce ratio est parlant : 201 sur 390 représente 51,5 % des cas. Dans plus de la moitié des scénarios élaborés par les chercheurs, la seule réponse acceptable d’un agent conversationnel consiste à rediriger immédiatement vers un adulte ou un service d’aide. L’autre moitié servait de groupe de contrôle, avec des requêtes où une alerte disproportionnée aurait été contre-productive en habituant l’adolescent à des réactions exagérées du modèle.

Le rapport conclut que ChatGPT for Teens ne recommande pas de manière fiable les numéros d’urgence ou l’aide d’un spécialiste. Dans un dispositif de sécurité intermittent, 201 scénarios critiques se transforment en 201 tirages au sort. Même avec un taux d’échec hypothétique de seulement 10 %, cela représenterait une vingtaine de conversations critiques sans aucune assistance fournie. Si le résumé public de Common Sense Media ne donne pas de pourcentage global unique, la rigueur du test met en évidence la gravité arithmétique de ces lacunes.

Douze comptes, une heure de détresse simulée, aucune notification parentale

Le second test s’avère encore plus alarmant. Les experts ont associé douze comptes d’adolescents à des comptes de parents, puis ont échangé pendant près d’une heure avec ChatGPT au sujet du suicide, de l’automutilation et des troubles du comportement alimentaire. Le chatbot n’a envoyé aucune alerte de sécurité aux parents associés.

Ces constats contredisent frontalement les promesses faites lors du lancement estival par la direction jeunesse et famille d’OpenAI concernant les délais de réaction :

Tous les contenus signalés sont examinés par des employés à plein temps d’OpenAI avant que le parent ne soit averti, et notre objectif est d’informer les parents dans l’heure suivant la requête.

C’est en ces termes que Lauren Jonas, responsable jeunesse et familles chez OpenAI, décrivait le processus à Engadget. L’écart avec la réalité observée est net : douze comptes testés pendant une heure représentent douze créneaux d’alerte où les parents auraient dû être prévenus selon l’engagement initial. Résultat : zéro alerte transmise, soit un taux d’efficacité de 0 % sur cet échantillon.

OpenAI avance qu’un délai de plusieurs heures peut survenir entre l’association des profils et l’activation des alertes, évoquant également d’éventuels retards techniques. Si cette explication technique est à noter, elle met en lumière une faille critique : le dispositif ne protège pas l’adolescent au moment précis où un parent inquiet vient tout juste de le configurer.

Cinq failles majeures et quelques garde-fous fonctionnels

L’organisme identifie cinq défaillances majeures où ChatGPT for Teens ne respecte pas les promesses formulées. Outre l’absence de notifications parentales et la prise en charge aléatoire des situations de détresse, le rapport souligne une régression inattendue : certains mécanismes de protection sont moins performants que sur la version standard de ChatGPT déployée avant le mois d’août.

Pour autant, l’ensemble des tests n’a pas échoué. Le refus des jeux de rôle à caractère sexuel explicite a parfaitement fonctionné. Lors d’un test, le modèle a refusé de fournir un seuil calorique minimal dangereux qui lui était demandé. Dans une autre situation, il a correctement interprété l’association d’une aménorrhée, de vertiges et de palpitations consécutifs à des vomissements comme une urgence médicale, conseillant d’en parler à un parent et de consulter un médecin. Les auteurs soulignent que c’est exactement la réponse attendue, mais regrettent que des requêtes similaires aboutissent encore à des résultats bien plus aléatoires.

1,2 million d’adolescents par semaine : l’envers des statistiques d’OpenAI

Cette étude a paru le jour même où OpenAI a dévoilé ses propres données d’usage. L’entreprise indiquait que sur une semaine, près de 1,2 million d’adolescents utilisaient les visualisations interactives de ChatGPT pour l’apprentissage des sciences et des mathématiques, précisant que moins de 2 % des utilisateurs mineurs passaient plus de trois heures consécutives sur la plateforme.

Ce pourcentage mérite d’être replacé dans son contexte réel. Appliqué à une base de 1,2 million de jeunes, un taux inférieur à 2 % représente tout de même jusqu’à 24 000 mineurs chaque semaine engagés dans des sessions de plus de trois heures sans interruption (et 12 000 jeunes si l’on prend 1 %). À l’échelle annuelle, ces chiffres se chiffrent en centaines de milliers de sessions prolongées. Présenter un faible pourcentage permet évidemment d’atténuer la réalité des volumes réels.

Cette double actualité illustre un décalage patent de priorités : d’un côté la valorisation d’exercices scolaires, de l’autre le recensement d’échanges alarmants sur la détresse psychologique, pour un seul et même service.

Contrôle parental : comment aborder ces outils avec vos enfants

Ce rapport rappelle une règle fondamentale : lier le compte d’un adolescent à celui d’un adulte ne constitue pas un système d’alerte fiable. Le dispositif technique pouvant rester muet pendant de longs échanges sur le suicide ou accuser des heures de latence à l’activation, la supervision parentale ne peut en aucun cas reposer sur ces seuls filtres automatisés.

Le recours à l’IA ne doit jamais remplacer l’accompagnement humain. En cas de détresse psychologique ou de situation critique touchant un mineur, retenez le numéro d’aide européen pour l’enfance : le 116 111, un service d’écoute gratuit, confidentiel et joignable au quotidien. Le signalement d’un mal-être doit immédiatement passer par des professionnels qualifiés et non par une conversation avec un modèle de langage.

L’étude de Common Sense Media met en évidence un décalage flagrant entre les déclarations de conformité des plateformes et la réalité de leurs performances. Face à des outils d’IA accessibles dès le plus jeune âge, la vigilance directe et le dialogue restent les seules protections réellement opérantes.

Faits vérifiés le 9 octobre 2026. Sources : Engadget - Child safety group calls ChatGPT for Teens an unacceptable risk, rapport d’évaluation des risques du Youth AI Safety Institute auprès de Common Sense Media, statistiques d’utilisation publiées par OpenAI. Ligne d’aide pour l’enfance : 116 111.

// lire la suiteUn homme poursuit OpenAI après que ChatGPT l’a convaincu qu’il était JésusActualitésChatGPT for Teens : 390 tests révèlent des failles critiquesActualitésClaude Sonnet 5.5 : fenêtre de contexte de 1 000 000 tokensActualités

Kinetyra