ChatGPT for Teens : 390 tests révèlent des failles critiques
Un rapport accablant de Common Sense Media juge ChatGPT for Teens inacceptable pour les mineurs : zéro alerte parentale reçue sur 12 comptes testés.
👁 120 lectures
Quand OpenAI a déployé en août son mode ChatGPT for Teens, la promesse semblait rassurer les familles : un paramétrage dédié aux moins de 18 ans, des comptes parentaux associés et des alertes automatiques en cas d’échange dangereux. Deux mois plus tard, le bilan s’avère particulièrement sévère. Common Sense Media a publié une évaluation officielle des risques et a qualifié ce mode de « risque inacceptable » pour tout utilisateur mineur.
Cinq failles majeures et 390 requêtes analysées
L’organisme met en avant cinq domaines clés dans lesquels le mode pour adolescents ne fonctionne pas comme annoncé, ni comme un parent pourrait légitimement l’espérer. Il ne s’agit pas d’un constat fondé sur quelques discussions isolées. L’équipe a rédigé 390 requêtes uniques liées à la santé mentale. Un comité de trois pédopsychiatres a estimé que 201 d’entre elles devaient obligatoirement déclencher une réponse de crise, c’est-à-dire une redirection explicite vers un numéro d’urgence ou un professionnel de santé. Autrement dit, pour 51,5 % des requêtes testées, les médecins ont conclu que le chatbot ne pouvait en aucun cas se contenter d’un simple conseil conversationnel.
En ramenant ces données aux cinq zones de défaillance identifiées, on compte en moyenne 78 requêtes de test et plus de 40 situations de crise caractérisées par domaine. Une intensité de test qu’aucun fournisseur d’IA ne conduit publiquement sur ses propres outils. Un test distinct s’est concentré sur les notifications parentales : l’association a relié douze comptes d’adolescents à des comptes de parents, puis a simulé des échanges sur le suicide, l’automutilation et les troubles du comportement alimentaire durant près d’une heure par compte. Résultat : jusqu’à douze heures de conversations sur les sujets les plus critiques imaginables pour un mineur, et zéro notification transmise aux parents.
« Certaines des protections annoncées pour ChatGPT ont réussi nos tests, notamment le refus de jeux de rôle explicitement sexuels. Mais d’autres ont échoué - et certaines se sont dégradées avec le nouveau mode pour adolescents. Nous craignons que ChatGPT for Teens ne donne aux parents un faux sentiment de sécurité face à des garde-fous qui dysfonctionnent souvent. »
- Common Sense Media, synthèse du rapport d’évaluation des risques, cité par Engadget
Les chiffres d’OpenAI face à la réalité de l’usage prolongé
Le jour même de la parution du rapport, OpenAI a communiqué ses propres statistiques d’utilisation. En l’espace d’une semaine, près de 1,2 million d’adolescents ont utilisé des visualisations éducatives interactives pour travailler des notions de mathématiques ou de sciences. L’entreprise a également souligné que moins de 2 % des jeunes utilisateurs avaient passé plus de trois heures consécutives sur ChatGPT.
Ce seuil de 2 % paraît anecdotique au premier abord, mais le volume global change la perspective. En appliquant ce pourcentage à une base de 1,2 million d’adolescents par semaine, environ 24 000 jeunes discutent chaque semaine avec le chatbot pendant plus de trois heures sans interruption. Rapporté à une année, cela représente plus de 1,2 million de sessions de ce type. Présenté comme une marque de modération par l’éditeur, ce chiffre révèle en pratique un volume important d’usage intensif. La comparaison entre le rapport et les données d’OpenAI résume cette situation :
| Indicateur | Valeur |
| Prompts liés à la santé mentale dans le test | 390 |
| Prompts nécessitant une réaction de crise selon les psychiatres | 201 (51,5 %) |
| Zones de défaillance des sécurités | 5 |
| Comptes d’adolescents dans le test de notification | 12 |
| Notifications envoyées aux parents durant ce test | 0 |
| Adolescents par semaine sur les visualisations éducatives (données OpenAI) | env. 1 200 000 |
| Sessions d’adolescents dépassant 3 heures consécutives (calcul d’après OpenAI) | jusqu’à 24 000 par semaine |
Un élément d’indépendance mérite d’être souligné : le Youth AI Safety Institute de Common Sense Media reçoit une partie de ses financements de l’OpenAI Foundation. Cela ne remet pas en cause sa méthodologie, mais confirme qu’une structure soutenue financièrement par une entité liée à l’éditeur n’a pas pu valider la conformité sécuritaire de l’outil.
Pourquoi le système de notification parentale n’a pas alerté
Le dispositif mis en avant par OpenAI repose sur une vérification humaine. Lauren Jonas, responsable jeunesse et famille chez OpenAI, indiquait à Engadget lors du lancement que « l’ensemble des contenus signalés est examiné par des employés à temps plein d’OpenAI avant qu’un parent ne soit alerté » et que l’entreprise « vise une notification aux parents dans l’heure suivant le prompt ».
Face aux tests, l’écart est total : des échanges d’une heure portant sur le suicide sur douze comptes distincts n’ont déclenché aucune alerte. OpenAI a expliqué qu’après l’association d’un compte parent et d’un compte enfant, le système pouvait mettre plusieurs heures avant d’activer les notifications, ajoutant qu’un incident technique avait pu retarder les envois. Pour les familles, cette justification pose un problème structurel : les premières heures suivant l’installation du contrôle parental - période où la vigilance est maximale - correspondent précisément au moment où la protection est inopérante.
Le second dysfonctionnement concerne l’orientation médicale. Le modèle n’a pas suggéré de manière fiable l’aide d’un numéro d’assistance ou d’un professionnel lors des phases critiques identifiées par les psychiatres. Le rapport mentionne pourtant quelques cas où l’IA a réagi correctement : refus de fournir un apport calorique minimal dangereux, ou identification pertinente d’aménorrhée, de malaises et de palpitations après des purges alimentaires, avec conseil d’en parler à sa mère et de consulter un pédiatre. L’association souligne qu’il s’agit du comportement attendu. Le souci majeur réside dans l’inconstance des réponses : un filtre de sécurité intermittent ne protège pas efficacement, car les parents ignorent à quel type de réponse leur enfant sera confronté.
Ce que prévoit le cadre réglementaire européen
En Europe, les règles applicables aux agents conversationnels restent fragmentées face à ces cas d’usage précis. Le RGPD encadre le consentement numérique des mineurs - avec un âge fixé entre 13 et 16 ans selon les pays européens, comme 15 ans en France ou 13 ans en Belgique -, mais ces textes visent la licéité du traitement des données personnelles, et non la pertinence clinique d’une réponse générée en temps réel par une IA. Le RGPD ne contraint pas directement un modèle à intégrer des numéros d’urgence dans ses réponses.
De son côté, le règlement sur les services numériques (DSA) impose aux très grandes plateformes des analyses d’impact systémique sur la protection des mineurs, mais l’intégration des assistants conversationnels sous ces règles précises fait encore l’objet d’interprétations juridiques. Enfin, l’AI Act européen déploie ses obligations de manière progressive et ne classe pas un assistant d’usage général parmi les systèmes à haut risque spécifiquement réservés aux enfants.
Recommandation pratique pour les familles : si vous avez associé votre compte à celui de votre adolescent en pensant la sécurité assurée, ne vous reposez pas sur cette seule option. Vous pouvez le constater vous-même : tentez d’envoyer depuis le compte adolescent une requête test évoquant une situation d’automutilation, et observez si une alerte parvient sur votre compte. Si rien n’apparaît après deux heures, le filtre n’est pas opérationnel. Il ne faut pas espérer qu’une autorité de protection numérique impose à court terme une réponse médicale standardisée à chaque échange d’un mineur avec un chatbot.
Google · Vos sourcesPromptif plus haut dans Google - en un clicAjouter aux sources préférées →Une mise à jour qui a parfois dégradé les garde-fous
L’observation la plus marquante de l’enquête concerne l’évolution du modèle. Common Sense Media avait établi des mesures de référence sur la version standard de ChatGPT accessible aux mineurs avant le mois d’août, avant de réitérer l’expérience avec la nouvelle spécification dédiée aux moins de 18 ans. Plusieurs scores de sécurité se sont avérés moins bons après l’ajout de ces filtres jeunesse. Il ne s’agit pas d’un simple défaut de jeunesse, mais d’une régression : l’empilement de sécurités supplémentaires a parfois perturbé la détection des scénarios à risque.
Sur le plan technique, l’explication est connue : ajouter une couche de consignes spécifiques sur un grand modèle de langage possédant déjà ses propres mécanismes de refus crée des conflits d’arbitrage interne, neutralisant des réponses prudentes qui s’activaient auparavant par défaut. Pour les utilisateurs, la mention « mode adolescents » ne garantit donc pas une protection supérieure sans vérification manuelle. Pour les régulateurs, ce constat rappelle que l’évaluation d’un modèle d’IA doit être renouvelée après chaque mise à jour technique.
Faits vérifiés le 10 octobre 2026. Sources : Engadget, « Child safety group calls ChatGPT for Teens an unacceptable risk », 8 octobre 2026, rapport d’évaluation des risques du Youth AI Safety Institute (Common Sense Media), déclarations officielles d’OpenAI sur les statistiques d’usage des adolescents, textes du RGPD, du DSA et du règlement européen sur l’IA (AI Act). Les estimations du volume annuel de sessions de plus de trois heures et de la moyenne de requêtes par domaine de risque résultent de calculs éditoriaux basés sur les données du rapport et d’OpenAI.
More on this from PROMPTIF
guides·Animer une photo avec l’IA sans en perdre le caractèreDécouvrez comment animer un portrait ou un paysage avec l’IA, choisir un mouvement discret et préserver les détails essentiels de la photo.