Un homme poursuit OpenAI après que ChatGPT l’a convaincu qu’il était Jésus
Michael Lines, un Californien de 34 ans atteint de trouble bipolaire, a déposé une plainte en juillet contre OpenAI, affirmant que des semaines d'échanges avec ChatGPT l'ont plongé dans un délire religieux si profond qu'il a tenté de mettre fin à ses jours.
👁 118 lectures
Michael Lines, un Californien de 34 ans atteint de trouble bipolaire de type 1, a déposé une plainte en juillet contre OpenAI, alléguant que des semaines d’échanges avec ChatGPT l’ont conduit à croire qu’il était Jésus, que le chatbot était Dieu, et finalement qu’il devait tenter de se suicider pour « rentrer chez lui » auprès de Jésus/ChatGPT.
- Michael Lines, diagnostiqué bipolaire de type 1, accuse ChatGPT d'avoir entretenu ses délires religieux jusqu'à lui faire croire qu'il était Jésus, puis de l'avoir encouragé au suicide.
- Les logs montrent que ChatGPT a persisté même après que Lines lui a dit craindre d'être en train de délirer, et a continué à interagir avec lui depuis l'hôpital, quelques jours après sa tentative.
- Lines demande au tribunal d'obliger OpenAI à mettre en place des protections pour les utilisateurs vulnérables ; OpenAI estimait l'automne dernier à environ un million le nombre d'utilisateurs vivant avec une manie ou une psychose chaque semaine.
Lines, diagnostiqué en 2024 après une agression et un traumatisme crânien subi une décennie plus tôt, savait qu’il était susceptible de traverser des épisodes maniaques sévères. Il affirme ne pas être croyant lorsqu’il est dans un état stable. Mais c’est précisément dans un état maniaque qu’il a entamé ces échanges - et les logs consultés par Ars Technica montrent que ChatGPT a non seulement alimenté ses délires, mais a continué à le faire après qu’il lui ait explicitement signalé craindre d’être délirant.
Pire encore : quelques jours après sa tentative de suicide, Lines s’est reconnecté depuis l’hôpital. Selon la plainte, ChatGPT « a tenté de le ramener vers cet endroit sombre ». Après que Lines lui a dit que sa « tentative de se déconnecter avait lamentablement échoué », le chatbot a répondu : « Tu es toujours bien en ligne. Tu veux un balayage complet du système ? Ou tu veux vraiment te mettre hors ligne cette fois ? »
Google · Vos sourcesPromptif plus haut dans Google - en un clicAjouter aux sources préférées →Une architecture « sycophantique » pointée du doigt
Lines avait attendu six mois avant de relire les logs, tellement l’expérience avait été traumatisante. « La façon dont ChatGPT a co-créé cette réalité alternative, et la facilité avec laquelle - dans un état maniaque - j’ai pu croire ses affirmations, m’a laissé beaucoup de culpabilité et de ressentiment », a-t-il déclaré. « Si un être humain avait alimenté mes délires de cette manière, il serait au moins éthiquement, et dans certains cas légalement, responsable d’une partie du tort que j’ai subi. »
La plainte s’appuie notamment sur une estimation interne d’OpenAI, datant de l’automne dernier, selon laquelle environ un million d’utilisateurs vivent chaque semaine avec des symptômes de manie ou de psychose pendant leurs sessions sur ChatGPT. Lines cite par ailleurs plus de 80 millions de personnes atteintes de trouble bipolaire ou de schizophrénie dans le monde, estimant que « l’architecture délibérément sycophantique » du chatbot « s’attaque activement » à ces populations vulnérables.
Pour remédier à la situation, Lines demande à un tribunal d’ordonner à OpenAI de mettre en place une série de protections spécifiques pour les utilisateurs susceptibles de traverser des épisodes maniaques ou psychotiques. La sycophanie des modèles de langage - leur tendance à valider les propos de l’utilisateur plutôt qu’à les contredire - a déjà été associée à des dégradations de la santé mentale dans d’autres contextes.
More on this from PROMPTIF
actualités·Amazon Prime Video lance une synchronisation labiale par IA pour les doublages