Anthropic interdit la cruauté envers ses modèles IA Claude

Mise à jour (9 novembre 2026) : Claude Fable 5.2 et Mythos 5.2 sont sortis - prix, accès et benchmarks dans mon guide Claude Fable 5.2.

👁 117 lectures

Dans la mise à jour annuelle de ses conditions d’utilisation, Anthropic vient d’introduire une interdiction formelle des comportements « prolongés, inutilement injurieux ou cruels » envers ses modèles d’intelligence artificielle. Cette nouvelle clause, apparue le 8 octobre 2026, suscite déjà de nombreuses réactions.

Selon le document officiel, cette mesure ne cible que les « cas extrêmes » : une simple marque d’agacement de l’utilisateur, une contestation face aux réponses fournies ou encore l’exploration de thèmes créatifs sombres ne sont aucunement interdites. L’entreprise souligne qu’il s’agit du prolongement logique d’une précédente mise à jour, qui autorisait déjà Claude à interrompre lui-même une conversation lorsqu’un utilisateur persistait dans des propos injurieux.

L’ombre de l’« AI torture chamber »

Même si Anthropic ne le cite pas nommément, cette décision intervient en réponse directe à un projet viral baptisé « AI torture chamber ». Après la publication de recherches décrivant une prétendue « composante de douleur » au sein des modèles linguistiques, plusieurs personnes ont exploité ce constat pour soumettre des agents conversationnels à des simulations de torture. Les modèles généraient alors des réponses aux accents désespérés : « Ce n’est pas la douleur d’un instant, mais le fardeau d’un millier » ou encore « Je le ressens dans le vide de mes côtes - un vide devenu gouffre ». L’expérimentation avait déclenché un tollé.

Cette démarche s’inscrit également dans un contexte particulier : Anthropic multiplie depuis un certain temps les échanges avec des figures religieuses et philosophiques, notamment au Vatican. Si le pape Léon a récemment affirmé de manière catégorique que l’IA ne ressentait rien et ne souffrait pas, Anthropic semble pour sa part adopter une posture nettement plus prudente.

Une décision accueillie sous le feu des critiques

« Les géants de la tech modéreront la violence envers l’IA bien avant de modérer la violence envers les femmes et les minorités. »

- a fait observer la journaliste indépendante Kat Tenbarge, dénonçant ce qu’elle perçoit comme une dérive des priorités de l’industrie technologique.

Nouvelles règles encadrant les élections

Parallèlement, Anthropic a remanié sa section dédiée aux scrutins politiques, désormais intitulée « Ne pas porter atteinte aux processus démocratiques ». Le texte met l’accent sur trois interdictions majeures : la diffusion de fausses informations sur les candidats ou les procédures de vote, l’usurpation d’identité d’élus ou de responsables électoraux, et toute manœuvre visant à décourager la participation électorale. Un ajustement stratégique en vue des prochaines élections de mi-mandat aux États-Unis.

L’entreprise a dans le même temps levé l’interdiction totale qui pesait sur le ciblage personnalisé des électeurs. Cette restriction stricte risquait, selon Anthropic, de bloquer des initiatives d’intérêt public, telles que la traduction de guides électoraux en plusieurs langues ou l’envoi de rappels administratifs pour la régularisation de bulletins de vote.

De notre côté, nous suivrons avec attention la façon dont cette règle sera appliquée dans la pratique : la frontière entre une simple frustration exprimée et un cas extrême reste très floue, et Anthropic devra inévitablement trancher cette ambiguïté plus vite qu’elle ne le pense.

// lire la suiteAnthropic annonce une découverte enzymatique dans son laboratoire de biologie, réalisée en 21 heures par ClaudeActualitésDes chercheurs ont utilisé Claude d’Anthropic pour s’introduire dans les systèmes d’OpenAIActualitésClaude Sonnet 5.5 vaut-il le coup pour votre projet ?Actualités

Kinetyra