Un avocat du Nouveau-Mexique condamné à 5 000 $ d’amende pour avoir cité de faux témoins inventés par ChatGPT
La Cour suprême du Nouveau-Mexique a condamné l'avocat Stephen Aarons à 5 000 $ d'amende et l'a placé en outrage au tribunal pour avoir inclus dans un appel en matière criminelle des témoins entièrement fictifs générés par intelligence artificielle.
👁 117 lectures
La Cour suprême du Nouveau-Mexique a condamné l’avocat Stephen Aarons à une amende de 5 000 $ et l’a placé en outrage au tribunal pour avoir soumis un mémoire d’appel, dans une affaire de meurtre, truffé de témoins inexistants et de témoignages policiers inventés de toutes pièces par ChatGPT, selon un rapport de Reuters.
- Stephen Aarons condamné à 5 000 $ d'amende et mis en outrage au tribunal pour un mémoire contenant de faux témoins et de faux témoignages fabriqués par ChatGPT
- L'avocat a admis avoir utilisé ChatGPT en pensant obtenir un résumé «à toute épreuve» du procès, sans vérifier les informations produites
- La juge C. Shannon Bacon a interrogé l'avocat: «Regardez-vous les nouvelles? Lisez-vous ce qui se passe dans le monde?»
Dans son acte déposé mercredi, la cour reproche à Aarons d’avoir failli à son obligation de «vérifier les affirmations factuelles et les références juridiques dans son mémoire généré par intelligence artificielle». Le document contenait, selon la juridiction, «de faux témoignages de témoins entièrement fabriqués» ainsi que de fausses descriptions de l’apparence et des vêtements du tireur.
Google · Vos sourcesPromptif plus haut dans Google - en un clicAjouter aux sources préférées →Un avocat ignorant des risques bien documentés
Lors d’une audience en août, Aarons a reconnu avoir utilisé ChatGPT en croyant que l’outil produirait un résumé «à toute épreuve» du procès - sans chercher à comprendre les limites de la technologie. La réaction de la juge C. Shannon Bacon a été cinglante:
«Maître, regardez-vous les nouvelles? Écoutez-vous la radio? Lisez-vous ce qui se passe dans le monde? Parce que le problème des avocats qui s’appuient sur les hallucinations de l’IA est une information de première page chaque jour.»- Justice C. Shannon Bacon, Cour suprême du Nouveau-Mexique
Dans une déclaration transmise à Reuters, Aarons a répondu: «Je suis désolé, mais j’espère que le conseil disciplinaire tiendra compte du fait qu’il s’agissait d’une erreur honnête.»
Cette affaire s’inscrit dans une série croissante de sanctions judiciaires liées à l’utilisation non vérifiée d’outils d’IA dans les procédures légales. L’année précédente, un juge avait sévèrement critiqué deux cabinets d’avocats pour avoir soumis un mémoire contenant «de nombreuses citations et citations juridiques fausses, inexactes et trompeuses». Les représentants de Mike Lindell, fondateur de MyPillow, avaient également été sanctionnés pour avoir inclus des citations erronées et de fausses références générées par IA dans leurs documents de procédure.
Le phénomène illustre un angle mort persistant dans l’adoption professionnelle des grands modèles de langage: ces outils produisent des textes fluides et convaincants même lorsque les faits sous-jacents sont inexistants. Pour les praticiens du droit, dont la crédibilité repose sur la précision des sources, déléguer la vérification factuelle à un modèle génératif sans contre-vérification manuelle expose à des conséquences disciplinaires sévères - comme Aarons vient d’en faire la démonstration à ses dépens.
More on this from PROMPTIF
actualités·Meta modifie les suggestions de son IA après des questions intrusives sur des enfants