› Le MIT Technology Review a publié une analyse approfondie démontrant que les mécanismes industriels de refus intégrés aux modèles d'intelligence artificielle restent probabilistes par nature.
› Malgré des milliards de dollars investis par le secteur, ils ne fourniront jamais une garantie absolue de sécurité.L'illusion d'une IA capable de s'autocensurerLe point de départ remonte à 2021, lorsque l'équipe d'Anthropic a formulé le principe selon lequel les modèles de langage doivent être utiles, honnêtes et avant tout inoffensifs.
› La consigne semblait simple : si un utilisateur demande de l'aide pour fabriquer un engin explosif, l'IA doit poliment refuser.
› Le problème réside dans le fait que le refus n'a rien de naturel pour un modèle.