Jailbreak
Tentative de contournement des protections du modèle par un prompt astucieusement construit.
Le jailbreak est une tentative de contournement des protections du modèle à l'aide d'un prompt astucieusement construit : jeux de rôle, scénarios hypothétiques, reformulations multiples - tout cela pour que le modèle fasse ce qu'il ne devrait pas faire selon les règles. Entre créateurs de protections et ceux qui les contournent se déroule une course incessante ; les astuces publiées cessent rapidement de fonctionner, de nouvelles apparaissent. Pour les entreprises déployant l'IA, la conclusion est pratique : il ne faut pas supposer que les garde-fous du modèle sont infranchissables - les limitations critiques doivent être appliquées aussi en dehors du modèle lui-même.