› Lorsque le chercheur en IA Jacob Coxon a quitté Anthropic après seulement quatre mois de travail, il a écrit sur X quelque chose qui a provoqué une tempête dans le milieu : « Les gens qui construisent l'IA croient vraiment qu'elle pourrait nous tuer tous avant la fin de la décennie.
› » Ce n'était pas un commentaire anonyme sur Twitter.
› C'était la démission d'un cadre supérieur de l'une des entreprises d'IA les plus prestigieuses au monde.Plus important encore - Evan Hubinger, cadre supérieur chez Anthropic, a publiquement donné raison à Coxon et ajouté qu'il estime personnellement la probabilité d'un tel scénario au cours des dix prochaines années à plus de 10%.
› Ce n'est pas un niveau de risque avec lequel on construit normalement une technologie et on la déploie à l'échelle mondiale.Le problème du chien et de la bombe thermonucléaireLe professeur Toby Walsh de l'Université de Nouvelle-Galles du Sud, l'un des principaux chercheurs en IA, a décidé d'aborder le sujet de manière analytique et a catalogué cinq scénarios dans lesquels une IA superintelligente pourrait conduire à la fin de notre civilisation.