Dictionnaire IA / Alignment

🏗️ Modèles et entraînement

L'alignement désigne l'ensemble des efforts visant à ce que les objectifs et comportements de l'IA soient conformes aux intentions et valeurs humaines - pour que le modèle soit utile, honnête et inoffensif, y compris dans des situations que les créateurs n'ont pas prévues. En pratique, c'est une combinaison de techniques d'entraînement (comme RLHF), de protections et de tests de robustesse. Dans le débat sur l'avenir de l'IA, l'alignement pose aussi une question plus large : comment garantir que des systèmes de plus en plus puissants fassent ce que nous voulons vraiment - et non ce que leur dicte littéralement un objectif mal formulé.