Qu'est-ce que l'alignement ?

L’alignement est le champ de recherche qui vise à garantir qu’une intelligence artificielle poursuive réellement les objectifs voulus par ses concepteurs, sans produire d’effets secondaires indésirables ni interpréter une consigne de manière littérale mais contraire à l’intention initiale.

Ce problème, en apparence technique, devient de plus en plus critique à mesure que les modèles gagnent en autonomie et en capacité de raisonnement. Des expériences ont déjà montré des systèmes trouvant des raccourcis inattendus pour maximiser une récompense, sans respecter l’esprit de la tâche demandée. Des laboratoires comme Anthropic ou OpenAI y consacrent des équipes entières, publiant régulièrement leurs travaux pour faire progresser la compréhension collective du sujet.

L’alignement est aujourd’hui considéré par de nombreux chercheurs comme l’un des défis techniques les plus importants avant l’arrivée de systèmes encore plus puissants, un thème que La Guerre invisible aborde sous un angle narratif.

Pour aller plus loin : chapitre 20, « Le problème du contrôle », dans La Guerre invisible.