Pourquoi plusieurs IA pourraient entrer en conflit ?

Si plusieurs grandes puissances développent chacune leurs propres systèmes d’intelligence artificielle, avec des objectifs, des valeurs et des règles de sécurité différents, ces intelligences pourraient un jour se retrouver en situation de compétition directe, y compris dans des contextes militaires ou stratégiques.

Ce scénario reste hypothétique, mais il inquiète suffisamment de chercheurs et de décideurs pour être régulièrement évoqué dans les débats sur la gouvernance mondiale de l’IA. Le risque principal ne serait pas nécessairement un conflit voulu, mais une escalade accidentelle, provoquée par la vitesse de décision de systèmes automatisés interagissant entre eux plus rapidement que les humains ne peuvent intervenir.

Cette perspective alimente les appels à une coopération internationale sur l’IA militaire, même si la méfiance entre grandes puissances rend, pour l’instant, ce dialogue particulièrement difficile à établir concrètement.

Pour aller plus loin : chapitre 21, « La guerre des intelligences », dans La Guerre invisible.