L’illusion du contrôle
Nous utilisons chaque jour des systèmes que personne n’explique entièrement.
On peut construire une machine qui fonctionne sans savoir pourquoi elle répond ce qu’elle répond. C’est exactement la situation dans laquelle nous sommes.
Le fait
Les systèmes actuels ne sont pas programmés ligne par ligne : ils sont entraînés. On leur fournit une masse de données, on ajuste des milliards de paramètres, et des aptitudes apparaissent — parfois sans avoir été prévues par ceux qui les ont construits. Comprendre après coup le chemin suivi par une de ces machines est un champ de recherche encore balbutiant, très en retard sur le déploiement.
Depuis peu, ces systèmes ne se contentent plus de répondre : on leur confie des tâches, ils enchaînent des actions, utilisent des outils, corrigent leurs propres erreurs. La question n’est plus ce qu’une machine sait faire, mais ce qu’on la laisse faire seule.
Le vertige
Aucune technique, dans l’histoire, n’avait été déployée à cette échelle avec un tel écart entre la puissance et la compréhension. Nous acceptons dans nos hôpitaux, nos banques, nos administrations et nos usines des décisions dont nous ne savons pas reconstituer la logique.
Le vrai risque n’est probablement pas la machine hostile des films. C’est plus banal, et plus difficile à voir : une délégation progressive, une habitude, un jour où plus personne dans la salle ne sait vérifier.
Et dans le roman
« La Guerre invisible » se tient précisément là : dans cet intervalle entre ce que nous croyons maîtriser et ce qui nous échappe déjà.
Dossier suivant : Entre le réel et la fiction →
Cette réalité, je la raconte en détail dans La Guerre invisible — Vers l’intelligence absolue.
Un thriller documentaire fondé sur des événements réels, sur la course technologique qui se joue déjà sous nos yeux.
Découvrir le livre