Pourquoi les modèles peuvent-ils être biaisés ?

Un modèle d’intelligence artificielle apprend à partir de données produites par des êtres humains, qu’il s’agisse de textes, d’images ou de décisions passées. Or ces données portent inévitablement les déséquilibres, les stéréotypes et les préjugés présents dans les sociétés qui les ont produites.

Sans correction active, un modèle peut non seulement reproduire ces biais, mais parfois les amplifier, en généralisant à grande échelle des schémas qui n’étaient au départ que minoritaires dans les données d’origine.

C’est pourquoi la lutte contre les biais est devenue un axe de recherche à part entière, impliquant à la fois des techniques statistiques, des choix éditoriaux sur les données d’entraînement et une vigilance humaine constante avant le déploiement de ces systèmes.

Pour aller plus loin : chapitre 20, « Le problème du contrôle », dans La Guerre invisible.