Qu'est-ce que l'IA ne sait pas faire ?

Malgré des progrès spectaculaires, l’intelligence artificielle actuelle conserve des limites importantes. Elle reste fragile face à des situations imprévues, qu’un humain gérerait sans difficulté grâce à son sens commun et à son expérience du monde physique.

Ces systèmes peuvent aussi échouer sur des raisonnements pourtant simples, notamment lorsqu’ils sortent du cadre de ce qu’ils ont vu durant leur entraînement. Ils manquent d’une compréhension réelle de la causalité et du monde matériel, contrairement à ce que leur fluidité verbale pourrait laisser croire.

Une autre limite tient à leur rapport à la vérité : ces modèles ne savent pas toujours distinguer ce qu’ils savent réellement de ce qu’ils reconstruisent ou inventent, une caractéristique qui appelle à une utilisation prudente et critique de leurs réponses.

Pour aller plus loin : chapitre 16, « La machine sort de l’écran », dans La Guerre invisible.