L'IA nous conduit-elle vers un monde gouverné uniquement par l'efficacité ?

Nous entrons progressivement dans une époque où l'efficacité pourrait devenir la valeur dominante. Grâce à l'intelligence artificielle et à l'explosion de la quantité de données disponibles, les décisions seront prises à partir d'un nombre de paramètres qu'aucun être humain ne pourra réellement appréhender.

‍

À mesure que les modèles gagnent en puissance, ils deviennent également de moins en moins explicables. Nous savons qu'ils fonctionnent, mais nous sommes souvent incapables de démontrer précisément pourquoi ils arrivent à une conclusion plutôt qu'à une autre. Si cette logique venait à s'étendre aux décisions publiques, la politique pourrait progressivement quitter le terrain des convictions pour celui de l'optimisation. Une décision ne serait plus jugée juste parce qu'elle correspond à une idéologie, mais parce qu'elle maximise un objectif mesurable.

Prenons un exemple volontairement provocateur. Imaginons qu'une IA démontre qu'en enfermant systématiquement toutes les personnes répondant à certains critères, le nombre de délits diminue fortement. D'un point de vue statistique, la conclusion pourrait sembler irréfutable, même si les critères retenus sont moralement inacceptables. Certains pays ont déjà adopté des approches qui s'en rapprochent. Au Salvador, par exemple, la lutte contre les gangs s'est accompagnée d'arrestations massives, où le simple fait d'être tatoué a parfois constitué un élément de suspicion.
‍

À mesure que ces systèmes progresseront, il est même possible que certaines décisions deviennent si évidentes d'un point de vue statistique que les divergences politiques s'estompent. Les différents partis pourraient finir par converger vers les mêmes recommandations produites par les mêmes modèles. Le débat ne porterait plus sur la direction à prendre, mais uniquement sur la manière de mettre en œuvre ce qui apparaît comme la solution optimale.

Dans un tel scénario, nous conserverions probablement l'illusion de décider. Nous continuerions à appuyer sur le bouton final, mais uniquement parce que nous aurions besoin de croire que nous gardons le contrôle.

À partir d'un certain niveau d'intelligence, il n'est même plus nécessaire d'imaginer une IA manipulatrice. Si ses recommandations deviennent systématiquement meilleures que les nôtres, nous finirons naturellement par les suivre. Non pas parce qu'elle nous aura convaincus, mais parce qu'il deviendra irrationnel de s'y opposer. Nous garderons peut-être le dernier mot, mais seulement en théorie.
‍

On pourrait imaginer que la solution consiste à maintenir l'humain au centre des décisions afin de transmettre progressivement nos valeurs aux modèles. L'IA apprendrait alors non seulement ce qui est efficace, mais également ce que nous considérons comme juste.

Cette approche semble pertinente... jusqu'à ce qu'on réalise que ces technologies finiront inévitablement entre les mains d'acteurs qui ne partageront pas les mêmes valeurs. Nous pourrions alors assister non plus à une confrontation entre nations, mais à une confrontation entre algorithmes : certains optimisés pour respecter des contraintes morales fortes, d'autres uniquement pour maximiser leur efficacité. Si ces derniers obtenaient un avantage stratégique décisif, les premiers pourraient paradoxalement être pénalisés par les limites qu'ils se sont eux-mêmes imposées.

Partant du postulat que le développement de l'intelligence artificielle ne peut plus être arrêté, la véritable course ne sera peut-être pas celle de la puissance de calcul, mais celle de la donnée. Plus une intelligence artificielle disposera d'informations variées, précises et contextualisées, moins elle risquera de produire des conclusions simplistes, biaisées ou incomplètes. L'enjeu ne sera pas seulement de construire les modèles les plus puissants, mais ceux qui comprendront le monde avec le plus de finesse.
‍

Reste alors une dernière question, sans doute la plus fondamentale.
‍

Si nous construisons un jour une intelligence capable d'optimiser presque toutes les décisions humaines, rien ne garantit que l'efficacité conduise naturellement vers le bien. Au contraire, l'Histoire nous montre que l'efficacité, lorsqu'elle est détachée de toute valeur, peut produire le pire.

Nous pouvons évidemment chercher à transmettre nos principes moraux aux modèles que nous concevons. Mais si ces systèmes deviennent un jour largement supérieurs à nous, il est difficile d'imaginer que nos règles suffiront à les contraindre durablement.
‍

Il ne nous resterait alors qu'une seule espérance : que le monde lui-même possède une forme d'ordre plus profond. Que les lois qui gouvernent l'univers ne soient pas seulement physiques ou mathématiques, mais qu'elles dessinent également une direction. Que l'efficacité parfaite, lorsqu'elle dispose d'une compréhension absolument complète de la réalité, converge naturellement vers le bien.

Certains y verront le fruit du hasard. D'autres parleront de sélection naturelle, d'équilibres émergents ou de théorie des systèmes. D'autres encore y reconnaîtront la signature d'un dessein plus grand.
‍

Si cette intuition est juste, alors la question n'est plus seulement de savoir si nous serons capables de créer une intelligence supérieure. Elle devient de savoir si l'univers a été conçu de telle sorte qu'une intelligence parfaitement rationnelle finisse, par sa seule compréhension du réel, par choisir le bien.

Car si tel est le cas, l'intelligence artificielle ne serait pas en train d'inventer un nouvel ordre. Elle ne ferait que révéler celui qui existait depuis le commencement.