Nous sommes en 2066 lors d’une soirée d’élection lorsque les résultats tombent. C’est un moment historique ! Pour la première fois dans l’histoire de l’humanité, une intelligence artificielle est élue à la plus haute fonction d’un état. Et ce de façon démocratique en obtenant la majorité des votes. Il est difficile de savoir quelle forme prendra le gouvernement dirigé par le système Multivac 42, mais c’est d’ores et déjà une décision polémique qui engendre de nombreux incidents à travers le pays. Cependant, une chose est sûre, ce n’est pas un événement anecdotique. D’autres pays suivront. L’ère où les humains se gouvernent eux même arrive à sa fin…

Alors bien sûr, tout ça, ce n’est qu’une histoire tout droit sortie d’un type qui a tendance a aimer un peu trop la science fiction et est fasciné par l’idée de machines intelligentes.

Mais je pense que la question de savoir si nous allons un jour élire une IA président est légitime. L’idée peut paraître ridicule et le niveau actuel de l’intelligence artificielle est loin de permettre à une machine de siéger à l’Élysée. Mais envisager une IA politicien n’est que la culmination d’une tendance en cours. Des millions de personnes confient déjà leur vie à l’intelligence artificielle. Les avions de ligne commerciaux volent depuis longtemps eux-mêmes et ont tendance à s’écraser le plus souvent lorsque les pilotes passent en commande manuelle. Il y a des millions de robots construisant des voitures, des trains et des ordinateurs. Presque tous les aspects de notre vie sont numériques et optimisés par une IA d’une manière ou d’une autre, de nos comptes bancaires à nos divertissements. Dans une décennie, des dizaines de milliers de personnes confieront leur trajet quotidien – et leur sécurité – à un algorithme qui conduira leur voiture, et ils le feront avec plaisir. Pourquoi ? Parce que cela rendra leur vie meilleure. Au lieu de rester assis à ne rien faire dans la circulation, ils pourront regarder un film ou bosser. L’augmentation de la productivité et du bien-être sera conséquent. En même temps, cela éliminera des dizaines de milliers de morts sur la route chaque année. Car les humains conduisent mal.

Et parmi tous les autres trucs que l’on fait mal, il y a la gouvernance. Nous votons basé sur l’affect et les émotions qu’un candidat arrive à générer, car il a une forte personnalité et s’exprime bien, pas à cause de ses positions politiques. Nous élisons des politiciens, car ils font partie de notre groupe idéologique et nous n’écoutons même pas les arguments des autres. Nous voulons que nos politiciens incarnent nos idéaux les plus élevés. Ils ne le font généralement pas. Après tout, les humains sont enclins à prendre des décisions basées sur l’ego, la colère et le besoin de privilégier leur image et la carrière, pas le bien commun. Les politiciens peuvent également être corrompus, sous l’influence de l’argent ou de lobbys. Ajouté à tout ça, les chefs d’État de l’ère moderne sont désormais submergés par un flux croissant d’informations, mais notre cerveau est toujours le même que celui de nos ancêtres de la savane africaine. Nous ne sommes tout simplement pas conçus pour l’ère numérique. La plupart d’entre nous ne pouvons pas gérer nos boîtes emails, alors prendre des décisions basées sur les données provenant des agences gouvernementales, des ministères, de l’économie et de l’armée… Les systèmes d’aujourd’hui dopés au machine learning peuvent ingérer d’énormes quantités d’informations et apprendre de leurs erreurs, deux qualités qui font cruellement défaut aux politiciens.

Une voiture autonome peut saisir 360 degrés d’informations simultanément, voir plus loin et réagir plus rapidement que n’importe quel humain. Un président IA pourrait-il faire de même au niveau de la gestion d’un État ? S’il y a bien un truc qui ressort du développement en intelligence artificielle, c’est que lorsqu’une machine arrive à accomplir une tâche aussi bien qu’un humain, elle le surpasse très rapidement, et pour toujours. Nous ne sommes déjà plus les meilleurs aux échecs, au jeu de Go, à des centaines de jeux vidéo, à la reconnaissance d’image, à diagnostiquer des mélanomes sur des radios. Et toutes ses tâches ont été à un moment donné qualifiées d’impossibles à accomplir par un ordinateur. Donc dire qu’une IA ne pourra jamais avoir les qualités pour gouverner un état me semble douteux.

Nous sommes également de plus en plus habitués à l’idée que nos outils et services numériques en savent plus sur nous que nous n’en savons parfois sur nous-mêmes. Que ce soit dans les recommandations de bouquins, films ou lorsque les messageries filtrent nos messages et nous suggère des réponses. Un président algorithmique pourrait être en mesure de suggérer des lois qui collent parfaitement avec ce que l’on désire, car basé sur toutes nos empreintes numériques.

Une IA président pourrait être formé pour maximiser le bonheur de la plupart des gens sans empiéter sur les libertés civiles. Mais ça, c’est mon côté idéaliste qui parle. Mais au final, je penche toujours sur l’idée qu’on n’a pas à chercher la perfection. Il suffit juste de passer le seuil où une IA est meilleure que nous en moyenne. Si on cherche la perfection avec les voitures autonomes, on ne les verra jamais sur la route. Car elles finiront toujours par causer quelques accidents mortels inévitables. Mais si elles sont plus sûres que les humains à 95%, je signe tout de suite. Ceci dit, la métrique pour mesurer le succès d’une IA président est compliquée à définir. Certains diront que c’est l’augmentation de la croissance économique, d’autres la baisse des inégalités sociales, la baisse de la pauvreté, un meilleur système de santé, et j’en passe.

Quant à la forme de cette IA chef d’État, plusieurs façons d’imaginer la chose. Je pense qu’on peut mettre tout de suite de côté l’idée d’un robot humanoïde aux traits charmeur qui se balade parmi les foules durant sa campagne. Il est plus probable que ce soit un super ordinateur de type Summit qui prend en compte de grandes quantités de données et simule les résultats possibles d’une politique particulière. Il pourrait prévoir des conséquences qui échapperaient à l’esprit humain et évaluer les options de manière plus fiable que n’importe qui – sans biais individuels entrant en jeu. Un peu à l’image de Multivac dans certains romans d’Isaac Asimov. Ou encore les IA super-avancées de la série Culture d’Iain Banks qui déterminent la meilleure façon d’organiser la société et de distribuer les ressources.

Cette IA président pourrait être également bien plus personnelle. En accédant à une appli ou un site, nous pourrions entrer directement en contact avec, et partager nos inquiétudes, espoirs et faire valoir nos choix lors d’élections. Tout comme dans le film “Her”, elle pourrait discuter avec tous les citoyens simultanément, 24h/24. Chose tout simplement impossible pour un humain. En théorie, ce serait un moyen bien plus efficace pour représenter directement la population. Ensuite, on pourrait imaginer que ce président puisse apparaître sous forme humaine dans les médias en générant une personne photoréaliste. Et donc avoir un côté plus amical que de simplement se dire qu’on est dirigé par un super ordinateur dans le sous-sol de l’Élysée. Une faculté de plus en plus maîtrisée aujourd’hui en utilisant les GAN (generative adversarial network).

Ensuite, si on se place dans un futur post-super intelligence, alors il n’y a pas grand-chose qui ressemblera à notre monde actuel et on se trouve dans une sorte d’horizon des événements absolument imprévisible. Du coup je préfère éviter de prédire à quoi pourrait ressembler la gouvernance d’une super IA. Je botte en touche comme dirait l’autre.

Alors en tant que techno-optimiste, c’est bien beau de dresser les avantages d’une IA président, mais il ne faut pas négliger les problèmes. Même si en théorie, un ordinateur est moins sujet aux biais cognitifs, en réalité les IA sont aussi bonnes que les données qu’elles ont ingérées. Si un système est alimenté par des informations dominées par un groupe ethnique, elle risque de produire des résultats racistes. Ce qu’on appelle des biais algorithmiques. Ensuite, on peut se poser des questions sur comment et qui a mis au point l’IA en charge du gouvernement. Est-ce qu’ils ont conçu un système partisan qui va privilégier les positions d’un parti politique ? Est ce qu’on verra des élections entre une IA de gauche contre une IA de droite. Une autre inquiétude de taille, c’est la possibilité d’être piraté. L’IA président doit être extrêmement robuste, et comment pourront nous être sur qu’elle ne sera pas sous l’influence d’une puissance étrangère l’ayant pirater. De nombreux systèmes décisionnels sont comme des boîtes noires, c’est-à-dire qu’on ne peut pas savoir pourquoi une décision a été privilégiée plutôt qu’une autre. Si votre banque décide d’utiliser des algorithmes pour décider qui peut recevoir un prêt bancaire, vous aurez beau réclamer pourquoi vous avez été refusé, le banquier vous répondra :”C’est ce que les algorithmes ont décidé et on ne sait pas ce qu’il se passe sous le capot”. Ceci dit, ce sont des problèmes connus qui sont pris en compte autant que faire se peut pour éviter des conséquences négatives. Et enfin, le plus gros problème selon moi, et surtout celui que j’ai le plus de mal à voir comment le résoudre, c’est le problème de l’alignement des valeurs. Une IA doit se conformer aux valeurs humaines si l’on veut éviter des conséquences catastrophiques. Car si ses objectifs divergent de notre bien commun, on se retrouvera comme des fourmis devant des développeurs immobiliers. Généralement, ils ne demandent pas l’autorisation aux fourmis avant de poser une dalle de béton. Le problème c’est qu’il n’est pas possible de coder les valeurs humaines. Elles sont dynamiques, évolutives et multiculturelles.

On passe beaucoup de temps à imaginer des futurs dystopiques qui impliquent l’intelligence artificielle. Dans Terminator, Skynet devient diabolique et essaie d’anéantir l’humanité. Dans Matrix, les machines nous transforment en batteries, et dans 2001: l’odyssée de l’espace, Hal 9000 privilégie la mission au dépens des vies humaines. Il y a clairement des risques, mais il est important de ne pas perdre de vue les avantages qu’une gouvernance IA pourrait conférer. Le but de l’IA est de nous libérer de ce que nous ne faisons pas bien, comme conduire, établir des diagnostics médicaux et gouverner. Il est tout à fait possible que l’IA mène à une nouvelle ère de prospérité humaine. Bon, ça pourrait aussi conduire à l’extinction de l’humanité … mais bon.

En tous cas, ce ne sera pas pour demain. Il est plus probable que les dirigeants se tournent vers les IA pour les aider à analyser des situations complexes et à élaborer des scénarios. Petit à petit, ça deviendra évident que les IA peuvent gérer de plus en plus les décisions difficiles. Un ordinateur capable de parcourir toutes les décisions qu’un président doit prendre – non pas pour faire les choix finaux lui-même, mais pour aider à guider le chef d’État, sera bénéfique. Un partenariat homme-machine qui produit de meilleurs résultats que l’un ou l’autre. Et puis il pourrait bien arriver un moment où l’intelligence des machines surpasse la nôtre de plusieurs ordres de grandeur et nous nous rendrons compte qu’il vaut mieux les laisser nous diriger.

Ceci dit, je pense qu’il faudra éviter de lui donner accès au code nucléaire durant la 1ere semaine à l’Élysée. Juste au cas où …

Référence : 

https://www.wired.com/2017/05/hear-lets-elect-ai-president/

https://www.politico.com/magazine/story/2017/07/08/robot-president-215342