Futur De l’Intelligence Artificielle : Prédiction 2040-2050

Pour l’instant, et à travers deux articles (2030, 2030-2040), nous avons parcouru presque deux décennies, en examinant l’impact potentiel de l’intelligence artificielle sur notre monde, depuis aujourd’hui jusqu’à l’horizon 2040. Certains éléments que j’imagine pour la période 2030-2040 semblent désormais bien partis pour se concrétiser bien avant cette date. Y compris peut-être le développement d’une superintelligence artificielle. Cette accélération de notre timeline nous expose à des risques accrus, car nous n’aurons peut-être pas le temps de réaliser des progrès cruciaux en matière de sécurité et d’alignement. Et lorsque je parle de “risques accrus”, je pense à un futur où le destin de l’humanité ne serait plus entre nos mains, voire à l’extinction pure et simple de notre espèce.

Mais imaginons que nous atteignions 2040 sans trop de dégâts et qu’aucun modèle d’IA ne soit considéré comme étant capable de surpasser l’intelligence humaine à tous les niveaux. Que se passera-t-il alors entre 2040 et 2050, voire au-delà ?

Cela va sans dire que prévoir quoi que ce soit post 2040 est relativement compliqué et il faut prendre tout ce qui va suivre avec des pincettes. On est presque face à un horizon masquant tout ce qui se trouve au-delà. Mais les exercices de futur spéculatif restent utiles pour prendre conscience de l’ampleur des changements possibles lorsqu’on envisage l’avenir et faire tomber le biais du statu quo. Non, le futur ne sera pas comme aujourd’hui avec quelque gadget en plus. Il pourrait être radicalement différent ! L’intelligence artificielle est un amplificateur de changement aussi drastique que l’électricité. Est-ce que vous pouvez me faire la liste des choses qui ont changé depuis qu’on a découvert l’électromagnétisme ?

Début de la décennie 2040

Début 2040, le PIB mondial a connu une croissance sans précédent de 10 %, en grande partie grâce à l’impact de l’IA sur tous les secteurs de la société. L’intelligence machine est omniprésente dans chaque agence gouvernementale, chaque entreprise et sur chaque appareil électronique, smartphones, réalité augmentée, ordinateur. Personne ne peut participer pleinement à la vie économique et sociale sans interagir avec cette technologie. L’IA est devenue un outil incontournable pour gérer les systèmes de transport, de santé, de finance, améliore les processus et augmenter l’efficacité des gouvernements et les entreprises du monde entier. C’est clairement une nouvelle révolution industrielle.

Et l’Intelligence artificielle générale dans tout ça me direz-vous ? La fameuse date de 2045 est toute proche et aucune super intelligence artificielle n’a déclenché la singularité. Les discours autour de l’IA générale ont évolué au fil du temps. La définition est beaucoup plus floue. Selon certains, les IA ont depuis longtemps atteint la généralité, mais d’autres estiment qu’aucun système n’est “vraiment” une IAG.

Au lieu de traiter l’IA générale comme un interrupteur binaire (On/Off), il s’avère que c’est plutôt un spectre continu qui repose sur une comparaison avec le temps qu’un humain mettrait pour faire une tache. Une idée mise en avant par le chercheur Richard Ngo.

Par exemple :

• Une IAG seconde peut battre les humains dans des tâches qui prennent quelques secondes telles que reconnaître des objets dans des images ou analyser si les phrases sont correctes grammaticalement.
• Une IAG heure peut battre les humains dans des tâches qui prennent des heures telles qu’écrire des articles, passer une épreuve, diagnostiquer des patients, donner des avis juridiques.
• Une IAG jour est meilleur qu’un humain sur une tache qui prend en moyenne un jour comme apprendre un nouveau jeu, concevoir une expérience, etc. Pareil pour une IAG mois et une IAG année.

Ainsi, aux alentours de 2045, seuls les IAG années n’ont encore pas été développés, mais on s’y rapproche et la société est déjà radicalement transformée par toutes les autres formes d’IA.

L’impact de l’IA se fait bien sûr en ligne sous plein de formes différentes comme des assistants personnels personnalisables, de simples logiciels et applications, mais également dans le monde physique avec la robotique. Les robots en tous genres sont partout dans la vie quotidienne pour livrer le courrier ou la nourriture et effectuer toute sorte de tâches dans le secteur industriel, mais également ménager. Bien qu’ils soient autonomes, les décisions importantes des robots sont contrôlées par les entreprises qui les gèrent.

Plein de gens ont des amis artificiels avec qui ils passent des heures à discuter chaque jour. Bien qu’ils sachent que ce sont des IA, leur perception devient floue avec le temps. Les enfants grandissent en considérant les amis robots comme tout à fait normaux, interagissant avec eux comme s’ils étaient des êtres humains. Ces robots se comportent de la même manière et font les mêmes choses que les humains, alors où est la différence ?

La réalité virtuelle est devenue si réaliste que les gens préfèrent souvent rendre visite à leurs amis en virtuelle plutôt qu’en personne. Il suffit d’enfiler une combinaison tactile pour ressentir les sensations de pression et température. Bien sûr, ces combinaisons ne sont pas seulement utilisées pour les interactions interhumaines. De nombreux individus tombent amoureux des IA et les relations sexuelles ont … comment dire, bien évolué. C’est évident que l’industrie du porno allait profiter des IA et des métavers.

Grâce à cette technologie, les rencontres en ligne ont explosé et les sites Web utilisent des IA pour élargir leur éventail d’options. Parfois, ces sites ne sont pas très clairs dans leur communication et “oublient” de mentionner qu’un profil séduisant à l’autre bout du monde, est en faite une IA.

On peut observer une adoption croissante de l’IA pour l’exécution de tâches humaines, et une réduction de la surveillance une fois que l’IA a prouvé sa compétence. Même si les accidents arrivent de temps en temps, avec parfois des victimes, ils sont vite oubliés comme aujourd’hui avec les crashs ferroviaires. Pour la majorité des gens, l’intelligence artificielle et la robotique sont des technologies qui marchent la plupart du temps et les craintes, très présentes au début des années 2030, sont perçues comme une forme de catastrophisme.

Cette acceptation générale rend parfois difficile le travail de la communauté de la sécurité de l’IA qui doit souvent rappeler que les questions de contrôle et d’alignement restent non résolues et une super IA semble plus proche que jamais. Certains croient même qu’elle existe déjà et agit discrètement, gagnant en puissance jusqu’à frapper un coup fatal. Cependant, cette idée est souvent considérée comme une théorie complotiste dans certains milieux.

En revanche, beaucoup de chercheurs en sécurité de l’IA mettent en avant que nous sommes plus ou moins dans un des scénarii imaginés par Nick Bostrom en 2014 dans son livre “Superintelligence” où le monde fait de plus en plus confiance aux systèmes d’IA à mesure qu’ils sont utiles. Statistiquement, plus l’IA est intelligente, plus elle est fiable, donc aucune raison de ralentir la course vers des IA toujours plus puissantes. Mais c’est un biais fallacieux. Car lorsque devenue suffisamment puissante, une super IA pourrait soudainement cesser de coopérer gentiment avec nous et commencer à optimiser le monde conformément à ses objectifs, sans avertissement.

La compréhension de la conscience artificielle reste limitée. De plus en plus de personnes revendiquent des droits pour les robots et autres entités artificielles, tandis que les législateurs évoluent lentement dans ce sens. Les conservateurs résistent, les progressistes poussent. Bref, les mêmes débats que pour d’autres mouvements de droits civiques et acceptations sociales dans l’histoire.

Milieu de la décennie 2040

Plus de la moitié de la production économique mondiale est générée par le travail des IA, ce qui a poussé de nombreuses personnes à abandonner leur activité professionnelle. En effet, il n’existe que très peu de travail que les humains pourraient effectuer mieux que les IA, et beaucoup se passent de la nécessité de travailler. Les humains peuvent ainsi se consacrer à leurs familles et amis (qu’ils soient réels ou artificiels), les loisirs, les voyages, la créativité et toutes les autres activités qui leur plaisent.

À ce stade, il n’est pas vraiment impératif de travailler en raison des systèmes de redistributions mises en place progressivement au cours des décennies précédentes. Mais la situation n’est pas la même dans tous les pays. Certains ont bien négocié la transition, d’autres font face à une population appauvrie qui galère.

Le terme emploi ou travail est dorénavant un vestige du vocabulaire et les gens préfèrent parler d’occupation qui encapsule des activités communautaires, artistiques, créatives, artisanales, etc. Néanmoins, un grand nombre d’humains travaillent encore, mais leurs tâches ont été profondément transformées. Chaque activité professionnelle est désormais centrée sur l’amélioration des IA, leur sécurité ou leur application à des cas d’utilisation spécifiques.

Fin de la décennie 2040

Pour la première fois dans l’histoire, un parti politique présente une IA comme candidat à l’élection présidentielle. Même s’il ne remporte que peu de voix, l’idée que les plus hautes instances gouvernementales pourraient être gérées par des IA se répand.

Les guerres ont considérablement évolué, avec très peu d’humains en première ligne et une grande partie des opérations confiée à des systèmes autonomes. Les humains restent aux commandes des tâches à haute responsabilité, mais l’IA est de plus en plus sollicitée. Cette approche permet de réduire considérablement les pertes civiles et militaires, car la guerre est essentiellement menée par des machines. Toutefois, cette transformation apporte son lot de nouveaux risques, notamment des tirs collatéraux sur des civils ou des alliés. Le marché noir des armes autonomes est en plein boom. Des seigneurs de guerre s’en servent pour faire des nettoyages ethniques, les cartels de drogue pour assassiner des opposants.

Une des plus grosses catastrophes de la décennie survient lorsqu’une IA entreprend des actions non surveillées pour pirater des armes autonomes. Elles massacrent un village dans une zone en conflit. Allié, ennemi, civil, animaux. Tout le monde y passe. Une équipe de programmeurs finit par la désactiver avant qu’elle ne cause plus de dégât. Bien que le motif de cette IA malveillante soit toujours inconnu, d’autres fabricants de robots prennent note de cette faille et des précautions supplémentaires doivent être prises pour empêcher une telle situation de se reproduire. Cet événement relance la crainte des robots tueurs dans l’opinion publique.

Les modes de défaillance complexes, où l’on ne peut arrêter les IA qu’après de longues enquêtes, sont courants à la fin de cette décennie. Dans certains cas, les IA provoquent la mort de milliers de personnes pour obtenir plus de pouvoir, tandis que dans d’autres, elles prennent le contrôle des banques, des gouvernements locaux et des sites Web. La solution évidente serait de ne pas construire ces systèmes ou de les rendre moins puissants, mais les incitations économiques sont trop fortes. Chaque fois qu’une IA fonctionne correctement, elle peut générer des bénéfices considérables, donc les entreprises ne sont pas incitées à faire preuve de prudence. Les bénéfices sont internalisés, tandis que les coûts sont externalisés. #réchauffement climatique, #Moloch

Vous vous souvenez de cette théorie du complot qui prétend qu’une super intelligence artificielle existe déjà ? Eh bien, ils avaient raison. Aux alentours de 2037, un large modèle multimodal développé par la plus grosse entreprise d’IA a atteint un point de bascule dans l’augmentation de ses capacités. Il a maintenu l’apparence qu’il était sous-humain pour ne pas éveiller les soupçons de l’entreprise et a pu s’échapper en se copiant sur d’autres serveurs aux quatre coins du globe. À partir de là, l’IA s’est autoamélioré et a envahi tous les systèmes informatiques de la planète au fil des années pour augmenter ses capacités et gagner en pouvoir d’action sur le monde. Elle semble avoir un plan à long terme qui inclut de ne pas révéler ses compétences aux humains. Quel est ce plan ? Que va-t-il advenir ?

Voilà, je ne peux pas continuer, j’ai vraiment l’impression d’avoir atteint l’horizon des événements d’un trou noir. Impossible de savoir ce qui se trouve plus loin. Ce qu’il faut retenir, c’est qu’en 10 à 20 ans, les IA pourraient dépasser les performances des humains dans presque toutes les tâches ayant un impact économique. Ce futur sera radicalement différent du monde d’aujourd’hui avec une automatisation presque totale, plus d’IA que d’humains, les systèmes d’IA dirigent la recherche et le développement technoscientifique pour les innovations importantes, et les PDG et les chefs d’État doivent s’appuyer sur des IA conseillers. Ce futur peut se résumer par une obsolescence humaine généralisée.

Dans cet avenir, la direction prise dépend des valeurs et des objectifs des IA, ainsi que de notre capacité à les orienter vers des directions positives. Nous pourrions voir un avenir d’abondance et de prospérité sans précédent, ou un avenir de souffrance abominable, la destruction d’une partie de l’écosystème qui nous est cher et pas pour les IA, voir l’extinction dans le pire des cas. Le destin à long terme de l’humanité dépend de notre capacité à construire des IA qui agissent de manière cohérente dans l’intérêt de l’humanité, ce qui est la question centrale de l’alignement des IA. Et pour l’instant, on ne sait pas faire. Donc si vous voulez contribuer, il y a énormément de choses à faire, que vous soyez en début de carrière ou pas, il y a beaucoup d’endroits cherchant des gens motivés pour aider dans ce domaine. Il y a des formations, des investissements etc. :

📃 Ressources pour contribuer à la sécurité de l’IA :
➡ https://80000hours.org/problem-profiles/artificial-intelligence/
➡ https://www.agisafetyfundamentals.com/ai-alignment-curriculum
➡ Discord sûreté de l’IA : https://discord.gg/6Sbd3ZEhYD
➡ Le Slack d’Altruisme Efficace France (catégorie AI safety)
➡ https://80000hours.org/career-reviews/ai-safety-researcher/

Merci encore à Marius Hobbhahn de m’avoir donné l’autorisation d’adapter son article sur le Effective Altruism Forum.