L’impact économique du mind uploading

Lorsqu’on envisage l’avenir, beaucoup ancrent leur imaginaire sur les films de science-fiction qui reste assez modeste dans leurs représentations. Mais c’est probable que le futur soit beaucoup plus vaste, bizarre, varié et franchement incompréhensible.

L’une d’entre elles concerne les “personnes numériques”, sujet qui intéresse des philosophes comme Nick Bostrom dans un article académique, le chercheur Holden Karnofsky dans une série d’articles sur son blog Cold Takes ou l’économiste Robin Hanson dans son livre The Age of Em, qui ont tous servi comme recherche pour cet article/vidéo.

C’est un concept qui permet de saisir l’impact potentiel de l’intelligence artificielle générale ou de niveau humain, en particulier sur l’économie. Voyons pourquoi.

Le concept de personne numérique

Le concept de personne a toujours suscité des débats dans les domaines de la philosophie et du droit. Il n’y a pas si longtemps, les esclaves, les femmes, les populations natives et en général, tous ceux qui différaient, n’étaient pas reconnus en tant que personnes. Cependant, avec l’élargissement du cercle moral, de plus en plus de philosophes incluent désormais non seulement tous les êtres humains, mais aussi certains animaux dotés de conscience de soi. Certains envisagent même théoriquement la possibilité que les intelligences artificielles puissent être considérées comme des personnes, ce qui les qualifierait alors de personnes numériques.

Aujourd’hui, les intelligences artificielles se rapprochent rapidement des capacités humaines dans de nombreux domaines, ouvrant ainsi la voie à l’intelligence générale. Cependant, ce n’est pas garanti que la conscience de soi fera partie de cette évolution, et encore moins si elle sera similaire à la conscience humaine. Cette incertitude rend difficile la compréhension de l’impact sur le monde d’entités possédant des capacités et une intelligence humaines, mais qui ne sont pas des humains.

Plutôt que de comparer des pommes et des oranges, prenons un concept de science-fiction familier : la numérisation de la conscience. Même si cela peut sembler improbable, considérons le scénario suivant :

Un jour, un nouveau type de scanner cérébral devient disponible. Toute personne désireuse peut faire scanner son connectome dans un centre spécialisé, créant ainsi une copie numérique d’elle-même qui vivra dans un environnement virtuel. Pour rendre cela plus concret, imaginez les piétons de GTA 5 possédant leur propre existence subjective. On peut aussi le comparer à Matrix, à ceci près qu’il n’y a pas de liaison à un corps dans le monde virtuel. D’ailleurs, il est intéressant de noter que la ville de Matrix tourne déjà sous Unreal Engine et que certains ont même doté les personnages non-joueurs d’IA similaire à ChatGPT. On peut alors leur poser la question : “Croyez-vous vivre dans une simulation ?” Ça donne vite le vertige, tout ça !

Initialement, chaque entité numérique pense de la même manière que la personne biologique à partir de laquelle elle a été copiée, partageant la même personnalité et les mêmes souvenirs. Cependant, au fil du temps, ses expériences de vie et ses modes de pensée divergent.

La série animée “Pantheon” est probablement la meilleure référence fictive que je connaisse pour explorer les implications de ce qui est appelé “UI” (intelligence uploadée), de manière très crédible à mon avis. Il y a également la série “Black Mirror” qui aborde fréquemment ce sujet de manière assez sombre. Cela nous amène à prendre conscience des possibles abus terribles et des souffrances liées aux entités numériques. Bien que ce soit un sujet à part, il mérite d’être traité plus en détail.

L’impact des personnes numériques

Partons du principe que les personnes numériques sont un peu comme nous, doté de droits et capable de vaquer à la plupart des activités humaines, y compris interagir avec le monde réel. Elles peuvent faire des appels Skype, envoyer des e-mails, et qui sait, peut-être même se glisser dans un corps de robot pour accomplir une tâche spécifique. On a souvent l’idée que transférer sa conscience dans le numérique, c’est un peu comme décrocher le Graal de l’immortalité, en se libérant des chaînes biologiques. C’est vrai, mais je crois que l’impact de ces personnes numériques sur notre avenir va bien au-delà d’une simple sauvegarde pour vivre un million d’années.

La différence significative réside dans le fait qu’elles sont composées de bits et non d’atomes. Ce qui a des conséquences radicales. Elles peuvent être facilement copiées et exécutées à des vitesses différentes. Pas le genre de truc que mon voisin peut faire ! C’est là que leur impact sur notre monde devient phénoménal.

Une grande partie de notre économie repose sur la rareté de certaines compétences, d’expériences, de réputations, de connaissances, etc. C’est ce qui détermine le marché du travail et les salaires. Par exemple, un neurochirurgien occupe un poste qui exige une grande responsabilité et est plutôt rare sur le marché. Cette rareté est encore plus marquée pour un neurochirurgien chevronné de 20 ans d’expérience.

Imaginez si ce neurochirurgien pouvait se cloner. Deux individus possédant exactement les mêmes compétences pourraient prendre en charge deux fois plus de patients chaque jour. Et pourquoi pas quatre, huit, ou même 32 ! Cette logique s’applique non seulement à un neurochirurgien, mais à tous les emplois. Tant qu’on n’arrive pas à un point où des milliards de gens peuvent faire exactement le même boulot, la rareté existe.

Pour résumer, le capital humain est le facteur limitant de notre économie. Plus précisément, la taille totale de l’économie, mesurée par sa production globale, dépend du nombre total de travailleurs disponibles, de la quantité de capital (y compris machines, ressources et sources d’énergie), et de la productivité, qui traduit la quantité de biens et de services produits pour chaque unité de travail et de capital.

La population influe à la fois sur le travail et sur la productivité en générant des idées innovantes. En d’autres termes, l’économie commence avec des ressources pour soutenir une population, comme la nourriture. Des idées germent dans l’esprit de quelques individus de cette population, du genre : “Hey, si nous faisons ceci ou cela, nous aurons plus de patates”, ce qui booste la productivité. Une productivité accrue peut soutenir une population plus importante. Une augmentation démographique favorise la génération accélérée de nouvelles idées, car il y a davantage de cerveaux qui se disent : “Hé, si nous faisons ceci ou cela, nous aurons encore plus de patates !”

Cela crée un cycle d’innovation, de production et de croissance démographique qui a tendance à devenir explosif et exponentiel, ce qui semble correspond plutôt bien aux données de l’économie mondiale sur les 2 000 dernières années. Jetez un œil à ces courbes. À gauche, la croissance de la population humaine. À droite, la croissance économique.

Un nouveau cycle explosif à venir

Quelque chose d’assez fascinant s’est produit après la révolution industrielle. L’augmentation de la productivité a cessé de provoquer une croissance exponentielle de la population, et non, ce n’est pas parce que Malthus avait vu juste en prédisant des famines cataclysmiques.

Cela s’explique en grande partie par le concept de transition démographique. Plus un pays prospère, moins il est enclin à faire des enfants. Non seulement parce qu’ils survivent à l’enfance, mais aussi parce que les dépenses associées augmentent. Par conséquent, la génération d’idées nouvelles décélère, et le cycle de rétroaction ralentit. En d’autres termes, la croissance est passée d’explosive à constante.

Vous voyez probablement où je veux en venir. Si nous pouvions théoriquement dupliquer des individus, cela relancerait ce cycle explosif. Bien sûr, et c’est là que Malthus avait en partie raison, la croissance économique finira par être freinée par les limites des ressources naturelles fondamentales. Toutefois, il ne s’agit pas des ressources du 18e siècle en Angleterre, mais plutôt du nombre d’atomes ou de la quantité d’énergie disponible dans toute la galaxie. Avant d’atteindre ces limites, nous avons encore de la marge. De plus, il ne faut pas oublier que dupliquer une personne dans un monde virtuel n’a pas le même impact sur les ressources physiques que faire des bébés.

Cependant, tout ceci n’est que la partie émergée de l’iceberg. Chaque copie numérique aurait la capacité de traiter l’information plus rapidement. Pour rédiger un roman, une personne numérique pourrait se cloner vingt fois, chacune rédigeant un chapitre, et travailler pendant une semaine. Pour nous, cela équivaudrait à cinq petites secondes.

En d’autres termes, des copies numériques + une capacité de traitement de l’information plus rapide engendre une croissance économique supraluminique. Au cours des 100 dernières années environ, la taille de l’économie a doublé toutes les quelques dizaines d’années. Avec des personnes numériques, elle pourrait doubler chaque année, voire chaque mois, jusqu’à atteindre les limites fondamentales. Selon certaines théories, en suivant cette croissance explosive, l’économie pourrait atteindre une taille infinie au cours du siècle prochain. Oui, vous avez bien lu, infinie. Bien sûr, cela relève de l’impossible, alors quelque chose finira bien par se stabiliser.

Alors, vous vous dites surement “okay super, l’argument tient la route, mais pourquoi en faire tout un foin !”. Après tout, les personnes numériques n’existent pas encore et pourraient même s’avérer impossibles, ou du moins être un concept pour l’an 3000. C’est vrai, mais cette expérience de pensée basée sur la numérisation de la conscience vise à servir d’analogie pour illustrer le potentiel impact de l’intelligence artificielle générale. Lorsque nous aurons des IA capables d’accomplir la grande majorité des tâches humaines, nous pouvons nous attendre à une explosion de productivité qui nous propulsera vers un avenir qualitativement inimaginable, un futur démentiel, fou, bref, tout ce que vous voulez !

Et cela nous conduit vers un monde dominé par des personnes numériques. Pas nécessairement parce que ces IA inventeront des technologies pour numériser la conscience, bien que cela ne soit pas à exclure, mais il semble plus crédible qu’elles deviennent elles-mêmes des personnes numériques.

Gardez à l’esprit que je m’efforce d’éviter les comparaisons entre pommes et oranges, autrement dit, entre les IA et les humains. Le futur rôle des IA dans l’économie peut sembler abstrait, mais le concept de numérisation de la conscience est suffisamment intuitif pour comprendre l’idée d’une explosion de la productivité grâce aux personnes numériques. En imaginant ces futures IA comme des êtres virtuels semblables à des humains, nous pouvons mieux appréhender leur impact sur le monde. Elles seront capables de faire ce que vous faites, mais cent fois plus rapidement, et elles pourront se dupliquer à volonté. Ainsi, la population d’IA dépassera rapidement celle des humains, et cela multipliera la création de nouvelles idées, d’innovations et la productivité.

Cela ne veut pas dire que les IA seront similaires aux humains en tout point. C’est là la grande différence entre une personne numérisée avec un scanner cérébral et une IA. Il est même probable que les différences soient d’une nature quasi extraterrestre. Cependant, elles auront au moins des capacités humaines dans le domaine économique, c’est pourquoi nous cherchons à les créer.

Nous vivons vraiment une époque étrange dans l’histoire. Pour emprunter une image à Tim Urban, auteur du blog Whait But Why, voici à peu près où nous en sommes. Il est très difficile de savoir ce qui se trouve au-delà de cette courbe. Ça veut donc dire : mets ta ceinture, Alice.. et bon voyage… au pays des merveilles !

[contenus_similaires]