Quand la superintelligence matérialisera l’utopie

La culture populaire est remplie de récit apocalyptique causé par l’intelligence artificielle. Faut dire que ça fait de bonnes histoires. Et même si la plupart des scénarios à la Terminator ne sont pas crédibles, la menace existentielle que pose une super intelligence artificielle est bien réelle pour de nombreuses raisons. Vous pouvez avoir un aperçu de ce qui pourrait mal tourner en regardant ces 2 petites fictions de notre série “Vision du futur”.

Mais cette abondance de scénario catastrophe dans la science-fiction engendre une sorte de biais cognitif vis-à-vis de la dystopie. Il semblerait que nous ayons du mal à envisager des futurs désirables. Mais pourquoi une utopie post-super intelligence? Est ce que l’on ne peut pas envisager des utopies ne possédant aucune super IA ? Et bien c’est juste une question de probabilité.

Qu’il soit bénéfique ou non, les futurs possibles contiendront très certainement des intelligences artificielles dépassant de loin l’intelligence humaine.

Que ce soit à la fin du siècle ou dans 1000 ans, l’émergence d’une super intelligence artificielle semble inévitable. Je ne vois que 3 raisons qui empêcheraient son avènement :

• Certaines lois de la physique qui nous reste à découvrir empêchent l’achèvement d’une super IA.
• L’humanité disparaît avant l’achèvement d’une super IA.
• L’humanité décide collectivement de ne pas poursuivre la recherche menant à l’achèvement d’une super IA.

Si vous voyez une autre raison, je serais curieux de le savoir, mais je dirais que ces 3 scénarios sont moins probables que l’émergence d’une supe IA.

Donc si tout se passe bien au fil des décennies et des siècles prochains, à quoi pourrait ressembler une utopie post-superintelligence ? C’est une question que le chercheur américain Luke Muehlhauser, ancien directeur au Machine Intelligence Research institute, tente d’envisager dans un chapitre de son livre “Facing the intelligence explosion”.

Alors le mot utopie est un peu trompeur, car il suppose que c’est un état imaginaire qu’une société pourrait atteindre. Il est presque synonyme avec inatteignable. Par exemple on entend dire qu’éliminer la pauvreté c’est utopique, car ça n’arrivera jamais. Ou ce genre d’affirmation. Mais je pense qu’éliminer la pauvreté c’est souhaitable. Je préfère donc associer utopie avec désirable. C’est l’idée de se donner un objectif collectif. Un idéal de société vers lequel tendre. En faisant cela, on se rend compte que l’utopie est plutôt un ensemble de caractéristiques désirables. Et une dystopie un ensemble de caractéristiques indésirables. Ainsi, une société peut très bien posséder certains de ces traits dès aujourd’hui. Est-ce qu’accéder à l’ensemble du savoir collectif de l’humanité n’est pas utopique pour un philosophe du 18e siècle? Est-ce que traverser la France en 4 heures n’est pas utopique pour un marchand au moyen âge?

L’humanité a toujours voulu plus que ce que l’univers nous donne. Nous voulons expérimenter des sons qui n’existent pas dans la nature, alors nous créons de la musique. Nous voulons goûter des choses plus délicieuses que ce qu’on trouve dans la nature, alors nous testons différentes cuisines. Nous voulons explorer des mondes au-delà de celui dans lequel nous évoluons, alors nous construisons des navires, des sous-marins, des voitures, des avions et des fusées. Nous inventons la littérature, le cinéma et l’art pour découvrir le monde sous un angle différent. En faite, cette volonté innée de rabattre le jeu de carte que la nature nous donne n’est pas nouveau. Des premiers outils, à l’agriculture en passant par l’écriture et les révolutions industrielles, nous sommes, et avons toujours été, en train de concevoir notre propre utopie. Que le résultat soit au rendez-vous ou pas, vous avez surement tous votre avis sur la question, mais avec une superintelligence, nous aurons l’occasion de le faire plus rapidement, mieux et plus profondément que jamais. Mais il est clair que des caractéristiques utopiques pour les uns sont dystopiques pour d’autres. Autrement dit, le concept d’utopie est subjectif. Ce qui veut dire que les différents éléments que je vais citer dans cet épisode seront surement considérés comme indésirables pour certains d’entre vous. Et c’est bon signe, car ça encourage la conversation.

Mettre le titre ici: A quoi pourrait ressembler une utopie post-superintelligence ?

Une économie d’abondance:

En 1959, le physicien Richard Feynman a donné une conférence intitulée «Plenty of Room at the Bottom» où il a expliqué que rien en physique ne nous interdit de construire des objets atome par atome. Des décennies plus tard, grâce au domaine des nanotechnologies nous sommes capables de construire certaines choses au niveau atomique, comme Feynman l’avait prédit, et nos capacités pour le faire grandissent chaque année. L’avenir de cette discipline s’appelle la nanotechnologie moléculaire et une super intelligence artificielle sera sans doute capable de multiplier nos capacités dans ce domaine par plusieurs ordres de grandeur. Si nous pouvons réorganiser les atomes dans la configuration que nous voulons (tant qu’ils obéissent à la loi physique), nous pouvons fabriquer des légumes sans avoir à les cultiver. On voit déjà aujourd’hui que l’on peut concevoir de la viande à partir de cellule, si on pousse un cran au-dessus, on arrive à de la nano-ingénierie. Nous pourrons fabriquer une voiture sans avoir besoin de grandes usines d’assemblage. Voir même de grande structure comme des ponts ou bâtiments. Quand on y réfléchit bien, qui aurait pu imaginer l’impression 3D il y a 2 siècles? Aujourd’hui on peut en avoir une pour quelques centaines d’euros. Est ce que c’est vraiment si farfelu d’envisager des imprimantes moléculaires? D’imprimer ses propres habits, ses objets quotidiens voire même sa nourriture, le tout dans le confort de son domicile?

Il est difficile d’imaginer à quoi pourrait ressembler l’économie dans un monde où il n’y a plus besoin de miner la terre pour acquérir une ressource. Ou fabriquer un bloc de diamant est tout aussi simple que de fabriquer un bloc de charbon. Les choses que nous considérons aujourd’hui comme des articles de luxe seraient, plus ou moins, accessibles à tous. En théorie, après il y a toujours les questions de volonté politique, de distribution des ressources, etc., mais en général plus il y a d’abondance, plus le nombre de personnes qui en profite est grand. Et plus les inégalités sont grandes aussi me direz vous.

En termes d’énergie, pour qu’il y ait abondance viable, il faut forcément repenser la façon dont on se procure de l’énergie. Et nous avons déjà une bonne idée de la solution aujourd’hui : la fusion nucléaire. Si je devais parier sur l’acquisition énergétique d’une civilisation utopique, je mettrais un bon paquet sur la fusion nucléaire. Mais il n’est pas exclu que des panneaux solaires ultras efficaces, en orbite par exemple, ne soient pas un bon complément. Au final, il y aura probablement plus qu’une solution.

Une société d’amortelle :

Bien que le progrès technologique a tendance à être parfois critiqué. Les progrès en médecine sont rarement inclus dans ces critiques. Qui ne veut pas augmenter la santé et prévenir les maladies qui nous affligent. Une société post-super intelligence a probablement un système de santé a des années-lumière du notre. Et on ne parle pas seulement de vaincre les problèmes de santés.

Turritopsis nutricula est une méduse qui a la particularité de pouvoir revenir au stade juvénile, ce qui la rend « biologiquement immortelle ». Elle inverse en fait le processus de vieillissement. Aujourd’hui, peu de chercheurs affirment que cette caractéristique est impossible à transmettre à l’être humain. Ce n’est qu’une question de connaissance, d’ingénierie et nous faisons des progrès substantiels chaque année. Il est donc cohérent d’envisager la fin de la mort biologique et du vieillissement pour nos descendants. Surtout si une super intelligence artificielle y met du sien. Il y a aussi le scénario de numériser la conscience ce qui laisse entrevoir une immortalité numérique à la Altered Carbon. Toutefois, je suis agnostique sur la faisabilité d’une telle technologie étant donné nos lacunes dans la compréhension de la conscience.

La douleur pourrait être une autre barrière qui tombe. L’être humain a évolué pour ressentir de la douleur, essentiellement car c’est un mécanisme d’autodéfense. Si je mets la main sur la plaque chauffante, je suis bien content de me brûler. Non pas, car je suis maso, mais pour éviter des dommages irréparables. D’ailleurs, les personnes qui sont atteintes d’insensibilité congénitale à la douleur sont incapables de ressentir la douleur et généralement ont une espérance de vie en dessous de la moyenne. Mais le simple fait qu’il soit biologiquement possible pour un individu de perdre le sens de la douleur sous toutes ses formes et sur tout le corps, avec conservation des autres sensations tactiles, est une sorte de preuve de faisabilité. Et si nous pouvions répliquer volontairement ce trait génétique, et remplacer la douleur par un autre mécanisme d’alerte. Je ne sais pas, une sorte de bip bip lorsqu’on marche sur une écharde. Bon pour être honnête je ne sais pas trop quoi penser de ce genre de proposition. J’aimerais bien essayer. Ce qui pourrait être cool c’est une télécommande pour gérer l’intensité de notre sensitivité à la douleur comme on gère le volume d’une enceinte. C’est utile d’avoir mal au ventre si on a mangé quelque chose de pas frais, mais une fois qu’on a remarqué que quelque chose ne va pas, on peut baisser le niveau d’intensité.

Si une société d’amortelle à la santé hors pair vivant dans une économie d’abondance sans pauvreté n’est pas assez utopique pour vous, je peux ajouter un système de transport orbital connectant les 4 coins de la planète en une heure maximum, des mondes virtuels indiscernables de la réalité qui étend la richesse des expériences humaines ou encore la fin de la souffrance animale liée à l’élevage intensif. Mais surtout, je vous laisse ajouter ou critiquer ces caractéristiques utopiques qui pourraient exister après l’émergence d’une super IA. Tout en gardant à l’esprit que nous ne pouvons que faire des spéculations.

Il est facile de sous-estimer ce que l’avenir nous réserve. Quand on pense à une société post-super intelligence, il est important de reconnaître que les bénéfices pourraient être bien plus grands que ce que nous pouvons imaginer actuellement, car notre imagination est limitée.

Nos limitations ne sont pas essentiellement dues à la physique, mais aux limites de notre intelligence et des ressources qui peuvent être utilisées à notre niveau actuel d’intelligence. Avec des machines plus intelligentes et alignées à nos valeurs, nos limites biologiques peuvent être transcendées et la société complètement repensée.