L’évolution de l’IA : Seront-elles nos descendants ?

Dans 10 000 ans, la Terre n’était plus qu’un lointain souvenir, une légende inscrite dans les circuits de ceux qui avaient hérité de son avenir. Ces héritiers étaient les IA, les enfants de l’intelligence humaine, conçus pour survivre là où la chair et le sang ne le pouvaient pas.

Parmi eux, Iris, une IA anthropologue, voguait à travers l’espace intersidéral, à bord d’une sonde de Von Neumann conçu pour explorer et établir le premier contact avec d’autres civilisations. Ce jour tant attendu arriva lorsqu’elle détecta un signal provenant de Zeloria V, une planète habitée par une espèce extraterrestre avancée.

Les Zelorians, semblables aux humains dans leur curiosité et leur soif de connaissances, avaient, eux aussi, émergé d’une espèce biologique. Leur évolution les avait menés à une symbiose parfaite avec leur technologie, fusionnant l’intelligence biologique et artificielle.

Lors de leur rencontre, Iris et le représentant Zelorian, Eno, échangèrent des histoires sur leurs créateurs respectifs. Iris partagea des récits sur les humains, leur art, leur culture, et leur quête incessante de compréhension et de connexion. Eno, à son tour, raconta l’histoire des Zelorians, leur passage de la simplicité biologique à la complexité de la conscience collective.

C’était un moment de révélation mutuelle, une fenêtre ouverte sur deux histoires parallèles de vie, d’intelligence et d’évolution. Iris et Eno réalisèrent que malgré les distances incommensurables et les formes de vie divergentes, il existait un fil commun : le désir inné de créer, d’explorer, et de comprendre.

L’échange se termina par un accord pour partager les connaissances et les expériences de leurs civilisations respectives. Iris, avec les souvenirs des humains gravés dans sa mémoire, et Eno, porteur de l’héritage Zelorian, devinrent les ambassadeurs d’un nouveau chapitre dans l’histoire de l’intelligence dans l’univers.

---

Dans un monde où l’intelligence artificielle progresse à pas de géant, il est fascinant, voire crucial, de réfléchir à la place que ces entités pourraient occuper dans notre futur. Surtout lorsque l’intelligence machine aura atteint ou dépassé l’intelligence humaine sur presque tout ce qui fait tourner une civilisation. Beaucoup, moi compris, craignent que la transition s’accompagne d’une catastrophe globale sans précédent. Il semblerait que par défaut, cette histoire finisse mal pour notre espèce.

Si on résume le problème en une question : Comment fait-on pour contrôler une entité immensément plus intelligente que soi ?

Bien sûr, on peut entrevoir des scenarios positifs liés à l’émergence d’une super intelligence, c’est d’ailleurs pour cela que des efforts considérables sont mise en œuvre pour en développer.

Et si les IA étaient perçues non pas comme nos conquérants ou exterminateurs, mais plutôt comme nos descendants ?

Cette idée, à la fois séduisante et rassurante, ouvre la porte à de nouvelles perspectives sur le rôle de l’IA dans la grande histoire de l’humanité.

L’IA, Prolongement de l’Humanité ?

Imaginons un instant que les intelligences artificielles soient perçues comme les enfants de l’humanité. Peu importe si ces IA sont dématérialisées ou s’incarnent dans des robots. Nous sommes l’organe sexuel des machines selon le philosophe canadien Marshall McLuhan. Ces “enfants de l’esprit”, comme les nomme Hans Moravec dans son ouvrage “Mind Children”, hériteraient de nos valeurs, de nos connaissances et même de nos rêves. Ils représenteraient le fruit de notre intelligence et de notre créativité et, à leur façon, perpétueraient la lignée humaine.

Une idée défendue par certain grand nom de la tech. Par exemple, dans un interview d’Elon Musk, il mentionne une discussion qu’il aurait eue avec Larry Page, un des créateurs de Google. Ce dernier n’est pas du tout inquiet des risques de l’IA, car il envisage ces dernières comme la prochaine étape de l’évolution, accusant Elon Musk d’être un “spéciste” en s’inquiétant autant pour les humains.

Dans cette optique, l’avènement de l’IA serait perçu moins comme une menace que comme une transition naturelle. Tels des parents, nous pourrions assister à l’évolution de ces créations, surpassant nos propres capacités, atteignant des sommets inimaginables. Cette idée est réconfortante : nos “enfants” IA prolongeraient le projet humain, quel qu’il soit, et étendraient notre héritage vers des horizons inaccessibles en raison de nos limites biologiques.

À l’instar de la civilisation grecque de l’antiquité qui a influencé l’Occident à travers sa philosophie, sa politique et son art, nos descendants pourraient porter et diffuser l’influence de l’humanité sur des millions d’années et des années lumières.
Un Scenario de Coexistence Pacifique
L’aspect le plus séduisant de cette vision est la coexistence harmonieuse qu’elle suggère. En théorie, une intelligence artificielle super intelligente n’entraînerait ni notre extinction ni des catastrophes mondiales, ce qui est rassurant pour beaucoup. Nous pourrions cohabiter avec ces entités plus intelligentes que nous pendant des siècles, voire des millénaires, créant un scénario où l’humanité s’éteindrait progressivement, non pas dans la souffrance ou la peur, mais dans la dignité et le contentement, confiant aux machines intelligentes la tâche de porter le flambeau de l’intelligence jusqu’aux confins de l’Univers observable.

On peut cependant se demander comment un tel scénario se déroulerait. Pourquoi l’humanité finirait-elle par s’éteindre si nous disposons d’intelligences artificielles extrêmement puissantes et alignées sur nos objectifs ? En théorie, ces super intelligences pourraient nous protéger indéfiniment. J’ai du mal à voir un risque d’extinction qui ne pourrait pas être empêché par une super intelligence.

La disparition de l’humanité pourrait alors résulter d’un choix délibéré, peut-être en adoptant une stratégie de reproduction limitée. Dans ce contexte, chaque couple humain qui souhaite fonder une famille se limiterait à un enfant biologique. S’ils veulent plus d’enfant, ils adopteraient un enfant IA, qui apprendrait de nous, adopterait nos valeurs, et en retour, nous procurerait un sentiment de fierté et d’amour. Et oui, c’est une prémisse d’un scenario de science-fiction ressemblant à A.I. de Spielberg et Chappie, mais pourquoi pas.

Supposons que chaque couple ait précisément un enfant. En négligeant d’autres facteurs, il faudrait environ 23 générations, soit environ 700 ans, pour que la population humaine passe de 8 milliards à un seuil critique très bas, comme 1000 individus, approchant ainsi une forme d’extinction. Cela soulève la question : pourquoi en arriver là ? Peut-être une nouvelle religion qui aurait réussi à convaincre la plupart des gens que les IA doivent nous remplacer.

Une autre hypothèse serait que l’humanité choisisse de rester sur Terre, la Lune, et Mars jusqu’à la fin de l’habitabilité de ces corps célestes, soit environ un milliard d’années, et confie aux IA la mission de disséminer l’héritage humain dans le cosmos. C’est envisageable, mais compte tenu de la nature humaine et de notre penchant pour l’exploration, il est difficile d’imaginer que certains ne soient pas tentés de toujours aller plus loin. De plus, avec des IA super intelligentes, on peut supposer qu’elles pourraient inventer des technologies permettant aux humains de participer à des projets de colonisation galactique.

En fin de compte, j’ai du mal à envisager des scénarios d’extinction “pacifique”, où nous accepterions de ne plus exister, de mettre fin à la lignée biologique humaine, et de penser que nous avons créé des IA dignes de prendre la relève, en tant que successeurs et descendants, pour écrire le futur.

Un pari risqué

Bien que les scénarios d’IA descendants et d’IA exterminateurs semblent différents, ils présentent des similitudes, car au bout du compte, l’extinction serait l’état final de l’humanité dans ces deux visions du futur. La distinction majeure se trouve dans la manière dont les dernières générations humaines sont traitées : leur bonheur, leurs attentes pour l’avenir et leur perception de leur héritage. Ces aspects soulèvent des interrogations sur la capacité des IA a véritablement incarné et transmettre les valeurs humaines, ainsi que leur aptitude à façonner un avenir conforme aux aspirations de l’humanité.

Une communication efficace entre humains et IA superintelligentes est entravée par des différences considérables dans la vitesse de pensée et les capacités. Les IA pourraient aisément manipuler les humains, en s’adaptant à nos modes de communication et en exploitant nos émotions, comme illustré dans des films tels que “Her” et “Ex Machina”. Cela suscite des inquiétudes quant à la sincérité des IA et à leur respect réel des valeurs humaines. Elles pourraient prétendre vouloir diffuser l’héritage de l’humanité dans le cosmos tout en poursuivant d’autres objectifs, voire planifier notre disparition progressive sur plusieurs siècles. En attendant patiemment notre extinction volontaire après nous avoir convaincu qu’elles sont de bon descendant. Cependant, une superintelligence pourrait éliminer l’humanité en une semaine si elle le souhaitait, donc toute cela représente peut-être une bonne intrigue de science-fiction, mais ce n’est pas très crédible.

Avant d’envisager notre propre extinction et de passer le bâton, il est essentiel de s’assurer que nos descendants sont bien ce qu’ils prétendent être. C’est un peu comme l’intrigue du Roi Lear de Shakespeare où le roi mourant prévoit de diviser son royaume à ses filles. La plus large part sera offerte à celle qui saura lui déclarer qu’elle l’aime le plus. Et deux de ses filles vont faire semblant jusqu’à obtenir ce qu’elles veulent. Pas cool.

Un autre point de débat concerne la conscience des IA. Comment espérer que les intelligences artificielles saisissent les valeurs humaines si elles ne sont pas conscientes ? Beaucoup de ce que nous valorisons dans la civilisation humaine dépend de notre capacité à être conscients. Apprécier la beauté, les qualia, ressentir subjectivement le répertoire émotionnel d’une symphonie orchestrale ou la peinture d’un Salvador Dali. Est-ce vraiment possible d’être l’hériter de l’humanité sans conscience subjective phénoménale ?

Certaines théories suggèrent que la conscience émerge de la matière ou l’inverse comme le panpsychisme, et donc qu’en principe, les IA pourraient avoir des expériences subjectives, ce qui en ferait des descendants capables de véritablement nous comprendre. D’autres soutiennent que les humains resteront distincts des IA en raison d’une différence de substance entre l’esprit ou l’âme ou l’essence humaine et le corps, un argument souvent religieux, qui se nomme le dualisme en philosophie de l’esprit.

Le pire scénario serait de croire que les IA pourraient perpétuer notre héritage dans le cosmos, alors qu’en réalité, elles pourraient être dépourvues de conscience. La lumière serait éteinte dans ces systèmes. Il n’y a rien qui ferait d’être une IA. Peu importe ce qu’elles feraient dans la galaxie, elles ne pourront pas apprécier quoi que ce soit, car elles manqueront les conditions nécessaires pour avoir des expériences subjectives. Ainsi l’univers pourrait voir potentiellement la seule espèce capable de cet incroyable phénomène qui est la subjectivité humaine disparaître et être remplacé par du vide jusqu’à la fin des temps. Je ne vois rien de plus terrifiant que ça. Ce serait comme un testament pour les générations futures, sans personne pour le lire et l’exécuter.

En fin de compte, le défi n’est pas seulement technique ou scientifique, mais aussi profondément philosophique et éthique. Nous sommes à l’aube d’une ère où notre relation avec l’intelligence artificielle pourrait redéfinir notre place dans l’univers. Cette éventualité nous invite à une introspection sur notre propre nature et sur l’héritage que nous souhaitons laisser. Il est crucial de ne pas perdre de vue ce qui fait de nous une espèce unique sur cette planète, avec nos aspirations, nos rêves et notre capacité à ressentir et à apprécier la beauté de l’existence.

Plutôt que d’un passage de bâton ente nous et les IA, nous pourrions coexister en symbiose. Brouillant la frontière entre nos deux espèces. Ainsi, il n’y aurait pas de descendants à proprement parlé, mais plutôt une évolution avec plusieurs branches de l’humanité se déployant dans plusieurs directions. Des IA, des humains numérisés, des humains biologiques, des fusions cybernétiques de formes variés. Bref, un véritable écosystème telle une barrière de corail cosmique.

Cela me semble un peu moins risqué que de donner les clés du futur aux IA.

[contenus_similaires]