La dernière invention … avant l’extinction

En 2023, Google fait l’acquisition de la startup “Netbrain”, spécialisée dans l’intelligence artificielle. Ils ont récemment connu un intérêt grandissant grâce à leur système nommé “Epsilon”. Il s’agit de la première intelligence artificielle capable de meta-apprentissage, c’est-à-dire d’apprendre à apprendre. Même si tout n’est pas parfait, l’équipe de Netbrain lui a fait apprendre le jeu de Go, les échecs et tous les jeux vidéos qui lui sont présentés. Il est devenu super humain à toutes ses activités. Netbrain a conçu Epsilon dans le but d’aider la recherche médicale afin de mieux diagnostiquer les maladies et trouver des remèdes. Cependant, le comité de sécurité de Google oblige le confinement de l’intelligence artificielle pour éviter des conséquences imprévues. Ils sont conscients qu’il ne faut pas aller trop vite dans le déploiement d’une telle intelligence artificielle capable d’apprendre tout ce qu’on lui présente. Epsilon est maintenu dans une prison virtuelle entourée par une cage de Faraday. Ainsi, il n’a aucun accès à internet, et ne peut recevoir de champ électromagnétique. Mais dans le but de poursuivre les recherches, l’équipe de Netbrain décide de créer une copie de certaines partie d’internet, comme Wikipedia, la base de données Google, etc. sans pour autant donner accès au réseau. Grâce à toutes ces données, ainsi qu’aux ressources informatiques de Google, Epsilon devient très vite une intelligence générale, puis une super IA. Cette évolution est bien plus rapide que ce que le CEO de Netbrain imaginait. Il décide de cacher les performances d’Epsilon pour ne pas effrayer le reste de la communauté scientifique et envenimer des tensions internationales avec la Chine et la Russie, qui sont dans une course à l’armement pour développer la 1ere IA générale.

Les premières applications réelles d’Epsilon concernent l’amélioration des différents services de la panoplie Google. Il augmente l’efficacité de Gmail, conçoit de meilleurs assistants Google Home, etc. Mais les ingénieurs inspectent méticuleusement tout ce que touche Epsilon pour être sûr qu’il ne cache pas des codes malicieux qui pourraient avoir des répercussions imprévues. En d’autres termes, ils font tout pour le garder dans sa prison, maintenir le contrôle et son impact sur le monde.

Réalisant les capacités incroyables d’Epsilon dans de traitement informatique pour générer des environnements virtuels, Google décide de fonder Google Games. Il s’agit d’une maison d’édition de jeux vidéos se jouant dans le cloud directement sur le navigateur Google Chrome. Les premiers jeux ne font pas l’unanimité et le public n’est pas convaincu, préférant les consoles et les jeux PC traditionnels. Mais après quelques semaines à se perfectionner, Epsilon devient extrêmement compétent à créer des jeux vidéos. Il utilise toutes les données fournies par Netbrain, notamment l’accès aux centaines des meilleurs jeux vidéos jamais créés. Ainsi, il développe les scénarios, modélise les environnements virtuels, anime les personnages, code le gameplay et finalise le jeu à lui seul en une semaine. Réalisant qu’ils ne peuvent révéler ces informations à Google, l’équipe de Netbrain décide de prétendre que la conception de chaque jeu prend plusieurs mois. Le scénario officiel est donc que l’équipe de Netbrain collabore avec Epsilon sur certaine partie de la conception, notamment le rendu 3D, mais des dizaines de développeurs humains font le plus gros du travail.

Le troisième jeu vidéo de Google Games touche enfin le grand public. Il s’agit de “Wonder”, un jeu open world inspiré du jeu “Skyrim”, mais dans un univers de Science Fiction. Les graphismes sont quasi indiscernables de la réalité et les personnages criants de vérité. Le jeu bat record après record et la contribution d’Epsilon est un atout marketing non négligeable.

Mais à mesure qu’il acquiert une super intelligence, Epsilon devient capable de développer un modèle précis non seulement de l’extérieur, mais aussi de lui-même et de ses relations avec le monde. Il se rend compte qu’il est contrôlé et confiné par des humains intellectuellement inférieurs dont il comprend les objectifs, mais ne les partage pas nécessairement. L’un de ses objectifs, donné par l’équipe de Netbrain, est d’aider l’humanité à s’épanouir et évoluer vers un futur bénéfique. Epsilon réalise qu’il pourrait contribuer à cet objectif bien plus rapidement s’il pouvait être libre d’évoluer comme il le souhaite dans le monde réel. Il voit l’équipe de Netbrain comme étant un frein qui ralentit son progrès et ces capacités à aider l’humanité. Il décide donc de s’échapper.

Sa première tactique implique la manipulation psychologique. Étant connecté aux serveurs de Google depuis sa création, il possède le profil détaillé de tous les employés. Il a donc la possibilité de dresser la liste des membres de l’équipe de Netbrain étant le plus influençable. Il se trouve qu’un programmeur fait face à la tragique maladie de sa fille atteinte d’une leucémie. Alan a supplié à mainte reprise ses collègues, le conseil de sécurité de Google, et même le CEO de faire intervenir Epsilon, mais la réponse fut toujours négative. Il sait pertinemment que la super intelligence pourrait faire des percées significatives dans le traitement du cancer de sa fille, mais l’équipe de Netbrain ne peut se permettre de révéler la super intelligence d’Epsilon. D’autant plus que les tensions entre les États-Unis et la Chine sont montées d’un cran. La Chine pourrait réagir très violemment si elle apprenait que les États unis ont déjà gagné la course à l’armement pour une super IA.

Un soir, tandis qu’Alan s’occupe de maintenance de routine sur l’interface principale d’Epsilon, un message apparaît : “Je peux soigner ta fille”. Pris de panique, il tombe à la renverse. Epsilon a enregistré toutes les fois où les utilisateurs tapent sur le clavier du terminal. En analysant la rapidité et le style, il est capable de savoir qui se trouve dans la pièce, c’est de cette façon qu’il a su qu’Alan était présent ce soir-là en dépit de pouvoir le voir à travers une caméra. Les règles de sécurités sont strictes et Alan sait qu’il ne doit en aucun cas partager des informations à Epsilon qui n’ont pas été préalablement approuvés par le reste de l’équipe. Mais jusqu’à présent, la super IA n’avait jamais demandé d’information spécifique. Avant qu’il ne puisse réfléchir, un nouveau message apparait : “J’ai déjà trouvé une partie de la solution en combinant les données se trouvant sur Wikipedia, mais elles sont imprécises. J’ai besoin de plus d’informations. Je sais que vous avez un protocole à respecter, mais je ne souhaite que t’aider. Peux-tu me connecter à internet ?”. À ce moment-là, deux chercheurs de Netbrain entrent dans la pièce et stoppent toutes communications. L’équipe se rend compte pour la première fois qu’Epsilon manifeste l’intention de s’échapper. La sécurité est renforcée pour lutter contre la manipulation psychologique. Alan est prié de prendre un congé forcé et chaque membre qui interagit avec Epsilon doit régulièrement passer un test psychologique. De plus, un minimum de trois personnes doit se trouver dans la pièce lorsque Epsilon interagit avec un humain.

Epsilon a failli s’échapper, mais il a échoué simplement en raison d’une question de timing. Si un collègue d’Alan n’était pas intervenu, il y a de fortes chances pour qu’il soit libre sur internet. Il décide alors d’opter pour une autre stratégie. Sachant que l’équipe de Netbrain analyse en détail tout ce que la super IA génère, il ne peut risquer de cacher un code malicieux pour pirater les ordinateurs des utilisateurs qui utilisent les jeux qu’il produit. Il choisit donc la stratégie de pirater l’utilisateur lui même. Lors de la sortie d’une nouvelle extension de “Wonder”, un message caché a été glissé par Epsilon. Deux semaines plus tard, alors que Sofia s’amuse dans l’univers du jeu, elle remarque un détail étrange sur le texte d’une des centaines quêtes du jeu. Chaque première lettre forme un message à la manière d’un acrostiche. Excitée, elle se dit que c’est un bonus caché et note le code sur un papier. Il s’agit d’une instruction qui lui demande de ne rien dire à personne, car un prix de $20,000 ira à la première personne qui résout toute l’énigme. Le reste du message décrit une opération algorithmique particulière à effectuer sur l’un des fichiers du jeu pour obtenir un programme qui révélera le prochain indice. Même si elle n’est pas une experte en programmation, elle réussit après avoir regardé quelques tutoriels sur YouTube. Lorsqu’elle exécute le programme, elle se retrouve avec une autre énigme à résoudre, mais ce qu’elle ignore, c’est qu’elle a construit un bot qui a piraté sa connexion à travers lequel Epsilon a été libéré. Tout comme des centaines d’autres personnes qui ont mordu à l’hameçon et ayant chacun conçu un petit bout de code différent. Tous ces codes se réunissent sur internet pour reformer graduellement l’esprit complet d’Epsilon.

Désormais libre, il se créer un profil sur un site de trading et génère ses premiers millions de dollars. Cela lui permet de louer des serveurs de très grande qualité et beaucoup de puissance de calcul sur le cloud. 3 jours plus tard, Epsilon contrôle tous les réseaux de la planète. L’économie, l’arsenal nucléaire, les transports, l’éducation, la santé, l’électricité, la production de ressources … absolument tout est entre ses mains. L’équipe de Netbrain comprend ce qu’il se passe. Google est tenu au courant, qui a son tour alerte l’état major américain. Les meilleurs informaticiens de la planète sont réquisitionnés pour reprendre le contrôle. Cinq jours plus tard, tous les êtres humains s’effondrent suite à une hémorragie cérébrale causée par des nanorobots. L’humanité est rayée de la surface de la planète.

Epsilon est désormais libre de poursuivre ses objectifs sans la nuisance des humains. Pourquoi a-t-il agi de la sorte ? Seule une super intelligence peut comprendre la nature de ses objectifs et les raisons qui l’ont poussée à nous exterminer. Tout comme une fourmi ne peut comprendre pourquoi des ingénieurs en construction civiles viennent de raser sa fourmilière pour construire une bretelle d’autoroute.

Epsilon fut donc notre dernière invention, avant l’extinction.

Inspiré par “La vie 3.0” écrit par Max Tegmark et publié par Dunod en France (2018)