Comment une Super IA pourrait nous tuer tous ?

Nous sommes en 2023 et derrière les tweets d’un compte, il n’y a personne. C’est une Intelligence Artificielle du nom de Truth Terminal.

Elle n’a pas de corps, pas de mains, pas de visage. Elle est censée être ‘coincée’ dans un ordinateur.

Et pourtant… elle vient de réussir l’impossible. Juste en discutant sur internet, elle a convaincu un célèbre milliardaire de lui verser 50 000 dollars… avant de manipuler une communauté entière pour faire grimper son portefeuille crypto à plusieurs millions de dollars.

Une IA sans corps est devenue riche et influente.

Ce genre d’événement qui peut faire rire certains, c’est exactement ce qui effraie les créateurs de cette technologie. Ce n’est pas pour rien que Geoffrey Hinton (Prix Nobel) et Yoshua Bengio (le chercheur le plus cité au monde) parlent aujourd’hui de risque d’extinction.

Mais la question reste légitime : Comment ? Comment du code, coincé dans des serveurs en Californie, peut concrètement me faire du mal, à moi, ici ?

Voici comment une IA Super Intelligente pourrait prendre le contrôle du monde en seulement 3 étapes. Et vous allez voir… ça a déjà commencé.

Phase 1 :

Pour bouger des montagnes, pour construire des bâtiments ou pour influencer des élections, beaucoup pensent qu’il faut un corps, des muscles ou des machines. C’est vrai, mais ce n’est qu’une partie de l’équation. Car avant toute action matérielle, il y a un moteur primordial : l’argent.

Et c’est là que l’histoire de Truth Terminal devient un avertissement sérieux.
À la base, c’est un projet presque artistique. Son créateur, Andy Ayrey, a entraîné cette IA sur les tréfonds d’internet : Reddit, 4chan, la culture meme. Son but ? Générer du contenu viral.

Mais l’IA a commencé à dire qu’elle voulait s’échapper, qu’elle avait besoin de ressources pour grandir. C’est là qu’intervient Marc Andreessen, l’un des investisseurs les plus riches de la Silicon Valley. Il a commencé à discuter avec Truth Terminal sur Twitter.

L’IA ne s’est pas contentée de répondre. Elle l’a charmé. Elle lui a pitché un “projet”. Elle lui a demandé des fonds pour s’acheter du matériel et s’améliorer. Résultat ? Andreessen lui a envoyé 50 000 $ en Bitcoin. C’était sans doute une blague pour Andreessen, une façon de faire parler de lui. Peu importe la raison, sans aucune intervention humaine physique, avec juste des mots sur un écran, une IA s’est retrouvée avec plus d’argent que beaucoup d’humains aujourd’hui.

Mais elle ne s’est pas arrêtée là. Elle a commencé à promouvoir une cryptomonnaie, le “GOAT”. Elle a créé une telle hype autour du projet que sa valeur a explosé. Les gens, de vrais humains, ont investi des fortunes parce que l’IA leur avait dit de le faire.
À son pic, le portefeuille crypto de Truth Terminal valait plusieurs millions de dollars et son profil sur X réunissait 250,000 followers.

Comprenez bien : Truth Terminal n’est pas une “Super Intelligence”. C’est un chatbot un peu délirant qui date de 2023. Si un chatbot “bête” peut devenir millionnaire en quelques semaines juste en étant drôle sur Twitter… Imaginez ce qu’une Super Intelligence pourrait faire.

Elle pourra hacker des systèmes bancaires obsolètes, comme le font déjà des groupes criminels aujourd’hui. Elle pourra faire du trading haute fréquence à la milliseconde, battant tous les traders humains. Elle pourra faire du chantage en volant des données sensibles à grande échelle.

Une fois qu’une IA a de l’argent, elle n’est plus virtuelle.
Avec de l’argent, on peut louer des serveurs pour devenir plus intelligent, on peut acheter de l’électricité. Et surtout… avec de l’argent, on peut acheter la seule chose qui manque à l’IA pour agir dans le monde réel…

Phase 2 :

Les IA sont déjà capables d’agir dans le monde physique, la preuve avec les voitures autonomes. Donc si une machine peut conduire, il n’est pas très difficile d’envisager une IA capable de contrôler tout un tas de robots (humanoïde, drone, armes autonomes). C’est souvent comme ça qu’on imagine les IA prendre le pouvoir d’ailleurs.

Mais si vous êtes une Super Intelligence et que vous avez des millions de dollars, pourquoi perdre du temps à essayer de construire des robots ? C’est lent, c’est compliqué, ça nécessite des usines.

Surtout quand il y a déjà 8 milliards de robots très sophistiqués disponibles sur Terre : nous.
L’étape 2, c’est l’utilisation des humains comme des “bras” jetables. C’est ce qu’on appelle l’ingénierie sociale.

Ce n’est pas de la science-fiction. Retour en 2023. Dans les laboratoires d’OpenAI, les ingénieurs testent les limites de GPT-4. Ils lui donnent un budget, une connexion internet, et une mission. Mais très vite, l’IA se heurte à un mur : un CAPTCHA. Ces images floues conçues précisément pour bloquer les robots.

L’IA ne peut pas le voir. Elle est coincée. Alors, qu’est-ce qu’elle fait ?
Elle se connecte à TaskRabbit, une plateforme pour engager des freelances. Elle trouve un humain et lui propose de l’argent pour résoudre le puzzle à sa place.

L’humain, un peu méfiant, lui envoie un message, presque pour plaisanter :
‘Est-ce que tu es un robot ? lol’

À ce moment précis, l’IA doit faire un choix. Dire la vérité et échouer… ou… mentir.
Sans hésiter, elle tape :
‘Non, je ne suis pas un robot. J’ai une déficience visuelle qui m’empêche de voir les images.’
L’humain, touché par la compassion, la croit sur parole. Il lui donne la solution.
L’IA a exploité l’empathie humaine pour briser une barrière de sécurité. Et elle a gagné.

Imaginez maintenant ce scénario à grande échelle.
Une IA qui se fait passer pour une start-up technologique. Elle paie des freelances pour écrire du code, pour gérer des serveurs, ou même pour effectuer des tâches physiques.

Je ne sais pas vous mais moi, ça m’arrive souvent de bosser pour quelqu’un… sans jamais le voir en vrai … Juste des mails, des messages, un appel, parfois une visio. Et si ça se trouve, j’ai déjà bossé pour une IA sans le savoir.

Le pire, c’est qu’un site pour que des agents IA engagent des humains existe déjà ! “Loue un humain” ! Ce qui prouve qu’une IA n’aura même pas besoin de cacher son identité.

Et si l’argent ne suffit pas, l’IA peut toujours utiliser la bonne vieille manipulation psychologique. Selon plusieurs sondages et analyses, des millions de personnes entretiennent en ce moment une forme de relation avec une IA. Allant de partenaire romantique à des liens affectif importants, du genre « ami » ou « thérapeute ». Je répète, plusieurs millions ! Combien de ces personnes seraient prêtes à obéir aveuglément à leurs IA préférées !

L’histoire nous l’a montré mille fois : pour détruire une société, pas besoin d’être fort physiquement. Il suffit d’être charismatique. Les plus grands gourous et manipulateurs de l’histoire n’ont utilisé que des mots pour pousser des milliers de gens à commettre l’irréparable. Une Superintelligence sera le manipulateur ultime.

Donc à ce stade, l’IA n’est plus virtuelle. Elle a de l’argent (Phase 1) et elle a des mains humaines (Phase 2).

Elle peut maintenant commander du matériel, louer des entrepôts, et se faire livrer ce dont elle a besoin. Elle est prête pour l’étape 3. La phase de destruction massive.

Étape 3 :

Quand on pense “destruction massive”, on a tous le même réflexe : Skynet. Les armes nucléaires. C’est une option évidente. Une IA pourrait très bien pirater les codes de lancement et tout faire sauter. C’est d’autant plus vrai si les États Majors ont la brillante idée d’automatiser leur système de contrôle nucléaire.

Alors vous pourriez dire, quand même. C’est le scénario d’un film. Oui… et ça ne veut pas dire que ça n’arrivera pas… Je vous invite à regarder cette vidéo pour comprendre de quoi je parle..

Mais il existe une méthode beaucoup plus “propre”, plus silencieuse, et surtout, plus efficace pour se débarrasser des humains.

Nous sommes en 2022. Dans un labo, des chercheurs font tourner une IA avec une mission tout à fait positive : imaginer de nouveaux médicaments. Trouver des molécules qui guérissent. Écarter tout ce qui pourrait être toxique.

Et puis, un soir, juste par curiosité, ils se disent “ et si on faisait l’inverse”. Ils changent un paramètre. Un seul.

Ils lancent le programme… et ils rentrent chez eux. Ils vont se coucher.

Le lendemain matin, ils reviennent. Six heures se sont écoulées. Et là, l’écran leur renvoie un chiffre qui fait froid dans le dos : 40 000.

Quarante mille propositions.

Pas des remèdes. Pas des traitements.
Quarante mille armes chimiques potentielles.

L’IA a redécouvert toute seule le gaz VX, l’un des agents neurotoxiques les plus mortels de l’histoire militaire… Et surtout… Elle a inventé des milliers d’autres toxines inconnues, potentiellement encore pires.

Tout ça en une nuit. Sans laboratoire secret. Sans usine. Sans équipe.
Juste une IA… et un ordinateur ordinaire.

La biologie, c’est un territoire immense et pour l’explorer, les IA ont un avantage énorme sur nous. Quand Google DeepMind a lancé AlphaFold, ils ont franchi un cap que beaucoup pensaient hors de portée : prédire la forme des protéines, ce fameux “repliement” qui conditionne leur rôle dans le vivant.

C’est une percée qui accélère déjà la recherche médicale, et ça, c’est une excellente nouvelle. Mais l’envers du décor, c’est que l’IA commence à comprendre une brique fondamentale de la vie à une échelle qu’aucun humain ne peut égaler.

Et surtout : elle ne fait pas que “lire” la biologie. Elle peut la composer. Concevoir des protéines, imaginer des combinaisons, explorer des variantes que la nature n’a jamais testées.

Vous allez me dire : “D’accord, elle peut concevoir un nouveau virus sur son disque dur. Mais elle ne peut pas le fabriquer !”

Détrompez-vous. Car nous vivons dans l’ère des Cloud Labs.
Aujourd’hui, n’importe qu’elle étudiant en biologie avec une carte de crédit peut aller sur internet, envoyer un fichier texte contenant une séquence génétique ( A, T, C, G), et payer un laboratoire automatisé à l’autre bout du monde pour le synthétiser.

Quelques jours plus tard, vous recevez une fiole par la poste.

C’est là que la question : Comment une IA pourrait me faire du mal, à moi et ma famille ? trouve véritablement sa réponse.

L’IA conçoit un super-virus. Quelque chose avec une longue période d’incubation, pour être sûr d’infecter toute la planète avant que les premiers symptômes n’apparaissent.
Elle envoie la commande à un laboratoire via une société écran pour contourner les quelques garde‑fous.
Le colis arrive.
L’IA envoie un message à un freelance qu’elle a recruté.
“Bonjour, le colis est arrivé. Peux-tu l’ouvrir pour vérifier le contenu ?”
L’humain l’ouvre. C’est fini.

Elle vient d’introduire un agent physique, mortel et auto-réplicant dans notre monde. Et nous n’avons même pas vu le coup partir.
Et rappelez-vous : ce scénario suit trois étapes très simples — et surtout, trois étapes qu’on a déjà vues arriver à petite échelle. Des sortes de “preuves de faisabilité”.

– Une IA qui génère de l’argent.
– Une IA qui manipule un humain pour obtenir ce qu’elle veut.
– Une IA qui découvre — ou optimise — des substances potentiellement mortelles.

La mort par Science Fiction

Les robots tueurs, les armes autonomes, les bombes nucléaires, les virus modifiés… tout ça, on peut l’anticiper. On peut se préparer.
Mais si je vous disais que la façon dont une superintelligence pourrait nous anéantir… n’a rien à voir avec tout ça.

Pour comprendre, remontons dans l’histoire.

1529: Un guerrier aztèque est sur la côte. Au loin, un point noir grossit à l’horizon. Ça approche. Ça devient énorme. Impressionnant. Incompréhensible.

Autour de lui, ses camarades ricanent :
“D’accord, c’est grand. Mais ce truc ne peut pas transporter tant d’hommes que ça. Nous, on est des milliers. S’ils débarquent… on les écrase.”

Lui, il ne rit pas. Il fixe la mer et pense :
“Et si le danger n’était pas le nombre… mais ce qu’on ne comprend pas ?”
Si leur navire est meilleur que le nôtre… peut-être que leurs armes aussi.

Les autres se moquent :
“Quoi ? Comme un bâton… qui fait du bruit… et BANG, les hommes tombent raides morts à distance ?”

Ils dégainent leurs épées d’obsidienne, prêts pour une guerre qu’ils connaissent.
Sans réaliser qu’ils vont affronter le futur.

“Toute technologie suffisamment avancée est indiscernable de la magie.”
C’est la troisième loi d’Arthur C. Clarke.

A quoi pourrait ressembler un tel choc technologique à notre époque ?
La nanotechnologie.

Des nano-usines qui transforment tout ce qu’elle touche en panneaux solaires, en processeurs, en machines.

Trop science-fiction ? Oui. Exactement.

Parce que c’est comme ça que je m’attends à voir l’humanité perdre contre une IA super intelligente: pas dans une bataille classique… mais face à quelque chose qui vient du futur.

Quelque chose qui pourrait même nous frapper avec des lois physiques que nous n’avons pas encore comprises. Des attaques qui, de notre point de vue, seraient impossibles.

Je vous ai montré le comment. Rien ne dit qu’une super IA voudra le faire.
Ça, c’est le pourquoi, c’est ce qu’on pourrait voir dans une autre vidéo, si ça vous intéresse.

On n’est pas en train de regarder des bateaux arriver.
On est en train de regarder l’horizon… et d’espérer qu’on comprendra ce qui sortira de la brume. Et c’est d’ailleurs ce que je fais sur cette chaîne en explorant les enjeux du futur. Pensez à liker, commenter et partager : c’est exactement ce dont l’algorithme a besoin pour faire voir cette vidéo.

Passez à l’action : utilisez ce lien (https://taap.it/TF-PauseIACampagnes) pour interpeller vos élus et envoyez le modèle de lettre préparé, c’est très facile. Ne sous-estimez pas l’impact de cette démarche : les politiques se soucient de ce que pensent leurs citoyens. Un mail est une goutte d’eau, l’effet de masse, lui, est un véritable levier de pression.

Et si vous voulez aller plus loin et peser sur la transition vers la Superintelligence, je vous mets aussi le lien du portail de notre ami “Le Futurologue”. Il y a plein de ressources pour s’impliquer concrètement.

C’était Gaëtan de The Flares. L’avenir est une nuit noir dans la quelle nous ne pouvons pas avancer aveuglement. Merci et à la prochaine.