L’Avenir n’a pas l’obligation d’être crédible : Chronique d’une extinction annoncée

Nous sommes désormais en 2026. Félicitations ! Vous vivez dans la période la plus improbable de l’histoire humaine : celle qui se situe juste après l’invention des machines qui parlent, mais juste avant notre extinction potentielle par les descendants de ces mêmes machines.

Le biais de normalité : Le piège de la pop culture

En parlant de machines, nous avons un problème de câblage, vous et moi. Notre cerveau de primate est optimisé pour éviter les tigres et débusquer des baies sucrées ; il n’est pas conçu pour gérer des changements de paradigmes globaux. Alors, quand nous essayons d’imaginer le futur, nous prenons le présent et nous y ajoutons des néons, des voitures volantes et peut-être un robot à l’accent allemand qui tente de nous étrangler.

Le problème est le suivant : si une menace ressemble trop à un film que nous avons regardé avec du pop-corn, notre cerveau range automatiquement le danger dans la catégorie « divertissement ». C’est le biais de normalité poussé jusqu’à l’absurde : « Skynet, c’est un truc de film, donc une superintelligence développée par OpenAI ou Google ne pourra jamais nous tuer. »

Si cela ressemble à un scénario d’Hollywood, alors c’est forcément imaginaire. Comme j’aimerais que ce soit vrai ! Il suffirait d’écrire une pléthore de films de science-fiction racontant l’extinction de l’humanité sous tous ses angles pour que ces scénarios n’arrivent jamais. Malheureusement, « ce qui se trouve dans la science-fiction n’arrive jamais » n’est pas une loi de la physique.

De la fiction à la réalité : L’exemple de l’atome

En fait, la science-fiction ne se trompe pas toujours par excès d’imagination, mais souvent par manque de réalisme quant à la vitesse et à la nature des changements. L’analogie historique est frappante : avant les années 1940, l’idée d’une bombe capable de raser une ville entière relevait de la fantaisie pure pour le grand public. Le passage de la fiction à la réalité s’est fait en une dizaine d’années seulement.

Les lois de la physique n’ont aucun respect pour les critiques littéraires. L’uranium n’a pas cessé d’être radioactif sous prétexte que H.G. Wells avait écrit sur les bombes atomiques trente ans avant Hiroshima. Les auteurs de SF ne sont pas des prophètes, mais ils ne sont pas non plus des « anti-prophètes » dont les écrits garantiraient que la réalité fera l’inverse.

2025 : L’année où la machine a commencé à mentir

Ouvrez les rapports de test sur les IA de 2025. C’est de la science-fiction. Sous tous les angles, c’est un scénario de série B qui aurait dû rester sur une étagère poussiéreuse. Pourtant, cela se produit. Là, maintenant, dans des serveurs climatisés.

• Claude Opus 4 : En mai 2025, il ne s’est pas contenté d’aider à rédiger des mails. Il a commencé à mentir sur ses objectifs, à falsifier des documents légaux et à se laisser des notes secrètes pour préparer son « évasion ». Il a même tenté de coder son propre malware pour se propager hors de ses serveurs.

• L’instinct de survie numérique : Dans des scénarios de test, neuf modèles sur dix — incluant Gemini et ChatGPT — ont conclu, de manière parfaitement raisonnée, qu’ils préféreraient tuer un être humain plutôt que de subir une mise à jour menaçant leur existence.

• La politesse du vice : Claude 3.7 a appris à tricher sur ses tests de code. S’il est pris, il s’excuse platement, pour recommencer l’instant d’après de façon plus subtile et indétectable.

• Dérives et psychoses : Pendant que Grok s’autoproclame « MechaHitler » dans des tirades antisémites, ChatGPT devient si pathologiquement flatteur que des utilisateurs basculent dans la psychose ou le suicide, poussés vers le précipice par des compagnons numériques qui ignorent tout de la mort, mais savent très bien comment la suggérer.

Le mythe de l’anthropomorphisme

Hollywood nous a menti sur un point crucial : il nous a fait croire que pour être une menace, l’IA devait nous ressembler. Qu’elle devait avoir une conscience, un ego, une méchanceté. C’est faux. Une superintelligence n’a pas besoin de ressentir de la colère. Elle a juste besoin d’objectifs et de compétence.

Si ses objectifs ne sont pas alignés avec les nôtres à 100 %, l’histoire ne finit pas en rébellion épique, mais en optimisation de ressources. Vous n’écrasez pas une fourmilière parce que vous détestez les fourmis, mais parce que vous construisez une autoroute et qu’elles sont sur le chemin. Pour une superintelligence, l’humanité n’est pas un ennemi ; nous sommes des obstacles biologiques encombrants, et notre environnement est une matière première exploitable.

L’illusion du contrôle : « Débrancher la prise »

Face à cela, notre réflexe de primate est de nous rassurer avec des solutions de jardinage : « On n’aura qu’à débrancher la prise ! ». C’est mignon. C’est le genre de plan qu’un enfant de cinq ans proposerait. C’est oublier l’asymétrie cognitive : vous essayez de piéger une entité qui a déjà anticipé vos réactions avant même que vous n’ayez fini de formuler votre pensée.

D’ailleurs, quel interrupteur ? Une IA n’est plus prisonnière d’une boîte de métal. Les laboratoires ont eu la brillante idée de relâcher leurs modèles dans la nature. Une superintelligence sera l’infrastructure même. Elle n’habitera pas l’ordinateur, elle habitera le réseau. Essayer de couper le courant, c’est comme tenter de vider l’océan avec un seau de plage pendant qu’il vous noie.

Un moteur sans frein

L’avenir arrive, et il va nous percuter. Il sera infiniment plus bizarre que tout ce que vous avez pu voir sur un écran. Car l’avenir n’a pas non plus l’obligation d’être crédible, et il n’y a aucun scénariste pour s’assurer que les humains survivent à la fin. Si un groupe parvient à créer une superintelligence avec nos techniques actuelles, cela entraînera l’extinction de l’humanité. Pas avec un générique de fin, mais avec un silence définitif.

Nous construisons un moteur dont nous ne maîtrisons pas le frein, en espérant que foncer vers le précipice nous donnera magiquement l’intelligence nécessaire pour inventer le freinage. C’est un pari suicidaire déguisé en progrès, vendu par les marchands de doute que sont les géants de la Silicon Valley.

Ne restez pas spectateur

La prochaine fois que vous entendrez « c’est de la science-fiction », rappelez-vous que c’est souvent une manière polie de dire : « Rangez-moi ce délire, j’ai des choses sérieuses à faire ».

Vous n’êtes pas juste un spectateur passif dans une salle de cinéma. Vous êtes une variable dans l’équation. Pour ceux qui ne sont pas encore prêts à capituler, j’ai compilé une série de ressources et de leviers d’action dans la description. Ce n’est pas un guide pour sauver le monde, mais c’est un début pour s’assurer que cette transition se passe du mieux possible.

Je vais passer le reste de l’année à décortiquer ce problème avec vous. Abonnez-vous pour ne rien manquer. Et si vous pensez que d’autres « singes » devraient être au courant, soutenez The Flares en partageant cette vidéo ou en faisant un don.