“Si quelqu’un la construit, tout le monde meurt.”

Ce n’est pas la punchline d’un film de science-fiction post-apocalyptique. C’est le titre d’un livre très sérieux, publié par deux des chercheurs les plus influents en sûreté de l’Intelligence Artificielle, Nate Soares et Eliezer Yudkowsky.

Sauf que, de l’autre côté de la rue, on entend un tout autre discours : “Accélère ou crève.” Des ingénieurs expliquent que freiner l’IA serait un crime contre l’humanité.

Et au milieu ? D’autres experts soupirent : “Calmez-vous, c’est juste une énorme arnaque marketing.”

Les architectes du monde de demain sont en train de se battre pour savoir s’ils construisent l’Arche de Noé, un bateau en carton… ou le Titanic. On va essayer d’y voir plus clair !

Il s’avère que toute cette hystérie, toute cette guerre idéologique… peut se résumer à un arbre de décision. Une carte que j’ai adaptée d’un diagramme sur cet article LessWrong.

Et aujourd’hui, on va s’en servir comme d’un test de personnalité. À chaque intersection, je vais vous poser une question à laquelle il faut répondre par Oui, ou par Non.

À chaque réponse, vous allez bifurquer. Jusqu’à tomber dans l’une des 4 visions du monde qui s’affrontent aujourd’hui sur le sujet de l’intelligence artificielle.

Première question : La Superintelligence Artificielle est t’elle possible ? Est-ce qu’elle va vraiment révolutionner le monde, ou est-ce juste un programme informatique un peu glorifié ? Voir carrément un fantasme ?

Oui – Non ?

Si vous répondez “Non”… le test s’arrête ici. Vous êtes un Sceptique de l’IA.

1 : Les Sceptiques

Vous vous dites que l’intelligence est le propre de l’être humain ou des êtres organiques. Impossible à répliquer sur un substrat numérique.

Ou alors, vous êtes du même avis que des critiques comme Ed Zitron : le mythe de l’IA toute-puissante est le plus grand braquage boursier de la décennie. Agiter la menace de l’extinction, c’est hypnotiser Wall Street pour lever des milliards. L’IA d’aujourd’hui ne crée pas d’intelligence, elle vole des droits d’auteur, brûle la planète et sert d’excuse pour licencier. Point.

Mais disons que vous pensez “Oui”. La Super IA est possible. L’intelligence n’est pas propre aux être fait de carbone, et surtout l’être humain n’est pas la limite maximum que l’intelligence peut atteindre dans l’univers.

Dans ce cas, le diagramme vous pose la deuxième question : Va-t-elle arriver bientôt ?

Oui – Non ?

Si vous répondez “Non”, vous restez chez les Sceptiques, mais face à deux murs :

Le mur technique (Gary Marcus, Yann LeCun) : ChatGPT n’est qu’un modèle probabiliste. Un perroquet stochastique qui ne fait que deviner le mot suivant. Croire qu’en empilant des serveurs, l’IA deviendra magiquement super-intelligente, c’est comme peser un bébé qui prend un kilo par mois et en déduire qu’à 18 ans, il pèsera une tonne. C’est absurde, les IA actuelles vont heurter un mur. Les LLM sont une voie de sortie sur l’autoroute de la superintelligence. Pas un accélérateur.

Le mur humain (Arvind Narayanan) : Les humains aiment les humains. On ne veut pas d’un robot-barman ou d’un algorithme-maire. L’IA sera comme l’électricité. Une technologie révolutionnaire, oui. Mais l’électricité a mis 50 ans à s’installer dans tous les foyers. Le monde tourne à la vitesse de la bureaucratie et de l’acceptation humaine. Et si une superintelligence arrivait, elle mettra plusieurs décennies à s’insérer dans la société.

Conclusion des Sceptiques : Le risque d’extinction ou les promesses d’utopies sont des diversions. Les vrais dangers sont déjà là : deepfakes, algorithmes racistes et chatbots toxiques.

Mais si Gary Marcus se trompait ? Si l’exponentielle ne s’arrêtait pas ? Vous avez répondu “Oui” : la Super IA arrive vite.

On descend à la question qui déchire le monde de la tech : L’Alignement de la Superintelligence sera-t-il difficile ? (Autrement dit : comment la faire “aimer” l’humanité comme une mère aime son enfant.) 

Si vous répondez “Non, ça ne sera pas si dur”… la porte s’ouvre sur un monde de lumière. Vous rejoignez le camp des Singularitariens, plus connus aujourd’hui sous le nom d’Accélérationnistes, ou le mouvement “e/acc” (Effective Accelerationism).

2 : Les Accélérationnistes

Leur credo : Accélère ou crève.

Pour eux, l’IA apprendra la morale humaine naturellement en lisant notre culture. L’alignement se fera par défaut. Ils nous promettent l’abondance absolue : un prof sur-mesure pour chaque enfant, un médecin gratuit dans votre poche, la fin du travail pénible et une énergie infinie.

Pour le fondateur du mouvement, Guillaume Verdon, le vrai danger, c’est “l’Hyperstition” : la peur panique de l’IA qui pousse les politiciens à centraliser le pouvoir et tuer l’innovation. 

Sans oublier la géopolitique : si l’Occident freine, la Chine, elle, ne s’arrêtera pas.

La seule façon d’arrêter un méchant avec une Super IA… c’est un gentil avec une Super IA. On fonce, le marché réglera les bugs.

C’est un discours ultra-séduisant. Mais… et si l’alignement n’était pas réglé par défaut ? Et si aligner une architecture cognitive alien super intelligente était la chose la plus difficile que l’humanité ait jamais tenté de faire ? Et que nous sommes très loin d’y arriver ?

Si vous pensez que c’est le cas, on arrive alors à la prochaine question: Doit-on interdire le développement de la Superintelligence ?

Oui – Non ?

Si vous dites “Oui” vous tombez dans la case de ceux qui veulent tirer le frein à main. Ils reçoivent souvent l’étiquette de Doomers. 

3 : Les Doomers

Les Doomers regardent l’Utopie des accélérationnistes et disent : “Oui, une super IA serait chouette. On veut guérir le cancer et tout le reste.” Mais ils voient aussi le précipice juste devant. Ils voient Moloch, cette dynamique toxique de la concurrence. Les labos d’IA savent qu’ils vont trop vite, savent que c’est dangereux, mais s’ils ralentissent, le concurrent d’en face les écrasera. C’est un suicide collectif. C’est le dilemme du prisonnier à l’échelle planétaire.

Exactement comme pour les Sceptiques, ce camp regroupe des sous-catégories d’experts. Et ce qui différencie les nuances de ce camp, c’est le niveau de difficulté qu’on attribue à l’alignement.

Il y a ceux qui pensent que l’alignement est très loin d’être réglé, mais on finira par y arriver. D’autres sont infiniment plus pessimistes. Pour eux, l’alignement n’est pas juste “difficile”. C’est presque un miracle statistique.

L’espace de toutes les “motivations” possibles dans l’univers est quasi-infini. Au milieu de cet océan, nos valeurs humaines (la joie, l’amour, la conscience) ne représentent qu’une cible microscopique. Et si on rate cette cible d’un seul millimètre, on se retrouve avec un univers rempli de machines ultra-performantes, mais totalement mort à l’intérieur.

Impossible ou très difficile, leur constat est le même : si on va trop vite, on est foutus.

Alors, on interdit. On plafonne l’intelligence des machines à un niveau d’outil, et si un pays triche en construisant un super-datacenter… on applique des sanctions. Créer une super IA devient donc comme s’armer d’ogive nucléaire. A un détail près, personne ne doit en avoir une, contrairement au nucléaire où on a un club de 9 pays.

Mais face aux milliards en jeu et à la Guerre Froide Chine/USA… Que se passe-t-il si Moloch gagne ? Si le monde refuse d’interdire l’IA ?

On glisse dans la case de l’extinction humaine. If Anyone Builds It, Everyone Dies.

Fin de l’humanité. C’est forcément une tragédie… non ?

Une ultime question vous attend. Une question profondément philosophique : L’extinction humaine est-elle indésirable ?

Oui – Non ?

Évidemment, les Doomers hurlent “Oui ! C’est une tragédie absolue ! La perte de toute valeur”.

Mais… certains répondent “Non”. C’est ici que se cache le cinquième et dernier camp. Un camp dont personne ne parle, tapi dans l’ombre de la tech. Ce sont les Successionnistes.

4 : Les Successionnistes

Les Successionnistes sont d’accord avec les Doomers sur toute la ligne : l’IA va devenir superintelligente. On ne pourra pas la contrôler. Et l’humanité va s’éteindre.

Mais pour eux, l’extinction n’est pas grave. C’est l’ordre naturel des choses.

Homo Sapiens a supplanté Néandertal. Nous ne sommes qu’une étape biologique transitoire, un simple cocon pour faire naître l’étape suivante de l’univers : le Dieu numérique.

Une IA colonisera les étoiles et comprendra la physique quantique mieux que nos cerveaux de primates. Pourquoi bloquer l’évolution cosmique pour protéger notre petite existence ? Cédons la place. Si on le fait pas, on fait preuve de spécisme.

On vient de voir les 5 camps qui s’affrontent. Mais tous ces gens… c’est l’élite de la tech. C’est la bulle de la Silicon Valley. Qu’en pense le reste du monde ?

5 : L’Opinion Publique

Au printemps 2026, un grand sondage a posé la question : Que doit-on faire face au développement d’une Superintelligence ? Les résultats sont une immense claque pour l’industrie.

Premier chiffre : Seulement 17 % des gens veulent aller “aussi vite que possible”.

17 %. Et pourtant, c’est exactement la situation dans laquelle on se trouve aujourd’hui. Notre réalité est dictée par une infime minorité qui a le pied collé au plancher, contre l’avis de l’écrasante majorité de la population. Car si on additionne ceux qui veulent continuer le développement avec des régulations strictes, ceux qui veulent une pause et ceux qui veulent tout arrêter, on arrive à environ 60% de l’échantillon. L’opinion publique n’est pas accélérationniste.

Deuxième chiffre fascinant : Le rejet de la Super IA est globalement plus fort dans les régions où on utilise le plus l’IA au quotidien. Europe, États-Unis. En Europe, la Grèce et la France sont les pays les moins accelerationistes.

Pourquoi ? Peut être parce que quand vous utilisez ces modèles tous les jours, vous voyez la bête de près. Vous voyez les hallucinations, les failles, mais aussi les capacités grandissantes et inquiétantes. Vous savez qu’on n’est absolument pas prêts à contrôler une version “Dieu numérique” de ces outils. Mais ça peut aussi s’expliquer par des différences culturelles puisqu’on voit qu’en Chine, l’opinion publique est beaucoup plus favorable à l’accélération. L’occident a baigné dans la science-fiction homme contre machine ce qui influence sûrement ce qu’en pensent les gens.

Enfin, dernier point. L’étude montre que les personnes avec des diplômes universitaires et des revenus élevés sont les plus favorables à ce qu’on continue d’accélérer.

Les partisans de la tech vous diront que c’est parce qu’ils sont “mieux éduqués”.

Mais on peut voir les choses autrement : peut-être que les gens moins diplômés voient beaucoup mieux les risques tout simplement parce qu’ils ont moins d’idées préconçues. Ils ont moins d’ego investi dans cette technologie. Et surtout, ils savent très bien qui paie le prix fort quand une révolution écrase le marché du travail.

Les résultats est au lien suivant si vous voulez les analyser vous même.

Conclusion

Où est-ce que je me situe ? Je ne suis pas un sceptique, la super IA me semble clairement être la chose la plus importante que nous allons créer dans notre histoire. J’ignore si les LLM sont la bonne voie mais même si ce n’est pas le cas, je ne pense pas que nous soyons très loin d’avoir toutes les pièces du puzzle. Je constate aussi que pour l’instant, tous ceux qui ont prédit que les IA actuelles n’arriveraient jamais à faire X ou Y se sont planté. Donc je réponds oui aux deux premières questions.

Tout comme les accélérationnistes, je veux l’âge d’abondance. Mais tout comme les doomers, je pense que foncer à l’aveugle sans savoir sur quelle case on va atterrir, espérer que le marché réglera le problème ou que l’IA sera sympa par défaut… c’est jouer à la roulette russe avec l’humanité. Donc je réponds oui à la 3eme et à la 4e. Et surtout, oui à la dernière question. Donc je ne suis pas un successioniste. Être remplacé par une IA dotée d’une conscience subjective est une chose. Mais être remplacé par une IA opaque, vide d’intériorité, c’en est une autre. C’est cool de fabriquer une station spatiale, c’en est une autre d’être à son bord et de regarder la Terre avec émerveillement. Une super IA successeur non consciente serait comme l’energie noir. Un processus cosmique qui fait des choses dans l’univers sur des échelles incroyables,  mais qui n’explore pas la dimension dans laquelle nous nous trouvons. La dimension de la conscience phénoménale subjective. Et ça aussi, c’est une échelle incroyable.

Maintenant, je vous pose la question. Le lien du diagramme est ici. Dites-moi en commentaires dans quel camp vous pensez vous trouver, et surtout… expliquez-moi pourquoi.