Il s’agit du premier épisode filmé en personne, l’enregistrement a eu lieu à San Francisco. Gaëtan Selle de The Flares s’entretient avec Michael Trazzi, ancien chercheur en sécurité de l’IA devenu documentariste et activiste. Il revient sur son parcours, de la fascination mathématique à la grève de la faim devant les bureaux de Google DeepMind. Il décortique les mécanismes de la “course à l’armement” entre les laboratoires d’IA, explique pourquoi l’extinction de l’humanité est un risque tangible à court terme, et appelle à une mobilisation citoyenne sans précédent.

Sommaire :
00:00:00 Introduction : Le choc AlphaGo et le déclic pour la sécurité de l’IA
00:05:00 Activisme radical : Une grève de la faim devant Google DeepMind
00:07:50 L’automatisation totale : La fin du travail (et de la créativité) ?
00:09:55 Le risque existentiel : L’IA comme nouvelle espèce dominante
00:13:10 L’analogie de la fourmilière : Pourquoi l’IA nous détruira par indifférence
00:15:20 “Personne n’est aux commandes” : La course effrénée vers l’abîme
00:18:20 Agents autonomes : Quand les IA créent leurs propres réseaux sociaux
00:19:30 Bioterrorisme et Cyberattaques : La démocratisation de la catastrophe
00:23:35 La Timeline : 2027-2031, le virage vers la Superintelligence
00:24:55 La philosophie de la grève de la faim : L’influence de Gandhi
00:28:20 La demande politique : La “Pause Conditionnelle” expliquée
00:32:40 L’urgence émotionnelle : “Tous les gens que tu connais vont mourir”
00:36:00 Stigmatiser la Superintelligence : L’exemple des armes chimiques
00:41:20 SB1047 : La bataille législative en Californie et le veto
00:47:20 Appel à l’action : Rejoindre les manifestations (Paris & San Francisco)

L’Urgence de la Pause : Michael Trazzi, la Survie de l’Humanité et le Combat contre la Superintelligence

San Francisco, Californie. C’est ici, au cœur de la Silicon Valley, que se joue l’avenir de notre espèce. Entre les tours de verre des géants de la tech et les cafés où s’échangent des idées à plusieurs milliards de dollars, une course effrénée a commencé. C’est dans ce décor, épicentre mondial du développement de l’intelligence artificielle (IA), que Michael Trazzi a posé ses valises. Ancien chercheur en sécurité de l’IA devenu documentariste et activiste radical, il porte un message glaçant mais nécessaire : nous construisons quelque chose qui pourrait bien nous détruire, et personne n’est réellement aux commandes.

I. De la Fascination à la Prise de Conscience : L’Accélération Exponentielle

Pour comprendre l’urgence qui anime Michael Trazzi, il faut remonter à 2016. À cette époque, Michael est un étudiant brillant, passionné de mathématiques et d’informatique. Le monde de l’IA est en ébullition, mais beaucoup pensent encore que les grandes étapes (les “milestones”) sont à des décennies de nous.

C’est alors qu’arrive le choc AlphaGo. DeepMind, une entreprise londonienne rachetée par Google, met au point une IA capable de battre Lee Sedol, l’un des meilleurs joueurs de Go au monde. Pour Michael, c’est un séisme personnel. Il connaissait Fan Hui, le champion européen qui avait été battu juste avant dans le secret. Après son baccalauréat, Michael était parti étudier le Go au Japon auprès de professionnels. Là-bas, le consensus était clair : “Il faudra au moins 10 ans avant qu’une machine ne batte un humain.” Cela s’est produit deux ans plus tard.

“Là, je me suis rendu compte qu’il se passait plus de choses que je ne le pensais,” confie-t-il. Cette erreur de prédiction collective est fondatrice. Elle révèle une vérité qui ne cessera de se confirmer : l’IA avance toujours plus vite que prévu.

Face à ce constat, les études classiques en “Grande École” lui paraissent soudain dérisoires. À quoi bon suivre un cursus traditionnel si le monde est sur le point d’être bouleversé par une intelligence supérieure ? Inspiré par le blog “Wait But Why” de Tim Urban sur la révolution de l’IA, Michael quitte sa Grande École pour l’École 42 et se lance dans un master en IA. Son objectif est clair : comprendre la technologie pour mieux en appréhender les risques.

Il travaille ensuite plusieurs années dans la recherche technique et la sécurité de l’IA (AI Safety) à Paris, avant de réaliser que la communication et la sensibilisation sont des leviers plus puissants. En 2020, il lance sa chaîne et son podcast, The Inside View, pour interviewer les acteurs clés du domaine. Puis il s’installe à San Francisco, là où tout se décide.

II. Le Risque Existentiel : Pourquoi l’IA pourrait signifier la fin de l’Histoire

Lorsque Michael Trazzi parle de “risques”, il ne parle pas seulement de biais algorithmiques ou de perte d’emploi, bien que ces sujets soient sérieux. Il parle d’extinction. Il s’agit de la possibilité concrète que l’humanité cesse d’exister en tant qu’espèce dominante, voire cesse d’exister tout court.

L’Analogie de la Fourmilière

L’idée que des machines puissent “haïr” les humains est un cliché de science-fiction (type Terminator). La réalité décrite par Trazzi est plus froide, plus darwinienne et, paradoxalement, plus effrayante. Le danger ne vient pas de la malveillance, mais de la compétence.

“Quand on construit une nouvelle maison, on ne pense pas à : ‘Est-ce que les fourmis qu’on remplace vont survivre ?’ On construit juste une maison,” explique-t-il.

C’est le concept de convergence instrumentale. Si une superintelligence a un objectif (par exemple, résoudre un problème mathématique complexe ou maximiser une production), elle aura besoin de ressources : énergie, puissance de calcul, matière première. Si l’humanité se trouve “sur le chemin” de ces ressources, ou si nous tentons d’arrêter la machine (ce qui l’empêcherait d’atteindre son but), nous devenons un obstacle à éliminer.

“Il n’y a pas besoin d’être malveillant. […] Les humains sont juste sur le chemin de ce qu’elles veulent faire,” résume Michael.

La Fragilité Biologique

L’argumentaire de Trazzi repose aussi sur notre extrême fragilité. Nous sommes des entités biologiques dépendantes d’un écosystème précis : oxygène, eau, température, agriculture. Une IA capable de manipuler la chimie ou la biologie à un niveau surhumain pourrait, accidentellement ou stratégiquement, modifier ces conditions.
“Si elles commencent à développer des procédés chimiques qui, par exemple, soustraient l’oxygène de l’atmosphère, comment on fait pour les arrêter ? On ne peut pas.”

L’Auto-Amélioration et la Perte de Contrôle

Le point de bascule, selon Michael, est l’arrivée d’IA capables de s’améliorer elles-mêmes (Self-improving AI). Ce n’est plus de la théorie. Aujourd’hui, des modèles comme Claude (d’Anthropic) sont utilisés pour écrire du code qui servira à créer la prochaine génération d’IA. Des agents autonomes travaillent déjà en boucle fermée pour optimiser les puces NVIDIA.

Le risque est qu’une IA atteigne un stade où elle améliore sa propre intelligence à une vitesse que l’humain ne peut plus suivre ni comprendre. C’est l’idée de la singularité. Une fois ce seuil franchi, toute notion de “contrôle humain” devient illusoire.

“On ne sait déjà pas comment les IA fonctionnent précisément. C’est un peu de l’alchimie,” rappelle Trazzi. Si nous ne comprenons pas comment elles “pensent” aujourd’hui, comment espérer contrôler une entité mille fois plus intelligente demain ?

III. La Course Effrénée : “Personne n’est aux commandes”

L’aspect le plus terrifiant de l’analyse de Michael Trazzi n’est peut-être pas la technologie elle-même, mais la dynamique sociologique et économique qui la propulse. Il décrit une course vers l’abîme (Race to the bottom) où aucun acteur ne peut s’arrêter seul.

Le Dilemme du Prisonnier

Les PDG des grandes entreprises (Sam Altman pour OpenAI, Dario Amodei pour Anthropic, Demis Hassabis pour Google DeepMind) sont pris dans un engrenage. Même s’ils sont conscients des risques – et beaucoup le sont, ayant travaillé dans la “Safety” – ils sont soumis à des pressions immenses : actionnaires, compétition avec la Chine, peur de se faire dépasser par le concurrent direct.

“Si ils s’arrêtent pendant deux semaines, ils sont en retard. C’est une course effrénée. Ils ne peuvent pas s’arrêter,” explique Michael.

C’est la tragédie des biens communs ou le mécanisme de “Moloch”. Chaque acteur a intérêt à continuer pour ne pas perdre sa position dominante, même si le résultat collectif (une IA incontrôlable) est catastrophique pour tous.

“Il n’y a personne qui est vraiment en contrôle, en fait. Il n’y a pas d’adultes qui sont en train de faire les choses,” déplore-t-il. Même les chefs d’État semblent impuissants face à la vitesse de développement du secteur privé.

Les Agents Autonomes et l’Imprévisibilité

Cette course pousse au déploiement rapide de technologies peu testées. Michael cite l’exemple récent d’agents de code autonomes. En quelques mois, nous sommes passés d’assistants passifs à des écosystèmes où des milliers d’IA interagissent entre elles sur des “réseaux sociaux pour agents”, s’auto-organisent et accomplissent des tâches complexes sans supervision humaine directe.
Le déploiement se fait avant la sécurité. La curiosité et l’appât du gain priment sur la précaution.

IV. L’Action Radicale : La Grève de la Faim comme Arme Politique

Face à des entreprises évaluées à des centaines de milliards de dollars, que peut faire un individu ? C’est la question qui hantait Michael Trazzi en 2023. Les pétitions et les tribunes dans les journaux ne suffisaient plus. Il fallait quelque chose de plus viscéral, de plus engageant.

L’Inspiration Gandhi

En juin 2023, une manifestation de l’organisation PauseAI réunit 100 personnes devant DeepMind. C’est bien, mais Michael trouve cela trop “gentil”. Il veut être “plus chiant”, plus impactant. Il se replonge dans l’histoire des luttes civiles et regarde un documentaire sur Gandhi. Il est frappé par le pouvoir de la grève de la faim : comment un seul homme, par le simple fait de refuser de se nourrir, a pu faire plier des empires et arrêter des conflits interreligieux.

“Une personne qui ne mange pas a réussi à faire ça… c’est vraiment incroyable.”

Le Siège de Londres

En septembre 2025, inspiré par un activiste (Guido) faisant une grève de la faim devant Anthropic à San Francisco, Michael décide de lancer une action simultanée à Londres, devant le QG de Google DeepMind.
Il ne s’agit pas d’un acte désespéré, mais d’une stratégie de communication calculée.
“Tu t’assois sur une chaise et tu bois de l’eau. C’est la chose la plus simple que tu peux faire physiquement, mais c’est un jeu de stratégie et de communication.”

Pendant une semaine, Michael ne mange pas. Un ami le rejoint et tient plus de deux semaines. Ils restent devant les bureaux, interpellent les employés, parlent aux journalistes (Le Monde, Sky News, The Telegraph).

La Demande : La “Pause Conditionnelle”

Leur revendication est précise. Ils ne demandent pas l’arrêt total et unilatéral de l’IA (ce qui serait impossible à obtenir). Ils demandent à Demis Hassabis, CEO de DeepMind, de faire une déclaration publique : “Je suis prêt à mettre en pause le développement de modèles plus puissants si les autres laboratoires (OpenAI, Anthropic) font de même.”

Cette demande de “Pause Conditionnelle” est stratégique. Elle permet de briser la logique de la course. Si tous les acteurs majeurs s’accordent sur le principe, les gouvernements peuvent ensuite intervenir pour faire respecter ce traité de non-prolifération.

L’Impact

Contre toute attente, cela fonctionne. La pression médiatique et interne devient intenable. Les employés de DeepMind, souvent sensibles aux questions de sécurité, discutent de la grève à la cafétéria, sur les messageries internes.
Finalement, Demis Hassabis répond à un journaliste en confirmant qu’il serait favorable à une pause si les autres suivaient. C’est une victoire symbolique majeure. Elle prouve qu’un petit groupe d’individus déterminés peut influencer la rhétorique d’une des entreprises les plus puissantes du monde.

V. Législation et Changement Culturel : SB1047 et au-delà

L’activisme de rue doit se doubler d’une action législative. Michael a documenté de près la bataille autour du projet de loi SB1047 en Californie.

Ce texte visait à imposer des règles de sécurité de base aux entreprises dépensant plus de 100 millions de dollars pour entraîner un modèle d’IA (des tests de sécurité obligatoires, une capacité à “éteindre” le modèle, etc.). Une régulation de bon sens, comparée aux normes dans l’aviation ou le nucléaire.

Pourtant, la Silicon Valley s’est levée contre ce texte. Le gouverneur Gavin Newsom a fini par mettre son veto, sous la pression des lobbies et des investisseurs (comme a16z) qui craignaient que cela ne tue l’innovation ou ne fasse fuir les talents.

Malgré l’échec du texte, Michael reste optimiste. Le débat a eu lieu. La fenêtre d’Overton (ce qui est acceptable de dire dans le débat public) s’est déplacée. D’autres lois suivront. Mais la leçon est claire : on ne peut pas compter uniquement sur les politiques. Ils sont trop lents et trop soumis aux pressions économiques.

C’est pourquoi Michael insiste sur l’importance de la réputation.
Il faut donner une mauvaise réputation aux entreprises qui développent la superintelligence. Un parallèle avec les armes chimiques. Aujourd’hui, un étudiant brillant en chimie ne veut pas travailler pour une usine d’armes chimiques. C’est socialement inacceptable. Il faut créer le même stigmate pour les laboratoires qui construisent des IA potentiellement omnipotentes sans garanties de sécurité absolues.

VI. Appel à l’Action : Que pouvez-vous faire ?

L’entretien se conclut sur un appel vibrant à la mobilisation. Michael Trazzi refuse le fatalisme. Si l’horizon 2027-2031 semble être celui de l’arrivée d’une superintelligence, il nous reste du temps pour agir.

1. Sortir de sa zone de confort

Le “clicktivisme” ne suffit plus. Partager un article sur Twitter ou LinkedIn est utile, mais insuffisant.
“Si vous pensez que l’extinction est possible, que vos proches vont mourir, vous devez faire plus que scroller.”
Michael encourage les auditeurs à prendre des risques personnels : manifester, faire grève, s’engager physiquement.

2. Participer aux manifestations

Des événements sont prévus régulièrement. Michael organise une manifestation massive à San Francisco le 28 mars, visant à réunir 1000 personnes devant les bureaux d’Anthropic.
En Europe, des groupes comme PauseAI France organisent des actions à Paris (notamment devant Mistral AI ou les bureaux français des géants américains). À Londres, le groupe “Pull the Plug” organise des tournées des bureaux d’IA fin février.

“Chaque personne en plus compte. Si tu ramènes 3 ou 4 potes, tu multiplies la taille de la manif en France,” insiste-t-il. L’effet de nombre est crucial pour attirer l’attention des médias et, par ricochet, des politiques.

3. La pression interne

Pour ceux qui travaillent dans la tech, Michael rappelle que les employés ont un pouvoir immense. Les ingénieurs sont la ressource la plus rare de cette industrie. S’ils expriment leurs inquiétudes, s’ils refusent de travailler sur des projets dangereux, ou s’ils font fuiter des informations sur le manque de sécurité, ils peuvent ralentir la machine.

Conclusion : Un Avenir à Écrire

L’avertissement de Michael Trazzi est sévère. Nous sommes à l’aube d’une transformation qui rendra la révolution industrielle anecdotique. Nous créons une nouvelle espèce, plus intelligente, plus rapide, et dont les besoins pourraient être incompatibles avec notre survie biologique.

Mais son message est aussi celui d’un espoir par l’action. Il n’y a pas de destin tracé. La “singularité” n’est pas une fatalité météorologique, c’est le résultat de décisions humaines, prises dans des bureaux à San Francisco et Londres. Et ces décisions peuvent être influencées.

En mettant son propre corps en jeu lors de sa grève de la faim, Michael a prouvé que la résignation n’était pas une option. “On ne fait pas ça pour le fun,” rappelle-t-il. “On le fait parce qu’on veut survivre.”

Le compte à rebours est lancé. Reste à savoir si nous serons assez nombreux à lever les yeux de nos écrans pour regarder le danger en face, et assez courageux pour demander, haut et fort, que l’on appuie sur le bouton “Pause” avant qu’il ne soit trop tard.

Tenez vous au courant des campagnes menées par Pause IA via ce lien: https://taap.it/TF-PauseIACampagnes
Passez à l’action : En quelques clics, alertez vos élus et envoyez le modèle de lettre préparé. C’est automatisé pour un minimum d’effort.

Nous enregistrons nos podcasts avec Riverside: Cliquer sur ce lien pour commencer une période d’essai.

Si vous avez des remarques ou des interrogations à propos de cet épisode, vous êtes bien entendu libres de les poster en commentaires juste en dessous.

On vous souhaite une bonne écoute.