Extinction de l’humanité : sommes-nous au bord du précipice ?

Faible probabilité, enjeux monumental

Le professeur et philosophe Nick Bostrom de l’université d’Oxford s’intéresse à plusieurs sujets et ils se focalisent tous sur la vision globale de l’avenir de l’Humanité. En particulier, à ce qu’il appelle “les risques existentiels”. Il s’agit de risques qui menacent l’existence même de notre espèce, comme la racine du mot l’indique. Ce monsieur travaille avec un groupe de scientifique/philosophe au “Future of Humanity Institute”. Il s’agit sans doute de la première fois, dans notre histoire, qu’un groupe de personne se réunit pour s’intéresser sérieusement à ce genre de question en se focalisant sur des aspects scientifiques afin d’aller plus loin que juste de la spéculation.

Nous avons tendance à nous focaliser sur des “petits risques”. Pour la bonne raison qu’ils se produisent assez souvent. Accident de voiture, incendie, jambe cassée, etc. Mais selon lui, l’importance d’un risque est le résultat de (sa probabilité à se produire) multiplié par (la magnitude de ses conséquences) :

Et un risque existentiel possède une magnitude tellement grande que même multipliée par une petite probabilité, le résultat reste largement élevé. En d’autres termes, même s’il y a une probabilité de 1% que l’Humanité disparaisse d’ici la fin du siècle, la magnitude des conséquences est si grande que l'”importance” de ce risque est clairement à prendre en considération. Comparé à, disons, le vol de votre voiture qui a une probabilité bien plus grande, mais peu de conséquences si ce n’est de vous énerver. Du coup, Nick Bostrom pense que les tentatives de réduire ses risques existentiels sont des tâches très importantes, car même si la réduction est de 0.1%, cela pourrait causer une nette différence étant donné que ce petit nombre se multiplie avec une très grande valeur. Le résultat est donc une réduction significative du risque ! C’est une tâche bien plus importante que tenter de guérir le cancer ou stopper la faim dans le monde. Après tout, c’est logique. À quoi bon guérir le cancer demain si l’Humanité cesse d’exister dans 50 ans. D’où l’importance de focaliser les ressources et recherches dans la réduction de ces risques.

Mais l’étude des risques existentiels n’en est qu’à ses débuts, ce qui implique qu’il y a encore beaucoup d’incertitude quand aux meilleurs moyens de les réduire.

L’importance des futurs générations

Les risques existentiels ne menacent pas seulement le 21e siècle et les 6-7 générations qui sont à venir, mais bien le futur tout entier, qui est bien plus important que le présent + le passé combiné en termes de nombre de vies. Si nous atteignons la maturité technologique, nous pourrions coloniser la Galaxie et l’Univers. Des trillions de fois plus de vie que tous les Humains réunis depuis nos origines. Donc à partir de ce point de vue cosmique, notre époque est extrêmement précieuse. C’est comparable à une graine et nous devrions porter toute notre attention pour s’assurer que cette graine arrive à germination. Et il faut bien l’avouer, le commun des mortels ne pense pas trop aux risques existentiels, ni même les médias ou les gouvernements. Alors si, bien sûr il y a le changement climatique, les pandémies ou encore les astéroïdes comme mentionnés précédemment. Ces risques sont certes, existentiels, mais ils ne font pas partie des plus “importants” pourtant ils sont quand même mis en avant la plupart du temps. Pourquoi ? Tout simplement, car ils nous touchent directement. Les effets du changement climatique peuvent vous faire perdre votre maison suite à un ouragan et un astéroïde pourrait très bien s’écraser sur votre voiture. Ce sont des risques que nous expérimentons déjà alors que les majeures ne sont, par définition, jamais arrivées (sinon on ne serait pas là pour en parler). Du coup, nous n’avons aucun moyen de les appréhender faute d’expériences passées.

Pour aller plus loin, j’ai contacté Arsène Pierrot qui est en pleine réflexion sur les risques existentiels puisqu’il est en train d’écrire une thèse sur le sujet à l’institut des systèmes complexes Paris Île-de-France.

Le potentiel de l’humanité peut être vue comme un arbre possédant de nombreuses branches. Chaque branche étant un futur possible. Plus elles sont nombreuses, plus nous avons un potentiel ouvert. Et plus on a de chance d’évoluer vers un futur désirable. Une catastrophe existentielle est donc une grosse tronçonneuse qui découpe toutes les branches ou presque. Ce qui diminue logiquement notre champ des possibles.

Le 21e siècle est-il le plus important de l’Histoire ?

Alors lorsque je réfléchis au risque existentiel, j’ai notamment cette question qui ne cesse de revenir dans mon esprit : quelle est l’importance de notre place dans la chronologie passée et future de l’humanité ? Serait-il possible que le 21e siècle soit l’une des époques les plus cruciales de la grande histoire humaine ?

C’est une proposition qui paraît extrêmement arrogante ! Comment peut-on être aussi important sur une échelle de temps qui s’étale de 200 000 ans dans le passé à des milliers voir millions d’années dans le futur ?

Pourtant un groupe grandissant de philosophes, mathématiciens, et chercheurs pluridisciplinaires apportent des éléments de réflexions qui semblent indiquer que c’est effectivement peut-être le cas. Ils font partie en autre des communautés longtermistes, altruistes efficaces ou encore transhumanistes. C’est le cas du philosophe britannique Toby Ord, chercheur au futur of humanity institute et auteur du livre “The precipice”. Probablement l’un des livres les plus complets sur le sujet des risques existentiels et sur lequel cette vidéo se base principalement.

Mais d’abord, si l’on veut comprendre notre place dans l’histoire, il faut regarder les époques qui nous ont précédés. Il y a eu de grandes transitions dans l’histoire de l’humanité qui ont façonné ce que l’on pourrait appeler notre condition. C’est-à-dire à peu près toutes les caractéristiques qui constituent notre vie quotidienne. Certaines sont restées globalement inchangées depuis les 1ers homo sapiens, comme nos émotions ou notre biologie. D’autres sont compléments différents comme nos moyens de transport, lieux de vie et la plupart de nos activités.

La première de ces transitions eut lieu il y a environ 10 000 ans avec la révolution agricole. L’agriculture a permis de supporter 100 fois plus de personnes sur le même territoire que la chasse/cueillette. Ce qui encouragea la spécialisation des tâches, une collaboration bien plus grande entre les individus, la naissance des villes, l’invention de l’écriture, les mathématiques, les lois, des institutions, et au bout du compte la civilisation. Gros changement vous en conviendrez !

Il y a 400 ans, la révolution scientifique marqua à nouveau la frise chronologique au marqueur indélébile. Les premières formes de science étaient pratiquées depuis l’Antiquité, et les germes de l’empirisme se trouvent dans les travaux des savants médiévaux du monde islamique, asiatique et européen. Mais il y a seulement 400 ans, l’humanité a développé la méthode scientifique et l’institutionnalisation de la science. Cette création systémique de nouvelles connaissances ayant une correspondance avec le réel, nous a consolidé sur un chemin de progrès, porté par le projet de la philosophie des lumières. Progrès moral et social comme l’abolition de l’esclavage, l’éducation publique ou la diffusion de la démocratie. Et progrès technologique, donnant à l’humanité un pouvoir croissant sur le monde naturel.

Et enfin, il y a 200 ans, la révolution industrielle est née de notre capacité accrue d’exploiter d’immenses réserves d’énergie solaire vieillent de millions d’années, désormais piégée sous forme fossile. La productivité et la prospérité ont accéléré drastiquement grâce à l’automatisation, donnant naissance à l’ère moderne. En mettant de côté les conséquences positives et négatives, ces 3 périodes sont généralement considérées comme charnière dans notre histoire.

Mais Toby Ord pense que depuis peu, nous avons transitionné dans une nouvelle et peut-être dernière époque.

Étant donnée la rareté des événements naturels d’extinction comme les super volcans ou astéroïdes, le 20e siècle est certainement le 1er siècle depuis des centaines de milliers d’années où la probabilité d’extinction a augmenté pour notre espèce. La première détonation d’une bombe nucléaire marque le moment précis où le rapide développement technologique de l’humanité a atteint un seuil unique. Celui qui marque la limite passée laquelle notre extinction n’est plus réservée aux menaces naturelles externes comme les astéroïdes, mais introduit les moyens de causer notre propre extinction. Je vous laisse quelques secondes pour saisir ce fait. Notre probabilité d’extinction est restée à peu près la même pendant des centaines de milliers d’années, jusqu’au 16 juillet 1945 à 5h30 du matin !

Et il est raisonnable de conclure que sans un effort pour mitiger les risques existentiels anthropogéniques, la probabilité d’extinction ne fera que croître au fil des siècles. Elle est déjà plus élevée au 21e avec l’arrivée de la biologie synthétique, de la nanotechnologie et l’intelligence artificielle sur la liste du plausible. Et nous ne savons pas quelle est la taille de cette liste si l’on pousse le curseur du développement technoscientifique encore plus loin.

Autrement dit, le précipice se rapproche et nous n’avons peut-être que quelque siècle pour s’y éloigner. C’est pourquoi Toby Ord appelle cette nouvelle période, l’ère du précipice. Il est clairement très à l’aise avec les métaphores ce monsieur.

L’extinction a cette particularité d’être un état permanent. Autrement dit, lorsqu’une espèce s’éteint, elle le reste jusqu’à la fin des temps. Game over. Aucun retour possible. Sauf cas extraordinaire d’une intelligence qui utilise le génie génétique pour ramener une espèce à l’existence. Pensez Jurassic Park ! Ces scénarios appelés dé-extinction ne sont pas pris en compte puisqu’ils ne dépendent pas de nos actions. Et même en cas de dé-extinction, nos potentiels futurs seraient a priori très restreints, puisqu’entre les mains des êtres qui nous ont ramenés.

Mais l’extinction n’est pas la seule conséquence d’une catastrophe existentielle. Toby Ord distingue deux autres scénarios qui signifieraient l’annihilation du potentiel de l’humanité. Le premier concerne un monde ravagé où la civilisation s’est complètement effondrée, la population humaine si peu nombreuse, que tout espoir de reconstruire et de relancer notre potentiel est réduit à néant. Le deuxième portrait un monde gouverné par un régime totalitaire répressif déterminé à se maintenir en place à l’aide de technologies avancées de contrôle. Comme la surveillance omniprésente, le contrôle d’esprit et la suppression de nouvelles idées.

Même si ces deux scénarios ne causent pas directement notre extinction, ils auraient un effet similaire sur notre potentiel. Le vaste choix de futurs qui nous est actuellement ouvert s’effondrerait en une gamme étroite d’options dystopiques.

Maintenant que le constat est fait, nous avons deux possibilités : soit nous ne faisons rien et laissons la probabilité d’extinction augmenter au fil des décennies, ce qui mènera inévitablement à notre extinction. Soit nous essayons de faire baisser cette probabilité jusqu’à peut-être un point hypothétique où les risques existentiels ne seront plus jamais une menace pour notre espèce. Ce que Toby Ord appelle la sécurité existentielle. Je considère que cette étape correspond à la maturité technologique.

Classifier les catastrophes existentielles

La première chose à faire c’est d’essayer de mieux comprendre ces risques grâce à des classifications. Ça tombe bien, les humains adorent mettre des choses dans des catégories.

On a d’abord la classification la plus utilisée, et que j’ai déjà mentionnée au début de cet épisode. Entre risques naturels qui sont relativement constants au cours du temps, et risques anthropogéniques qui peuvent être actuels, émergent et surtout exponentiels.

Cette dernière classification est particulièrement détaillée et provient d’un article du futur of humanity institute. Pour chacune de ces catégories, plusieurs types de risques sont définis.

Au niveau de la classification par l’origine du risque, on trouve les cas de risques venant d’un petit groupe. Trois cas de figure :

• Un risque invisible intervient lorsque peu de personnes sont impliquées dans le déclenchement de la catastrophe et ils ne sont pas conscients du préjudice potentiel. Par exemple des chercheurs menant une expérience inédite en physique qui cause un trou noir.
• Un risque accidentel survient lorsque peu de personnes causent une catastrophe existentielle par accident. Par exemple une erreur de jugement lors d’une tension nucléaire qui mène à une guerre totale.
• Si le risque est connu et intentionnel, nous avons un risque malveillant. Cela pourrait être le cas d’une attaque terroriste extrême visant à éradiquer les êtres humains.

Ensuite nous avons le cas de figure où un large groupe de personnes est à l’origine d’une catastrophe existentielle. Là encore, plusieurs scénarios :

• Un risque latent où de nombreuses personnes ne sont pas conscientes que leurs activités causent une catastrophe potentiellement existentielle. Un cas évident est le trou dans la couche d’ozone où il a fallu plusieurs décennies avant de comprendre les effets des gaz CFC présents dans les aérosols et réfrigérateurs .
• Dans certains cas, les gens peuvent être conscients des risques et s’engager quand même dans l’activité. Ce qui est appelé risque commun et résulte souvent d’un échec de coordination international. Pensez à la tragédie des biens communs. Par exemple, ne pas agir ensemble pour lutter contre le réchauffement climatique.
• Enfin, le cas où un grand nombre de personnes se livrent à une activité visant à causer un préjudice délibéré est appelé un risque de conflit. Typiquement une guerre nucléaire intentionnelle.

Lorsque l’on regarde la catégorie de l’escalade, 3 classes se dégagent.

• Le risque peut être large, auquel cas il va causer très rapidement l’extinction. L’exemple archétypal est l’impact d’astéroïde.
• Les risques d’effet levier sont ceux qui atteignent une échelle globale en une ou quelques étapes, par exemple si l’extinction d’une espèce critique cause un effondrement de l’écosystème entier.
• Si la mise à l’échelle se produit en suivant de nombreuses étapes successives, comme des dominos qui s’effondrent, nous disons que le risque est en cascade. L’exemple typique est une pandémie qui se propage dans la population humaine.

Et pour finir sur ce type de classification, on peut regarder la dernière catégorie : le dénouement. Car pour tuer tout le monde, la catastrophe doit atteindre tout le monde. Pour cela, on a deux types de possibilités. Risque indirect et risque direct.

• Si la planète entière est frappée par un sursaut de rayons gamma détruisant l’atmosphère, cela tuera vraisemblablement tout le monde. Auquel cas on parle de risque omniprésent.
• Un risque vecteur concerne tout risque qui va finir par atteindre tout le monde, même si cela prend du temps. Comme un virus qui possède un temps d’incubation suffisamment long ou si la catastrophe provient d’une technologie que l’on porte tous sur soi. Potentiellement des nanorobots médicaux qui dysfonctionnent au bout de quelques décennies.
• Agency risk (que je traduis par risque intentionnel à défaut de trouver mieux) est un autre type de risque direct. Il s’agit d’un ou des acteurs essayant délibérément d’atteindre tout le monde. Le cas classique d’une intelligence artificielle mal alignée ou extraterrestre qui nous en veut tout particulièrement pour x raisons.

Et dans les risques indirects, on a :

• Les risques d’habitat qui rendent impossible la survie à long terme en modifiant ou en détruisant l’environnement dans lequel nous vivons. Par exemple un hiver nucléaire qui rend l’agriculture impossible et les derniers survivants finissent par mourir rendant l’espèce éteinte.
• Les risques de capacité ont comme effet la suppression définitive d’une capacité sociétale importante, conduisant sur le long terme à l’extinction. Par exemple, si pour une raison ou pour une autre nous perdons la capacité de produire de l’électricité et sommes finalement anéantis par une autre catastrophe qui aurait pu facilement être évitée dans un monde avec électricité.

Avec un tel niveau de classification, il nous est possible de décortiquer de façon bien plus précise comment une catastrophe existentielle pourrait causer l’extinction de l’humanité. Voyons quelques exemples.

Une pandémie artificielle relâchée par des terroristes est un risque d’origine malicieuse, qui escalade en cascade, et qui devient un risque vecteur lors du dénouement .
Une fausse alerte déclenchant une guerre atomique avec l’hiver nucléaire qui s’ensuit est un risque d’origine accidentel, qui escalade par levier et qui devient un risque d’habitat lors du dénouement.

Et dernier exemple :
L’explosion d’intelligence d’une IA produisant une super intelligence artificielle qui élimine tous les humains pour éviter toute interférence avec ses objectifs. Il s’agit d’un risque d’origine invisible, qui escalade par levier ou cascade en fonction de la rapidité d’action et qui devient un risque intentionnel lors du dénouement.

Je vous laisse appliquer cette classification à d’autres exemples, vous verrez c’est marrant de penser la fin de l’humanité !

L’avantage de cette classification est également la volonté de dresser des points communs entre les risques potentiels. Ce qui souligne des possibles moyens de prévention, défense et résilience.

Allons nous passer le cap du 22e siècle ?

Nous avons atteint une riche compréhension du monde et un niveau de santé et de prospérité dont nos ancêtres ne pouvaient que rêver. Nous avons commencé à explorer ce qui se trouve au-delà de notre planète et à créer des mondes virtuels incompréhensibles pour les anciennes générations. Nos futurs offrent des possibilités si grandes qu’on peut presque dire qu’elles sont sans limites. Cela ajoute un poids incroyablement élevé à nos actions. Nous déterminons littéralement le futur de potentiellement des quintillions d’entités descendant directement ou indirectement de l’humain et ayant des expériences qui seront infiniment plus merveilleuses. Autrement dit, si tout se passe bien, l’histoire humaine n’en est qu’à ses débuts et le fun n’a encore pas commencé.

Mais au bout du compte, quelle est la probabilité de risque existentiel d’ici 100 ans ou la fin du siècle si on reste sur le 21e.

Déjà, en utilisant le doomsday argument, l’astrophysicien John Richard Gott estime qu’il y a 50% de chance que l’humanité disparaisse dans les 770 prochaines années. Mais l’argument de l’apocalypse est loin d’être sans faille et si vous souhaitez plus de détails sur cette estimation, je vous invite à regarder notre précédent article sur le sujet. Toboy Ord estime quant à lui que nous avons 1 chance sur 6 de nous éteindre durant le 21e siècle.

L’ère du précipice va peut-être durer un, deux ou trois siècles jusqu’à ce qu’on atteigne la sécurité existentielle. Dans 1000 ou 100 000 ans, les historiens du futur considérons notre époque comme la plus importante de l’histoire. Celle où l’humanité a connu le niveau le plus élevé d’extinction avec les capacités les plus faibles pour y faire face, mais pourtant, contre toute attente, s’en est sorti. C’est évidemment le bon scénario. Le mauvais, personne ne sera là pour le décrire.

Bien sûr, la planète Terre s’en sortira très bien sans nous et la vie également. Du moins jusqu’à la mort du soleil. Mais quand même. Il n’y a pas besoin d’être un sentimental pour comprendre que l’extinction signifierait la perte de tout ce qui a eu de la valeur pour nos ancêtres. La ruine de tout ce que nous avons construit, l’oublie de tous nos poèmes, nos arts, nos découvertes et pensées. La destruction de toutes les traditions culturelles que la Terre a connues. Jusqu’à preuve du contraire, notre niveau d’intelligence et conscience subjective sont peut-être extrêmement rares dans l’univers observable. Il est estimé qu’il y a eu jusqu’à 5 milliards d’espèces vivantes sur Terre en 4 milliards d’années. Une seule s’est révélée capable de considérer sa place dans l’univers. De comprendre une partie de la réalité et d’apporter une dimension morale de bien et de mal, en tous cas selon le point de vue de l’antiréalisme moral.

Peut-être que nous sommes dans une galaxie à la Star Wars grouillante de civilisations. Auquel cas, notre extinction n’a pas tant d’importance que ça sur l’échelle cosmique. Peut-être que notre futur sera une atrocité infernale pleine de souffrance inimaginable auquel cas notre extinction avant ce stade serait une bonne chose (si vous êtes un utilitariste négatif). Peut être que nous n’avons pas un si grand potentiel que ça et que nous sommes fondamentalement dans l’erreur.

Notre vision de l’avenir est encore obscurcie par l’ignorance et déformée par des préjugés. Dans le doute, je pense qu’il est rationnel de faire preuve d’incertitude morale sur notre importance cosmique et sur le potentiel futur de l’humanité. Tant que nous trouvons les arguments en faveur de la sauvegarde de notre avenir plausibles, il serait extrêmement imprudent de les négliger.

Juste au cas, il vaut mieux rester dans la danse jusqu’à ce que ces incertitudes morales se dissipent. Nos descendants seront vraisemblablement bien plus sages que nous. Laissons donc nos options ouvertes et faisons en sorte que nos descendants aient une chance de choisir le meilleur futur possible.

Merci encore à Arsène Pierrot d’avoir partager ses réflexions. Nous avons discuté pendant plus de 3h sur le sujet, et la conversation complète sera disponible ou est déjà disponible dans notre série de podcast “La prospective”.