L’IA va tous nous tuer ! – avec Liron Shapira

Dans cet épisode captivant, nous recevons Liron Shapira, entrepreneur américain basé en Californie et fervent adepte du mouvement rationaliste. Lecteur assidu de LessWrong et des écrits d’Eliezer Yudkowsky, Liron est également le créateur du podcast Doom Debates, où il explore, commente et débat des risques existentiels posés par l’avènement d’une superintelligence artificielle. Sa perspective, ancrée dans le raisonnement bayésien, attribue une probabilité de 50 % à ce que l’IA provoque l’extinction de l’humanité d’ici 2040.

L’épisode est en anglais sous titré français.

On vous rappelle que pour un meilleur confort, vous pouvez choisir d’écouter le podcast en tâche de fond si vous êtes sur votre ordinateur ou tablette, ou alors de le télécharger directement sur votre téléphone pour pouvoir l’écouter n’importe où. Il suffit de chercher « The Flares » sur votre appli de podcast préférée. Profitez-en pour vous abonner afin de ne pas manquer les prochains podcasts.

Sommaire :
0:00:02 Introduction de l’invité
0:01:41 Altruisme Efficace et Transhumanisme
0:05:38 Epistemologie Baysienne et probabilité d’extinction
0:09:26 Définition d’intelligence et ses dangers
0:12:33 L’argument principal de l’apocalypse de l’IA
0:18:51 Alignement interne de l’IA
0:24:56 Quel sera réellement l’objectif de l’IA ?
0:26:50 Le train de l’apocalypse
0:31:05 Parmi les intellectuelles, qui rejette les arguments de l’apocalypse de l’IA ?
0:38:32 Le meme du Shoggoth
0:41:26 Scénarios possibles menant à l’extinction
0:50:01 La seule solution : Une pause dans la recherche en IA ?
0:59:15 Le risque de violence par des fondamentalistes des risques de l’IA
1:01:18 A quoi ressemblera une IA Générale ?
1:05:43 Les oeuvres de science fiction sur l’IA
1:09:21 Le rationel de la cryonie
1:12:55 A quoi ressemble un avenir positif ?
1:15:52 Vivons-nous dans une simulation ?
1:18:11 Monde multiple dans l’interprétation de la mécanique quantique
1:20:25 Futur invité idéal du podcast Doom Debates

Nous enregistrons nos podcasts avec Riverside: Cliquer sur ce lien pour commencer une période d’essai.

Si vous avez des remarques ou des interrogations à propos de cet épisode, vous êtes bien entendu libres de les poster en commentaires juste en dessous.

On vous souhaite une bonne écoute.