Les dangers de l’IA : l’importance de l’alignement – avec Jérémy Perret

Bienvenue dans ce nouvel épisode du podcast « la prospective » de The Flares, ici Gaëtan. Dans cet épisode, je reçois Jérémy Perret, docteur en intelligence artificielle, passionné par les trajectoires futures de la technologie et de l’humanité en général, parle d’alignement sur Suboptimal et ailleurs.

Ceci est une longue conversation, vous pourriez choisir de l’écouter en accélérant la vitesse de lecture.

Sommaire :

0:00:00 Introduction
0:02:19 Présentation de l’invité
0:03:56 L’évolution de l’intelligence artificielle depuis 10-15 ans et les trajectoires futurs
0:16:54 L’omniprésence de l’I.A. dans le futur
0:22:28 Quelles sont les prochaines étapes à franchir ? Et l’hypothèse de la mise à l’échelle
0:28:45 Les techniques actuelles sont-elles suffisantes pour mener à des I.A. de « niveau humain » ?
0:37:23 Existe-t-il déjà des systèmes qui manifestent de la généralité dans leurs capacités ?
0:47:39 Peut-on éduquer les I.A. comme des enfants ?
0:55:57 Comment des I.A. pourraient poser des risques sans être incarnées dans le monde physique ?
1:02:26 Types de scenarios pouvant causer un risque existentiel et la perte de contrôle
1:09:47 Peut-on rendre les I.A. incertaines de leurs objectifs dans le but d’augmenter leur sécurité ?
1:15:37 Quelles sont les autres approches pour rendre les I.A. robustes et sans danger ?
1:25:38 Prognostique de Jérémy sur la date d’une I.A. générale ?
1:37:56 Est-ce que l’I.A. est le risque existentiel le plus probable ?
1:53:56 Les futurs positifs qui pourraient découler de l’alignement d’I.A. générales
2:03:49 Les ouvrages de références sur le sujet et l’altruisme efficace
2:08:06 Où en apprendre plus sur le sujet et sur Jérémy Perret ?

On vous rappelle que pour un meilleur confort, vous pouvez choisir d’écouter le podcast en tâche de fond si vous êtes sur votre ordinateur ou tablette, ou alors de le télécharger directement sur votre téléphone pour pouvoir l’écouter n’importe où. Il suffit de chercher « The Flares » sur iTunes ou Podcast addict (ou autre appli de podcast). Profitez-en pour vous abonner afin de ne pas manquer les prochains podcasts. Vous trouverez également l’autre série de podcast que nous avons lancé en collaboration avec l’association technoprog intitutée : « Humain, Demain ».

Nous enregistrons nos podcasts avec Riverside: Cliquer sur ce lien pour commencer une période d’essai.

Si vous avez des suggestions, des remarques ou des interrogations à propos de cet épisode, vous êtes bien entendu libres de les poster en commentaires juste en dessous. On vous souhaite une bonne écoute.