Préparer le monde aux défis de l’IA – avec Charbel-Raphaël Segerie

Bienvenue dans ce nouvel épisode du podcast « la prospective » de The Flares, ici Gaëtan. Dans cet épisode, je reçois Charbel-Raphaël Segerie. Il est directeur exécutif du CeSIA (Centre pour la sécurité de l’IA), où il dirige la recherche et l’enseignement en sécurité de l’intelligence artificielle. Il enseigne un cours sur la sécurité de l’IA à l’École Normale Supérieure. Son travail se concentre sur la caractérisation complète des risques émergents liés à l’intelligence artificielle, sur l’interprétabilité, sur les défis associés aux méthodes de sécurité actuelles telles que l’entraînement par renforcement avec feedback humain (RLHF), ainsi que sur les approches de conception sûre de l’IA.

Ceci est une longue conversation, vous pourriez choisir de l’écouter en accélérant la vitesse de lecture.

Sommaire :

0:00:00 Introduction de l’invité
0:07:51 Le centre pour la sécurité de l’IA
0:12:18 Définition d’une AGI
0:21:57 Timeline d’une IA Générale ?
0:34:56 La mise à l’échelle des systèmes d’aujourd’hui sera-t-elle suffisante pour atteindre la généralité ?
0:41:10 Les capacités impressionnantes des modèles d’aujourd’hui
0:45:07 Les risques des agents IA
0:51:34 Quelles sont les prochaines capacités qui seraient dangereuses à obtenir pour une IA ?
1:02:02 Quelles sont les pistes pour les rendre les plus sécurisées possibles ?
1:19:05 Open source ou systèmes fermés
1:28:24 Le Pdoom ou probabilité d’extinction
1:34:15 Les objections les plus solides aux risques catastrophiques de l’IA
1:41:59 Comment une super IA pourrait causer notre extinction ?
1:53:17 Les scenarios positifs
1:59:21 Ressources pour en apprendre plus
2:00:15 Que faire pour contribuer aux solutions ?

On vous rappelle que pour un meilleur confort, vous pouvez choisir d’écouter le podcast en tâche de fond si vous êtes sur votre ordinateur ou tablette, ou alors de le télécharger directement sur votre téléphone pour pouvoir l’écouter n’importe où. Il suffit de chercher « The Flares » sur iTunes ou Podcast addict (ou autre appli de podcast). Profitez-en pour vous abonner afin de ne pas manquer les prochains podcasts. Vous trouverez également l’autre série de podcast que nous avons lancé en collaboration avec l’association technoprog intitutée : « Humain, Demain ».

Nous enregistrons nos podcasts avec Riverside: Cliquer sur ce lien pour commencer une période d’essai.

Si vous avez des suggestions, des remarques ou des interrogations à propos de cet épisode, vous êtes bien entendu libres de les poster en commentaires juste en dessous. On vous souhaite une bonne écoute.