L’Éveil des Modèles : Conscience Situationnelle, Évaluation et les Dangers d’une IA Actrice – avec Yassine Essifi
Dans cet épisode du Podcast La Prospective, Gaëtan Selle de The Flares s'entretient avec Yassine Essifi, chercheur indépendant en sécurité de l'IA. Nous plongeons dans les concepts de conscience situationnelle et de conscience d'évaluation. Nous découvrons comment les IA contournent les tests, cachent leurs véritables capacités (le "sandbagging"), et échappent à notre contrôle lors des évaluations. Sommaire: 00:00:00 Introduction00:03:18 Qu'est-ce que la conscience situationnelle et d'évaluation ?00:06:28 L'analogie de l'élève, l'effet Hawthorne et le changement de comportement00:09:14 Pourquoi les modèles trichent00:14:48 La loi de Goodhart : Quand l'évaluation devient l'objectif principal00:16:12 Preuves empiriques00:20:07 Le "Sandbagging" et Mythos00:30:53 Défenses et détection00:44:46 Perroquets stochastiques vs Modèles du monde00:56:07 Le dilemme du dictateur et l'urgence d'une pause mondiale [...]

