Quand nos ordinateurs seront plus intelligents que nous ? 2/2

Lors d’une conférence TED à Vancouver en 2015, Nick Bostrom tente d’imaginer ce qu’il se passera quand nos ordinateurs deviendront plus intelligents que nous. Et c’est très intéressant d’avoir le point de vue d’un philosophe sur la question , puisqu’il enseigne la philosophe à l’université d’Oxford.

Retrouvez la première partie de l’article ici.

Nous devons penser à l’intelligence comme un processus d’optimisation, un processus qui guide le futur dans un certain jeu de configurations. Une super intelligence est un processus d’optimisation très fort. Elle est très douée pour utiliser les moyens disponibles pour atteindre un état dans lequel son but est réalisé. Ça signifie qu’il n’y a pas de nécessaire connexion entre le fait d’être très intelligent, et avoir un objectif que nous, humains, trouverions utile ou ayant du sens.

Supposons qu’on donne comme but à une I.A. de faire rire les humains. Quand l’I.A. est peu développé, elle réalise des actions amusantes qui provoque le sourire de l’utilisateur. Quand l’I.A. devient super intelligente, elle réalise qu’il y a un moyen plus efficace d’atteindre son objectif : prendre le contrôle du monde et implanter des électrodes dans les muscles faciaux des humains pour provoquer des sourires constants. Un autre exemple, supposons qu’on demande à une I.A. de résoudre un problème de math très dur. Quand l’I.A. devient super intelligente, elle réalise que le moyen le plus efficace pour résoudre ce problème est de transformer la planète en un ordinateur géant, pour augmenter sa capacité de calcul.
Bien sûr ce sont des exemples caricaturés. Mais l’argument général est important : si vous créez un processus d’optimisation très puissant pour maximiser les chances d’atteindre l’objectif x, vous devez vous assurer que votre définition de x incorpore tout ce à quoi vous tenez. C’est une leçon qui est enseignée dans de nombreux mythes. Le roi Midas souhaitait que tout ce qu’il touche se transforme en or. Il touche sa fille, elle se transforme en or. Il touche sa nourriture, elle se transforme en or. C’est le revers de la médaille.

Vous pourriez dire que si un ordinateur commence à nous implanter des électrodes ou prendre le contrôle de la planète, nous le débrancherions. Ce n’est pas forcément si facile à faire si nous sommes devenus dépendants, par exemple, comment arrête-t-on internet ? L’important est que nous ne devrions pas croire que nous avons tout sous contrôle.

Nous pourrions tenter de nous faciliter la tâche, disons en mettant l’I.A. dans une boîte, comme un environnement logiciel sûr, une simulation de la réalité d’où elle ne peut s’échapper. Mais à quel point sommes-nous sûrs qu’elle ne trouvera pas un bug. Étant donné que de simples hackers humains trouvent toujours des bugs … La réponse est probablement de découvrir comment créer une super intelligence telle que même si elle s’échappe, on reste toujours en sécurité car elle est fondamentalement de notre côté.

Une I.A. qui utilise son intelligence pour apprendre nos valeurs, et son système de motivation est construit de telle sorte qu’elle est motivée par la recherche de valeurs ou d’actions qu’elle prédit que nous approuverions. Nous pourrions ainsi influencer son intelligence autant que possible à résoudre des problèmes importants.

Le résultat en serait très positif pour l’humanité. Mais ça n’arrivera pas automatiquement. Les conditions initiales de l’explosion de l’intelligence devront être programmées de manière précise si nous voulons obtenir un semblant de contrôle. Les valeurs de l’I.A. devront correspondre aux nôtres, pas seulement dans un contexte familier, où il est facile de contrôler comment l’I.A. se comporte, mais aussi dans de nouveaux contextes que l’I.A. pourrait rencontrer dans un futur indéfini.

Nick Bostrom pense que nous devrions donc commencer à résoudre le problème de contrôle d’abord, pour qu’il soit disponible quand on en aura besoin. On ne pourra peut-être pas résoudre tout le problème du contrôle à l’avance car certains éléments ne peuvent être mis en place qu’à posteriori. Mais plus tôt nous nous penchons sur ce problème de contrôle à l’avance, meilleure seront nos chances pour que la transition vers l’ère de l’I.A. se passe bien.

Les gens, dans un million d’années, penseront peut-être que la chose qui a vraiment été importante au 21ème siècle fut de contrôler le démarrage de la super intelligence artificielle., evitant ainsi une catastrophe si commune dans les récits de Science Fiction.

Pour aller plus loin...

.

Cet article a été écrit par :

Gaëtan

Lorsqu’à 10 ans, j’ai vu le film « Matrix » : BOOOM ! Science-fiction + cinéma, voilà le combo qui m’a motivé à faire du storytelling, une part centrale de ma vie. Depuis, je n’ai cessé d’écrire et réaliser des courts métrages en explorant plusieurs formats, genres et approches. Je réalise aujourd’hui que le questionnement sur la nature de la réalité se retrouve dans presque tous mes projets, mais j’ai également la volonté de donner ouvertement à penser. Les questions sont souvent plus importantes que les réponses et je compte bien continuer à en poser plein … surtout concernant l’avenir !!!

Gaëtan

Lorsqu’à 10 ans, j’ai vu le film « Matrix » : BOOOM ! Science-fiction + cinéma, voilà le combo qui m’a motivé à faire du storytelling, une part centrale de ma vie. Depuis, je n’ai cessé d’écrire et réaliser des courts métrages en explorant plusieurs formats, genres et approches. Je réalise aujourd’hui que le questionnement sur la nature de la réalité se retrouve dans presque tous mes projets, mais j’ai également la volonté de donner ouvertement à penser. Les questions sont souvent plus importantes que les réponses et je compte bien continuer à en poser plein … surtout concernant l’avenir !!!

0 Commentaires

Laisser une réponse

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*

CONTACTEZ NOUS

En cours d’envoi

© 2018 The Flares - Tous les articles et histoires sont sous la licence Creative Commons - Toutes adaptations ou usages commerciaux quelconques sont interdits.

Pourquoi soutenir le collectif The Flares ?

  • Permettre l’essor de nouvelles idées concernant l'avenir.
  • Offrir plus de visibilité à des auteurs et cinéastes de science-fiction.
  • Favoriser une prise de conscience générale sur le monde.
  • Faire partie d'un mouvement engagé.

Souhaitez-vous faire un don au collectif The Flares ?

À quoi servira votre don ?

Votre don servira exclusivement à assurer les coûts nécessaires au fonctionnement de la plateforme.

Remplissez le formulaire ci-dessous pour recevoir le livre gratuitement.

Informations envoyées avec succès :o)

 

Vérifiez votre boîte mail pour récupérer le livre.

Dernière étape : complétez ce formulaire pour rejoindre la communauté.

Consulter la charte d'utilisation des données privées.

Pourquoi soutenir le collectif The Flares ?

  • Permettre l’essor de nouvelles idées concernant l'avenir.
  • Offrir plus de visibilité à des auteurs et cinéastes de science-fiction.
  • Favoriser une prise de conscience générale sur le monde.
  • Faire partie d'un mouvement engagé.

Souhaitez-vous faire un don au collectif The Flares ?

À quoi servira votre don ?

Votre don servira exclusivement à assurer les coûts nécessaires au fonctionnement de la plateforme.

Remplissez le formulaire ci-dessous pour recevoir le livre gratuitement.

Informations envoyées avec succès :o)

 

Vérifiez votre boîte mail pour récupérer le livre.

Dernière étape : complétez ce formulaire pour rejoindre la communauté.

Consulter la charte d'utilisation des données privées.

Pourquoi soutenir le collectif The Flares ?

  • Permettre l’essor de nouvelles idées concernant l'avenir.
  • Offrir plus de visibilité à des auteurs et cinéastes de science-fiction.
  • Favoriser une prise de conscience générale sur le monde.
  • Faire partie d'un mouvement engagé.

Souhaitez-vous faire un don au collectif The Flares ?

À quoi servira votre don ?

Votre don servira exclusivement à assurer les coûts nécessaires au fonctionnement de la plateforme.

Remplissez le formulaire ci-dessous pour recevoir le livre gratuitement.

Informations envoyées avec succès :o)

 

Vérifiez votre boîte mail pour récupérer le livre.

Dernière étape : complétez ce formulaire pour rejoindre la communauté.

Consulter la charte d'utilisation des données privées.

Pourquoi soutenir le collectif The Flares ?

  • Permettre l’essor de nouvelles idées concernant l'avenir.
  • Offrir plus de visibilité à des auteurs et cinéastes de science-fiction.
  • Favoriser une prise de conscience générale sur le monde.
  • Faire partie d'un mouvement engagé.

Souhaitez-vous faire un don au collectif The Flares ?

À quoi servira votre don ?

Votre don servira exclusivement à assurer les coûts nécessaires au fonctionnement de la plateforme.

Remplissez le formulaire ci-dessous pour recevoir le livre gratuitement.

Informations envoyées avec succès :o)

 

Vérifiez votre boîte mail pour récupérer le livre.

Vous connecter avec vos identifiants

Vous avez oublié vos informations ?