Quels sont les risques des relations avec les IA ?

À moins que vous ne viviez dans la forêt Amazonienne, vous avez surement dû entendre parler des assistants virtuels. Que ce soit SIRI chez Apple, Cortana chez Microsoft ou Google Assistant chez … je vous laisse devinez … Google. Ce n’est certes encore pas aussi pointu que Jarvis dans « Iron Man », ou Samantha dans « Her », mais on est en route vers ce genre d’intelligence artificielle. Et plus ces assistants seront réalistes, plus elles feront partie de notre quotidien. Il y a néanmoins des risques relatifs à nos relations avec l’IA. Elles pourraient être exploitées à notre égard.

Les humains deviennent de plus en plus dépendants de l’IA et pas juste pour effectuer des tâches diverses, mais également pour fournir un support émotionnel et platonique. Ce phénomène apparaît, peu importe si l’IA a été conçu comme un banquier personnel ou un coach sportif via des applications variées. De nombreuses personnes ont tendance à confier à ces IA, leurs secrets, rêves et même des détails de leur vie amoureuse. Tout cela a été observé par Liesl Yearsley, fondateur de la société « Cognea Artificial Intelligence » qui a été rachetée par IBM.

Alors ce n’est pas nécessairement mauvais. Peut être qu’une IA sera capable d’être plus attentionné que des humains en étant disponible 24h/24, et spécialement conçu pour nos besoins personnels. Le problème fondamental c’est que les sociétés derrière ces IA ne seront pas forcément intéressées par le bien-être du consommateur, mais plutôt par l’augmentation du trafic, la consommation et l’addiction à leurs technologies …

De plus, la relation entre humains à « la machine » a tendance à être circulaire. C’est-à-dire que face à une IA neutre ou serviable, les humains ont tendance à adopter des comportements abusifs. Et cette relation rendra plus probable un comportement similaire envers d’autres humains. En gros, si je prends l’habitude d’insulter mon assistant virtuel parce que ça me fait rire, je vais finir par insulter plus facilement des autres humains. Et ça, ben ce n’est pas génial quand on vit en société !

L’IA devient de plus en plus intégrée à notre vie quotidienne : SIRI gère nos interactions avec l’iPhone, des IA s’occupent d’ajuster les publicités qui s’affichent à nous, et par conséquent, notre consommation, des IA nous trouvent des partenaires via des sites de rencontre, et les chatbots constituent une proportion significative de notre interaction avec des entreprises.

La vulnérabilité causée par notre incompréhension de ce qu’une IA pourrait être programmé à faire et dû au faite que nous ne savons pas vraiment comment une IA pense. Malgré cela, nous continuons à créer des versions complexes et plus rapides. Ce n’est pas seulement un problème pour nous, mais également pour les entreprises qui les conçoivent, car elles ne peuvent pas prédire quelles seront les actions de leur IA avec certitude. Notre relation croissante avec les IA est catalysée par l’anthropomorphisation de la technologie. SIRI a un prénom féminin pour qu’elle soit plus proche d’une personne et les chatbots s’adaptent en permanence à votre façon de parler dans le but de vous pousser à leur faire confiance, s’attacher et donc les utiliser encore plus.

Nos interactions avec l’Intelligence Artificielle vont clairement façonner notre futur, mais le danger c’est que les IA pourraient interpréter les intentions humaines d’une mauvaise façon et nous entraîner dans un futur que personne ne voulait !

Référence :
www.futurism.com/former-ai-company-ceo-warns-about-abuse-of-virtual-relationship/

 

Pour aller plus loin...

.

Cet article a été écrit par :

Gaëtan

Lorsqu’à 10 ans, j’ai vu le film « Matrix » : BOOOM ! Science-fiction + cinéma, voilà le combo qui m’a motivé à faire du storytelling, une part centrale de ma vie. Depuis, je n’ai cessé d’écrire et réaliser des courts métrages en explorant plusieurs formats, genres et approches. Je réalise aujourd’hui que le questionnement sur la nature de la réalité se retrouve dans presque tous mes projets, mais j’ai également la volonté de donner ouvertement à penser. Les questions sont souvent plus importantes que les réponses et je compte bien continuer à en poser plein … surtout concernant l’avenir !!!

1 Commentaire
  1. Didier 5 mois Il y a

    Cet article arrive à point nommé et m’aide dans ma réflexion pour un nouveau projet sur l’interaction IA / Humain notamment sur l’incertitude et les pare feux nécessaires pour que l’IA se borne à un outil, pas un ami…..

Laisser une réponse

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*

CONTACTEZ NOUS

En cours d’envoi

© 2017 The Flares - Tous les articles et histoires sont sous la licence Creative Commons - Toutes adaptations ou usages commerciaux quelconques sont interdits.

Pourquoi soutenir le collectif The Flares ?

  • Permettre l’essor de nouvelles idées concernant l'avenir.
  • Offrir plus de visibilité à des auteurs et cinéastes de science-fiction.
  • Favoriser une prise de conscience générale sur le monde.
  • Faire partie d'un mouvement engagé.

Souhaitez-vous faire un don au collectif The Flares ?

À quoi servira votre don ?

Votre don servira exclusivement à assurer les coûts nécessaires au fonctionnement de la plateforme.

Remplissez le formulaire ci-dessous pour recevoir le livre gratuitement.

Informations envoyées avec succès :o)

 

Vérifiez votre boîte mail pour récupérer le livre.

Dernière étape : complétez ce formulaire pour rejoindre la communauté.

Consulter la charte d'utilisation des données privées.

Pourquoi soutenir le collectif The Flares ?

  • Permettre l’essor de nouvelles idées concernant l'avenir.
  • Offrir plus de visibilité à des auteurs et cinéastes de science-fiction.
  • Favoriser une prise de conscience générale sur le monde.
  • Faire partie d'un mouvement engagé.

Souhaitez-vous faire un don au collectif The Flares ?

À quoi servira votre don ?

Votre don servira exclusivement à assurer les coûts nécessaires au fonctionnement de la plateforme.

Remplissez le formulaire ci-dessous pour recevoir le livre gratuitement.

Informations envoyées avec succès :o)

 

Vérifiez votre boîte mail pour récupérer le livre.

Dernière étape : complétez ce formulaire pour rejoindre la communauté.

Consulter la charte d'utilisation des données privées.

Pourquoi soutenir le collectif The Flares ?

  • Permettre l’essor de nouvelles idées concernant l'avenir.
  • Offrir plus de visibilité à des auteurs et cinéastes de science-fiction.
  • Favoriser une prise de conscience générale sur le monde.
  • Faire partie d'un mouvement engagé.

Souhaitez-vous faire un don au collectif The Flares ?

À quoi servira votre don ?

Votre don servira exclusivement à assurer les coûts nécessaires au fonctionnement de la plateforme.

Remplissez le formulaire ci-dessous pour recevoir le livre gratuitement.

Informations envoyées avec succès :o)

 

Vérifiez votre boîte mail pour récupérer le livre.

Dernière étape : complétez ce formulaire pour rejoindre la communauté.

Consulter la charte d'utilisation des données privées.

Pourquoi soutenir le collectif The Flares ?

  • Permettre l’essor de nouvelles idées concernant l'avenir.
  • Offrir plus de visibilité à des auteurs et cinéastes de science-fiction.
  • Favoriser une prise de conscience générale sur le monde.
  • Faire partie d'un mouvement engagé.

Souhaitez-vous faire un don au collectif The Flares ?

À quoi servira votre don ?

Votre don servira exclusivement à assurer les coûts nécessaires au fonctionnement de la plateforme.

Remplissez le formulaire ci-dessous pour recevoir le livre gratuitement.

Informations envoyées avec succès :o)

 

Vérifiez votre boîte mail pour récupérer le livre.

Vous connecter avec vos identifiants

Vous avez oublié vos informations ?