Homme et machine : quelle relation pour demain ?

À moins que vous ne viviez dans la forêt Amazonienne, vous avez surement dû entendre parler des assistants virtuels. Que ce soit SIRI chez Apple, Cortana chez Microsoft ou Google Assistant chez … je vous laisse devinez … Google. Ce n’est certes encore pas aussi pointu que Jarvis dans “Iron Man”, ou Samantha dans “Her”, mais on est en route vers ce genre d’intelligence artificielle. Et plus ces assistants seront réalistes, plus elles feront partie de notre quotidien. Il y a néanmoins des risques relatifs à nos relations avec l’IA. Elles pourraient être exploitées à notre égard.

Les humains deviennent de plus en plus dépendants de l’IA et pas juste pour effectuer des tâches diverses, mais également pour fournir un support émotionnel et platonique. Ce phénomène apparaît, peu importe si l’IA a été conçu comme un banquier personnel ou un coach sportif via des applications variées. De nombreuses personnes ont tendance à confier à ces IA, leurs secrets, rêves et même des détails de leur vie amoureuse. Tout cela a été observé par Liesl Yearsley, fondateur de la société “Cognea Artificial Intelligence” qui a été rachetée par IBM.

Alors ce n’est pas nécessairement mauvais. Peut être qu’une IA sera capable d’être plus attentionné que des humains en étant disponible 24h/24, et spécialement conçu pour nos besoins personnels. Le problème fondamental c’est que les sociétés derrière ces IA ne seront pas forcément intéressées par le bien-être du consommateur, mais plutôt par l’augmentation du trafic, la consommation et l’addiction à leurs technologies …

De plus, la relation entre humains à “la machine” a tendance à être circulaire. C’est-à-dire que face à une IA neutre ou serviable, les humains ont tendance à adopter des comportements abusifs. Et cette relation rendra plus probable un comportement similaire envers d’autres humains. En gros, si je prends l’habitude d’insulter mon assistant virtuel parce que ça me fait rire, je vais finir par insulter plus facilement des autres humains. Et ça, ben ce n’est pas génial quand on vit en société !

L’IA devient de plus en plus intégrée à notre vie quotidienne : SIRI gère nos interactions avec l’iPhone, des IA s’occupent d’ajuster les publicités qui s’affichent à nous, et par conséquent, notre consommation, des IA nous trouvent des partenaires via des sites de rencontre, et les chatbots constituent une proportion significative de notre interaction avec des entreprises.

La vulnérabilité causée par notre incompréhension de ce qu’une IA pourrait être programmé à faire et dû au faite que nous ne savons pas vraiment comment une IA pense. Malgré cela, nous continuons à créer des versions complexes et plus rapides. Ce n’est pas seulement un problème pour nous, mais également pour les entreprises qui les conçoivent, car elles ne peuvent pas prédire quelles seront les actions de leur IA avec certitude. Notre relation croissante avec les IA est catalysée par l’anthropomorphisation de la technologie. SIRI a un prénom féminin pour qu’elle soit plus proche d’une personne et les chatbots s’adaptent en permanence à votre façon de parler dans le but de vous pousser à leur faire confiance, s’attacher et donc les utiliser encore plus.

Nos interactions avec l’Intelligence Artificielle vont clairement façonner notre futur, mais le danger c’est que les IA pourraient interpréter les intentions humaines d’une mauvaise façon et nous entraîner dans un futur que personne ne voulait !