Quels sont les avantages de l’intelligence artificielle ?

Le chercheur Eliezer Yudkowsky a déclaré :

“Aucun problème n’est impossible à résoudre, il y a seulement des problèmes difficiles à résoudre pour un certain niveau d’intelligence. Déplacez le curseur un cran au-dessus, sur l’échelle d’intelligence, et certains problèmes vont soudainement passer de “impossible” à “évident”. Déplacez le curseur de 10 crans au-dessus, et tous les problèmes deviennent évidents.”

Le pouvoir de l’intelligence

L’intelligence est un moyen très puissant pour résoudre des problèmes. Nous avons beaucoup de problèmes à résoudre aujourd’hui, donc logiquement, nous avons besoin de plus d’intelligence. Une super intelligence artificielle a clairement le potentiel de nous aider à résoudre nos problèmes. Voilà en résumé l’idée que mettent en avant les technos optimistes.

Et si l’on compare cela avec notre propre capacité à résoudre les problèmes d’une autre espèce, on comprend que notre relation avec une super intelligence artificielle peut être extrêmement bénéfique. Par exemple, un chien est un animal qui fait face à plusieurs problèmes : Trouver de la nourriture, rester en bonne santé, survivre, jouer avec d’autres chiens, se socialiser, se balader en toute sécurité. Les chiens sont clairement des animaux intelligents, mais en s’alliant avec une intelligence supérieure, celle des humains, ils n’ont plus à se soucier de ces problèmes. Ils sont nourris sans avoir à chasser, ils sont soigner et vacciner pour des maladies qu’ils ne savent même pas comment ni par quoi elles sont causées, ils sont promenés dans des parcs où ils peuvent s’amuser avec d’autres chiens. On peut se dire que la qualité de vie d’un chien appartenant à un humain est supérieure à celle d’un chien errant. Et généralement, leur espérance de vie aussi. Sauf cas extrême où le chien est battu par son maître.

C’est idée est notamment mise en avant par Elon Musk qui pense que l’un des meilleurs scénarios possible après l’émergence d’une super IA, c’est qu’elle nous considère comme des animaux de compagnie. C’est selon lui, une meilleure alternative que l’extinction.

Il ne faut pas oublier que nous créons de la technologie dans le but de nous aider à régler nos problèmes. Et cela marche puisque la technologie nous a permis de mettre fin aux deux plus gros problèmes qu’a fait face notre espèce depuis le début de son histoire. Effectivement, si vous ouvrez des livres d’histoire, vous constaterez deux obstacles récurrents qui ont eu la fâcheuse tendance à se mettre sur notre chemin. La famine et les épidémies. Nos ancêtres ont prié un nombre considérable de Dieu, Déesse, anges et esprits dans le but d’obtenir de l’aide contre ses deux tourments. Ça n’a pas marché. Nous avons essayé toute sorte de systèmes politiques et modèle économique. Ça n’a pas marché non plus. Mais au cours des deux derniers siècles, en grande partie grâce à l’ingéniosité de notre espèce et au développement scientifique et technologique, nous avons pris le contrôle sur la famine et les épidémies.

La famine a accompagné l’humanité depuis le berceau de la civilisation. Jusque récemment, la majorité des humains vivaient dans des conditions très rudes où la moindre erreur ou un peu de malchance pouvait facilement être synonyme de peine de mort pour le village tout entier qui se retrouvait sans nourriture. Lorsque la sécheresse frappait l’Inde ou l’ancienne Égypte, il n’était pas rare que 5 à 10 % de la population périssent. Les provisions étaient trop justes, le transport trop lent et cher et les gouvernements étaient bien impuissants face aux caprices de la nature. Mais aujourd’hui, grâce au développement technologique, il y a plus de personnes qui meurent de trop manger que de ne pas assez manger. Et ça, c’est vraiment un fait qui était inimaginable il n’y a ne serait ce que un siècle. Si en 2019, un être humain meurt, car il n’a pas eu assez à manger, en Syrie, en Corée du Nord ou en Somalie, ce n’est pas dû à une cause naturelle comme c’était le cas dans la passé. Que ce soit une invasion de sauterelles, un hiver rude ou une maladie dans les champs. Mais c’est bien parce qu’un leader politique, un gouvernement ou une idéologie a permis à cet être humain de mourir de faim. En vérité, trop manger est devenu un problème bien plus grave que la famine. C’est dire l’évolution !

Au niveau des épidémies, c’est pareil. Il fut un temps où les gens vivaient leur vie en se disant que la semaine prochaine, il pourrait attraper une maladie et mourir presque sur-le-champ. Ou qu’une épidémie pourrait éradiquer leur famille entière en quelques jours. Lors des derniers siècles, l’humanité s’est rendue encore plus vulnérable aux épidémies grâce à un large réseau de transport international et une démographie en plein boom. Pourtant, les épidémies ont baissé drastiquement. Ce paradoxe s’explique par des progrès ahurissants en médecine qui se traduisent par la vaccination, les antibiotiques, une meilleure hygiène et des infrastructures médicales de qualité. Nous ne sommes évidemment pas à l’abri d’une épidémie, mais aujourd’hui, la médecine a tendance à gagner la course contre la nouvelle infection. On peut donc dire que les épidémies sont des risques bien plus faibles pour l’humanité qu’elles ne l’étaient par le passé. Nous mourrons bien plus de maladie non infectieuse comme le cancer. En faite, il y a largement plus de personnes qui meurent de vieillesse que de personne mourant de maladie infectieuse. C’est aussi une première dans notre histoire !

Tout cela pour dire que l’intelligence artificielle est également une technologie qui a pour but de nous aider à régler des problèmes. Et lorsque l’on aura une super IA, elle sera super compétente pour nous aider (si elle est sous contrôle).

Résoudre tous nos problèmes ?

Si l’on compare ce qu’est capable l’intelligence humaine, comparée à ce qu’est capable l’intelligence des autres animaux, on arrive plus facilement à saisir l’implication qu’une super IA pourrait avoir face à nos problèmes. En effet, il est difficile de trouver ne serait-ce qu’un seul problème difficile pour, disons un chimpanzé, qui serait également un problème difficile à résoudre pour nous. Si on imagine un groupe de chimpanzé demander notre aide pour se débarrasser d’un prédateur leur posant des soucis au quotidien, on n’aura pas trop de mal à trouver une solution. Si une colonie de fourmis souhaite régler leur problème de guerre constante avec une fourmilière voisine, ce sera facile pour les humains. On pourrait les enflammer, les noyer, tuer leur reine, perturber leur phéromone, déplacer complètement la fourmilière … les solutions sont nombreuses, triviales et complètement hors de porté de la plus intelligente des fourmis. Et si on le décide, on pourrait créer un véritable paradis pour une fourmilière, en leur donnant tout ce dont elles ont besoin pour s’épanouir pleinement. On ferait office de super intelligence pour les fourmis.

Par analogie, une super intelligence artificielle possédera tellement de capacité cognitive que nos problèmes les plus complexes seront triviaux pour elle. Lorsqu’un enfant de 5 ans vous montre ses devoirs d’école, vous n’avez généralement pas trop de problèmes à les résoudre. C’est trivial pour votre intelligence. Et si un problème comme générer de l’énergie propre et renouvelable à l’infini était également trivial pour une super intelligence ?

Le philosophe Nick Bostrom pense qu’il est difficile de penser à un problème qu’une superintelligence ne pourrait pas résoudre, ou du moins, nous aider à résoudre. Maladie, pauvreté, destruction de l’environnement, souffrances inutiles … voilà ce qu’une superintelligence dotée de technologies de pointe serait capable d’éliminer.

La tendance naturelle de l’être humain est de rejeter l’idée que les problèmes majeurs d’aujourd’hui vont disparaître sur le court terme. Comme la pauvreté, les maladies, le réchauffement climatique, la surconsommation des ressources naturelles. On considère ces problèmes comme faisant partie du paysage, et qu’ils vont rester pendant encore longtemps. Pensez que le quotidien est normal, est au final inscrit dans nos gènes. C’est une façon de s’adapter à l’environnement. Imaginer une créature qui serait traumatisée par le monde qui l’entoure en permanence. Pas idéal pour survivre et transmettre ses gènes. Et le faite qu’on évolue depuis la naissance dans un monde en constant changement nous incite à ne pas trop nous poser de question. Car nos ancêtres de l’âge de pierre ont vécu pendant des dizaines de milliers d’années dans des environnements similaires, ou chaque génération vivait plus ou moins la même vie. On est génétiquement programmé pour penser que le monde est normal. Que nos parents vivaient une vie plus ou moins semblable avec quelques gadgets technologiques en moins, et que de nos enfants vivront une vie plus ou moins semblable, avec quelques gadgets technologiques en plus. Penser que la prochaine décennie sera complètement différente va à l’encontre de notre expérience de tous les jours, et à l’encontre de la programmation génétique.

Pourtant, les choses changent et évoluent. Si on pouvait montrer à un chasseur cueilleur de l’âge de pierre, notre époque d’abondance, de confort et de loisir, il n’y verrait que de la magie qui ne fait aucun sens. Le monde qu’une super IA pourrait créer a le potentiel d’être tout aussi magique et incroyable.

Comme le mathématicien Irvin J. Good (1916 – 2009) l’a si bien dit,

« Une super intelligence artificielle sera la dernière invention de l’humanité. Car une fois en place, elle sera la source de nos innovations. »

Toutes les technologies en cours de recherche ou qui nous manquent pour résoudre nos problèmes les plus difficiles pourraient être drastiquement accélérées, voire même complètement résolues par une super IA.

Le réchauffement climatique est surement dans le top 3 de la liste. Une super IA aurait la capacité de comprendre le problème avec un degré de précision inimaginable, et appliquer des solutions appropriées pour tout d’abord, mettre en place des techniques de production d’énergie 100% renouvelable, propre et illimitée. Fusion nucléaire, satellite solaire, une technique inconnue… Si l’univers est infini, il doit bien y avoir une quantité infinie d’énergie. Ensuite, développer des technologies avancées pour enlever les excès de CO2 dans l’atmosphère. On a déjà des pistes pour faire cela comme avoir plus de forêts (peut-être dans les régions désertiques), ou via des procédés chimiques impliquant de l’oxyde de calcium ou hydroxyde de sodium. Donc une super IA trouvera surement des moyens encore plus efficaces.

Quoi d’autre dans la liste … ah oui, la production et distribution alimentaire. Déjà, le fait que certaines personnes meurent encore de faim aujourd’hui est inadmissible. Ensuite, la qualité de la nourriture que l’on mange est loin d’être idéale. Entre pesticides, antibiotiques et toute la pollution générée par la production. Une super IA pourrait concevoir un assembleur moléculaire afin de créer de la nourriture à partir d’élément de base, et la distribuer à toute la planète via des moyens de transport qui dépasse de loin nos engins les plus rapides.

Cette même technologie d’assembleur moléculaire est également la clé pour concevoir n’importe qu’elle objet à partir de ses atomes de base. Il n’y aura donc plus besoin de les construire “à l’ancienne”. L’idée de main-d’oeuvre sera obsolète et il est difficile d’envisager à quoi pourrait ressembler l’économie dans un tel futur.

Une super IA pourrait trouver de meilleures solutions politiques, sociales et économiques afin de mieux coopérer sur la planète. La démocratie fonctionne mieux si tout le monde vote en faveur de ce qui est le mieux pour le pays dans son ensemble. Malheureusement, en réalité, nous avons tendance à voter en faveur de ce qui est le mieux pour nous-mêmes. Une majorité de la population peut totalement gouverner une minorité de la population, simplement parce qu’elle est majoritaire lors des élections. Avec une super IA, nous aurons une bien meilleure option. Elle peut simplement exécuter chaque décision politique sur une simulation complète de l’ensemble de la population grâce à son immense capacité de calcul, et déterminer les meilleures décisions politiques et législatives. Tout comme dans le domaine de l’architecture, ou de l’aérodynamisme, tester des paramètres spécifiques sur des simulations est le meilleur moyen d’assurer de meilleurs résultats sans les conséquences d’un échec dans le monde réel.

Et bien sûr, une super IA nous aidera à éliminer les maladies qui affligent de terrible souffrance comme le cancer, alzheimer, parkinson, les maladies infectieuses, etc. Ce dernier point nous amène à sérieusement envisager qu’une super IA détiendra peut-être la réponse à une question que de nombreux chercheurs sur la planète tentent de trouver :

Peut-on mettre fin à notre mortalité biologique ?

Le vieillissement est de plus en plus considéré comme un processus qui s’apparente à une maladie, et donc qui a la possibilité d’être soigné. Les chercheurs travaillent sur plusieurs pistes et ont déjà réussi à allonger la durée de vie de plusieurs espèces, dont les rats. Un traitement contre le vieillissement humain n’est qu’une question de temps. Et une super IA pourrait mettre sa super intelligence au service de cette cause.

Déjà, comme on l’a vu dans la deuxième partie, nos IA personnelles vont nous aider à rester en bonne santé. Des capteurs dans votre maison analyseront en permanence votre souffle pour détecter les premiers signes de cancer et des nanorobots nageront dans votre circulation sanguine pour dissoudre les caillots sanguins dans votre cerveau ou vos artères avant de causer un accident vasculaire cérébral ou une crise cardiaque. Votre IA personnelle servira d’assistant médical 24h / 24 et 7j / 7. EIle surveillera vos réponses immunitaires, vos nutriments et votre métabolisme, en développant une vision à long terme de votre santé qui donnera aux médecins une idée précise de ce qui se passe dans votre corps.

Une super IA pourrait également nous aider a révolutionné la modification de notre génome afin de modifier l’ADN humain de la même manière qu’un éditeur corrige un mauvais manuscrit, coupant les sections problématiques et les remplaçant par des gènes bénéfiques. Seul un système super intelligent pourrait cartographier l’interaction extrêmement complexe des mutations géniques et les mettre en relation avec ce que l’on désire préserver ou modifier. Elle saura donc ce qui nous permet de vivre plus longtemps, et ce qui dégrade notre santé.

Avec sa super intelligence et capacité de calcul, une super IA pourrait également scanner complètement notre cerveau pour le numériser. Nous ne savons pas si une telle chose est possible ou pas, mais l’hypothèse n’est pas à écarter. Dès lors, nous pourrions évoluer dans des mondes simulés indissociables de la réalité. Les types d’expériences que nous pourrions avoir n’ont pour seule limite que notre imagination.

Une super IA pourrait également nous donner la possibilité d’augmenter considérablement nos capacités intellectuelles et affectives et nous aider à créer un monde dans lequel nous pourrions vivre des vies consacrées à tout ce qui nous apporte de la joie. En d’autres termes, un paradis sur Terre. D’autres voient cela plus comme un zoo pour les humains où tous nos besoins sont pris en charge. Mais au final, peu importe le terme que l’on utilise, le monde d’abondance dans lequel nous pourrions évoluer après l’émergence d’une super intelligence artificielle paraît tout simplement irréaliste. Tout autant que l’est notre époque pour quelqu’un vivant au moyen âge.

Sans oublier que les nouvelles technologies développées par une super IA nous aideront à nous répandre dans l’espace. Propulsion révolutionnaire, terraforming, cryonie, colonisation et exploration de la galaxie, système solaire après système solaire. Le terrain de jeu pour une espèce intelligente est astronomiquement gigantesque. Il est estimé que 107 milliards d’humains ont vécu jusqu’à ce jour. Mais ce nombre est ridicule comparé au futur possible de l’humanité. Si l’on devient une civilisation galactique, on parle de quintillions d’humains, minimum …

Les types de super intelligence artificielle

Vivre plus longtemps, être immortel, guérir toutes les maladies, développer des énergies propres et illimitées, créer une abondance pour tous, coloniser les planètes du système solaire, créer des réalités virtuelles indissociables de la réalité … Au final, tout ce qui n’est pas en contradiction avec les lois de la physique est envisageable sous la condition de posséder la connaissance adéquate.

Mais quelle forme pourrait prendre cette super intelligence ? Voici trois types de super intelligence artificielle proposés par le philosophe Nick Bostrom sans son livre “Superintelligence”.

Un oracle :

Il s’agit d’un système super intelligent, conçu pour répondre uniquement aux questions et ne pouvant pas agir dans le monde. Une oracle super IA pourrait par exemple recevoir des questions sous formes écrites ou orales, et nous donner des réponses de manière analogue. D’une certaine façon, une calculatrice est une forme primitive d’oracle, et Google également.

L’oracle super IA doit être capable de comprendre le langage et les concepts humains de façon précise et détaillée. Elle devra également d’une manière ou d’une autre avoir accès à de l’information sur le monde réel et à la connaissance humaine si on souhaite qu’elle nous aide à résoudre nos problèmes. Ce qui implique d’être connecté à Internet par exemple, ce qui pose son lot de danger, car nous ne voulons pas que l’oracle super IA puisse modifier du contenu sur Internet. Il faudrait qu’elle soit en “lecture seule” par exemple.

L’exigence la plus importante pour une oracle super IA est qu’elle soit précise, autant que ces capacités le permettent au moment où on lui pose une question. Car nous ne voudrions pas, par exemple, que l’oracle super IA utilise ses super compétences pour prendre le contrôle des ressources du monde réel afin de construire une meilleure version d’elle-même qui répondra mieux à la question. Elle devra faire avec les ressources dont elle dispose pour nous donner la réponse la plus précise possible.

On peut poser deux types de questions à une oracle super IA : Des prédictions et des problèmes. En général, les prédictions sont des questions du type “que se passerait-il si…?”, alors que les problèmes sont du type « comment pouvons-nous résoudre ceci ou cela …? », bien qu’il existe un certain chevauchement entre les catégories (on peut résoudre des problèmes grâce à une utilisation intelligente de plusieurs prédictions, par exemple). Mais dans les deux cas, il existe de grands risques sociaux si l’on pose certains types de questions. Nous vivons dans un monde polarisé entre des différences politiques, nationalistes et religieuses. Entre des personnes occupant des positions de pouvoir et de richesse considérable qui veulent s’accrocher à ces privilèges, et des gens qui les veulent. Certaines questions pourraient renverser ces hiérarchies, et devenir source de conflit majeure. Ainsi, à moins que l’oracle super IA soit entièrement secrète, les concepteurs doivent s’engager à ne poser aucune question qui leur donneraient un grand pouvoir au détriment des autres. Ni des questions qui iraient au cœur de puissants mouvements idéologiques (tels que « Y a-t-il un dieu ? » ou « quelle culture est la meilleure ? »). Un monde post- super IA va être très différent du nôtre, nous devons donc agir pour minimiser les perturbations initiales, même si cela implique de laisser certaines questions sans réponses.

Différents moyens peuvent être envisagés pour éviter ces questions perturbatrices. Les concepteurs de l’oracle pourraient publier, à l’avance, une liste de toutes les questions que l’on pourrait poser. Un vote démocratique sur Internet serait pris, avec des questions nécessitant une supermajorité (par exemple, approbation à 90%) avant d’être soumises à l’oracle super IA. Ou on pourrait demander à l’oracle elle-même de trancher, en terminant chaque question par une mise en garde du type “ne réponds pas à cette question si la réponse est susceptible d’avoir un impact négatif sur le monde ».

Pour prendre des mesures de précautions contre un résultat désastreux, il est préférable de poser des questions dont nous pouvons vérifier les réponses. Également des problèmes dont les solutions sont réversibles – en d’autres termes, si nous appliquons la solution qu’une oracle super IA nous a conseillé, et que ça tourne mal, nous devrions pouvoir inverser ses effets. Par exemple : “Quels matériaux pourrait-on utiliser pour construire des avions plus rapides et légers ?” serait un problème idéal à poser. La solution de l’oracle super IA est susceptible d’être tout à fait compréhensibles, réversibles et peut-être même vérifiables par des ingénieurs. Par contre si on lui demande : “Trouve une nouvelle façon de gérer l’économie mondiale ?” et en appliquant aveuglément sa suggestion à grande échelle, cela pourrait conduire à une catastrophe.

Des problèmes spécifiques ont également l’avantage de réduire les dangers sociaux des questions posées. Peu de gens dans le monde s’opposeraient fermement à des questions du type “Comment pouvons-nous soigner le SIDA / le cancer / la tuberculose ?”, ou “comment pouvons-nous concevoir de meilleures batteries électriques ?” ou « quelles seront les conséquences d’une augmentation de 1% de l’impôt sur le revenu dans l’économie pour les dix prochaines années ?”

Un génie :

Un génie super IA reçoit une commande précise, et à la possibilité de l’exécuter jusqu’à ce que l’instruction soit achevée. C’est un oracle qui n’est plus simplement cantonné à répondre à des questions, mais qui peut interagir dans le monde pour les résoudre. Cela implique donc que le système super intelligent a la capacité de donner des instructions à des machines reliées à son réseau. Par exemple des machines industrielles, des imprimantes 3D, etc. Une usine entière pourrait être sous son contrôle le temps que le génie super IA accomplisse la commande donnée par les humains. En reprenant l’exemple : “Quels matériaux pourrait-on utiliser pour construire des avions plus rapides et légers ?”, on lui demandera plutôt “Construit un avion plus rapide et léger”. Le génie super IA aurait non seulement la solution sur papier, mais exécutera la tâche en produisant un avion plus rapide et léger dans une usine qu’il contrôle. Il peut aussi donner des ordres à des ingénieurs et ouvriers humains pour fabriquer certaines parties spécifiques.

Si l’on créait un génie super IA, il serait souhaitable de le construire de façon à ce qu’il obéisse à l’intention de la commande plutôt qu’à sa signification littérale ou il pourrait devenir un risque existentiel pour des raisons que l’on a vues dans le chapitre approprié. Dans le but de limiter les conséquences désastreuses, une option serait de créer un génie super IA qui présenterait automatiquement à l’utilisateur une prédiction des résultats probables d’une commande proposée sous forme de simulation, demandant confirmation avant de procéder. Une sorte de prévisualisation. Ainsi, si on lui demande de construire un avion plus rapide et léger, il pourrait produire une vidéo 3D photoréaliste de toutes les étapes qu’il s’apprête à faire dans la construction de l’avion. Si nous sommes satisfaits, on lui donne le feu vert. Si on juge qu’il y a des dangers, on annule la commande.

Un souverain :

Selon la définition du Larousse : “Se dit d’un pouvoir qui n’est limité par aucun autre” ou encore “Qui émane d’un organe souverain et n’est susceptible d’aucun contrôle”. À l’image d’un génie, un souverain super IA peut interagir dans le monde réel, mais la différence résulte dans l’ampleur de son intervention. Un génie super IA reçoit uniquement des commandes spécifiques, alors que le souverain reçoit des tâches qui n’ont pas nécessairement de solutions uniques, objectives, claires et précises.

Il a la possibilité de fabriquer de nouveaux objets, inventer de nouvelle technologie voire même instaurer de nouvelles lois afin de poursuivre son but. Si on reprend l’exemple précédent, on lui demanderait : “Invente un nouveau moyen de faire voler des humains rapidement sur de longues distances à travers la planète et avec un niveau de sécurité supérieure ou égale à nos avions actuels”. Avec cet ordre, le souverain a la liberté de s’y prendre comme il veut jusqu’à ce que l’on obtienne ce que l’on a demandé.

Si une super IA souveraine est bienveillante, cela pourrait être très positif pour le futur de la gouvernance humaine. On peut imaginer une telle IA souveraine qui se fond dans le décor et qui tenterait d’arranger les choses pour que la satisfaction des humains soit maximisée. On aurait finalement une sorte de Dieu quasi omniscient et omnipotent chargé de faire ce que l’on désire dans le meilleur de nos intérêts.

Pour résumer très rapidement la différence entre les types de super IA, imaginons que vous êtes une super IA pour un enfant de 5 ans. Ce dernier a faim et souhaite manger un repas. Si vous êtes un oracle, vous lui donner la recette des pâtes au gratin. Si vous êtes un génie, vous cuisinez les pâtes au gratin. Et si vous êtes un souverain, vous inventez une machine qui s’occupera de lui cuisiner des repas sur mesure pour le reste de sa vie s’il le souhaite.

La vraie différence entre les trois types de super intelligence artificielle ne réside donc pas dans les capacités ultimes qu’elles acquièrent. Au lieu de cela, la différence réside dans le problème de contrôle. Une oracle super IA est confiné et n’a qu’un accès limité au reste du monde. Il semble donc raisonnable de conclure qu’il sera plus simple de contrôler un oracle plutôt qu’un génie ou un souverain. Un oracle permettra également une transition plus progressive vers l’ère des super intelligences artificielles.

L’idée d’être accompagné par une super intelligence bénéfique qui souhaite le meilleur pour nous n’est pas si étrangère que cela. En effet, la majorité d’entres nous avons vécu un moment dans notre vie où une intelligence supérieure veillait sur nous. On l’appelait “papa et maman”. Et dans la plupart des cas, les valeurs morales comme interagir avec les autres gentiment, ne pas blesser autrui, respecter les autres, être généreux, etc. sont passées d’une génération à l’autre. Ce sont des valeurs que nous avons choisies collectivement, car elles aident une société à s’épanouir. Et c’est presque un miracle que nous arrivions si bien à transmettre les valeurs à tous les enfants de la planète. En y regardant de plus près, chaque parent n’écrit pas la liste des valeurs qu’il souhaite donner à son enfant à ne partir de rien. Ils se contentent de transmettre ce qu’ils ont eux-mêmes appris de leurs parents. Et les enfants sont généralement capables d’accepter ces règles et de les appliquer lors de leur croissance vers l’âge adulte. C’est peut-être donc un modèle à suivre pour enseigner à une super IA à devenir bienveillante.

Cet épisode conclut donc la série premium The Flares “Intelligence artificielle – l’ultime révolution”.

Merci beaucoup pour votre soutien, et si vous souhaitez réagir vous pouvez le faire dans les commentaires.