L’évolution est une force remarquable qui a permis à la vie de commencer avec de simple organisme unicellulaire dans les océans jusqu’à des organismes aussi complexes que les mammifères aux 4 coins de la planète. Sur Terre, dans les airs, au fond des océans. Et ce processus évolutionnaire a également produit l’intelligence. Même s’il lui a fallu quelques milliards d’années. Mais je trouve l’intelligence encore plus remarquable que l’évolution. Les humains peuvent faire des choses que l’évolution ne pourra probablement jamais faire avant la mort thermique de l’univers. Alors oui, certains résultats évolutifs sont impressionnants, même en comparaison avec les meilleures technologies d’Homo sapiens. A certains égards, la biologie excelle toujours sur la meilleure technologie humaine: nous ne pouvons pas construire un système d’auto réplication de la taille d’une fourmi par exemple. À d’autres égards, la technologie humaine laisse la biologie dans le vent.

Quel est le point commun entre internet, la bombe nucléaire, la station spatiale internationale, le vaccin contre la variole, le TGV et des ciseaux génétiques capables de reprogrammer l’ADN ? Réponse : ce truc-là (cerveau humain).

Toutes ces choses très impressionnantes ont pour origine le cerveau humain.

Le vrai truc qui a laissé une empreinte sur le sol lunaire ce n’est pas le pied de Neil Armstrong, c’est ce truc qui ne paye pas de mine à première vue !

Lorsqu’on réfléchit à ce qu’est l’intelligence, on pense à ceux qui arrivent à réciter le Bescherelle à l’envers, remporter des concours d’échec ou résoudre des équations de la mécanique quantique. Par opposition aux musiciens et infirmiers qui eux jouent plus sur la créativité, les émotions et l’empathie. Mais jusqu’à preuve du contraire, l’empathie et les émotions ne se trouvent pas dans le pancréas. Si vous réfléchissez à l’intelligence, ayez en tête l’esprit humain comparé à celui d’une autruche sur une échelle transespèce. Et là vous vous rendez compte du réel pouvoir du cerveau humain.

Et je sais que certaines personnes peuvent être inconfortables avec l’idée d’une échelle d’intelligence qui nous place au-dessus des autres espèces. Mais il ne me semble pas que c’est être arrogant ou spéciste de considérer les êtres humains comme les animaux les plus intelligents dans le spectre d’intelligence sur Terre. C’est juste l’observation que de piger l’équation e=mc2 ou placer une station spatiale avec des gens dedans sont des tâches qui démontrent un plus grand éventail de compétence. Parmi le règne animal, des espèces sont capables de faire plus de trucs que d’autres, et bien souvent c’est lié à la complexité de l’organisme, notamment le truc gris dans notre crâne. Et il se trouve qu’on est celle capable d’en faire le plus. Voilà, on a la chance d’avoir l’architecture cérébrale qui permet plus de cognition. Ainsi, si on prend du recul, l’archétype de l’intelligence n’est pas Albert Einstein, c’est un être humain, point final.

Mais dire que les humains sont plus intelligents que les autres espèces n’est pas un jugement moral qui implique qu’un humain a nécessairement plus de valeur qu’un cheval. L’intelligence n’est pas une métrique suffisante pour déterminer la valeur morale d’un être. Et on pourrait se dire qu’on choisira forcément de sauver un enfant plutôt qu’une vache, ce qui veut dire qu’une vie humaine vaut plus que celle d’une vache. Mais en faite on est jamais dans ce cas de figure si on y réfléchit bien. Du coup, sauf cas exceptionnellement rare, les deux individus peuvent très bien avoir une vie épanouie sans qu’on ait à privilégier moralement l’un plutôt que l’autre.

Bref je clos la parenthèse philosophie morale pour entrer dans le coeur du sujet de cet épisode.

La possibilité d’augmenter l’intelligence humaine est une tendance crédible dans le futur développement technologique. Et c’est un sujet qui revient souvent sur cette chaîne.

Donc lorsqu’on développe des technologies qui augmentent l’intelligence humaine, on n’est pas seulement en train d’envisager un scénario de science-fiction hollywoodien comme des soldats avec des bras bioniques super puissants. L’humanité n’est pas devenue l’espèce dominante sur Terre en soulevant des trucs plus lourds que les autres espèces. La planète a connu un bouleversement monumental à cause du truc de 1 kilo 4 qui se trouve dans notre boîte crânienne. À cause d’un saut d’intelligence.

Si nous pouvons utiliser la technologie pour améliorer l’intelligence, il se pourrait que cela ferme la boucle et crée potentiellement un cycle d’autoamélioration récursive. L’idée cruciale est que si vous pouvez améliorer un tout petit peu l’intelligence, le processus s’accélère. C’est un point de bascule. Comme essayer d’équilibrer un stylo à une extrémité – dès qu’il s’incline un peu, la gravité le fait tomber rapidement. Cette hypothèse est appelée explosion d’intelligence.

L’impact potentiel sur le monde est énorme. L’intelligence est la source de toutes nos technologies, de l’agriculture aux armes nucléaires. Et tout cela est un effet secondaire du dernier grand saut dans l’intelligence qui s’est produit il y a des dizaines de milliers d’années lorsque le genre Homo s’est séparé du dernier ancêtre commun avec nos cousins primates. A quoi ressemblera le monde lorsque le prochain saut d’intelligence se produira ?

C’est impossible à prédire tout comme un smartphone était impossible à prédire pour les australopithèques. Mais une chose est sûre, les changements ne seront pas insignifiants et tout ce qui nous paraît familier aujourd’hui sera complètement étranger dans un futur post-super intelligence. Même les êtres peuplant ce monde seront peut-être plus différents que nous ne le sommes d’Homo Erectus. Lorsqu’on lit les écrits de Platon, Confucius ou les récits mythologiques, on arrive à comprendre les idées, les peurs, espoirs, tourments et aspirations de ces auteurs, car notre biologie et architecture cognitive ne sont pas différent des leurs. En gros c’était des humaines comme nous. Mais les post-humains seront probablement très différents, et ils n’auront peut-être pas la capacité de s’identifier avec les romans, films et oeuvre d’art que l’on produit.

C’est un peu comme imaginer lire la poésie d’une race extra-terrestre, disons les Vogons, et pouvoir apprécier les figures de style !

Ce qui nous amène à la question de savoir quelle forme prendra le prochain saut d’intelligence ? Ce sera peut être une augmentation de l’intelligence humaine à l’aide de modification génétique ou d’interface cerveau machine. Ou alors du développement de l’intelligence artificielle générale. Une fusion des deux est également possible et pour certain souhaitable.

Ainsi, le futur sera sans aucun doute façonné par l’intelligence. La façon dont il sera façonné dépendra de l’esprit des êtres qui auront connu le prochain saut d’intelligence. Et je pense que ce siècle est crucial pour déterminer quel chemin il prendra. On peut dire qu’en développant les prochaines technologies et intelligences artificielles, nous plantons en ce moment les graines des esprits post-super intelligence. Nous avons donc une chance d’influencer le monde d’après le prochain saut d’intelligence selon les critères que nous jugeons désirables.

Reference :

http://yudkowsky.net/singularity/power/

http://yudkowsky.net/singularity/intro/

https://www.lesswrong.com/s/MH2b8NfWv22dBtrs8/p/jAToJHtg39AMTAuJo