La singularité technologique : scénarios possibles et enjeux pour l’humanité
Vous avez surement déjà entendu par-ci par-là le terme “Singularité”. C’est un de ces mots tendance dans les discussions futuristes. Et comme souvent avec ce genre de terme, chacun y apporte sa petite touche et déforme son origine et sa définition. Un peu comme transhumanisme ou même humanisme, libéralisme, ou zlatanisme …
Le pire, c’est quand certains concluent que la singularité est une sorte d’événement transcendant prophétisé par des technophiles souhaitant fusionner avec les machines, ce qui en fait ni plus ni moins qu’une sorte de religion technologique pour les geeks.
Okay, dur de faire plus caricatural.
Au sommaire
Le pouvoir d’accélération de la technologie
Ray Kurzweil est un ingénieur, inventeur, futurologue qui s’est intéressé toute sa vie à notre rapport aux technologies et l’implication futur de son impact. En 2009, il a lancé l’Université de la Singularité, une institution qui a pour but “d’assembler, instruire et inspirer les leaders qui s’efforcent de comprendre et faciliter le développement des technologies.” Souvent décrié pour ses idées à la limite de la Science Fiction, il est définitivement un homme qui s’intéresse au futur.
Nous avons entendu beaucoup de choses sur les promesses de la technologie, et leur danger. Par exemple, si nous pouvions convertir 0,03% de la lumière du soleil qui tombe sur la terre en énergie, nous pourrions satisfaire tous nos besoins prévus pour 2030. Nous ne pouvons pas le faire aujourd’hui parce que les panneaux solaires sont lourds, chers et inefficaces. Il y a des concepts nano-technologiques, qui montre théoriquement, qu’elles sont potentiellement très légères, très peu coûteuses, et très efficaces, si bien que nous pourrions satisfaire réellement tous nos besoins énergétiques de façon écologique. Voilà une promesse technologie.
Ray Kurzweil a donc commencé à étudier de près les tendances des technologies, et chercher où en serait la technologie à différents points dans le temps, et il a commencé à en faire des modèles mathématiques. C’est devenu un projet en lui-même. Il a un groupe de 10 personnes qui travaillent avec lui pour recueillir des données sur des indicateurs des niveaux de technologie dans de nombreux secteurs, et ils construisent des modèles.
Il y a les courbes exponentielles remarquablement lisses qui régissent coût-performances, capacité, bande passante. Mais il y a vraiment une raison théorique pour laquelle la technologie se développe de façon exponentielle. Et beaucoup de gens, quand ils pensent à l’avenir, y pensent de façon linéaire. Ils pensent qu’ils vont continuer à développer un problème ou à aborder un problème en utilisant les outils d’aujourd’hui, au rythme du progrès d’aujourd’hui, et ne prendrons pas en compte cette croissance exponentielle.
Le taux réel de changement de paradigme, le taux d’adoption de nouvelles idées, double chaque décennie selon les modèles Ray Kurzweil. Donc plus vous progressez, plus les niveaux se multiplient, en général par des facteurs de 10 ou 100. Il nous a fallu un demi-siècle pour adopter le téléphone. Les téléphones portables ont été adoptés en huit ans environ . Télévision, radio, téléphone ont été adopté en quelques décennies. Les technologies récentes — comme le PC, le Web, les téléphones portables — en moins d’une décennie.
Mais bon, l’évolution de notre espèce a pris des centaines de milliers d’années, et puis l’évolution a utilisé, essentiellement, l’espèce qui créait des technologies pour passer à l’étape suivante, et ça a été les premiers pas dans l’évolution technologique. Et le premier pas a pris des dizaines de milliers d’années – les outils en pierre, le feu, la roue – l’accélération s’est poursuivie. Nous avons alors toujours employé la dernière génération de la technologie pour créer la génération suivante. Il a fallu un siècle pour adopter l’imprimerie, – maintenant nous utilisons des ordinateurs.
Les technologies de l’information doublent leur capacité, coût-performances, bande passante, chaque année. Mais la loi de Moore, qui est très souvent identifiée à cette croissance exponentielle, est juste un exemple parmi d’autres, parce que c’est fondamentalement une propriété du processus évolutif de la technologie. Mais d’ici les années 2020, les transistors n’auront que quelques atomes de largeur, et nous ne pourrons pas les rétrécir plus. Ce sera la fin de la loi de Moore, mais ce ne sera pas la fin de la croissance exponentielle du calcul. Et ce n’est pas seulement vrai que pour les ordinateurs. C’est vrai pour le séquençage de l’ADN, c’est vrai pour le scanner du cerveau, c’est vrai pour le Web. Tout ce que nous pouvons mesurer double en fait tous les 12, 13, 15 mois, selon ce que vous regardez.
Nous rétrécissons la taille de la technologie à un taux exponentiel. Il y a des scientifiques qui construisent des robots à l’échelle de la molécule. L’opportunité la plus passionnante est en fait d’aller à l’intérieur du corps humain et de remplir des fonctions thérapeutiques et diagnostiques. Il y a un dispositif nano-technologique qui traite le diabète de type 1. Il a la taille d’une cellule. Une fois que nous comprenons ses principes de fonctionnement, et que la vitesse à laquelle nous rétro-concevons la biologie s’accélère, nous pouvons en fait concevoir ces choses pour qu’elles soient des milliers de fois plus efficace. Par exemple, si vous remplacez 10 % de vos globules rouges par ces versions robotiques, vous pourriez faire un sprint olympique pendant 15 minutes sans reprendre votre respiration. Vous pourriez vous asseoir au fond de votre piscine pendant quatre heures.
Les ordinateurs disparaîtront. Ils seront si petits, qu’ils seront intégrés dans nos vêtements, dans notre environnement. Des images seront écrites directement sur notre rétine, fournissant la réalité virtuelle en totale immersion, une vraie réalité augmentée. Nous interagirons avec des personnalités virtuelles.
Mais si nous allons à 2030, nous aurons accompli la rétro-conception de l’esprit humain. Les machines sont déjà supérieures, en termes de pensée analytique, en retenant des milliards de faits avec précision. Les machines peuvent partager leur connaissance très rapidement, Mais ce ne sera pas simplement une invasion de machines intelligentes. Nous allons fusionner avec notre technologie
Les nano-robots seront d’abord employés pour des applications médicales et de santé mais ils iront également à l’intérieur de notre cerveau, et interagiront avec nos neurones biologiques. Donc, par exemple, la réalité virtuelle en immersion totale à l’intérieur même du système nerveux sera possible. Les nano-robots arrêteront les signaux venant de vos vrais sens, les remplaceront par les signaux que votre cerveau recevrait si vous étiez dans l’environnement virtuel, et alors vous aurez l’impression d’être dans cet environnement virtuel. Vous pourrez y aller avec d’autres personnes, vivre toute sorte d’expérience avec n’importe qui, en utilisant vos sens. Vous pourrez vous connecter et éprouver ce que c’est que d’être quelqu’un d’autre. Mais avant tout, ce sera une expansion énorme de l’intelligence humaine par cette fusion directe avec notre technologie, ce que dans un certain sens nous faisons déjà. Nous faisons par habitude des exploits intellectuels qui seraient impossible sans notre technologie. L’espérance de vie humaine s’allonge. Elle était de 37 ans en 1800, et avec cette sorte de biotechnologie, les révolutions de nanotechnologie, elle augmentera très rapidement dans les années à venir.
Ce progrès technologie est exponentiel, pas linéaire. Beaucoup – même les scientifiques – adoptent un modèle linéaire, donc ils disent, “oh, il faudra des centaines d’années avant que nous ayons reproduit le cerveau humain.” Si vous regardez vraiment la puissance de la croissance exponentielle, vous verrez que ces choses seront bientôt là. Et la technologie de l’information englobe de plus en plus toutes nos vies.
Nous pourrons fabriquer presque tout ce dont nous avons besoin dans les années 2020-2030, à partir d’informations, dans des matières premières très peu coûteuses, en utilisant la nanotechnologie. Ce sont des technologies très puissantes. Elles sont tout autant une promesse qu’un péril. Nous devons donc avoir la volonté de les appliquer aux bons problèmes.
Les école de pensée de la singularité
En fait, ce concept est le résultat de 3 écoles de pensées qui se sont retrouvées malencontreusement mixées ensemble sous un seul terme “Singularité technologique” ce qui enlève leurs distinctions et spécificité. Et c’est en voyant une conférence d’Eliezer Yudkowsky, chercheur en IA et penseur transhumaniste, que j’ai pris conscience de ces distinctions et je me suis dit que ça pourrait vous intéresser sachant qu’on explore régulièrement des sujets similaires. Et que selon bibiblue2, nous sommes les porte-paroles du transhumanisme et de la tyrannie qui vient.
Alors avant d’explorer ces 3 écoles de pensées, je rappelle que le mot singularité est issu de la physique et qui décrit une région dans l’espace-temps où les forces gravitationnelles tendent vers l’infinie. Notamment au centre d’un trou noir. On trouve également le concept de singularité mathématique et singularité géométrique. Mais ce qui nous intéresse ici c’est la singularité technologique.
École de pensée 01 : L’horizon des événements
C’est Vernor Vinge, mathématicien et auteur de science-fiction, qui a introduit pour la 1ere fois le terme “Singularité” dans sa thèse sur l’horizon des événements dans les années 70. Le coeur de son argument c’est que cela fait environ 100 000 ans qu’Homo sapiens sapiens est l’entité la plus intelligente sur la planète. Bientôt, la technologie va progresser au point d’améliorer l’intelligence humaine, que ce soit via des interfaces cerveau-machine, des augmentations neurobiologiques ou en créant des intelligences artificielles générales.
Alors qu’il essayait d’écrire des histoires, se déroulant dans un futur où la technologie créer des esprits plus intelligents que les humains. Il tenta de développer des personnages infiniment plus intelligents que lui même en faite, ce qui le conduisait toujours à une impasse. Il a donc utilisé l’analogie de l’horizon des événements d’un trou noir, où passé un certain point sur la surface d’un trou noir, les théories de la physique s’effondrent et plus rien ne fait sens. En tous cas selon les théoriques de son époque. Ainsi, l’avenir après la création d’esprits plus intelligents que les humains est absolument imprévisible. Car pour savoir ce que ferait une intelligence surhumaine, vous devez être au moins aussi intelligent. Pour savoir quel sera le prochain coup d’alpha Go dans une partie du jeu de Go, vous devez être capable jouer au niveau d’alpha Go. Un futur peuplé de post humain implique des trucs bien plus fous que des voitures volantes, des gadgets futuristes qui clignotent ou tout ce que nos intelligences inférieures peuvent imaginer. Tout comme l’esprit d’un homme de Cro-Magnon ne peut pas saisir le wifi ou une vidéo YouTube.
Par ailleurs, Vernor Vinge considère que la singularité technologique est l’événement non catastrophique le plus probable sur le futur à court terme.
École de pensée 02 : Accélération du changement:
Cette thèse est probablement celle que vous avez le plus entendu parler. C’est elle qui prédit la singularité en 2045 ! Popularisé par l’ingénieur américain Ray Kurzweil dans son livre “la singularité est proche” en 2005.
Le concept d’accélération du changement repose essentiellement sur le fait que nos intuitions sur le changement sont linéaires. On suppose qu’il y aura à peu près autant de changements que ceux qui se sont produits par le passé au cours de nos vies. Mais le progrès technologique et scientifique se nourrit de lui-même. Chaque nouvelle percée entraîne d’autres découvertes, ce qui entraîne une accélération. L’informatique est un bon exemple. À chaque fois qu’on augmente la capacité de calcul, machine, plusieurs disciplines en bénéficient. Aujourd’hui, le changement est plus rapide qu’il y a 500 ans, qui est à son tour plus rapide qu’il y a 5000 ans. Notre passé récent n’est pas un indicateur fiable de l’ampleur des changements auxquels nous devrions nous attendre à l’avenir. Ce qui implique que le futur va contenir plus de changement technologique que ce que l’on imagine. Et donc ça devient vite compliqué à anticiper.
Cependant, Ray Kurzweil extrapole sur cette thèse en affirmant que le changement technologique suit des courbes, généralement exponentielles. Par conséquent, il pense que nous pouvons prédire avec une assez grande précision quand de nouvelles technologies arriveront. C’est comme ça que Ray Kurzweil a gagné sa réputation de Nostradamus de l’ère numérique avec tout un tas de dates prédites par le monsieur. Dont la fameuse singularité technologique qui arrivera le 20 juillet 2045 entre 7 et 8h du matin. Sur ses 147 prédictions depuis les années 1990, Kurzweil revendique un taux de précision de 86%. Bien qu’il a reçu de nombreuses critiques. Cette idée de prédiction technologique en suivant des courbes est une variation évidente de la loi de Moore qui est l’observation que le nombre de transistors dans un circuit intégré double environ tous les deux ans pour coût égal. Qui veut dire grosso modo que les ordinateurs deviennent 2 fois plus rapides tous les 2 ans.
Donc pour résumer, le coeur de l’argument accélérationniste c’est que de très gros changements sont en route, bien plus large que ce qu’on imagine avec une pensée linéaire. Et pour les plus audacieux qui adhèrent à cette prémisse, ils ajoutent qu’il est possible de temporaliser l’arrivée de certaines technologies.
Ecole de pensée 03 : Explosion d’intelligence :
L’intelligence est la source de la technologie. Si nous pouvons utiliser la technologie pour améliorer l’intelligence, cela ferme la boucle et crée potentiellement un cycle d’autoamélioration récursive. Car que feraient des humains dotés d’interfaces cerveau-machine avec leur intelligence augmentée ? Un bon pari est qu’ils concevraient la prochaine génération d’interfaces cerveau-machine. L’amélioration de l’intelligence est donc un point de bascule. Plus vous êtes intelligent, plus vous pouvez utiliser de l’intelligence pour vous rendre encore plus intelligent.
Ce cycle de rétroaction positive peut s’emballer comme lors d’une fission nucléaire devenue critique, ce qui entraîne une explosion. D’où le terme : “Explosion d’intelligence” proposée par le mathématicien Irving J.Good qui faisait référence plutôt à l’intelligence artificielle.
Mais quelle est la rapidité de cette explosion. Est-ce qu’elle se déroule en quelques siècles, ou en quelques années. Tout dépend du type de technologie qui sert à augmenter l’intelligence. Si l’augmentation de l’intelligence se fait par génie génétique, il faut, disons 18 ans pour que les enfants grandissent avant qu’il puisse aider à développer la prochaine génération de cette technologie. Si on le fait avec des interfaces cerveaux-machine, il faut peut être 18 mois pour que les ingénieurs développement de meilleure génération de cette technologie. Si on parle d’intelligence artificielle capable de modifier son propre code, on se situe dans l’échelle de temps caractéristique des transistors plutôt que des neurones humains. Ça peut prendre 18 secondes entre chaque évolution. L’ascension augmente ensuite rapidement et crée une superintelligence avant d’atteindre potentiellement les limites physiques. Le cerveau humain n’est surement pas la limite. Tout comme il est possible de fabriquer des bâtiments qui sont plusieurs ordres de grandeur plus haut que des humaines, ou des engins qui sont plusieurs ordres de grandeur plus rapide que des humaines, il est sans doute possible de créer des esprits qui sont plusieurs ordres de grandeur plus intelligents que des humaines.
La pensée de ces trois écoles de la singularité sont distincte est bien que les trois revendications fondamentales se soutiennent mutuellement, certains détails ont tendance à se contredire. Par exemple, lorsqu’un accélérationniste extrapole la loi de Moore au-delà du stade de la super IA pour faire des prédictions en 2099, alors il contredit la version de l’horizon des événements qui dit qu’on ne peut pas faire de prédictions, car cela revient à deviner ce que c’est que d’être un esprit surhumain. Ainsi que la version forte de l’explosion d’Intelligence, car les progrès iront plus vite une fois que des esprits surhumains seront la source des innovations technologiques.
Donc voilà un peu plus de nuance sur le terme singularité technologique. La prochaine fois que vous rencontrez quelqu’un qui se proclame “Singularitarien”, posez-lui la question de quelle école il se revendique. Et vous alors, quelle est la thèse qui semble être la plus forte ? Ou sont-elles toutes farfelues et irréalistes, car on manque de ressource et qu’on va dégringoler bien avant ces scénarios ?
[contenus_similaires]- Realisation
- Commentaire voix off
- Sources images et videos
En 1965, le statisticien britannique Irvin John Good inventa le concept de singularité technologique. Il définit la singularité technologique comme l’apparition de machine dont l’intelligence surclasserait définitivement l’humain, mettant son existence en péril. C’était un anti-singulariste.
De 1980 à 1993, le mathématicien américain Vernor Vinge sort le concept de singularité technologique des oubliettes mais le présente comme un évènement positif, une opportunité de progrès pour l’humanité. En tant qu’auteur de SF, il a tenté d’anticiper la façon dont humain et ASI pourraient cohabiter. C’est le premier singulariste, la singularité technologique étant souvent qualifiée de “singularité vingienne” en raison de son activisme.
Raymond Kurzweil est un informaticien, ingénieur, et entrepreneur américain au talent indéniable. En tant que singulariste, il ne se contente pas de faire la promotion de la singularité vingienne mais à la créer. En tant que minduploadiste/émulationniste, il veut mettre au point une technique de transcription du comportement et des souvenirs en instructions informatiques exécutable par une IAG. En tant que transhumaniste californien, il souhaite améliorer les corps, par exemple leur longévité, par la technologie et plus particulièrement les neurotechnologies (création des IA Centaure théorisé par Kasparov) et les nanotechnologies (influence de Norio Taniguchi et Eric Drexler).
La différence entre Good, Vinge et Kurzweil, c’est que le premier à inventer le concept de singularité technologique, le second en a fait la promotion et le troisième essaye de le concrétiser.