Totalitarisme à l’ère du numérique : une dicature 2.0 ?

Depuis l’antiquité jusqu’à l’ère moderne, posséder une terre, un terrain, était ce qu’il y avait le plus de valeur économique. Et lorsqu’un trop grand pourcentage de terre était concentré entre les mains d’un petit nombre de personne, l’humanité se scinda en deux classes. Les aristocrates d’un côté, les paysans de l’autre. A partir de la 1ere révolution industrielle, les machines industrielles ont remplacé le terrain comme le bien économique le plus important. Et si un trop grand pourcentage de machine était concentré entre les mains d’un petit nombre de personne, l’humanité se scinda encore en deux classes. Les capitalistes, et les prolétaires. Depuis le début du 21e siècle, les données sont en train de remplacer les machines. Et une nouvelle fois, si un trop grand pourcentage des données est concentré entre les mains d’une élite, l’humanité pourrait se scinder en deux.

Mais pourquoi les données sont devenus si importante au point de devenir ce qui a le plus de valeur économique ?

Et bien car nous avons atteint la capacité de pirater non plus seulement les ordinateurs, mais carrément les gens. Les êtres humains et autres organismes. Et de quoi avons nous besoin pour pirater un humain ? De deux choses:

• Une énorme capacité de calcul
• Une énorme quantité de données

En particulier des données biométriques, sur ce qui se passe à l’intérieur du corps et du cerveau. Et jusqu’à très récemment, nous n’avions pas ces deux prérequis. Même si le KGB à Moscou, la Gestapo ou encore l’inquisition espagnole vous suivaient absolument partout, 24h sur 24, écoutaient toutes vos conversations, et vous mettais sous surveillance permanente, ils n’avaient pas la capacité de calcul nécessaire, ni les données biométriques pour comprendre exactement ce qui se passe au plus profond de vous même. Pour comprendre ce que vous pensez, ce que vous ressentez, ce que vous désirez.

Aujourd’hui, c’est en train de changer. Grâce à deux révolutions simultanées :

• Les progrès en informatique, en intelligence artificielle et le machine learning – Le fait qu’un programme informatique puisse apprendre et modifier son propre code source.
• Et les avancées en biologie. Tout particulièrement au niveau des neurosciences, qui nous donne une compréhension accru du fonctionnement d’un organisme.

A vrai dire, on se rend compte aujourd’hui que l’on peut réduire 150 ans de recherche biologique, de Charles Darwin à aujourd’hui, en seulement 3 mots : Les organismes sont des algorithmes. C’est une des idées maîtresses des sciences du vivant. Et si vous souhaitez plus de précision à ce propos, je vous invite à découvrir le documentaire : Vers l’apparition d’une techno-religion ?

Bref, pour faire simple il faut comprendre simplement que chaque organisme, que ce soit une tomate, un T-rex, un plancton ou un homo sapiens, est un ensemble d’algorithmes biochimiques que nous arrivons enfin à déchiffrer avec de plus en plus de précision.

Et du coup, lorsque la révolution informatique et la révolution biologique fusionnent ensemble dans un gros boooooamammama. On obtient : Un kit pour pirater les êtres humain. Youhouuuuu

Et l’outil essentiel pour cela, c’est le capteur biométrique. Capable de lire les données biochimiques du corps et du cerveau, et de les traduire en signaux électriques qu’un ordinateur peut ensuite enregistrer et analyser.

Une fois qu’on a ces données, on peut créer des algorithmes qui me connaîtront mieux que je ne me connais moi même. Et au final, c’est pas vraiment très compliqué car les êtres humains sont vraiment nul à savoir qui ils sont. Suis je mon cerveau ? Mon corps ? Et on arrive vite à toutes les croyances et contes de fées comme l’ame ou la conscience cosmique universelle.

Nous ne nous connaissons pas vraiment c’est pourquoi les algorithmes pourront trouver leur place et seront certainement accueilli avec plaisir par beaucoup de personnes. Mais ca peut aussi devenir dérangeant.

Pour donner un exemple, prenons le cas de Juliette, une jeune fille de 18 ans qui se trouve à une fête d’anniversaire, une dizaine d’année dans le futur. Depuis l’éveil de sa sexualité, elle n’a jamais été avec un garcon. Enfin juste une petite amourette de vacance qui n’a pas marché. Ceci dit, elle n’a jamais vraiment questionné ses preferences, elle est convaincu qu’elle est hétérosexuelle.  Le playboy du lycée vient de télécharger une nouvelle application qui permet justement de détecter l’orientation sexuelle d’une personne sur une échelle allant de totalement homosexuel jusqu’à 100% hétérosexuel. L’algorithme de l’application, une fois connecté à des capteurs biométriques, peut traquer le regard, la pression sanguine, l’activité cérébrale, le taux d’hormone. Et évidemment, lorsque la soirée commence à devenir merdique, le playboy a la merveilleuse idée de faire le tour des invités pour leur faire passer le test. Juliette n’a pas du tout envie. Non pas car elle redoute le résultat, mais simplement car elle n’aime pas l’idée d’être analysé par une IA. Lorsqu’elle refuse, tout le monde commence a la chambrer. Prétextant que c’est pour cacher son homosexualité. Du coup, elle cède à la pression. Le test révèle qu’elle est homosexuelle à 87%. Elle fond en larme. Elle ne le savait pas. Elle ne se connaissait pas autant que l’algorithme est capable de la connaître.

Mais même si elle aurait refusé et quitté la soirée. L’info aurait fini par tomber. Elle peut se cacher autant qu’elle veut de ses camarades de classe, ou carrément d’elle même, mais elle ne peut pas se cacher d’Amazon, Google et Facebook. Chaque fois qu’elle se connecte sur le net, regarde des videos et son mur Facebook, les algorithmes vont surveillés les mouvements oculaires, et tout ce qui se passe dans son corps. Et au bout d’un moment, ces algorithmes sauront que des pub pour de la lingerie feminine engendre une excitation anormalement élevé pour une heteorsexuelle. Ils sauront que Juliette ne réagit que très faiblement à des photos de Brad Pitt, ou au calendrier des rugbyman. Mais le but de ses algorithmes ne sera pas de juger Juliette d’être lesbienne. Mais plutôt de savoir exactement quoi afficher sur une publicité. Coca Cola pourra acheter ces données. Et les algorithmes diront à coca cola : Ne choisis par la pub avec le sportif torse nu, utilise celle contenant une bimbo dénudée tenant une canette de coca, et affiche là sur le mur facebook de Juliette. Et Juliette n’aura aucune idée de cette manipulation, elle qui vit dans le déni de son homosexualité.

Lorsque les algorithmes nous connaissent mieux que nous ne nous connaissons, ils peuvent savoir nos désirs, manipuler nos émotions et ce pas vers la suprématie des algorithmes peut mener vers une dictature numérique. Pourquoi donc ?

Voyons déjà ce qui caractérise une dictature :

Au 20e siècle, la démocratie, de manière générale, a surpassé les dictatures simplement car la démocratie était le système le plus efficace à traiter des données, et à prendre des décisions. On a l’habitude de comparer dictature et démocratie sur le plan éthique, ou politique mais en faite, ce sont juste deux systèmes qui traitent l’information de manière différentes. La démocratie traite l’information de façon décentralisée. Elle distribue l’information parmi des milliers d’institutions et individus afin de prendre des décisions. Par opposition à la dictature qui concentre toutes l’informations et le pouvoir de décision à un seul endroit.

Vu les conditions technologiques du 20e siècle, la décentralisation a mieux fonctionné que la centralisation. C’est une des raisons qui explique pourquoi l’économie des Etats Unis a surpassé l’économie de l’Union Soviétique, ce qui a fini par détruire le régime communiste dictatoriale.

Effectivement, le ministère de l’économie soviétique pouvait décider que le prix du pain dans tous les magasins devrait être exactement deux roubles et que la boulangerie Chez Nikolai à Moscou devait produire 3,5 millions de pains par jour et pas un seul de plus. Par opposition à une démocratie libérale où chaque boulangerie peut produire autant de pain qu’il le désire, et le facturer autant qu’il le veut. Il n’est pas illégal de vendre une baguette 1000 euros, mais personne n’est susceptible de l’acheter. Les clients sont également libres d’acheter autant de pain qu’ils peuvent se permettre, sans demander la permission au ministère de l’economie.

Le capitalisme n’a pas vaincu le communisme parce que le capitalisme était plus éthique, parce que les libertés sont sacrées ou parce que Dieu était en colère contre les communistes païens. Au contraire, le capitalisme a gagné la guerre froide parce que le traitement de données decentralisé fonctionne mieux que le traitement de données centralisé. Quand toutes les données sont accumulés dans un bunker secret, et toutes les décisions importantes sont prises par un groupe de vieux à la rue, vous pouvez produire des bombes nucléaires à la pelle, mais vous n’obtiendrez jamais des innovations technologiques et sociales.

Mais plutôt qu’une longue explication, voici une histoire, censé être véridique, quoique probablement un peu exagéré. Lorsque Mikhail Gorbatchev essayait de ressusciter l’économie soviétique dans les années 80, il envoya un de ces ministres à Londres pour essayer de comprendre en quoi le capitalisme était si performant. Lors d’un tour de ville avec des émissaires Anglais, le type s’exclama : Oubliez tous ces théories économiques compliqués. Nous avons voyager à travers Londres pendant une journée entière, et il y a une chose que je ne comprend pas. A Moscou, nos meilleurs esprits travaillent sur le système d’approvisionnement du pain d’arrache pied, et malgré cela, il y a de longues files d’attente dans chaque boulangerie. Ici, à Londres, vivent des millions de personnes, et nous sommes passé devant de nombreux boulangeries et supermarchés, pourtant je n’ai pas vu une seule file d’attente. S’il vous plaît, est ce que vous pouvez me conduire vers la personne chargée de fournir du pain à la ville de Londres. Je dois apprendre son secret. » Les émissaires Anglais se grattèrent la tête, réfléchirent un instant et dirent : Mais personne n’est chargé de l’approvisionnement du pain à Londres.

Seulement les conditions technologiques du 20e siècle sont aujourd’hui dépassé. Le 21e siècle apporte un nouveau lot de révolution technologique qui pourrait voir le système centralisé devenir plus efficace que la décentralisation du traitement de l’information. Si la démocratie n’arrive pas à s’adapter à ces nouvelles conditions technologique, alors nous pourrions vivre sous le joug d’une dictature numérique.

Alors à quoi pourrait ressembler une dictature numérique. Déjà, on peut écarter l’idée que ce sera simplement une dictature ayant pour modèle celle du 20e siècle. C’est à dire du style à envoyer les gens dans des camp de concentration.

Les régimes autoritaires semblent être autant dépassés par le rythme du développement technologique, la vitesse et le volume du flux de données, que les démocraties libérales. Au vingtième siècle, la plupart des dictateurs avaient de grandes visions pour l’avenir. Communistes et fascistes cherchaient à renverser complètement les vieux modèles de société pour en construire de nouveau. Quoi que vous pensiez de Lénine, de Hitler ou de Mao Tzetong, vous ne pouvez pas les accuser de manquer de vision. Aujourd’hui, il
semble que les dirigeants ont la chance de poursuivre des visions encore plus grandes grâce aux nouvelles révolutions technologique – Intelligence artificielle et bioingenierie en tête. Dans certains films de science-fiction, les politiciens impitoyables basé sur Hitler ou Staline n’hésite pas à utiliser les technologies futuristique au service de tel ou tel idéal politique mégalomaniaque tyrannique. Pourtant, la réalité est bien différente. Les politiciens au début du XXIe siècle, même dans des pays autoritaires comme la Russie, l’Iran ou en Corée du Nord, ne ressemblent en rien à leurs homologues hollywoodiens comme l’Empereur Palpatine. Ils ne semblent pas très intéressé à créer un nouveau monde en utilisant les technologies. Les rêves les plus fous de Kim Jong-un et Ali Khamenei n’ont encore pas été au-delà de la bombes atomiques et des missiles balistiques: Rien de nouveau depuis 1945 en faite. Les aspirations de Poutine semblent confinées à la reconstruction de l’ancienne zone soviétique, voir carrément de l’empire tsariste, encore plus ancien. Pendant ce temps aux Etats-Unis, Trump n’a aucune vision d’avenir, il veut juste faire de l’Amérique la nation qu’elle était dans les années 50. Quel manque d’originalité !

Alors vous pourriez vous dire que je me plaint que les dictateurs et politiciens d’aujourd’hui n’ont pas de grande vision pour l’avenir. Mais en faite pas du tout ! C’est une très bonne chose. Étant donné que certaines des grandes visions politiques du vingtième siècle nous a conduit à Auschwitz, Hiroshima et le Grand Bond en avant. Quitte à choisir, on est clairement mieux entre les mains de bureaucrates et des banques. Mélanger technologies avancés avec une politique mégalomaniaque et tyrannique c’est une recette pour un désastre monumental.

Ok, bon on vient de voir ce que la dictature numérique ne sera pas. Voyons maintenant quels caractéristiques elle pourrait avoir.

La surveillance pourrait y jouer un grand rôle. Si chaque individu se voit pomper en permanence ses données, des plus banals comme son parfum de glace préféré jusqu’au plus intime comme les données biométrique, alors il sera impossible de cacher quoi que ce soit. L’autorité centrale collectant les données sauront nos moindres désirs, secrets, et pensés. On pourrait voir ce fameux système centralisé au coeur d’une dictature prendre la forme d’un endroit ou toutes nos données sont collectés. Et ou une IA se charge d’analyser et faire sens de tout ce bordel afin de prendre des décisions. Cette idée n’est pas si étrangère que cela. Elle se rapproche d’un personnage fictif présent dans plusieurs romans d’Isaac Asimov. Les puristes doivent certainement avoir une idée de quoi je parle. Je veux parler de Multivac.

Multivac est un super ordinateur doté d’une super intelligence artificielle. En gros, il dirige le monde, mais pas en mode Skynet, Terminator ou Matrix. Multivac est en faite un énorme bénéfice pour l’humanité. Isaac Asimov est un de ces auteurs de SF qui n’a pas vraiment baigné dans la dystopie. Il a toujours été un optimiste technologique. Et son idée de Mutlivac est plutôt charmante en faite. Une sorte d’oracle, capable de répondre à toutes les questions, de tous les êtres humains, et de gérer la planète de la manière la plus efficace. C’est un donc un système centralisé, qui a tout d’une dictature en faite, mais une dictature ayant bien plus de bénéfice que celles présent dans les livres d’histoire. Le terme dictature bénéfique est un peu paradoxal au final.

Un des bénéfices se trouve dans le domaine de la santé car un tel système permettra à n’importe qui sur la planète de se voir octroyer un service santé bien plus efficace que ce que peuvent s’offrir les millionnaires aujourd’hui. En collectant nos données biométriques, une IA pourra analyser, diagnostiquer et traiter les maladies de millions de personnes. Je vous invite à visionner cet épisode afin d’aller plus loin sur le futur de la médecine.

Une dictature numérique est également bien mieux équipé pour gérer l’économie de la planète, et d’appliquer des lois globales afin de protéger l’environnement. Et contrairement à ceux du 20e siècle, un système centralisé numérique pourrait améliorer la production et la répartition des denrées alimentaires, l’approvisionnement en eau, l’education et j’en passe. Tout cela grâce à l’immense quantité de données collectés sur des milliards d’éléments constituant la planète Terre. Organismes, sociétés, écosystèmes etc. ainsi qu’une immense capacité de calcul et une intelligence artificielle capable de comprendre la complexité du système. Les êtres humains ne sont tout simplement pas capable de comprendre la quantité astronomique d’information que constitue le monde. Des intelligence artificielle pourraient le faire en tâche de fond. Mais je ne vais pas aller plus loin que l’intelligence artificielle restreinte dans cet épisode. Le coeur de cet episode sur une dictature numérique c’est le flux de beaucoup, beaucoup de données, couplé à des IA restreintes. Les mêmes que l’on trouve autour de nous aujourd’hui. Bien sur, il y a d’autre scénario possible ou une IA général ou une super intelligence artificielle aurait la capacité de mettre en place plusieurs types de dictature. Je garde tout cela de côté pour un prochain épisode.

Bon ok, tout cela c’est bien jolie, à la limite de l’utopie même. Car il ne faut pas oublier une chose essentiel. La propriété des données. J’entend par là à qui appartiennent ces données. Si il n’y a aucune régulation, un petit groupe d’élite pourrait prendre le contrôle du futur de l’humanité avec un degré jamais vu auparavant. Mais comment réguler la propriété des données ?

On a eu 10 000 ans d’expériences pour trouver comment réguler la propriété d’un terrain. On a eu quelques siècles d’expériences pour trouver comment réguler la propriété des machines industrielles. Mais pour les données, c’est pas la même. Car c’est bien plus difficile. Contrairement aux terrains et aux machines, les données sont partout et nul part simultanément. Les données peuvent se déplacer à la vitesse de la lumière et il est possible de créer autant de copie que l’on souhaite.

On arrive à des questions philosophiques qu’il faudra résoudre. Est ce que les données concernant mon ADN, mon cerveau, mon corps, ma vie m’appartiennent ? Ou alors appartiennent elles au gouvernement ? A des multinationals ? Ou alors à l’humanité tout entière ?

Aujourd’hui, de grosses entreprises ne se gênent pas à collecter nos données, ce qui inquiète de plus en plus. Mais si la régulation va trop loin, si par exemple les gouvernements décident de nationaliser les données, alors on risque de voir de véritable état policier orwellien. Les politiciens ne sont pas les mieux placés pour diriger le navire de l’humanité. Il suffit de voir leur vision pour le futur afin de se rendre compte qu’il n’y a généralement rien de prévue après le terme de leur mandat. Ou alors il se concentre sur faire revivre les glorieux temps passés. Comme si c’était mieux avant. Ce genre de nostalgie est complètement fausse. Le passé n’est vraiment pas un endroit marrant si on regarde bien. Et il ne reviendra jamais. Donc autant éviter de placer nos données entre les mains des politiciens.

Donc qui doit posséder les données ?

Personne ne sait vraiment. Mais c’est le bon moment d’en discuter et de trouver des réponses satisfaisantes pour l’ensemble de l’humanité. Car en attendant, ce sont facebook, google, amazon et compagnie qui en profite, ainsi que la main invisible du marché économique. Et je ne pense pas que ce soit judicieux de les laisser faire. Tant que ça concerne ce que vous préférez regarder sur Youtube ou acheter sur amazon, ça va. Mais lorsque ça concerne les données biométriques qui font 95% de ce que vous êtes, on franchit une limite sans retour en arrière possible.