L’intelligence artificielle pourrait-elle détruire internet ?

L’apprentissage par l’erreur est une pratique courante dans la vie personnelle et collective. Cependant, lorsqu’une erreur cause des dommages irréparables, il est difficile de tirer des leçons de l’expérience. Dans cett= article, nous allons voir si une catastrophe liée à l’IA est nécessaire pour que nous prenions au sérieux la menace que représente l’intelligence artificielle.

Apprentissage par l’erreur

L’humanité apprend de ces erreurs. C’est vrai sur le plan personnel. Un enfant qui se coince les doigts dans une porte pour la première fois comprend en principe la leçon qu’il faut faire attention où on met les pattes.

C’est également vrai sur le plan collectif. Suite à la catastrophe de Tchernobyl en 1986, de nombreux changements ont été apportés aux réglementations et procédures de sûreté des centrales nucléaires dans le monde et ce type d’incident ne s’est jamais reproduit. On peut aussi citer Apollo 11 qui a bénéficié des nombreux échecs du programme Apollo (explosion de fusée, mort de l’équipage d’Apollo 1). Résultat, la NASA a mis des humains sur la Lune lors de leur première tentative. Pas mal sachant tout ce qui aurait pu mal tourner.

Apprendre de nos erreurs peut aussi se faire de manière indirecte. Je n’ai pas besoin de me bruler la main sur la plaque chauffante. Mes parents peuvent me dire : “Fais attention aux plaques chauffantes !”. Ou encore plus net, je peux voir un proche se bruler en cuisinant. En général, ça sert autant de leçon pour moi que pour la personne directement concernée.

Par contre, là où un individu ne peut pas apprendre de ces erreurs, c’est lorsque l’erreur en question lui coute sa vie. Et ça a dû arriver souvent dans le monde ancestral. Combien de chasseurs-cueilleurs sont morts empoisonnés après avoir mangé une baie toxique ? N’empêche que cette information a été utile pour les autres membres de la tribu, qui l’ont solidifiée dans une transmission de connaissance orale puis écrite.

L’apprentissage par l’erreur dans le cadre des risques existentiels

Lorsque l’on regarde le paysage des catastrophes planétaires ou risques existentiels, on remarque que nous avons déjà de quoi apprendre d’exemples passés.

Il y a suffisamment eu de pandémie dans l’histoire pour comprendre ce risque. Et Covid-19 peut être vu comme une piqure de rappel relativement bénigne. Du coup, c’est bien plus facile de communiquer sur la nécessité de se prémunir d’une prochaine pandémie potentiellement bien pire.

Les géocroiseurs ont causé des dégâts toujours frais dans la mémoire collective, notamment l’impact de Toungouska en 1908 en Sibérie. Et les traces géologiques montrent leur potentiel d’extinction (#dinosaures). Ces enjeux nous incitent à prendre des mesures pour nous protéger, notamment en matière de détection et de déviation d’astéroïdes. La mission DART en 2022 a été la première à tester cette méthode.

Un conflit nucléaire n’a jamais eu lieu, mais nous savons à quoi nous attendre avec ce type de bombes. Hiroshima et Nagasaki témoignent de leur impact sur des populations humaines en milieu urbain. De plus, certaines erreurs se sont produites, comme la crise de Cuba en 1962, ou la fausse alerte stoppée par Stanislav Petrov en 1983, qui nous ont permis de bien nous faire dessus pour ensuite renforcer la sécurité, la coordination et les contrôles. Donc tout le monde s’accorde sur les conséquences désastreuses d’un confit nucléaire.

Mais pour l’intelligence artificielle, je n’ai pas l’impression que l’humanité s’est brulée sur la plaque chauffante pour suffisamment comprendre les dangers.

Faut-il une catastrophe liée à l’IA ?

Face à ce qui me semble être le risque le plus important de notre histoire, certains craignent que nous n’ayons pas le luxe d’apprendre de nos erreurs. Si une IA super humaine est développée avant que nous ayons robustement sécurisé cette dernière, ce sera peut-être game over. Pourquoi ? Car elle nous mettra hors-jeu avant même que l’on sache à quel jeu on joue.

Imaginer si une bombe atomique pouvait causer l’embrasement de l’atmosphère. Dans un tel monde, il n’aurait pas été très judicieux de tester pour la première fois une bombe atomique. C’est d’ailleurs intéressant de noter que ce fut une inquiétude de certains physiciens du projet Manhattan, mais après des calculs rigoureux, la probabilité d’embraser l’atmosphère a été jugée suffisamment faible pour presser le bouton rouge. J’en ai parlé dans cet article.

On ne peut pas apprendre de nos erreurs si on est tous morts. Mais du coup, cette réflexion nous mène vers une conclusion peu attrayante. Avons-nous besoin d’une catastrophe causée par l’IA afin de prendre son risque existentiel au sérieux ?

Si oui, quelle catastrophe et de quelle ampleur ?

Déjà, il est évident que la catastrophe ne peut pas être causée par une IA super humaine, car passé ce point, c’est déjà trop tard. Donc, elle doit être causée par une IA pas encore tout à fait générale, et cette piqure de rappel doit être suffisamment grave pour secouer la ruche. Que ce soit dans le nombre de victimes ou les couts financiers.

Casser internet !

Et si l’IA finissait par rendre internet inopérable ? Assurément, ce serait une catastrophe gravissime ! Voyons si c’est plausible.

Il y a fort à parier que les IA vont gagner en autonomie. On a déjà des gens qui ont détourné GPT4 pour en faire autoGPT, un bot capable de créer une liste de tâche basée sur une instruction puis les exécuter sur internet. Comme “Hey, commande-moi une pizza pour ce soir”.

Donc partons sur un scénario où GPT5 ou 6 est accessible dans les prochaines années. Chacun peut l’utiliser comme un assistant personnel pour toute sorte de taches. C’est devenu une alternative voir un remplacement à la recherche Google traditionnelle. Le genre de scénario que j’ai exploré dans une série d’article sur le futur de l’IA d’aujourd’hui à 2050.

• Futur de l’Intelligence Artificielle D’ici à 2030 
• Futur De l’Intelligence Artificielle Entre 2030-2040
• Futur De l’Intelligence Artificielle : Prédiction 2040-2050

On va se retrouver avec des millions, voir des milliards d’agents IA sur internet, en train de télécharger, uploader, créer du contenu, envoyer des messages, commander, payer, réserver… Le gros bordel ! Et tout cela pourrait à terme entraîner une série d’actions menée par une ou des IA, qui ferait tomber internet. Et pas besoin d’y voir de la malveillance de la part des IA. Je vois ça plus comme un accident. Une conséquence inattendue d’une tache ou requête.

Alors, je ne vais pas vous dire exactement comment détruire internet. Déjà, car je n’en sais rien, mais aussi parce que ce serait irresponsable de ma part de balancer un infohazard comme ça ! Je ne suis pas un super vilain de comics !

Internet est un système décentralisé et distribué. Il n’y a pas de point unique de défaillance qui pourrait causer une panne mondiale. Mais il est clair qu’internet n’est pas invulnérable. Il y à moins de 1000 “Internet eXchange Point”, un bâtiment où les réseaux Internet se connectent pour échanger du trafic entre eux. Si plusieurs de ces bâtiments étaient touchés par une panne simultanée, internet cesserait de fonctionner dans une ville voir une région entière.

La résilience distribuée d’internet repose également en grande partie sur les kilomètres de câbles tout autour du globe, dont certains au fin fond des océans. Et l’internet par satellite offre une autre possibilité d’accès qui semble robuste. Mais là aussi, à quel point est-ce piratable ?

La véritable menace viendrait plutôt de l’intérieur du Net, à travers des attaques bien connues des pirates, les DDOS. Une attaque informatique dans laquelle un grand nombre de périphériques connectés sont utilisés pour envoyer simultanément des demandes à un serveur ou un réseau, le surchargeant et le rendant inaccessible. C’est comme si des milliers de personnes essayaient d’entrer dans un magasin en même temps, empêchant les clients légitimes d’y accéder.

Ou encore le “BGP hijacking” qui consiste à prendre le contrôle du protocole de routage BGP (Border Gateway Protocol) et détourner le trafic Internet pour perturber le fonctionnement de services en ligne.

Si des pirates informatiques humains peuvent faire des attaques DDOS ou BGP, ce sera un jeu d’enfant pour des IA, et elles pourront le faire à une échelle des milliers, des millions, des milliards de fois plus larges !

Bref, une cyberattaque généralisée rendant internet inaccessible sur toute la planète est un scénario loin d’être irréaliste. Et si cette catastrophe était causée par des IA autonomes, ça ne passerait pas inaperçu.

Conséquences d’une panne d’internet

Dire qu’Internet est important dans le fonctionnement quotidien de la civilisation est un euphémisme.

La majorité des gens dépendent d’internet pour travailler, que ce soit de manière directe ou indirecte. Imaginer la panique si le monde se réveillait sans internet et que la situation durait plusieurs jours, voir plusieurs semaines ! Des entreprises perdraient des millions par jour et seraient obligées de mettre la clé sous la porte et de licencier tout le personnel. D’autres gèleraient les salaires en attendant qu’internet soit rétabli. Une population qui n’est plus payée ne présage rien de bon.

Le système financier serait à l’agonie. J’imagine que ça causerait une dévaluation des devises monétaires et de la valeur boursière des entreprises.

Les centres de distribution se trouveraient très vite paralysés par l’incapacité d’organiser les différentes livraisons de biens matériels. Ce n’est pas très grave lorsqu’il s’agit des commandes Amazon, un peu plus pour les denrées alimentaires. Il y aurait des mouvements de panique dans les supermarchés et ces derniers se retrouveraient très vite avec des rayons vides. Ensuite, qu’est-ce qu’il se passe ? Comment on fait pour se nourrir ?

Les hôpitaux auraient aussi d’énormes difficultés à se fournir en ce qu’ils ont besoin pour fonctionner. Ce qui aurait pour conséquence directe la mort de certains patients en état critiques.

Les transports, la communication, l’éducation, le travail, la santé, l’économie, bref tout serait touché et il faudrait des semaines pour réorganiser la société. Le monde serait à genoux. Si on arrive à rétablir Internet après cette période de chaos plus ou moins longue, et qu’après enquête, on se rend compte que la panne a été causée par des IA, elle deviendra clairement au sommet de la liste des technologies dangereuses à réglementer. Enfin, je l’espère. La main de l’humanité sera bien brulée. De quoi se réveiller et apprendre de cette erreur.

C’est finalement similaire aux effets que pourrait avoir une grosse tempête solaire. Là aussi, un risque qui n’est pas suffisamment pris au sérieux pour moderniser les installations afin de se prémunir de ce genre de catastrophe.

Alors peut-être qu’il faudrait moins qu’une panne mondiale d’internet. Si la France ou un autre pays développé se retrouve sans internet pendant 2 mois, cela devrait suffire pour comprendre la leçon.

C’est malheureux de se dire que seule une catastrophe de petite ou moyenne ampleur arriverait à convaincre l’humanité que l’intelligence artificielle pourrait causer des catastrophes existentielles.

Je pense que la fiction a également un rôle à jouer si elle est bien faite. Par exemple, la menace des géocroiseurs a connu un gain d’intérêt après le succès de film comme Deep Impact ou Armageddon. Aussi bien auprès du public que des instances gouvernementales. Le film “Le Jour d’après” sorti en 1983 qui raconte les répercussions d’une guerre nucléaire entre l’OTAN et l’URSS a choqué Ronald Reagan, le président des États-Unis à l’époque. Ce serait exagéré de dire que le film l’a directement convaincu d’entamer des discussions avec son équivalent Soviétique Gorbatchev pour réduire les stocks d’armes nucléaires. Mais il a probablement contribué un chouïa.

Pour l’instant, l’IA dans la science-fiction a tendance à ne pas être prise au sérieux. Même si je pense que Skynet de Terminator ou Hall 9000 de 2001, l’odyssée de l’espace ne sont pas trop mal. C’est l’occasion pour tous les auteurs, scénaristes et réalisateurs de se pencher sur la question.

Pensez-vous également qu’une catastrophe causée par l’IA est inévitable ? Avez-vous en tête d’autres scénarii qui pourraient servir pour apprendre de nos erreurs ?