Crédit social numérique : vers un contrôle accru de la population ?

La « notation sociale », ça vous parle comme concept ?

Si vous avez vu le premier épisode de la saison 3 de Black Mirror, « Nosedive », vous avez une assez bonne idée du sujet que l’on va aborder aujorud’hui.

Et si vous n’avez pas encore vu ce chef d’oeuvre, foncez le voir !

Le postulat de cette épisode, c’est que dans un futur, pas si lointain du notre, la notation sociale s’est généralisée : les gens, via une application sur leur smartphone, se donne tout au long de la journée une note entre 0 et 5, pour noter chaque échange social, chaque transaction. Et bien sûr, plus votre réputation s’approche du 5, plus vous avez accès à de meilleurs services.

Ça fait un peu flipper, n’est-ce pas ?

Et c’est bien normal, c’est le but de cette série, Black Mirror : nous faire réfléchir sur la technologie et ses travers.

La fiction bientôt dépassée par la réalité ?

Sauf que voilà … Un système similaire est en train de devenir réalité.

Depuis 2014, en Chine, le SCS (pour Système de Crédit Social) est en phase de test grandeur nature, sur la base du volontariat. Ça a tellement bien marché que le gouvernement chinois prévoit un système effectif et généralisé pour tous les chinois en 2020 !

L’idée de base du système, c’est qu’à partir des données dont dispose le gouvernement chinois sur le statut économique et social des individus, en utilisant des outils de surveillance de masse et en se basant sur les technologies d’analyse du big data, une note entre 350 et 950 points est attribuée à chaque citoyen. Plus la note est élevée, plus on est exemplaire, ce qui ouvre droit à un certain nombre d’avantages : factures moins onéreuses, bons d’achat, prix et réductions sur divers services, possibilité d’utiliser des services de transport premium, facilité à voyager à l’intérieur et à l’extérieur du pays, etc… A contrario, plus la note est faible, plus les sanctions seront proportionnées : services plus onéreux, difficultés pour voyager, difficultés à faire un emprunt bancaire, moins de visibilité sur son profil de sites de rencontres, etc…

Le gouvernement chinois présente ce système SCS comme un élément pour renforcer la confiance. Après tout, les personnes discréditées et malhonnêtes qui seront révélées par ce système doivent être sanctionnées pour leur mauvais comportement, sinon cela les conforterai dans de tels comportement déviants. Non ?

C’est en tout cas ce qu’on se dit à première vue. Oh, ne prétendez pas le contraire, vous vous êtes sûrement dit : « je n’ai rien à cacher, je ne suis pas concerné, au contraire c’est même une bonne chose, je pourrais bénéficier des avantages et payer moins. Et puis, si cela peut empêcher les terroristes, complotistes et autres gêneurs d’agir, c’est très bien ».

Seulement voilà : on ne sait pas bien comment est calculé cette note. Qu’est-ce qui peut vous empêcher, vous qui n’avez rien à vous reprocher, de perdre plusieurs points d’un coup ?

Sur la base de quels critères ?

Par analyse et déduction, et sans toutefois en être certain, on a pu établir une liste de critères non exhaustifs qui impactent négativement la note, parmi lesquels :

• Ne pas payer ses factures à temps
• Répandre des fake news sur le terrorisme ou la sécurité des aéroports
• Faire obstacle à la sécurité et au bon fonctionnement du pays
• Causer du désordre dans les aéroports
• Modifier sa connexion internet pour l’accès web, par exemple en faisant usage de proxy
• Passer trop de temps à jouer aux jeux vidéo
• Dépenser trop d’argent dans les frivolités
• Refuser le service militaire
• Fumer dans une zone non fumeurs

Certains critères vous paraissent ok, comme ne pas payer ses factures à temps, mais d’autres sont très subjectifs : à partir de combien de temps passe t-on trop de temps à jouer aux jeux vidéos ? A partir de quel palier dépense t-on trop d’argent dans des frivolités ? Et quelle est la définition de frivolités au juste ?

A partir de ces critères et de nombreux autres, la note est calculé, et si elle est trop basse, hop! Sanction !

Celles-ci peuvent s’échelonner sur une durée de 1 jour à 1 an, sauf que … Comment savoir au bout de 1 an si la sanction est bien levée ?

On a balayé rapidement les avantages d’un tel système mais il est préférable, selon moi, de s’attarder sur les nombreux inconvénients et les nombreuses dérives que cela peut engendrer.

Les dérives de la « notation sociale »

Un système de notation sociale généralisée, comme la Chine est en train de mettre en place, pose de nombreuses questions, et ouvre la voie à de nombreuses dérives.

Et vous allez voir, certaines font vraiment froid dans le dos.

• Comme je l’ai indiqué au paragraphe précédent, une sanction est appliquée en cas de mauvaises notes. Mais comment savoir si la sanction est bien levée après un certain temps ? Comment être sûr que le droit à l’oubli est toujours respecté ?

• Quand bien même la sanction est levée pour laisser une seconde chance, les autres êtres humains, utilisateurs de ce système, nous laisseront-ils cette chance ? Prendrons t-ils le risque de côtoyer un ancien paria ou de bien le noter, et que cela engendre une baisse de leur propre note ? Rien n’est moins sûr, et une chute libre de la notation, même passagère, pourrait avoir des répercussions sur notre vie entière.

• Ce genre de système empêche toute possibilité de s’élever dans la classe sociale, et creusera encore plus les barrières entre les riches d’un côté et les pauvres de l’autre. Un paria sera condamné à rester un paria, sans aucune possibilité d’évolution.

• Qui juge réellement des faits ? Qui attribue la note ? Sur la base de quelles informations exactement ? Existera t-il une haute autorité qui sera habilitée à vérifier la concordance entre les informations et la note, et permettre ainsi de faire des corrections s’il y a eu une erreur ?

• Et si effectivement il y a eu une erreur, qu’elle soit volontaire ou pas, humaine ou un bug algorithmique, cette erreur aura des répercussions durables sur des semaines, voire des années sur la note de la personne, qui sera par conséquent une victime du système. On peut donc être parfait à tout point de vue, avoir une notation excellente, et subir une chute libre d’un coup, tout ça à cause d’un bug, avec peu ou pas de possibilités de rehausser sa note par la suite.

• A propos de cette note d’ailleurs, quels sont les critères exacts étant pris en compte ? Comment peut-on être assuré que ceux-ci ne vont pas évoluer dans le temps vers des critères encore plus subjectifs, tels que le délit de faciès, la religion, les idées politiques, la sexualité, le nom ? Mais si la formule de calcul de la note était rendue publique, alors cela pourrait influer sur notre propre comportement pour tromper l’algorithme, tricher et améliorer sa note. Le système en deviendrait alors obsolète.

• Si nous avons la possibilité de noter autrui, comment se prémunir des abus qu’un tel système engendrerait ? Une petite colère de votre voisin suite à un désaccord ou une simple jalousie, et bim! une mauvaise note pour vous. Vous avez laissé sans suite un rendez-vous galant et la personne vous en veut ? Bam! une deuxième mauvaise note.

• Un tel système ne va t-il pas entraîner la population vers un système de la pensée unique ? Si c’est le cas, on verrait les gens se créer un faux-moi, idéal, correspondant en tout point à l’idéal que la société souhaite fabriquer, et avec le temps, on pourrait même finir par devenir réellement cet idéal. Adieu donc la personnalité, l’innovation, la créativité, la liberté de penser et d’expression qui font tout le charme de l’être humain. Et bonjour la superficialité, l’hypocrisie, les faux-semblants, les sourires fake.

• Qu’en sera t-il de l’amour et de l’amitié ? Ces concepts vont sûrement voler en éclats. Ce ne sera pas rare de voir un conjoint demander le divorce pour éviter que la mauvaise note de l’autre impacte négativement la sienne. Ce qui créera chez celui ou celle qui se fait larguer une blessure émotionnelle qui finira par resurgir en société, ce qui entraînera à nouveau de mauvaises notes.

• Et si ce genre de système reste sur la base du volontariat, comment seront traités ceux qui refuseront d’utiliser ce genre de système de notation ? Auront-ils une note de zéro par défaut ? Quelles répercussions engendrera la non-utilisation d’un tel système ?

• Il y a également fort à parier que l’on expliquera à tous les parias ayant une mauvaise note que si justement ils ont une mauvaise note, c’est que le problème vient d’eux. La note n’est que la réflexion de leur être, de leur manière de se comporter. Ainsi, quand bien même ces parias sont le pur produit d’une société ayant choisi de laisser de côté des individus, cette société, par ces paroles, en serait dédouanée. On ferait ainsi culpabiliser les parias en leur expliquant que tout est de leur faute, plutôt que de remettre en question l’ordre et le pouvoir établi.

• Les premières sanctions en Chine font état de restrictions sur la possibilité de voyager ou à l’accès de services premiums. Mais si ces sanctions étaient élargies demain, verrait-on des limitations en poids sur la nourriture pouvant être achetée ? L’accès à l’eau potable, ou encore l’accès à l’air respirable ?

• Se pose bien sûr le cas de la vie privée. Le concept même de vie privée serait un non-sens : le système saurait tout de vous, à tout moment, et sur tout. Ce serait le seul moyen d’obtenir une note fiable reflétant qui vous êtes « vraiment ».

• Mais où seraient stockées ces données personnelles ? Sur quels serveurs ? Et qui y aurait accès réellement ? Comment pourrait-on être sûrs que ces données ne vont pas servir à autre chose, comme par exemple d’une discrimination à l’emploi ou à l’accès au logement ?

• Quid en cas de piratage ? L’impact pourrait être énorme sur la vie des individus, et même si la note serait rétablie, il y aurait peu de chances d’annuler tous les impacts négatifs que les victimes ont eu dans leur vie suite à une baisse de note drastique.

• Et bien sûr, si je suis un déviant, un rebelle, un terroriste (utilisons-le, vu que ce mot est à la mode en ce moment), je ferais bien sûr tout pour me comporter de manière optimale et obtenir la meilleure note possible afin de pouvoir agir par la suite sans contraintes. Alors comment justifier dans ce cas la mise en place d’un tel système par la lutte contre le terrorisme ?

Est-ce une régression ou une avancée sociale ?

Vous l’avez sûrement compris, ce système de notation sociale est un système liberticide et contre-nature. Les inconvénients engendrés par ce système excèdent de loin les quelques maigres avantages.

Avec le Système de Crédit Social, la censure passe à un tout autre niveau, elle devient automatisée et généralisée, au mépris du droit des citoyens, au mépris du bon sens, au mépris des émotions. Et le pire dans tout ça, c’est que ça a commencé en 2014 sur la base du volontariat, dans une prolongation de ce que sont les réseaux sociaux.

Détrompez-vous, ce n’est pas parce que nous sommes une démocratie en France que nous sommes à l’abri. Nous faisons déjà preuve d’auto-censure, et si l’on continue dans cette lancée (et dans la lancée sécuritaire), il y a fort à parier que nous nous dirigerons docilement vers un système de calibre.

D’ailleurs, si vous prenez un peu de hauteur et que vous regardez autour de vous, vous en verrez les prémices : la bien-pensance nauséabonde présentes sur les réseaux sociaux, les assurances essayant de promouvoir un système de bonus/malus se basant sur votre manière de conduire, en relevant tout un tas d’informations directement en provenance de votre voiture, les sourires fakes et les photos mises en scène sur les réseaux sociaux, etc…

La société devient totalitaire d’elle-même, exerce une censure de grande ampleur, acceptée par tous, sans vraiment s’en rendre compte. Chacun y participe déjà, vous y compris, moi y compris, en choisissant ce que l’on publie ou pas sur les réseaux sociaux, en choisissant ce que l’on évite de dire en public, de peur que ça impacte négativement notre réputation. On glisse tout doucement vers la falsification des sentiments.

Est-on condamné à subir une dictature du bonheur ? Orwell avait-il raison, en fin de compte ? La pensée unique et l’uniformisation sont-elles en train de devenir réalité ?