Pourriez-vous imaginer que votre statut social et vos droits soient déterminés par une note attribuée en fonction de votre comportement en société?

Sur les réseaux sociaux, la popularité d’une personne peut se mesurer aux likes qu’elle reçoit sur ses photos mais être sur Instagram ou Facebook reste un choix que chaque individu fait de son plein gré. De nombreuses personnes décident de boycotter ces plateformes et vivent tranquillement à l’abri de cette pression sociale.

Dans l’épisode 1 de la saison 3 de Black Mirror, la jeune héroïne vit dans un monde régulé par un système de notation où la note de chacun dépend de ses interactions avec les autres. La note détermine aussi à quels services une personne aura droit. Faire un compliment sur la robe d’une étrangère croisée dans la rue? +10. Offrir un café à un collègue? +100. La société entière tourne autour de ce système et personne n’a le droit à un seul faux pas. Être en retard à un rendez-vous professionnel vous vaudra un -100 de la part de toutes les personnes dans la pièce ainsi que des regards interrogateurs : Comment avez-vous pu faire quelque chose d’aussi déplacé? Le concept de cet épisode est inquiétant et laisse un sentiment de malaise et d’embarras chez le téléspectateur. C’est compréhensible car il n’y a plus aucune marge de manœuvre pour être un humain avec ses qualités mais aussi ses imperfections.

Vous pensiez que ce n’était qu’un épisode d’une série? Raté! En Chine, les autorités travaillent depuis 2014 sur un projet de surveillance des citoyens censé pousser les citoyens à se comporter de façon plus honnête. Il devrait être achevé d’ici 2020.

L’idée du gouvernement ? Installer des millions de caméras dotées d’intelligence artificielle avec un système de reconnaissance faciale afin de détecter des comportements inadéquats. En parallèle, les entreprises et les autorités collecteront des données sur les citoyens. Les tribunaux, la police, les banques, les impôts et les employeurs partageront des informations sur chaque petit détail de la vie des citoyens afin de leur attribuer une note. Oui, vous avez bien lu, une note, comme dans Black Mirror.

Le projet vise à récompenser les personnes qui se comportent bien et punir celles ayant une attitude «inappropriée» via un système de points. Tout comptera pour calculer la note: la situation financière, le métier, et même les achats effectués. Acheter des produits chinois ainsi que bien gérer ses comptes en banque fera augmenter cette note. La publication d’un article élogieux sur le régime sur les réseaux sociaux la fera exploser. Au contraire, traverser la route alors que le feu est rouge, passer trop de temps à jouer aux jeux vidéo ou encore faire des recherches internet considérées comme suspectes vous fera plonger dans les abîmes du système de notation sociale.

Jusqu’ici, on est horrifié mais on pourrait relativiser : « Tant pis, ce que les autres pensent de moi m’importe peu ». Encore une fois, raté. La conséquence d’une note trop basse est d’être mis sur une liste noire qui empêche les gens concernés d’acheter un simple billet d’avion ou de train. De cette note dépend aussi l’accès aux transports publics, à certains services d’État ainsi qu’à un prêt bancaire.

Dans l’épisode de Black Mirror, la note est affichée au-dessus de votre tête avec un hologramme. En Chine, une photo des gens mis sur liste noire est déjà affichée dans certains cinémas. 23 millions de chinois sont déjà sur cette liste car leur note est tombée à zéro. Parmi eux, un journaliste qui se serait intéressé de trop près à la corruption du régime. Sa vie a basculé après avoir été condamné pour diffamation.

Les autorités peuvent savoir où vous allez, qui vous voyez (être ami avec une personne de la liste noire pourrait être une menace pour vous). Cette évaluation permanente est un puissant outil de contrôle des individus. Rares sont ceux qui osent critiquer cette dictature numérique et les libertés individuelles seront presque inexistantes. Rien que le fait d’écrire cet article me vaudrait une inscription sur la fameuse liste noire.