Depuis 2014, le gouvernement de la république populaire de Chine développe un nouvel outil de « gouvernance sociale » basé sur l’activité des citoyens dans les espaces numériques. Délire orwellien ou solution pragmatique pour l’État le plus peuplé de la planète ? 

photographie par Elie Beressi ©

photographie par Elie Beressi ©

En juin 2014, le Conseil d’Etat chinois (le principal organe de l’exécutif) publie sa « feuille de route pour la construction du système de crédit social ». Dans les semaines ou mois suivants, la presse anglo-saxone parait s’emballer : « China’s social credit system : turning big data into mass surveillance » (Wall Street Journal), « China invents the digital totalitarian state » (The Economist), « China’s social credit score is like a ‘Black Mirror’ episode » (Business Insiders). Pour cause : Pékin développe un outil de régulation et de contrôle économique et social destiné à parachever l’économie socialiste de marché. Dans la feuille de route publiée par le Conseil d’Etat chinois, les objectifs de ce système de « crédit social » sont clairs. Il s’agit d’un « élément important de l’économie socialiste de marché et de la gouvernance sociale », et l’accélération de sa mise en place est une « étape importante base vers la construction d’une société socialiste harmonieuse ».

En une phrase, le gouvernement supervise la construction d’un système capable de surveiller et de noter le comportement de chaque citoyen, entreprise ou organisation. Concrètement, trois ans après le lancement officiel du projet, la municipalité de Shanghai a d’ores et déjà un système opérationnel, et a mis en ligne une application permettant aux utilisateurs de consulter leur score personnel, mais aussi les informations d’entreprises, restaurants, notamment. Les provinces du Hubei, Hebei, Shaanxi et Zhejiang, ainsi que la ville de Shenzhen, développent également des systèmes similaires. La base de données nationale progresse, et le portail internet Credit China a été rénové et publié juste avant le 19e Congrès du Parti communiste. La nouvelle version du site, plus lisible, est aussi beaucoup plus fournie en informations. On y trouve le moteur de recherche permettant de consulter les dossiers d’entreprises de tout le pays, plutôt facile d’utilisation. Cette version permet de se rendre compte de l’ampleur de ce projet, qui dépasse les mécanismes de fichage (et ?) de notation. C’est une campagne nationale, politique, destinée à accroître le niveau de « sincérité » (chengxin) de chacun.

Le projet de système de crédit social apparait donc comme un ensemble d’initiatives pour promouvoir sinon imposer un certain comportement défini comme exemplaire par les autorités. Le secteur privé est appelé à participer à cet effort, et les autorités encouragent le développement du secteur de la notation financière (credit rating), et favorisent l’émergence de concurrents chinois à Moody ou Standard & Poor’s. Le gouvernement, quant à lui, supervise l’échange de données, l’établissement des critères de notation, et le mécanisme de peines et récompenses. A cet outil de contrôle et de régulation économique et sociale, s’ajoute une campagne nationale de promotion de la « sincérité » comme valeur morale.

Le projet dit de « crédit social » est éminemment politique. Il s’inscrit dans une conception et pratique chinoises de la gouvernance, dont l’enjeu est le contrôle politique de la population. A terme, il renforcera le pouvoir du Parti-état et sa capacité à gouverner.

Problèmes linguistiques : des différents sens du « crédit »

Avant de revenir sur les différentes composantes de ce projet, expliquons-en les termes. Et d’emblée, tout se gâte. Il n’y a pas de traduction officielle en Français, j’ai donc repris les termes utilisés dans la presse anglo-saxonne et chinoise, soit « système de crédit social » (shehui xinyong tixi). Cette traduction n’est pour autant pas satisfaisante. « Crédit social » porte à confusion, et l’on considère à tort ce programme comme un instrument uniquement économique.

Dans une note parue peu de temps après la publication de « la feuille de route pour la construction du système de crédit social », en 2014, Han Jiaping, directeur du centre de recherche sur le crédit et le commerce électronique du ministère du commerce explique le sens et les implications générales du programme. Il insiste sur le sens général donné au terme « crédit ». En particulier, le mot crédit xinyong a plusieurs sens, que l’on peut, selon lui, regrouper en deux groupes : un sens économique, et un sens dit « social », « compris comme les normes morales et les codes de conduites que suivent les individus dans le processus de leur existence humaine ». Dans ce second cas, le mot employé est alors chengxin. Le site « China Law Translate » distingue, de son côté, les trois termes utilisés dans les documents chinois : xinyong (crédit – sens économique), shouxin et chengxin, traduits respectivement par « trustworthiness » et « creditworthiness ». Il n’y a en Français pas de mots satisfaisants pour traduire ces termes. J’ai fait le choix de traduire « chengxin » par « sincérité » et « shouxin » par « confiance », mais ces traductions ne sont pas idéales.

La confiance (xin) est donc le terme clé de ce programme ; c’est cet attribut moral que le gouvernement entend promouvoir. C’est une des cinq valeurs confucéennes (wuchang), et l’une des douze valeurs du socialisme. Pour atteindre l’objectif affiché d’accroître le niveau de sincérité et de confiance tant des entreprises que des individus, le gouvernement distingue ceux qui « tiennent leur promesse » (shouxinzhe) de ceux qui « brisent la confiance » (shixinzhe). Les premiers, qui respectent les normes comportementales promues par le gouvernement, seront récompensés, les autres, punis.

Les définitions données au mot crédit en disent long sur les objectifs de ce programme dit de « crédit social ». Il répond d’une part à un besoin économique : résoudre l’asymétrie de l’information (situation dans laquelle tous les participants à un marché ne disposent pas des mêmes informations) en les forçant à plus de transparence sur eux-mêmes. A travers la promotion d’une certaine qualité morale (la confiance) les autorités s’assurent d’un nouveau levier de contrôle sur la population. Le Parti-état entend réellement façonner le comportement de ces citoyens et entreprises, et ce n’est pas une nouveauté dans l’histoire chinoise.

Précédents historiques de contrôle social en Chine

Dès l’antiquité, le courant de philosophie politique légiste, sur lequel j’étais revenu dans un article consacré à Han Feizi, entendait transformer la société en s’appuyant sur la loi. Partant du constat que les hommes sont plus sensibles aux peines ou aux récompenses qu’aux discours moraux, les légistes comptaient sur un ensemble de loi claires, assorti de peines et de récompenses, pour modifier les comportements.

Au 20e siècle, dans son combat pour l’établissement d’une société socialiste, le Parti communiste chinois a aussi tenté de réorganiser la société à cette fin. En l’occurrence, les unités de travail (danwei), sont un précédent historique intéressant. En Chinois, danwei, renvoie d’abord à une unité de mesure. Ensuite, le mot signifie « agence, organisation, ou département au sein d’une agence ou organisation. Xiaobo Lü et Elizabeth Perry, dans Danwei, the changing chinese workplace in historical and comparative perspective, décrivent ces unités comme « un outil de l’Etat pour organiser et contrôler la société urbaine » (Lü, Perry, 1997). Formés autour d’une usine, d’une administration, les danwei étaient la structure sociale de base dans les villes. Pour un individu, l’appartenance à un danwei conditionnait l’accès aux services sociaux, et le plaçait dans une situation de dépendance pour l’accès aux ressources tant économiques que politiques (Walden, 1986) Appartenir à un danwei conditionnait l’accès au logement, aux services de soins, de retraite, etc. Les danwei et le système de « crédit social » ont en commun des fonctions politiques et sociales, mais le danwei était une unité collective, là où le projet actuel cible chaque individu. 

De plus, le Parti communiste chinois a longuement théorisé des pratiques de « management social » (shehui guanli) ou « gouvernance sociale » (shehui zhili). Ces deux noms renvoient à un même concept, importants dans la doctrine du Parti communiste. L’Académie des Sciences sociales, think tank proche du gouvernement, a récemment publié un article sur l’apport de Xi Jinping à cette théorie. Dans un article appelé Managing the State : Social Credit, Surveillance and the CCP’s Plan for China, Samantha Hoffman revient sur l’origine de ce concept marxiste : le parti communiste chinois se conçoit comme une avant-garde du peuple, et se doit de guider scientifiquement celui-ci vers l’établissement d’une société socialiste. Ainsi, la « gouvernance sociale » renvoie à un ensemble de systèmes complexes, scientifiques, grâce auxquels le parti pourrait non seulement gérer et façonner les masses, mais aussi le parti lui-même et son interaction avec les masses. Cette question de la « gouvernance » ou « management social » est centrale à la conception holistique de la sécurité nationale, poursuit Samantha Hoffman, qui inclut la vision occidentale de « sécurité nationale », mais aussi deux autres dimensions intérieures : gérer le parti, et gérer l’ordre social : le système de « crédit social » est un outil de surveillance et de contrôle supplémentaire qui permettra au Parti-état de renforcer son pouvoir de contrôle et de régulation. Permis par les développements technologiques, big data et, à termes, l’intelligence artificielle ce programme s’inscrit dans une histoire politique et idéologique précise à la Chine communiste.

Fonctionnement d’un « système de gouvernance sociale » 2.0

Mais dans les faits, qu’en est-il ? Pour comprendre le fonctionnement de ce programme de « gouvernance sociale », nous allons nous pencher sur les éléments constitutifs de celui-ci. D’un point de vue technique, Pékin n’a pas encore inventé de nouvelles technologies. Le projet s’appuie des éléments existants : big data, algorithmes, et à l’avenir, une dose d’intelligence artificielle. La notation sociale est largement employée sur le web, tandis que la notation financière est un secteur d’activité à part entière. Le volet économique de ce projet de « crédit social » comprend justement le développement du marché de la notation financière. Le gouvernement a publié des appels d’offres pour octroyer à des entreprises des licences de développement d’outils de notation. C’est dans ce cadre qu’Alibaba développe, avec autorisation de la Banque centrale chinoise, son « Crédit Sésame. »

Le système gouvernemental traité dans cet article repose sur le fichage généralisé de l’ensemble des citoyens et personnes morales actives en Chine (entreprises, organisations). Ce fichage permet de créer un dossier (dang’an), un compte personnel unique, consultable par tous, attestant du comportement de l’individu ou entreprise en question. On peut y lire s’il a déjà été récompensé ou puni pour son comportement, et pour quelles raisons. Le « mécanisme liant les peines et encouragements » est véritablement le « cœur » du programme, son « bras armé » puisqu’il distribue en fonction du comportement de ces agents, punitions et récompenses.

Ficher et publier le comportement 

Pour pouvoir juger le comportement tant des individus que des entreprises et organisations, il faut pouvoir les surveiller. Pour faciliter le fichage (dang’an) de chacun, l’idée est de pouvoir lier les actions de chacun à un seul dossier national individuel. Deux processus visent à construire ces dossiers. Les entreprises ou organisations ont reçu un « numéro unifié pour le crédit social », à 18 chiffres, utilisé dans les procédures administratives. Surtout, pour les individus, le « système de crédit social » requiert la fin de l’anonymat sur internet. Samm Sacks et Paul Triolo, dans un article pour Lawfare, intitulé « Shrinking anonimity on Chinese cyberspace » reviennent sur cette politique et lient cette initiative au projet de « crédit social ». S’il fallait déjà utiliser sa véritable identité lors de l’achat d’une carte SIM ou de l’ouverture d’une ligne internet, d’un compte en banque, il est désormais nécessaire d’utiliser sa véritable identité pour l’inscription sur différents sites ou services sur internet. Une telle mesure permet de tracer le comportement sur internet de n’importe quel individu, et de le tenir responsable de ses actes. Par exemple, les personnes ayant créé des groupes de discussions sur Wechat sont désormais responsables des propos tenus par les membres. Cette non-anonymité sur internet est une pierre angulaire du projet permettant la surveillance et le fichage de chacun.

Le fichage et la surveillance du comportement de l’ensemble des citoyens et entreprises ou organisation est une tâche titanesque, et le gouvernement ne compte pas s’en charger directement. Dans un premier temps, il faut déjà définir quelles données sont collectées. Les documents de « régulations portant sur l’établissement d’un système de crédit social » de la municipalité de Shanghai et du Hubei distinguent deux types de données collectées : les données de crédit publiques (gonggong xinyong xinxi) et les données de crédit commerciales (shichang xinyong xinxi). Les premières renvoient à « l’ensemble des données produites ou acquises par des organismes publics (organes administratifs, judiciaires, entreprises publiques) pendant la conduite de leurs activités ou la fourniture de services. Les secondes « données de crédit commerciales », « renvoient aux données produites, collectées ou acquises par les entreprises ou organismes privés, durant la conduite de leurs opérations ». Ces deux catégories de données ne sont pas collectées par les mêmes entités.

Dans les cas de Shanghai et du Hubei, les données de crédit publiques sont issues des administrations ou entités publiques. Elles sont collectées par le « centre de service municipal (provincial) des informations de crédit public » (Shanghai, art. 11) qui se charge de les récupérer auprès des autres départements (tribunaux, départements des douanes, etc.) Ces données, en parties publiques, sont aussi stockées et consultables par dossier individuel sur une base de données « plateforme des informations de crédit publiques », opérées par ce même service municipal ou provincial.

Les données de crédit commerciales sont celles collectées par les entreprises privées au cours de leur activités. Comme indiqué précédemment, le gouvernement entend développer le marché de la notation financière. Ainsi, il a lancé des appels d’offres par secteur d’activité pour la construction de mécanismes de notation, et a demandé aux associations d’entreprises de secteur (par exemple l’association des entreprises de charbonnages) de collaborer à la collecte des données. Ces données collectées par des acteurs privés devront ensuite être transférées vers la base de données opérée par le service municipal ou provincial.

Ces bases de données locales sont ensuite en contact avec la plateforme nationale pour les informations de crédit. Celle-ci centralise et publie à termes l’ensemble des données de crédit publiques ou commerciales des différents secteurs d’activités et provinces. Ce schéma, publié sur le site Credit China, permet de visualiser le rôle central de cette plateforme nationale.

Le fichage du comportement est donc une opération complexe nécessitant la coopération de nombreux acteurs : différents organes administratifs, à différents échelons, mais aussi le secteur privé. Ce fichage permet ensuite de récompenser ou punir en fonction du comportement de chacun, rôle assuré par le « mécanisme liant les peines et les récompenses ».

Façonner les comportements : récompenser et punir

Dans la « feuille de route sur la construction d’un système de crédit social », le « mécanisme liant les peines et récompenses » est décrite comme le cœur (hexin) du futur système de gouvernance sociale. C’est en effet ce mécanisme qui permet de lier une certaine action à une peine ou récompense, dans le but de « rendre la confiance / sincérité glorieuse » (yan hang shouxin guangrong) et « l’insincérité honteuse » (shixin kechi).

Concrètement, ces mécanismes, opérés au niveau local (municipal ou provincial) s’appuient sur la loi (quand elle existe), ou définissent eux-mêmes les actions considérées comme « brisant la confiance » (shixin) et les peines qu’elles entrainent. Pour l’instant, ce processus de décision est humain : une intelligence artificielle ne vous inflige pas automatiquement une peine parce que votre comportement est déviant. Ce sont des commissions locales qui se penchent sur le dossier et décident. De facto, ne pas respecter les devoirs exigés par la loi ou les régulations locales est un acte dit insincère, susceptible d’être sanctionné. Sur le site dédié au « crédit social » de la ville de Shanghai, on peut trouver deux documents de 100 pages, l’un détaillant chaque action (in)sincère, et l’autre les peines ou récompenses à appliquer, par quel bureau ou département, etc.

Ces récompenses ou sanctions sont variées. Les récompenses, temporaires, sont conçues pour faciliter la vie de l’individu : facilités administratives, meilleurs accès au crédit, à l’éducation supérieure, aux établissements de tourisme de luxe, etc. Quant aux peines, elles ne sont pas permanentes, et vont du simple avertissement administratif à la mise sur liste noire, assortie de restrictions sur les voyages, l’accès aux services sociaux, etc. Sur ce point, le fonctionnement du « système de crédit social » se rapproche de celui du danwei : les individus sont dépendants du système pour l’accès aux services publics, mais aussi pour interagir socialement. Au-delà des sanctions d’ordre matériel (amendes, restriction d’accès à un marché, etc.) la sanction est aussi sociale. En effet, les données collectées et regroupées sur les bases de données locales ou nationales sont en partie publiques. La formule citée précédemment est claire : l’insincérité est honteuse. Dès lors, les entreprises ou individus placés sur liste noire sont publiquement humiliés en plus d’être punis. Par exemple, une application (Qihoo360) vous indique désormais si votre correspondant est ou non ‘blacklisté’ par le tribunal du district de Chaoyang, à Pékin.

Un bon exemple du fonctionnement de ce système est la virulente campagne menée contre les « laolai », des individus s’étant enrichi de manière plutôt douteuse, notamment en ayant contracté beaucoup d’emprunts sans jamais les rembourser. Cette campagne sert de test au système de crédit social, dans la mesure où elle utilise certains des composants développés, punitions et listes noires notamment. Elle est aussi très médiatisée, les laolai étant dépeints comme des figures de malhonnêteté qu’il faut rectifier. Yuandian Credit, une entreprise chinoise proche du gouvernement, suivant l’évolution du projet écrit en septembre que depuis l’établissement de la liste noire des individus ayant « brisé la confiance » (shixin), plus de 7,6 millions de personnes ont été inscrites sur cette liste, 7,3 millions ne peuvent plus acheter de billets d’avions, et 2,76 millions ne peuvent plus acheter ni voiture ni prendre le TGV chinois.

Ce système de peines et récompenses nécessite toutefois un haut degré de coordination entre les différents échelons administratifs et les différents organes du gouvernement. Tout comme pour le fichage, la capacité des différents organes du gouvernement aux différents échelons administratifs est critique pour le fonctionnement de ce système de gouvernance sociale. La campagne nationale contre les laolai démontrent pourtant une véritable volonté politique, et laissent entrevoir l’énorme potentiel coercitif de ce système. Ce potentiel n’a d’ailleurs échappé ni aux autorités ni aux chercheurs chinois. La partie suivante revient sur les craintes des autorités et les garde-fous mis en place pour restreindre le pouvoir d’un tel système.

Quels garde-fous pour éviter un système totalitaire ?

Il n’a échappé à personne qu’un tel système permet aux autorités d’exercer un contrôle jusque-là inédit sur la vie de chacun des individus. Les autorités chinoises sont évidemment au courant des risques du programme de « crédit social » et ont prévu d’y mettre un certain nombre de garde-fous.

Il y a dans un premier temps une tentative d’arbitrer entre collecte de données, transparence, et respect de la vie privée. La collecte des données doit être encadrée par la loi. Il est spécifiquement écrit dans les régulations de Shanghai et du Hubei que seule est autorisée la collecte des données listées dans les régulations, que les données de crédit commerciales doivent être collectées avec l’autorisation des individus, et qu’il est interdit de collecter des informations de nature médicale ou religieuse.  En outre, l’ensemble des données collectées n’est pas rendu public, et les individus ont le droit de consulter les données que l’on collecte sur eux. Le chapitre 4 des régulations de Shanghai inclut tous les articles détaillant les « droits et intérêts des entités soumises au système de crédit social ». Les peines et les récompenses applicables ne sont que celles définies dans la loi, et les individus peuvent déposer un recours s’ils jugent avoir été punis arbitrairement. De plus, au bout de cinq ans, l’historique des données peut être supprimé.

Si ces mécanismes sont les bienvenus, la législation sur le système de crédit social n’est pas achevée. Lors d’une conférence tenue le 23 septembre à l’Université Jiaotong de Shanghai, plusieurs intervenants ont en effet insisté sur l’importance d’une législation complète encadrant ce système, pour éviter une utilisation arbitraire de celui-ci. Contrairement aux idées de reçues, il y a un réel débat au sein des instituts de recherche et des universités sur le développement de cet outil de « contrôle social. » Ce débat porte évidemment sur les conditions de mise en place plutôt que sur le bien-fondé d’un tel programme. Il ne faut pas douter de la volonté du Parti-état à mettre en place ce système de contrôle social.

Pour Conclure…

Pour conclure, trois points sont à retenir sur le système de crédit social.

Premièrement, il s’agit d’un système organisant le fichage, la surveillance, et la notation du comportement de l’ensemble des citoyens, entreprises et organisations en République populaire de Chine. La surveillance est effectuée tant par des acteurs privés que publics. Un tel système alliant surveillance et mécanismes d’incitations ou récompenses offre au Parti-Etat un pouvoir de contrôle politique de sa population rarement égalé. Ce n’est pas la première fois que le Parti communiste tente d’exercer un contrôle si étroit sur la Chine, mais cette fois-ci, les nouvelles technologies semblent rendre un tel projet possible.

Deuxièmement, l’avantage d’un tel système réside en ce qu’il responsabilise à l’extrême les individus : ils agiront en connaissance des sanctions ou récompenses encourues. Pour celui qui choisit de se conformer aux exigences du système, les récompenses lui rendront sa vie plus simple voire agréable. A l’inverse, quelqu’un mis sur liste noire peut-être complètement ostracisé socialement, et n’a d’autre choix que d’amender son comportement

Troisièmement, les responsables chinois ont conscience des risques que posent un tel système, et si la volonté politique pour sa réalisation est certaine, subsiste un certain nombre d’interrogations : les différentes administrations chinoises sont-elles capables d’échanger et de se coordonner suffisamment ? Les acteurs privés devront-ils être systématiquement jugés pour donner les informations collectées, comme cela a été le cas pour Alibaba ou au contraire vont-ils collaborer sans résistance comme Tencent ? Enfin, forcer les individus et entreprises à la transparence ne signifie pas nécessairement que ceux-ci seront davantage enclins à se faire confiance.

Ce projet de « système de crédit social » nous amène peut-être vers une évolution de la gouvernance. La surveillance, par la collecte massive des données, deviendrait la base de la gouvernance. L’intelligence artificielle pourrait automatiquement pénaliser un agent économique qui aurait enfreint les lois. L’Etat disposerait alors d’un outil le dotant d’un pouvoir de coercion inégalé, lui permettant d’isoler ses opposants et récompenser ses citoyens modèles.

Pierre Sel