Depuis 2014, le gouvernement de la république populaire de Chine développe un nouvel outil de « gouvernance sociale » basé sur l’activité des citoyens dans les espaces numériques. Délire orwellien ou solution pragmatique pour l’État le plus peuplé de la planète ? 

Lorsqu’en 2014, le Conseil d’Etat chinois (le principal organe de l’exécutif) publie sa « feuille de route pour la construction du système de crédit social », les médias étrangers ne tardent pas à remarquer le potentiel orwellien de ce projet. En effet, l’idée d’une plateforme centralisée regroupant les données de l’ensemble de la population résonne avec les anxiétés contemporaines liées à la digitalisation de nos vies : surveillance généralisée, collecte des données laissées en ligne …

Alors, forcément, quand Pékin développe un outil de régulation et de contrôle social destiné à surveiller et noter le comportement de chaque citoyen mais aussi des entreprises et organisations, il est difficile de blâmer les journalistes et observateurs d’être prospectifs sinon inventifs. Une rapide recherche sur Google illustre l’ambiance générale dans certaines salles de presse : de titres plutôt précis, « China’s social credit system : turning big data into mass surveillance » (Wall Street Journal) on passe à l’hyperbole, « China invents the digital totalitarian state » (The Economist), quand ils ne renvoient pas à la fiction : « China’s social credit score is like a ‘Black Mirror’ episode » (Business Insiders).

Au-delà de ces formules, le projet semble considéré comme une spécificité chinoise, sinon une dystopie inventée dans les couloirs de zhongnanhai. Si certaines parties du programme, à commencer par son nom, ont bien des « caractéristiques chinoises », d’autres reprennent des mécanismes courants dans le monde. Le social rating n’a rien d’inconnu pour quiconque travaille sur le web, tandis que le credit reporting est pratiqué depuis des décennies par les banques et assurances. Le projet de crédit social révèle comment Pékin compte aborder le défi de la digitalisation : l’adaptation des activités humaines aux technologies de l’information et de la communication, et en particulier, comment adapter la régulation de l’état économique et sociale à la société numérique.

Ainsi, la considération et l’analyse du crédit social ne peut s’arrêter à un « China Bad », hélas facile et commun. Certes, les sources concernant le programme sont peu nombreuses, et pour la plupart, en mandarin. Il n’en est pas moins impératif de dresser une vision globale de ce qu’est et implique ce système de crédit social, tant pour la Chine que pour nos sociétés.

Quelle traduction pour quel crédit ? 

Pour bien comprendre ce crédit social, encore faut-il être au clair sur les termes. Et d’emblée, tout se gâte. Il n’y a pas de traduction officielle en Français, et j’ai donc repris les termes utilisés dans la presse anglo-saxonne ainsi que chinoise, soit « système de crédit social ».

Dans une note parue peu de temps après la publication de « la feuille de route pour la construction du système de crédit social », en 2014, Han Jiaping, directeur du centre de recherche sur le crédit et le commerce électronique du ministère du commerce s’est chargé d’expliquer le sens et les implications générale du programme. Il insiste sur le sens général donné au terme « crédit ». En particulier, le mot crédit xinyong a plusieurs sens, que l’on peut, selon lui, regrouper en deux groupes : le sens économique, entendu, et un sens dit « social », « compris comme les normes morales et les codes de conduites que suivent les individus dans le processus de leur existence humaine ». Dans ce second cas, le mot employé est alors chengxin. Le site « China Law Translate » distingue, de son côté, les trois termes utilisés dans les documents chinois : xinyong (crédit – sens économique), shouxin et chengxin, traduits respectivement par « trustworthiness » et « creditworthiness ».

Dans la feuille de route publiée par le Conseil d’Etat chinois, les objectifs du crédit social sont clairement énoncés, dès les premiers et seconds paragraphes. Il s’agit d’un « élément important de l’économie socialiste de marché et de la gouvernance sociale », et l’accélération de sa mise en place est une importante base pour la mise en place d’une société socialiste harmonieuse ». En outre, le système de crédit social repose sur « un mécanisme de récompenses et de peines » pour encourager la confiance (shouxin) et punir ceux qui la brisent (shixin) « et son objectif est de renforcer le niveau d’honnêteté (chengxin) et la conscience/connaissance du crédit (xinyong yishi) de la société.

Ainsi, le système de crédit social concerne tous les acteurs de la société, personnes physiques et morales, ainsi, qu’en théorie, le gouvernement. A travers une note, les acteurs verront leurs comportements jugés : si son comportement est « conforme », peut-être sera-t-il gratifié, sinon, il sera probablement puni jusqu’à ce que celui-ci change. Cette note est censée reflétée le niveau de confiance des acteurs (trustworthiness – chengxin). A terme, cet outil de régulation sociale permettra ou du moins facilitera l’avènement d’une société socialiste chinoise. Il faut noter que la notion de confiance est centrale à ce système, d’autant que le gouvernement lie cette importance accordée à la confiance à des éléments de la culture traditionnelle chinoise. La confiance (xin) est en effet une des cinq valeurs principales (wuchang) du confucianisme, et l’une des douze valeurs du socialisme chinois.

Pourquoi la création d’un crédit social

Que le gouvernement cherche à ancrer le crédit social dans une tradition ancienne ne devrait pas surprendre, et à amener à s’intéresser à la théorie et l’idéologie élaborée par le Parti communiste autour et en amont du système. Car le système de crédit social est la matérialisation du « management social » (shehuiguanli), ou de « gouvernance sociale » (shehuizhili). Loin d’être un jargon pseudo-scientifique, ces concepts sont pris très au sérieux par les cadres et apparatchiks du parti communiste, et sont au centre de l’idéologie du parti. Le parti communiste chinois se conçoit comme une avant-garde du peuple, et se doit de guider celui-ci vers l’établissement d’une société socialiste. La doctrine maoïste de la « ligne de masse », décrit la même chose. Mao Zedong l’explique clairement dans son fameux petit livre rouge : « [la ligne de masse] Cela signifie qu’il faut recueillir les idées des masses (qui sont dispersées, non systématiques), les concentrer (en idées généralisées et systématisées, après étude), puis aller de nouveau dans les masses pour les diffuser et les expliquer, faire en sorte que les masses les assimilent, y adhèrent fermement et les traduisent en action, et vérifier dans l’action même des masses la justesse de ces idées. » Ainsi, le « management social » renvoie à un ensemble de systèmes complexes, scientifiques, grâce auxquels le parti pourrait non seulement gérer et façonner les masses, mais aussi le parti lui-même et son interaction avec les masses.

Si ces termes semblent anachroniques, cette question de la « gouvernance » ou « management social » est centrale à la conception holistique de la sécurité nationale, qui inclut la vision occidentale de « sécurité nationale », mais aussi deux autres dimensions intérieures : gérer le parti, et gérer l’ordre social. Il ne faut pas oublier qu’à terme, les organisations et le gouvernement seront parties du système de crédit social.

Mais au-delà des questions sécuritaires, le projet de crédit social répond également à un réel besoin de transparence et de régulations économiques. Han Jiaping, cité précédemment, base d’ailleurs son argumentaire sur le besoin de résoudre « l’asymétrie de l’information », due au développement trop rapide de l’économie de marché en Chine, et de répondre à la « déficience de sincérité » entre les acteurs, comme indiqué précédemment.

Mais dans les faits, qu’en est-il ? Il est difficile d’établir une liste précise de ce qui est déjà en fonction, ce qui est en développement, et plus encore de déterminer l’impact des éléments existants sur la vie des citoyens chinois. S’il existe peu de documents officiels résumant l’avancée du programme, en revanche, différents acteurs institutionnels locaux ou nationaux ont publié un grand nombre de documents annexes, traitant d’un aspect précis du futur système de crédit social : régulations ou critères de notation dans l’agroalimentaire, ou indications sur l’unification des noms et licences ». Se dégagent, à travers ces publications, un certain nombre de principes sous-jacents au programme, que nous allons tenter de détailler. Précisons d’emblée que la suite de l’article traitera des grandes lignes du projet, et n’entrera pas dans les détails techniques, qui restent d’ailleurs flous.

Individualité et non-anonymité des acteurs 

Ainsi, le système de crédit social repose dans un premier temps sur l’individualité et la non-anonymité des acteurs, personnes physiques ou morales. Pour les personnes physiques, celles-ci ont désormais l’obligation d’indiquer leur vrai nom lors de l’inscription sur chaque site internet (même s’ils peuvent toujours inventer un pseudonyme). De plus, chaque compte en banque, connexion internet ou numéro de téléphone doit être lié à un numéro d’identification national individuel, afin que l’usager puisse être tenu responsable de ses actes, qu’ils s’agissent de prises de position sur internet ou transactions financières. Pour les personnes morales, le gouvernement attribue également depuis 2016 un numéro d’identification national, plus spécifiquement, un « numéro unifié pour le crédit social », à 18 chiffres. Par ailleurs, le système est en mesure de relier des personnes physiques aux personnes morales, afin, par exemple, qu’une peine infligée à une entreprise ait des conséquences sur les individus aux postes de responsabilité. Le document publié fin 2016 sur la construction du crédit social personnel est clair, l’identification individuelle des utilisateurs est centrale à la mise en place du système. Un des effets à court terme peut-être une réduction des fraudes et arnaques, notamment informatiques, qui représentent un véritable problème social en Chine. Il est évident qu’une telle mesure aura des conséquences sur les prises de positions des internautes, déjà sous forte contrainte à cause de la volonté de Beijing de lutter contre les ‘fakes news’, dont la définition chinoise est, sans surprise, à géométrie variable.

Il y a en réalité deux types de données collectées : les données de crédit public (gonggongxinyong xinxi) et les données de crédit de marché (shichangxinyongxinxi). Les premières correspondent aux interactions de l’utilisateur avec la loi et les services publics, tandis que les secondes correspondent aux données liées aux comportement professionnel et commercial.

Ces données devraient en partie être disponibles, ou du moins consultable librement. Le gouvernement annonce vouloir protéger la vie privée des citoyens, de telles manières que les données ne pourront être revendues ou transmises à des parties tierces non gouvernementales. D’ailleurs, les documents sur la construction du système de crédit social rappellent systématiquement la nécessité de « régulations » pour protéger la sécurité des données et leur exploitation, et insistent sur l’importance de protéger la vie privée des utilisateurs. Evidemment, comment ceci se traduira dans la réalité n’est pas clair. En théorie, l’accès libre aux données des utilisateurs (personnes physiques ET morales) est censé répondre au problème d’asymétrie de l’information : chacun peut se renseigner sur le niveau de sincérité de l’autre. Concrètement, en cas d’appel d’offre pour la construction d’une école, l’application permet de comparer le « niveau de sincérité » des entreprises, en termes de respect des délais, des paiements, etc. En ce qui concerne les individus, l’idée est similaire. Il existe déjà des ‘mécanismes d’alerte’ : une application (Qihoo360) vous indique désormais si votre correspondant est ou non ‘blacklisté’ par le tribunal du district de Chaoyang, à Pékin (en général pour des raisons économiques, voir plus bas).

Un système « parapluie » 

Second principe important, évoqué plus haut, le développement du programme repose sur la construction d’applications précises et localisées. Loin d’être monolithique, ce qu’on appelle « système de crédit social » est plutôt une sorte de parapluie, une appellation regroupant un certain nombre de programmes différents. Concrètement, si le gouvernement central se charge de construire l’architecture générale, la législation du système de crédit social, et de superviser la collecte et la centralisation de données, ainsi que la définition des peines et récompenses, ce sont des acteurs locaux, publics ou privés, qui sont chargés de l’élaboration technique des composants, secteurs par secteurs. Par exemple, c’est par branche d’activité que les critères d’évaluations et les bases de données sont construites, et ensuite centralisées. De plus, le gouvernement charge des acteurs privés de construire les bases de données et les critères d’évaluation. Depuis 2015, des appels d’offres ont été lancés, et les vainqueurs par secteurs ont commencé leur travail. Par exemple, dans la filière charbon, c’est le groupe Dongfang Jincheng qui a été sélectionné. Notons toutefois que le gouvernement semble faire machine arrière, et craint notamment des conflits d’intérêts : les entreprises étant chargées de constituer indicateurs et bases de données étant juges et parties.

Une disgression intéressante : Considérons Tencent et Ant Financial (filiale du groupe Alibaba), deux géants du web chinois, dont les applications comptent des centaines de millions d’utilisateurs, et tous deux pionniers dans la mise en place de crédit social personnel. Attention à la confusion, il s’agit ici de credit reporting : le but est de se renseigner sur les habitudes de consommation des utilisateurs pour établir un « background financier » individualisé). Les deux groupes avaient été choisis en 2015 par la Banque centrale chinoise pour développer des projets pilotes pour la création d’indicateur permettant d’évaluer la situation financière des personnes (de la même manière que les institutions financières occidentales, mais construit sur du big data). Ces projets, s’ils n’entrent pas directement dans le « système de crédit social », constituent néanmoins les avant-gardes les plus abouties de système de crédit social personnel privé. Ant Financial opère depuis quelques années maintenant le Sesame Credit (zhima xinyong), un score calculé à partir de différents indicateurs (dépenses sur, bien entendu, Alibaba et Taobao, mais aussi d’autres plus triviaux comme l’heure à laquelle les utilisateurs font du sport), tandis que Tencent a lancé son score concurrent à la fin de l’été. Or, la Banque centrale chinoise a suspendu les licences précédemment octroyées devant les risques de conflits d’intérêts, alors même que le Sesame Credit a été peut-être victime d’une fraude, des utilisateurs ayant réussis à maintenir leur score artificiellement haut.

Si le principal élément du système de crédit social est ce mécanisme de peines et de récompenses en fonction du comportement, détaillé ci-dessous, il me semble justifiable d’avancer que d’autres outils, comme les outils de reconnaissance faciale pour verbaliser les piétons traversant au rouge, pour identifier des criminels, ou simplement pour contrôler les étudiants entrant ou sortant des dortoirs.

Punitions et récompenses 

Un aspect central du système de crédit social, son « cœur », pour reprendre les termes du document fondateur de 2014, est le système de récompenses et de punitions. Central pour façonner le comportement des acteurs, ce projet n’implique pas moins quelques défis techniques majeurs. En effet, il implique par exemple une forte coordination et échange de données entre divers échelons administratifs ou judiciaires, entre différents départements et comités. Jusqu’à présent, la plupart des documents publiés par les autorités chinoises concernent des instructions de coopération entre administrations.

Parmi ces documents, un document publié par la Cour suprême chinoise, et signé par un total de 44 autres départements, prévoit une coopération accrue pour faire appliquer les peines de justices prononcées à l’encontre d’individus, le plus souvent au sujet de dettes non payées ou autres litiges d’ordres financiers. Ce document donne des indications sur l’échange de données entre départements et l’application commune (à plusieurs départements) de peines à l’encontre du prévenu. Ainsi, le document requiert la mise en place d’archives concernant les usagers, mais aussi de mesures de protection de ces archives pour protéger la vie privée. Ce type de mémos constituent une pierre angulaire du système de crédit social.

La définition des peines et des récompenses étant centrale, la législation du crédit social l’est d’autant plus. Puisque le système repose sur la loi (la ‘confiance’ mesurée étant basée en partie sur le respect de la loi), celle-ci doit être claire et connue de tous. L’avancée de ce travail législatif n’est pas claire, mais il ne faut pas s’attendre à de nouvelles lois avant la fin du 19e Congrès du Parti communiste prévu pour la mi-octobre. Il faut noter que la ville de Shanghai, en pointe dans la mise en place du système de crédit social (celui de la ville serait opérationnel au moins en ce qui concerne les personnes morales) publie sur son site des documents détaillant les actions susceptibles de peines ou de récompenses ainsi que lesdites peines et gratifications à appliquer.

En outre, d’après un rapport publié par Yuandian Credit, pas moins de 5,5 millions de personnes physiques ont déjà été « blacklistées » par les autorités, principalement car elles n’ont pas remboursé leurs dettes. En effet, les premières cibles, voire cobayes du système de crédit social ont été les « laolai ». Plus précisément, d’après le même rapport, le département des transports a déjà limité les achats par des « laolai » de billets d’avions ou de billets trains plus de 2,7 millions de fois. Il s’agit généralement d’hommes d’affaires ou du moins de personnes s’étant enrichies de manière douteuse, ayant souvent contracté des dettes pas toujours remboursées. Concrètement, ces personnes se voient imposer des restrictions sur leurs billets d’avions, sur l’accès à de nouveaux crédits, etc. A ce stade, l’étendue des sanctions n’est pas claire, d’autant plus que certaines lois ou consignes du gouvernement, sans être explicitement liées au projet de crédit social, peuvent s’y raccrocher. Par exemple, le gouvernement tient désormais les créateurs de groupe Wechat responsables juridiquement des propos tenus par les membres, et sitôt la loi passée, pas moins de 30 utilisateurs ont été « disciplinés ». Enfin, il est intéressant de constater que des mécanismes sont prévus pour rattraper un score de crédit négatif, à travers de bonnes actions. Il est également possible de se plaindre et de demander réclamation si l’on considère avoir été puni injustement. Pour terminer, l’historique du score est censé être réinitialisée ou du moins supprimée après 5 ans.

L’ouverture d’un champ des possibles 

Il n’est jamais facile de résumer un projet en pleine construction, surtout lorsque celui-ci suscite tant de fantasmes. Pour sûr, ce système de crédit social est de nature à effrayer quiconque se préoccupe des droits individuels, qu’ils soient occidentaux ou chinois. En tout état de cause, il ne s’agit pour l’instant pas d’un terrifiant outil centralisé grâce auquel une poignée d’apparatchik contrôle le pays. Si l’aspect totalitaire est évident dans ce programme, il ne s’agit pas uniquement d’un tropisme chinois : je suis toujours étonné qu’il n’y ait pas d’étude ni même d’alerte sur les projets de Facebook ou Google, travaillant sur l’unification des trackers, afin d’individualiser ceux-ci à travers les plateformes : à chaque adresse email, un compte, toujours plus de données collectées un individu traqué. Si la comparaison s’arrête, pour le moment, là, il ne faut pas oublier que la plupart des composants du système crédit social existent ou sont utilisés en Occident.

Plus probablement, dans un premier temps, des dizaines de systèmes similaires, certains publics, certains privés, seront déployés à différents échelons administratifs. Pékin entend faire une pierre de coup : développer le marché de la notation et du crédit (au sens économique), et construire un mécanisme de gouvernance sociale à même de modifier les comportements de la population. Si, à terme, à grand renfort de big data et d’intelligence artificielle, Pékin espère centraliser ces données pour parachever cet outil de « management social », pour l’instant le système en est à ses débuts, et de nombreux problèmes subsistent : la législation sur les peines et les récompenses n’est pas complète, les bases de données ne sont pas encore complètes, et surtout, point essentiel, la définition des critères et la construction des indicateurs n’est pas achevée. Or, ceci est essentiel car si jugement sur un comportement il doit y avoir, il est fondamental de savoir comment et sur quel critère nous sommes jugés. La fiabilité et la confiance dans le juge repose la dessus. De la même manière que nous allons sur un Trip Advisor ou Booking, il importe de savoir si les commentaires et jugement sont fiables – ce qui n’est d’ailleurs pas systématique. Le raisonnement est le même pour le crédit social. De même, le statut de programmes pilotes n’est pas forcément clair, et si Shanghai s’est doté d’une plateforme de crédit social, il n’est pas certain que les individus aient déjà reçu un score. Enfin, il est toujours difficile de discerner quels composants font ou non partie de ce « parapluie » qu’est le « système de crédit social » : le Sesame Credit n’en fait a priori pas parti, même s’il sert probablement de pilote. Vue la complexité du sujet et le peu de sources disponibles, cet article ne peut qu’explorer les aspects principaux du crédit social, et tenter de le rendre compréhensible, en attendant la parution d’une recherche plus détaillée.

Pierre Sel