Le système de crédit social proposé récemment par la Chine a suscité beaucoup d'attention et de commentaires. Avec un plan de lancement en 2020, mais déjà en cours de test, le système promet de révolutionner la façon dont les données personnelles sont utilisées. Nous examinons ici, à la veille de l’entrée en vigueur du RGPD, si un système similaire pourrait voir le jour en Europe.

Avec la diminution des stocks mondiaux de pétrole, certains prétendent que les données sont le nouvel or noir du 21ème siècle. Chez Mapp, nous pensons qu'il s'agit d'une comparaison un peu simpliste. Le pétrole est un produit fini et à usage unique alors que la production de données est infinie avec des possibilités de réutilisation illimitées. Mais le message sous-jacent est clair. La data représente une ressource extrêmement précieuse à l’échelle mondiale.

Ce fait n'a pas échappé à l'Union européenne (U.E.) avec son règlement sur la protection des données personnelles, RGPD, qui entre en vigueur dans quelques jours le 25 mai 2018. Parmi les principales caractéristiques du RGPD, citons le droit pour les personnes d'accéder, de rectifier ou de supprimer des données personnelles. Mais aussi des sanctions possibles pour les entreprises qui ne respecteraient pas ce règlement avec des amendes pouvant aller jusqu'à 20 millions d'euros pour violation de l’usage de données personnelles non consenties par ses propriétaires.

Le nouveau règlement reflète les valeurs démocratiques des 28 États membres de l'U.E. Les données personnelles appartiennent à l'individu et ils ont le droit d'en faire ce qu'ils veulent.

En quoi cela diffère-t-il chez le grand concurrent commercial de l'U.E., la Chine ?

Le gouvernement chinois estime que les données publiques doivent être sous son contrôle. Un exemple, quelque peu surprenant est le récent système de crédit social, qui prévoit de suivre et d'évaluer la fiabilité des individus et des entreprises à travers le suivi des médias sociaux et de leurs activités en ligne. Ce modèle n’est pas sans rappeler, un fameux épisode de la série TV «Black Mirror » qui effraie quelque peu.

Ce classement algorithmique de la réputation devrait être publié en 2020 et influera sur la vie personnelle et professionnelle de chaque individu dans ce pays. Tout y sera, à priori, pris en compte, de la participation sur les sites de rencontres aux demandes de prêt. Des tests ont déjà été menés et les citoyens ayant des notes médiocres se sont trouvés non qualifiés pour acheter des billets de voyage et demander des prêts bancaires. Avec 1,3 milliard de citoyens chinois qui doivent recevoir une cote de confiance en moins de deux ans, les implications une fois le programme complet déployé seront énormes.

Il est peu probable qu’une approche similaire puisse arriver en Europe. Le paysage politique et juridique de l'U.E. rendrait très difficile la production d'un score numérique à l’échelle du continent pour chaque citoyen. Cela ne veut pas dire que les algorithmes commerciaux qui utilisent des données pour catégoriser les consommateurs ne font pas déjà partie intégrante de la vie économique européenne. Par exemple, Schufa, un système de notation de crédit universel utilisé en Allemagne pour évaluer la solvabilité de ses citoyens, a été critiqué pour son manque de transparence.

Selon les autorités européennes qui régissent le règlement européen sur la protection des données personnelles, il semble que nous soyons à la croisée des chemins. Tandis que le RGPD remet les clés de ses données à l'individu, des inquiétudes grandissent quant à la façon dont ces données sont utilisées pour classer les personnes de manière algorithmique.

«Nous vivons dans un monde où le jugement est remplacé par des chiffres, par des scores qui calculent la valeur d'un être humain, à l'aide d'algorithmes», explique Gerd Gigerenzer, directeur du Harding Center for Risk Literacy de l'Institut Max Planck. Développement humain à Berlin. [1]

"Nous sommes dans une phase cruciale dans laquelle nous devons discuter de nos valeurs", prévient-il.

Le Social Credit Network chinois ne soulève pas que de questions politiques, technologiques ou juridiques, mais avant tout éthiques. Les commentateurs européens, les entreprises et les citoyens suivront de près la manière dont la Chine traitera la matière première la plus précieuse au monde dans le futur.

[1] global.handelsblatt.com/politics/germany-mass-surveillance-social-credit-china-big-data-886786