•  
  •  
  •  
  •  
  •  

EXTRAIT DU MAGLa Chine a annoncé la mise en place d’un crédit social généralisé, s’appuyant sur un système de notation des individus récompensant les plus vertueux et sanctionnant les autres. Demain, serons-nous également tous notés ? N’est-ce pas déjà le cas ?

Dans un épisode de la série britannique Black Mirror, une jeune femme voit sa vie basculer à cause de son mauvais score sur les réseaux sociaux. Dans ce monde fictif, chaque interaction – au boulot, en famille, en boutiques, en ligne ou IRL (In real life, dans la vraie vie en français) -, donne lieu à une note. Plus sa note est haute, plus on a accès à des services premium. Inversement, une note basse fait tutoyer la précarisation et la marginalisation. Ce système de crédit social serait peut-être moins effrayant si la Chine ne l’avait pas déjà imaginé, bien qu’il soit un peu différent.

De quoi parle-t-on ? Depuis le début des années 2000, en Chine, des gouvernements locaux (municipalités, provinces…) ont mis en place des dispositifs avec lesquels ils vont noter les citoyens, à l’aide des informations fournies par les administrations locales hospitalières, fiscales ou de police par exemple. Une personne ne paie pas ses impôts ou ses contraventions : des points en moins. Au contraire, celle qui respecte la loi et ses engagements verra son score augmenter. En fonction de leurs comportements au quotidien (et donc de leur note globale obtenue) puis du barème défini par la localité, les citoyens seront récompensés ou bien sanctionnés.


Valorisation personnelle et blacklists

En parallèle, des entreprises privées, comme Alibaba, le géant chinois du e-commerce, développent leur propre système, fondé cette fois sur les données des utilisateurs récoltées sur des applis d’e-commerce, de location, de rencontres… Des données bien plus riches que les quatre ou cinq informations connues des services publics. Et là, les interactions sociales sont prises en compte, pas seulement le respect ou non des règles administratives. Ces dispositifs privés se différencient surtout par leur finalité marketing. « L’idée est d’encourager les gens à utiliser leur note comme un instrument de valorisation personnelle, dans le cadre de leurs interactions sociales, à l’aide de toutes les applications proposées par ces sociétés », explique Séverine Arsène, chercheuse associée au sein du Medialab de Sciences Po.

Vers des sociétés du profilage ?

Et si demain, nos faits et gestes à nous aussi étaient scrutés et notés en permanence ? En réalité, n’est-ce pas déjà le cas ? « Quand vous êtes un bon hôte sur airbnb ou un vendeur fidèle sur Amazon ou Ebay, vous êtes d’ores et déjà mis en avant par rapport à d’autres vendeurs. Cela peut avoir un impact sur votre business », rappelle Séverine Arsène. Autre exemple : des études sur les chauffeurs Uber montrent que la plateforme est conçue de telle sorte que les chauffeurs sont encouragés financièrement à se déplacer dans tel quartier, à telle heure, et à travailler plus longtemps.

Les services publics ne sont pas épargnés. Du moins, des expérimentations ont déjà été mises en place. Un des plus connus (et éloquent) concerne la justice américaine. Des juges aux États-Unis se sont appuyés sur des profilages effectués par des algorithmes évaluant le potentiel des personnes à récidiver, pour prononcer ou non des libérations sur parole de prisonniers. Cela dit, un cas similaire serait difficilement possible en Europe et surtout en France. « Les réglementations française et européenne protègent les citoyens concernant la collecte et le traitement de leurs données personnelles, insiste Régis Chatellier, chargé d’études prospectives à la CNIL (Commission nationale de l’informatique et des libertés). Cependant, il est nécessaire parfois de traiter ces questions sous l’angle de l’éthique et pas seulement de la conformité. » Des collectes et traitements de données peuvent être légaux, mais rester problématiques d’un point de vue éthique en termes de finalité.

Vous avez cet article et souhaitez en savoir plus ? N’hésitez pas à découvrir le numéro 24 d’Up le Mag disponible sur notre boutique en ligne.


  •  
  •  
  •  
  •  
  •