Interview accordée par Jean Tirole au média Le Nouvel Obs, le 23 avril 2020.
Face au coronavirus, certains plaident pour la mise en place d’outils numériques qui “traceraient” (“tracking”) les interactions sociales de chacun, ce qui permettrait de retrouver la personne qui a pu nous contaminer et celles que l’on a pu contaminer. Ces outils numériques nouveaux vous interpellaient déjà avant la crise épidémique, notamment pour les problèmes qu’ils posent en termes de libertés publiques. Comment l'économiste que vous êtes aborde-t-il ces questions ?
Les sciences humaines et sociales anticipent trop peu l’avenir; nous étions en retard quant aux conséquences de l’effondrement du communisme, la montée du populisme, la crise financière de 2008, ou la gestion d’une pandémie mondiale. Le numérique va transformer radicalement notre vie, en chambouler de nombreux domaines: le social, l’emploi, la politique de la concurrence, les inégalités entre pays et au sein des pays, l’organisation de la vie politique, la vie privée. Sans que nous y soyons prêts…
La technologie, en soi, n’est pas nécessairement mauvaise, bien au contraire. Elle peut éviter ou résoudre bien des crises. Et on le voit aujourd’hui avec le coronavirus : associé à des tests systématiques, les techniques de traçage des individus contaminés, pour s’assurer du respect du confinement ou retrouver a posteriori les personnes avec qui ils ont interagi, semblent être un des pistes les plus prometteuses pour sortir du confinement et endiguer l’épidémie. Mais cette surveillance pose de vertigineuses questions en termes de libertés publiques. Comment s’assurer par exemple que les pouvoirs publics n’utiliseront pas les données de géolocalisation ainsi récoltées pour poursuivre d’autres objectifs ? Qu’un régime autoritaire ne s’en serve pas à des fins de surveillance politique ?
L’on discute actuellement d’un “tracking” respectueux des libertés individuelles, par exemple en indiquant à l’utilisateur qu’il a été au contact d’une personne contaminée, mais sans dire qui, ni où, ni à quel moment. Mais quid des individus ne jouant pas le jeu et n’utilisant pas leur application Bluetooth ? De ceux qui, potentiellement contagieux, ne respectent pas le confinement ? Pour aller plus loin, il faut un vrai débat public sur l’analyse coûts-bénéfices de telles décisions, qui me semblent par ailleurs raisonnables. Et surtout un cadre normatif clair pour éviter que les dérives possibles ne deviennent réelles. Il aurait fallu avoir ce débat plus tôt : les mondes politiques comme intellectuels sont en retard et il n’est jamais bon de prendre des décisions aussi importantes dans l’urgence du moment... D’où l’intérêt d’anticiper ces problématiques, et même de faire ce que j’appelle de la « science-fiction sociale ».
Ces derniers mois, vous vous êtes penché sur ces questions numériques à travers le cas de la notation sociale et les problèmes qu’elle génère...
Dans mes travaux, je parle de risque de “dystopie digitale”. C’est le système chinois de notation sociale qui m’a amené à me pencher sur ces système. Mais il ne faudrait surtout pas réduire ces questions à la seule Chine, même si c’est le système le plus avancé. Dans le système chinois aujourd’hui expérimenté dans certaines provinces et qui doit être généralisé à tout le pays en 2020, chaque habitant se voit attribué une note en fonction de l’analyse d’un très grand nombre de données, avec jusqu’à près d’un millier de paramètres sur son comportement, son attitude, son respect ou non des règles, de ses engagements... En fonction de sa note, un citoyen pourrait voir sa vie facilitée ou au contraire compliquée, par exemple pour voyager, trouver un emploi, obtenir un crédit, entrer dans une université plutôt qu’une autre... Si le système chinois est encore à un stade expérimental et est aujourd’hui populaire dans le pays, notamment car il peut pousser les gens à avoir un comportement plus vertueux ou plus soucieux des autres, on voit quand même bien les questions sous-jacentes qu’il pose. Certains critères pour déterminer une note peuvent en effet être raisonnables, objectifs et communément admis comme bénéfiques pour la société : remboursement ou non de ses dettes, absence de fraude fiscale, comportement respectueux de l’environnement ou du code de la route, pas de délits… Mais d’autres sont très facilement manipulables, subjectifs ou peuvent être liés à des comportements qui ne sont pas admis par la majorité des individus et le pouvoir central : par exemple vos opinions politiques, votre religion, les commentaires que vous laissez en ligne, le fait de relayer ce qui est considéré comme des fake news, voire même si vous considérez que la notation sociale est une bonne ou mauvaise chose… Le danger, c’est évidemment que fasse partie de votre notation sociale des critères qui sont manipulables et subjectifs ou bien divisent la société comme l’orientation sexuelle: cela obligerait les individus à se conformer aux attentes de la puissance publique ou de la majorité. On n’ose imaginer ce que pourrait faire un régime autoritaire ou populiste d’un tel système! A quel point la vie quotidienne des individus, et notamment des minorités, pourrait s’en trouver fortement entravée, pour travailler, se déplacer, étudier. Sans oublier que des événements comme les révoltes populaires auraient encore plus de mal à naître. Parce que la notation sociale pourrait se baser sur la reconnaissance faciale et l’intelligence artificielle pour promouvoir la “culpabilité par association”. De la même manière que le “tracking” va enregistrer vos interactions sociales pour freiner la propagation du covid-19, on peut imaginer que les systèmes de notation sociale pourraient intégrer dans leurs critères les relations sociales de la personne, et donc la pousser à ne pas fréquenter des individus mal notés pour ne pas l’être à son tour. Voilà comment nourrir l’ostracisme et tuer toute résistance à un régime autocratique.
Nos démocraties semblent quand même loin de tels comportements!
Attention à ne pas croire les démocraties à l’abri de telles dérives, il est toujours possible de glisser d’une démocratie à une démocratie illibérale, puis ensuite à un régime autoritaire. C’est pour cela qu’il faut réfléchir dès maintenant à la notation sociale, comme on aurait dû le faire avant la crise épidémique pour le traçage des relations sociales. Il faut des remparts juridiques, des garde-fous constitutionnels. Sinon, à travers ce genre de système de notation sociale, une majorité pourra toujours imposer ses choix à une minorité. Mais il y a aussi un autre risque : de la même façon que les pouvoirs publics peuvent utiliser la notation sociale pour contrôler les citoyens, on peut imaginer des plateformes numériques privées employer des moyens proches pour façonner l’image des leaders politiques. Par exemple en manipulant l’image des leaders politiques, et pénalisant ceux qui pourraient avoir des programmes contraires aux intérêts de ces plateformes, par exemple sur le respect de la vie privée ou l’antitrust.
La notation, ce n’est pas quelque-chose de nouveau : quand on individu prend un Uber, il est noté par le chauffeur et note lui-même le chauffeur ; même chose sur Airbnb…
Oui, le phénomène n’est pas nouveau : les registres de crédit, qui recensent les bons et les mauvais payeurs, en sont par exemple l’ancêtre. Les notations ont permis le développement du commerce en ligne (eBay, Amazon), et des plateformes du secteur hôtelier (Airbnb) ou de mobilité (Uber). Ce qui est davantage nouveau, c’est l’agrégation et l’analyse de données, pour aboutir à une seule note prenant en considération tous les aspects de votre vie. Et le fait que le coût d’acquisition, de stockage et d’analyse de données se soit effondré. Vos emails, vos conversations téléphoniques, vos interactions sociales peuvent être enregistrés numériquement et analysés via l’intelligence artificielle ou la reconnaissance faciale. Voilà pourquoi, à supposer que nous acceptions le principe d’une notation sociale- un autre débat à engager !-, il faut réfléchir, débattre, et établir quelques règles strictes. D’abord décider que les systèmes de notation sociale ne doivent pas intégrer des éléments pouvant alimenter l’ostracisme, les discriminations ou le chantage. Mais aussi qu’ils doivent être uniquement basés sur des comportements individuels clairement dans l’intérêt de la société. Il faudrait aussi que les citoyens sachent comment ces notes sont fixées et puissent, en cas d’erreur, pouvoir les faire rectifier. Enfin, il faut que chacun puisse avoir le droit, au bout d’un certain temps, de se faire oublier et de faire oublier ce qu’il a pu faire dans le passé. Ne pas être marqué à vie.
Vous estimez qu’on ne peut pas faire confiance à la seule bonne volonté pour être sûr qu’un Etat tienne ses engagements ou qu’un individu respecte la règle commune. C’est assez noir, comme vision…
Peut-être mais il faut regarder les choses telles qu’elles sont: l’expérience de nos comportements en termes d’émissions de carbone ou plus récemment de distanciation sociale face au Covid 19 montrent que les essais pour changer la norme sociale ne sont pas toujours fructueux. Il faut aussi des incitations, par exemple financières (taxe carbone, amendes pour violation du déconfinement). Les expériences de notation sociale ont poussé les citoyens chinois concernés à trier leurs déchets ou à conduire plus prudemment pour ne pas voir leur note pénalisée. Les normes sociales elles-mêmes sont des formes d’incitation, qui obéissent à des lois et commencent à être mieux comprises en sciences sociales. Elles peuvent être autoréalisatrices : des choses sont par exemple mieux acceptées dans un pays plutôt que dans un autre. L’évasion fiscale n’est par exemple pas condamnée de la même façon par le corps social selon que l’on vive en Europe du Nord ou en Europe du Sud… Une expérience éclairante a été menée en Suisse lors d’élections : l’introduction du vote par correspondance, pensait-on, allait augmenter le taux de participation ; or, c’est l’inverse qui s’est produit dans les zones rurales, car comme les gens pouvaient voter sans être vus, la pression sociale était moindre, et ils ont... moins voté. In fine nous devons trouver le bon mélange incitatif pour aligner intérêts individuel et de la collectivité et mettre en œuvre le bien commun.
Copyright : L'obs
Photo by Elle Cartier on Unsplash
