Credit The Observer
L’universitaire et professeur émérite à la Harvard Business School Shoshana Zuboff, auteur de « l’Âge du Capitalisme de la Surveillance » est de passage à Paris, et c’est pour notre plus grand plaisir qu’elle donne un entretien dans l’excellent podcast Le Meilleur des mondes sur France Culture. Comment le Capitalisme de la Surveillance a-t-il évolué depuis la sortie de son ouvrage en 2019, dans un monde post-covid et à l’ère de l’IA générative ? Qu’en est-il de la conscience citoyenne et que pouvons-nous espérer du pouvoir politique ?
En 2019, Shoshana Zuboff publiait un ouvrage majeur, l’Age du Capitalisme de la Surveillance, concept dont elle détient la paternité et qui naît au moment où la bulle Internet a explosé en 2001. A l’époque, les géants du web comme Google ne savaient pas encore comment monétiser les données de leurs utilisateurs. En jouant avec les signaux laissés par les internautes, les ingénieurs du moteur de recherche se sont aperçus qu’ils pouvaient commencer à prédire le comportement des gens à partir des traces laissées derrière eux (i.e. « le surplus comportemental »), et ce, sans même en avoir conscience.
Larry Page, l’un des fondateurs de Google, a ainsi eu l’idée que les prédictions du comportement humain pourraient être vendues comme des marchandises, de la même manière que nous vendons des barils de pétrole.
La première application a été le taux de clic qui a été utilisé comme signal comportemental pour vendre des prédictions aux publicitaires afin de connaitre qui allait cliquer sur les publicités, et ce qui conduira par la suite à ce Capitalisme de la Surveillance.
En 2004, année de la cotation de Google sur les marchés, et donc de l’obligation de déclaration de ses revenus, le monde a pu voir l’impact de la marchandisation des comportements humains comme source de profit. En effet, les revenus du moteur de recherche ont explosé de 3500% entre 2001 et 2004, forçant les autres acteurs de la Tech, Facebook en tête, à comprendre et mettre en place la même stratégie permettant de générer des croissances aussi importantes. Le reste du secteur technologique a suivi pour faire face à la pression des investisseurs.
En 2016, lors de la campagne aux USA, une équipe dédiée chez Facebook avait comme objectif de persuader certaines communautés de ne pas aller voter. En utilisant des techniques de microciblages, ils ont ainsi réussi à réduire de 7% les votes de la communauté afro-américaine, traditionnellement acquis à la cause des démocrates. Cette communauté a ainsi renoncé, sans aucune menace, et sans même le savoir au droit démocratique le plus sacré, le droit de voter. Ils l’ont fait car ils ont été manipulés sur Internet par des messages qui s’adressaient à leurs peurs, leurs incertitudes, leurs rêves, leur doutes, leurs inquiétudes.
Quotidiennement, Google transmet des données à l’industrie de la publicité. Ces données, classées en 400 catégories, sont extrêmement intimes et personnelles. On estime aujourd’hui que Google les partage à son réseau publicitaire en moyenne plus de 750 fois par jour aux USA, et plus de 350 fois en Europe.
La collecte des traces comportementales que nous laissons derrière nous et qui forment ce surplus comportemental doit être réalisée en secret, sous peine d’éveiller la conscience des utilisateurs et d’être la cible des régulateurs.
Or, depuis plusieurs années, nous assistons, impuissants aux révélations (Snowden, 2013 ; Haugen, 2021) et scandales (Cambridge Analytica, 2015 ; Apple Siri en 2019, Tesla en 2023) touchant l’exploitation de nos données.
Face à l’exaspération des citoyens qui voient leurs vies privées utilisées à des fins de marchandisation et de surveillance, les législateurs, notamment en Europe commencent à s’y intéresser avec le Digital Services Act (DSA) et le Digital Market Act (DMA). Tout cela pouvant faire peser des contraintes fortes sur le Capitalisme de la Surveillance, il a donc fallu que les entreprises trouvent de nouveaux modèles pour se légitimer.
Ainsi, en 2023, nous voyons des tentatives pour ramener l’IA auprès du consommateur final, au travers de promesses tel que « l’IA va vous aider à mieux gérer vos projets, améliorer votre travail, être plus compétitif ».
Or, l’IA a besoin d’énormément d’information et l’un des principaux problèmes actuels est de manquer de données pour alimenter les modèles. Une nouvelle phase est en cours : il faut scanner tous les visages, tous les ouvrages, tous les films….
Nous assistons à la renaissance du concept de pillage. Exemple emblématique, Sam Atman, patron de la startup OpenAI qui vole la voix de Scarlett Johnson pour son ChatGPT, malgré deux refus de l’actrice. Ces acteurs redéfinissent ce qu’ils ont pris indument comme un bien appartenant à leur entreprise et l’utilisent pour produire de la richesse et des profits dans leur intérêt et non dans le nôtre, en favorisant une forme d’invisibilité.
Tiktok est pour Shoshan Zuboff un magnifique exemple de détournement de l’attention. Le gouvernement américain souhaite interdire Tiktok aux États-Unis car les données comportementales des Américains pourraient être utilisées par le gouvernement Chinois. Pourtant, c’est exactement ce qu’il se passe avec les géants de la Tech de la Silicon Valley et le gouvernement américain. Ce discours global des USA contre Tiktok s’assimile à un discours de guerre froide.
Dès le début des années 2000, les gouvernements auraient dû intervenir et définir les droits, les lois, les instituions dont nous aurions eu besoin pour contrôler cette économie. Au 20e siècle, nous avons inventé le droit du travail, le droit de grève, etc… pour encadrer le monde industriel. Nous ne l’avons pas encore fait pour la donnée.
Ça pourrait vous intéresser :
À l’air du numérique, nous pourrions utiliser ces savoirs, ces données, pour guérir, améliorer nos sociétés, éduquer nos enfants, résoudre la crise climatique. Malheureusement, toutes ces connaissances sont concentrées entre les mains d’une poignée de multinationales géantes qui décident de ce qui doit être considéré comme connaissance, et décider de qui va pouvoir les utiliser et pour quoi faire. La régulation est extrêmement importante pour essayer de contrôler l’activité de ces multinationales et les mettre en conformité avec les normes démocratiques.
Les lois actuelles ne remettent pas en cause l’existence même de ces données. A chaque fois que nous réglementons, nous sommes dans une négociation. Nous légitimons les parties prenantes.
Il faut maintenant passer de la réglementation à l’abolition. Certaines activités fondées sur le secret et l’extractivisme massif et clandestin des informations générées par les humains doivent être abolies.
Ceux qui possèdent le futur de l’information possèdent le futur de la société.
Il est nécessaire de mieux comprendre l’impact de l’Intelligence Artificielle sur la société, de travailler avec les citoyens et les dirigeants politiques pour fonder les institutions qui permettent de financer les universités, les municipalités; pour créer des intermédiaires institutionnels, des institutions créatrices de connaissance, de savoir, et que chaque citoyen ait la possibilité de partager des informations de manière volontaire. Je peux par exemple décider de manière volontaire de partager mes données de santé et mon patrimoine génétique à des institutions et des chercheurs pour trouver des remèdes contre des cancers. Aujourd’hui, les GAMAM seuls récupèrent mes données de santé sans que je le sache et sans ma permission. Il faut donc définir les droits pour les citoyens : le droit au savoir, à la connaissance, à la vie privée, le droit de décider ce que l’on fait de nos données.
Ensuite, nous pourrons développer un système institutionnel qui permettra de partager ses données de façon à construire de nouveaux processus de production de connaissance pour améliorer la qualité de vie pour les gens, pour nos enfants, pour les malades, pour tous les besoins urgents, pour rendre la vie meilleure.
Rendons le pouvoir au gens et à la société pour retrouver le véritable chemin de l’innovation, pour créer les bases d’un avenir numérique et démocratique, pour mettre le numérique au service du bien public et de l’humanité (voir notre petit manifeste pour une technologie plus éthique).
