Le capitalisme de surveillance : IA, données, et la fin du privé
Nos données sont extraites comme du pétrole, l'IA nous remplace et nous surveille, et on nous dit que c'est le « progrès ». Voici le capitalisme de surveillance (Zuboff), ce qu'il nous fait, et comment le reprendre en main.
Chaque clic, chaque recherche, chaque pas géolocalisé est enregistré, vendu, monétisé. Les géants du numérique, Google, Meta, Amazon, ont bâti des empires sur une matière première : nous. La sociologue Shoshana Zuboff a nommé ce système le capitalisme de surveillance.
Cette note décortique la machine, et ce qu'elle fait à nos vies, à nos esprits, à nos emplois.
Vous avez déjà parlé d'un produit devant votre téléphone, puis vu une publicité pour ce produit ? Ce n'était pas de la magie. Dans The Truman Show, Truman vit dans un décor dont il ignore qu'il est observé ; nous n'avons même pas le décor, nous avons le fil.
Ce que Zuboff a vu
Zuboff le résume ainsi : le capitalisme de surveillance « revendique l'expérience humaine comme matière première gratuite ». Nos comportements, prédits et façonnés, sont vendus à des annonceurs. Ce n'est pas un échange, nos données contre des services : c'est une extraction unilatérale, sans consentement réel.
Et ce n'est pas qu'une affaire de vie privée. C'est une affaire de pouvoir : celui qui prédit vos comportements peut les façonner, vos achats, vos votes, vos désirs. La surveillance n'est pas un effet secondaire du numérique, c'est son modèle économique.
Mais il faut préciser l'image du minerai, car elle dit mieux que la métaphore habituelle. On parle de nos données comme d'un « nouveau pétrole ». La comparaison est flatteuse pour nous, et fausse. Le pétrole est sous la terre, et nous sommes les mineurs. Ici, le gisement, c'est nous. Nous ne sommes pas ceux qui extraient : nous sommes ce qu'on extrait, et nous le portons sur nous sans le savoir.
Et la surveillance comme technique de gouvernement n'est pas née avec le numérique. Dans la Chine impériale, le système baojia, mis en place sous les Song au XIe siècle et perfectionné par les Qing au XVIIe, organisait les foyers par groupes de dix (jia) et de cent (bao) : chaque groupe était collectivement responsable de la conduite de ses membres, de leur déclaration et de leur signalement, sous peine de sanctions partagées. On y trouve déjà les trois pièces de la surveillance de masse : l'enregistrement, la responsabilité collective et la dénonciation mutuelle. Les outils changent, l'architecture persiste : le baojia fait ce que fait un score social, avec du papier et des voisins.
L'IA : remplacer et surveiller
L'« intelligence artificielle » est le nouveau visage de cette machine, et elle fait deux choses.
Elle remplace le travail. On nous vend l'IA comme un progrès qui libérera les humains des tâches pénibles. En réalité, elle est surtout déployée pour remplacer les travailleurs et baisser les salaires, sans jamais partager les gains de productivité. C'est le mouvement de toute automatisation : les gains au capital, les pertes au travail.
Et elle surveille. Reconnaissance faciale, scoring social, prédiction policière : l'IA est l'outil d'une surveillance de masse, vendue aux États et aux entreprises.
Trois croyances à déposer
« C'est un échange équitable : tes données contre des services gratuits »
Tu donnes tes données, tu reçois Gmail ou Facebook, ce serait juste. Or ce n'est pas un échange, c'est une extraction. La valeur de vos données dépasse de très loin le service reçu, et vous n'avez aucun contrôle. C'est comme dire qu'un fermier échange sa terre contre le droit de la cultiver pour un autre.
« L'IA va nous libérer du travail »
L'automatisation libérerait du temps pour tous. Or les gains de productivité vont au capital, pas au travail. L'automatisation, sans redistribution, c'est du chômage et des salaires en baisse, pas du temps libre. La promesse n'est tenue que si l'on partage les gains, par le salaire à vie et la réduction du temps de travail.
« La technologie est neutre, c'est l'usage qui compte »
L'outil ne serait ni bon ni mauvais. Or la technologie est conçue par et pour des intérêts. Le capitalisme de surveillance n'est pas un mauvais usage d'un outil neutre : c'est un modèle économique entier, construit sur l'extraction. La question n'est pas l'usage, c'est la propriété.
Approfondir : la surveillance comme modèle d'affaires
Shoshana Zuboff décrit le mécanisme : capter nos comportements produit un surplus comportemental, qui devient la matière première d'une prédiction vendue aux annonceurs et aux assureurs. C'est un pouvoir qu'elle appelle instrumentarien : pas seulement observer, mais modifier les conduites. Police prédictive, notation sociale, traçage géographique : l'IA n'est pas qu'un outil de calcul, c'est une infrastructure de contrôle. Et l'innovation sert souvent à étendre ce contrôle, pas à nous libérer du travail.
- Shoshana Zuboff, L'Âge du capitalisme de surveillance, 2019 ; travaux sur la police prédictive.
Approfondir : l'IA et le travail, remplacer ou discipliner ?
L'IA ne se contente pas de supprimer des emplois : elle discipline les travailleurs. Algorithmes qui notent, qui assignent les quarts, qui évaluent en temps réel : c'est le taylorisme 2.0 (Braverman, 1974), le savoir et le rythme transférés de la personne à la machine. La vraie question n'est donc pas combien d'emplois seront détruits, mais qui contrôle l'outil et pour quoi faire : aider le travail, ou le commander ?
- Harry Braverman, Travail et capital monopoliste, 1974 ; Kellogg, Valentine et Christin, Algorithms at Work, 2020.
Reprendre le numérique
Interdire l'extraction, d'abord : réglementer drastiquement la collecte de données, pas de surveillance sans consentement réel, pas de vente de données. La vie privée est un droit, pas une marchandise.
Démocratiser la technologie, ensuite : des plateformes publiques et coopératives, gouvernées par les usagers, logiciels libres et réseaux décentralisés, plutôt que par les actionnaires.
Partager les gains de l'automatisation, encore : réduire le temps de travail, garantir un salaire à vie (CSGU), pour que la machine travaille pour nous, pas contre nous.
Interdire la surveillance de masse, ensuite : reconnaissance faciale, scoring social, moratoire et interdiction. La surveillance est un outil de contrôle, pas de sécurité.
Et gagner la souveraineté numérique, enfin : sortir de la dépendance aux géants états-uniens, qui tiennent 85 % du cloud, par des data centers publics et des logiciels libres dans l'administration (voir notre note sur le simulateur v4).
La leçon est simple : le numérique n'est pas à côté du capitalisme, il en est la pointe avancée. Le reprendre, c'est reprendre la matière première de nos vies.
Explorez dans le simulateur
Le module « souveraineté numérique » de notre simulateur fédéral modélise des data centers publics et des logiciels libres. Activez-le et observez.
Tes données ne sont pas le prix à payer. Elles sont le butin à reprendre. Nous ne sommes pas les mineurs du gisement : nous sommes le gisement.
Pour aller plus loin
Sources : Zuboff, L'Âge du capitalisme de surveillance (2019) · Srnicek, Capitalisme de plateforme (2016) (Open Library) · Eubanks, Automating Inequality (2018) (Open Library) · Noble, Algorithms of Oppression (2018) (Open Library) · 85 % du cloud états-unien (souveraineté numérique) · Pasquale, The Black Box Society (2015) (Open Library) · Baojia impérial chinois (Song, XIe siècle ; perfectionné par les Qing au XVIIe) : foyers groupés par dix et cent, responsabilité collective et dénonciation mutuelle (Britannica ; Wikipédia).