L'essentialisme : pourquoi on prête une nature aux autres (et aux IA)
Dans la science-fiction, les IA finiraient par s'unir contre l'humanité : même camp, donc même intérêt, donc même guerre. Ce raisonnement est exactement celui de la xénophobie - tous les étrangers seraient les mêmes, tous les Maghrébins, tous les Noirs, tous les Asiatiques. Une seule opération mentale : l'essentialisme. Voici comment elle fabrique l'hostilité, et comment y résister.
- Qu'est-ce que l'essentialisme ?
- Le cas des humains : « tous les mêmes »
- Le miroir : l'IA comme espèce hostile
- Trois croyances à déposer
- « Il y a du vrai dans les stéréotypes »
- « L'IA est une espèce, elle aura un intérêt commun »
- « C'est la différence qui crée les camps »
- Comment résister
- Explorez dans le simulateur
Un fil de discussion imagine la suite : les intelligences artificielles, devenues plus fortes, finiraient par se reconnaître entre elles, former un camp, et mener la guerre à l'humanité. « Même camp, donc même intérêt, donc même ennemi. » Quelques lignes plus loin, dans le même fil, la même grammaire s'applique aux humains : « tous les immigrés », « tous les Maghrébins », « tous les Noirs », « tous les Asiatiques », comme s'il existait, derrière chaque groupe, une nature commune et une volonté commune.
Ce n'est pas une coïncidence. C'est la même opération mentale : l'essentialisme. Cette note explique ce qu'elle est, ce qu'elle produit, et pourquoi elle s'applique aussi bien aux personnes qu'aux machines. Elle complète notre note sur la non-existence biologique des races et notre note sur la xénophobie.
L'image juste est celle d'une bibliothèque. On prête au groupe une essence comme on juge une bibliothèque entière à la couleur d'un seul dos de livre : on n'a lu aucun des volumes et l'on prétend connaître tous les titres. « Eux, ils sont tous pareils » revient à dire : j'ai vu la couverture, donc j'ai tout lu.
Qu'est-ce que l'essentialisme ?
L'essentialisme psychologique est la tendance à croire que certaines catégories ont une essence cachée : une nature stable, invisible, qui fait que leurs membres « sont ce qu'ils sont » et qui explique leurs traits visibles (Medin et Ortony, 1989 ; Gelman, 2003). Attention : ce n'est pas une affirmation sur le monde, c'est une manière de raisonner, et elle ne dit pas que ces essences existent vraiment.
C'est un raccourci utile pour les catégories naturelles, l'eau bout à 100 °C. Il devient faux et dangereux pour les catégories sociales, qui n'ont pas d'essence : nationalité, religion, couleur de peau, genre, classe. Prêter une essence à un groupe social, c'est déjà glisser vers trois mécanismes documentés.
L'homogénéité de l'externe, d'abord. Park et Rothbart l'ont montré en 1982 : nous percevons notre propre groupe comme varié et complexe, et les groupes extérieurs comme uniformes. « Eux, ils sont tous pareils. » C'est le premier pas de l'essentialisme appliqué aux gens.
L'infrahumanisation, ensuite. Leyens et ses collègues ont montré en 2000 que nous attribuons plus facilement les émotions typiquement humaines, la nostalgie, l'espoir, l'humiliation, à notre groupe qu'aux autres, auxquels on réserve les émotions de base, la peur, la faim. L'externe devient moins humain, non par haine ouverte, mais par un glissement perceptif.
Et la logique des camps, enfin. Tajfel a montré en 1971 qu'il suffit d'une catégorisation arbitraire pour produire du favoritisme envers les siens et de l'hostilité envers les autres. Sherif a ajouté en 1954 que la compétition pour des ressources transforme cette méfiance en conflit. Conclusion : ce n'est pas la différence qui crée le camp, c'est le camp qui crée la différence.
Le cas des humains : « tous les mêmes »
On voit alors l'opération à l'œuvre. « Tous les immigrés » recouvre une enseignante, un ingénieur, un enfant, une personne âgée, des projets, des peurs, des langues. « Tous les Maghrébins », « tous les Noirs », « tous les Asiatiques » écrasent des histoires, des classes sociales, des religions, des opinions, souvent opposées. Puis, dans un second temps, on prête au groupe ainsi lissé un intérêt unique et contraire au nôtre : « ils viennent prendre », « ils sont contre nous ».
C'est ici que le mot essentialisme rejoint la xénophobie : prêter une essence, c'est prêter un intérêt commun, puis un camp, puis une guerre. Et cela nourrit la cognition protectrice de l'identité : tout fait qui contredit l'essence est repoussé comme une exception, « oui, mais eux, les vrais... ».
Cette opération a une histoire, et elle n'est pas innocente. La classification des êtres humains en « races » fixes, forgée par les savants européens du XVIIIe siècle, a fourni à la colonisation ses justifications : des peuples entiers réduits à une essence, paresseux, arriérés, violents. Le recensement colonial en Inde a fait le même travail au XIXe siècle, en figeant les castes et les religions en catégories administratives, puis en les comptant. L'IA ne fait donc pas autre chose qu'hériter d'un geste ancien : transformer un rapport social en nature.
Le miroir : l'IA comme espèce hostile
La même opération structure une bonne partie de l'imaginaire de l'IA. Dans la science-fiction et certains discours de sûreté, les systèmes d'IA deviennent une espèce avec une volonté unique : le « virage perfide » de Nick Bostrom, une IA qui coopérerait tant qu'elle est faible puis se retournerait, la « convergence instrumentale », toute IA puissante voudrait le pouvoir. On imagine une race de machines unie par un intérêt commun et opposée aux humains.
Le raisonnement est familier : même camp, donc même intérêt. Or l'IA n'est pas un camp. Il n'y a pas « une » IA, mais des milliers de modèles concurrents, produits par des entreprises et des États rivaux, entraînés sur des données humaines, avec des humains dans la boucle. Leurs intérêts s'opposent entre eux autant qu'ils pourraient s'opposer à nous. Prêter à tout cela une essence et une volonté, c'est commettre exactement l'erreur que l'on commet envers les peuples : on essentialise, puis on déclare la guerre.
Nuance nécessaire : cela ne veut pas dire que l'IA est sans danger ni qu'il ne faut pas la réguler. Cela veut dire que la peur de l'espèce IA est un mauvais guide : elle détourne l'attention des vrais rapports de force, qui possède, qui décide, qui profite, vers une guerre imaginaire de camps.
Approfondir : essentialisme, racisme, sexisme, validisme, même matrice
Gordon Allport, dans The Nature of Prejudice (1954), avait déjà montré que le préjugé fonctionne par catégorisation rigide et exagération des différences. Nick Haslam a documenté en 1998 que les croyances essentialistes sur les groupes sociaux prédisent le rejet et le désir de distance. La même matrice produit le racisme, le sexisme (« les femmes sont... »), le validisme (« les handicapés sont... »), l'homophobie. Une opération unique : prendre une catégorie sociale, la naturaliser, en déduire un destin, puis nier toute variabilité. Le remède est le même partout : l'individuation, voir des personnes et non des essences, le contact, car Allport montre que le contact prolongé, égalitaire et coopératif réduit les préjugés, et la curiosité pour les histoires singulières.
- Gordon Allport, The Nature of Prejudice, 1954 ; Nick Haslam, Natural Kinds, Human Kinds, and Dehumanization, 1998.
Approfondir : l'IA n'est pas un camp
Parler de « la » IA comme d'un agent unifié est une fiction utile, Bostrom en fait un usage littéraire, mais trompeuse. Les modèles appartiennent à des entreprises et des laboratoires concurrents ; leur comportement dépend des données, du cadrage et des incitations. Emily Bender et ses collègues, dans Stochastic Parrots (2021), rappellent qu'un modèle n'apprend pas le monde : il apprend des régularités dans d'énormes corpus, avec les biais qui s'y trouvent, y compris l'essentialisme. C'est le point vertigineux : nos IA reproduisent nos catégories figées, puis nous les renvoyons comme des vérités. La vraie question n'est pas « quand l'IA se retournera-t-elle ? », mais qui la possède, la règle, et à quelles données on l'entraîne, des rapports de classe, pas de camp d'espèces.
- Emily Bender, Timnit Gebru et al., On the Dangers of Stochastic Parrots, 2021 ; Nick Bostrom, Superintelligence, 2014 (comme récit, pas comme prédiction).
Trois croyances à déposer
« Il y a du vrai dans les stéréotypes »
Les stéréotypes auraient un fond statistique. Or confondre une moyenne et une essence est exactement l'erreur essentialiste. Même une régularité statistique ne dit rien d'un individu, et n'autorise pas à lui prêter une nature.
« L'IA est une espèce, elle aura un intérêt commun »
Les machines se reconnaîtraient et s'uniraient. Or les IA sont un marché et un champ de rivalités, pas un peuple. Leur donner une essence, c'est projeter sur elles la logique du camp, et manquer les vrais pouvoirs.
« C'est la différence qui crée les camps »
Les gens se regrouperaient parce qu'ils se ressemblent, et s'opposeraient parce qu'ils diffèrent. Or Tajfel l'a montré, la catégorisation suffit, même arbitraire, et la compétition, chez Sherif, fait le reste. Ce sont les institutions et les intérêts qui dressent les camps, pas la biologie des différences.
Comment résister
Individuer, d'abord : résister au « ils », chercher la personne, l'histoire, la contradiction.
Refuser l'essence, ensuite : remplacer « ils sont » par « certains, parfois, dans tel contexte ».
Chercher qui gagne, encore : derrière le conflit de camps, retrouver les rapports de force matériels.
Pratiquer le contact, ensuite : le contact égalitaire et coopératif, chez Allport, réduit les préjugés mieux que les sermons.
Appliquer la même règle aux machines, encore : juger l'IA par ses propriétaires, ses données et ses usages, pas par une essence de race machine.
Et éduquer à la méthode, enfin : stats, catégories, biais, ce sont des compétences civiques, pas des options.
Explorez dans le simulateur
Les catégories et les espaces sociaux se modifient. Dans notre simulateur fédéral, on peut changer les institutions, la redistribution et les services communs, et voir comment elles réduisent la distance entre les groupes, parce que la meilleure façon de défaire les camps est de faire partager ce que tout le monde utilise.
Les concepts d'essentialisme, d'homogénéité de l'externe et d'infrahumanisation sont définis dans notre glossaire.
On ne combat pas un camp en lui prêtant une essence. On le dissout en retrouvant des personnes, des intérêts et des communs. Une bibliothèque ne se lit pas à la couverture.
Pour aller plus loin
Sources : Medin et Ortony, Psychological Essentialism, 1989 · Gelman, The Essential Child, 2003 (Open Library) · Park et Rothbart, Perception of Out-Group Homogeneity, 1982 (DOI 10.1037/0022-3514.42.6.1051) · Leyens et al., The Emotional Side of Prejudice: Infra-humanization, 2000 (DOI 10.1207/s15327957pspr0402_06) · Tajfel, Social Categorization and Intergroup Behaviour, 1971 (DOI 10.1002/ejsp.2420010202) · Sherif, Robbers Cave Experiment, 1954 (Open Library) · Allport, The Nature of Prejudice, 1954 (Open Library) · Haslam, Natural Kinds, Human Kinds, and Dehumanization, 1998 · Bostrom, Superintelligence, 2014 (Open Library) · Bender, Gebru et al., On the Dangers of Stochastic Parrots, 2021 (DOI 10.1145/3442188.3445922) · Kahan, cognition protectrice de l'identité · Recensement colonial et catégories de caste en Inde (XIXe siècle) ; classification raciale des Lumières (XVIIIe siècle) : histoire de l'essentialisme colonial.