La monoculture algorithmique : une seule IA pour tous, risque ou remède ?
Deux études publiées à quelques mois d'intervalle semblent dire des choses opposées. Examinées de près, elles mesurent des choses différentes. Kyle Behm envoyait des candidatures et recevait toujours le même refus. Dans le récit qu'en fait Cathy O'Neil dans *Armes de destruction mathématique, repris par le document du MIT, Behm a découvert seulement à la fin que toutes les entreprises utilisaient le même système de sélection, qui l'avait apparemment pénalisé en raison d'un problème de santé mentale. Ce n'étaient pas plusieurs jugements indépendants, c'était un seul jugement répété partout.*
C'est cette crainte que nous appelons monoculture algorithmique : de nombreux décideurs s'en remettant au même algorithme, ou à des algorithmes tellement similaires qu'ils échouent ensemble. Le paradoxe opposé est cependant tout aussi réel. Si chaque entreprise avait son propre algorithme, le système ne deviendrait pas nécessairement plus juste ; nous pourrions nous retrouver avec des décisions incohérentes, impossibles à vérifier, plus faciles à manipuler, et avec une personne rejetée partout en raison d'un cumul de particularités plutôt que d'une seule erreur.
Le 29 septembre 2026, le MIT a présenté une étude de Brian Hedden et Manish Raghavan qui relativise le danger. En mai, Stanford avait publié la première grande évaluation sur des données réelles, constatant des rejets systémiques plus fréquents que prévu. La question centrale est simple à énoncer et difficile à trancher : la diversité des algorithmes est-elle toujours une bonne chose, ou peut-on préférer un système unique, transparent, contrôlable, peut-être composé de plusieurs modèles ? J'avance la réponse prudente : cela dépend, et je vais essayer d'expliquer de quoi.
La banane, une métaphore aux limites affirmées
Le mot vient de l'agriculture, et la métaphore fonctionne : un champ avec une seule variété produit bien jusqu'à ce que survienne la maladie qui touche précisément cette variété. Quiconque connaît l'histoire de la banane Gros Michel le sait bien, décimée au milieu du XXe siècle par la maladie de Panama et remplacée par la Cavendish que l'on trouve aujourd'hui au supermarché, clonée et désormais menacée par une nouvelle variante du même champignon, arrivée dans les Amériques en 2019. Mais Hedden et Raghavan mettent en garde : une analogie n'est pas une preuve, et leur travail naît précisément du soupçon qu'elle soit utilisée de manière automatique.
Dans le monde informatique, le terme recouvre différentes situations. Il y a la monoculture stricte, où tout le monde utilise le même algorithme. Il y a la monoculture de marché, dans laquelle de nombreuses organisations achètent au même fournisseur, même si les modèles diffèrent sous le capot. Il y a la monoculture de composants, où des systèmes distincts partagent des données, un modèle de base ou des objectifs. Il y a la monoculture de résultats, où des systèmes différents finissent par produire des résultats similaires. Et il y a la monoculture générative, dont nous parlerons, où un seul modèle linguistique restreint la variété des réponses par rapport aux textes humains dont il s'est inspiré.
Le concept a une généalogie précise. En 2021, Jon Kleinberg et Raghavan lui-même ont montré qu'un algorithme un peu plus précis, adopté par tous par commodité individuelle, peut laisser la collectivité dans une situation pire qu'auparavant.
Stanford, des chiffres issus du terrain
L'étude de Stanford, signée par Rishi Bommasani, Sarah Bana, Kathleen Creel, Dan Jurafsky et Percy Liang, est la première à observer des décisions réelles d'un fournisseur de recrutement automatisé auprès de plusieurs entreprises. Le document, présenté en juin lors de la conférence FAccT, analyse les données de pymetrics entre 2018 et 2022 : environ 4,2 millions de candidatures de 3,4 millions de personnes pour 1 746 postes dans 156 entreprises de 11 secteurs. Il ne s'agit pas de CV mais de jeux en ligne, à la suite desquels un modèle attribue pour chaque poste une mention "recommandé" ou "non recommandé". En règle générale, les personnes non recommandées ne rencontrent jamais aucun être humain.
Le premier résultat concerne les rejets systémiques. Parmi les personnes soumettant quatre candidatures, 10 % sont rejetées partout, soit plus que ce qui se produirait si chaque entreprise décidait de manière statistiquement indépendante. Le point essentiel est l'écart par rapport à cette référence, et non le pourcentage en soi, et cet écart persiste pour dix candidatures, où 4 % sont rejetées sur l'ensemble des postes. Il faut aussi pondérer la portée : 84 % des personnes n'ont postulé qu'une seule fois et à peine 1 % environ quatre fois. Le même modèle utilisé par différentes entreprises existe (42 modèles, 142 paires d'entreprises) mais reste rare, et la corrélation provient principalement du fait que les mêmes jeux alimentent des modèles différents.
En guise de vérification, les auteurs utilisent l' étude de Kline, Rose et Walters, qui avait envoyé 83 000 faux CV à 108 grandes entreprises américaines : là-bas, l'ensemble des rejets était en ligne avec des décisions indépendantes. Un constat éclairant, mais pas une expérience identique : les populations, les rôles et les taux de réussite diffèrent, comme le reconnaissent les auteurs. On trouve également une note rassurante : en simulant les évaluations de 939 candidats sur 495 modèles, personne n'est rejeté partout, mais pour faire passer le taux de rejet total sous la barre des 0,1 %, il faudrait postuler à 25 postes au lieu de 10.
Le second résultat est plus technique et peut-être plus instructif. Aux États-Unis, la règle des quatre cinquièmes signale un effet discriminatoire potentiel lorsqu'un groupe est recommandé à moins de 80 % du rythme du groupe le plus favorisé. Sur les données agrégées, le ratio pour les candidats noirs est de 0,839 et tout semble en ordre. Mais la loi raisonne poste par poste, et de cette manière, 10,6 % des postes pénalisent les candidats noirs et 5,3 % les candidats asiatiques. 25,9 % des candidatures de personnes noires et 14,7 % de celles de personnes asiatiques se retrouvent dans des postes présentant ce déséquilibre. L'étude propose une comparaison claire : si seuls des hommes étaient recommandés pour des postes de médecin et seules des femmes pour des postes d'infirmière, la moyenne générale pourrait sembler équilibrée, mais le problème subsisterait.
Certaines limites déclarées par les auteurs eux-mêmes demeurent. Il n'y a qu'un seul fournisseur et un seul type de test basé sur des jeux. Il manque des mesures sur la qualité des candidats et la validité des modèles, et l'on ne sait pas comment les entreprises utilisent ces recommandations. De plus, un déséquilibre statistique peut justifier une enquête, mais ne suffit pas à établir à lui seul qu'une pratique est illégale.
La défense du MIT
Le travail de Hedden, philosophe, et Raghavan, informaticien, publié dans une revue de philosophie, ne soutient pas que la monoculture soit une bonne chose. Il soutient que les accusations les plus courantes ne tiennent pas ou ne suffisent pas. Il s'agit d'un travail théorique s'appuyant sur des simulations, et non d'une étude sur le terrain.
Prenons l'exclusion. Dans un marché comportant un nombre fixe de postes et de candidats, affirment les auteurs, le même nombre de personnes reste sans emploi, qu'il y ait un seul algorithme ou plusieurs. Ce sont les personnes qui changent, pas leur nombre. Même dans le cas où toutes les entreprises classeraient les candidats de la même manière, le deuxième peut être embauché par la deuxième entreprise parce que le premier a déjà été pris. Et la multiplicité des algorithmes ne garantit pas l'équité : si chacun préfère un candidat différent, une personne que tout le monde classe en deuxième position peut tout de même se retrouver exclue. Le document ajoute un avantage peu discuté, à savoir qu'un critère unique permet de découvrir et de corriger plus facilement une discrimination, alors dans un mosaïque d'algorithmes, les résultats dépendent d'un enchevêtrement difficile à démêler.
Pour Raghavan, il y a même un effet sur le pouvoir des candidats : si toutes les entreprises recherchent les mêmes personnes, ces dernières peuvent obtenir de meilleures offres. Le document traite cependant cette idée avec prudence, en rappelant que la littérature économique sur le sujet concerne principalement les personnes déjà en poste. Sur le plan de l'autonomie individuelle, les auteurs observent que la crainte de ne pas pouvoir améliorer son score ne s'applique qu'à une monoculture naïve basée sur des traits immuables, alors que le risque opposé — apprendre à manipuler le système — existe aussi avec de nombreux algorithmes différents.
Un lecteur attentif remarquera où ces conclusions sont fragiles. Le modèle présuppose une embauche réalisée avec un algorithme unique et complet, alors que Stanford n'observe qu'une phase de sélection préliminaire : pour le MIT, obtenir un entretien importe peu si cela ne change pas qui décroche le poste, mais on peut rétorquer que pour quelqu'un rejeté d'emblée, cet entretien représente tout. De plus, les simulations idéalisent le monde réel, où les postes ne s'ouvrent pas tous en même temps et où les marchés connaissent de nombreuses frictions. Et il est significatif que la cible principale des critiques, Creel, soit aussi co-auteure de l'étude de Stanford : les deux travaux dialoguent directement, formant un véritable échange à distance.
Ensembles, exploration, doutes
L'objection que les auteurs considèrent comme la plus sérieuse concerne la découverte. Si tout le monde se fie au même classement, les candidats défavorisés ne sont jamais mis à l'épreuve ; le système n'apprend jamais qu'il s'était trompé à leur sujet. Dans le jargon des problèmes de "bandits manchots", ceux où il faut choisir entre exploiter ce que l'on sait et explorer, une population de décideurs qui s'appuie sur la même information a plus de chances de choisir le mauvais bras et de ne jamais s'en rendre compte. Les simulations du document le confirment, à condition que l'algorithme unique ne soit pas meilleur que les multiples algorithmes qu'il remplace.
Mais il y a plus. Dans le cadre du recrutement, aucune entreprise ne peut embaucher le premier du classement si une autre l'a déjà recruté, si bien qu'une forme d'exploration forcée existe de toute façon. De plus, les plateformes réelles ne sont pas de pures exploitantes : elles introduisent déjà des doses d'aléatoire, et le document mentionne même une étude dans laquelle un algorithme tenant compte de l'incertitude choisissait des candidats plus variés qu'un algorithme classant uniquement selon le score estimé. Quiconque connaît les Oblique Strategies, le jeu de cartes publié en 1975 par Brian Eno et Peter Schmidt pour aider les artistes à surmonter leurs blocages créatifs, en reconnaît le principe : il faut parfois un élément de perturbation explicite.
La proposition la plus intéressante est l'ensemble de modèles, en anglais ensemble : au lieu de plusieurs algorithmes décidant séparément, un seul système en combine plusieurs, par exemple en faisant la moyenne de leurs scores. En simulation, selon les auteurs, cette monoculture "à plusieurs voix" obtient des résultats égaux ou supérieurs tant à la monoculture simple qu'à la mosaïque d'algorithmes. Avantages possibles : moins de bruit, décisions uniformes, contrôle centralisé. Mais des questions émergent ici. Combiner des modèles conçus sur les mêmes données ne garantit pas l'indépendance. La moyenne peut écraser les signaux minoritaires. Un score agrégé peut masquer le responsable d'une erreur. Et il reste un point de défaillance unique. Hedden lui-même prévient qu'on ignore à quel point cela est réalisable. Un ensemble de modèles relève-t-il du pluralisme ou s'agit-il seulement d'une monoculture plus élaborée ?
Enfin, le domaine compte. Le document rappelle que l'embauche, le crédit et les admissions universitaires comportent des places limitées et exclusives, où la monoculture ne crée pas davantage d'exclus. Là où de telles contraintes n'existent pas, comme pour les prix cinématographiques, elle pourrait exclure davantage. Pour la médecine et la justice, les auteurs renvoient à des études futures, et concernant la recherche scientifique ou les contenus générés, ils avertissent que les choses pourraient fonctionner différemment et moins bien.
Mêmes ingrédients, autres étiquettes
On comprend mieux la crainte si l'on examine la composition des applications. Une application peut présenter une interface, des instructions et un affinage différents de sa concurrente tout en reposant sur le même modèle de base, les mêmes données et les mêmes filtres de sécurité. Les auteurs de Stanford le disent explicitement : la concentration des fournisseurs ne suffit pas à mesurer le phénomène, car même des modèles d'entreprises différentes peuvent rejeter les mêmes personnes lorsqu'ils partagent des données ou une architecture. Une étude présentée à l'ICML 2025 sur plus de 350 modèles le confirme pour les modèles linguistiques : sur un test de référence, lorsque deux modèles se trompent, ils s'accordent sur la réponse erronée 60 % du temps, et les modèles les plus grands et les plus précis échouent de manière très similaire, même avec des architectures et des créateurs différents. Les auteurs en vérifient également les effets sur la sélection des candidats et sur les modèles utilisés comme juges.
La version la plus insidieuse est la monoculture générative. Fan Wu, Emily Black et Varun Chandrasekaran l'ont décrite comme un rétrécissement de la variété des résultats par rapport aux données initiales : par exemple, des critiques de livres presque toutes positives, même pour des titres accueillis de manière mitigée, ou du code couvrant moins de stratégies. Le tableau est ambivalent : réduire la variété améliore parfois la qualité — le code peut s'avérer plus efficace —, mais cela devient un problème lorsque l'opinion non conventionnelle disparaît. Les auteurs ajoutent un détail peu rassurant : modifier la méthode d'échantillonnage ou la formulation des requêtes ne suffit pas à corriger le phénomène, car les causes semblent ancrées dans l'alignement du modèle.
Ceux qui travaillent avec des modèles locaux, quantifiés ou déployés en entreprise devraient s'interroger sur une distinction qui sert ici d'hypothèse de réflexion et non de résultat définitif : la souveraineté sur l'exécution ne se confond pas avec la diversité du modèle. Si de nombreux projets ouverts dérivent du même modèle de base et des mêmes données, disposer des poids chez soi offre de l'autonomie, mais pas nécessairement des perspectives différentes. Il en va de même pour les agents, où la question reste ouverte : une équipe de dix agents utilisant le même modèle, les mêmes outils et les mêmes critères d'évaluation est-elle vraiment pluraliste ou s'agit-il d'une monoculture alignée par dix ? Et si le modèle qui juge les résultats ressemble à celui qui les produit, qui contrôle qui ?
Le journalisme le sait bien. Kyle Chayka, dans son livre Filterworld cité par le document du MIT, raconte comment les algorithmes de recommandation meulent et lissent le goût. Si les rédactions, les moteurs de recherche et les assistants s'appuient sur des modèles similaires, les sources minoritaires peuvent disparaître sans aucune censure, simplement parce qu'elles sont statistiquement moins probables.
Antidotes, contrôles et contestation
Que faire alors, sans recourir à des slogans du type "utilisons des algorithmes différents" ? Le document de Stanford propose des outils concrets. Le premier : mesurer l'impact poste par poste, et non sur la moyenne globale d'un fournisseur, ce qui n'est pas toujours le cas aujourd'hui. Le deuxième : surveiller le marché, c'est-à-dire comprendre à quel point certains fournisseurs sont répandus et interconnectés, étant donné que les données collectées aujourd'hui par les régulateurs sont agrégées et anonymes, empêchant de suivre une même personne d'une entreprise à l'autre. Le troisième : garantir aux chercheurs l'accès aux données, comme le fait le Règlement européen sur les services numériques pour les grandes plateformes. Les auteurs rappellent eux-mêmes avoir travaillé grâce à un accord avec pymetrics qui n'autorisait pas l'entreprise à bloquer la publication, e ils craignent que leur recherche ne décourage d'autres fournisseurs de partager leurs données.
En matière de métriques, outre la corrélation des résultats, il faut mesurer celle des erreurs : les systèmes s'accordent-ils spécifiquement lorsqu'ils se trompent ? Il convient de comprendre dans quelle mesure données et modèles se chevauchent, si le système explore des candidats non conventionnels et si une erreur systématique peut être attribuée à un composant précis. Et surtout si la personne rejetée dispose d'un moyen réel de contester la décision. Une plus grande diversité de décisions n'a pas de valeur en soi si elle découle du bruit ou de l'incompétence, ce qui ne ferait qu'empirer les résultats. L'objectif est une diversité porteuse d'informations utiles, associée à une responsabilité humaine.
L'Europe ne possède pas de réglementation intitulée "monoculture algorithmique", et il serait inexact de lui en attribuer une. Cependant, la sélection du personnel entre dans la catégorie des systèmes à haut risque du Règlement sur l'IA (AI Act), avec des obligations portant sur la gestion des risques, la qualité des données, la documentation et le contrôle humain. Une échéance doit être mise à jour : la date d'août 2026 citée par l'étude de Stanford est dépassée. Le paquet de simplification connu sous le nom de Digital Omnibus, approuvé par le Conseil le 29 juin 2026, est devenu le règlement (UE) 2026/1744, publié le 24 juillet et en vigueur depuis le 27 ; selon une analyse dédiée, il reporte au 2 décembre 2027 les obligations relatives aux systèmes d'IA autonomes à haut risque. Le lien le plus direct reste celui de la concurrence. Un document de travail de la Direction générale de la concurrence de la Commission — qui précise ne pas représenter la position officielle de l'institution — identifie dans l'intelligence artificielle générative des goulets d'étranglement tels que les données, les puces et la puissance de calcul, et souligne la difficulté de changer de fournisseur de services cloud. Il indique comme antidotes les modèles ouverts et l'interopérabilité. Quelques fournisseurs dominants ne constituent pas une infraction en soi, mais ils créent des dépendances, et l'étude de Stanford ajoute le risque qu'une panne d'un fournisseur ne bloque le recrutement dans des milliers d'entreprises.
Questions encore ouvertes
Revenons à Behm et à la question initiale. La réponse n'est pas de choisir simplement entre un ou plusieurs algorithmes. Il s'agit de se demander combien de systèmes sont vraiment indépendants, ce qu'ils partagent en matière de données et d'architecture, si leurs erreurs sont corrélées, qui en subit le préjudice, si le système explore des alternatives et qui peut le contrôler et le corriger.
En fin de compte, les deux études ne se contredisent pas. Le MIT cherche à savoir ce qui découle nécessairement de certains modèles et découvre que c'est bien moindre que ce que l'on pensait, ce qui constitue un bon antidote aux slogans. Stanford mesure ce qui s'est produit dans un écosystème concret et montre que le risque n'est pas purement hypothétique, même s'il reste limité à un fournisseur, à un type de test et à une petite partie des candidats. Une cohérence qui rend les erreurs plus visibles est un avantage, mais seulement si quelqu'un regarde ; une diversité qui multiplie les erreurs sans personne pour les vérifier n'est que de la confusion.
Des questions restent ouvertes et aucun des deux travaux ne les tranche. Que se passera-t-il lorsque les modèles génératifs et les agents prendront la place des classements ? Un ensemble de modèles peut-il être véritablement pluraliste ? Quelle part d'aléatoire sommes-nous prêts à accepter dans une décision qui change une vie ? La diversité des algorithmes peut aider, mais elle ne remplace pas le droit d'être entendu : demander combien d'IA décident importe moins que de savoir quelle indépendance existe entre elles et si, après un non, il reste un être humain à qui répondre.