Algorithmische Monokultur: Eine KI für alle – Risiko oder Abhilfe?

Zwei Studien, die im Abstand von nur wenigen Monaten erschienen sind, scheinen Gegensätzliches zu behaupten. Bei genauerem Hinsehen messen sie jedoch unterschiedliche Dinge. Kyle Behm reichte Bewerbung um Bewerbung ein und erhielt stets dieselbe Absage. In Cathy O'Neils Schilderung in Angriff der Algorithmen, die vom MIT-Paper aufgegriffen wird, fand Behm erst am Ende heraus, dass alle Unternehmen dasselbe Auswahlsystem nutzten, das ihn offenbar aufgrund einer psychischen Beeinträchtigung benachteiligte. Es handelte sich nicht um viele unabhängige Urteile, sondern um ein einziges Urteil, das überall wiederholt wurde.

Das ist die Befürchtung, die wir als algorithmische Monokultur bezeichnen: Viele Entscheidungsträger verlassen sich auf denselben Algorithmus oder auf Algorithmen, die sich so ähnlich sind, dass sie gemeinsam scheitern. Das entgegengesetzte Paradoxon ist jedoch ebenso real. Wenn jedes Unternehmen seinen eigenen Algorithmus hätte, würde das System nicht zwangsläufig gerechter werden; wir könnten mit inkonsistenten, unüberprüfbaren und leicht zu manipulierenden Entscheidungen konfrontiert werden, bei denen eine Person überall aufgrund einer Häufung von Besonderheiten statt wegen eines einzelnen Fehlers abgelehnt wird.

Am 29. September 2026 präsentierte das MIT eine Studie von Brian Hedden und Manish Raghavan, die die Gefahr relativiert. Im Mai hatte Stanford die erste große Untersuchung auf Basis realer Daten veröffentlicht, die systemische Ablehnungen häufiger als erwartet feststellte. Die Leitfrage ist einfach zu formulieren, aber unbequem zu beantworten: Ist die Vielfalt der Algorithmen immer gut, oder ist womöglich ein einzelnes transparentes, überprüfbares System vorzuziehen, das vielleicht aus vielen Modellen besteht? Ich nehme die vorsichtige Antwort vorweg: Es kommt darauf an, und ich werde versuchen zu erklären, wovon.

Banane – eine Metapher mit Grenzen

Das Wort stammt aus der Landwirtschaft, und die Metapher funktioniert: Ein Feld mit einer einzigen Sorte bringt gute Erträge, bis die Krankheit auftritt, die genau diese Sorte trifft. Das weiß jeder, der die Geschichte der Gros-Michel-Banane kennt, die Mitte des 20. Jahrhunderts durch die Panamakrankheit vernichtet und durch die Cavendish ersetzt wurde, die wir heute im Supermarkt finden – geklont und heute von einer neuen Variante desselben Pilzes bedroht, die 2019 in Amerika ankam. Doch Hedden und Raghavan mahnen zur Vorsicht: Eine Analogie ist kein Beweis, und ihre Arbeit entsteht genau aus dem Verdacht heraus, dass sie automatisch angewendet wird.

In der Welt der Computer deckt der Begriff unterschiedliche Situationen ab. Es gibt die strikte Monokultur, bei der alle exakt denselben Algorithmus nutzen. Es gibt die Markt-Monokultur, bei der viele Organisationen vom selben Anbieter kaufen, selbst wenn sich die Modelle unter der Haube unterscheiden. Es gibt die Komponenten-Monokultur, bei der verschiedene Systeme Daten, Basismodelle oder Ziele teilen. Es gibt die Ergebnis-Monokultur, bei der unterschiedliche Systeme am Ende ähnliche Ergebnisse liefern. Und es gibt die generative Monokultur, über die wir sprechen werden, bei der ein einzelnes Sprachmodell die Vielfalt der Antworten im Vergleich zu den menschlichen Texten, aus denen es gelernt hat, einschränkt.

Das Konzept hat eine präzise Genealogie. Im Jahr 2021 zeigten Jon Kleinberg und Raghavan selbst, dass ein etwas genauerer Algorithmus, den alle aus individuellem Nutzen übernehmen, die Gemeinschaft schlechter stellen kann als zuvor.

Stanford: Zahlen aus der Praxis

Die Stanford-Studie von Rishi Bommasani, Sarah Bana, Kathleen Creel, Dan Jurafsky und Percy Liang ist die erste, die reale Entscheidungen eines Anbieters für automatisierte Personalauswahl über mehrere Unternehmen hinweg beobachtet. Das Paper, das im Juni auf der FAccT-Konferenz vorgestellt wurde, analysiert Daten von pymetrics aus den Jahren 2018 bis 2022: rund 4,2 Millionen Bewerbungen von 3,4 Millionen Personen für 1.746 Stellen in 156 Unternehmen aus 11 Branchen. Es geht dabei nicht um Lebensläufe, sondern um Online-Spiele, nach denen ein Modell für jede Stelle die Bewertung "empfohlen" oder "nicht empfohlen" vergibt. Wer nicht empfohlen wird, trifft in der Regel nie auf einen Menschen.

Das erste Ergebnis betrifft systemische Ablehnungen. Unter denjenigen, die vier Bewerbungen einreichen, werden 10 % überall abgelehnt – mehr als es der Fall wäre, wenn jedes Unternehmen statistisch unabhängig entscheiden würde. Der entscheidende Punkt ist die Abweichung von diesem Referenzwert, nicht der Prozentwert an sich, und der Abstand bleibt auch bei zehn Bewerbungen bestehen, wo 4 % von allen Stellen abgelehnt werden. Auch die Tragweite muss richtig dosiert werden: 84 % der Personen bewarben sich nur ein einziges Mal und knapp 1 % etwa vier Mal. Dasselbe Modell, das von verschiedenen Unternehmen verwendet wird, existiert zwar (42 Modelle, 142 Unternehmenspaare), ist aber selten, und die Korrelation entsteht hauptsächlich dadurch, dass dieselben Spiele unterschiedliche Modelle speisen.

Als Gegenprobe nutzen die Autoren die Studie von Kline, Rose und Walters, bei der 83.000 erfundene Lebensläufe an 108 große US-Unternehmen geschickt wurden: Dort entsprachen die Gesamtablehnungen unabhängigen Entscheidungen. Aufschlussreich, aber kein identisches Experiment: Populationen, Rollen und Erfolgsquoten unterscheiden sich, wie die Autoren einräumen. Es gibt auch eine beruhigende Note: Bei der Simulation der Bewertungen von 939 Bewerbern auf 495 Modellen wird niemand von allen abgelehnt; um die Gesamtablehnungen jedoch unter 0,1 % zu senken, müsste man sich auf 25 statt auf 10 Stellen bewerben.

Das zweite Ergebnis ist technischer und vielleicht lehrreicher. In den USA signalisiert die Vier-Fünftel-Regel eine mögliche diskriminierende Wirkung, wenn eine Gruppe mit weniger als 80 % der Rate der am stärksten begünstigten Gruppe empfohlen wird. Bei den aggregierten Daten liegt das Verhältnis für schwarze Bewerber bei 0,839, und alles scheint in Ordnung zu sein. Aber das Gesetz wertet Stelle für Stelle aus, und auf diese Weise benachteiligen 10,6 % der Stellen schwarze Bewerber und 5,3 % asiatische Bewerber. 25,9 % der Bewerbungen von schwarzen Personen und 14,7 % der Bewerbungen von asiatischen Personen landen auf Stellen mit diesem Ungleichgewicht. Die Studie zieht einen klaren Vergleich: Wenn nur Männer für Arztstellen und nur Frauen für Pflegestellen empfohlen würden, könnte der Durchschnitt zwar stimmen, das Problem bliebe jedoch bestehen.

Es bleiben Einschränkungen, die die Autoren selbst einräumen. Es gibt nur einen einzigen Anbieter und nur eine Art von Test auf Basis von Spielen. Es fehlen Maße für die Qualität der Bewerber und die Validität der Modelle, und es ist nicht bekannt, wie die Unternehmen die Empfehlungen nutzen. Zudem kann ein statistisches Ungleichgewicht zwar eine Untersuchung rechtfertigen, beweist aber für sich genommen noch nicht, dass eine Praxis rechtswidrig ist.

Die Verteidigung des MIT

Die Arbeit von Hedden, einem Philosophen, und Raghavan, einem Informatiker, die in einer Philosophiezeitschrift veröffentlicht wurde, behauptet nicht, dass Monokultur gut sei. Sie bringt vor, dass die gängigsten Vorwürfe nicht stichhaltig oder nicht ausreichend sind. Es handelt sich um eine theoretische Arbeit mit Simulationen, nicht um eine Feldstudie.

Nehmen wir den Ausschluss. In einem Markt mit einer festen Anzahl von Stellen und Bewerbern, so die Autoren, bleiben bei einem einzigen Algorithmus ebenso viele Menschen ohne Arbeit wie bei vielen. Es ändert sich, welche Personen das sind, nicht wie viele. Selbst wenn alle Unternehmen die Bewerber auf dieselbe Weise einstufen, kann der Zweitplatzierte vom zweiten Unternehmen eingestellt werden, weil der Erste bereits vergeben ist. Und mehrere Algorithmen garantieren keine Fairness: Wenn jeder einen anderen Bewerber bevorzugt, kann jemand, den alle auf den zweiten Platz setzen, dennoch unberücksichtigt bleiben. Das Paper ergänzt einen wenig diskutierten Vorteil: Ein einziges Kriterium macht es einfacher, Diskriminierung zu entdecken und zu korrigieren, während in einem Mosaik von Algorithmen die Ergebnisse von einem schwer entwirrbaren Geflecht abhängen.

Für Raghavan gibt es sogar eine Auswirkung auf die Verhandlungsmacht der Bewerber: Wenn alle Unternehmen hinter denselben Personen her sind, können diese bessere Angebote erzielen. Das Paper behandelt diese Idee jedoch mit Vorsicht und erinnert daran, dass sich die ökonomische Literatur zu diesem Thema hauptsächlich auf bereits Beschäftigte bezieht. In Bezug auf die individuelle Autonomie beobachten die Autoren, dass die Furcht, die eigene Punktzahl nicht verbessern zu können, nur für eine naive Monokultur gilt, die auf unveränderlichen Merkmalen basiert, während das entgegengesetzte Risiko – zu lernen, das System zu manipulieren – auch bei vielen verschiedenen Algorithmen besteht.

Ein aufmerksamer Leser wird bemerken, wo diese Schlussfolgerungen schwach sind. Das Modell setzt voraus, dass die Einstellung mit einem einzigen, durchgängigen Algorithmus erfolgt, während Stanford nur eine vorläufige Vorauswahl beobachtet: Für das MIT spielt die Einladung zum Vorstellungsgespräch kaum eine Rolle, wenn sich dadurch nicht ändert, wer den Job bekommt; man kann jedoch einwenden, dass für jemanden, der von vornherein abgelehnt wird, dieses Vorstellungsgespräch alles bedeutet. Zudem idealisieren die Simulationen die reale Welt, in der Stellen nicht alle gleichzeitig besetzt werden und Märkte voller Reibungsverluste sind. Und es ist bezeichnend, dass die Hauptzielscheibe der Kritik, Creel, auch Koautorin der Stanford-Studie ist: Die beiden Arbeiten stehen in direktem Dialog, fast wie ein Ferngespräch. Bild aus dem Paper Algorithmic Monoculture and its Critics

Ensembles, Exploration, Zweifel

Der Einwand, den die Autoren selbst als am schwerwiegendsten erachten, betrifft das Entdecken. Wenn alle demselben Ranking vertrauen, werden benachteiligte Bewerber nie auf die Probe gestellt; das System lernt nie, dass es sich in Bezug auf sie geirrt hatte. In der Fachsprache der Probleme des "mehrarmigen Banditen" – jenen, bei denen man entscheiden muss, ob man bekanntes Wissen ausnutzt oder Neues erkundet – hat eine Gruppe von Entscheidungsträgern, die sich auf dieselbe Information verlässt, eine höhere Wahrscheinlichkeit, den falschen Arm zu wählen und es nie zu bemerken. Die Simulationen des Papers bestätigen dies, vorausgesetzt, der einzelne Algorithmus ist nicht besser als die vielen, die er ersetzt.

Aber es gibt noch mehr. Im Falle einer Einstellung kann kein Unternehmen den Erstplatzierten nehmen, wenn ihn bereits ein anderes eingestellt hat, sodass ohnehin eine gewisse erzwungene Exploration stattfindet. Die realen Plattformen sind zudem keine reinen Ausnutzer: Sie bauen bereits Dosen von Zufall ein, und im Paper wird sogar eine Studie erwähnt, in der ein Algorithmus, der Unsicherheit berücksichtigt, vielfältigere Bewerber auswählte als einer, der rein nach geschätzter Punktzahl sortiert. Wer die Oblique Strategies kennt – das Kartenset, das 1975 von Brian Eno und Peter Schmidt veröffentlicht wurde, um Künstlern aus kreativen Blockaden zu helfen –, erkennt das Prinzip wieder: Manchmal braucht es ein gezieltes Störelement.

Der interessanteste Vorschlag ist das Modell-Ensemble (auf Englisch ensemble): Anstelle vieler Algorithmen, die getrennt entscheiden, kombiniert ein einziger viele Modelle, etwa indem der Mittelwert ihrer Punktzahlen gebildet wird. In der Simulation erzielt diese "mehrstimmige" Monokultur nach Ansicht der Autoren Ergebnisse, die sowohl der einfachen Monokultur als auch dem Mosaik gleichkommen oder überlegen sind. Mögliche Vorteile: weniger Rauschen, einheitliche Entscheidungen, zentrale Kontrolle. Doch hier stellen sich Fragen. Das Kombinieren von Modellen, die auf denselben Daten aufgebaut sind, garantiert keine Unabhängigkeit. Der Mittelwert kann Minderheitensignale unterdrücken. Eine aggregierte Punktzahl kann verschleiern, wer für einen Fehler verantwortlich ist. Und es bleibt ein einzelner Schwachpunkt. Hedden selbst warnt, dass ungewiss ist, wie praktikabel dies ist. Ist ein Ensemble von Modellen Pluralismus oder nur eine ausgeklügeltere Monokultur?

Schließlich zählt die Domäne. Das Paper erinnert daran, dass Einstellungen, Kredite und Universitätszulassungen begrenzte und exklusive Plätze haben, wo die Monokultur nicht mehr Ausgeschlossene schafft. Wo solche Einschränkungen nicht existieren, wie bei Filmpreisen, könnte sie stärker ausschließen. Für Medizin und Justiz verweisen die Autoren auf zukünftige Studien, und bei der wissenschaftlichen Forschung oder generierten Inhalten warnen sie, dass die Dinge anders und schlechter funktionieren könnten.

Dieselben Zutaten, andere Etiketten

Man versteht die Befürchtung besser, wenn man darauf blickt, was in den Anwendungen steckt. Eine App kann eine andere Benutzeroberfläche, andere Anweisungen und Abstimmungen als die Konkurrenz haben und dennoch auf demselben Basismodell, denselben Daten und denselben Sicherheitsfiltern aufbauen. Die Autoren aus Stanford sagen es explizit: Die Konzentration der Anbieter reicht nicht aus, um das Phänomen zu messen, da auch Modelle verschiedener Unternehmen dieselben Personen ablehnen können, wenn sie Daten oder Architektur teilen. Dies bestätigt für Sprachmodelle eine auf der ICML 2025 vorgestellte Studie an über 350 Modellen: Bei einem Referenztest stimmen zwei Modelle, wenn sie einen Fehler machen, in 60 % der Fälle in der falschen Antwort überein, und die größeren und genauer arbeitenden Modelle scheitern auf sehr ähnliche Weise, selbst bei unterschiedlichen Architekturen und Herstellern. Die Autoren überprüfen die Auswirkungen auch bei der Bewerberauswahl und bei Modellen, die als Bewertungsinstanz eingesetzt werden.

Die tückischste Variante ist die generative Monokultur. Fan Wu, Emily Black und Varun Chandrasekaran haben sie als eine Verengung der Antwortvielfalt im Vergleich zu den Ausgangsdaten beschrieben: beispielsweise Buchrezensionen, die fast durchweg positiv ausfallen, selbst bei Titeln mit gemischter Aufnahme, oder Code, der weniger Strategien abdeckt. Das Bild ist ambivalent: Die Reduzierung der Vielfalt verbessert manchmal die Qualität – Code kann effizienter werden –, wird aber zum Problem, wenn unkonventionelle Meinungen verschwinden. Die Autoren fügen eine wenig beruhigende Tatsache hinzu: Das Ändern der Sampling-Methode oder der Prompt-Formulierung reicht nicht aus, um das Phänomen zu korrigieren, da die Ursachen im Alignment des Modells verankert zu sein scheinen.

Wer mit lokalen, quantisierten oder im Unternehmen installierten Modellen arbeitet, sollte sich eine Unterscheidung überlegen, die hier als Gedankenspiel und nicht als feststehendes Ergebnis dient: Die Souveränität über die Ausführung fällt nicht mit der Vielfalt des Modells zusammen. Wenn viele offene Projekte vom selben Basismodell und denselben Daten abstammen, verleiht das Vorhalten der Gewichte im eigenen Haus zwar Autonomie, aber nicht notwendigerweise unterschiedliche Perspektiven. Das Gleiche gilt für Agenten, wo die Frage offen bleibt: Ist ein Team von zehn Agenten mit demselben Modell, denselben Werkzeugen und denselben Evaluierungskriterien wirklich pluralistisch oder ist es eine Monokultur in Zehnerreihe? Und wenn das Modell, das die Ergebnisse bewertet, demjenigen ähnelt, das sie erzeugt, wer kontrolliert dann wen?

Der Journalismus weiß das genau. Kyle Chayka beschreibt in dem vom MIT-Paper zitierten Buch Filterworld, wie Empfehlungsalgorithmen den Geschmack nivellieren. Wenn sich Redaktionen, Suchmaschinen und Assistenten auf ähnliche Modelle stützen, können Minderheitenquellen ohne Zensur verschwinden, nur weil sie statistisch weniger wahrscheinlich sind. Bild aus dem Paper Algorithmic Monoculture and its Critics

Gegenmittel, Kontrollen, Einspruchsrechte

Was ist also zu tun, ohne Parolen wie "Nutzen wir verschiedene Algorithmen"? Das Stanford-Paper schlägt konkrete Instrumente vor. Erstens: Die Auswirkung pro einzelner Stelle messen, nicht über den Gesamtdurchschnitt eines Anbieters – was heute keineswegs immer geschieht. Zweitens: Den Markt beobachten, das heißt verstehen, wie weit bestimmte Anbieter verbreitet und wie stark sie miteinander verflochten sind, da die heute von Aufsichtsbehörden erhobenen Daten aggregiert und anonym sind und es nicht erlauben, dieselbe Person von einem Unternehmen zum anderen zu verfolgen. Drittens: Den Forschern den Zugang zu Daten garantieren, wie es das europäische Gesetz über digitale Dienste für große Plattformen tut. Die Autoren selbst erinnern daran, dank einer Vereinbarung mit pymetrics gearbeitet zu haben, die dem Unternehmen eine Blockade der Veröffentlichung untersagte, und befürchten, dass ihre Forschung andere Anbieter davon abhalten könnte, Daten zu teilen.

Auf der Ebene der Metriken braucht es neben der Korrelation der Ergebnisse auch die Korrelation der Fehler: Stimmen die Systeme vor allem dann überein, wenn sie falsch liegen? Es muss verstanden werden, wie stark sich Daten und Modelle überschneiden, ob das System unkonventionelle Bewerber erkundet und ob ein systematischer Fehler einer präzisen Komponente zugeordnet werden kann. Und vor allem, ob die abgelehnte Person eine reale Möglichkeit hat, die Entscheidung anzufechten. Eine größere Vielfalt von Entscheidungen ist, das muss gesagt werden, kein Selbstzweck, denn wenn sie aus Rauschen oder Inkompetenz entsteht, verschlechtert sie die Ergebnisse. Das Ziel ist eine Vielfalt, die nützliche Informationen bringt, verbunden mit menschlicher Verantwortung.

Europa hat keine Bestimmung namens "algorithmische Monokultur", und es wäre falsch, ihm eine solche zuzuschreiben. Die Personalauswahl fällt jedoch unter die Hochrisiko-Systeme des AI Act, mit Pflichten zum Risikomanagement, zur Datenqualität, zur Dokumentation und zur menschlichen Aufsicht. Eine Frist muss aktualisiert werden: Der in der Stanford-Studie genannte Termin August 2026 ist überholt. Das als Digital Omnibus bekannte Vereinfachungspaket, das vom Rat am 29. Juni 2026 gebilligt wurde, ist zur Verordnung (EU) 2026/1744 geworden, die am 24. Juli veröffentlicht wurde und seit dem 27. Juli in Kraft ist; laut einer dedizierten Rekonstruktion verschiebt sie die Pflichten für autonome Hochrisiko-Systeme auf den 2. Dezember 2027. Die direkteste Brücke bleibt das Wettbewerbsrecht. Ein Arbeitspapier der Generaldirektion Wettbewerb der Kommission, das präzisiert, nicht die offizielle Haltung der Institution zu repräsentieren, identifiziert bei generativer künstlicher Intelligenz Engpässe wie Daten, Chips und Rechenleistung und weist auf die Schwierigkeit hin, den Cloud-Anbieter zu wechseln. Als Gegenmittel nennt es offene Modelle und Interoperabilität. Wenige dominante Anbieter sind für sich genommen nicht rechtswidrig, schaffen aber Abhängigkeiten, und die Stanford-Studie ergänzt das Risiko, dass der Ausfall eines Anbieters die Personalauswahl in Tausenden von Unternehmen blockiert.

Noch offene Fragen

Kehren wir zu Behm und der Ausgangsfrage zurück. Die Antwort lautet nicht, einfach zwischen einem oder vielen Algorithmen zu wählen. Wenn man fragt, wie viele Systeme wirklich unabhängig sind, wie viel sie an Daten und Architektur teilen, ob ihre Fehler korreliert sind, wer den Schaden trägt, ob das System Alternativen erkundet und wer es kontrollieren und korrigieren kann, kommt man der Sache näher.

Die beiden Studien widersprechen sich im Grunde nicht. Das MIT fragt, was notwendig aus bestimmten Modellen folgt, und stellt fest, dass es viel weniger ist als gedacht – was ein gutes Gegenmittel gegen Parolen ist. Stanford misst, was in einem konkreten Ökosystem geschehen ist, und zeigt, dass das Risiko nicht rein hypothetisch ist, auch wenn es auf einen Anbieter, eine Testart und einen kleinen Teil der Bewerber beschränkt bleibt. Eine Kohärenz, die Fehler sichtbarer macht, ist ein Vorteil, aber nur, wenn jemand hinsieht; eine Vielfalt, die Fehler vervielfacht, ohne dass sie jemand überprüft, ist nur Verwirrung.

Es bleiben Fragen offen, die keine der beiden Arbeiten beantwortet. Was passiert, wenn generative Modelle und Agenten die Stelle von Ranglisten einnehmen? Kann ein Ensemble von Modellen wirklich pluralistisch sein? Wie viel Zufall sind wir bereit, bei einer lebensverändernden Entscheidung zu akzeptieren? Die Vielfalt der Algorithmen kann helfen, ersetzt aber nicht das Recht, gehört zu werden: Zu fragen, wie viele KIs entscheiden, zählt weniger als zu wissen, wie viel Unabhängigkeit zwischen ihnen besteht und ob nach einem Nein noch jemand da ist, dem man antworten kann.