La monocultura algorítmica: ¿una sola IA para todos, riesgo o remedio?
Dos estudios publicados con apenas unos meses de diferencia parecen decir cosas opuestas. Observados de cerca, miden cosas distintas. Kyle Behm enviaba candidaturas y recibía siempre el mismo rechazo. En el relato que Cathy O'Neil hace en *Armas de destrucción matemática, recogido por el artículo del MIT, Behm descubrió solo al final que todas las empresas utilizaban el mismo sistema de selección, el cual al parecer lo había penalizado por una condición de salud mental. No eran muchas evaluaciones independientes, era una sola evaluación repetida en todas partes.*
Es este el temor que llamamos monocultura algorítmica: muchos decisores que confían en el mismo algoritmo, o en algoritmos tan similares que fallan juntos. Sin embargo, la paradoja opuesta es igualmente real. Si cada empresa tuviera su propio algoritmo, el sistema no se volvería necesariamente más justo; podríamos encontrarnos con decisiones incoherentes, imposibles de auditar, más fáciles de manipular, y con una persona rechazada en todas partes por una acumulación de particularidades en lugar de por un solo error.
El 29 de septiembre de 2026, el MIT presentó un estudio de Brian Hedden y Manish Raghavan que matiza el peligro. En mayo, Stanford había publicado la primera gran evaluación sobre datos reales, hallando rechazos sistémicos más frecuentes de lo previsto. La pregunta guía es sencilla de formular e incómoda de resolver: ¿la diversidad de algoritmos es siempre algo bueno, o puede ser preferible un único sistema transparente, auditable, tal vez compuesto por muchos modelos? Adelanto la respuesta prudente: depende, e intentaré explicar de qué.
Plátano, una metáfora con límites
La palabra proviene de la agricultura, y la metáfora funciona: un campo con una sola variedad rinde bien hasta que llega la enfermedad que afecta precisamente a esa variedad. Lo sabe bien quien conoce la historia del plátano Gros Michel, diezmado a mediados del siglo XX por el mal de Panamá y sustituido por el Cavendish que encontramos hoy en el supermercado, clonado y amenazado actualmente por una nueva variante del mismo hongo que llegó a las Américas en 2019. Pero Hedden y Raghavan advierten: una analogía no es una prueba, y su trabajo nace precisamente de la sospecha de que se aplica de forma automática.
En el mundo de la informática, el término abarca situaciones diferentes. Existe la monocultura estricta, con todos utilizando exactamente el mismo algoritmo. Existe la monocultura de mercado, en la que muchas organizaciones compran al mismo proveedor aunque internamente los modelos cambien. Existe la monocultura de componentes, en la que sistemas distintos comparten datos, modelos base u objetivos. Existe la monocultura de resultados, donde sistemas diferentes terminan produciendo resultados similares. Y existe la monocultura generativa, de la que hablaremos, en la que un solo modelo de lenguaje reduce la variedad de respuestas en comparación con los textos humanos de los que ha aprendido.
El concepto tiene una genealogía precisa. En 2021, Jon Kleinberg y el propio Raghavan demostraron que un algoritmo ligeramente más preciso, adoptado por todos por conveniencia individual, puede dejar a la colectividad en peor situación que antes.
Stanford, números sobre el terreno
El estudio de Stanford, firmado por Rishi Bommasani, Sarah Bana, Kathleen Creel, Dan Jurafsky y Percy Liang, es el primero en observar decisiones reales de un proveedor de selección automatizada en múltiples empresas. El artículo, presentado en junio en la conferencia FAccT, analiza los datos de pymetrics entre 2018 y 2022: aproximadamente 4,2 millones de candidaturas de 3,4 millones de personas para 1.746 puestos en 156 empresas de 11 sectores. No se trata de currículums, sino de juegos en línea, tras los cuales un modelo para cada puesto asigna una etiqueta de "recomendado" o "no recomendado". Quien no es recomendado, por norma general, nunca llega a conocer a un ser humano.
El primer resultado se refiere a los rechazos sistémicos. Entre quienes presentan cuatro candidaturas, el 10% es rechazado en todas partes, más de lo que ocurriría si cada empresa decidiera de forma estadísticamente independiente. El punto clave es el exceso respecto a esa referencia, no el porcentaje en sí, y el desfase persiste con diez candidaturas, donde el 4% es rechazado en todos los puestos. También hay que calibrar el alcance: el 84% de las personas se postuló una sola vez y apenas el 1% unas cuatro veces. El mismo modelo utilizado por distintas empresas existe (42 modelos, 142 pares de empresas), pero es raro, y la correlación surge principalmente de que los mismos juegos alimentan modelos diferentes.
Como prueba de contraste, los autores utilizan el estudio de Kline, Rose y Walters, que envió 83.000 currículums falsos a 108 grandes empresas estadounidenses: allí los rechazos totales se alinearon con decisiones independientes. Resulta sugerente, pero no es un experimento gemelo: las poblaciones, los puestos y las tasas de éxito difieren, como reconocen los propios autores. También hay una nota tranquilizadora: al simular las evaluaciones de 939 candidatos en 495 modelos, nadie es rechazado en todos, aunque para situar los rechazos totales por debajo del 0,1% habría que postularse a 25 puestos en lugar de a 10.
El segundo resultado es más técnico y tal vez más instructivo. En Estados Unidos, la regla de los cuatro quintos señala un posible efecto discriminatorio cuando un grupo es recomendado a menos del 80% del ritmo del grupo más favorecido. Con los datos agregados, la proporción para los candidatos negros es de 0,839 y todo parece correcto. Pero la ley evalúa puesto por puesto, y de ese modo el 10,6% de los puestos penaliza a los candidatos negros y el 5,3% a los asiáticos. El 25,9% de las candidaturas de personas negras y el 14,7% de las de personas asiáticas terminan en puestos con este desequilibrio. El estudio hace una comparación clara: si solo se recomendara a hombres para los puestos de médico y solo a mujeres para los de enfermería, la media podría cuadrar, pero el problema persistiría.
Persisten limitaciones que los propios autores declaran. Hay un solo proveedor y un solo tipo de prueba, basada en juegos. Faltan medidas de la calidad de los candidatos y de la validez de los modelos, y se desconoce cómo utilizan las empresas las recomendaciones. Además, un desequilibrio estadístico puede justificar una investigación, pero no establece por sí solo que una práctica sea ilegal.
La defensa del MIT
El trabajo de Hedden, filósofo, y Raghavan, informático, publicado en una revista de filosofía, no sostiene que la monocultura sea buena. Sostiene que las acusaciones más comunes no se sostienen o no bastan. Es un trabajo teórico con simulaciones, no un estudio de campo.
Tomemos la exclusión. En un mercado con un número fijo de puestos y de candidatos, señalan los autores, se queda sin trabajo el mismo número de personas con un solo algoritmo que con muchos. Cambia qué personas, no cuántas. Incluso en el caso en que todas las empresas clasifiquen a los candidatos de la misma manera, el segundo clasificado puede ser contratado por la segunda empresa porque el primero ya ha sido seleccionado. Y disponer de múltiples algoritmos no garantiza la equidad: si cada uno prefiere a un candidato diferente, alguien a quien todos sitúan en segundo lugar puede quedar fuera de todos modos. El artículo añade una ventaja de la que se habla poco: un único criterio facilita descubrir y corregir una discriminación, mientras que en un mosaico de algoritmos los resultados dependen de un entramado difícil de desenredar.
Para Raghavan hay incluso un efecto sobre el poder de los candidatos: si todas las empresas persiguen a las mismas personas, estas pueden obtener mejores ofertas. Sin embargo, el artículo trata esta idea con prudencia, recordando que la literatura económica sobre el tema se centra principalmente en quienes ya tienen empleo. En el ámbito de la autonomía individual, los autores observan que el temor a no poder mejorar la propia puntuación solo se aplica a una monocultura ingenua, basada en rasgos inmutables, mientras que el riesgo opuesto —aprender a manipular el sistema— existe también con muchos algoritmos diferentes.
Un lector atento notará en qué puntos estas conclusiones son frágiles. El modelo presupone que la contratación se realiza con un algoritmo único de principio a fin, mientras que Stanford observa solo una fase de selección preliminar: para el MIT, conseguir una entrevista importa poco si no cambia quién obtiene el trabajo, pero se puede objetar que para quien es rechazado desde el principio, esa entrevista lo es todo. Además, las simulaciones idealizan el mundo real, con puestos que no se abren todos a la vez y mercados llenos de fricciones. Y resulta significativo que el principal objetivo de la crítica, Creel, sea también coautora del estudio de Stanford: ambos trabajos están en diálogo directo, casi un intercambio a distancia.
Ensembles, exploración y dudas
La objeción que los propios autores consideran más seria se refiere al descubrimiento. Si todos confían en la misma clasificación, los candidatos desfavorecidos nunca son puestos a prueba; el sistema nunca aprende que se había equivocado con ellos. En la jerga de los problemas de "bandidos con múltiples brazos", aquellos en los que hay que decidir entre explotar lo que se sabe o explorar, una población de decisores que confía en la misma información tiene más probabilidades de elegir el brazo equivocado y no darse cuenta jamás. Las simulaciones del artículo lo confirman, siempre que el algoritmo único no sea mejor que los muchos a los que sustituye.
Pero hay más. En la contratación, ninguna empresa puede seleccionar al primero de la lista si ya lo ha contratado otra, por lo que siempre existe cierta exploración forzada. Además, las plataformas reales no son puras explotadoras: ya introducen dosis de aleatoriedad, y en el artículo se menciona incluso un estudio en el que un algoritmo que tiene en cuenta la incertidumbre elegía candidatos más variados que uno que los ordenaba únicamente por la puntuación estimada. Quien conozca las Oblique Strategies, la baraja de cartas publicada en 1975 por Brian Eno y Peter Schmidt para ayudar a los artistas a salir de los bloqueos creativos, reconocerá el principio: a veces hace falta un elemento de perturbación explícito.
La propuesta más interesante es el conjunto de modelos, en inglés ensemble: en lugar de muchos algoritmos decidiendo por separado, uno solo que combina muchos, por ejemplo haciendo la media de sus puntuaciones. En las simulaciones, según los autores, esta monocultura "a varias voces" obtiene resultados iguales o mejores tanto que la monocultura simple como que el mosaico. Ventajas posibles: menos ruido, decisiones uniformes, control centralizado. Pero aquí surgen las preguntas. Combinar modelos construidos sobre los mismos datos no garantiza independencia. La media puede aplastar las señales minoritarias. Una puntuación agregada puede ocultar al responsable de un error. Y sigue habiendo un único punto de fallo. El propio Hedden advierte que no se sabe hasta qué punto es viable. ¿Un conjunto de modelos es pluralismo o solo una monocultura más elaborada?
Por último, el ámbito importa. El artículo señala que la contratación, el crédito y la admisión universitaria tienen puestos limitados y exclusivos, donde la monocultura no crea más excluidos. Donde no existen restricciones similares, como los premios de cine, podría excluir más. Para la medicina y la justicia, los autores remiten a estudios futuros, y sobre la investigación científica o los contenidos generados advierten que las cosas podrían funcionar de manera diferente y peor.
Mismos ingredientes, distintas etiquetas
El temor se entiende mejor si se observa lo que hay dentro de las aplicaciones. Una aplicación puede tener una interfaz, instrucciones y ajustes distintos a los de la competencia mientras se apoya en el mismo modelo base, los mismos datos y los mismos filtros de seguridad. Los autores de Stanford lo dicen explícitamente: la concentración de proveedores no basta para medir el fenómeno, porque incluso modelos de empresas diferentes pueden rechazar a las mismas personas cuando comparten datos o arquitectura. Lo confirma, para los modelos de lenguaje, un estudio presentado en ICML 2025 sobre más de 350 modelos: en una prueba de referencia, cuando dos modelos se equivocan, coinciden en la respuesta errónea el 60% de las veces, y los modelos más grandes y precisos fallan de forma muy similar incluso con arquitecturas y creadores diferentes. Los autores verifican también sus efectos en la selección de candidatos y en los modelos utilizados como jueces.
La versión más insidiosa es la monocultura generativa. Fan Wu, Emily Black y Varun Chandrasekaran la han descrito como una reducción de la variedad de los resultados en comparación con los datos de partida: por ejemplo, reseñas de libros casi todas positivas, incluso para títulos recibidos de forma mixta, o código que cubre menos estrategias. El panorama es ambivalente: reducir la variedad a veces mejora la calidad —el código puede resultar más eficiente—, pero se convierte en un problema cuando desaparece la opinión no convencional. Los autores añaden un dato poco tranquilizador: cambiar la forma de muestrear o de formular las peticiones no basta para corregir el fenómeno, ya que las causas parecen arraigadas en el alineamiento del modelo.
Quienes trabajan con modelos locales, cuantizados o instalados en la empresa deberían plantearse una distinción que aquí funciona como hipótesis de reflexión y no como resultado definitivo: la soberanía sobre la ejecución no coincide con la diversidad del modelo. Si muchos proyectos abiertos derivan del mismo modelo base y de los mismos datos, tener los pesos en casa otorga autonomía, pero no necesariamente perspectivas diferentes. Lo mismo se aplica a los agentes, donde la cuestión sigue abierta: ¿un equipo de diez agentes con el mismo modelo, las mismas herramientas y los mismos criterios de evaluación es realmente plural o es una monocultura en fila de a diez? Y si el modelo que juzga los resultados se parece al que los produce, ¿quién audita a quién?
El periodismo lo sabe bien. Kyle Chayka, en el libro Filterworld citado por el artículo del MIT, relata cómo los algoritmos de recomendación aplanan el gusto. Si las redacciones, los motores de búsqueda y los asistentes se apoyan en modelos similares, las fuentes minoritarias pueden desaparecer sin censura, simplemente por ser estadísticamente menos probables.
Antídotos, controles y contestación
¿Qué hacer entonces, sin recurrir a eslóganes del tipo "usemos algoritmos diferentes"? El artículo de Stanford propone herramientas concretas. La primera: medir el impacto por cada puesto individual, no sobre la media global de un proveedor, algo que hoy no siempre se hace. La segunda: vigilar el mercado para comprender qué tan extendidos están ciertos proveedores y qué tan interconectados se encuentran, dado que los datos recopilados actualmente por los reguladores son agregados y anónimos, lo que impide seguir a una misma persona de una empresa a otra. La tercera: garantizar a los investigadores el acceso a los datos, como hace el Reglamento Europeo de Servicios Digitales para las grandes plataformas. Los propios autores recuerdan haber trabajado gracias a un acuerdo con pymetrics que no le permitía bloquear la publicación, y temen que su investigación disuada a otros proveedores de compartir datos.
En el ámbito de las métricas, además de la correlación de resultados, se necesita la correlación de errores: ¿los sistemas coinciden especialmente cuando se equivocan? Hace falta entender hasta qué punto se solapan datos y modelos, si el sistema explora candidatos no convencionales y si un error sistemático puede atribuirse a un componente preciso. Y sobre todo, si la persona rechazada dispone de una forma real de impugnar el resultado. Conviene señalar que una mayor diversidad de decisiones no es un valor en sí mismo si procede del ruido o la incompetencia, lo cual solo empeoraría los resultados. El objetivo es una diversidad que aporte información útil, respaldada por una responsabilidad humana.
Europa no tiene una norma que se llame "monocultura algorítmica", y sería incorrecto atribuírsela. Sin embargo, la selección de personal se encuadra dentro de los sistemas de alto riesgo del Reglamento de IA (AI Act), con obligaciones sobre gestión de riesgos, calidad de datos, documentación y supervisión humana. Hay que actualizar un plazo: la fecha de agosto de 2026 citada por el estudio de Stanford ha quedado superada. El paquete de simplificación conocido como Digital Omnibus, aprobado por el Consejo el 29 de junio de 2026, se ha convertido en el Reglamento (UE) 2026/1744, publicado el 24 de julio y en vigor desde el 27; según un análisis específico, traslada al 2 de diciembre de 2027 las obligaciones para los sistemas de IA de alto riesgo autónomos. El enlace más directo sigue siendo la competencia. Un documento de trabajo de la Dirección General de Competencia de la Comisión —que precisa no representar la postura oficial de la institución— identifica en la inteligencia artificial generativa cuellos de botella como los datos, los chips y la potencia de cálculo, y señala la dificultad de cambiar de proveedor de servicios en la nube. Indica como antídotos los modelos abiertos y la interoperabilidad. Disponer de unos pocos proveedores dominantes no es ilícito en sí mismo, pero crea dependencias, y el estudio de Stanford añade el riesgo de que una caída de un proveedor bloquee la selección en miles de empresas.
Preguntas aún abiertas
Volvamos a Behm y a la pregunta inicial. La respuesta no es elegir simplemente entre uno o muchos algoritmos. Es preguntarse cuántos sistemas son realmente independientes, cuánto comparten en datos y arquitectura, si sus errores están correlacionados, quién soporta el perjuicio, si el sistema explora alternativas y quién puede auditarlo y corregirlo.
En el fondo, los dos estudios no se contradicen. El MIT indaga qué se deduce necesariamente de ciertos modelos y descubre que es mucho menos de lo que se pensaba, lo cual constituye un buen antídoto contra los eslóganes. Stanford mide lo que ha sucedido en un ecosistema concreto y muestra que el riesgo no es puramente hipotético, aunque esté limitado a un proveedor, a un tipo de prueba y a una pequeña fracción de los candidatos. Una coherencia que visibilice más los errores es una ventaja, pero solo si alguien está observando; una diversidad que multiplique los errores sin que nadie los verifique no es más que confusión.
Quedan cuestiones abiertas que ninguno de los dos trabajos resuelve. ¿Qué ocurrirá cuando los modelos generativos y los agentes ocupen el lugar de las clasificaciones? ¿Puede un conjunto de modelos ser verdaderamente pluralista? ¿Mucha aleatoriedad estamos dispuestos a aceptar en una decisión que cambia una vida? La diversidad de algoritmos puede ayudar, pero no sustituye el derecho a ser escuchado: preguntar cuántas IA deciden importa menos que saber cuánta independencia existe entre ellas y si, tras un no, queda alguien a quien responder.