Notizie IA Logo

AITalk

Noticias y análisis sobre Inteligencia Artificial

Pesos abiertos, cuenta real

BusinessGenerative AIApplications

openweight_win.jpg

Un token es un fragmento de palabra, la unidad con la que se mide y factura el trabajo de un modelo de lenguaje. En las mediciones de septiembre del AI Gateway de Vercel, más de siete de cada diez tokens fueron procesados por modelos de pesos abiertos, es decir, descargables, inspeccionables y alojables por cualquiera que disponga de los medios. El gasto cuenta otra historia: esos modelos captan el 23% de los dólares, poco menos de uno de cada cuatro. Era uno de cada veinte en junio, por lo que el crecimiento es innegable, pero los ingresos se quedan rezagados respecto al volumen.

No se trata de una victoria ideológica, y ese es el punto que me interesa. Es una decisión de precio, tomada por quienes pagan los tokens con la frialdad del comerciante Lawrence en Spice and Wolf, la serie de novelas de Isuna Hasekura, al sopesar márgenes y riesgos antes de aceptar un trato que parece demasiado generoso. Si cuestan tan poco, cabe preguntarse por qué muchos no los ejecutan en su propia infraestructura. El gateway, sin embargo, no ve lo que ocurre en los ordenadores personales, por lo que cuántos lo hacen sigue siendo una pregunta abierta. Lo que sí podemos intentar es comprender qué sucede cuando se da ese paso.

El itinerario es el siguiente: las cifras del gateway, tres modelos que interpretan la apertura de formas distintas, la prueba en una tarjeta de 16 GB y, finalmente, la factura real, con sus puntos débiles detallados uno a uno.

Qué mide realmente Vercel

El material procede de tráfico en producción, no de una encuesta. Cada mes, señala Vercel, pasan por sus sistemas decenas de billones (trillions) de tokens entre aplicaciones reales y entornos de laboratorio. El cómputo abarca tokens de entrada, de salida, de razonamiento, leídos de la memoria intermedia (caché) y escritos en ella. El gasto se calcula a precios de tarifa oficial, con la salvedad de que las facturas reales pueden diferir debido a acuerdos específicos. La clasificación de modelos abiertos sigue el listado actual del gateway, una definición más amplia que la de informes anteriores, como explica la nota metodológica.

Existen tres limitaciones que conviene declarar de inmediato. Los clientes de Vercel representan un segmento específico del mercado, y hasta qué punto reflejan el conjunto está por verificar. Las tarifas oficiales ignoran descuentos por volumen y contratos corporativos. Cargas de trabajo muy heterogéneas terminan en el mismo agregado. Pese a todo, constituye uno de los escasos conjuntos de datos públicos que sitúa tokens y dólares bajo el mismo perímetro, lo que le otorga un gran valor.

El precio oculto tras los números

tabella1.jpg

Dividiendo la cuota de gasto entre la cuota de tokens se obtiene un precio medio implícito. Para los modelos abiertos, 0,23 dividido entre 0,715 da aproximadamente 0,32. Para los propietarios, 0,77 dividido entre 0,285 resulta unos 2,70. El primero representa el 12% del segundo. Es un cálculo propio, no de Vercel, que mezcla modelos y tareas diversas, por lo que debe tomarse como un orden de magnitud y no como una tasa de cambio exacta. Sin embargo, explica la paradoja: un token abierto cuesta, de media, cerca de una octava parte.

El crecimiento es asimétrico. Desde diciembre pasado, el gasto en modelos cerrados de frontera se ha multiplicado por diez, mientras que en modelos abiertos ha aumentado más de setenta veces. Los modelos propietarios recaudan más, pero sobre una fracción cada vez menor del volumen total de cada cliente.

El dato que complica la narrativa simplista de "abierto equivale a económico" es Kimi K3. Según Vercel, los modelos con precios al menos cuatro veces superiores a la media de los abiertos generaron cerca de dos tercios del incremento de gasto, y K3 por sí solo casi la mitad, procesando bastantes menos tokens que DeepSeek. Moonshot, el laboratorio creador, representa el 3,6% de los tokens y el 13,2% del gasto. Al dividir, su token cuesta unas 3,7 veces la media del gateway, mientras que DeepSeek, con el 58% de los tokens y el 6,6% del gasto, cuesta alrededor de una novena parte (cálculos propios). K3 ofrece sus pesos de forma pública en Hugging Face, con 2,8 billones de parámetros totales de los cuales 104 mil millones están activos por token. Según las tarifas publicadas, la API cuesta 3 dólares por millón de tokens de entrada y 15 de salida. En una mezcla de nueve partes de entrada por una de salida, esto equivale a 4,20 dólares, frente a los 2,80 dólares de Claude Sonnet 5.5. Un modelo abierto más caro que uno cerrado: tal vez el factor determinante no sea la apertura de pesos, sino la capacidad pura.

Existe además un componente geográfico. Casi el 70% del gasto en modelos chinos pasa por proveedores con sede en Estados Unidos, y nueve de cada diez tokens de Moonshot son servidos por infraestructura estadounidense. Quien entrena el modelo y quien recauda los ingresos pueden ser entidades distintas; cabe preguntarse entonces quién se beneficia realmente de la apertura: ¿quien la publica o quien la aloja?

Por último, Jev, de TypeSafe AI. Alcanzó el 35,3% de los equipos de pago en dos semanas —récord del gateway—, pero solo supuso el 0,27% del gasto en ese periodo, y en septiembre el 1% de los tokens y el 0,15% del gasto. Se trata de un modelo de decisión, explica Vercel, que consume una pequeña fracción de los tokens requeridos por una solicitud lingüística convencional. Adopción no equivale a volumen financiero.

Tres estrategias y una excepción

DeepSeek V4.1 Flash cuenta con pesos bajo licencia MIT y una arquitectura de expertos: la ficha del modelo describe una red base de 552 mil millones de parámetros, con 8 mil millones activos en lectura y 16 mil millones en escritura, junto a una ventana de contexto de un millón de tokens. El repositorio indica unos 763 mil millones de parámetros totales, por lo que ninguna tarjeta de consumo de 16 GB podrá ejecutarlo localmente. El precio oficial es el mencionado anteriormente: 0,15 y 0,60 dólares fuera de hora punta y 0,003 para entradas en caché. Vercel mide la versión de septiembre, mientras que la API sirve actualmente la revisión 1017. En este caso, el precio genera más titulares que las puntuaciones en los test.

Mercury 3, de Inception, genera texto en paralelo en lugar de token por token, anunciando velocidades superiores a mil tokens por segundo. Según el comunicado del 19 de octubre, la tarifa oficial es de 0,20 y 0,70 dólares, rebajada a la mitad durante el lanzamiento. La página no especifica la licencia, y las comparativas con Luna y Haiku proceden del propio fabricante. Muestra que mayor velocidad no implica necesariamente un coste menor.

MiniMax M3.1 Flash, lanzado el mismo día, cuesta 0,15 en entrada y 0,60 en salida, con 0,015 para la caché. La empresa afirma que los pesos estarán disponibles más adelante, sin fijar fecha ni licencia. Es una promesa de apertura con calendario indefinido: cabe plantearse si la etiqueta "abierto" se utiliza también como reclamo comercial.

La excepción la constituyen los modelos orientados a la decisión como Jev. Cloudflare acaba de presentar una alternativa afín, Clairic, un modelo de extracción que responde en un único paso, sin generar tokens y cobrando únicamente por la entrada. Cloudflare sostiene que una cadena basada en Clairic cuesta un 49% menos y funciona más de tres veces más rápido que una basada en modelos lingüísticos tradicionales (prueba interna de la empresa). La publicación de pesos se promete "pronto". Si la carga de trabajo se desplaza hacia modelos que emiten pocos tokens, ¿hasta qué punto seguirá siendo útil medir el mercado en tokens?

Quizá los pesos abiertos hayan ganado terreno sobre todo donde la tarea es estructurada, repetible y verificable: extraer, clasificar, enrutar. Un planteamiento que requiere mayor verificación.

El banco de pruebas

El equipo utilizado cuenta con un procesador Ryzen 7 7700, 32 GB de memoria DDR5 y una tarjeta gráfica Radeon RX 9060 XT de 16 GB. El modelo evaluado es LFM2.5-24B-A2B de Liquid, en la cuantización UD-Q4KXL de 15,4 GB, ejecutado mediante LM Studio. Dispone de 24 mil millones de parámetros totales y unos 2,45 mil millones activos por token, generando siempre un razonamiento previo a la respuesta. De diez pruebas, ocho resultaron válidas con una nota media de 4,3 sobre 5. Las dos restantes requerían entrada multimodal (no soportada por este modelo de texto exclusivo) y se excluyeron como no aplicables. La puntuación indica capacidad práctica, pero no interviene en el cálculo económico.

He medido de forma directa una única velocidad: 44,7 tokens por segundo en generación de salida. Tres variables adicionales son estimaciones, declaradas expresamente como tales.

La velocidad de procesamiento del texto de entrada (prefill) es sustancialmente más rápida que la de generación, y pesa de manera determinante en la factura porque nueve de cada diez tokens en entornos reales corresponden a la entrada. No la he medido directamente. En su lugar, analicé tres referencias independientes para derivar una proporción entre lectura y escritura. En una RTX 4060 Ti de 16 GB con el mismo modelo, llamabench indica 4.073 tokens por segundo en lectura frente a 131 en escritura (16 de octubre), una proporción aproximada de 31:1. Para mi tarjeta específica, una guía cita benchmarks de la comunidad de llama.cpp con 1.420 y 68 t/s en un modelo de 7B (proporción ~21:1). Un modelo Qwen3.8 de 27B en una RX 9070 XT con LM Studio alcanza ~638 frente a 33 t/s (proporción ~19:1). Aplicados a mis 44,7 t/s de generación, estos datos sugieren una velocidad estimada de prefill de 860 a 1.390 tokens/seg. Adopto 1.100 t/s como estimación central de referencia (rango 900–1.400).

El consumo eléctrico constituye la segunda estimación. AMD indica un consumo típico de 160 vatios para la tarjeta por sí sola. Al no disponer de un medidor en enchufe, planteo dos escenarios: 160 vatios (solo tarjeta) y 250 vatios (estimación para el equipo completo). El coste eléctrico se calcula a 0,3163 euros por kWh, correspondiente a la tarifa de referencia de ARERA para clientes protegidos en Italia, impuestos incluidos.

La proporción entre tokens de entrada y salida es la tercera estimación. No procede de este test puntual, sino de análisis de tráfico en producción. Un estudio sobre 6,1 mil millones de solicitudes observa una proporción de 14,2 a 1, el análisis de Requesty indica 19 a 1, y un estudio de datos de OpenRouter registra un 93,4% de entradas en tareas de programación. Al reflejar uso en desarrollo y agentes, adopto una distribución conservadora del 90% entrada y 10% salida (proporción 9:1), teniendo en cuenta que los modelos de razonamiento generan mayor volumen de salida.

La contabilidad, línea por línea

Consideremos un bloque de trabajo de un millón de tokens: 900.000 tokens de entrada y 100.000 de salida. El entorno local requiere ~818 segundos para la fase de lectura (prefill) y 2.237 segundos para la generación de salida, sumando 51 minutos de trabajo activo. El consumo energético total oscila entre 0,136 y 0,212 kWh, lo que representa entre 4,3 y 6,7 céntimos de euro. Considerando las variaciones en prefill, consumo y tarifa eléctrica, la horquilla completa de coste se sitúa entre 4 y 8 céntimos por millón de tokens. Los precios en la nube reflejan las tarifas oficiales estándar para contextos cortos, convertidos a una tasa de 0,8917 euros por dólar (tipo de referencia del BCE a 20 de octubre). tabella2.jpg

Las tarifas API proceden de los listados oficiales de Anthropic, OpenAI, DeepInfra y Liquid. Las solicitudes que superan los 100.000 tokens en Claude Haiku aplican tramos superiores, por lo que se asume contexto corto.

La comparación más rigurosa contrapone la ejecución local con modelos en la nube de tamaño equivalente: el entorno local resulta entre 2 y 3 veces más económico que el alojamiento gestionado para parámetros similares, margen que se estrecha con un consumo eléctrico superior del equipo. Las comparativas frente a modelos de frontera (que muestran diferencias de 10x a 100x) solo se sostienen sobre el papel. Comparar un modelo con 2,45B parámetros activos con sistemas de primera línea contrapone categorías funcionales muy distintas, y nuestras pruebas de calidad no los sitúan en el mismo nivel. tabella3.jpg

Euros por millón de tokens, distribución 90:10 entrada/salida, 0,3163 €/kWh. A 0,3557 €/kWh, los costes locales suben un 12%. Con una distribución 95:5 y lectura a 1.100 t/s, bajan a ~0,028 € y 0,044 €.

Los cálculos se invierten si todos los tokens se procesaran a la velocidad de escritura sin aceleración de prefill: la ejecución requeriría 6,2 horas, con un coste de 31 a 49 céntimos, superando a DeepSeek en la nube. Este constituye el hallazgo más revelador del test: la aceleración del procesamiento de entrada (prefill) altera sustancialmente la ecuación de costes.

Por último, la caché de contexto modifica el equilibrio. Las cifras anteriores en la nube asumen cero aciertos en caché, mientras que en flujos de trabajo repetitivos gran parte de la entrada puede leerse con importantes descuentos: 0,003 dólares para DeepSeek, 0,10 para Sonnet 5.5. Asumiendo una tasa de acierto en caché del 80% (sin incluir costes de escritura en caché), el coste efectivo desciende a ~0,08 euros para DeepSeek, 1,30 euros para Sonnet y 6,20 euros para Fable. Bajo esas condiciones, el alojamiento local a 250W y DeepSeek en la nube alcanzan una paridad económica casi absoluta. La frecuencia real de uso de la caché en entornos de producción sigue siendo una cuestión abierta.

Costes ocultos más allá del token

La contabilidad anterior refleja únicamente el consumo eléctrico. La inversión en hardware (tarjeta gráfica y equipo) asciende a ~1.300 euros: amortizados a tres años, la depreciación equivale a ~36 euros al mes. Funcionando de forma continua al 100% de capacidad, el equipo puede procesar ~860 millones de tokens al mes, añadiendo 0,04 euros de depreciación por millón de tokens. Con un nivel de uso del 10%, la amortización añade 0,42 euros por millón de tokens. Con un uso del 1%, supera los 4,00 euros por millón. El coste real del alojamiento local depende críticamente de la tasa de utilización.

A ello se suma el tiempo, no de trabajo directo del operador, sino de disponibilidad de la máquina: 51 minutos por millón de tokens implica mantener el equipo ocupado, la latencia por consulta individual requiere decenas de segundos y la supervisión humana sigue siendo necesaria. Se añaden los costes de mantenimiento: actualizar controladores y software, buscar nuevas cuantizaciones y gestionar la obsolescencia del modelo.

Las licencias abiertas incluyen también condiciones. Liquid concede el uso comercial gratuito solo a entidades con ingresos anuales inferiores a 10 millones de dólares. La licencia de Kimi K3 exige acuerdos comerciales específicos para proveedores de alojamiento que superen los 20 millones, según análisis publicados, con términos completos en su repositorio. DeepSeek opera bajo licencia MIT. La etiqueta "abierto" abarca múltiples realidades; conviene examinar la licencia antes que la tarifa.

Cien mil millones de parámetros en el teléfono

Cristiano Amon, consejero delegado de Qualcomm, afirmó en una entrevista recogida por The Next Web que varias empresas punteras de IA planean ejecutar modelos de al menos 100B de parámetros de forma local en smartphones para 2028. No especificó nombres, y hasta qué punto la industria avanzará en esa dirección sigue sin verificarse. Un cálculo aproximado indica que, a 4 bits por parámetro, un modelo de 100B requiere ~50 GB de almacenamiento solo para los pesos. La memoria RAM, el ancho de banda, la disipación térmica y la batería representan limitaciones físicas reales en dispositivos móviles.

De materializarse dicho escenario, el coste marginal por token para el usuario se aproximaría a cero, trasladando la factura al precio de adquisición del hardware. El factor limitante sería entonces la economía del dispositivo más que el tamaño del modelo.

Cuestiones abiertas

Este análisis constituye una aproximación ilustrativa más que un veredicto definitivo. El gateway de Vercel refleja una fracción del mercado, no la totalidad del sector. Un token de extracción y uno de razonamiento no aportan el mismo valor. Evalué un único modelo en una sola GPU sobre ocho pruebas válidas; no se trata de una clasificación general. Las tarifas API públicas omiten volúmenes con descuento, acuerdos personalizados e impacto de caché. Las velocidades de prefill y el consumo eléctrico son estimaciones modeladas. Finalmente, mi velocidad de generación de 44,7 t/s resultó inferior a los 131 t/s reportados en otras fuentes para hardware de 16 GB similar, una variación potencialmente vinculada a la longitud del contexto o a la gestión de memoria VRAM.

Persisten interrogantes clave: ¿seguirá siendo el precio por token la métrica determinante, o se impondrá el coste por tarea completada con éxito? ¿Quién captura el valor real de los pesos abiertos: quien los publica, quien los aloja o quien los utiliza? Y si los modelos de 100B migran a los dispositivos de usuario, ¿quién asumirá el coste energético y el tiempo de proceso?

En el relato de Ursula K. Le Guin sobre Omelas, la prosperidad de una ciudad depende de un coste oculto que nadie desea examinar. Con los modelos de pesos abiertos, el dilema es menos sombrío, pero la pregunta fundamental permanece: ¿quién paga la cuenta y dónde está redactada?