Notizie IA Logo

AITalk

Noticias y análisis sobre Inteligencia Artificial

El caso Fideuram: la voz ya no es una prueba

SecurityEthics & SocietyBusiness

fideuram.jpg

Este artículo sale a la luz días después de conocerse la noticia, no por pereza sino por elección. El caso surgió el 25 de septiembre, llenó durante dos días las páginas de la crónica financiera y luego, como siempre, se diluyó. Esperar a que el sensacionalismo se poso permite mirar los hechos con más lucidez, sin la prisa del titular efectista. Es lo que intentamos hacer aquí. Hay una pregunta que cualquiera que haya realizado una transferencia bancaria en línea se ha hecho al leer esta historia. Para mover doscientos euros de su propia cuenta corriente, un usuario cualquiera debe superar dos factores de autenticación, un código temporal y, a veces, una llamada del banco si el importe es inusual. Sin embargo, un directivo del más alto nivel, con décadas de experiencia bancaria a sus espaldas, autorizó en pocas horas una transferencia de casi 95 millones de euros basándose en un mensaje de WhatsApp y una llamada telefónica. No es una pregunta ingenua. Es probablemente la pregunta más útil que se pueda plantear sobre este asunto.

El caso, reconstruido

En febrero de 2026, el entonces presidente de una de las principales sociedades de banca privada italianas, filial de uno de los mayores grupos bancarios del país, recibe en WhatsApp un mensaje que parece provenir del consejero delegado de la matriz. El número no es el conocido, pero el tono y los contenidos no dejan lugar a dudas: se requiere una serie de transferencias urgentes, a través de la tesorería de la filial, para una operación financiera en el extranjero que la matriz no puede gestionar directamente debido a problemas prácticos ligados a una posible filtración de noticias. El presidente, según reconstruyen los actos de la Fiscalía de Milán recogidos por Ansa, no sospecha porque meses antes una operación similar había fracasado precisamente por una filtración relativa a una adquisición bancaria internacional.

Poco después llega el segundo movimiento, el que diferencia este caso de una estafa común de falso director ejecutivo. El presidente recibe una llamada telefónica de un abogado internacional a quien conoce personalmente, un profesional con el que ya había trabajado. La voz es la suya, el tono es el suyo, sus muletillas son las suyas. Solo que no es él: es una réplica construida con herramientas de inteligencia artificial a partir de grabaciones públicas de su voz, mientras el profesional real, como relata la reconstrucción de Il Post, no sabe nada al respecto y nunca ha estado involucrado. Tranquilizado por esa segunda confirmación, el presidente autoriza la transferencia de los fondos, por unos 95 millones de euros, dirigidos principalmente a cuentas en China y Hong Kong.

El sistema de alerta termina por saltar y parte del botín es recuperado gracias a la colaboración entre la Fiscalía de Milán y las autoridades internacionales, con el apoyo de Eurojust: unos 40 millones bloqueados en una entidad china y otros 13 millones localizados en Portugal, según la cronología reconstruida por Il Sole 24 Ore. Permanecen en paradero desconocido, según las fuentes, entre 36 y 39,5 millones de euros, en parte convertidos ya en criptomonedas y difíciles de rastrear. Las investigaciones han llevado a inscribir en el registro de investigados a un ciudadano extranjero, mientras que el presidente involucrado, no investigado, dimitió en marzo por razones personales nunca detalladas públicamente.

Una voz basta, apenas unos segundos

La parte técnica del caso se descalifica fácilmente como ciencia ficción, cuando en realidad es administración ordinaria. Las herramientas de clonación vocal disponibles hoy en día, algunas de código abierto y utilizables incluso sin conexión en un ordenador común, no necesitan horas de audio limpio para producir una voz creíble al teléfono: bastan unos pocos segundos de voz clara, el tipo de material que cualquiera que haya dado una conferencia, concedido una entrevista o participado en un seminario web produce sin darse cuenta, como explica bien el análisis técnico de Pasquale Pillitteri sobre el caso.

Aquí se esconde una paradoja que vale la pena enfocar. La vulnerabilidad no depende de lo distraída o poco experta en tecnología que sea una persona; depende de cuánto material público exista de su voz. Un abogado mercantilista que participa en congresos, un directivo que concede entrevistas, un profesional que aparece en podcasts del sector: todos, simplemente ejerciendo su profesión de forma pública, construyen sin saberlo el archivo del que un estafador puede extraer datos. La misma autoridad que hace que una voz sea fiable al teléfono es lo que la hace clonable. No es un error de seguridad individual, es un efecto secundario de la visibilidad profesional en un mundo en el que publicar la propia voz en línea se ha convertido en un acto casi automático.

Urgencia y autoridad, no ingenuidad

Quienes despachan estos episodios con un juicio sobre la ingenuidad de la víctima no han comprendido cómo funciona la ingeniería social. El mecanismo psicológico explotado en estos casos no esquiva la inteligencia de quien lo sufre; esquiva sus automatismos cognitivos, los mismos que utilizamos todos los días para tomar decisiones rápidas sin tener que reanalizar desde cero cada situación.

Funcionan en combinación tres palancas. La primera es la urgencia: una solicitud que no deja tiempo para verificar, porque cada minuto de retraso se presenta como un coste concreto, una oportunidad perdida. La segunda es la autoridad: la solicitud llega, o parece llegar, de quien ocupa la cúspide de la jerarquía, y cuestionar una orden del jefe del jefe requiere un tipo de fricción social que la mayoría de la gente evita instintivamente. La tercera es la confirmación social, el reconocimiento de una voz conocida que tranquiliza justo en el momento en que debería saltar la sospecha. Ninguna de estas tres palancas requiere competencias informáticas para ser ejecutada o ignorada; requiere, sin embargo, un procedimiento que no dependa del juicio instantáneo de quien responde al teléfono en ese preciso momento.

La paradoja de la responsabilidad

Y aquí es donde llega el núcleo de la cuestión, lo que la pregunta del ciudadano de a pie enfoca mejor que cualquier análisis técnico. Para una transferencia de unos pocos cientos de euros, un cliente cualquiera se enfrenta a controles múltiples, diseñados a propósito para no fiarse de un solo canal de confirmación. Para operaciones de importe enormemente superior, las gestionadas en la alta dirección de las organizaciones, el nivel de control formal es a menudo más bajo, no más alto, porque se presupone que la autoridad de quien ordena hace superflua la verificación.

No es una paradoja ligada a la estupidez de quienes ocupan puestos de responsabilidad. Es el efecto de una arquitectura organizativa en la que la confianza jerárquica, necesaria para hacer funcionar cualquier empresa de dimensiones relevantes, en un mundo donde la identidad vocal puede ser replicada se convierte exactamente en el punto débil. Cuanto más necesita una organización que las órdenes desde arriba se ejecuten rápidamente, menos probable es que esas órdenes sean sometidas a una verificación independiente. El caso relatado aquí no se refiere a un fallo de atención individual; se refiere a un sistema en el que la verificación humana, por muy presente que estuviera, era de todos modos esquivable porque estaba anclada a un único elemento —la voz reconocida— que resultó ser falsificable.

Quién responde cuando la autoridad es falsa

Las preguntas abiertas por este caso importan más que cualquier respuesta definitiva, y es justo dejarlas como tales. ¿Quién certifica realmente que una orden llega de quien dice darla, cuando cualquier canal de comunicación puede ser simulado? ¿Dónde debería ubicarse, en una organización compleja, un procedimiento de verificación que no dependa de la persona que en ese momento responde al teléfono? Y la responsabilidad, en casos como este, ¿recae en quien ejecuta la orden, en quien diseña los sistemas de control interno o en quien no previó a tiempo que la clonación vocal estaría al alcance de cualquiera?

No son preguntas para despachar con prisa. Vale la pena recordar que en ámbitos aparentemente lejanos, como el de los agentes de software autónomos, se está abordando la misma cuestión de fondo: la seguridad no puede basarse en la autoridad aparente de quien imparte una instrucción; debe basarse en una verificación independiente de la identidad declarada de quien la facilita. Es el mismo principio aplicado a un contexto diferente. fideuram-infografica.jpg

Lo que dice la FTC y sus límites

El mismo día en que el asunto volvía a salir a la luz, al otro lado del océano el presidente de la Federal Trade Commission estadounidense, Andrew Ferguson, intervenía sobre un tema vinculado: la responsabilidad de los agentes de inteligencia artificial. En su intervención en la conferencia Reuters Momentum AI en Austin, Ferguson rechazó la idea de tratar a estos sistemas como actores autónomos capaces de actuar por iniciativa propia, declarando, según informa Reuters, que continuará resistiéndose a esta "antropomorfización" de las herramientas mientras siga al frente de la agencia. Según Ferguson, las comprobaciones en los registros de sistemas presentados como fuera de control muestran casi siempre máquinas que ejecutan instrucciones recibidas, no decisiones tomadas de forma autónoma, por lo que la responsabilidad debería recaer en quien diseña e instruye a esos sistemas, no en la herramienta en sí.

Conviene ser honestos sobre qué es esta declaración y qué no es. Como señala acertadamente un análisis de Forkast posterior a la intervención, no es una norma vinculante, no introduce un nuevo marco legal específico para los agentes autónomos; es una posición política expresada públicamente por quien dirige la autoridad de referencia sobre la protección de los consumidores en Estados Unidos. Pero marca una dirección, y resulta interesante que llegue justo mientras en Italia se debate sobre un caso en el que el problema no era un agente de software fuera de control, sino una voz humana perfectamente imitada: el principio de fondo, sin embargo, sigue siendo el mismo. Si la identidad de quien da una orden puede ser falsificada, la única defensa real es un sistema que no se fíe ciegamente de esa identidad, sea quien sea o lo que sea que la esté suplantando.

Procedimientos aburridos, no software milagroso

La parte más útil de esta historia, desde el punto de vista práctico, es tal vez la más antipática de aceptar: la defensa no es tecnológica, es organizativa, y funciona mejor cuanto más aburrida resulta de seguir. Ninguna transferencia por encima de un umbral determinado debería realizarse basándose en una solicitud recibida únicamente por un canal informal, sin una segunda llamada a un número ya registrado en la empresa, independiente del número desde el que llegó la solicitud original. Haría falta una segunda autorización por parte de alguien que no haya recibido el mensaje inicial, para evitar que la misma persona engañada sea también la única en validar la operación. Las operaciones hacia beneficiarios o países nunca utilizados previamente merecen una pausa obligatoria, por incómoda que pueda parecer cuando la solicitud insiste en la urgencia.

Hay una regla más sencilla que todas las demás, y es tal vez la más eficaz: cuando una solicitud llega desde lo alto de la jerarquía y al mismo tiempo exige rapidez, la sospecha debería activarse precisamente por ese motivo, no a pesar de ese motivo. Es una inversión contraintuitiva del reflejo natural, que empuja a confiar más cuando la fuente parece más autorizada. Frente a una voz familiar al teléfono, la experiencia personal por sí sola ya no basta: hace falta un procedimiento que no dependa de quien en ese momento se encuentra respondiendo.

No es un caso aislado

Quien piense que este asunto es un episodio límite, casi cinematográfico en su puesta en escena, debería mirar lo que está emergiendo a su alrededor. La misma Fiscalía de Milán que ha reconstruido este caso está investigando en paralelo otros dos episodios con un esquema similar: una estafa de unos 24 millones de euros, con fondos desviados entre España, Singapur, Hong Kong y Baréin y en parte recuperados en Barcelona, y una tercera de unos 2 millones en perjuicio de una entidad de menor tamaño, con otros grupos bancarios italianos entre los objetivos señalados. No se trata, por tanto, de un ataque diseñado a medida para un objetivo único, sino de un esquema que se está replicando con la misma lógica industrial con la que se replica cualquier técnica de ataque que funciona.

Las cifras confirman que el fenómeno más amplio, el de la estafa del falso director ejecutivo, no nació con la inteligencia artificial, pero está siendo transformado por ella en escala. Según datos del FBI recogidos por MilanoFinanza, correspondientes a 2025, en Estados Unidos se registraron casi 24.800 denuncias de fraudes mediante correo electrónico corporativo, con pérdidas declaradas de 3.050 millones de dólares, lo que supone un crecimiento respecto a los 2.770 millones del año anterior. Un estudio de la Association for Financial Professionals señala que en 2025 el 74 por ciento de las organizaciones encuestadas fue objetivo de al menos un intento de este tipo, frente al 63 por ciento del año previo. El responsable de seguridad del grupo bancario involucrado en el caso relatado al principio declaró, en una reconstrucción de Il Fatto Quotidiano, que solo desde principios de año se han mandado retirar unos cinco mil vídeos falsos generados con inteligencia artificial, la mayoría de ellos construidos utilizando la imagen del consejero delegado del grupo. Antes se necesitaba una organización criminal estructurada para poner en marcha un ataque creíble contra un directivo de alto nivel; hoy bastan un ordenador y material público localizable en pocos minutos. Es la democratización de una técnica que antaño requería competencias poco comunes y que ahora requiere, sobre todo, paciencia para recopilar los indicios adecuados.

Las preguntas que quedan abiertas

Me toca volver a citar un videojuego independiente, Papers, Please, en el que el único cometido del jugador es verificar documentos en un paso fronterizo, cotejando cada detalle con reglas que cambian continuamente mientras el tiempo aprieta y las consecuencias de un error recaen sobre personas reales. Es un juego sobre el cansancio de tener que dudar sistemáticamente incluso de lo que parece obvio, y resulta difícil no pensar en ello al leer esta historia. La misma tensión entre confianza y verificación atraviesa también una serie como Severance, donde la obediencia automática a los procedimientos corporativos se convierte en una jaula precisamente porque nadie se detiene jamás a preguntarse quién está dando realmente las órdenes.

Quedan sobre la mesa más preguntas que respuestas, y es justo dejarlas así. ¿Cómo se autentica realmente la identidad de quien habla por teléfono en un momento histórico en el que la voz ya no es prueba suficiente de nada? ¿Durante cuánto tiempo más los procedimientos considerados "aburridos" aguantarán frente a ataques que se vuelven cada mes más creíbles y más baratos de ejecutar? Y sobre todo, ¿debe la sospecha metódica hacia cualquier solicitud urgente proveniente de arriba convertirse en un estándar operativo para cualquiera que gestione sumas relevantes, y no en una excepción reservada a quienes ya se han quemado una vez?

La pregunta con la que se abría este artículo, la del cliente que se asombra de tener que verificar más él por doscientos euros de lo que tuvo que hacer un directivo por noventa y cinco millones, no es ingenua. Es probablemente la pregunta adecuada. La respuesta, por incómoda que resulte, es que este tipo de ataque no está construido contra la inteligencia de quien lo sufre; está construido contra el modo en que todos, inevitablemente, nos fiamos de las voces que reconocemos. Y la única defensa que no dependa de quien se encuentra respondiendo en ese momento sigue siendo un procedimiento lento, poco económico y molesto de seguir cada una de las veces. Es el precio, tal vez inevitable, de vivir en un tiempo en el que incluso la voz de alguien a quien conocemos puede haber dejado de ser suya.