La explosión de archivos generados por IA está transformando la seguridad de los servicios financieros

Imaginemos una orden de transferencia bancaria que llega en forma de archivo PDF impecable. Sin código mal formado, sin firmas que se sepan que son falsas, con un remitente verosímil y metadatos que superan todas las comprobaciones automáticas… y totalmente falsificado, generado por un modelo por unos pocos céntimos para que parezca exactamente igual que el original. Nada en su origen lo delata, porque nunca tuvo un autor humano. Más información sobre la técnica de concatenación de archivos PDF

La mayoría de los controles de seguridad de archivos que se utilizan hoy en día se basan en una suposición heredada: que los archivos los crean las personas. Esa suposición determina el ritmo de llegada, la tasa de acumulación y la definición de «normal» con respecto a la cual se evalúan las anomalías. Se mantuvo durante décadas, porque el coste por archivo dependía del esfuerzo humano y el límite máximo de volumen venía determinado por el número de empleados.

La IA generativa ha eliminado esa limitación. La esfera de datos global pasó de 45 zettabytes en 2019 a una previsión de 175 para 2025 (un aumento del 289 %) y se prevé que alcance los 527 para 2029 (IDC). Pero el volumen es la parte menos importante de la historia. El cambio más trascendental es el origen: se estima que entre el 40 % y el 50 % de los nuevos archivos empresariales son ahora generados por máquinas, a menudo sin ningún indicio fiable de autoría humana.

La tasa de crecimiento confirma esta tendencia. La creación de archivos en las empresas creció aproximadamente entre un 20 % y un 23 % al año durante la era anterior a la IA. En el caso de las organizaciones que han estandarizado flujos de trabajo impulsados por la IA, se estima que el crecimiento total de archivos se sitúa ahora entre el 55 % y el 68 % al año. La adopción de la IA generativa en las empresas prácticamente se duplicó en un solo año, pasando del 33 % al 71 % (Stanford HAI), y dos tercios de las organizaciones informan de aumentos cuantificables en la productividad (Deloitte). La creación de archivos se ha desvinculado del tamaño de la plantilla por primera vez, y la brecha cada vez mayor entre esas dos curvas es precisamente donde reside el nuevo riesgo de seguridad.

El sector de los servicios financieros ha experimentado la explosión de archivos antes que cualquier otro sector, ya que cuenta con tres motores generadores de archivos de los que carecen la mayoría de los sectores, y la IA generativa ha acelerado los tres a la vez.

El primero son los datos sintéticos, el factor más importante y menos visible. El entrenamiento de modelos de detección de fraudes, de lucha contra el blanqueo de capitales y de crédito requiere datos a una escala que las normativas de privacidad limitan; la IA generativa resuelve esta limitación al producir registros sintéticos estadísticamente realistas que alcanzan una equivalencia de utilidad del 96-99 % con respecto a los datos de producción para las pruebas de lucha contra el blanqueo de capitales. Una sola institución puede generar miles de millones de registros por ciclo de entrenamiento, y cada uno de ellos es un artefacto almacenado, regulado y protegido.

La segunda es la documentación KYC, la categoría más cuantificable, ya que es obligatoria. La IA ha aumentado el rendimiento por analista y ha introducido tipos de documentos totalmente nuevos: descripciones de riesgos generadas por máquinas, resúmenes de noticias adversas y mapas de titularidad. Se prevé que el gasto mundial en sistemas KYC/KYB aumente en torno a un 40 %, hasta alcanzar los 30 500 millones de dólares en 2030 (Juniper Research), y que el número de comprobaciones de verificación de identidad realizadas en todo el mundo pase de 75 000 millones en 2024 a 86 000 millones en 2025, cada una de las cuales supone un documento que hay que capturar, almacenar y revisar.

La tercera es el uso directo de los modelos de lenguaje grande (LLM) en todas las funciones (ventas, marketing, asuntos jurídicos, recursos humanos, gestión de riesgos) que antes no generaban grandes volúmenes de contenido. Se estima que la producción por función se ha multiplicado por tres o por cinco, y las organizaciones señalan un aumento interanual del 54 % en el contenido que necesitan producir (Deloitte). Tres cuartas partes de las entidades financieras del Reino Unido ya utilizan la IA (Banco de Inglaterra / FCA), y la proporción de las que declaran haber obtenido ganancias de productividad casi se duplicó hasta alcanzar el 59 % en un año. Las instituciones que generan más archivos son precisamente aquellas que invierten de forma más agresiva en la tecnología que los genera.

Este es el punto de inflexión en el que una cuestión de productividad se convierte en una cuestión de seguridad. La herramienta que se utiliza para elaborar un «pitchbook» es idéntica a la que se utiliza para crear una carga útil.

El phishing asistido por IA se ha multiplicado por más de diez (+1.265 %) desde que la IA generativa se generalizó, y más del 82 % de los correos electrónicos de phishing detectados contienen ahora contenido generado por IA. La falsificación de documentos digitales creció un 244 % interanual en 2024. Kaspersky registra aproximadamente 500 000 archivos maliciosos al día. Y la proporción de empresas que denuncian intentos de fraude de identidad mediante deepfakes aumentó del 37 % al 49 % en dos años. Las amenazas transmitidas a través de archivos están creciendo al mismo ritmo que los archivos legítimos, ya que una misma tecnología permite generar ambos.

El vocabulario que utilizamos para referirnos a los archivos ya no se ajusta a lo que estos se han convertido. Un archivo ya no es un contenedor pasivo que permanece inactivo hasta que alguien lo abre. Se trata, cada vez más, de un «IntelligentFILE»: cualquier archivo que contenga inteligencia integrada (incluidos datos, instrucciones, identidad o código) que desencadena una acción consecuente cuando se procesa, se abre o se transmite.

La característica definitoria de IntelligentFILE es su doble naturaleza. Un mismo objeto puede ser un motor para el negocio, el cumplimiento normativo y la confianza… o un arma. Un paquete KYC tiene valor jurídico y consecuencias posteriores para cada decisión que se tome a partir de él. Un conjunto de datos sintéticos sobre la lucha contra el blanqueo de capitales se convierte en la fuente de verdad para un modelo que regula millones de transacciones. Un informe de cumplimiento normativo generado por IA es legítimo si se gestiona adecuadamente y un vector de ataque si no es así. Un PDF con malware incrustado está diseñado para superar la inspección superficial y ejecutarse una vez que se ha introducido en el sistema. Una orden de transferencia generada por IA es contextualmente precisa, coincide con la contraparte y, estructuralmente, es indistinguible de la original.

La diferencia entre la versión constructiva y la versión hostil apenas se aprecia a simple vista, y ahí radica el problema fundamental.

La mayoría de los controles que se utilizan hoy en día deducen el riesgo a partir de una propiedad que los archivos generados por máquinas ya no poseen de forma fiable. Los motores antimalware basados en firmas dan por hecho que la amenaza ya se ha detectado anteriormente, pero los modelos generativos producen cargas útiles novedosas sin ninguna firma conocida. Las pasarelas de correo electrónico dan por hecho que los archivos peligrosos llegan por correo electrónico, pero ahora los archivos entran a través de subidas a la nube, API, formularios web, portales y herramientas de colaboración. La clasificación parte de la base de que los archivos contienen señales de autoría y metadatos válidos, pero los archivos generados por máquinas carecen de ellos, y los datos sintéticos imitan los registros reales de los clientes.

La procedencia da por sentado que el origen es sinónimo de seguridad, pero el origen es, cada vez más, un modelo que se sitúa fuera del perímetro de la institución.

Esto es lo que se conoce como la «brecha de protección»: no se trata del fallo de una herramienta concreta, sino de una incompatibilidad arquitectónica entre los controles diseñados para archivos creados y gestionados por personas, a un ritmo humano, y un conjunto de archivos que no cumple ninguna de esas dos condiciones.

Si ya no se puede confiar en el origen, hay que adaptar el punto de control. La seguridad debe pasar de detectar amenazas una vez que un archivo ha entrado en el entorno a inspeccionar y depurar cada archivo en el momento de su incorporación, independientemente del origen indicado y de si algún motor concreto lo señala como sospechoso. La procedencia pasa de ser algo que se deduce a algo que se impone.

En la práctica, esto significa: dar prioridad a la prevención frente a la detección; considerar cada canal como un punto de entrada; neutralizar los archivos reconstruyéndolos para eliminar el contenido activo, en lugar de limitarse a detectar aquellos que se sabe que son maliciosos; no depender nunca de un único motor de detección; y tratar los datos generados por máquinas y los datos sintéticos como una clase de datos regulada por derecho propio.

El mercado ya está reorientándose hacia esta postura: el 96 % de los responsables de seguridad consideran ahora que la IA es fundamental para su ciberdefensa (EY), frente a un coste medio por incidente de seguridad cercano a los 4,4 millones de dólares (IBM).

Las medidas de seguridad adaptadas no tienen por qué ralentizar el negocio que la IA ha acelerado. Sin embargo, los controles perimetrales garantizan que el aumento exponencial de archivos impulse la productividad sin ampliar en la misma medida la superficie de ataque desprotegida.