Cómo los hackers de IA revolucionarán la ciberseguridad
- hace 30 minutos
- 5 Min. de lectura
La tecnología podría, a la larga, favorecer a los defensores, pero cabe esperar un camino lleno de obstáculos
Las empresas de tecnología suelen generar expectación en torno a los productos que planean lanzar. Anthropic, un laboratorio estadounidense de inteligencia artificial, ha logrado crear entusiasmo —y bastante preocupación— en torno a algo que no planea lanzar. El 7 de abril, la empresa anunció que un nuevo modelo de IA que había desarrollado, llamado Mythos, no se lanzaría al público general. En cambio, bajo una iniciativa llamada Proyecto Glasswing, cuyos 12 miembros fundadores incluyen a Apple, Google y Nvidia, el acceso estaría estrictamente controlado.
El problema no es que Mythos tenga errores o sea poco fiable. Supuestamente, es que funciona tan bien que su lanzamiento pondría en riesgo la infraestructura digital mundial. Según Anthropic, el modelo ha superado a “todos excepto a los humanos más expertos” a la hora de encontrar y explotar fallos de seguridad en todo tipo de sistemas, desde sistemas operativos populares hasta el software criptográfico que protege las redes financieras y de comercio electrónico. Y puede encontrar esas vulnerabilidades con una mínima intervención humana. Para no quedarse atrás, pocos días después, OpenAI, uno de los competidores de Anthropic, anunció una versión cerrada de su propio modelo, apto para hackers, llamada GPT 5.4 Cyber.
Un mundo de “hackeo de vibraciones”, en el que aficionados pueden usar modelos de IA para encontrar fallos en el software —e incluso escribir los “exploits” necesarios para bloquearlo, extorsionarlo o tomar el control remoto— suena aterrador. Poco después del anuncio de Anthropic, Scott Bessent, secretario del Tesoro de Estados Unidos, organizó una reunión con directivos bancarios para analizar las posibles consecuencias del hackeo con IA para sus negocios. Los reguladores financieros británicos organizaron una reunión similar unos días después. Sin embargo, los propios investigadores de seguridad se muestran cautelosamente optimistas. “A medio plazo, creo que esto será un caos”, afirma Bruce Schneier, experto estadounidense en seguridad informática. “Pero a largo plazo, creo que resultará beneficioso para los defensores”.
Dado que Anthropic solo ha publicado información limitada sobre Mythos, es difícil determinar hasta qué punto el nuevo modelo es realmente revolucionario en lugar de evolutivo (en internet se está generando un intenso debate). Las pruebas realizadas por el AI Security Institute, una agencia gubernamental británica, revelaron que Mythos obtuvo resultados muy similares a los de otros modelos en pruebas de ciberseguridad relativamente sencillas, pero se destacó notablemente en una prueba más avanzada que requiere que el modelo complete decenas de pasos antes de tomar el control de una máquina objetivo.
El principal objetivo de los investigadores de Anthropic era analizar la capacidad de Mythos para descubrir vulnerabilidades que los hackers pudieran usar para atacar o tomar el control de otros ordenadores. Buscaban específicamente vulnerabilidades nunca antes detectadas (conocidas como “de día cero”). Encontrarlas demostraría que el modelo realizaba un trabajo innovador y no se limitaba a reproducir vulnerabilidades ya conocidas en sus datos de entrenamiento.
Las vulnerabilidades de día cero acechan por todas partes, afirma Jeff Williams, cofundador de Contrast Security, una empresa de software, y de la Open Worldwide Application Security Project Foundation, una organización sin ánimo de lucro dedicada a mejorar la seguridad del software. Aunque se dice que Mythos ha encontrado “miles” de fallos de alta o crítica gravedad, Anthropic mantiene la mayoría en secreto hasta que puedan solucionarse. Sin embargo, la empresa sí reveló detalles de algunos, incluyendo uno en FreeBSD, un sistema operativo muy utilizado; otro en FFmpeg, una biblioteca de código de vídeo y audio; y un tercero —que aún no se ha corregido— en software vital para la computación en la nube.
Muchos de los errores reportados por Anthropic son, si no simples, al menos comprensibles. Son el tipo de cosas que un humano podría haber encontrado. También parecen ser el tipo de cosas que otros modelos de IA podrían haber encontrado. En una publicación de blog publicada poco después del anuncio de Anthropic, Stanislav Fort, fundador de AISLE, una empresa de ciberseguridad centrada en IA , describió el uso de varios modelos más pequeños y antiguos para encontrar el mismo error en FreeBSD. Citando la experiencia de su propia empresa con la búsqueda de errores mediante IA , el Dr. Fort considera que la frontera de la ciberseguridad con IA es “irregular”, sin que ningún modelo tenga una ventaja clara.
Todos coinciden en que el estado del arte avanza rápidamente. Hasta hace poco, la búsqueda de errores mediante IA era propensa a generar falsos positivos o resultados triviales. “Un cambio que he notado en los últimos meses es que muchos de estos informes de errores generados por IA son cada vez mejores”, afirma el Sr. Schneier. Una actualización de enero de OpenSSL, que ayuda a garantizar conexiones seguras entre sitios web, corrigió una docena de fallos de seguridad detectados por modelos de IA empleados por la empresa del Dr. Fort. En marzo, la propia Anthropic anunció que una versión anterior de Claude, anterior a Mythos, había detectado casi una quinta parte de todos los errores de alta gravedad corregidos en Firefox, un navegador web, en 2025.
A medida que el creciente poder de los modelos de IA facilita la detección de errores, afirma el Sr. Schneier, surge la pregunta de si los atacantes podrán explotarlos con mayor rapidez que los defensores. Aquí es donde entra en juego el Proyecto Glasswing. Anthropic anuncia la ampliación de Glasswing a otras 40 organizaciones de infraestructura digital para que puedan utilizar Mythos y reforzar el software del que depende internet. Anthropic espera que, al brindarles acceso ahora, antes de que modelos igualmente potentes estén ampliamente disponibles, les dé tiempo suficiente para encontrar y corregir la mayor cantidad de errores posible.
Todos los investigadores consultados por The Economist opinaron que, a largo plazo, el hackeo con IA probablemente beneficiaría más a los defensores que a los atacantes, al permitir a las empresas revisar su software con mayor profundidad antes de su publicación. Sin embargo, existen muchas preocupaciones a corto plazo. Para empezar, la verificación mediante IA no es barata: Anthropic afirma que uno de los errores que encontró le costó al laboratorio de IA casi 20.000 dólares en tokens. Para software como Linux, una familia de sistemas operativos ampliamente utilizados que son mantenidos, al menos en parte, por voluntarios, ese sería un precio muy elevado. Además, gran parte del código que circula por el mundo —que se ejecuta en routers domésticos, dispositivos inteligentes como televisores o refrigeradores y maquinaria industrial— no tiene ningún tipo de mantenimiento. En tales casos, los atacantes podrían aprovecharse de la situación.
Comentarios