La inteligencia artificial amenaza la ciberseguridad a una velocidad nunca vista
- hace 2 horas
- 4 min de lectura
Una coronel de la OTAN advierte del paso “aterrador” hacia los drones autónomos que deciden estrategias y objetivos sin necesidad de humanos
La inteligencia artificial está transformando las ciberamenazas de una forma nunca vista en solo unos pocos meses. No se trata solo de que han aparecido modelos de inteligencia artificial capaces de encontrar cientos de fallos en los navegadores y sistemas operativos. En los últimos meses, el proyecto OpenClaw ha demostrado que los agentes de IA pueden actuar sin necesidad de intervención humana y de forma persistente, lo que los hace más peligrosos. La combinación de la capacidad de razonar con el acceso a privilegios de control de sistemas informáticos tiene alertados a los expertos mundiales.
Un agente de OpenClaw actúa a partir de habilidades ( skills ). Mediante estos complementos especializados puede hacer cosas que hacen las personas en su rutina diaria, como leer y responder correos, navegar por webs y rellenar formularios o programar reuniones, pero también actividades más peligrosas, como robar contraseñas, vaciar carteras de criptomonedas, instalar malware o encontrar vulnerabilidades en un sistema.
Según la compañía de ciberseguridad ESET, que hace unos días organizó la conferencia global de ciberseguridad ESET World en Berlín, en marzo pasado, se hallaron unos mil skills maliciosos entre 60.000 escaneados. Solo dos meses después, en el mes de mayo, el número de skills maliciosos era ya de 3.000 entre los 800.000 encontrados.
“Ya no hay una clara separación entre los ciberataques y los ataques físicos”, asegura una coronel de la OTAN
En la conferencia de ciberseguridad de Berlín, la coronel Mietta Groeneveld, directora del Centro de Excelencia de Mando y Control de la OTAN, advirtió que la inteligencia artificial permite un tipo de ataques coordinados en diferentes frentes que hacen difícil entender cómo funcionan. “Ya no hay una clara separación entre los ciberataques y los ataques físicos”, aseguró.
Groeneveld relató en Berlín que los drones, gracias a la IA, han pasado de ser máquinas teledirigidas a ser dispositivos voladores de ataque completamente autónomos. Para la militar de la OTAN, la nueva etapa con máquinas que deciden estrategias y objetivos sin intervención humana “es realmente un paso aterrador”. Para acabar de complicar el panorama, alertó la coronel, “estos drones se están volviendo muy baratos y serán capaces de alcanzar objetivos lejanos con gran precisión”.
El director de la agencia europea de ciberseguridad (Enisa), Hans de Vries, describió que “el mundo ha cambiado drásticamente en los últimos tres o cuatro meses”. Desde su punto de vista, “la llegada de la IA, especialmente la IA de vanguardia, los modelos que no solo detectan vulnerabilidades sutiles, sino que también encuentran formas de explotarlas, realmente ha cambiado el proceso”.
En la conferencia berlinesa fue un tema recurrente de debate el modelo de IA Claude Mythos de la compañía estadounidense Anthropic, que no ha llegado al público en general y solo se ha ofrecido a un puñado de grandes empresas y bancos de Estados Unidos porque es capaz de hallar vulnerabilidades que han pasado desapercibidas en navegadores de internet y sistemas operativos durante décadas. Otros modelos de inteligencia artificial pueden suponer el mismo tipo de amenaza, como GPT-5.5, de OpenAI.
El director de operaciones del Centro Nacional de Ciberseguridad del Reino Unido (NCSC), Paul Chichester, indicó un aspecto positivo de los nuevos modelos de IA como Mythos, que descubren los problemas que ahora están ocultos en las defensas cibernéticas, porque permitirán “aplicar correctamente la seguridad desde el diseño y de forma predeterminada”.
“Ahora –observó– ya no hay motivo para que ninguna empresa diga ‘no sabía nada de nuestro fallo, de nuestro actual remiendo o de la vulnerabilidad de nuestra aplicación’, porque en realidad se puede ver y solucionar en ese mismo momento”.
“En Europa lo estamos haciendo muy bien”
La coronel Groeneveld indicó que ahora, con la IA, hay que tener en cuenta otras cosas “por encima del campo de batalla táctico”. En el ámbito operativo, la OTAN es capaz de recopilar una gran cantidad de datos. Por ejemplo, en Ucrania existen unas 2.000 capas de datos que se integran en más de 100 sistemas de mando y control.En una guerra moderna, la detección temprana de las acciones del enemigo lleva a integrar la IA para tomar las mejores decisiones.“Ahora –comentó la militar– estamos ante el primer uso de herramientas de toma de decisiones que realmente te permiten planificar a más largo plazo”. Con este procedimiento, “ganar una batalla táctica no tiene nada que ver con ganar una guerra”.“Nuestros adversarios están empezando a utilizar el ciberespacio como su principal dominio de combate”, advirtió la militar. Y eso incluye la difusión de información manipulada.“Tened en cuenta –apuntó– que cuando oís todas esas malas noticias de que todo va mal, forma parte de esa creencia cognitiva que quieren inculcaros. La realidad es que, en realidad, en Europa lo estamos haciendo muy bien y somos capaces de reunir a mucha gente y establecer conexiones rápidas”.“Estos algoritmos –explicó– también permiten una especie de guerra narrativa en la que se puede usar la IA para, con la velocidad de la tecnología, cambiar la narrativa que se impulsará en Telegram, luego se extenderá a TikTok y llegará a los medios de comunicación convencionales”.Groeneveld indicó la necesidad de cierta automatización en los procesos de toma de decisiones, porque “si te atacan a la velocidad de una máquina, no puedes esperar a que todo el mundo se siente en una sala para tomar una decisión inteligente”.
Allie Mellon, analista principal del equipo de seguridad y riesgos de Forrester y exhacker, recordó en Berlín que la IA no tiene por ahora un alto grado de precisión y que usarla puede ser ineficiente en algunos casos.
“Se han publicado estudios que han demostrado que, en general, las acciones de respuesta han tardado más con la IA generativa que sin ella”, apuntó Mellen antes de señalar que, “nos guste o no, aunque no utilicemos bien la IA, los atacantes sí lo harán, ya que están utilizando actualmente la IA para superar sus limitaciones”.
La analista explicó que un grupo organizado de ciberatacantes “patrocinado por el Estado chino” está “experimentando con agentes de IA para automatizar tantos aspectos del ataque como sea posible” y “a gran velocidad ahora mismo”. “Estamos entrando en un mundo en el que el coste va a ser el nuevo filtro para las tecnologías y capacidades de IA que adoptemos una vez lleguemos allí”.
Comentarios