Mythos, la IA que Anthropic ocultó al mundo, fue infiltrada
- hace 27 minutos
- 2 Min. de lectura
Claude Mythos detecta fallos ocultos durante décadas, pero Anthropic prefirió mantenerlo fuera del alcance público. Ahora un grupo de usuarios no autorizados logró acceder al modelo más reservado de la empresa.
Un informe periodístico pone en entredicho las medidas de seguridad en torno al nuevo modelo de inteligencia artificial (IA) de la empresa Anthropic, que destaca de manera extraordinaria en la detección de vulnerabilidades en software.
Según Bloomberg, un pequeño número de personas no autorizadas con conocimiento de los sistemas de Anthropic habría conseguido acceder al modelo, denominado Claude Mythos Preview. Un portavoz de Anthropic declaró a varios medios especializados que la empresa está investigando la denuncia.
Claude Mythos: un modelo de IA que nadie más tiene
Según la propia Anthropic, Mythos logró detectar brechas de seguridad en distintos programas, algunas de ellas ocultas durante décadas.
"Las vulnerabilidades que ha detectado han logrado, en algunos casos, eludir décadas de revisiones humanas y millones de pruebas de seguridad automatizadas", señaló la compañía en un comunicado.
En manos equivocadas, este modelo de IA podría dar lugar al desarrollo de peligrosas armas cibernéticas. Anthropic no tiene planes de publicar Mythos y, por ahora, concede acceso únicamente a empresas y organizaciones seleccionadas para que puedan cerrar vulnerabilidades en sus propios sistemas. Entre ellas figuran Amazon, Apple, Google, Microsoft, Nvidia, CrowdStrike, JPMorgan Chase, Cisco, Broadcom, Palo Alto Networks y la Linux Foundation.
Por ejemplo, los desarrolladores del navegador web Firefox anunciaron recientemente que, gracias a Mythos, lograron corregir 271 fallos de seguridad.
Cómo ocurrió el acceso no autorizado
De acuerdo con Bloomberg, entre los usuarios no autorizados había un empleado de un proveedor de servicios externo de Anthropic con acceso a los sistemas de la empresa de IA.
Los usuarios no autorizados forman parte de un foro privado en línea y, por el momento, no han conseguido hacerse con el control del modelo. También les facilitó el acceso el conocimiento de cómo Anthropic había almacenado modelos anteriores. La compañía comunicó a Bloomberg que, hasta ahora, no dispone de indicios de que haya habido acceso al modelo fuera de los sistemas del proveedor externo.
La IA y los riesgos de ciberseguridad para el sector financiero
El presidente del Bundesbank, Joachim Nagel, había advertido apenas el martes sobre los considerables riesgos que el uso de la inteligencia artificial supone para el sector financiero. En un discurso pronunciado en Roma, señaló que esto conlleva riesgos cibernéticos nuevos y complejos, dado que los agentes de IA autónomos podrían exhibir comportamientos perjudiciales.
"La detección temprana y la contención de estos riesgos es de importancia decisiva para la estabilidad financiera, como lo pone de manifiesto el debate actual en torno a Mythos de Anthropic", afirmó Nagel. "Mythos es un modelo de IA que, al parecer, es capaz de identificar y explotar rápidamente vulnerabilidades de seguridad en el software de instituciones financieras".
En ese sentido, este modelo de IA parece ser un arma de doble filo, ya que podría utilizarse no solo para mejorar los sistemas de seguridad digital, sino también para explotar sus vulnerabilidades con fines maliciosos.
Comentarios