Anthropic arma un escudo ia contra ciberataques: ¿es suficiente?
La carrera armamentística en inteligencia artificial ha dado un giro inesperado. Anthropic, la startup fundada por ex empleados de OpenAI, ha creado un programa secreto, Proyecto Glasswing, para anticiparse a los ataques cibernéticos que podrían desatar modelos de IA más avanzados. El objetivo: preparar a las grandes tecnológicas para un futuro donde el código está en constante amenaza.
Un pacto de defensores ante la creciente amenaza
Anthropic, en colaboración con gigantes como Amazon, Apple, Microsoft y Cisco, ha puesto a disposición un modelo de IA inédito, llamado Mythos, para que estas empresas puedan detectar vulnerabilidades en sus propios sistemas. No se trata de una iniciativa altruista; la creciente sofisticación de los ciberataques, impulsados por la propia IA, ha encendido las alarmas en Silicon Valley. El temor es que delincuentes y estados patrocinadores utilicen modelos de IA más potentes para encontrar fallos en el código y burlar las defensas.
OpenAI, el principal competidor de Anthropic, ya ha expresado preocupaciones similares y ha lanzado un programa piloto para dar acceso a sus herramientas a los equipos de seguridad. Newton Cheng, líder del equipo de ciberseguridad de Frontier Red Team de Anthropic, lo dejó claro: “Este no es solo un problema de Anthropic. Es un problema que afecta a toda la industria”.
Mythos, un hallazgo sorprendente, ha demostrado ser excepcionalmente eficaz en la detección de fallos. En pruebas recientes, identificó una vulnerabilidad de seguridad que data de hace 27 años en software crítico de internet. Pero la cifra que realmente asombra es la siguiente: Mythos descubrió una falla de seguridad de 16 años en una línea de código de un videojuego popular, un fallo que las herramientas de prueba automatizadas habían ignorado tras analizar más de cinco millones de líneas de código. La IA, en este caso, superó ampliamente las capacidades humanas y automatizadas.
La existencia de Mythos se reveló tras una filtración de un borrador de entrada de blog, lo que ha añadido una capa de complejidad a la situación. Dianne Penn, jefa de gestión de productos para la investigación en Anthropic, ha garantizado que existen medidas de seguridad para proteger el acceso al modelo, aunque se ha negado a revelar detalles.
Anthropic ha estado en conversaciones con funcionarios estadounidenses sobre las capacidades de seguridad de Mythos, colaborando con la Agencia de Seguridad de Infraestructura y Ciberseguridad y el Instituto Nacional de Estándares y Tecnología. Aunque Mythos es un modelo de propósito general, no diseñado específicamente para la ciberseguridad, su capacidad para desenterrar fallos de seguridad es alarmante y, a la vez, esperanzadora.
Lo que nadie cuenta es la velocidad a la que se produce esta evolución. El riesgo no es teórico; la capacidad de la IA para explotar vulnerabilidades ya está aquí. La iniciativa Glasswing, aunque a puerta cerrada, es un primer paso crucial para una industria tecnológica que se enfrenta a un enemigo cada vez más inteligente.
La colaboración entre Anthropic y las grandes tecnológicas, aunque envuelta en secreto, es una admisión tácita de la gravedad del problema. El futuro de la ciberseguridad dependerá de la capacidad de estas empresas para adaptarse y anticiparse a las amenazas que la propia inteligencia artificial está generando. Y, de momento, Mythos ha demostrado que la IA puede ser tanto el problema como la solución.
¿Será suficiente un escudo secreto?
Si bien el Proyecto Glasswing ofrece una ventaja inicial, la batalla contra los ciberataques impulsados por IA está lejos de estar ganada. La protección del código, la inversión en ciberseguridad y la colaboración entre sectores público y privado serán cruciales para defenderse de esta nueva ola de amenazas. La cifra de 5 millones de líneas de código analizadas sin detectar la vulnerabilidad es un recordatorio brutal de la necesidad de innovar y de confiar en las herramientas más avanzadas, incluso si son creadas por la misma Tecnología que amenaza nuestra seguridad.