Escucha la entrevista a José de la Cruz, director técnico de TrenAI, sobre el 'veto' a Claude Myhtos
Tener en las manos el modelo de IA más avanzado del planeta en ciberseguridad es "una gran responsabilidad".
Así lo ha definido José de la Cruz, director técnico de TrendAI, una de las pocas empresas del mundo que ha podido probar Claude Mythos, la inteligencia artificial de Anthropic especializada en hacking.
En una conversación en el programa 'Lo que viene' de COPE, presentado por José Ángel Cuadrado y con la participación de Javier Castilla, responsable de IA de Ábside Media, De la Cruz ha desgranado las claves de un modelo que ha puesto a temblar a gobiernos y empresas antes de su repentino apagón mundial.
A diferencia de los modelos de IA generativa a los que el público está acostumbrado, Claude Mythos es una herramienta con un "potencial enorme" y sin restricciones. "Este modelo no tiene guardarraíles, es decir, no tiene límites en lo que pueda hacer y puede plantear", ha explicado el director técnico de TrendAI.
Su peligrosidad, aclara, reside en una doble capacidad: "No solamente identifica la vulnerabilidad, sino que también elabora el mecanismo de ataque a la misma".
Según De la Cruz, mientras compañías como Mozilla descubrían unas 10 o 12 vulnerabilidades con modelos anteriores como Opus, con Mythos la cifra se disparó a "ciento y pico". Esta capacidad permite acelerar un trabajo de horas o días a "cuestión de minutos o segundos".
Las empresas expertas como TrendAI no interactúan con una web, sino a través de una API (interfaz de programación) que permite integrar y automatizar el análisis de software en busca de fallos.
TrendAI, con una trayectoria de 21 años liderando el descubrimiento de vulnerabilidades con su programa Zero Day Initiative, fue contactada por Anthropic para formar parte del selecto club 'Project Glasswing', que daba acceso a Mythos.
Sin embargo, la experiencia fue fugaz. "Ha sido visto y no visto", ha lamentado De la Cruz, explicando que el acceso se cortó apenas unos días después de obtenerlo la semana pasada.
La causa ha sido la decisión del Gobierno de Estados Unidos de prohibir el acceso a Fable 5 y Mythos 5, las versiones más restringidas de los modelos, a usuarios no estadounidenses.
Ante la incapacidad de controlar quién accedía, Anthropic optó por un apagón total.
Para De la Cruz, la explicación de fondo es clara: "Mi opinión personal en esto es que realmente son motivos políticos".
El experto cree que Washington ha aplicado una ley de exportaciones esgrimiendo "motivos de seguridad nacional" para beneficiar a compañías americanas o por miedo a que la herramienta caiga en manos ajenas, como ya ocurrió con el caso de WannaCry y las herramientas robadas a la NSA.
La llegada de estas tecnologías, según el directivo, plantea dos grandes problemas.
