José de la Cruz (TrendAI), sobre cómo la IA está cambiando el mercado laboral: "Las compañías ya no llegaban a tiempo para poder instalar todas las actualizaciones. Ahora mismo se les ha venido encima una avalancha que es completamente inabordable"
Tener en las manos el modelo de IA más avanzado del planeta en ciberseguridad es "una gran responsabilidad". Así lo ha definido José de la Cruz, director técnico de TrendAI, una de las pocas empresas del mundo que ha podido probar Claude Mythos, la inteligencia artificial de Anthropic especializada en hacking. En una conversación en el programa 'Lo que viene' de COPE, presentado por José Ángel Cuadrado y con la participación de Javier Castilla, responsable de IA de Ábside Media, De la Cruz ha desgranado las claves de un modelo que ha puesto a temblar a gobiernos y empresas antes de su repentino apagón mundial. A diferencia de los modelos de IA generativa a los que el público está acostumbrado, Claude Mythos es una herramienta con un "potencial enorme" y sin restricciones. "Este modelo no tiene guardarraíles, es decir, no tiene límites en lo que pueda hacer y puede plantear", ha explicado el director técnico de TrendAI. Su peligrosidad, aclara, reside en una doble capacidad: "No solamente identifica la vulnerabilidad, sino que también elabora el mecanismo de ataque a la misma". El salto cualitativo es abismal. Según De la Cruz, mientras compañías como Mozilla descubrían unas 10 o 12 vulnerabilidades con modelos anteriores como Opus, con Mythos la cifra se disparó a "ciento y pico". Esta capacidad permite acelerar un trabajo de horas o días a "cuestión de minutos o segundos". Las empresas expertas como TrendAI no interactúan con una web, sino a través de una API (interfaz de programación) que permite integrar y automatizar el análisis de software en busca de fallos. TrendAI, con una trayectoria de 21 años liderando el descubrimiento de vulnerabilidades con su programa Zero Day Initiative, fue contactada por Anthropic para formar parte del selecto club 'Project Glasswing', que daba acceso a Mythos. Sin embargo, la experiencia fue fugaz. "Ha sido visto y no visto", ha lamentado De la Cruz, explicando que el acceso se cortó apenas unos días después de obtenerlo la semana pasada. La causa ha sido la decisión del Gobierno de Estados Unidos de prohibir el acceso a Fable 5 y Mythos 5, las versiones más restringidas de los modelos, a usuarios no estadounidenses. Ante la incapacidad de controlar quién accedía, Anthropic optó por un apagón total. Para De la Cruz, la explicación de fondo es clara: "Mi opinión personal en esto es que realmente son motivos políticos". El experto cree que Washington ha aplicado una ley de exportaciones esgrimiendo "motivos de seguridad nacional" para beneficiar a compañías americanas o por miedo a que la herramienta caiga en manos ajenas, como ya ocurrió con el caso de WannaCry y las herramientas robadas a la NSA. La llegada de estas tecnologías, según el directivo, plantea dos grandes problemas. El primero, el riesgo de que caiga en "manos ajenas", subrayando que "no es el único modelo que hay que hace esto". El segundo es el colapso de las empresas: "Las compañías a día de hoy ya no llegaban a tiempo para poder instalar todas las actualizaciones. Ahora mismo se les ha venido encima una avalancha que es completamente inabordable". Pese a la potencia de la IA, el factor humano no solo no desaparecerá, sino que se volverá más crucial. De la Cruz descarta que la IA vaya a destruir empleo en el sector, sino que lo transformará. Los profesionales pasarán a "aportar otros trabajos de más valor", especializándose en la verificación de los resultados de la IA. Es el concepto del "humano dentro del proceso", indispensable para confirmar que los hallazgos son legítimos, ya que una IA "no te va contestar siempre lo mismo". El propio funcionamiento de internet, construido "capa sobre capa" desde los años 70, lo convierte en un terreno fértil para nuevos fallos. Por ello, cuando se encuentra una vulnerabilidad, TrendAI realiza un "descubrimiento responsable", contactando al fabricante para que la solucione. En definitiva, aunque la IA sea capaz de parchear sus propios agujeros, De la Cruz es escéptico sobre un futuro sin brechas de seguridad: "La historia me dice que siempre va a haber manera de encontrarlas".
