Anthropic anunci\u00f3 el martes que su modelo de inteligencia artificial, a\u00fan por lanzar, llamado Claude Mythos, ha demostrado ser sumamente h\u00e1bil para detectar vulnerabilidades en el software. Mythos ha puesto al descubierto miles de vulnerabilidades en aplicaciones de uso com\u00fan para las que no existe ning\u00fan parche o soluci\u00f3n, lo que ha llevado a esta empresa emergente de IA con sede en San Francisco a formar una alianza con especialistas en ciberseguridad para reforzar las defensas contra los ataques inform\u00e1ticos.<\/p>\n\n\n\n
“Se prev\u00e9 que las capacidades de los modelos de IA m\u00e1s avanzados mejoren sustancialmente en los pr\u00f3ximos meses”, declar\u00f3 Anthropic.<\/p>\n\n\n\n
“Para que la ciberseguridad pueda mantenerse a la vanguardia, debemos actuar ahora”.<\/p>\n\n\n\n
Los avances en las capacidades de los modelos de IA han generado preocupaci\u00f3n por la posibilidad de que los piratas inform\u00e1ticos utilicen estas herramientas para descifrar contrase\u00f1as o romper el cifrado destinado a proteger los datos. La vulnerabilidad m\u00e1s antigua descubierta por Mythos data de hace 27 a\u00f1os, y ninguna fue aparentemente detectada por sus creadores antes de ser identificada por el modelo de IA, seg\u00fan Anthropic. Mythos es la \u00faltima generaci\u00f3n de la familia de inteligencia artificial Claude de Anthropic, y una reciente filtraci\u00f3n de parte de su c\u00f3digo llev\u00f3 a la empresa emergente a publicar una entrada en su blog advirtiendo que planteaba riesgos de ciberseguridad sin precedentes.<\/p>\n\n\n\n
“Las vulnerabilidades que encuentra suelen ser sutiles y dif\u00edciles de detectar”, declar\u00f3 Anthropic durante una reuni\u00f3n informativa el martes. Como ejemplo, mencion\u00f3 que Mythos descubri\u00f3 un fallo previamente inadvertido en un software de v\u00eddeo que hab\u00eda sido probado m\u00e1s de 5 millones de veces por sus creadores.<\/p>\n\n\n\n
Como medida de precauci\u00f3n, Anthropic ha compartido una versi\u00f3n de Mythos con las empresas de ciberseguridad CrowdStrike y Palo Alto Networks, as\u00ed como con Amazon, Apple y Microsoft en un proyecto que ha denominado “Glasswing”. Los gigantes de las redes Cisco y Broadcom participan en el proyecto, junto con la Fundaci\u00f3n Linux, que promueve el sistema operativo Linux, gratuito y de c\u00f3digo abierto. Se dice que aproximadamente 40 organizaciones involucradas en el dise\u00f1o, mantenimiento u operaci\u00f3n de sistemas inform\u00e1ticos se han unido a Glasswing.<\/p>\n\n\n\n
Seg\u00fan Anthropic, que est\u00e1 proporcionando recursos inform\u00e1ticos para la misi\u00f3n por un valor aproximado de 100 millones de d\u00f3lares, los socios del proyecto compartir\u00e1n sus hallazgos sobre el proyecto Mythos. Seg\u00fan su creador, Mythos fue dise\u00f1ado como un modelo de IA de prop\u00f3sito general, y no como un buscador de vulnerabilidades de software.<\/p>\n\n\n\n
Anthropic ha declarado que ha mantenido conversaciones con el gobierno estadounidense en relaci\u00f3n con Mythos, a pesar del decreto emitido por la Casa Blanca en febrero para rescindir todos los contratos con la empresa emergente. Un juez federal suspendi\u00f3 dicha directiva mientras Anthropic tramita su recurso legal ante los tribunales.<\/p>\n\n\n\n