Anthropic anunció el martes que su modelo de inteligencia artificial, aún por lanzar, llamado Claude Mythos, ha demostrado ser sumamente hábil para detectar vulnerabilidades en el software. Mythos ha puesto al descubierto miles de vulnerabilidades en aplicaciones de uso común para las que no existe ningún parche o solución, lo que ha llevado a esta empresa emergente de IA con sede en San Francisco a formar una alianza con especialistas en ciberseguridad para reforzar las defensas contra los ataques informáticos.
“Se prevé que las capacidades de los modelos de IA más avanzados mejoren sustancialmente en los próximos meses”, declaró Anthropic.
“Para que la ciberseguridad pueda mantenerse a la vanguardia, debemos actuar ahora”.
Los avances en las capacidades de los modelos de IA han generado preocupación por la posibilidad de que los piratas informáticos utilicen estas herramientas para descifrar contraseñas o romper el cifrado destinado a proteger los datos. La vulnerabilidad más antigua descubierta por Mythos data de hace 27 años, y ninguna fue aparentemente detectada por sus creadores antes de ser identificada por el modelo de IA, según Anthropic. Mythos es la última generación de la familia de inteligencia artificial Claude de Anthropic, y una reciente filtración de parte de su código llevó a la empresa emergente a publicar una entrada en su blog advirtiendo que planteaba riesgos de ciberseguridad sin precedentes.
“Las vulnerabilidades que encuentra suelen ser sutiles y difíciles de detectar”, declaró Anthropic durante una reunión informativa el martes. Como ejemplo, mencionó que Mythos descubrió un fallo previamente inadvertido en un software de vídeo que había sido probado más de 5 millones de veces por sus creadores.
Como medida de precaución, Anthropic ha compartido una versión de Mythos con las empresas de ciberseguridad CrowdStrike y Palo Alto Networks, así como con Amazon, Apple y Microsoft en un proyecto que ha denominado “Glasswing”. Los gigantes de las redes Cisco y Broadcom participan en el proyecto, junto con la Fundación Linux, que promueve el sistema operativo Linux, gratuito y de código abierto. Se dice que aproximadamente 40 organizaciones involucradas en el diseño, mantenimiento u operación de sistemas informáticos se han unido a Glasswing.
Según Anthropic, que está proporcionando recursos informáticos para la misión por un valor aproximado de 100 millones de dólares, los socios del proyecto compartirán sus hallazgos sobre el proyecto Mythos. Según su creador, Mythos fue diseñado como un modelo de IA de propósito general, y no como un buscador de vulnerabilidades de software.
Anthropic ha declarado que ha mantenido conversaciones con el gobierno estadounidense en relación con Mythos, a pesar del decreto emitido por la Casa Blanca en febrero para rescindir todos los contratos con la empresa emergente. Un juez federal suspendió dicha directiva mientras Anthropic tramita su recurso legal ante los tribunales.
Fuente: Tech Xplore.
