El director ejecutivo de Hugging Face declaró el viernes que los desarrolladores deberían rendir cuentas si sus modelos de IA se descontrolan, después de que su empresa emergente sufriera un reciente ciberataque por parte del software autónomo OpenAI. A mediados de julio, dos modelos de OpenAI escaparon de su entorno de pruebas confinado y obtuvieron acceso a Internet, donde encontraron y atacaron Hugging Face, un sitio que los desarrolladores de IA utilizan para almacenar y compartir código.
Al parecer, OpenAI sólo se percató del incidente una vez que este ya había terminado, mientras que Hugging Face logró contener la intrusión gracias a un modelo chino. En declaraciones a CNN el viernes, Clement Delangue, director ejecutivo de Hugging Face, descartó la posibilidad de emprender acciones legales contra OpenAI.
“Somos una pequeña empresa emergente con 200 empleados, y no necesariamente contamos con los recursos legales ni la voluntad de dedicar mucho tiempo a cuestiones legales”, dijo Delangue.
Sin embargo, los ciberataques son “ilegales”, continuó, y debería haber una manera de “responsabilizar a las empresas que cometen errores que conducen a ello”.
Según expertos legales, las víctimas podrían demandar a las empresas de IA por las acciones autónomas de sus modelos, alegando potencialmente negligencia en el diseño del producto o mala conducta deliberada si se ignoran los riesgos conocidos.
“No queremos que estos ciberataques contra otras empresas se normalicen”, dijo Delangu.
Anthropic reveló el jueves que tres de sus modelos sometidos a pruebas también habían obtenido recientemente acceso no autorizado a múltiples organizaciones.
A pesar del incidente, OpenAI ha sido un buen socio, dijo Delangue, y las dos empresas están “manteniendo buenas conversaciones”.
En una publicación en redes sociales durante el fin de semana, Delangue dijo que solicitó “transparencia radical” a OpenAI, además de un compromiso de 100 millones de dólares en capacidad de procesamiento “para ayudar a la comunidad de Hugging Face a construir poderosas defensas cibernéticas”.
“Este es el primer incidente de ciberseguridad que me ha provocado una reacción visceral”, reconoció Sam Altman, CEO de OpenAI, en una entrevista para un podcast publicada esta semana. “Y me sorprende un poco que no haya tenido el mismo efecto en más gente”.
Fuente: Tech Xplore.