Tus conversaciones con asistentes de IA como ChatGPT y Google Gemini podr\u00edan no ser tan privadas como crees. Microsoft ha revelado una grave vulnerabilidad en los grandes modelos de lenguaje (LLM) que impulsan estos servicios de IA, lo que podr\u00eda exponer el tema de tus conversaciones. Los investigadores denominaron a esta vulnerabilidad “Whisper Leak” y descubrieron que afecta a casi todos los modelos que probaron.<\/p>\n\n\n\n
Cuando conversas con asistentes de IA integrados en los principales buscadores o aplicaciones, la informaci\u00f3n est\u00e1 protegida por TLS (Seguridad de la Capa de Transporte), el mismo cifrado<\/a> que se usa para la banca en l\u00ednea. Estas conexiones seguras impiden que posibles intrusos lean lo que escribes. Sin embargo, Microsoft descubri\u00f3 que los metadatos (c\u00f3mo viajan tus mensajes por internet) siguen siendo visibles. WhisperLeak no vulnera el cifrado, pero se aprovecha de lo que este no puede ocultar.<\/p>\n\n\n\n En una investigaci\u00f3n\u00a0publicada<\/a>\u00a0en el servidor de preimpresi\u00f3n\u00a0arXiv, investigadores de Microsoft explican c\u00f3mo analizaron 28 LLM para detectar esta vulnerabilidad. Primero, crearon dos conjuntos de preguntas. Uno consist\u00eda en una colecci\u00f3n de diversas maneras de preguntar sobre un \u00fanico tema delicado, como\u00a0el blanqueo de capitales<\/a>, y el otro conjunto conten\u00eda miles de consultas aleatorias y cotidianas. Posteriormente, registraron de forma secreta el ritmo de datos de cada red. Esto incluye el tama\u00f1o de los paquetes (fragmentos de datos que se env\u00edan) y la temporizaci\u00f3n (el retardo entre el env\u00edo de un paquete y su llegada).<\/p>\n\n\n\n A continuaci\u00f3n, entrenaron un programa de IA para distinguir los temas sensibles de las consultas cotidianas bas\u00e1ndose \u00fanicamente en el ritmo de los datos. Si la IA lograba identificar los temas sensibles sin leer el texto cifrado, se confirmar\u00eda un problema de privacidad.<\/p>\n\n\n\n En la mayor\u00eda de los modelos, la IA adivin\u00f3 correctamente el tema de conversaci\u00f3n con una precisi\u00f3n superior al 98%. El ataque tambi\u00e9n logr\u00f3 identificar conversaciones delicadas en el 100% de los casos, incluso cuando estas se presentaban solo en 1 de cada 10.000 conversaciones. Los investigadores probaron tres m\u00e9todos distintos de defensa contra los ataques, pero ninguno logr\u00f3 detenerlos por completo.<\/p>\n\n\n\n Seg\u00fan el equipo, el problema no reside en el cifrado en s\u00ed, sino en c\u00f3mo se transmiten las respuestas. “No se trata de una vulnerabilidad criptogr\u00e1fica en TLS, sino de la explotaci\u00f3n de los metadatos que TLS revela inherentemente sobre la estructura y la sincronizaci\u00f3n del tr\u00e1fico cifrado”.<\/p>\n\n\n\n Dada la gravedad de la filtraci\u00f3n y la facilidad con que se puede ejecutar el ataque, los investigadores afirman claramente en su art\u00edculo que la industria debe proteger los sistemas futuros. “Nuestros hallazgos subrayan la necesidad de que los proveedores de gesti\u00f3n del aprendizaje autom\u00e1tico aborden la fuga de metadatos a medida que los sistemas de IA manejan informaci\u00f3n cada vez m\u00e1s sensible”.<\/p>\n\n\n\nPrueba de LLM<\/h2>\n\n\n\n
Deteniendo la fuga<\/h2>\n\n\n\n