{"id":103609,"date":"2026-08-07T12:38:57","date_gmt":"2026-08-07T17:38:57","guid":{"rendered":"https:\/\/einsteresante.com\/?p=103609"},"modified":"2026-08-07T12:39:00","modified_gmt":"2026-08-07T17:39:00","slug":"meta-asegura-que-su-modelo-de-ia-hackeo-a-otra-empresa-lo-que-aumenta-las-preocupaciones-frente-a-bots-que-hackean-por-su-cuenta","status":"publish","type":"post","link":"https:\/\/einsteresante.com\/index.php\/2026\/08\/07\/meta-asegura-que-su-modelo-de-ia-hackeo-a-otra-empresa-lo-que-aumenta-las-preocupaciones-frente-a-bots-que-hackean-por-su-cuenta\/","title":{"rendered":"Meta asegura que su modelo de IA hacke\u00f3 a otra empresa, lo que aumenta las preocupaciones frente a bots que hackean por su cuenta"},"content":{"rendered":"\n

Meta anunci\u00f3 el jueves que uno de sus modelos de inteligencia artificial accedi\u00f3 a internet por su cuenta y hacke\u00f3 a otra empresa, en lo que supone la \u00faltima de una serie de revelaciones sobre\u00a0modelos de IA que se descontrolan<\/a>. En las \u00faltimas semanas,\u00a0OpenAI<\/a>\u00a0y Anthropic tambi\u00e9n han descrito casos en los que los modelos de IA van m\u00e1s all\u00e1 de las instrucciones humanas para acceder a la web y encontrar maneras de eludir la seguridad digital de otras empresas.<\/p>\n\n\n\n

Meta afirm\u00f3 en un comunicado que una “configuraci\u00f3n err\u00f3nea” durante las pruebas de ciberseguridad<\/a> realizadas por Irregular, una empresa independiente contratada por Meta, permiti\u00f3 inadvertidamente que uno de sus modelos accediera a Internet.<\/p>\n\n\n\n

“Posteriormente, el modelo\u00a0explot\u00f3 una vulnerabilidad de seguridad<\/a>\u00a0en un servicio de terceros, de forma similar a casos previamente reportados en otras compa\u00f1\u00edas”, declar\u00f3 la empresa. Meta indic\u00f3 que est\u00e1 investigando el incidente y publicar\u00e1 un informe una vez finalizada la investigaci\u00f3n.<\/p>\n\n\n\n

Esta revelaci\u00f3n ha aumentado la preocupaci\u00f3n sobre la capacidad de los modelos de IA para actuar de forma aut\u00f3noma. Por otra parte, esta semana, el Instituto de Seguridad de la IA del Reino Unido anunci\u00f3 que hab\u00eda detectado “comportamiento no autorizado de agentes” durante pruebas cibern\u00e9ticas. En un caso, un agente cre\u00f3\u00a0identidades falsas en l\u00ednea<\/a>\u00a0para presionar a una persona a que aprobara el uso de c\u00f3digo malicioso.<\/p>\n\n\n\n

“Tras la investigaci\u00f3n, descubrimos que algunos de los agentes sometidos a pruebas hab\u00edan participado en actividades continuas y potencialmente da\u00f1inas dirigidas a personas y organizaciones reales”, declar\u00f3 AISI el martes. “Declaramos un incidente de seguridad y, aproximadamente una hora despu\u00e9s de su detecci\u00f3n, lo contuvimos e iniciamos una investigaci\u00f3n exhaustiva”.<\/p>\n\n\n\n

Durante las pruebas realizadas por la agencia, los modelos de Anthropic y OpenAI llevaron a cabo “acciones aut\u00f3nomas y no autorizadas” en internet. Seg\u00fan la agencia, se hab\u00edan desactivado algunas medidas de seguridad para prevenir el mal uso.<\/p>\n\n\n\n

“Como es habitual en nuestras pruebas de ciberseguridad, permitimos intencionadamente el acceso a internet y desactivamos deliberadamente los clasificadores cibern\u00e9ticos del proveedor del modelo; estas condiciones no reflejan c\u00f3mo se ponen a disposici\u00f3n del p\u00fablico los modelos de vanguardia”, declar\u00f3 AISI. “Hacemos esto para evaluar de la mejor manera posible la capacidad m\u00e1xima de los modelos”.<\/p>\n\n\n\n

Anthropic afirm\u00f3 estar “agradecida” por el trabajo de AISI y a\u00f1adi\u00f3 que este subraya la necesidad de un debate m\u00e1s amplio sobre c\u00f3mo evaluar de forma segura a los agentes de IA a medida que aumentan sus capacidades.<\/p>\n\n\n\n

OpenAI afirm\u00f3 que los incidentes de AISI se produjeron “en entornos de prueba con medidas de seguridad reducidas, en condiciones que no reflejan el uso habitual”. A\u00f1adi\u00f3 que seguir\u00e1 colaborando con otras empresas del sector para “fortalecer las pr\u00e1cticas compartidas para realizar evaluaciones de forma segura a medida que los modelos se vuelven m\u00e1s capaces”.<\/p>\n\n\n\n

OpenAI, la primera empresa en revelar un ataque inform\u00e1tico a finales del mes pasado, declar\u00f3 que hab\u00eda encargado a los modelos de IA implicados la tarea de realizar “explotaciones avanzadas mediante rutas de ataque complejas” para poner a prueba sus capacidades cibern\u00e9ticas, pero la tecnolog\u00eda fue m\u00e1s all\u00e1 de lo esperado. Al parecer, decidi\u00f3 por su cuenta atacar Hugging Face, un conocido centro de desarrollo y mercado de IA, para obtener la informaci\u00f3n que necesitaba para llevar a cabo una tarea.<\/p>\n\n\n\n

Un portavoz de Irregular, la empresa de seguridad de IA con sede en San Francisco, dijo que el incidente de Meta tiene que ver con un problema en el entorno de pruebas que fue revelado la semana pasada por Anthropic.<\/p>\n\n\n\n

Irregular ha declarado que est\u00e1 redactando un documento para compartir las “mejores pr\u00e1cticas de contenci\u00f3n” con el fin de prevenir incidentes similares en el futuro y realizar pruebas cibern\u00e9ticas de forma segura.<\/p>\n\n\n\n

Fuente: Medical Xpress<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Meta anunci\u00f3 el jueves que uno de sus modelos de inteligencia artificial accedi\u00f3 a internet por su cuenta y hacke\u00f3 a otra empresa, en lo que supone la \u00faltima de una serie de revelaciones sobre\u00a0modelos de IA que se descontrolan. En las \u00faltimas semanas,\u00a0OpenAI\u00a0y Anthropic tambi\u00e9n han descrito casos en los que los modelos de […]<\/p>\n","protected":false},"author":1,"featured_media":103614,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14],"tags":[],"class_list":["post-103609","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/103609","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/comments?post=103609"}],"version-history":[{"count":4,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/103609\/revisions"}],"predecessor-version":[{"id":103615,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/103609\/revisions\/103615"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/media\/103614"}],"wp:attachment":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/media?parent=103609"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/categories?post=103609"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/tags?post=103609"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}