{"id":73676,"date":"2025-05-01T22:06:43","date_gmt":"2025-05-02T03:06:43","guid":{"rendered":"https:\/\/einsteresante.com\/?p=73676"},"modified":"2025-05-01T22:06:45","modified_gmt":"2025-05-02T03:06:45","slug":"dinamarca-podria-convertirse-en-el-primer-pais-en-prohibir-los-deepfakes","status":"publish","type":"post","link":"https:\/\/einsteresante.com\/index.php\/2025\/05\/01\/dinamarca-podria-convertirse-en-el-primer-pais-en-prohibir-los-deepfakes\/","title":{"rendered":"Dinamarca podr\u00eda convertirse en el primer pa\u00eds en prohibir los deepfakes"},"content":{"rendered":"\n

Primero fue Taylor Swift. Im\u00e1genes inventadas de la estrella del pop\u00a0inundaron las redes sociales<\/a>, vistas millones de veces antes de que las plataformas se apresuraran a contenerlas. Luego llegaron las\u00a0voces de los directores ejecutivos<\/a>, recreadas de forma tan convincente que se produjeron estafas de seis d\u00edgitos. Despu\u00e9s llegaron las estafas generalizadas,\u00a0cada vez m\u00e1s comunes<\/a>.<\/p>\n\n\n\n

Los deepfakes, falsificaciones generadas por IA que imitan rostros y voces con una precisi\u00f3n asombrosa, son un problema creciente. Dinamarca contraataca. El gobierno ha presentado una legislaci\u00f3n que har\u00eda ilegal publicar deepfakes que muestren a personas reales sin su consentimiento, una medida que podr\u00eda convertir al pa\u00eds en el primer pa\u00eds del mundo en implementar una prohibici\u00f3n total del contenido deepfake no autorizado.<\/p>\n\n\n\n

Una amenaza muy real<\/h2>\n\n\n\n

\u201cLa legislaci\u00f3n aqu\u00ed tiene como objetivo principal proteger la democracia y garantizar que no se puedan difundir videos deepfake<\/a> donde la gente dice cosas que jam\u00e1s so\u00f1ar\u00eda decir en la realidad\u201d, declar\u00f3 el ministro de Cultura de Dinamarca, Jakob Engel-Schmidt, durante un comunicado de prensa el 24 de abril.<\/p>\n\n\n\n

Seg\u00fan el ministro, la legislaci\u00f3n danesa actual, en particular la protecci\u00f3n de los derechos de autor, carece de la redacci\u00f3n necesaria para abordar c\u00f3mo la IA puede replicar la imagen de una persona. Esto ocurre actualmente en casi todos los pa\u00edses del mundo. La legislaci\u00f3n propuesta actualizar\u00eda la legislaci\u00f3n para otorgar a los ciudadanos derechos sobre su propio cuerpo, voz, rasgos faciales e im\u00e1genes.<\/p>\n\n\n\n

Esta es una medida oportuna, ya que\u00a0los deepfakes no son una preocupaci\u00f3n te\u00f3rica<\/a>. Y, para Dinamarca, son un golpe muy cercano. El a\u00f1o pasado, el ministro de Asuntos Exteriores, Lars L\u00f8kke Rasmussen, fue atacado mediante una videollamada deepfake. El rostro y la voz en pantalla pertenec\u00edan, supuestamente, a Moussa Faki, presidente de la Uni\u00f3n Africana. Pero se trataba de una suplantaci\u00f3n orquestada por un par de bromistas rusos.<\/p>\n\n\n\n

As\u00ed pues, la amenaza es muy real, y Dinamarca parece dispuesta a tomar medidas decisivas. La mayor\u00eda del Parlamento firm\u00f3 un acuerdo el pasado junio para restringir el uso de deepfakes en la comunicaci\u00f3n pol\u00edtica. Seg\u00fan el pacto, los partidos pol\u00edticos acordaron utilizar \u00fanicamente contenido manipulado por IA cuando est\u00e9 claramente etiquetado, y \u00fanicamente con el consentimiento de las personas representadas. La nueva ley nacional propuesta llevar\u00eda las cosas a\u00fan m\u00e1s lejos.<\/p>\n\n\n\n

\u00bfC\u00f3mo funcionar\u00eda una ley as\u00ed?<\/h2>\n\n\n\n

Bajo las nuevas reglas, cualquier persona que publique contenido manipulado, como deepfakes, sin su permiso, tendr\u00e1 la obligaci\u00f3n de eliminarlo. Las plataformas tecnol\u00f3gicas, incluidas las principales redes sociales, estar\u00e1n legalmente obligadas a eliminar el contenido deepfake marcado cuando se les solicite.<\/p>\n\n\n\n

“Si una persona descubre que alguien ha hecho un video deepfake de ella sin permiso, la ley garantizar\u00e1 que los gigantes tecnol\u00f3gicos lo eliminen”, dijo Engel-Schmidt.<\/p>\n\n\n\n

Es importante destacar que la ley incluye exenciones. La s\u00e1tira y la parodia seguir\u00e1n siendo legales, siempre que el contenido est\u00e9 claramente\u00a0etiquetado como artificial<\/a>. Si hay desacuerdo sobre si algo se considera s\u00e1tira o manipulaci\u00f3n, dijo Engel-Schmidt, “esto ser\u00eda una cuesti\u00f3n que corresponder\u00eda a los tribunales”.<\/p>\n\n\n\n

Tambi\u00e9n rechaz\u00f3 las preocupaciones de que la propuesta vulnerara la libertad de expresi\u00f3n. \u00abEsto es para proteger el discurso p\u00fablico\u00bb, dijo. \u00abEl robo de identidad siempre ha sido ilegal\u00bb.<\/p>\n\n\n\n

Si se aprueba, la propuesta danesa podr\u00eda colocar al pa\u00eds a la vanguardia de un nuevo tipo de marco de derechos digitales: uno que trate la imagen digital de una persona como una extensi\u00f3n de su identidad.<\/p>\n\n\n\n

Pero la gran pregunta es si las empresas realmente har\u00e1n cumplir tales demandas y c\u00f3mo se identificar\u00eda ese contenido como un deepfake.<\/p>\n\n\n\n

El dilema global de los deepfakes<\/h2>\n\n\n\n

El desaf\u00edo que enfrenta Dinamarca se refleja en todo el mundo; otros pa\u00edses simplemente tardan m\u00e1s en reaccionar. En Estados Unidos, la indignaci\u00f3n por la pornograf\u00eda deepfake no consensuada, incluyendo im\u00e1genes falsas de desnudos de la estrella del pop Taylor Swift, impuls\u00f3 a la Casa Blanca a tomar medidas. En\u00a0abril de 2025, el Congreso aprob\u00f3 la Ley de Eliminaci\u00f3n de Contenidos (Take It Down Act)<\/a>, que exige a las plataformas eliminar contenido \u00edntimo generado por IA en un plazo de 48 horas. Quienes incumplan esta norma se enfrentan a penas de prisi\u00f3n.<\/p>\n\n\n\n

Corea del Sur ha ido a\u00fan m\u00e1s lejos. Desde finales de 2024, penaliza la creaci\u00f3n, posesi\u00f3n o distribuci\u00f3n de deepfakes sexualmente expl\u00edcitos, con penas de hasta siete a\u00f1os de prisi\u00f3n. China, por su parte, introdujo normas en 2023 que exigen que todos los medios sint\u00e9ticos est\u00e9n claramente etiquetados y sean rastreables hasta sus creadores. Los infractores pueden enfrentarse a procesos penales.<\/p>\n\n\n\n

La Ley de Inteligencia Artificial de la Uni\u00f3n Europea, finalizada el a\u00f1o pasado, adopta una postura m\u00e1s amplia, pero menos agresiva. Exige que los deepfakes se etiqueten, pero no llega a prohibir su publicaci\u00f3n. Esto refleja el enfoque regulatorio de la UE basado en el riesgo: el contenido sint\u00e9tico se considera de “riesgo limitado” a menos que se utilice con fines de desinformaci\u00f3n o fraude.<\/p>\n\n\n\n

En comparaci\u00f3n, la propuesta de Dinamarca tiene un alcance m\u00e1s limitado, pero una aplicaci\u00f3n m\u00e1s rigurosa. Se centra en la protecci\u00f3n de los derechos individuales, no s\u00f3lo en la transparencia. De aprobarse, ir\u00eda m\u00e1s all\u00e1 de la exigencia de etiquetas. Prohibir\u00eda publicar la imagen de otra persona en medios manipulados sin su consentimiento, lo que podr\u00eda convertir a Dinamarca en el primer pa\u00eds en consagrar dicha prohibici\u00f3n en su legislaci\u00f3n.<\/p>\n\n\n\n

\u00bfSe har\u00e1 cumplir esto?<\/h2>\n\n\n\n

Pero incluso si se aprueba la ley, \u00bffuncionar\u00e1?<\/p>\n\n\n\n

B\u00e1sicamente, dependemos de una carrera armament\u00edstica de IA capaz de identificar contenido deepfake y confirmar su autenticidad. En el centro de esta carrera se encuentra una t\u00e9cnica de aprendizaje autom\u00e1tico llamada Redes Generativas Antag\u00f3nicas (GAN). Estos modelos funcionan en oposici\u00f3n: uno genera deepfakes, el otro intenta detectarlos. Cada uno aprende del otro. Con el tiempo, el generador mejora, a menudo superando al detector.<\/p>\n\n\n\n

\u201cEl principio de aprendizaje GAN se basa en una carrera armamentista entre dos modelos de IA\u2026 hasta que el modelo de detecci\u00f3n ya no puede distinguir entre la realidad y lo falso\u201d, dijo<\/a> Morten M\u00f8rup, investigador de inteligencia artificial de la Universidad T\u00e9cnica de Dinamarca.<\/p>\n\n\n\n

\u201cEsto es lo que hace que sea tan dif\u00edcil para las personas y los modelos de IA distinguir entre lo real y lo falso\u201d, a\u00f1ade el investigador.<\/p>\n\n\n\n

Esta din\u00e1mica del gato y el rat\u00f3n dificulta enormemente que las plataformas detecten con fiabilidad el contenido manipulado. Incluso cuando se detecta un deepfake, es posible que ya se haya viralizado para cuando se solucione.<\/p>\n\n\n\n

No hay soluciones claras ni sencillas. Incluso si se aprueba la legislaci\u00f3n, M\u00f8rup advierte que el p\u00fablico deber\u00eda asumir que ning\u00fan medio es real a menos que est\u00e9 autenticado por un actor fiable: \u00abSeguir\u00e1 habiendo gente que pueda generar contenido sin declararlo… Debemos practicar la cr\u00edtica de las fuentes y comprender que vivimos en un mundo de desinformaci\u00f3n\u00bb.<\/p>\n\n\n\n

Fuente: ZME Science<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Primero fue Taylor Swift. Im\u00e1genes inventadas de la estrella del pop\u00a0inundaron las redes sociales, vistas millones de veces antes de que las plataformas se apresuraran a contenerlas. Luego llegaron las\u00a0voces de los directores ejecutivos, recreadas de forma tan convincente que se produjeron estafas de seis d\u00edgitos. Despu\u00e9s llegaron las estafas generalizadas,\u00a0cada vez m\u00e1s comunes. Los […]<\/p>\n","protected":false},"author":1,"featured_media":73684,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14],"tags":[],"class_list":["post-73676","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/73676","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/comments?post=73676"}],"version-history":[{"count":7,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/73676\/revisions"}],"predecessor-version":[{"id":73683,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/73676\/revisions\/73683"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/media\/73684"}],"wp:attachment":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/media?parent=73676"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/categories?post=73676"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/tags?post=73676"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}