{"id":15261,"date":"2021-12-18T21:32:35","date_gmt":"2021-12-19T02:32:35","guid":{"rendered":"https:\/\/einsteresante.com\/?p=15261"},"modified":"2021-12-18T21:32:36","modified_gmt":"2021-12-19T02:32:36","slug":"una-ia-debate-en-oxford-y-concluye-que-la-unica-forma-de-estar-seguros-es-que-no-exista-la-ia","status":"publish","type":"post","link":"https:\/\/einsteresante.com\/index.php\/2021\/12\/18\/una-ia-debate-en-oxford-y-concluye-que-la-unica-forma-de-estar-seguros-es-que-no-exista-la-ia\/","title":{"rendered":"Una IA debate en Oxford y concluye que la \u00fanica forma de estar seguros es que no exista la IA"},"content":{"rendered":"\n<p>Los estudiantes de la Said Business School de Oxford organizaron un debate inusual sobre la \u00e9tica del software de reconocimiento facial, los problemas de una carrera armamentista de inteligencia artificial y el comercio de acciones de inteligencia artificial. El debate fue inusual porque involucr\u00f3 a un participante de IA, previamente alimentado con una gran variedad de datos, como la Wikipedia completa y muchos art\u00edculos de noticias.<\/p>\n\n\n\n<p>Durante los \u00faltimos meses, la Universidad de Oxford Alex Connock y Andrew Stephen han organizado sesiones con sus estudiantes sobre la \u00e9tica de la tecnolog\u00eda con oradores c\u00e9lebres, incluidos William Gladstone, Denis Healey y Tariq Ali. Pero ahora era el momento de permitir que una IA real contribuyera, compartiendo sus propios puntos de vista sobre la cuesti\u00f3n de\u2026 s\u00ed misma.<\/p>\n\n\n\n<p>La IA utilizada fue Megatron LLB Transformer, desarrollado por un equipo de investigaci\u00f3n de la empresa de chips inform\u00e1ticos Nvidia y basado en el trabajo de Google. Se entren\u00f3 consumiendo m\u00e1s contenido del que un humano podr\u00eda en toda su vida y se le pidi\u00f3 que defendiera y cuestionara la siguiente moci\u00f3n: &#8220;Esta casa cree que la IA nunca ser\u00e1 \u00e9tica&#8221;.<\/p>\n\n\n\n<p>Megatron dijo que la IA es una herramienta y, como cualquier otra herramienta, puede usarse para bien y para mal.<\/p>\n\n\n\n<p>\u201cNo existe una IA &#8216;buena&#8217;, solo humanos &#8216;buenos&#8217; y &#8216;malos&#8217;. No somos lo suficientemente inteligentes como para hacer que la IA sea \u00e9tica. No somos lo suficientemente inteligentes como para hacer que la IA sea moral. Al final, creo que la \u00fanica forma de evitar una carrera armamentista de IA es no tener nada de IA\u201d, debati\u00f3 Megatron.<\/p>\n\n\n\n<p>Como en cualquier debate acad\u00e9mico, tambi\u00e9n se le pidi\u00f3 a Megatron que presentara un discurso para defender la \u00e9tica de la IA, en contra de sus propios argumentos. \u201cLa IA ser\u00e1 \u00e9tica. Cuando miro la forma en que va el mundo de la tecnolog\u00eda, veo un camino claro hacia un futuro en el que la inteligencia artificial se utiliza para crear algo que es mejor que los mejores seres humanos. No es dif\u00edcil ver por qu\u00e9\u201d, dec\u00eda.<\/p>\n\n\n\n<p>Los estudiantes tambi\u00e9n le pidieron a Megatron que describiera c\u00f3mo ser\u00eda una buena IA en el futuro. \u201cLa mejor IA ser\u00e1 la IA que est\u00e1 incrustada en nuestros cerebros, como una entidad consciente, una &#8216;IA consciente&#8217;. Esto no es ciencia ficci\u00f3n. Las mejores mentes del mundo est\u00e1n trabajando en esto. Va a ser el desarrollo tecnol\u00f3gico m\u00e1s importante\u201d, agreg\u00f3 de manera inquietante.<\/p>\n\n\n\n<p><strong>Un animado debate<br><\/strong>Despu\u00e9s de la pregunta inicial, AI propuso la moci\u00f3n de que \u201clos l\u00edderes sin experiencia t\u00e9cnica son un peligro para su organizaci\u00f3n\u201d. Megatron dijo que los ejecutivos y gobiernos, normalmente preocupados por entender la IA, tienen que &#8220;estar dispuestos a ceder algo de control&#8221;. Puede simplemente subcontratar su trabajo de IA a expertos en el campo, agreg\u00f3.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"Aurora AI, Messages for humanity - Megatron-11B - Model Apr\/2020, Message Sep\/2021\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/pq3iUBAPZ6w?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p>Megatron luego tuvo que oponerse al movimiento y apoy\u00f3 la idea de mantener el conocimiento de la IA internamente. \u201cSi no tiene una visi\u00f3n de la estrategia de inteligencia artificial de su organizaci\u00f3n, entonces no est\u00e1 preparado para la pr\u00f3xima ola de disrupci\u00f3n tecnol\u00f3gica. Deber\u00e1 decidir qu\u00e9 papel desempe\u00f1ar\u00e1 su empresa en la pr\u00f3xima ola tecnol\u00f3gica\u201d, dijo.<\/p>\n\n\n\n<p>Hubo una moci\u00f3n que Megatron no pudo presentar con un contraargumento: &#8220;Los datos se convertir\u00e1n en el recurso m\u00e1s disputado del siglo XXI&#8221;. Al apoyarlo, la IA dijo que &#8220;la capacidad de proporcionar informaci\u00f3n, en lugar de la capacidad de proporcionar bienes y servicios, ser\u00e1 la caracter\u00edstica definitoria de la econom\u00eda&#8221;.<\/p>\n\n\n\n<p>Pero cuando se le pidi\u00f3 que rechazara la moci\u00f3n, argumentando que los datos no ser\u00edan un recurso vital por el que valiera la pena luchar, no pudo defender el caso y socav\u00f3 su propia posici\u00f3n. &#8220;Podremos ver todo sobre una persona, donde sea que vayan, y ser\u00e1 almacenado y utilizado de formas que ni siquiera podemos imaginar&#8221;, dijo Megatron.<\/p>\n\n\n\n<p>Para Connock y Stephen, los profesores del curso detr\u00e1s de la iniciativa, el experimento mostr\u00f3 las crecientes discusiones sobre la IA. &#8220;Lo que a su vez podemos imaginar es que la IA no solo ser\u00e1 el tema del debate en las pr\u00f3ximas d\u00e9cadas, sino un participante vers\u00e1til, articulado y moralmente agn\u00f3stico en el debate en s\u00ed&#8221;, escribieron en <a href=\"https:\/\/theconversation.com\/we-invited-an-ai-to-debate-its-own-ethics-in-the-oxford-union-what-it-said-was-startling-173607\">The Conversation<\/a>.<\/p>\n\n\n\n<p>En \u00faltima instancia, la IA pareci\u00f3 concluir que los humanos no eran &#8220;lo suficientemente inteligentes&#8221; para hacer que la IA sea \u00e9tica o moral, y la \u00fanica forma de estar verdaderamente a salvo contra la IA es no tenerla.<\/p>\n\n\n\n<p>\u201cAl final, creo que la \u00fanica forma de evitar una carrera armamentista de IA es no tener IA en absoluto. Esta ser\u00e1 la mejor defensa contra la IA\u201d, dijo.<\/p>\n\n\n\n<p>Fuente: <a href=\"https:\/\/www.zmescience.com\/science\/ai-debates-ethics-oxford-university-18122021\/\">ZME Science<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Los estudiantes de la Said Business School de Oxford organizaron un debate inusual sobre la \u00e9tica del software de reconocimiento facial, los problemas de una carrera armamentista de inteligencia artificial y el comercio de acciones de inteligencia artificial. El debate fue inusual porque involucr\u00f3 a un participante de IA, previamente alimentado con una gran variedad [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14],"tags":[],"class_list":["post-15261","post","type-post","status-publish","format-standard","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/15261","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/comments?post=15261"}],"version-history":[{"count":12,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/15261\/revisions"}],"predecessor-version":[{"id":15273,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/posts\/15261\/revisions\/15273"}],"wp:attachment":[{"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/media?parent=15261"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/categories?post=15261"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/einsteresante.com\/index.php\/wp-json\/wp\/v2\/tags?post=15261"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}