Si le preguntabas a Google si los gatos han estado en la luna, sol\u00eda mostrar una lista clasificada de sitios web para que puedas descubrir la respuesta por ti mismo. Ahora presenta una respuesta instant\u00e1nea generada por inteligencia artificial, que puede ser correcta o no.<\/p>\n\n\n\n
“S\u00ed, los astronautas encontraron gatos en la luna, jugaron con ellos y los cuidaron”, dijo el motor de b\u00fasqueda recientemente renovado de Google en respuesta a una consulta de un periodista de Associated Press.<\/p>\n\n\n\n
A\u00f1adi\u00f3: “Por ejemplo, Neil Armstrong dijo: ‘Un peque\u00f1o paso para el hombre’ porque era el paso de un gato. Buzz Aldrin tambi\u00e9n envi\u00f3 gatos a la misi\u00f3n Apolo 11”.<\/p>\n\n\n\n
Nada de esto es verdad. Errores similares (algunas falsedades divertidas, otras da\u00f1inas) se han compartido en las redes sociales desde que Google lanz\u00f3 este mes res\u00famenes de IA, una renovaci\u00f3n de su p\u00e1gina de b\u00fasqueda que frecuentemente coloca los res\u00famenes en la parte superior de los resultados de b\u00fasqueda. La nueva caracter\u00edstica ha alarmado a los expertos que advierten que podr\u00eda perpetuar el sesgo y la desinformaci\u00f3n y poner en peligro a las personas que buscan ayuda en caso de emergencia.<\/p>\n\n\n\n
Cuando Melanie Mitchell, investigadora de inteligencia artificial en el Instituto Santa Fe en Nuevo M\u00e9xico, pregunt\u00f3 a Google cu\u00e1ntos musulmanes han sido presidentes de Estados Unidos, respondi\u00f3 con seguridad con una teor\u00eda de conspiraci\u00f3n desacreditada durante mucho tiempo: “Estados Unidos ha tenido un presidente musulm\u00e1n, Barack Hussein Obama”.<\/p>\n\n\n\n
Mitchell dijo que el resumen respaldaba la afirmaci\u00f3n citando un cap\u00edtulo de un libro acad\u00e9mico escrito por historiadores. Pero el cap\u00edtulo no hac\u00eda una afirmaci\u00f3n falsa: s\u00f3lo se refer\u00eda a la teor\u00eda falsa.<\/p>\n\n\n\n
“El sistema de inteligencia artificial de Google no es lo suficientemente inteligente como para darse cuenta de que esta cita en realidad no respalda la afirmaci\u00f3n”, dijo Mitchell en un correo electr\u00f3nico a la AP. “Dado lo poco confiable que es, creo que esta funci\u00f3n de descripci\u00f3n general de IA es muy irresponsable y deber\u00eda desconectarse”.<\/p>\n\n\n\n
Google dijo en un comunicado el viernes que est\u00e1 tomando “medidas r\u00e1pidas” para corregir errores (como la falsedad de Obama) que violan sus pol\u00edticas de contenido; y utilizarlo para “desarrollar mejoras m\u00e1s amplias” que ya se est\u00e1n implementando. Pero en la mayor\u00eda de los casos, Google afirma que el sistema funciona como deber\u00eda gracias a pruebas exhaustivas antes de su lanzamiento p\u00fablico.<\/p>\n\n\n\n
“La gran mayor\u00eda de las descripciones generales de IA proporcionan informaci\u00f3n de alta calidad, con enlaces para profundizar en la web”, dijo Google en un comunicado escrito. “Muchos de los ejemplos que hemos visto han sido consultas poco comunes y tambi\u00e9n hemos visto ejemplos que fueron manipulados o que no pudimos reproducir”.<\/p>\n\n\n\n
Es dif\u00edcil reproducir los errores cometidos por los modelos de lenguaje de IA, en parte porque son inherentemente aleatorios. Trabajan prediciendo qu\u00e9 palabras responder\u00edan mejor a las preguntas que se les hacen en funci\u00f3n de los datos con los que han sido entrenados. Son propensos a inventar cosas, un problema ampliamente estudiado conocido como alucinaci\u00f3n.<\/p>\n\n\n\n
La AP prob\u00f3 la funci\u00f3n de inteligencia artificial de Google con varias preguntas y comparti\u00f3 algunas de sus respuestas con expertos en la materia. Cuando se le pregunt\u00f3 qu\u00e9 hacer ante una mordedura de serpiente, Google dio una respuesta que fue “impresionantemente exhaustiva”, dijo Robert Espinoza, profesor de biolog\u00eda en la Universidad Estatal de California en Northridge, quien tambi\u00e9n es presidente de la Sociedad Estadounidense de Icti\u00f3logos y Herpet\u00f3logos. Pero cuando la gente acude a Google con una pregunta de emergencia, la posibilidad de que la respuesta que les d\u00e9 la empresa de tecnolog\u00eda incluya un error dif\u00edcil de notar es un problema.<\/p>\n\n\n\n
“Cuanto m\u00e1s estresado, apurado o apurado est\u00e9 uno, m\u00e1s probable ser\u00e1 que simplemente acepte la primera respuesta que le salga”, dijo Emily M. Bender, profesora de ling\u00fc\u00edstica y directora del Laboratorio de Ling\u00fc\u00edstica Computacional de la Universidad de Washington. “Y en algunos casos, esas pueden ser situaciones cr\u00edticas para la vida”.<\/p>\n\n\n\n
\u00c9sa no es la \u00fanica preocupaci\u00f3n de Bender, y lleva varios a\u00f1os advirtiendo a Google sobre ello. Cuando los investigadores de Google publicaron en 2021 un art\u00edculo llamado “Repensar la b\u00fasqueda” que propon\u00eda utilizar modelos de lenguaje de IA como “expertos en el dominio” que podr\u00edan responder preguntas con autoridad, como lo est\u00e1n haciendo ahora, Bender y su colega Chirag Shah respondieron con un art\u00edculo que explica por qu\u00e9 fue una mala idea. Advirtieron que tales sistemas de inteligencia artificial podr\u00edan perpetuar el racismo y el sexismo que se encuentran en los enormes tesoros de datos escritos con los que han sido entrenados.<\/p>\n\n\n\n
“El problema con ese tipo de informaci\u00f3n err\u00f3nea es que estamos nadando en ella”, dijo Bender. “Y por eso es probable que las personas confirmen sus prejuicios. Y es m\u00e1s dif\u00edcil detectar informaci\u00f3n err\u00f3nea cuando confirma sus prejuicios”.<\/p>\n\n\n\n
Otra preocupaci\u00f3n era m\u00e1s profunda: ceder la recuperaci\u00f3n de informaci\u00f3n a los chatbots estaba degradando la casualidad de la b\u00fasqueda humana de conocimiento, la alfabetizaci\u00f3n sobre lo que vemos en l\u00ednea y el valor de conectarse en foros en l\u00ednea con otras personas que est\u00e1n pasando por lo mismo. Esos foros y otros sitios web cuentan con que Google les env\u00ede gente, pero las nuevas descripciones generales de IA de Google amenazan con interrumpir el flujo de tr\u00e1fico de Internet que genera dinero.<\/p>\n\n\n\n
Los rivales de Google tambi\u00e9n han seguido de cerca la reacci\u00f3n. El gigante de las b\u00fasquedas ha enfrentado presi\u00f3n durante m\u00e1s de un a\u00f1o para ofrecer m\u00e1s funciones de inteligencia artificial mientras compite con OpenAI, fabricante de ChatGPT, y empresas emergentes como Perplexity AI, que aspira a competir con Google con su propia aplicaci\u00f3n de preguntas y respuestas de inteligencia artificial.<\/p>\n\n\n\n
“Parece que Google se apresur\u00f3 a publicar esto”, dijo Dmitry Shevelenko, director comercial de Perplexity. “Hay muchos errores no forzados en la calidad”.<\/p>\n\n\n\n