La investigaci\u00f3n generada por IA es una amenaza, tanto para el conocimiento de la sociedad como para la confianza p\u00fablica en la ciencia. Esta es la conclusi\u00f3n a la que llegaron los investigadores de la Escuela Sueca de Bibliotecolog\u00eda y Ciencias de la Informaci\u00f3n de la Universidad de Bor\u00e5s (Suecia), que recientemente identificaron m\u00e1s de cien art\u00edculos sospechosos de ser generados por IA en el motor de b\u00fasqueda Google Scholar.<\/p>\n\n\n\n
Su investigaci\u00f3n informa de que los art\u00edculos cient\u00edficos falsos generados por IA han inundado el motor de b\u00fasqueda Google Scholar. Los hallazgos del estudio sobre ciencia basura fabricada por IA significan que la ciencia falsa se ha puesto a disposici\u00f3n y puede difundirse ampliamente y a un coste mucho menor para los actores maliciosos. El trabajo se publica en la revista Harvard Kennedy School Misinformation Review<\/a>. Esto supone un peligro tanto para la sociedad como para la comunidad cient\u00edfica, seg\u00fan Jutta Haider y Bj\u00f6rn Ekstr\u00f6m de la Escuela Sueca de Bibliotecolog\u00eda y Ciencias de la Informaci\u00f3n, que est\u00e1n detr\u00e1s del estudio junto con Kristofer S\u00f6derstr\u00f6m de la Universidad de Lund y Malte R\u00f6dl de la Universidad Sueca de Ciencias Agr\u00edcolas.<\/p>\n\n\n\n Mayor riesgo de pirater\u00eda de pruebas “El riesgo de lo que llamamos ‘pirater\u00eda de pruebas’ aumenta significativamente cuando la investigaci\u00f3n generada por IA se difunde en los motores de b\u00fasqueda. Esto puede tener consecuencias tangibles, ya que los resultados incorrectos pueden filtrarse m\u00e1s en la sociedad y, posiblemente, tambi\u00e9n en cada vez m\u00e1s dominios”, dijo Ekstr\u00f6m, que tiene un doctorado en Bibliotecolog\u00eda y Ciencias de la Informaci\u00f3n.<\/p>\n\n\n\n Los investigadores detr\u00e1s del estudio ya han visto que estos art\u00edculos problem\u00e1ticos se han extendido a otras partes de la infraestructura de investigaci\u00f3n en la web, en varios archivos, redes sociales y similares. La propagaci\u00f3n es r\u00e1pida y Google Scholar hace visibles los art\u00edculos problem\u00e1ticos. Incluso si los art\u00edculos se retiran, existe el riesgo de que ya hayan tenido tiempo de difundirse y sigan haci\u00e9ndolo. Adem\u00e1s, la investigaci\u00f3n generada por IA causa problemas para el ya de por s\u00ed presionado sistema de revisi\u00f3n por pares.<\/p>\n\n\n\n La alfabetizaci\u00f3n informacional es m\u00e1s exigente “Si no podemos confiar en que la investigaci\u00f3n que leemos sea aut\u00e9ntica, corremos el riesgo de tomar decisiones basadas en informaci\u00f3n incorrecta. Pero, por mucho que se trate de una cuesti\u00f3n de mala conducta cient\u00edfica, es una cuesti\u00f3n de alfabetizaci\u00f3n medi\u00e1tica e informativa”, afirma Haider, catedr\u00e1tica de Bibliotecolog\u00eda y Ciencias de la Informaci\u00f3n.<\/p>\n\n\n\n Se\u00f1ala que Google Scholar no es una base de datos acad\u00e9mica. El motor de b\u00fasqueda es f\u00e1cil de usar y r\u00e1pido, pero carece de procedimientos de control de calidad. Esto ya es un problema con los resultados habituales de Google, pero es a\u00fan m\u00e1s problem\u00e1tico cuando se trata de hacer accesible la ciencia.<\/p>\n\n\n\n “La capacidad de las personas para decidir qu\u00e9 revistas y editoriales, en su mayor\u00eda, publican investigaciones revisadas de calidad es importante para encontrar y determinar qu\u00e9 constituye una investigaci\u00f3n fiable y es de gran importancia para la toma de decisiones y la formaci\u00f3n de opiniones”, concluye Haider.<\/p>\n\n\n\n
<\/strong>Uno de los principales problemas relacionados con la investigaci\u00f3n generada por IA es el riesgo de pirater\u00eda de pruebas, es decir, de que se utilicen investigaciones falsas para manipulaciones estrat\u00e9gicas.<\/p>\n\n\n\n
<\/strong>El hecho de que la investigaci\u00f3n generada por inteligencia artificial se est\u00e9 extendiendo en las bases de datos de los motores de b\u00fasqueda plantea mayores exigencias a quienes participan en la investigaci\u00f3n en l\u00ednea.<\/p>\n\n\n\n