En una era de mayor preocupaci\u00f3n en el mundo acad\u00e9mico con respecto a los ensayos generados por IA, hay noticias tranquilizadoras de la Universidad de Kansas. Los investigadores han desarrollado un detector de texto de IA para ensayos cient\u00edficos que puede distinguir entre contenido escrito por humanos y contenido generado por computadora casi el 100% de las veces. En un estudio que aparece el 6 de noviembre en Cell Reports Physical Science, la profesora Heather Desaire se\u00f1al\u00f3 que si bien actualmente hay varios detectores de IA para contenido general disponibles, ninguno es particularmente bueno cuando se aplica a art\u00edculos cient\u00edficos.<\/p>\n\n\n\n
“La mayor parte del campo del an\u00e1lisis de texto quiere un detector realmente general que funcione con cualquier cosa”, dijo Desaire. En cambio, su equipo se centr\u00f3 en informes escritos espec\u00edficamente para revistas cient\u00edficas sobre el tema de la qu\u00edmica.<\/p>\n\n\n\n
“Realmente busc\u00e1bamos la precisi\u00f3n”, dijo.<\/p>\n\n\n\n
El detector del equipo fue entrenado en revistas publicadas por la Sociedad Qu\u00edmica Estadounidense. Recopilaron 100 pasajes introductorios escritos por profesionales y luego programaron ChatGPT para que escribiera sus propias introducciones basadas en res\u00famenes de revistas o simplemente en los t\u00edtulos de los informes.<\/p>\n\n\n\n
Cuando el detector ChatGPT escane\u00f3 las tres categor\u00edas de informes, identific\u00f3 correctamente los pasajes escritos por humanos el 100% del tiempo, as\u00ed como los informes generados a partir de indicaciones que inclu\u00edan solo los t\u00edtulos de los informes. Los resultados fueron casi igual de buenos con los informes que se basaban en pasajes introductorios, con una identificaci\u00f3n correcta el 98% de las veces.<\/p>\n\n\n\n
Sin embargo, un clasificador de la competencia como ZeroGPT, que cuenta con una precisi\u00f3n del 98% para detectar ensayos generales escritos por IA, obtuvo malos resultados en lo que respecta a los informes relacionados con la qu\u00edmica. Logr\u00f3 solo una tasa de precisi\u00f3n promedio del 37% en los mismos informes basados en t\u00edtulos, y solo unos pocos puntos porcentuales mejor en informes basados en texto introductorio. A un segundo competidor, OpenAI, le fue a\u00fan peor, ya que no logr\u00f3 identificar correctamente la autor\u00eda de los ensayos en un promedio del 80% de las veces.<\/p>\n\n\n\n
“Los editores acad\u00e9micos est\u00e1n lidiando con la adopci\u00f3n r\u00e1pida y generalizada de nuevos generadores de texto con inteligencia artificial”, dijo Desaire. “Este nuevo detector permitir\u00e1 a la comunidad cient\u00edfica evaluar la infiltraci\u00f3n de ChatGPT en revistas de qu\u00edmica, identificar las consecuencias de su uso e introducir r\u00e1pidamente estrategias de mitigaci\u00f3n cuando surjan problemas”.<\/p>\n\n\n\n
Las revistas cient\u00edficas est\u00e1n reescribiendo sus reglas con respecto al env\u00edo de art\u00edculos, y la mayor\u00eda proh\u00edbe los informes generados por IA y exige la divulgaci\u00f3n de cualquier otro proceso de IA utilizado para redactar un informe.<\/p>\n\n\n\n
Desaire enumer\u00f3 varias preocupaciones sobre los riesgos de que el contenido generado por IA se infiltre en las revistas cient\u00edficas: “Su uso excesivo puede dar lugar a una avalancha de manuscritos de valor marginal. Podr\u00edan provocar que los art\u00edculos muy citados est\u00e9n sobrerrepresentados y que los trabajos emergentes, que a\u00fan no son bien conocidos, para ser ignorado”.<\/p>\n\n\n\n
“Lo m\u00e1s preocupante”, a\u00f1adi\u00f3, “es la tendencia de estas herramientas a la ‘alucinaci\u00f3n’, a inventar hechos que no son ciertos”.<\/p>\n\n\n\n
A modo de ilustraci\u00f3n, Desaire incluy\u00f3 una an\u00e9cdota personal sobre los resultados de un boceto biogr\u00e1fico sobre ella escrito por ChatGPT. Dec\u00eda que “se gradu\u00f3 de la Universidad de Minnesota, es miembro de la Real Sociedad de Qu\u00edmica y gan\u00f3 la Medalla Biemann”. Logros impresionantes, pero todos falsos.<\/p>\n\n\n\n
“Si bien este ejemplo es divertido”, dijo Desaire, “infiltrar la literatura cient\u00edfica con falsedades est\u00e1 lejos de ser divertido”.<\/p>\n\n\n\n
Pero ella sigue siendo optimista. Algunos dicen que resistirse a la aparici\u00f3n de contenido generado por IA es inevitable, afirm\u00f3, y argumentan que “desarrollar herramientas como \u00e9sta es participar en una carrera armamentista [contra la IA] que los humanos no ganar\u00e1n”.<\/p>\n\n\n\n
Dijo que los editores deben tomar la iniciativa en la detecci\u00f3n de contaminaci\u00f3n por IA.<\/p>\n\n\n\n
“Las revistas deber\u00edan tomar medidas razonables para garantizar que se sigan sus pol\u00edticas sobre la redacci\u00f3n de IA, y creemos que es totalmente factible anticiparse al problema de la detecci\u00f3n de IA”, afirm\u00f3.<\/p>\n\n\n\n