El creador de ChatGPT est\u00e1 tratando de frenar su reputaci\u00f3n como una m\u00e1quina de hacer trampa con una nueva herramienta que puede ayudar a los maestros a detectar si un estudiante o una inteligencia artificial escribi\u00f3 esa tarea. El nuevo clasificador de texto IA lanzado el martes por OpenAI sigue a una discusi\u00f3n de semanas en escuelas y universidades sobre los temores de que la capacidad de ChatGPT para escribir casi cualquier cosa podr\u00eda alimentar la deshonestidad acad\u00e9mica y dificultar el aprendizaje.<\/p>\n\n\n\n
OpenAI advierte que su nueva herramienta, como otras ya disponibles, no es infalible. El m\u00e9todo para detectar texto escrito por IA “es imperfecto y algunas veces ser\u00e1 incorrecto”, dijo Jan Leike, jefe del equipo de alineaci\u00f3n de OpenAI encargado de hacer que sus sistemas sean m\u00e1s seguros.<\/p>\n\n\n\n
“Por eso, no se debe confiar \u00fanicamente en \u00e9l al tomar decisiones”, dijo Leike.<\/p>\n\n\n\n
Adolescentes y estudiantes universitarios se encontraban entre los millones de personas que comenzaron a experimentar con ChatGPT luego de su lanzamiento el 30 de noviembre como una aplicaci\u00f3n gratuita en el sitio web de OpenAI. Y aunque muchos encontraron formas de usarlo de manera creativa e inofensiva, la facilidad con la que pod\u00eda responder preguntas de ex\u00e1menes para llevar a casa y ayudar con otras tareas provoc\u00f3 el p\u00e1nico entre algunos educadores.<\/p>\n\n\n\n
Cuando las escuelas abrieron para el nuevo a\u00f1o, la ciudad de Nueva York, Los \u00c1ngeles y otros grandes distritos escolares p\u00fablicos comenzaron a bloquear su uso en las aulas y en los dispositivos escolares. El distrito de las Escuelas P\u00fablicas de Seattle inicialmente bloque\u00f3 ChatGPT en todos los dispositivos escolares en diciembre, pero luego abri\u00f3 el acceso a los educadores que quieren usarlo como herramienta de ense\u00f1anza, dijo Tim Robinson, el portavoz del distrito.<\/p>\n\n\n\n
“No podemos darnos el lujo de ignorarlo”, dijo Robinson.<\/p>\n\n\n\n
El distrito tambi\u00e9n est\u00e1 discutiendo la posibilidad de expandir el uso de ChatGPT en las aulas para permitir que los maestros lo usen para capacitar a los estudiantes para que sean mejores pensadores cr\u00edticos y para permitir que los estudiantes usen la aplicaci\u00f3n como un “tutor personal” o para ayudar a generar nuevas ideas cuando trabajan en una tarea, dijo Robinson. Los distritos escolares de todo el pa\u00eds dicen que est\u00e1n viendo que la conversaci\u00f3n sobre ChatGPT evoluciona r\u00e1pidamente.<\/p>\n\n\n\n
“La reacci\u00f3n inicial fue ‘Dios m\u00edo, \u00bfc\u00f3mo vamos a detener la marea de todas las trampas que suceder\u00e1n con ChatGPT'”, dijo Devin Page, especialista en tecnolog\u00eda del Distrito de Escuelas P\u00fablicas del Condado de Calvert en Maryland. Ahora hay una creciente comprensi\u00f3n de que “este es el futuro” y bloquearlo no es la soluci\u00f3n, dijo.<\/p>\n\n\n\n
“Creo que ser\u00edamos ingenuos si no estuvi\u00e9ramos conscientes de los peligros que presenta esta herramienta, pero tampoco servir\u00edamos a nuestros estudiantes si les prohibimos a ellos y a nosotros que la usen con todo su poder potencial”, dijo Page, quien piensa que los distritos como el suyo eventualmente desbloquear\u00e1n ChatGPT, especialmente una vez que el servicio de detecci\u00f3n de la compa\u00f1\u00eda est\u00e9 en funcionamiento.<\/p>\n\n\n\n
OpenAI enfatiz\u00f3 las limitaciones de su herramienta de detecci\u00f3n en una publicaci\u00f3n de blog el martes, pero dijo que adem\u00e1s de disuadir el plagio, podr\u00eda ayudar a detectar campa\u00f1as de desinformaci\u00f3n automatizadas y otros usos indebidos de la IA para imitar a los humanos.<\/p>\n\n\n\n
Cuanto m\u00e1s largo sea un pasaje de texto, mejor ser\u00e1 la herramienta para detectar si una IA o un ser humano escribieron algo. Escribe cualquier texto (un ensayo de admisi\u00f3n a la universidad o un an\u00e1lisis literario del “Hombre invisible” de Ralph Ellison) y la herramienta lo etiquetar\u00e1 como “muy poco probable, poco probable, poco claro si es posible o probable” generado por IA. Pero al igual que el propio ChatGPT, que se entren\u00f3 en un gran tesoro de libros, peri\u00f3dicos y escritos en l\u00ednea digitalizados, pero que a menudo escupe falsedades o tonter\u00edas con confianza, no es f\u00e1cil interpretar c\u00f3mo lleg\u00f3 a un resultado.<\/p>\n\n\n\n
“No sabemos fundamentalmente a qu\u00e9 tipo de patr\u00f3n presta atenci\u00f3n o c\u00f3mo funciona internamente”, dijo Leike. “Realmente no hay mucho que podamos decir en este momento sobre c\u00f3mo funciona realmente el clasificador”.<\/p>\n\n\n\n
Las instituciones de educaci\u00f3n superior de todo el mundo tambi\u00e9n han comenzado a debatir el uso responsable de la tecnolog\u00eda de IA. Sciences Po, una de las universidades m\u00e1s prestigiosas de Francia, prohibi\u00f3 su uso la semana pasada y advirti\u00f3 que cualquier persona que sea sorprendida usando ChatGPT y otras herramientas de inteligencia artificial para producir trabajos escritos u orales podr\u00eda ser expulsada de Sciences Po y otras instituciones. En respuesta a la reacci\u00f3n violenta, OpenAI dijo que ha estado trabajando durante varias semanas para elaborar nuevas pautas para ayudar a los educadores.<\/p>\n\n\n\n
“Al igual que muchas otras tecnolog\u00edas, puede ser que un distrito decida que es inapropiado para su uso en sus aulas”, dijo Lama Ahmad, investigadora de pol\u00edticas de OpenAI. “Realmente no los presionamos de una manera u otra. Solo queremos darles la informaci\u00f3n que necesitan para poder tomar las decisiones correctas para ellos”.<\/p>\n\n\n\n
Es un papel inusualmente p\u00fablico para la startup de San Francisco orientada a la investigaci\u00f3n, ahora respaldada por miles de millones de d\u00f3lares en inversiones de su socio Microsoft y que enfrenta un creciente inter\u00e9s del p\u00fablico y los gobiernos.<\/p>\n\n\n\n
El ministro de econom\u00eda digital de Francia, Jean-No\u00ebl Barrot, se reuni\u00f3 recientemente en California con ejecutivos de OpenAI, incluido el director ejecutivo Sam Altman, y una semana despu\u00e9s le dijo a una audiencia en el Foro Econ\u00f3mico Mundial en Davos, Suiza, que era optimista sobre la tecnolog\u00eda. Pero el ministro del gobierno, exprofesor del Instituto de Tecnolog\u00eda de Massachusetts y de la escuela de negocios francesa HEC en Par\u00eds, dijo que tambi\u00e9n hay cuestiones \u00e9ticas dif\u00edciles que deber\u00e1n abordarse.<\/p>\n\n\n\n
“Entonces, si est\u00e1 en la facultad de derecho, hay lugar para la preocupaci\u00f3n porque, obviamente, ChatGPT, entre otras herramientas, podr\u00e1 entregar ex\u00e1menes que son relativamente impresionantes”, dijo. “Si est\u00e1 en la facultad de econom\u00eda, entonces est\u00e1 bien porque ChatGPT tendr\u00e1 dificultades para encontrar o entregar algo que se espera cuando est\u00e1 en una facultad de econom\u00eda de nivel de posgrado”.<\/p>\n\n\n\n
Dijo que ser\u00e1 cada vez m\u00e1s importante que los usuarios comprendan los conceptos b\u00e1sicos de c\u00f3mo funcionan estos sistemas para que sepan qu\u00e9 sesgos podr\u00edan existir.<\/p>\n\n\n\n