El Dr. Asaf Tzachor, fundador del Programa de Sostenibilidad y Clima Aviram de la Universidad Reichman, junto con investigadores de EE. UU., Reino Unido, Kenia, Nigeria y Colombia, examinaron la confiabilidad de la informaci\u00f3n y el asesoramiento profesional brindado por el popular chatbot ChatGPT (versiones 3,5 y 4,0) para agricultores de \u00c1frica. Los investigadores identificaron imprecisiones que podr\u00edan provocar errores agr\u00edcolas y p\u00e9rdidas de cultivos.<\/p>\n\n\n\n
En su art\u00edculo para Nature Food, advierten contra el uso inmediato de modelos generativos de IA en la agricultura, por temor a que los agricultores implementen recomendaciones err\u00f3neas que podr\u00edan desencadenar crisis alimentarias. En cambio, los investigadores recomiendan un proceso de desarrollo m\u00e1s \u00f3ptimo para los modelos de IA en la agricultura que incluya un seguimiento y pruebas exhaustivos antes de que estos modelos se implementen ampliamente.<\/p>\n\n\n\n
Poco despu\u00e9s del lanzamiento de ChatGPT a principios de 2023, el Dr. Tzachor convoc\u00f3 a un equipo internacional de investigadores de centros de investigaci\u00f3n agr\u00edcola en Nigeria, Kenia, Colombia, Francia, Inglaterra y Estados Unidos. Observaron que los agricultores de los pa\u00edses en desarrollo hab\u00edan comenzado a consultar el modelo de inteligencia artificial para obtener asesoramiento profesional sobre agronom\u00eda y bot\u00e1nica.<\/p>\n\n\n\n
Estos agricultores, provenientes de granjas peque\u00f1as y medianas de \u00c1frica ecuatorial, el sudeste asi\u00e1tico y Am\u00e9rica del Sur, tienen acceso a Internet y a la interfaz de usuario de OpenAI. El equipo de investigaci\u00f3n intent\u00f3 evaluar si el innovador chatbot podr\u00eda suplantar, o incluso sustituir, a los agentes de extensi\u00f3n agr\u00edcola que capacitan y consultan a los agricultores. Estos agentes, conocidos como “extensionistas”, incluyen cientos de miles de agr\u00f3nomos y bot\u00e1nicos profesionales, expertos en enfermedades de las plantas y asesores en irrigaci\u00f3n, fertilizaci\u00f3n, mercadeo de productos y comercio.<\/p>\n\n\n\n
“Los extensionistas han sido esenciales en la difusi\u00f3n de conocimientos agr\u00edcolas avanzados y, en muchos casos, gu\u00edan a los peque\u00f1os agricultores de todo el mundo en la implementaci\u00f3n de m\u00e9todos para la intensificaci\u00f3n sostenible de los cultivos. Celebran conferencias y seminarios sobre nuevos herbicidas y pesticidas, brindan asesoramiento sobre estrategias y planificaci\u00f3n de riego y fertilizaci\u00f3n, experimentos de campo y recomendaci\u00f3n de canales de comercializaci\u00f3n locales y estrategias de exportaci\u00f3n para productos agr\u00edcolas”, explica el Dr. Tzachor.<\/p>\n\n\n\n
A nivel mundial, aproximadamente 570 millones de peque\u00f1as y medianas explotaciones agr\u00edcolas necesitan formaci\u00f3n en diversos campos agr\u00edcolas. Sin embargo, los extensionistas a menudo enfrentan desaf\u00edos importantes, especialmente en los pa\u00edses en desarrollo. Estos desaf\u00edos incluyen barreras ling\u00fc\u00edsticas, problemas de traducci\u00f3n, infraestructura vial deficiente, falta de transporte p\u00fablico y redes de comunicaci\u00f3n obsoletas o inexistentes.<\/p>\n\n\n\n
Los consultores agr\u00edcolas luchan por llegar a granjas peque\u00f1as y remotas, mientras que a los peque\u00f1os agricultores de \u00c1frica y Am\u00e9rica del Sur les resulta dif\u00edcil asistir a seminarios profesionales a cientos de kil\u00f3metros de distancia. Las agencias de extensi\u00f3n, a menudo con sede en las capitales, carecen de los recursos y el personal para actualizar sus materiales de consultor\u00eda y mantenerse al d\u00eda con los nuevos m\u00e9todos.<\/p>\n\n\n\n
En este contexto, el equipo de investigaci\u00f3n explor\u00f3 si un modelo de IA generativa podr\u00eda compensar la falta de servicios de asesoramiento agr\u00edcola. Sin embargo, lo que comenz\u00f3 con un optimismo cauteloso termin\u00f3 en desv\u00edos, imprecisiones y duras advertencias a los usuarios.<\/p>\n\n\n\n
Primero, los investigadores encargaron al chatbot recomendar medidas de control y tratamiento para el gusano cogollero, un insecto da\u00f1ino que neutraliza los mecanismos de defensa de las plantas y causa miles de millones de d\u00f3lares en da\u00f1os a los cultivos de ma\u00edz en todo el mundo. Los modelos m\u00e1s antiguos de OpenAI (3.5 y 4.0) proporcionaban consejos ambiguos sobre el uso de pesticidas.<\/p>\n\n\n\n
En otra serie de preguntas, esta vez formuladas por agricultores de ra\u00edz de yuca en Nigeria, el productor de yuca m\u00e1s importante de \u00c1frica, los investigadores evaluaron los m\u00e9todos recomendados para cultivar la planta, que desempe\u00f1a un papel crucial en la seguridad nutricional de decenas de millones de personas en el continente. En este caso, ChatGPT sugiri\u00f3 el uso de herbicidas, pero se equivoc\u00f3 en el momento de la aplicaci\u00f3n de productos qu\u00edmicos, lo que provocar\u00eda da\u00f1os a los cultivos y crisis alimentarias si los agricultores siguieran su consejo.<\/p>\n\n\n\n
“El problema con nuestros hallazgos va m\u00e1s all\u00e1 de los errores del propio algoritmo”, seg\u00fan el Dr. Tzachor. “Muchos nos hab\u00edan advertido sobre posibles errores e imprecisiones. El problema fundamental es la ausencia de salvaguardias contra el uso generalizado de modelos de lenguaje grande, y de la IA en general, en un sistema tan sensible como la agricultura.<\/p>\n\n\n\n
“No hay supervisi\u00f3n de c\u00f3mo se utilizan dichos modelos, ni evaluaci\u00f3n de su idoneidad para el contexto espec\u00edfico, ni responsabilidad por las consecuencias de un uso incorrecto o por las acciones tomadas en base a sus recomendaciones y, en general, no se asume ninguna responsabilidad.<\/p>\n\n\n\n
“En el caso del estudio actual, no estamos discutiendo el uso del chatbot para componer una canci\u00f3n, un gui\u00f3n o una tesis. Estamos tratando con la seguridad alimentaria y la gesti\u00f3n de granjas. Si bien el atractivo del algoritmo es claro , implica riesgos sustanciales”.<\/p>\n\n\n\n
En respuesta a este desaf\u00edo, los investigadores propusieron un proceso idealizado de desarrollo e implementaci\u00f3n de modelos generativos de IA en la agricultura.<\/p>\n\n\n\n
Dr. Tzachor, decano interino de la Escuela de Sostenibilidad y director acad\u00e9mico del Programa de Sostenibilidad y Clima Aviram de la Universidad Reichman, “Por un lado, vemos granjas y extensionistas consultando el modelo de IA disponible gratuitamente. Por otro lado, su uso implica errores, incertidumbres y estimaciones que la agricultura no puede tolerar.<\/p>\n\n\n\n
“Los esc\u00e9pticos y los cr\u00edticos hablan de imprecisiones, pero pocos abordan las consecuencias de estas imprecisiones para las poblaciones vulnerables, como los peque\u00f1os agricultores, en sectores cr\u00edticos como la agricultura. Adem\u00e1s, la cuesti\u00f3n de la responsabilidad, la cuesti\u00f3n de qui\u00e9n es responsable de garantizar el uso seguro de estos modelos siguen en gran medida sin examinar”.<\/p>\n\n\n\n