La jueza del Tribunal Superior de Justicia de Inglaterra y Gales, Victoria Sharp, debi\u00f3 de tener un d\u00eda muy extra\u00f1o. Al revisar las citaciones de casos presentadas por los abogados, se dio cuenta de algo impactante: muchas de ellas simplemente no exist\u00edan.<\/p>\n\n\n\n
Al parecer, los abogados hab\u00edan recurrido a la IA generativa para su investigaci\u00f3n y, como suele ocurrir, la IA alucin\u00f3 y fabric\u00f3 jurisprudencia. El Tribunal Superior, encargado de los casos civiles de alto perfil en el Reino Unido, advirti\u00f3 que citar casos inexistentes podr\u00eda conllevar desacato judicial o incluso cargos penales. Sin embargo, es poco probable que esto detenga la creciente presencia de la IA en la pr\u00e1ctica jur\u00eddica.<\/p>\n\n\n\n
Es f\u00e1cil se\u00f1alar a estudiantes que usan IA para hacer trampa en sus tareas, pero esta tendencia ya se ha extendido a los c\u00edrculos jur\u00eddicos profesionales. En un tribunal fiscal del Reino Unido en 2023, una apelante present\u00f3 nueve casos falsos como “precedentes”. Cuando se revel\u00f3 que los casos no eran reales, admiti\u00f3 que era “posible” que hubiera usado ChatGPT. En otro caso de 2023 en Nueva York, un tribunal se sumi\u00f3 en el caos cuando un abogado fue retado a presentar<\/a> los casos ficticios que cit\u00f3.<\/p>\n\n\n\n Pasemos ahora a una demanda reciente por 90 millones de libras (120 millones de d\u00f3lares) que involucra al Banco Nacional de Qatar, donde se citaron 45 jurisprudencias, de las cuales 18 resultaron ser falsas. Varias otras inclu\u00edan citas inventadas. El demandante admiti\u00f3 haber utilizado herramientas de inteligencia artificial<\/a> disponibles p\u00fablicamente para la redacci\u00f3n de documentos legales.<\/p>\n\n\n\n En otro caso, un centro legal demand\u00f3 a un municipio londinense por no proporcionar alojamiento temporal. El abogado cit\u00f3 casos fantasma cinco veces y no pudo explicar por qu\u00e9 nadie los encontraba. Si bien no admiti\u00f3 haber usado IA, afirm\u00f3 que podr\u00edan haber aparecido mediante b\u00fasquedas en Google o Safari, que ahora incluyen contenido generado por IA. No hace falta decir que los jueces no se divirtieron.<\/p>\n\n\n\n \u201cEl mal uso de la inteligencia artificial tiene graves consecuencias para la administraci\u00f3n de justicia y la confianza p\u00fablica en el sistema judicial\u201d, afirm\u00f3 la jueza Victoria Sharp en un\u00a0fallo escrito<\/a>.<\/p>\n\n\n\n Sharp admiti\u00f3 que la IA tiene un gran potencial que puede ser \u00fatil en los tribunales, pero enfatiz\u00f3 que existe una gran necesidad de una supervisi\u00f3n estricta.<\/p>\n\n\n\n “La inteligencia artificial es una tecnolog\u00eda poderosa. Puede ser una herramienta \u00fatil en litigios, tanto civiles como penales \u2014dice la sentencia\u2014. Sin embargo, esto conlleva una salvedad importante. La inteligencia artificial es una herramienta que conlleva riesgos, as\u00ed como oportunidades. Por lo tanto, su uso debe realizarse con un grado adecuado de supervisi\u00f3n y dentro de un marco regulatorio que garantice el cumplimiento de est\u00e1ndares profesionales y \u00e9ticos bien establecidos, si se desea mantener la confianza p\u00fablica en la administraci\u00f3n de justicia”.<\/p>\n\n\n\n \u201cEn esas circunstancias, quienes tienen responsabilidades individuales de liderazgo en la profesi\u00f3n jur\u00eddica\u2026 y quienes tienen la responsabilidad de regular la prestaci\u00f3n de servicios jur\u00eddicos deben adoptar medidas pr\u00e1cticas y eficaces\u201d.<\/p>\n\n\n\n Sharp emiti\u00f3 una “resoluci\u00f3n regulatoria” sobre\u00a0el uso de IA<\/a>. Si bien no se trata de una ley aprobada por el Parlamento), una resoluci\u00f3n regulatoria tiene peso normativo dentro de la profesi\u00f3n jur\u00eddica y establece un marco para abordar diversas situaciones. Si los abogados contin\u00faan citando casos alucinados, las consecuencias podr\u00edan incluir amonestaciones p\u00fablicas, sanciones econ\u00f3micas, \u00f3rdenes de costos no justificados, procedimientos por desacato e incluso remisiones a la polic\u00eda.<\/p>\n\n\n\n \u201cCuando no se cumplen esas obligaciones, las facultades del tribunal incluyen la amonestaci\u00f3n p\u00fablica al abogado, la imposici\u00f3n de una orden de costos, la imposici\u00f3n de una orden de costas perdidas, la desestimaci\u00f3n del caso, la remisi\u00f3n a un regulador, el inicio de un procedimiento de desacato y la remisi\u00f3n a la polic\u00eda\u201d.<\/p>\n\n\n\n Pero, como ocurre con tantos problemas tecnol\u00f3gicos, este es otro ejemplo de c\u00f3mo la tecnolog\u00eda avanza m\u00e1s r\u00e1pido<\/a> que las normas. Herramientas de IA como ChatGPT ya se utilizan para redactar argumentos legales, pero no existe un est\u00e1ndar profesional global sobre c\u00f3mo usarlas de forma segura y responsable.<\/p>\n\n\n\n La IA evoluciona r\u00e1pidamente, pero las normas, la educaci\u00f3n y la supervisi\u00f3n necesarias para usarla responsablemente se est\u00e1n quedando atr\u00e1s. En este caso, se trat\u00f3 de un abuso flagrante, pero es posible que ya se est\u00e9n detectando alucinaciones m\u00e1s sutiles. Si la precisi\u00f3n y la veracidad ni siquiera pueden exigirse en los tribunales, esto no augura nada bueno para el resto de la sociedad.<\/p>\n\n\n\n\u00bfQu\u00e9 pasa ahora?<\/h2>\n\n\n\n