Los investigadores en China afirman que han desarrollado la primera inteligencia artificial (IA) del mundo capaz de analizar archivos de casos y acusar a las personas de delitos. El dispositivo orwelliano ya puede identificar “disidencia” contra el Estado y sugerir sentencias para supuestos criminales, sacando a las personas del proceso de enjuiciamiento y supervisión humana.
El programa puede presentar un cargo basado en una descripción escrita del caso con un 97% de precisión, afirma el equipo de la Academia China de Ciencias que desarrolló el sistema, pero muchos ven esto como un dispositivo que puede usarse potencialmente para propósitos nefastos. Los casos que el robot puede procesar incluyen delitos comunes que incluyen cosas como “subversión del poder político del Estado” y “sabotaje de la unidad nacional”, delitos vagos que a menudo se imputan a disidentes y que la ONU cree que pueden utilizarse contra la “comunicación de pensamientos o ideas”. El hecho de que una IA pueda enjuiciar una discrepancia en opiniones o creencias poco ortodoxas genera preocupación sobre lo que constituyen estos términos y si el Estado podría usar el sistema para ampliar su definición legal, sin que nadie se responsabilice por las crecientes limitaciones civiles.
Eliminar el proceso de decisión humana del sistema legal
El robot fue construido y probado en la Fiscalía Popular de Shanghai Pudong, la fiscalía de distrito más extensa y concurrida del país, donde el equipo lo ampliará para incluir más delitos y un mayor número de casos. Según el profesor Shi Yong, director del laboratorio de gestión del conocimiento y big data de la Academia China de Ciencias, la tecnología podría reducir la carga de trabajo diaria de los fiscales, permitiéndoles concentrarse en tareas más desafiantes. Aquí casi insinúa una doctrina automatizada con su comentario: “El sistema puede reemplazar a los fiscales en el proceso de toma de decisiones hasta cierto punto”.
El South China Morning Post informó que el algoritmo, una fórmula matemática única que forma la inteligencia artificial, puede ejecutarse en una computadora de escritorio estándar y presentar cargos basados en 1,000 rasgos ilegales o discordantes extraídos de la descripción del caso generado por humanos.
Los ingenieros perfeccionaron la máquina utilizando más de 17.000 casos entre 2015 y 2020. Actualmente, puede identificar y presentar cargos por los ocho delitos más comúnmente cometidos en Shanghai: fraude con tarjetas de crédito, juegos de azar, conducción peligrosa, robo, fraude, lesiones intencionales, obstrucción de deberes oficiales, y “provocar peleas y provocar problemas”, un término utilizado para apaciguar a los inconformistas. Pero, por ahora, el sistema no tiene ningún papel en el proceso de toma de decisiones y no sugiere la duración de las penas de prisión. A pesar de esto, ya existe el temor de que no pueda mantenerse al día con los estándares sociales cambiantes y pueda usarse para someter a “librepensadores” progresistas.
La inteligencia artificial en la aplicación de la ley se está generalizando
La tecnología de inteligencia artificial ya existe en la aplicación de la ley, pero esta sería la primera vez que presenta cargos. Por ejemplo, el reconocimiento de imágenes y la ciencia forense digital ayudan con la carga de casos en Alemania. Al mismo tiempo, China ha utilizado una herramienta conocida como Sistema 206 desde 2016 para evaluar la evidencia, las condiciones para un arresto y si el sospechoso representa algún peligro para el público.
Avanzando en la carrera global de la IA, las autoridades chinas lanzaron el primer tribunal cibernético del país en 2017, permitiendo que las partes en demandas relacionadas con el ciberespacio, como el comercio electrónico, aparezcan a través de video frente a jueces basados en IA. Si bien la idea es ayudar al sistema a lidiar con una gran cantidad de casos, los jueces humanos aún monitorean cada paso antes de tomar una decisión.
Porque tomar tales decisiones requeriría que una máquina identificara y tradujera el lenguaje humano complejo a un formato que una computadora pudiera entender. Se necesita un programa conocido como procesamiento del lenguaje natural (NLP) para analizar texto, grabaciones o imágenes creadas o cargadas por humanos y requiere supercomputadoras a las que los fiscales no pueden acceder. En un paso hacia un sistema de PNL en una computadora básica, el equipo planea actualizar su máquina para reconocer delitos menos comunes y presentar múltiples cargos contra un solo sospechoso.
La IA también se está utilizando para monitorear a los funcionarios del gobierno
Mientras tanto, China está haciendo un uso agresivo de la inteligencia artificial en casi todos los sectores gubernamentales en un intento por mejorar la eficiencia, reducir la corrupción y fortalecer el control. Según los investigadores, algunas ciudades han utilizado máquinas para monitorear los círculos sociales y las actividades de los empleados del gobierno para detectar la corrupción, no se menciona si el Estado utiliza el sistema para detectar rasgos “pendencieros” en los funcionarios o en sus pares.
Mientras tanto, los tribunales del país también han estado utilizando esta tecnología para ayudar a los jueces a procesar documentos legales y tomar decisiones como aceptar o rechazar una apelación. Y la mayoría de las cárceles chinas han adoptado ahora la IA para rastrear el estado físico y mental de los presos, con la intención de reducir la violencia. Esto ocurre en un momento en que las autoridades están utilizando la tortura, la agresión sexual y el trabajo duro para subyugar a los prisioneros, y muchos campos de “reeducación” para minorías religiosas y étnicas ahora operan fuera de la jurisdicción legal.
Un fiscal de Guangzhou, que pidió no ser identificado, expresó su preocupación por el nuevo juez y jurado computarizados: “La precisión del 97% puede ser alta desde un punto de vista tecnológico, pero siempre habrá una posibilidad de error. ¿Quién asumirá la responsabilidad cuando suceda? ¿El fiscal, la máquina o el diseñador del algoritmo? Añadió que muchos fiscales humanos no querrán que las computadoras interfieran en su trabajo, y agregó: “La IA puede ayudar a detectar un error, pero no puede reemplazar a los humanos al tomar una decisión”.
En resumen, será interesante ver qué sucede cuando las circunstancias atenuantes se eliminan de un sistema legal y se reemplazan con un programa único para todos.
Fuente: ZME Science.
