Los investigadores en China afirman que han desarrollado la primera inteligencia artificial (IA) del mundo capaz de analizar archivos de casos y acusar a las personas de delitos. El dispositivo orwelliano ya puede identificar “disidencia” contra el Estado y sugerir sentencias para supuestos criminales, sacando a las personas del proceso de enjuiciamiento y supervisi\u00f3n humana.<\/p>\n\n\n\n
El programa puede presentar un cargo basado en una descripci\u00f3n escrita del caso con un 97% de precisi\u00f3n, afirma el equipo de la Academia China de Ciencias que desarroll\u00f3 el sistema, pero muchos ven esto como un dispositivo que puede usarse potencialmente para prop\u00f3sitos nefastos. Los casos que el robot puede procesar incluyen delitos comunes que incluyen cosas como “subversi\u00f3n del poder pol\u00edtico del Estado” y “sabotaje de la unidad nacional”, delitos vagos que a menudo se imputan a disidentes y que la ONU cree que pueden utilizarse contra la “comunicaci\u00f3n de pensamientos o ideas”. El hecho de que una IA pueda enjuiciar una discrepancia en opiniones o creencias poco ortodoxas genera preocupaci\u00f3n sobre lo que constituyen estos t\u00e9rminos y si el Estado podr\u00eda usar el sistema para ampliar su definici\u00f3n legal, sin que nadie se responsabilice por las crecientes limitaciones civiles.<\/p>\n\n\n\n
Eliminar el proceso de decisi\u00f3n humana del sistema legal El South China Morning Post inform\u00f3 que el algoritmo, una f\u00f3rmula matem\u00e1tica \u00fanica que forma la inteligencia artificial, puede ejecutarse en una computadora de escritorio est\u00e1ndar y presentar cargos basados \u200b\u200ben 1,000 rasgos ilegales o discordantes extra\u00eddos de la descripci\u00f3n del caso generado por humanos.<\/p>\n\n\n\n Los ingenieros perfeccionaron la m\u00e1quina utilizando m\u00e1s de 17.000 casos entre 2015 y 2020. Actualmente, puede identificar y presentar cargos por los ocho delitos m\u00e1s com\u00fanmente cometidos en Shanghai: fraude con tarjetas de cr\u00e9dito, juegos de azar, conducci\u00f3n peligrosa, robo, fraude, lesiones intencionales, obstrucci\u00f3n de deberes oficiales, y “provocar peleas y provocar problemas”, un t\u00e9rmino utilizado para apaciguar a los inconformistas. Pero, por ahora, el sistema no tiene ning\u00fan papel en el proceso de toma de decisiones y no sugiere la duraci\u00f3n de las penas de prisi\u00f3n. A pesar de esto, ya existe el temor de que no pueda mantenerse al d\u00eda con los est\u00e1ndares sociales cambiantes y pueda usarse para someter a “librepensadores” progresistas.<\/p>\n\n\n\n La inteligencia artificial en la aplicaci\u00f3n de la ley se est\u00e1 generalizando<\/strong><\/p>\n\n\n\n La tecnolog\u00eda de inteligencia artificial ya existe en la aplicaci\u00f3n de la ley, pero esta ser\u00eda la primera vez que presenta cargos. Por ejemplo, el reconocimiento de im\u00e1genes y la ciencia forense digital ayudan con la carga de casos en Alemania. Al mismo tiempo, China ha utilizado una herramienta conocida como Sistema 206 desde 2016 para evaluar la evidencia, las condiciones para un arresto y si el sospechoso representa alg\u00fan peligro para el p\u00fablico.<\/p>\n\n\n\n Avanzando en la carrera global de la IA, las autoridades chinas lanzaron el primer tribunal cibern\u00e9tico del pa\u00eds en 2017, permitiendo que las partes en demandas relacionadas con el ciberespacio, como el comercio electr\u00f3nico, aparezcan a trav\u00e9s de video frente a jueces basados \u200b\u200ben IA. Si bien la idea es ayudar al sistema a lidiar con una gran cantidad de casos, los jueces humanos a\u00fan monitorean cada paso antes de tomar una decisi\u00f3n.<\/p>\n\n\n\n Porque tomar tales decisiones requerir\u00eda que una m\u00e1quina identificara y tradujera el lenguaje humano complejo a un formato que una computadora pudiera entender. Se necesita un programa conocido como procesamiento del lenguaje natural (NLP) para analizar texto, grabaciones o im\u00e1genes creadas o cargadas por humanos y requiere supercomputadoras a las que los fiscales no pueden acceder. En un paso hacia un sistema de PNL en una computadora b\u00e1sica, el equipo planea actualizar su m\u00e1quina para reconocer delitos menos comunes y presentar m\u00faltiples cargos contra un solo sospechoso.<\/p>\n\n\n\n La IA tambi\u00e9n se est\u00e1 utilizando para monitorear a los funcionarios del gobierno Mientras tanto, los tribunales del pa\u00eds tambi\u00e9n han estado utilizando esta tecnolog\u00eda para ayudar a los jueces a procesar documentos legales y tomar decisiones como aceptar o rechazar una apelaci\u00f3n. Y la mayor\u00eda de las c\u00e1rceles chinas han adoptado ahora la IA para rastrear el estado f\u00edsico y mental de los presos, con la intenci\u00f3n de reducir la violencia. Esto ocurre en un momento en que las autoridades est\u00e1n utilizando la tortura, la agresi\u00f3n sexual y el trabajo duro para subyugar a los prisioneros, y muchos campos de “reeducaci\u00f3n” para minor\u00edas religiosas y \u00e9tnicas ahora operan fuera de la jurisdicci\u00f3n legal.<\/p>\n\n\n\n Un fiscal de Guangzhou, que pidi\u00f3 no ser identificado, expres\u00f3 su preocupaci\u00f3n por el nuevo juez y jurado computarizados: \u201cLa precisi\u00f3n del 97% puede ser alta desde un punto de vista tecnol\u00f3gico, pero siempre habr\u00e1 una posibilidad de error. \u00bfQui\u00e9n asumir\u00e1 la responsabilidad cuando suceda? \u00bfEl fiscal, la m\u00e1quina o el dise\u00f1ador del algoritmo? A\u00f1adi\u00f3 que muchos fiscales humanos no querr\u00e1n que las computadoras interfieran en su trabajo, y agreg\u00f3: “La IA puede ayudar a detectar un error, pero no puede reemplazar a los humanos al tomar una decisi\u00f3n”.<\/p>\n\n\n\n En resumen, ser\u00e1 interesante ver qu\u00e9 sucede cuando las circunstancias atenuantes se eliminan de un sistema legal y se reemplazan con un programa \u00fanico para todos.<\/p>\n\n\n\n
<\/strong>El robot fue construido y probado en la Fiscal\u00eda Popular de Shanghai Pudong, la fiscal\u00eda de distrito m\u00e1s extensa y concurrida del pa\u00eds, donde el equipo lo ampliar\u00e1 para incluir m\u00e1s delitos y un mayor n\u00famero de casos. Seg\u00fan el profesor Shi Yong, director del laboratorio de gesti\u00f3n del conocimiento y big data de la Academia China de Ciencias, la tecnolog\u00eda podr\u00eda reducir la carga de trabajo diaria de los fiscales, permiti\u00e9ndoles concentrarse en tareas m\u00e1s desafiantes. Aqu\u00ed casi insin\u00faa una doctrina automatizada con su comentario: “El sistema puede reemplazar a los fiscales en el proceso de toma de decisiones hasta cierto punto”.<\/p>\n\n\n\n
<\/strong>Mientras tanto, China est\u00e1 haciendo un uso agresivo de la inteligencia artificial en casi todos los sectores gubernamentales en un intento por mejorar la eficiencia, reducir la corrupci\u00f3n y fortalecer el control. Seg\u00fan los investigadores, algunas ciudades han utilizado m\u00e1quinas para monitorear los c\u00edrculos sociales y las actividades de los empleados del gobierno para detectar la corrupci\u00f3n, no se menciona si el Estado utiliza el sistema para detectar rasgos “pendencieros” en los funcionarios o en sus pares.<\/p>\n\n\n\n