¿Es el juez-bot el objetivo final de la justicia predictiva?

Creo que es hora de cerrar el estudio sobre la justicia predictiva, comentando la posibilidad/realidad de los jueces-robot, que comenzó con el descubrimiento de la lingüística computacional y la evaluación de las plataformas de análisis jurisprudencial.

Que yo sepa, solo unos pocos países se han enfrentado al concepto «juez-bot» proporcionando dispares respuestas: Estados Unidos, China, Estonia, Argentina y Francia.

Antes de comentar lo que ha hecho cada país, es necesario hablar brevemente de un proyecto de software basado en inteligencia artificial (IA) para predecir los fallos de las sentencias del Tribunal Europeo de Derechos Humanos (TEDH), con una probabilidad de acierto del 79%. Esta investigación fue desarrollada por la University of Sheffield y la University of Pennsylvania en 2016, según se puede leer en la nota de prensa de la universidad británica.

Ese mismo año, Estados Unidos sorprendió cuando la Corte Suprema de Wisconsin aplicó el software Correctional Offender Management Profiling for Alternative Sanctions (COMPAS) de la empresa Northpointe (hoy Equivant) en el caso Loomis. Este algoritmo, que se usaba desde 1998, calcula la probabilidad de que alguien cometa otro delito y sugiere qué tipo de supervisión debería recibir un condenado en prisión. Sus resultados provienen de una encuesta que se le realiza al propio acusado, junto con información sobre su conducta en el último año.

En este caso, la Corte Suprema de Wisconsin publicó su opinión, afirmando que si se usa correctamente, teniendo en cuenta las limitaciones y advertencias del programa, COMPAS no viola el derecho del acusado a un juicio justo. El periódico The New York Times se hizo eco de este hecho en su crónica «In Wisconsin, a Backlash Against Using Data to Foretell Defendants’ Futures«.

Tras revisar la encuesta, sin ser un experto en sociología, se puede advertir que los resultados pueden ofrecer sesgos raciales y económicos. No obstante, como apunta la opinión, siendo conocedor de las limitaciones, se puede utilizar como servicio complementario.

La otra superpotencia, China, dio un paso más allá cuando en 2017 creó el Tribunal de Internet de Hangzhou. Un software que utiliza la tecnología blockchain para reducir la carga de papeles y crear registros más transparentes del proceso judicial para resolver disputas digitales por comercio electrónico y propiedad intelectual.

El asistente artificial del software, con apariencia de mujer, se denomina «Xiao Fa«. La idea original de 2004 fue diseñarla para que analizara cien delitos y estandarizase condenas, generando automáticamente borradores de sentencias. Ello derivó al programa actual, que actualmente se ha extendido a Pekín y en breve a Guangzhou.

Estonia está desarrollando un modelo similar al chino. The Technolawgist publicó en su artículo «Estonia se prepara para tener “jueces robot” basados en inteligencia artificial«, que el proyecto dirigido por Ott Velsberg (Government Chief Data Officer) se encontraba en primera fase en 2019 y se preveía una prueba piloto centrada en disputas contractuales a finales de dicho año.

Su funcionamiento consiste en la carga de los documentos e información relevantes por las dos partes en una plataforma, en donde la IA tomará una decisión, que podrá ser apelada posteriormente ante un juez.

Por otro lado, Argentina ha creado Prometea, un herramienta IA desarrollada por el Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires y la Universidad de Buenos Aires (UBA) para ser un complemento en el desempeño de los fiscales por facilitar una recomendación al juez que dicta sentencia.

El sistema, tras analizar el expediente, indica una posible solución del mismo, basada en probabilidades por repetición de palabras clave de casos cerrados similares. Si el funcionario está de acuerdo con la misma, puede continuar con el proceso obteniendo un borrador del dictamen redactado por el sistema e imprimirlo para ser firmado. Si queréis indagar más en este programa, el Banco Interamericano de Desarrollo (BID) publicó en 2020 el artículo: «Prometea: transformando la administración de justicia con herramientas de inteligencia artificial«.

Francia se ha posicionado de una manera ambigua: por un lado, el artículo 33 de la Loi No 2019-222 du 23 mars 2019 e programmation 2018-2022 et de réforme pour la justice dice que los datos de identidad de los magistrados no pueden ser reutilizados con el propósito o el efecto de evaluar, analizar, comparar o predecir sus prácticas profesionales reales o presuntas. Sin embargo, en su anexo se afirma que el Gobierno francés pretende crear un sistema de información para la toma de decisiones que evolucionará para proporcionar herramientas efectivas para el análisis y la gestión de la actividad a nivel nacional y local. 

Jorge Morell lo explica muy bien en su artículo «Francia prohíbe el uso de Legaltech para predecir las decisiones de los jueces» en el Blog de Innovación Legal del Consejo General de la Abogacía Española (CGAE).

En España, se rumorea que el Consejo General del Poder Judicial (CGPJ) se ha planteado implementar jueces-bots o alguna herramienta complementaria (como Prometea, por la cual se interesaron), pero a día de hoy desconozco si se ha avanzado en el tema. Independientemente de cómo se defina el proyecto, creo esencial que sea desarrollado y gestionado por la Administración Pública porque la Justicia es una materia delicada y controvertida para que una empresa privada haga negocio.

Esta entrada fue publicada en Documentación, Fuentes de información. Guarda el enlace permanente.

1 respuesta a ¿Es el juez-bot el objetivo final de la justicia predictiva?

  1. Anónimo dijo:

    Me parece un tema interesantísimo y a su vez comprometido, al que estamos avocados, sí queremos ponernos al dia y reducir el dilatado retraso que hoy en dia, tienen los juzgados con los señalamientos. Es cierto, que va a ser muy dificil ponerlo en marcha, y decidir según que casos.

Deja un comentario