Saltar al contenido

JUEZ ROBOT: ¿Garantía o Violación? A cargo de Ana Ojeda

AD 180/2020

JUEZ ROBOT: ¿Garantía o Violación?

Ana Gabriela Ojeda Caracas[1]

Introducción

La irrupción de la tecnología en el derecho para algunos, se erige como un “fenómeno” relativamente nuevo y proporcionalmente directo a la aparición del covid-19.

Sin embargo, en este artículo vamos a desmitificar algunas de esas nociones, paseándonos por el uso de la inteligencia artificial, nos adentraremos en la figura de los jueces robots, donde haremos hincapié a los fines de analizar cuan idóneos, legales, y necesarios son para la evolución del derecho global.

Sumario: Introducción, I- Derecho vs Tecnología: la histórica antinomia, II. La inteligencia artificial y los jueces robot, III- Principales obstáculos en materia de derechos fundamentales. Conclusiones

1.- Derecho vs Tecnología: la histórica antinomia

     La forma en que las personas se comunican hoy en día es radicalmente diferente si la comparamos con unos años atrás.

     Es evidente que las nuevas tecnologías han supuesto una revolución y un nuevo punto de partida a este respecto; Internet y sus redes sociales, así como los Smartphone abren un amplio abanico de posibilidades a la hora de que una persona se quiera comunicar con otra. 

     Pero este gran cambio no se limita solo a las relaciones personales entre familia, amigos y/o conocidos, hoy en día es muy común comunicarse a través de estos medios para realizar gestiones personales de índole administrativo como: búsqueda de empleo, de una vivienda, de un negocio, gestiones bancarias. Entre otras muchas posibilidades. 

    Todos estos cambios se agrupan dentro de lo que se conoce como las TIC (Tecnologías de la Información y Comunicación) este término, agrupa tanto los elementos como las técnicas utilizadas en el proceso de tratamiento y transmisión de la información, principalmente se refiere al ámbito informático de Internet y las telecomunicaciones. 

La Sociedad de consumo e información avanza vertiginosamente en el campo tecnológico, los cambios han sido notables e indiscutibles desde la aparición del correo electrónico en el año 2000. En el universo jurídico los mayores avances tecnológicos para los abogados eran la actualización de software de Windows, paquetes de office y la aparición de Smartphone, Tablets o laptops ya que históricamente la profesión se mantuvo distante del uso de la tecnología para resolver problemas legales, por la creencia de que las actividades profesionales de los abogados se encontraban estrictamente ligadas a un riguroso proceso físico-mental que no requería la intervención de  tecnologías de la información y la comunicación.

Alguno de los cambios más notables, se produjo con el reconocimiento y otorgamiento de validez procesal a los mensajes de datos y a la firma electrónica, lo que supuso un histórico avance posiblemente el antecedente más claro de la inserción de la tecnologías de la información y la comunicación en el derecho, como consecuencia de la adopción de la Ley modelo de la CNUDMI[2] (Comisión de las naciones unidas para el derecho mercantil internacional) sobre comercio electrónico.

A pesar del reconocimiento de las firmas electrónicas y mensajes de datos por parte de la Cnudmi y los avances legislativos en Latinoamérica y parte de Europa, la innovación tecnológica tal como se esperaba, no logró impactar realmente el ejercicio del derecho como un todo, entendido como un ecosistema en el cual no solamente participan abogados y clientes, sino jueces, secretarios, y otros funcionarios.

2.- Inteligencia artificial y los jueces robots

     Es un hecho cierto que el uso de la tecnología, generalmente causa resistencia, rechazo, desdén o desprecio por los grupos menos cercanos a ella, tales como los denominados “Boomers”[3] (Ver imagen) quienes oscilan en un margen de edad que va desde los 55 hasta los 73 años de edad.

Curiosamente, los académicos y juristas que más se han opuesto a la disrupción de la tecnología en el derecho, califican como “boomers” según su rango de edad. Lo cual permite entender, porque el rechazo a la posibilidad de que el derecho como ciencia jurídica se apoye en herramientas tecnológicas que prima facie no pretende sustituir en lo inmediato a la figura del juez tradicional (físico) como se conoce.

Sin embargo y a los fines de ir contextualizando, es propicio conceptualizar la inteligencia artificial. En ese sentido, Álvaro Martin[4] de la BBVA, la define como:

“La inteligencia artificial es el nombre genérico que se da a una serie de tecnologías que sirven para emular al intelecto humano”

Este  concepto no es nada nuevo, remota sus orígenes al año 1956 en el Dartmouth College, en Hanover (Estados Unidos), durante un curso organizado por cuatro investigadores estadounidenses: John McCarthy, Marvin Minsky, Nathaniel Rochester y Claude Shannon. Desde ese momento, la expresión “inteligencia artificial”, se dió a conocer. Siendo una herramienta de la informática que ha crecido de forma constante con el paso del tiempo y las tecnologías que se han desarrollado gracias a la IA, sin lugar a dudas están cambiando la forma en la que los seres humanos interactuamos con el mundo exterior.

Es decir a través de la inteligencia artificial se desarrollan una serie de herramientas tecnológicas, que permiten a los programadores, desarrollar softwares que intentan y consiguen imitar en muchos casos la lógica y el razonamiento humano ante ciertas situaciones.

Dentro de este cumulo de nuevas situaciones, que comienzan a regularse o a mejorarse a través de la IA, tenemos la aplicación de la inteligencia artificial en el derecho, sin embargo y por temas de extensión del formato, vamos a tocar en esta ocasión exclusivamente el punto medular que define la interrogante de este artículo: ¿Jueces robots: utopía o realidad?.

Existen iniciativas interesantísimas, en materia de actividad o función jurisdiccional e inteligencia artificial que abordan de formas similares, la instauración de un modelo judicial en la que se incorporen los jueces-robots. Por el formato de este articulo web, nos centraremos en los dos casos más relevantes: Nos referiremos al gigante asiático: China y al gigante Europeo: Estonia.

Vemos como Asia se erige como el continente que ha sido pionero en esta rama, secundado por Europa, seguido por Norteamérica y recientemente América latina quien ha comenzado a dar sus primeros pasos en esta materia, gracias a los avances que argentina y Colombia están generando.

Pero al hablar de jueces-robots, ciertamente existe todavía mucha confusión al determinar o intentar contextualizar la forma en la que estos se desarrollan o la manera en la que aportan herramientas al sistema judicial de cada país.

Primeramente debemos decir que la iniciativa del juez-robot surge en con Xiao fa, El primer asistente artificial utilizado en China, cuya traducción al español seria: “derecho pequeñito” o “ley pequeñita, teniendo su primer piloto en el año 2004 en Shandong y utilizado para la resolución de algunos asuntos menores de derecho penal. Este software denominado Xiao fa, fue diseñado estudiar y analizar 100 delitos, teniendo como estandarizar condenas y generar automáticamente borradores de sentencias. Xiao Fa fue el primer paso para llegar la consolidación que ya está logrando China en materia de juzgados electrónicos, como por ejemplo los ya instaurados tribunales cibernéticos, con sedes en Pekín y Guangzhou. Los mismos son tienen competencia funcional para decidir causas relacionadas a comercio electrónico y propiedad intelectual.

Seguidamente se hace imperante mencionar el caso Estonia, por ser un país digitalizado al 98% de sus actividades económicas, sociales, académicas y jurídicas. Desde los primeros avances con el salto del tigre, pasando por sus más recientes updates sobre ciudadanía digital transfronteriza, tenemos que en estonia, se ha impulsado desde el año 2018, un proyecto liderado por el joven Ott Velsberg[5], quien actualmente funge como director de datos en el gobierno de Estonia.

Velbett ha propuesto y dirige un plan en el que la inteligencia artificial y machine learning proponen incidir de manera directa en la vida de 1,3 millones de ciudadanos estonios, que ya previamente se encuentran identificados electrónicamente con una tarjeta de identificación nacional con la cual pueden realizar una multiplicidad de actividades cotidianas en línea tales como: Requerir informes médicos, recetas médicas, solicitar calificaciones académicas, votar, constituir compañías, pagar impuestos, abrir y manejar cuentas bancarias y un sinfín de operaciones que ciertamente califican a estonia como el país más propicio para desarrollar e implementar el juez robot.  

El gobierno estonio posee una base de datos que lleva por nombre X-ROAD, en la cual las distintas bases de datos, se conectan entre sí, generando una absolutamente infraestructura digital que facilita el intercambio de datos entre el gobierno y los ciudadanos, y entre el gobierno y sus instituciones.

La idea que ha propuesto Velsberg en cuanto al juez robot, es básicamente la creación de “jueces robot” en juicios menores, es decir aquellos litigios en los que los montos de las disputas sean de 7000 euros o menos. Se cree que con la implementación de este sistema de IA, la actividad jurisdiccional estonia podría verse positivamente afectada por un incremento sustancial de la rapidez en la que los jueces y funcionarios dan respuesta a los casos.

Actualmente China ya posee jueces robots, que si bien no conocen o deciden litigios de alto impacto, referidos a controversias, si ayudar a decidir asuntos no-contenciosos o causas de menor cuantía, referidas a infracciones, multas e incluso determinación de impuestos.

Por lo que podemos concluir en este acápite, que tanto en China como en Estonia, todavía los Jueces Robots, tal como se ha querido hacer ver por la social media y el boom mediatico, no existen. Lo que si se ha desarrollado hasta la fecha son herramientas desarrolladas a raíz de IA,  que si bien no encuadran dentro de lo que sería un juez robot- si lo harían dentro de lo que sería un asistente-robot; podemos mencionar brevemente los casos:

Estados unidos, y el Correctional Offender Management Profiling for Alternative Sanctions [COMPAS], una herramienta diseñada para, a partir de la filtración y estudio exhaustivo de una extensa base de datos, extraer posibles probabilidades de que un presunto infractor vuelva a cometer la falta. Es decir, este sistema ayuda a predecir el riesgo de comisión de nuevas infracciones legales, orientando y sirviendo de complemento al juez en la toma de decisiones.

También China, en la provincia, se reporta que utiliza desde julio de 2016 Intelligent trial 1.0, que es un sistema de asistencia virtual basado en el manejo de datos, la cual ha generado resultados, que han facilitado, la resolución de 150.000 casos. reduciendo en una tercera parte los asuntos sin resolver de los jueces.

Colombia, ha anunciado este año[6] que adquiere un software denominado pretoria un sistema que puede “leer”, detectar, predecir y elaborar resúmenes sobre miles de sentencias en pocos segundos. El software se basa en la experiencia Prometea, el programa que utiliza el Ministerio Público Fiscal de la Ciudad de Buenos Aires. La nota de prensa desarrollada en Infobae Por Desirée Jaimovich explica que para tener una idea de la agilización que esto representa para la tarea judicial hay que calcular que una persona demora, en promedio, en leer y armar un resumen sobre una sola sentencia unos 27 minutos, explican los creadores de este sistema. Y la Corte de Colombia recibe, en promedio, 2.700 acciones de tutela (amparos) por día.

Argentina con Augusta, ha logrado algo increíble, ya que no han tenido que comprar software extranjero o privado sino que el mismo Departamento de Desarrollo Informático dependiente de la Subsecretaría de Tecnología Informática de la Suprema Corte de Justicia de la Provincia de Buenos Aires, ha desarrollado este software[7], que permite dar la asistencia integral en la gestión de causas de los organismos jurisdiccionales de diferentes instancias y fueros.

Allí se registran datos de los casos a partir de la demanda y luego todos los pasos procesales, las partes o personas intervinientes, documentación anexa y aquella información que contribuya a la gestión de los mismos.

El sistema asiste en el despacho del organismo con una biblioteca de modelos propias al organismo y /o genéricas. Cuenta con la posibilidad de agendar vencimientos y /o hitos destacables y calcular plazos judiciales.

3.- Principales Obstáculos en materia de derechos fundamentales

     De instaurarse efectivamente jueces robots en los tribunales, lo cual a juicio de quien acá escribe, resultaría poco factible en el mediano plazo, ya que a la fecha no se ha logrado a través del machine learning, concientizar realmente al robot- es decir, enseñarlo a pensar, a sentir, a razonar como humano, como hombre, como mujer, como juez. Debemos advertir una afectación peligrosa a los derechos fundamentales, ya que estos cambian en el mundo virtual, produciéndose mutaciones que resultan positivas y negativas en simultáneo. Pudiendo ejemplificarlas de la siguiente forma:

     Respecto al derecho al debido proceso: Ya que todas las personas tienen el derecho de acceder en igualdad de condiciones a la justicia, de que se les tramite un juicio justo, en el que se respeten todas las garantías constitucionales. Por ejemplo en Venezuela, el artículo 49 de la Constitución Nacional, señala que el debido proceso comprende:

Articulo 49

El debido proceso se aplicará a todas las actuaciones judiciales y administrativas; en consecuencia:

1. La defensa y la asistencia jurídica son derechos inviolables en todo estado y grado de la investigación y del proceso. Toda persona tiene derecho a ser notificada de los cargos por los cuales se le investiga, de acceder a las pruebas y de disponer del tiempo y de los medios adecuados para ejercer su defensa. Serán nulas las pruebas obtenidas mediante violación del debido proceso. Toda persona declarada culpable tiene derecho a recurrir del fallo, con las excepciones establecidas en esta Constitución y la ley.


2. Toda persona se presume inocente mientras no se pruebe lo contrario.


3. Toda persona tiene derecho a ser oída en cualquier clase de proceso, con las debidas garantías y dentro del plazo razonable determinado legalmente, por un tribunal competente, independiente e imparcial establecido con anterioridad. Quien no hable castellano o no pueda comunicarse de manera verbal, tiene derecho a un intérprete.


4. Toda persona tiene derecho a ser juzgada por sus jueces naturales en las jurisdicciones ordinarias, o especiales, con las garantías establecidas en esta Constitución y en la ley. Ninguna persona podrá ser sometida a juicio sin conocer la identidad de quien la juzga, ni podrá ser procesada por tribunales de excepción o por comisiones creadas para tal efecto.


5. Ninguna persona podrá ser obligada a confesarse culpable o declarar contra sí misma, su cónyuge, concubino o concubina, o pariente dentro del cuarto grado de consanguinidad y segundo de afinidad.
La confesión solamente será válida si fuere hecha sin coacción de ninguna naturaleza.


6. Ninguna persona podrá ser sancionada por actos u omisiones que no fueren previstos como delitos, faltas o infracciones en leyes preexistentes.


7. Ninguna persona podrá ser sometida a juicio por los mismos hechos en virtud de los cuales hubiese sido juzgada anteriormente.


8. Toda persona podrá solicitar del Estado el restablecimiento o reparación de la situación jurídica lesionada por error judicial, retardo u omisión injustificados. Queda a salvo el derecho del o de la particular de exigir la responsabilidad personal del magistrado o de la magistrada, del juez o de la jueza; y el derecho del Estado de actuar contra éstos o éstas.

Del citado artículo podemos extraer otras garantías que se verían menoscabadas con la instauración de jueces robots que decidan causas, sentencien y condenen o absuelvan a la parte perdidosa en un litigio.

     Respecto al derecho de acceder ante la justicia: La brecha digital que existe actualmente es lo suficientemente grande y notoria como para saber que no todos los ciudadanos pueden acceder efectivamente ante tribunales virtuales, bien sea porque no poseen conectividad a internet (aun cuando este ha sido catalogado dentro de los ODS 2030 como derecho fundamental) o porque simplemente son parte de esa generación de “Boomers” o “Baby boomers” que no fueron arropados por la evolución tecnológica o que sencillamente no cuentan con las herramientas de aprendizaje para desenvolverse en ambientes puramente virtuales. Por ende, acceder ante tribunales liderados por robots supondría acentuar de manera exponencial esa brecha digital, dejando en estado de indefensión a un sector de la población al no poder acceder efectivamente ante la justicia.

     Respecto al derecho de la doble instancia: Cabe preguntar, ¿Si se instauran jueces robots en los tribunales, sigue substiendo el derecho a la doble instancia? Entendido este como una garantía en cualquier Estado de Derecho, el cual consiste en la posibilidad de acudir ante un juez, normalmente el superior jerárquico del que ha resuelto, para que revise la sentencia condenatoria o desfavorable a la parte que recurre.

     Y la pregunta surge, porque se parte de la premisa de que todas las decisiones del juez deben estar plenamente fundamentadas, es decir, el juez al decidir un caso debe realizar un análisis exhaustivo de todo el material probatorio presentado por las partes (principio de exhaustividad) para finalmente determinar el fallo y explicar o motivar las razones de hecho y de derecho que le condujeron a esa decisión (principio de motivación del fallo).

     ¿Estarían entonces los jueces robots capacitados para razonar, motivar, entender, sentir, sufrir y vivir el proceso de la misma forma en la que un juez natural lo hace? ¿Son tan profundos los avances de la inteligencia artificial para orientar a los robots a tomar decisiones utilizando las reglas de la sana crítica? ¿Posee el robot máximas de experiencia? Hasta el momento la respuesta es un rotundo: No.

Respecto al derecho de conocer a los jueces naturales: El ordinal 4 del artículo 49 de la Constitución venezolana, establece el derecho a conocer a los jueces naturales, según el cual:


4. Toda persona tiene derecho a ser juzgada por sus jueces naturales en las jurisdicciones ordinarias, o especiales, con las garantías establecidas en esta Constitución y en la ley. Ninguna persona podrá ser sometida a juicio sin conocer la identidad de quien la juzga, ni podrá ser procesada por tribunales de excepción o por comisiones creadas para tal efecto.

Surgen otras interrogantes: ¿Tendrán los robots capacidad jurídica? ¿Serán considerados personas? ¿En un futuro mediato podremos decir que un juez robot califica para lo que conocemos como juez natural? ¿Qué garantías tienen las partes en un proceso de que ese juez robot, diseñado por hombres, perfeccionado por hombres y manipulado por hombres, fallará imparcialmente, atendiendo a lo alegado y probado en el proceso? ¿De qué forma las partes pueden controlar la posibilidad de que este juez robot no sea víctima de un cyber-ataque en el que a través de un virus o de hackeo por “piratas virtuales” se favorezca a uno de los oponentes en juicio? ¿Tendrán los robots que cumplir normas éticas al igual que lo hacen (o deberían de hacer) los jueces naturales? Y finalmente. ¿Podrán algún día los robots emular el razonamiento humano como un todo y no como una minúscula parte algorítmica mecanizada que solo les permite reproducir, y dar respuestas en ciertos procesos? Hasta noviembre de 2020 parece que no.

Conclusiones

     La tecnología, y especialmente la inteligencia artificial aplicada al derecho. Aporta elementos buenos y malos. Por ejemplo: negativos: violación al derecho a la privacidad, e intimidad de las personas, honor, protección de datos, todo traducido en riesgos elevadísimos, ya que en esta era 3.0 se haya altamente difícil garantizar la privacidad, ante la masificación de ciber-ataques.

     Al mismo tiempo, como ejemplos positivos, podemos decir que la IA aporta la posibilidad de mejorar la libertad de expresión, nuevas formas de comunicación y nuevas formas de acceder a la justicia.

     Todos estos avances nos están haciendo debatir, encontrar y estudiar una nueva gama que antes ciertamente no conocíamos, tales como, como por ejemplo el derecho a la neutralidad tecnológica, el derecho a igualdad frente a la brecha digital, el derecho al olvido, entre todos. Lo cierto es que son novísimos derechos.

    El futuro es inquietante y desconcertante. ¿Veremos finalmente a los robots como titulares de derechos y obligaciones? ¿Serán los ciborgs-humanos ciudadanos digitales? (En este punto recomiendo a los lectores dar un vistazo al articulo sobre ciudadanía digital de nuestra autoría el cual adjuntamos en este link https://adefinitivas.com/adefinitivas-internacional/ciudadania-digital/ )

    Ciertamente resulta emocionante y terrorífico en simultaneo el futuro de la justicia a nivel global. 

Ana Gabriela Ojeda

18 de noviembre de 2020



[1]Universidad Gran Mariscal de Ayacucho (Ugma) Abogada Cum Laude. Especialista en Derecho Procesal Civil Ugma. Especialista en Derecho del Trabajo Ugma. Fundadora de Legalrocks Lawyers. Blogger en www.derechovenezolano.wordpress.com  www.adefinitivas.com  Miembro de la Comisión de Derecho Civil de la Sociedad Peruana de Derecho. Email: ojedacaracas@gmail.com

[2] Ley modelo de la Cnudmi sobre comercio electrónico (texto adoptado por la Cnudmi en su 29°periodo de sesiones 28 de mayo-14 de junio de 1996) Pdf en https://www.uncitral.org/pdf/spanish/texts/electcom/05-89453_S_Ebook.pdf

[3]Según la definición de EE.UU., los baby boomers son los nacidos entre 1946 y 1964, cuando algunos países experimentaron un repunte de las tasas de natalidad tras la Segunda Guerra Mundial. Pero en España fue diferente. El baby boom español no llego hasta hasta 1957 y hasta 1977, cuando nacieron en España 14 millones de bebés, según el Instituto Nacional de Estadística https://www.newtral.es/boomers-x-millennials-z-y-ahora-los-alfa-asi-se-crean-las-generaciones/20200216/

[4]https://www.bbva.com/es/que-es-la-inteligencia-artificial/

[5]Ott Velsberg es el Oficial Jefe de Datos del gobierno estonio, supervisando el gobierno y la ciencia de los datos en el gobierno estonio. Entre otras cosas, su misión es liderar el desarrollo de los servicios del gobierno usando inteligencia artificial. También es investigador doctorado en el departamento de informática de la Universidad de Umeå y Uppsala. Sus investigaciones se concentran en el uso de los sistemas de información en el sector público, con especial atención al uso de la Internet de las Cosas (IO) https://www.crunchbase.com/person/ott-velsberg

[6]https://www.infobae.com/tecno/2020/07/28/la-justicia-de-colombia-usara-un-sistema-de-inteligencia-artificial-basado-en-un-desarrollo-argentino/

[7]http://www.scba.gov.ar/subinformacion/augusta.asp?


ANA GABRIELA OJEDA


Abogada

Especialista en Derecho Procesal Civil y del Trabajo

CEO Legalrocks Lawyers

Instagram: anagoc23
Twitter: ojedacaracas
LinkedIn: Ana Gabriela Ojeda Caracas

Deja un comentario

A %d blogueros les gusta esto: