AD 4/2023
INTELIGENCIA ARTIFICIAL Y DERECHO
Abstract: En un momento en que la tecnología se introduce en distintos sectores de nuestra sociedad y convivimos a diario con posibles usos novedosos de la inteligencia artificial, es conveniente hacer un análisis de lo que estos conceptos implican y de si realmente pueden utilizarse en el ámbito de la administración de justicia sin poner en riesgo los derechos de la ciudadanía.
Palabras Clave:
- Inteligencia artificial.
- Redes neuronales artificiales.
- Robots.
- Sistemas expertos.
- Machine learning.
- Deep learning.
- Independencia judicial.
- Algoritmos.
- Datos.
- Sesgos.
En los últimos tiempos es difícil no encontrar, a diario, referencias a la inteligencia artificial. Siempre que leo algún titular al respecto -porque confieso que soy tan escéptica que con frecuencia no voy más allá- pienso lo mismo: la inteligencia artificial, ni es inteligencia ni es artificial.
Este pensamiento, que es una obviedad para cualquiera que haya entendido aunque sea un poco lo que subyace tras este concepto, parece no alcanzar a la generalidad de una sociedad que proclama que la inteligencia artificial sustituirá a profesiones diversas. Recientemente ha llamado mi atención el hecho de que la inteligencia artificial pueda asumir el trabajo de abogados y jueces y, desde el conocimiento que me dan la experiencia profesional y el contacto constante con la función jurisdiccional y con nuestro trabajo y el de otros operadores jurídicos, he dudado de la bondad de este sistema en el ámbito de la administración de justicia.
Definir la inteligencia no es tarea sencilla. Así la RAE recoge acepciones diversas que hacen hincapié en aspectos tales como la capacidad de entender o la de resolver problemas; el conocimiento, la comprensión y el acto de entender; el sentido en que se puede tomar una proposición, dicho o expresión o la habilidad, la destreza y la experiencia. No todas estas facetas son susceptibles de ser asumidas por una inteligencia artificial. La misma RAE define la inteligencia artificial como la disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico.
Esta definición se aproxima bastante a la que, simplificada, admiten los expertos en tanto que intento de imitar la inteligencia humana usando un robot, o un software. A esto hay que añadir, para una mejor comprensión, que ya en el año 2009 Stuart Russell y Peter Norvig diferenciaron cuatro tipos de inteligencia artificial: los sistemas que piensan como humanos -redes neuronales artificiales-, los sistemas que actúan como humanos -robots-, los sistemas que usan la lógica racional -sistemas expertos- y los sistemas que actúan racionalmente -agentes inteligentes-.
Estas formas de inteligencia artificial son la culminación de trabajos iniciados hace más de dos mil años cuando Aristóteles trataba de convertir en reglas la mecánica del pensamiento humano; o hace casi seiscientos años cuando Leonardo Da Vinci se esforzaba en construir máquinas que se comportaran como humanos. Pero es en 1936, cuando Alan Turing descifró los códigos secretos nazis de la mítica máquina Enigma, cuando se inicia el proceso de la inteligencia artificial moderna; que culmina en 1950 con su Test de Turing, una prueba que define si una máquina es o no inteligente.
Como nos sucede a nosotros, una inteligencia artificial debe aprender a realizar una tarea y entrenarse para ella con análisis de sus aciertos y sus fallos; de forma que cuanto más entrene, mejor lo hará y conseguirá trabajar sin un programa que le diga qué pasos ha de seguir en aquellos casos en que tenga que realizar tareas mecánicas o repetitivas o cuando trabaje con el lenguaje humano, como un asistente virtual.
En el caso de que asumiéramos la posibilidad, con garantía de los derechos constitucionales que presiden el ejercicio de la función jurisdiccional y de la abogacía, de que la inteligencia artificial irrumpiera en el día a día de la administración de justicia, se trataría de un sistema experto que intentaría emular a un experto humano en esta materia.
Para formarse, y ejecutar la importante función encomendada, seguiría un proceso de aprendizaje automático o machine learning, un entrenamiento que genera una experiencia y una puesta en práctica que nos dice si la tarea se cumple o no con éxito. Este aprendizaje automático puede ser supervisado o no supervisado. En el primer caso hay un humano que le dice lo que hace bien o mal. En el no supervisado, es la propia inteligencia artificial quien tiene que aprender a descubrir lo que hace bien y lo que hace mal, en función de unas reglas prefijadas.
Si siguiera un proceso de aprendizaje profundo o deep learning, con el objetivo de abarcar más y procesar más datos al mismo tiempo, utilizaría redes neuronales para aprender usando capas de información cada vez más abstractas, como hacemos los humanos. El aprendizaje profundo es esencial para trabajar con el Big Data, o grandes cantidades de datos.
En el ámbito del derecho en España son muchas las herramientas de que disponemos los profesionales para beneficiarnos de lo que la inteligencia artificial puede ofrecernos en nuestro trabajo de despacho y que es, de forma indiscutible, el análisis jurisprudencial que permite definir la estrategia procesal más idónea para el éxito del caso, a través del análisis cognitivo de millones de decisiones judiciales; y el análisis de escritos y/o formularios para relacionarlos con bases de datos y ofrecer apoyo documental.
Cuestión distinta es si otros pretendidos beneficios de la inteligencia artificial tienen una incidencia real en nuestro día a día y van más allá de la mera gestión de despacho –organizar bases de datos de clientes o casos; analizar Big Data; realizar un seguimiento de las acciones llevadas a cabo por abogados u otros agentes jurídicos; clasificar, analizar y actualizar textos legales y normas; estudiar jurisprudencia y nuevos campos jurídicos; organizar información legal de forma eficiente y automatizada; optimizar resultados en términos de productividad, competitividad y transparencia- y de la simplificación del trabajo en la fase inicial -reducir el tiempo que se emplea en trámites; investigar documentación; liberar de las tareas más mecánicas o resolver casos aplicando la lógica jurídica-.
Si uno de los usos cuya practicidad es más difícil de cuestionar es el estudio de resoluciones previas en la misma materia, el análisis de casos de éxito que nos permita escoger una estrategia procesal con más posibilidades de éxito, y si generalizáramos su utilización, ¿dónde quedaría la audacia de los abogados que han abierto camino para reclamaciones que antes nadie se había planteado? Algunas de ellas han permitido, por ejemplo, a miles de personas con la condición de consumidores obtener la declaración de nulidad de algunas de las cláusulas de los contratos que les vinculaban con entidades financieras. ¿Quién impulsaría los cambios jurisprudenciales que han permitido adaptar a la realidad social vigente en cada momento la interpretación de una ley que no cambia al mismo ritmo que nuestros usos y costumbres? ¿En qué lugar quedan, y de qué forma se interpretan, esos asuntos que son idénticos a otros en su objeto y en su planteamiento y sin embargo los juzgados resuelven de formas opuestas?.
En el caso de jueces y magistrados, ¿no está seriamente comprometida su independencia si se someten al resultado de análisis de datos?. ¿Cuál es la relevancia de la prueba, en un sistema presidido por la inteligencia artificial?. Los ejes de la función jurisdiccional perderían toda virtualidad en este escenario. ¿Y las reglas de la sana crítica?
Y finalmente, pero no menos importante, en una época en la que la administración de justicia es víctima de constantes ataques que ponen en tela de juicio su eficacia y su imparcialidad, creando en la ciudadanía una fuerte sensación de desamparo frente a las lesiones de sus derechos, el recurso a la inteligencia artificial puede ser un argumento más para denostar la imagen de la judicatura; presentándola como la solución a unos problemas que en realidad precisarían inversión y dotación de medios personales y materiales y no la sustitución de profesionales cualificados por máquinas.
¿Son los caracteres esenciales de la función jurisdiccional los que precisamente la hacen incompatible con la intervención de la inteligencia artificial? Me refiero a la independencia judicial, principio rector de la actuación de jueces y magistrados de forma que no estén sometidos a instrucciones de terceros y únicamente estén sometidos al ordenamiento jurídico. También a la ajenidad entendida como ausencia de interés por parte del juzgador en la res de qua agitur sobre la que proyecta su función de tutela. Finalmente a la imparcialidad o inexistencia de vínculo entre el juez y las partes o sus representantes.
¿Como garantizar la observancia de estos principios rectores cuando en la programación de la inteligencia artificial es inevitable detectar la presencia de sesgos? El funcionamiento de la inteligencia artificial precisa la concurrencia de dos elementos: algoritmos y datos; el algoritmo da las instrucciones a la máquina y los datos permiten que la máquina aprenda a usar las instrucciones, entrene, y mejore su uso.
Los algoritmos los generan personas y los datos se recopilan según las instrucciones de personas que transmitirán sus sesgos, como cuando educamos a un niño. Al programar algoritmos mostramos prejuicios, opiniones y sesgos que pueden implicar el establecimiento de estrategias procesales distintas en atención al origen racial del implicado, por ejemplo y si se trata de sesgos racistas, o resoluciones judiciales opuestas dependiendo del género de la persona a que la misma afecta.
Nuestra justicia no puede permitirse asumir estos riesgos. Ni los operadores jurídicos debemos asumir que el problema de las carencias de la administración se traslade a la inversión en tecnología y a las investigaciones en este ámbito. Es nuestra responsabilidad denunciar las necesidades de la administración de justicia y exigir rigor en cualesquiera vías que se abran, creando debate y aclarando conceptos desde el respeto, siempre, a los derechos de todos.
Ana Garnelo
2 de febrero de 2023

Licenciada en derecho ejerciente, perteneciente al Ilustre Colegio de Abogados de León. Mediadora
Defensora de la función social de la abogacía y del turno de oficio como máxima expresión de la misma.
Miembro por tanto de la Comisión de Turno de Oficio de la Delegación de Ponferrada del Ilustre Colegio de Abogados de León y letrada adscrita al turno de oficio.
Comprometida con la necesidad de facilitar el acceso a la profesión a quienes se incorporan a la misma desde la presidencia de la Agrupación de Abogados Jóvenes de León.
Convencida de que la justicia atraviesa un momento complicado, con amenazas frente a las cuales no podemos ser indiferentes quienes hemos hecho de su defensa uno de los frentes fundamentales de nuestras vidas. Activista por tanto en redes sociales.
Experta en gestión de redes sociales. Ponente en el I y II Encuentro de
Community Management en el Sector Legal, organizados por el Instituto de Innovación Legal, y coautora de los ebooks “Redes sociales en el sector legal” y “II Encuentro de CM legal”, editados ambos por Lefebvre-El Derecho.
Twitter: @AnnieGarnelo