Saltar al contenido
IA FIABLE

CONTRA LA PLANIFICACIÓN JURÍDICA EUROPEA: EL CASO DE LA IA. A cargo de Elen Irazabal

AD 25/2020

Abstract:

La semana pasada la Unión Europea publicó su Libro Blanco de Inteligencia Artificial, que es el principio de un proceso que llevará a una nueva legislación con el objetivo de regular los sistemas de Inteligencia Artificial.

Keywords:

IA, Libro Blanco, Inteligencia Artificial, Unión Europea

La estrategia de la UE en cuanto a regulación de Inteligencia Artificial, se centra en un claro posicionamiento “ético” del mismo junto con la promoción de un espacio único europeo de datos. En otras palabras, el objetivo principal de la Unión Europea es potenciar el espacio único de datos en Europa compatible con una IA fiable basada en “Valores Europeos”. [1]

Voy a analizar lo que bajo mi punto de vista es importante tener en cuenta a la hora de legislar un sistema complejo como es la Inteligencia Artificial, cogiendo como ejemplo el Libro Blanco y las directrices éticas para una IA fiable publicado por el grupo independiente de expertos de alto nivel.

Vayamos analizando por partes:

Los costes impredecibles de regular:

Desde el inicio del mercado único europeo, prácticamente todas las normas promulgadas se basan en el pretexto de armonizar las regulaciones de los Estados Miembros que generan una fragmentación del mercado único. Dada la armonización de los sistemas jurídicos de los estados miembros bajo el paraguas de la UE, ha conllevado a una centralización en los procesos legislativos.

Uno de los puntos que el Libro Blanco trata son las iniciativas de los estados miembros en adoptar sus respectivas legislaciones sobre la IA,  pero la considera un riesgo puesto que fragmentaría el mercado único por las posibles incompatibilidades entre sí. ¿Pero es este el único coste a valorar?[2]

Aunque la apertura del mercado europeo y la libre circulación es indudablemente beneficiosa, prácticamente no se realiza un cálculo entre el coste y beneficio de aprobar una norma. Cuando la UE abre las puertas, normalmente suele imponer una serie de obligaciones que también genera restricciones de distinta índole a la apertura realizada. Sin embargo, se desconoce el cálculo entre el coste y beneficio de traer una nueva regulación, de los efectos que podría tener esa regulación, del coste de escoger una determinada norma y el coste de tener regulaciones acumuladas (especial atención a este punto dado que ya existen en la UE regulaciones que afectan a la Inteligencia Artificial pero que la UE considera insuficientes). Este problema va ligado al siguiente problema que voy a plantear.

Un sistema complejo:

El principal problema es que un órgano central no puede recabar la información de manera precisa y fiable de todas aquellas relaciones que incorporan la inteligencia artificial en todas sus fases, en tiempo y en espacio. El análisis de situaciones específicas, los incentivos y resultados son de difícil previsión, dificultando un cálculo fiable de costes y beneficios que no dañe los objetivos propuestos.

Pero incluso ante una aceptación y consenso generalizado de las normas, la transformación social y los avances tecnológicos, las situaciones sobre la que las leyes se aplican, cambian.[3] El Libro Blanco considera dejar espacio en el marco regulatorio para atender más desarrollos teniendo en cuenta la rápida evolución de la IA. Apunta que cualquier cambio debe limitarse a problemas claramente identificados para los cuales sean factibles soluciones existentes.[4]

En cambio, se hace difícil imaginar cómo la UE puede llegar a detectar en tiempo y en forma, las adaptaciones legislativas requeridas para afrontar estos cambios cuando el propio proceso legislativo es lento y burocrático. Pero incluso aunque el proceso fuese ágil, ¿cómo la UE puede conocer el punto óptimo entre la innovación y regulación? y ¿qué ocurre con los costes de regular mal y a destiempo? En efecto, las leyes pueden tener consecuencias devastadoras.

La exigencia de la UE para adecuarse a valores que no cumple

Hay una cosa clara que se puede concluir tras leer el Libro Blanco y las directrices éticas para una  IA fiable: Aparte de tomar el rumbo legislativo hacia la “fiabilidad”, La Unión Europea es quién define los principios rectores de la Inteligencia Artificial. Tal y como se desprende de ambos documentos, esos principios tienen en su epicentro los valores de la Unión Europea (derechos humanos, rule of law, democracia…).[5]

Cojamos como ejemplo un fragmento de las directrices éticas de la IA fiable:“A través de una IA fiable, los ciudadanos europeos podremos tratar de cosechar los beneficios de esa tecnología de un modo acorde con nuestros valores fundacionales: respeto de los derechos humanos, democracia y estado de Derecho.” [6]

Si bien nos faltarían líneas de texto para debatir de manera profunda si el estado de derecho y/o la democracia son siempre compatibles con los valores éticos , nótese la paradoja de apuntar la democracia como un valor fundacional fiable y ético, dado el déficit democrático de la propia Unión Europea.

y claro… ¿quién vigila al vigilante? Mientras que la UE propone una serie de obligaciones (transparencia, responsabilidad, no discriminación…)[7] a las empresas y organizaciones que les permitiría dirigir el comportamiento de los agentes, y teniendo en cuenta la opacidad en la toma de decisiones del órgano regulador… ¿cómo vigilamos el poder decisor de la Unión Europea?

Elen Irazabal

27 de febrero de 2020


[1] UE Feb 2020“White Paper on Artificial Intelligence: a European approach to excellence and trust”:

https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf y Grupo Independiente de de expertos de alto nivel sobre Inteligencia Artificial, creado por la Comisión Europea en Junio 2018 “Directrices éticas para una IA fiable”: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60423.

[2] Pag 10 “White Paper on Artificial Intelligence: a European approach to excellence and trust”.

[3] Elinor Ostrom “Understanding Institutional Diversity”, Princeton University Press.

[4] Pag 10 “White Paper on Artificial Intelligence: a European approach to excellence and trust”

[5] https://europa.eu/european-union/about-eu/eu-in-brief_en.

[6] Pag 5 y 6 ”Grupo Independiente de de expertos de alto nivel sobre Inteligencia Artificial, creado por la Comisión Europea en Junio 2018 “Directrices éticas para una IA fiable”.

[7] Pag 9 “White Paper on Artificial Intelligence: a European approach to excellence and trust”.


Imagen de la autora, Elen Irazabal
Elen Irazabal

Elen Irazabal es Consultora en Ciberseguridad y Co-organizadora de R Ladies Madrid. Conferenciante sobre Legal Analytics.

Deja un comentario

A %d blogueros les gusta esto: