AD 90/2019
Abstract
La rápida evolución de la robótica y la inteligencia artificial y su integración con el sector sanitario abre un nuevo abanico de posibilidades dentro del derecho de daños donde la posible responsabilidad jurídica derivada de la actuación perjudicial de un robot se torna una cuestión crucial.
Keywords:
- Responsabilidad civil
- Derecho de daños
- Inteligencia artificial
- Robot
- Robótica
- Sector sanitario
- Derecho de consumo
- Productos defectuosos
La vertiginosa evolución de la robótica y de la inteligencia artificial plantea cuestiones jurídicas y éticas que requieren una intervención rápida pues forman ya, y cada vez en mayor medida, parte de nuestra vida cotidiana.
Es el sector sanitario uno de los más avanzados en la implementación de estas tecnologías, siendo que a través de la inteligencia artificial se producen grandes avances en la detección y tratamiento de enfermedades y ésta unida a la robótica permite la creación, entre otros, de robots quirúrgicos que mejoran las habilidades de los cirujanos.
En la actualidad y en la mayoría de los casos son los propios cirujanos lo que valiéndose de los robots realizan las intervenciones, no obstante a corto plazo y dada la rápida evolución de la tecnología los robots serán programados para realizar los procedimientos y cirugías limitándose la acción humana a la supervisión y en un paso posterior se llegará a eliminar incluso esa mínima intervención humana, siendo los robots a través de la inteligencia artificial y el machine learning quienes autónomamente tomen las decisiones y realicen diagnósticos e intervenciones.
En este contexto, la posible responsabilidad jurídica derivada de la actuación perjudicial de un robot se torna una cuestión crucial. Así, es preciso establecer quiénes son los responsables cuando como consecuencia de la utilización de estas tecnologías y dispositivos se produce un daño, es decir, a quién podríamos demandar: a los profesionales que controlan y supervisan el robot, al fabricante, a los programadores de la inteligencia artificial, a la empresa propietaria, al propio robot en cuanto que actúe autónomamente…
Dar respuesta a esta cuestión no es tarea sencilla porque no siempre es fácil encontrar la fuente originadora del daño y ésta puede no ser única sino la suma de varios acontecimientos lo que dificulta la delimitación del sujeto que debe soportar la reparación del daño.
Ante esta realidad debemos preguntarnos si resultan aplicables las reglas generales de responsabilidad civil, el derecho de consumo y la responsabilidad por productos defectuosos; y cuestionarnos si resulta necesario establecer una categoría nueva mediante una legislación específica en las áreas afectadas por el uso de robots.
En el estado actual de la técnica todavía no encontramos robots que de un modo totalmente autónomo y sin supervisión alguna realicen, por ejemplo, una intervención quirúrgica; por tanto, podríamos, con la normativa actual, resolver los supuestos de producción de daños.
Así, cuando se producen daños por defecto en el producto (el robot tiene la consideración de producto sanitario) o por la prestación de un servicio sanitario acudiremos al régimen de responsabilidad establecido en el derecho de consumo a través del Real Decreto Legislativo 1/2007, de 16 de noviembre, por el que se aprueba el texto refundido de la Ley General para la Defensa de los Consumidores y Usuarios y otras leyes complementarias; en caso de negligencia imputable al médico o al hospital acudiremos al régimen de responsabilidad establecido en el Código Civil.
Ahora bien, considerando que, gracias a los impresionantes avances tecnológicos, los robots ya no solo pueden realizar actividades que antes eran típica y exclusivamente humanas, sino que el desarrollo de determinados rasgos cognitivos y autónomos —como la capacidad de aprender de la experiencia y tomar decisiones cuasi independientes— ha hecho que estos robots se asimilen cada vez más a agentes que interactúan con su entorno y pueden modificarlo de forma significativa, el Parlamento Europeo ha comenzado a asentar los primeros pilares para legislar los aspectos jurídicos que entraña el uso de la robótica mediante la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica.
Considera que, en el actual marco jurídico, los robots no pueden ser considerados responsables de los actos u omisiones que causan daños a terceros; que las normas vigentes en materia de responsabilidad contemplan los casos en los que es posible atribuir la acción u omisión del robot a un agente humano concreto —como el fabricante, el operador, el propietario o el usuario—, y en los que dicho agente podía haber previsto y evitado el comportamiento del robot que ocasionó los daños; que, además, los fabricantes, los operadores, los propietarios o los usuarios podrían ser considerados objetivamente responsables de los actos u omisiones de un robot.
Considera que, en el supuesto de que un robot pueda tomar decisiones autónomas, las normas tradicionales no bastarán para generar responsabilidad jurídica por los daños ocasionados por el robot, ya que no permitirán determinar la parte que ha de hacerse cargo de la indemnización, ni exigir a dicha parte que repare el daño ocasionado. En materia de responsabilidad extracontractual podría no ser suficiente el marco ofrecido por la Directiva 85/374/CEE que solo cubre los daños ocasionados por los defectos de fabricación de un robot a condición de que el perjudicado pueda demostrar el daño real, el defecto del producto y la relación de causa a efecto entre el defecto y el daño (responsabilidad objetiva o responsabilidad sin culpa).
Considera que también son manifiestas las deficiencias del marco jurídico vigente en el ámbito de la responsabilidad contractual, ya que la existencia de máquinas concebidas para elegir a sus contrapartes, negociar cláusulas contractuales, celebrar contratos y decidir sobre su aplicación hace inaplicables las normas tradicionales; considerando que esto pone de relieve la necesidad de adoptar nuevas normas eficientes y actualizadas, acordes con los avances tecnológicos y las innovaciones recientemente aparecidas y utilizadas en el mercado.
Además, considera que, pese al ámbito de aplicación de la Directiva 85/374/CEE, el marco jurídico vigente no bastaría para cubrir los daños causados por la nueva generación de robots, en la medida en que se les puede dotar de capacidades de adaptación y aprendizaje que entrañan cierto grado de imprevisibilidad en su comportamiento, ya que un robot podría aprender de forma autónoma de sus experiencias concretas e interactuar con su entorno de un modo imprevisible y propio únicamente a ese robot.
Así, en última instancia, la autonomía de los robots suscita la cuestión de su naturaleza y de si pertenecen a una de las categorías jurídicas existentes o si debe crearse una nueva categoría con sus propias características jurídicas.
Al respeto insta el Parlamento Europeo que se analice y considere la creación a largo plazo de una personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente.
Es esta una cuestión muy controvertida que cuenta con alguna opinión a favor, pero con muchos más detractores, en todo caso el planteamiento está sobre la mesa y habrá que ver como evoluciona.
Jacob Peregrina
15 de octubre de 2019
Autor: Jacob Peregrina
Abogado especializado en Derecho Digital, Privacidad y Compliance. Con amplia experiencia dentro del mundo de la ciberseguridad y delincuencia informática. Director de Gabinete Jurídico Tecnoiuris y Socio de Legalconsultech. Asesor y mentor legal de startups y proyectos de base tecnológica, dando respuesta a los problemas jurídico-técnicos que plantean las tecnologías emergentes. Docente en materia de privacidad y ponente habitual en congresos de ciberseguridad.
OJALÁ LOS ROBOTS DEJEN DE FORMAR PARTE DE LA VIDA DE LA GENTE