COVID-19 Y CIUDADES INTELIGENTES
Resulta evidente que el coronavirus ha forzado la aparición de un escenario mucho más digitalizado que hace tan sólo unos meses. El teletrabajo, el aumento de la lectura de códigos QR o la compra de todo tipo de artículos a través de aplicaciones de comercio electrónico, han pasado a tener un uso generalizado entre la población teniendo en cuenta los riesgos que actualmente presenta tener contacto físico con otras personas o manipular objetos que han pasado por muchas otras manos.
En virtud de este escenario, ¿ha determinado la pandemia un antes y un después para que la ciudadanía acepte que seremos capaces de realizar la totalidad de nuestras acciones en el futuro a través de un smartphone? O al revés, ¿es consciente la ciudadanía de la limitación de actuaciones que podría existir si no contase con un smartphone?
A día de hoy, existen aplicaciones prácticamente para todo, por lo que muchísimos objetos y puestos de trabajo cuya desaparición hace unos años era impensable, tienden a ser sustituidos por la tecnología. Por ejemplo, el uso de dinero en efectivo se está eliminando cada vez más, ya que las tarjetas de crédito están cada vez en más móviles y la tecnología contactless se está ya implementando incluso en el transporte público. En paralelo, ya no nos resulta de otro planeta que una casa sea inteligente, estando cada vez más casas programadas para interactuar con aplicaciones de Internet de las Cosas (IoT) que, por ejemplo, te permiten programar el horno o la alarma de seguridad desde el móvil, eliminando así la necesidad de tener cualquier tipo de mando a distancia o incluso interruptores, ya que el smartphone podría actuar como único dispositivo de control remoto de la iluminación, aire acondicionado u otros dispositivos de la casa.
Lo cierto es que esta situación no es fruto de la pandemia ni se ha instaurado de la noche a la mañana en nuestras ciudades. Red.es, entidad adscrita al Ministro de Asuntos Económicos y Transformación Digital, ha tenido un papel clave en el impulso de la innovación y la implantación de las ciudades inteligentes, a través de las convocatorias de, entre otros proyectos, el Plan de Ciudades Inteligentes, cuyo objetivo se ha centrado en el impulso de la industria, con ahorros cuantificables y con mejoras en el consumo energético, y creación de espacios tecnológicos. La actividad de Red.es también ha girado en torno a la digitalización de otros sectores que tienen un impacto directo en la creación de estas ciudades inteligentes, tales como el plan denominado Destinos Turísticos Inteligentes, que busca potenciar la digitalización de los servicios dirigidos al turismo, algo que será crucial en la seguridad del turista post COVID-19, a través del desarrollo de aplicaciones especialmente dirigidas al turista, puntos de acceso a Wi-Fi públicos, despliegue de códigos QR en los puntos emblemáticos de las ciudades o la digitalización de las oficinas de turismo, tendiendo a desparecer las guías turísticas en formato papel y oficinas de turismo.
Desde la implantación de estos planes, la realidad es que en muchas ciudades, aunque no nos demos cuenta, ya existe un gran nivel de digitalización y somos las propias personas, bien como ciudadano, turista, peatón o vehículo, los que alimentamos a esta ciudad inteligente de información gracias a nuestra forma de actuar y movernos por la ciudad, como, por ejemplo, semáforos que se adaptan a la afluencia de coches y peatones en un momento exacto.
A pesar de la existencia de subvenciones y proyectos para potenciar esta digitalización de las ciudades, España no podrá avanzar o lograr la total conversión de una ciudad en ciudad inteligente hasta que no cuente con un marco regulatorio preparado y adaptado a este nuevo escenario.
La Unión Europea (UE) está tomando la iniciativa en el establecimiento de un marco regulatorio común aplicable a las ciudades inteligentes, inteligencia artificial y robótica, recogiendo propuestas de legislación, impulsando consultas y generando guías y recomendaciones tendentes a allanar el camino de la digitalización total de las ciudades. En concreto, en 2015 se publicó el Dictamen del Comité Económico y Social Europeo sobre “Las ciudades inteligentes como motor de una nueva política industrial europea” (Dictamen 2015/C 383/05) que, aunque carecía de fuerza vinculante, fue relevante a efectos de conocer la posición que tomó la Unión Europea frente a las ciudades inteligentes y las líneas de un posible marco regulador armonizado.
Por su parte, en España, las últimas iniciativas tendentes a impulsar la implantación de las ciudades inteligentes o protección del “ciudadano digital” han sido el Plan de España Digital 2025, la creación del Consejo Consultivo para la Transformación Digital el pasado 28 de septiembre de 2020 o la reciente publicación el pasado 17 de noviembre de la primera versión de la Carta de Derechos Digitales, que estará abierta a consulta pública hasta el próximo 4 de diciembre.
A pesar de que la implantación de las ciudades inteligentes avanza cada vez más rápido, no debemos olvidar que no todo serán beneficios para los ciudadanos, sino que esta digitalización en bloque de las grandes ciudades generará diversos riesgos, entre otros:
1.- Régimen de responsabilidad:
Sin lugar a dudas, el régimen de determinación de responsabilidad generará el principal conflicto de la digitalización de las ciudades, ya que la aparición de las nuevas tecnologías complicará la prueba de la relación de causalidad entre la acción u omisión y el daño, y más teniendo en cuenta las grandes cadenas de suministro de una ciudad inteligente en la que participarán múltiples sujetos. Para determinar esa responsabilidad deberíamos acudir al hecho que motivó el origen de ese daño, ya que no sólo podrá ser responsable el proveedor de los servicios tecnológicos sino que, en ocasiones, el culpable de un fallo en un ecosistema inteligente podría llegar a ser incluso el propio ciudadano si, por ejemplo, realiza un uso negligente de las aplicaciones o si no actualizase correctamente estas apps, entre otras cosas.
A pesar de lo anterior, la dotación de los sistemas de inteligencia artificial en las ciudades inteligentes será realmente donde se generen los problemas más graves, por ejemplo, en el ámbito del vehículo autónomo, al estar estas máquinas dotadas de adaptación y autoaprendizaje, lo que conllevaría un importante nivel de imprevisibilidad en su comportamiento y, por tanto, en la imprevisibilidad del daño.
Desde la Unión Europea se lleva tratando este asunto varios años y ello ha motivado la creación del Grupo de Expertos en Responsabilidad y Nuevas Tecnologías, que ha analizado esta cuestión a través de la publicación de determinados informes, como el informe publicado en 2019 y titulado “Liability for Artificial Intelligence and other emerging technologies”.
El Parlamento Europeo, en su informe publicado el pasado 20 de octubre bajo el título Informe sobre la Iniciativa Legislativa sobre el Régimen de Responsabilidad Civil en Materia de Inteligencia Artificial, ha propuesto que aquellos operadores de sistemas de Inteligencia Artificial (IA) denominados de alto riesgo (entendidos como aquellos sistemas de IA que puedan causar daños de manera aleatoria y fuera de lo que cabe razonablemente esperar), no puedan eludir su responsabilidad alegando que han actuado con la diligencia debida o que el daño fue causado por un proceso autónomo gobernado por su sistema de inteligencia artificial, estando, por tanto, sujetos a una responsabilidad objetiva y a la obligación de suscribir un seguro. Por otro lado, el Parlamento Europeo ha considerado que el resto de operadores de sistemas de inteligencia artificial, es decir, aquellos que no sean de alto riesgo, no serían responsables si puede demostrar que no han tenido culpa en el daño o perjuicio causado. Como complemento de lo anterior, el Parlamento Europea también ha propuesto establecer una responsabilidad conjunta y solidaria en aquellos casos en que haya más de un operador de un sistema de inteligencia artificial.
Además, con respecto al régimen legal, el Parlamento Europeo considera que, aunque no es necesaria una revisión completa de la regulación de los regímenes de responsabilidad civil, la complejidad, conectividad y autonomía de los sistemas de Inteligencia Artificial hace necesario realizar modificaciones específicas destinados a evitar situaciones en las que aquellas personas que sufran un daño terminen sin indemnización, mencionando, entre otras regulaciones, la necesidad de modificar la Directiva 85/374/CEE sobre responsabilidad por los daños causados por productos defectuosos, para adaptar la misma al mundo digital y abordar los riesgos de las tecnologías emergentes, así como una modificación de la Directiva 2001/95/CE relativa a la seguridad general de los productos, para que estas tecnologías emergentes incorporen principios de seguridad y protección desde el diseño.
Por otro lado, la Comisión Europea presentó el pasado 19 de febrero de 2020 su Informe sobre las Repercusiones en Materia de Seguridad y Responsabilidad Civil de la Inteligencia Artificial, el Internet de las Cosas y la Robótica, de cuyo análisis podemos extraer un potencial escenario de responsabilidad aplicable a las ciudades inteligentes. En concreto, la Comisión Europea trata en dicho informe los problemas y las ventajas de la tecnología a la hora de determinar el sujeto responsable ante un daño.
Teniendo en cuenta lo anterior, resulta claro que la responsabilidad civil derivada de los daños en ciudades inteligentes presenta un escenario caracterizado por tener cierta imprevisibilidad, por lo que es conveniente que los proveedores de servicios tecnológicos conozcan sus productos y los riesgos asociados a los mismos, de cara a prevenir o a reducir estos riesgos y, en todo caso, que cuenten con un seguro de responsabilidad civil que pueda cubrir las potenciales responsabilidades derivadas del uso de sus servicios por parte de la ciudadanía.
2.- Posible vulneración del derecho a la intimidad:
Son muchos los ciudadanos que tienen miedo a que los proveedores de estas tecnologías o los poderes públicos tengan un control absoluto control de todo lo que hacen. A pesar de que la privacidad de los ciudadanos está garantizada como derecho fundamental de conformidad con el artículo 18 de la Constitución Española, que garantiza la intimidad personal y familiar y la propia imagen, así como por la legislación en materia de protección de datos personales, no es ningún secreto que los ataques cibernéticos son cada vez más frecuentes.
Tanto el Parlamento Europeo como la Comisión Europea han planteado en los informes referenciados anteriormente la posibilidad de evaluar los riesgos de estas tecnologías desde el diseño, proponiendo establecer un procedimiento parecido al proceso recogido en el artículo 25 del Reglamento (UE) 2016/679 (Reglamento General de Protección de Datos) que determina que la privacidad nace desde el diseño y debe garantizarse a lo largo de todo el tratamiento de datos. Aplicado a este caso, esta protección desde el diseño de las tecnologías tendría en cuenta la complejidad de los productos y el hecho de que el riesgo de utilizar los mismos puede cambiar a lo largo de la vida útil del producto, al ser un producto tan variable, expuesto a ciberataques y a actualizaciones.
3.- Sociabilización e implicaciones laborales:
Tampoco es ningún secreto que el contacto social e interacción entre las personas está disminuyendo notablemente debido al teletrabajo, la prohibición de aglomeraciones o la obligatoriedad del uso de las mascarillas. Esta revolución digital o aceleración de la transformación digital ha afectado a todos los sectores, donde la mayoría de las empresas se han visto obligadas a digitalizar sus procesos e incluso a prescindir de muchos puestos de trabajo. Si las personas pasan a depender absolutamente de un smartphone y no de su interacción con el resto del mundo, podemos llegar a convertirnos en sujetos equiparables a robots o elementos que simplemente alimentan las ciudades inteligentes con su información.
4.- Brecha digital:
¿Y si no todo el mundo cuenta con un smartphone o con acceso a Internet? Para eliminar cualquier tipo de brecha digital es fundamental la adopción de políticas por parte de los poderes públicos que faciliten el acceso a equipos y redes a las personas no tienen recursos, para que puedan hacer un uso completo y digno de las ciudades inteligentes, en la medida en que este smartphone se convierta en un bien indispensable en el día a día de los ciudadanos.
Además del acceso del ciudadano a estos dispositivos, las autoridades deberán asegurarse de que esta brecha digital tampoco existe a nivel educativo. En ese sentido, el Gobierno aprobó el pasado mes de julio el programa Educa en Digital que busca fomentar la transformación digital del sistema educativo. Además de dotación de presupuesto para la compra de dispositivos electrónicos a los centros educativos, este programa recoge la capacitación y formación de docentes y utilización de herramientas específicas para la digitalización de la educación. También debemos destacar otro de los objetivos de la Carta de Derechos Digitales mencionada anteriormente es que no exista ninguna brecha digital en el acceso por parte de la ciudadanía a las tecnologías, brecha que se hizo especialmente visible durante los primeros meses de la pandemia COVID-19.
En virtud de todo lo anterior, es importante destacar que actualmente no hay una regulación sobre las ciudades inteligentes y que, teniendo en cuenta que la tecnología va por delante de la ley, resultará muy complicado tener leyes adecuadas a tiempo real o en tiempos en que su aplicación sea necesaria.
Por ello, los gobiernos deberán valorar los beneficios y los riesgos de una implantación total de las ciudades inteligentes, ya que lo que una digitalización de una ciudad no debería significar es una mayor diferencia social entre los ciudadanos o una exención de responsabilidades de los proveedores de tecnologías que alimenten a esta ciudad inteligente. No obstante lo anterior, una regulación prematura y no adaptada a las circunstancias actuales podría impedir o ralentizar los desarrollos tecnológicos más disruptivos, afectando al crecimiento económico de las ciudades y del país, por lo que los gobiernos deberán buscar el punto intermedio entre la protección de los ciudadanos y un total despliegue de este tipo de tecnologías.
Por último, no debemos olvidar que las ciudades inteligentes serán fruto de la creación intelectual de las personas y que las personas a veces cometen errores, por lo que el punto fundamental de la implantación total de las ciudades inteligentes será no sólo proteger los derechos fundamentales de los ciudadanos sino definir de forma clara y concisa el régimen de responsabilidad, para que el ciudadano no sólo sea visto como la fuente de información de las ciudades inteligentes, sino como el mayor y principal activo a proteger en este ecosistema inteligente.
Covadonga Maestro Rodríguez
20 de noviembre de 2020
[1] https://www.red.es/redes/es/que-hacemos/ciudades-inteligentes/plan-nacional-de-ciudades-inteligentes
[2] https://www.red.es/redes/es/que-hacemos/territorios-inteligentes/destinos-tur%C3%ADsticos-inteligentes
[3] https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52015IE0586&from=ES
[4] https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/230720-Espa%C3%B1aDigital_2025.pdf
[5] https://www.boe.es/eli/es/o/2020/09/28/etd920
[6] https://portal.mineco.gob.es/RecursosArticulo/mineco/ministerio/participacion_publica/audiencia/ficheros/SEDIACartaDerechosDigitales.pdf
[7] https://portal.mineco.gob.es/es-es/ministerio/participacionpublica/audienciapublica/Paginas/SEDIA_Carta_Derechos_Digitales.aspx
[8] https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupDetail&groupID=3592
[9] https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupMeetingDoc&docid=36608
[10] https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_ES.pdf
[11] https://www.boe.es/doue/1985/210/L00029-00033.pdf
[12] https://www.boe.es/doue/2002/011/L00004-00017.pdf
[13] https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52020DC0064&from=en
[14] https://www.boe.es/buscar/act.php?id=BOE-A-1978-31229
[15] https://www.boe.es/doue/2016/119/L00001-00088.pdf
[16] https://www.boe.es/diario_boe/txt.php?id=BOE-A-2020-7682
Covadonga Maestro Rodríguez es Abogada Senior del área de TMT.
Covadonga es Graduada en Derecho por la Universidad Pontificia de Comillas (ICADE) y ha cursado el Máster en Propiedad Intelectual en la Universidad Pontificia Comillas (ICADE).
La experiencia profesional de Covadonga se centra principalmente en todos los aspectos de contractos digitales y tecnológicos, así como en materia de protección de datos. Covadonga asesora a clientes en materias de IT y subcontratación (outsourcing) de procesos de negocio (BPO) además de en todos los aspectos de contratación de sistemas IT y software (licencias, integración, desarrollo, distribución y mantenimiento de software y otros servicios relacionados).
En materia de contratación comercial general, Covadonga tiene una amplia experiencia en la redacción, negociación y adaptación a la legislación española de todo tipo de contratos de colaboración, compra y suministro de bienes y activos, contratos de servicios, condiciones generales aplicadas a consumidores, licencias de propiedad intelectual, comercio electrónico o servicios de la sociedad de la información.
También participa frecuentemente en procesos de Due Diligence en materia de fusiones y adquisiciones (M&A), especialmente formando parte de operaciones de M&A relacionadas con la tecnología.
Covadonga es miembro del Colegio de Abogados de Madrid y trabaja en inglés y en español.
Análisis conciso, interesante y muy bien desarrollado
Un articulo de gran nivel intelectual y muy de actualidad me ha encantado mi enhorabuena.