Impacto del uso de la inteligencia artificial y la robótica inteligente en la defensa. A cargo de Gladys StoppanI

AD 63/2022

Impacto del uso de la inteligencia artificial y la robótica inteligente en la defensa. Por Gladys Stoppani*

Resumen

La inteligencia artificial (IA) abarca un amplio espectro de usos, desde la conducción autónoma, la navegación no asistida de drones, el reconocimiento y clasificación de imágenes, la comprensión del lenguaje o el análisis de datos, entre otros. A través de la aplicación de la IA en la robótica, se dio origen a lo que se conoce como robótica inteligente (RI). Actualmente, nos encontramos en un momento clave para el desarrollo de estas tecnologías, en el que tanto las empresas como los países participan en una carrera para lograr su monopolio, ya que consideran a la IA una tecnología crítica. Los distintos países embarcados en este proceso la ven, como un instrumento de competencia geopolítica global y geoeconómica y, a su vez, como un medio para garantizar su autonomía estratégica. Si bien la percepción que los países tengan de la IA como un elemento de competencia internacional o de seguridad nacional puede ser distinta, lo que no varía es que cada vez son más aquellos que han decidido utilizar la IA y la RI al servicio de la defensa. La guerra entre Rusia y Ucrania es un ejemplo de algunos de los diferentes usos de estas tecnologías en un conflicto armado.

El objetivo de este trabajo es estudiar el impacto de la IA y la RI en la defensa. En primer término, se analizarán los distintos usos y beneficios de la IA y la RI para el combatiente, luego, se abordará el apoyo que la IA brinda en la decisión planificada, para continuar con los aspectos positivos que presenta tanto para el combate colaborativo, como cuando se la aplica a la logística y al mantenimiento de la condición operacional. También se explicarán la importancia y el impacto que la IA tendrá en la ciberdefensa y la ciberseguridad, como consecuencia de los usos maliciosos que el enemigo podría hacer de la misma, como así también de las herramientas que aquélla llegará a proporcionar en la ciberdefensa. Lo anterior, porque si la IA se apoya en redes cibernéticas su protección deviene una prioridad. Luego, se hará referencia a la robótica y la autonomía, en especial en lo que respecta a los distintos tipos de unidades no tripuladas que se usan o se están desarrollando en los tres dominios. Posteriormente, en la segunda parte de este trabajo, nos adentraremos en las estrategias de IA aplicada a la defensa que algunas de las principales potencias están llevando a cabo para, luego, analizar la importancia de una ética y marco normativo robusto en lo que hace al uso de estas tecnologías en el ámbito militar, con particular referencia al derecho internacional.

Palabras clave: inteligencia artificial; robótica inteligente; defensa; ciberdefensa; ciberseguridad; combate; guerra; machine learning; big data; combat cloud; interoperabilidad; sistemas de mando, control, comunicaciones, computación e inteligencia, vigilancia y reconocimiento (C4ISR); common operational picture (COP); sistemas de armas letales autónomos (SALAS); ONU; OTAN; ARTEMIS; Ucrania.

I.- Introducción.

La inteligencia artificial (IA) abarca un amplio espectro de usos, desde la conducción autónoma, la navegación no asistida de drones, el reconocimiento y clasificación de imágenes, la comprensión del lenguaje o el análisis de datos, entre otros. Los datos también son la base para la inteligencia artificial, que se está incluyendo progresivamente en todos los ámbitos de la sociedad.

A través de la aplicación de la IA en la robótica, se dio origen a lo que se conoce como robótica inteligente (RI), la cual tiene como objetivo que los robots puedan realizar tareas de forma autónoma, pero no solo en lo que a la propia acción se refiere, sino también a que sean capaces de tomar decisiones sobre qué hacer en un entorno determinado de trabajo sobre la base de parámetros preestablecidos.

La inteligencia artificial y la robótica inteligente se consideran tecnologías duales ya que tienen capacidad para ser utilizadas tanto en el ámbito civil como en el militar. Se usan, por ejemplo, en la industria, el transporte y la salud (en este último campo, v.gr. la cirugía robótica, las aplicaciones de IA que se usan para el diagnóstico automático por imagen, la predicción de riesgos de enfermedades, etc.).

Podría decirse que, actualmente, nos encontramos en un momento clave para el desarrollo de estas tecnologías, en el que tanto las empresas como los países participan en una carrera para lograr el monopolio de éstas, ya que consideran a la IA una tecnología crítica. Los distintos países embarcados en este proceso la ven, por un lado, como un instrumento de competencia geopolítica global y geoeconómica y, por otro, como un medio para garantizar su autonomía estratégica.

Si bien la percepción que los países tengan de la IA como un elemento de competencia internacional o de seguridad nacional puede ser distinta, lo que no varía es que cada vez son más aquellos que han decidido utilizar la IA y la RI al servicio de la defensa.

Así, su utilización en las Fuerzas Armadas está generando una transformación en el ámbito de la defensa, tanto en los niveles táctico y operacional como también en el estratégico, en los que estas tecnologías brindan, entre otras cosas, una mejora de capacidades.

Es útil para mejorar la ayuda humanitaria en cuanto al rastreo de zonas catastróficas, la búsqueda y rescate de personas en peligro, como así también, para incrementar la seguridad de los soldados y el estudio del enemigo para mitigar los ataques, entre otras muchas posibilidades. Sin perjuicio de ello, también podría tener consecuencias negativas, ya que con estos sistemas inteligentes es posible desarrollar armas con capacidad de destrucción sin límites[1].

En este marco, los datos constituyen la materia prima para aumentar la capacidad militar[2]. Cientos de sensores se usarán para colectar parámetros del combatiente, las plataformas, la situación del medio ambiente y, también, del enemigo.

Estos datos, generados por el combatiente y cada plataforma, entre otras fuentes, se transmiten a un procesador y se combinan por medio de una serie de técnicas y reglas, brindándole al decisor una imagen clara de la situación, lo cual le permitirá hacer mejor uso de sus capacidades. Paralelamente, estos datos que el mismo combatiente incorporó al sistema se combinan con otros y le darán a éste múltiples beneficios.

Cabe poner de relieve que la IA y la RI ya se usan en los conflictos bélicos. La guerra entre Rusia y Ucrania es un ejemplo de algunos de los diferentes usos de estas tecnologías en un conflicto armado. Ucrania, por ejemplo, utiliza el reconocimiento facial de la empresa Clearview AI para identificar a los muertos que está dejando este conflicto; reunir familias de refugiados e identificar al enemigo y los drones de combate turcos «Bayraktar TB 2»; mientras que Rusia se vale de los drones rusos con altas capacidades autónomas como «Lancet» y «Kub» y vehículos de combate terrestre como el “robo-tanque” URAN-9 (UGV), entre otros usos de estas tecnologías.

A continuación, se abordarán distintas cuestiones relativas al impacto de la IA y la RI en la defensa. Primeramente, se analizarán los distintos usos y beneficios de la IA y la RI para el combatiente, luego, se abordará el apoyo que la IA brinda en la decisión planificada, para continuar con los aspectos positivos que presenta tanto para el combate colaborativo, como cuando se la aplica a la logística y al mantenimiento de la condición operacional. También se explicarán la importancia y el impacto que la IA tendrá en la ciberdefensa y la ciberseguridad, como consecuencia de los usos maliciosos que el enemigo podría hacer de la misma, como así también de las herramientas que aquélla llegará a proporcionar en la ciberdefensa. Lo anterior, porque si la IA se apoya en redes cibernéticas su protección deviene una prioridad. Luego, me referiré a la robótica y la autonomía, con especial referencia a los distintos tipos de unidades no tripuladas que se usan o se están desarrollando en los tres dominios.

En la segunda parte de este trabajo nos adentraremos en las estrategias de IA aplicada a la defensa que algunas de las principales potencias están llevando a cabo para, luego, analizar la importancia de una ética y marco normativo robusto en lo que hace al uso de estas tecnologías en el ámbito militar, con particular referencia al derecho internacional.

Cada uno de los temas que se abordarán en las siguientes páginas merecería ser objeto de un capítulo en sí mismo. Es por ello que, en este trabajo, no se pretende hacer un tratamiento acabado de los múltiples aspectos de esta temática, sino que éste tiene por único objetivo introducir a quien lo lea en este apasionante tema y brindarle elementos para que pueda apreciar el impacto que tienen estas tecnologías en el ámbito militar, no solo en lo que a sus aplicaciones respecta, sino, también, en lo que se refiere a las estrategias que algunos de los países están llevando a cabo y a la importancia de que se desarrolle un marco ético y normativo sólido para el uso de la IA y la RI en el ámbito militar.

 

II.- Aplicaciones militares de la inteligencia artificial y la robótica inteligente en la defensa.

El uso de la IA y de la RI en la defensa ha cobrado importancia en los últimos tiempos, ya que ambas tecnologías son consideradas estratégicas, a los fines de garantizar la superioridad operacional del país que las utilice.

Es importante señalar que estas tecnologías no son útiles sólo durante los conflictos armados, sino también en tiempos de paz, en situaciones de desastres naturales y en misiones humanitarias.

En el ámbito militar la IA será una ayuda muy preciada, entre otras cosas, para la toma de decisiones, ya que permitirá comprender y prever mejor las amenazas; reaccionar no sólo con mayor velocidad sino, también, con más certeza y precisión; evitar las sorpresas; colectar de una mejor manera y darle sentido, a los fines militares, a los miles de datos que nos rodean.

Estas tecnologías también presentan beneficios para el combatiente, en varios aspectos, como, por ejemplo: salud, entrenamiento, equipamiento, eficacia en la realización de tareas. Esto último, ya que las tareas consideradas aburridas, sucias y peligrosas cada vez más están ya siendo realizadas por robots. A la vez, permitirán una mejora en el combate colaborativo.

La IA también robustecerá la ciberdefensa, ya que permitirá a los ciber-combatientes detectar y combatir con mayor velocidad los ciber ataques, cada vez más numerosos y automatizados.

Como puede verse, la IA y la RI constituirán un apoyo, por ende, no sólo para aquellos que tienen a su cargo las decisiones tanto tácticas como estratégicas sino, también, para el combatiente. Si bien los usos de estas tecnologías en el ámbito militar pueden llegar a ser de los más variados, en este punto se abordarán solamente los antes mencionados.

 

II.I.- El combatiente

El combatiente es uno de los elementos esenciales en lo que a las funciones del combate respecta. Gracias a estas tecnologías, el combatiente individual, no sólo será un agente generador de datos, sino que éstos combinados con los de multitud de otros sensores le servirán para ver mucho más allá del ámbito físico y lógico al que él, por sí solo, podría tener acceso.

El uso de la inteligencia artificial y de la robótica inteligente brindarán múltiples beneficios, en lo que hace a la salud de este último, su entrenamiento, las tareas rutinarias, las operaciones en entornos peligrosos, la evacuación de heridos del campo de batalla, etc.

La protección de la fuerza es una de las capacidades que se verá mejorada. Ello, atento a que el tratamiento masivo de datos sanitarios y un mayor monitoreo de la salud mediante la IA, permitirán identificar los distintos factores de riesgos ligados al entorno, lo cual, hará posible la toma de medidas adecuadas para limitar el impacto de éstos en la salud de los militares[3].

También, esta información médica colectada y tratada por sistemas dotados de IA ayudará al personal médico en su diagnóstico, a la vez que, permitirá optimizar la conducción de las operaciones, al poder conocerse, entre otros datos, el estado de fatiga del personal y el stress, todo lo cual permitirá mejorar la protección de la salud de los militares.

Asimismo, la IA posibilita un mejor entrenamiento de las unidades y la formación diferenciada de los individuos, sobre todo, porque ésta se asocia a la realidad aumentada.

La instrucción avanzada para el soldado mediante la incorporación de realidad aumentada (AR) y realidad virtual (VR) y el desarrollo de un entorno de entrenamiento sintético único harán posible que mandos y unidades realicen un entrenamiento multinivel y combinado lo más realista posible[4].

A su vez, se generará una profunda transformación en la preparación y la conducta de las operaciones militares, ya que muchas de las tareas repetitivas y rutinarias serán llevadas a cabo gracias a la IA y la RI, permitiendo esto, por un lado, la disminución de los errores humanos, causados como consecuencia de la fatiga, en las tareas repetitivas y, por otro, el uso eficiente de los recursos humanos, al dedicarse éstos a aquellas tareas de alto valor agregado, como por ejemplo el análisis y la toma de decisiones[5].

La robótica, además, permitirá una mayor distancia del soldado y una mejor protección de su persona, siendo útiles los robots para las intervenciones en medios contaminados, la lucha contra incendios, el desminado terrestre y submarino e incluso la lucha contra los enjambres de drones.

En Francia, por ejemplo, a partir de 2020, el Programa de Guerra de Minas SLAMF desarrolla enjambres de robots submarinos que realizarán el desminado,[6] a los fines de mantener a los marineros alejados de la mina. Por su parte, el ejército francés ya está experimentando con robots para llevar cargas pesadas o evacuar a los heridos[7].

Además, la IA contribuirá a mejorar la discriminación entre combatientes y no combatientes, reforzar la proporcionalidad en el manejo de los efectos de las armas en función de la amenaza, garantizar una acción determinada conforme la estricta necesidad[8], entre otras ventajas.

En este orden de ideas cabe mencionar que, en la guerra entre Rusia y Ucrania, por ejemplo, el Ministerio de Defensa de Ucrania comenzó a utilizar el reconocimiento facial de la empresa estadounidense Clearview IA, para identifica a los muertos que está dejando este conflicto. Esta tecnología también sirve para reunir familias de refugiados e identificar a militares rusos. La empresa ha decidido dar acceso gratuito a las autoridades ucranianas a su tecnología. Es menester señalar que, como es de público conocimiento, una buena parte de los muertos en el campo de batalla ucraniano son civiles que han quedado atrapados en el fuego cruzado, la mayoría de ellos simplemente tratando de huir de los combates[9].

Albert Fox Cahn, director ejecutivo del Proyecto de Supervisión de Tecnología de Vigilancia (STOP) en Nueva York, es una de las voces críticas respecto del uso de esta tecnología en la guerra, ya que considera que el reconocimiento facial podría crear identificaciones erróneas y fomentar detenciones injustas, incluso muertes. Al respecto, señala «una vez que se usan estos sistemas y bases de datos asociadas en una zona de guerra, no se tiene control sobre cómo se utilizarán». Así pues, señala que los individuos así como los gobiernos deben seguir siendo conscientes de los peligros potenciales del uso de la inteligencia artificial en zonas de guerra. La empresa, por su parte, pide que no se use para violar las Convenciones de Ginebra ni como única fuente de identificación[10].

Como puede observarse, será necesario que el combatiente y los gobiernos comprendan no solo la tecnología tanto de IA como de RI, sino también, cómo integrar las operaciones a través de nuevos conceptos y doctrinas y marcos legales[11].

Contrariamente al temor y recelo que generan estas nuevas tecnologías, tanto la IA como la RI, bien enmarcadas y controladas, pueden conducir a un mayor respeto por parte de las fuerzas armadas de los principios fundamentales del derecho de los conflictos armados[12].

Finalmente, cabe agregar que, la integración de tecnologías emergentes en la instrucción y ejercicios para mejorar la preparación requiere no sólo la adecuación de la formación del combatiente, a los fines de lograr una integración entre el hombre y la máquina, y así alcanzar una ventaja sobre el adversario sino, también, una importante inversión de tiempo y recursos.

Francia, por ejemplo, tiene previsto destinar un presupuesto anual de 100 millones de euros de 2019 a 2025 para varias áreas de la IA (asistencia de decisión y planificación, inteligencia, combate colaborativo, robótica, ciberespacio, logística y mantenimiento)[13], mientras que, Estados Unidos, en su presupuesto de defensa para 2021 contempló 841 millones de dólares de gasto en IA[14].

 

 

II.II.- La IA en el apoyo de la decisión y planificación.

La función de mando y control (C2 / C&C, command &control) constituye la columna vertebral de todas las operaciones militares. Consiste en el ejercicio de la autoridad y dirección, por un mando específicamente designado para ello, sobre las fuerzas que le han sido asignadas para el cumplimiento de la misión. Se lleva a cabo por medio de conjuntos de elementos interrelacionados que desarrollan las acciones necesarias para proporcionar al mando, en tiempo útil, el conocimiento de la situación, constituyendo el soporte necesario para la toma de decisiones, la transmisión de órdenes y el control de su ejecución. Cada uno de esos conjuntos de personas, equipos, medios y procedimientos constituye lo que se denomina C2S[15].

El comandante es parte, por definición, tanto del proceso como del sistema y, obviamente, es a quien deben enfocarse uno y otro. En ese proceso, un C2S deberá contribuir a: 1. La obtención de información; 2. El procesado, análisis, síntesis, visualización y difusión, tanto vertical como horizontalmente, de tal información; 3. El planeamiento y toma de decisiones; 4. La transmisión de órdenes a los mandos subordinados y, nuevamente; 5. El control de la evolución de la situación a partir de nuevos datos. Es decir, el ciclo Observación-Orientación-Decisión-Acción conocido como OODA loop[16].

Como puede verse, el funcionamiento del mando y control depende de factores humanos, tales como: liderazgo, oportunas tomas de decisiones y las relaciones construidas sobre la confianza[17]. Según un informe de la European Defence Agency (EDA). el mando es una de las áreas centrales de capacidad militar del futuro[18].

En la actualidad, el acrónimo C2 o C&C, tiene algunas variaciones, como consecuencia de las comunicaciones y la computación, entre otros elementos, que se consideran componentes claves para la coordinación. Es por ello que, hoy en día, se habla de C4ISR para referirse a los “Sistemas de Mando, Control, Comunicaciones, Computación e Inteligencia, junto con la Vigilancia y Reconocimiento”. Este acrónimo tiene otras variantes también.

El concepto C4ISR (Comando, Control, Comunicaciones, Computación, Inteligencia, Vigilancia y Reconocimiento) fue formulado por el Departamento de Defensa de EEUU como un marco para organizar la información multimedia -procedente de fuentes múltiples y heterogéneas- que se originan en un escenario espacial y temporalmente determinado –generalmente en una crisis- de tal manera que permita[19]:

• A los usuarios no situados en el escenario, analizar dicha información, en un contexto más amplio y con herramientas generalmente mucho más potentes.
• A los usuarios locales, recibir asesoramiento sobre las medidas que deban adoptarse.
• Recibir retroalimentación entre todos los actores locales y no locales para el seguimiento conjunto de acciones y toma de decisiones coordinada con el objetivo de resolver la situación en beneficio de los usuarios del sistema[20].

Las características operativas deseables para estos sistemas son: a) Interoperabilidad en todos los niveles y con otros sistemas, incluidos los heredados, b) Seguridad, manteniendo su capacidad operativa en todo momento, incluso, a pesar de los ataques enemigos, c) Flexibilidad, siendo capaces de integrar con rapidez y facilidad tantos puestos de comando, terminales de información y sensores como sean necesarios, d) Eficiencia y optimización de recursos, entre otras[21].

Todo lo anterior trae aparejado, entre otras muchas cosas, al uso de: modelos de datos y configuraciones estandarizadas; arquitecturas descentralizada y orientada a servicios (SOA), se permite que el sistema sea administrado desde cualquier dispositivo de red, ofreciendo una robustez adicional en caso de fallos o situaciones de crisis; mecanismos de sincronización de datos para que la información sea compartida en tiempo real, con velocidades variables de datos para optimizar el coste de las transmisiones; capacidad de interconexión externa dotando a los sistemas de la escalabilidad y transnacionalidad precisa[22].

Como puede verse, con la aplicación de los avances tecnológicos en el ámbito militar, el mando, sea este a nivel estratégico o táctico, continuará siendo tanto arte como ciencia, viéndose esta última ahora reforzada por las nuevas posibilidades que ofrecen las tecnologías disruptivas.

Lo anterior, atento a que el uso de la inteligencia artificial y el aprendizaje automático ayudarán a la disminución de errores y a acelerar la toma de decisiones en las operaciones.

En lo que hace a estos temas, la EDA, en 2018, publicó el anuncio de licitación para el estudio “Artificial Intelligence and Big Data for Decision Making in C4ISR – ABIDE” (18.CAT.OP.027).

Al respecto, dicha Agencia señalaba que “los Sistemas de Mando, Control, Comunicaciones, Computación e Inteligencia, junto con la Vigilancia y Reconocimiento (C4ISR), requieren de diversas tecnologías para, entre otras cosas, proporcionar una conciencia situacional y así poder apoyar en la toma de decisiones. Se requiere una aplicación innovadora de estas tecnologías para lograr la superioridad de la información que es crucial en las operaciones contemporáneas”[23].

A su vez, ponía de relieve que la existencia de evidencia de que “…las tecnologías disruptivas de Inteligencia Artificial (IA) y Big Data (BD), en combinación con tecnologías de sensores e infraestructura más maduras, pueden ayudar a la comunidad de Defensa a enfrentarse a los desafíos de los sistemas C4ISR contemporáneos, en términos de rendimiento, resiliencia, escalabilidad, interoperabilidad y eficiencia del operador”[24].

Asimismo, agregaba que, el objetivo de este estudio es “mejorar el rendimiento de los sistemas C4ISR a nivel de la UE mediante la aplicación de técnicas de BD y AI para el apoyo en la toma de decisiones de Defensa. Evaluará y desarrollará avances tecnológicos para las capacidades en red para mejorar el intercambio de información en base a una mayor interoperabilidad, mejorar la calidad de la información y proporcionar una conciencia situacional compartida. Esto se hará con la ayuda de tecnologías BD cuando sea apropiado y el uso de algoritmos innovadores de IA. La especificación de una herramienta de software para simular los resultados de este análisis ayudará a comprender el proceso realizado”[25].

En virtud de ello, el estudio se centraría en:

• “Establecer requisitos globales comunes para un sistema de información de alto nivel para integrar fuentes inteligentes de manera integrada: SIGINT, HUMINT e IMINT.
• Elegir y establecer principios para facilitar la adopción de arquitecturas modulares y escalables y el diseño global, el desarrollo y las operaciones de los futuros sistemas C4ISR con las más nuevas tecnologías disponibles.
• Analizar y proponer el nivel de IA necesario para ayudar a los operadores a interactuar permanentemente con el sistema.
• Proporcionar un medio unificado y multimodal de navegación, consulta y recuperación a través de conjuntos de información interconectados desde sensores y bases de datos de conocimiento respaldados por técnicas BD y análisis de datos.
• Reducir la carga de trabajo humana en el campo de la gestión de la información y restablecer el valor añadido humano cada vez que sea necesario para la interpretación de la información”[26]

En lo que hace al uso de la IA, resulta interesante cierta ambigüedad que se observa en ciertas cuestiones. Lo anterior, atento a que, si bien se rechaza que una IA decida formalmente, no se cuestiona el lugar cada vez más importante de esta última en sus actividades, como es el caso de la utilización de sistemas de simulación[27].

Por lo tanto, estos dispositivos utilizados durante la preparación de la misión y de apoyo en la decisión, están directamente vinculados a los sistemas de información operacional a medida que se acercan, cada vez más, a la lógica de los sistemas expertos o, más ampliamente, de los sistemas basados en conocimientos estudiados por la ingeniería del conocimiento. Aun si el militar conserva la decisión final, esta última estará fuertemente orientada por una IA que podría terminar modelando el contexto operacional en general[28].

Sin perjuicio de esto, no caben dudas de que en el ejercicio del mando y del control resultará vital la adquisición y mantenimiento de la conciencia situacional mediante una imagen operacional común (Common Operational Picture, COP) basada en datos, que permita: la detección inmediata de los factores que influyen en los resultados, la rapidez en la toma de decisiones, la distribución ágil de órdenes y la compartición de información con todos los actores involucrados, civiles, militares y comerciales, nacionales e internacionales[29].

Actualmente, en el mundo se tiende a un trabajo colaborativo y multi agencia para el desarrollo de la IA en la defensa. En virtud de ello y lo antes mencionado, se considera de importancia la compartición de información y capacidades entre los distintos ministerios.

Si bien el uso de la COP facilita los procesos que son llevados a cabo por el Comandante, una COP basada en datos aporta al proceso de control la información objetiva y medible sobre el estado de cada uno de los factores que influyen en el éxito de la operación. La distribución de las órdenes al último nivel de detalle involucrado es también posible, aportando valor añadido al proceso de mando.

Ahora bien, el apoyo en la toma de la decisión debería estar disponible en los centros de mando de nivel estratégico operativo y táctico, tanto antes (anticipación-planificación) como durante la realización de la misión y, luego, una vez que ella se ejecutó (evaluación)[30].

Para ello, se requerirá la modelización y el cruce de datos, porque las herramientas del centro de mando manipularán datos antes inaccesibles, provenientes de sensores y fuentes de naturaleza muy diversa: cibernética, mantenimiento, salud, etc.[31].

Existen actualmente distintas técnicas de minería de datos[32] y de machine learning[33] que, aplicadas a distintos aspectos en el ámbito de la defensa, pueden generar información, partiendo de la gran cantidad de datos que los distintos sistemas, humanos y técnicos, generan día a día.

El tratamiento de los datos en masa basados en el aprendizaje, para su posterior uso en la defensa, debiera realizarse mayoritariamente en centros de datos destinados a tal fin[34]. En efecto, una parte importante del futuro de la incorporación de los datos en la visión estratégica del Comandante es el despliegue de la nube de combate (Combat Cloud). Lo anterior, atento a que es necesario poder garantizar un acceso rápido y efectivo a los datos a aquellos agentes implicados, para asegurar de esa forma, unos tiempos de toma de decisión lo suficientemente cortos, incluso en escenarios altamente complejos y congestionados[35].

La nube de combate debe entenderse como una red interconectada para la distribución de datos y el intercambio de información dentro de un espacio de batalla, mediante la cual, cada usuario, plataforma o nodo autorizado contribuye y recibe información esencial de forma transparente y puede utilizarla en toda la gama de operaciones militares. La capacidad de recopilar datos e integrarlos en un sistema de información abierto y adaptable mejorará significativamente la capacidad de mando y control y la agilidad operativa de las fuerzas en combate[36].

El Ministerio de Defensa de Francia, por ejemplo, lanzó en 2017 el proyecto ARTEMIS, a los fines de desarrollar una arquitectura segura para el procesamiento masivo y la explotación de información multi-fuente. Las implementaciones piloto tendrán lugar ahora en 2020, mientras que se espera, para 2021, la aprobación de la versión V1 de dicha plataforma [37].

Ahora bien, una vez que el módulo de IA está entrenado, éste podrá desplegarse en sistemas remotos (operativo, táctico) vía transmisión por redes de telecomunicaciones[38].

Una cuestión importante a la hora de diseñar las herramientas de minería de datos, machine learning e inteligencia artificial, que serán estratégicamente útiles, es el conocimiento del dominio de defensa. Es necesario hacer hincapié en que, durante las etapas de diseño y validación de la implantación de técnicas de minería de datos en los sistemas de mando y control, la participación del Comandante deviene esencial a los fines de asegurar que el sistema se adapta a las necesidades del usuario final[39].

La validación de que las funcionalidades desarrolladas cumplen con los requisitos también deberá involucrar al personal que será usuario de las herramientas y, de manera particular, al Comandante[40].

Otro elemento clave para tener en cuenta, durante el desarrollo de las herramientas de big data, es la interoperabilidad. Entendida ésta como un marco general y común con el objetivo de flexibilizar la compartición de datos entre distintas entidades, nacionales o internacionales, la interoperabilidad es un requisito que cualquier proyecto de big data en el ámbito de la Defensa deberá tener en cuenta. La misma, facilitará la inclusión gradual de datos y funcionalidades provenientes de distintas fuentes y que cubran distintas necesidades y al mismo tiempo, minimizará el tiempo de implantación de estas[41].

Resumiendo, la COP de datos contendrá el resultado de la aplicación de las diferentes técnicas de minería de datos y machine learning que se estén usando sobre los datos provenientes de la nube de combate. La información se mostrará de la manera apropiada para la óptima comprensión por parte del Comandante del estado global de la misión, la aportación de cada una de las partes y para la distribución de órdenes y de la visión del Comandante hacia cada uno de los agentes implicados[42].

De una manera muy concreta, la adición de datos a la COP brindará, entre otras cosas: fiabilidad, objetividad, causalidad, agilidad, rapidez, facilidad, reducirá la incertidumbre, y proporcionará una clara ventaja a la tradicional imagen estática del estado de las tropas y la operación.

Para garantizar esos beneficios, será necesario que el país interesado en el uso de estas tecnologías invierta en la creación de una nube de combate eficiente, completa y segura, incluyendo el flujo de datos e información entre todos los actores afectados, pero solo entre ellos, y que sea escalable e interoperable, para posibilitar la incorporación progresiva de todos los datos que se vayan generando[43].

Como puede verse, el arte de la guerra está cambiando, ya que, con estas tecnologías, no se tratará sólo de la capacidad de tiro sobre un objetivo, sino que también dependerá de la velocidad de ejecución de los algoritmos -a través de su capacidad de tratamiento instantáneo de las informaciones recibidas- y de la presentación de las mejores opciones. El ritmo de las decisiones ya no será sólo marcado por el hombre, sino por éste y las máquinas, en virtud de la potencia de los procesadores de datos.

 

II.III.- Combate colaborativo.

La coordinación de los sistemas y de las entidades operacionales está reconocida como un factor clave en las operaciones militares a fin de acelerar el tiempo de la maniobra. Esto dio origen al concepto de combate colaborativo, para resignificar la importancia del intercambio y de la explotación de la información a nivel táctico.

La IA puede contribuir mucho, tanto en lo relativo al uso de datos para anticipación, reacción inmediata o realización coordinada de la acción como, también, en la gestión inteligente del flujo de éstos, a los fines de, por ejemplo, facilitar la interoperabilidad entre los sistemas heterogéneos, priorizar los flujos, etc[44]. Un caso de ejemplo de este tipo de utilización podría ser la gestión de frecuencias de radio en operación y consolidación[45].

 

II.IV.- Mantenimiento de la condición operacional y logística.

Los beneficios de la IA aplicada a la logística y al mantenimiento de la condición operacional pueden verse en corto plazo. Ésta podrá ser utilizada para: a) aumentar la eficiencia de la cadena logística, b) la planificación optimizada de los actos de mantenimiento, c) la mejora del conocimiento y la gestión de la disponibilidad de los materiales, gracias al mantenimiento predictivo y la optimización del mantenimiento preventivo, d) la automatización de ciertas tareas, etcétera[46].

Esto permitirá que los algoritmos realicen alertas predictivas, por ejemplo, respecto de los equipos, permitiendo así anticiparse a los posibles daños en los mismos, disminuir costos de mantenimiento y planificar su uso.

En este orden de ideas y a modo de ejemplo cabe mencionar que la ministra de Defensa de Francia pidió a la Armada de ese país que inicie un experimento de mantenimiento predictivo en los motores de algunas de sus fragatas. Por su parte, la Fuerza Aérea francesa, que ya está trabajando en el mantenimiento predictivo para los aviones Rafale, ha lanzado un proyecto idéntico en la flota C130J en cooperación con el Reino Unido y los Estados Unidos[47].

 

II.V.- Ciberdefensa

Ciberdefensa es el conjunto de acciones y/u operaciones activas o pasivas desarrolladas en el ámbito de las redes, sistemas, equipos, enlaces y personal de los recursos informáticos y teleinformáticos de la defensa a fin de asegurar el cumplimiento de las misiones o servicios para los que fueran concebidos a la vez que se impide que fuerzas enemigas los utilicen para cumplir los suyos[48].

Los países, en mayor o menor grado, la relacionan con la protección de las infraestructuras críticas. En ellos, la ciberdefensa comprende todas las acciones y medidas necesarias para garantizar la ciberseguridad[49], que deben formularse proactivamente como un continuo proceso de análisis y gestión de las amenazas. Debe ser multidisciplinar o multidimensional, por lo que debe contemplar también los aspectos judiciales[50].

En virtud de ello, la ciberseguridad sería el objetivo y la ciberdefensa un medio para alcanzarla, mediante la libertad de acción de las operaciones militares en el ciberespacio ante un ciberataque que pueda afectar a la defensa nacional[51].

La mayoría de las naciones del mundo, entre ellas Argentina[52], cuentan ya con capacidades de Ciberdefensa en el seno de sus Fuerzas Armadas. El ciberespacio está ya ampliamente reconocido como el 5º dominio de las operaciones militares, detrás del agua, el aire, la tierra, y el espacio exterior y así se contempla en la doctrina nacional y de la OTAN.

No existe un criterio unívoco para definir qué es y que no es el ciberespacio. En el Manual de Tallin, por ejemplo, se lo define como: “El entorno formado por componentes físicos y no físicos, caracterizados por el uso de computadoras y el espectro electromagnético para almacenar, modificar e intercambiar datos a través de redes informáticas”.[53]

La dimensión del ciberespacio no consiste en un “espacio en sí mismo”, sino en una dimensión que, con sus propias reglas, atraviesa a los demás dominios. La característica que lo distingue de los otros dominios es la combinación de energía electrónica y electromagnética. En virtud de ello, si una actividad depende de la utilización de la electrónica y la energía electromagnética, entonces puede decirse que está teniendo lugar en el ciberespacio. La manera en que el ciberespacio permite crear, almacenar, modificar, intercambiar y explotar la información, tuvo como consecuencia la transformación del modo de operar en los otros dominios y de usar los instrumentos del poder nacional[54].

Los dispositivos de RI y los que utilizan IA, son equipos que actúan en el ciberespacio, por lo que, en virtud de ello, podrían ser atacados por ciberdelincuentes.

Asimismo, estos dispositivos podrían ser engañados por un adversario, el cual, al introducir los datos, usando también IA, podría difundir datos sesgados, confusos incoherentes o contradictorios en gran cantidad de forma que el dispositivo se vea engañado[55].

Lo anterior, atento a que la IA es una tecnología que amplía el rango y alcance de las ciberamenazas; mejora notablemente la eficiencia, escalabilidad y efectividad de los ciberataques, que superan en determinadas funciones la capacidad humana; potencia el anonimato y el distanciamiento psicológico del atacante, y facilita una rápida distribución e implantación de los algoritmos por parte de los ciberdelincuentes o, del enemigo[56].

Así pues, si bien, por un lado, la IA permite mejorar las capacidades para proteger el ciberespacio (v.gr. la detección de vulnerabilidades), por otro, estos mismos algoritmos pueden emplearse para poner a prueba y reforzar nuevo malware. Otro ejemplo del uso dual es la alteración de los algoritmos de IA con el fin de incorporar puertas traseras o vulnerabilidades o tomar control sobre el comportamiento de las aplicaciones[57].

Por consiguiente, la alteración con fines maliciosos de algoritmos de IA utilizando sistemas de IA o de la información de referencia que los entrena y el aprovechamiento de sus vulnerabilidades son aspectos que considerar por su notable impacto en la seguridad y en la defensa de un país[58].

Esta dualidad, es decir, la posibilidad de que el desarrollo de la IA afecte no sólo a la seguridad del ciberespacio, sino también a su inseguridad, es un motivo de preocupación entre la ciber-comunidad en general y, en especial, para aquellos países que utilizan o están desarrollando la IA y la RI para la defensa[59].

Sin perjuicio de los usos maliciosos de la IA antes mencionados, la IA aporta múltiples beneficios. En líneas generales, son variadas las áreas en las que la IA comienza a ser imprescindible; en algunas de ellas ya se trabaja sobre soluciones que, en mayor o menor medida, incorporan técnicas asociadas a la IA[60].

En este contexto, la IA podría utilizarse para: el análisis de rastros en una red a los fines de la detección de la intrusión o de la actividad delictiva, la anticipación de amenazas basándose sobre fuentes abiertas de información disponibles, a mejora del nivel de resistencia de los sistemas la lucha en los dominios de influencia digital, la toma de decisiones, consciencia situacional[61].

Si bien en varias de las áreas antes mencionadas, ya existen avances suficientes como para posibilitar el desarrollo de soluciones comerciales, en otras, aún es escaso el recorrido[62].

En Francia, por ejemplo, tanto la detección como la anticipación de los ataques se apoyarán en la estructura ARTEMIS[63], la cual permitirá la captación y el tratamiento de datos por la IA. A esto se sumará, también, la cooperación interministerial[64].

 

II.VI.- Robótica y autonomía

II.VI. I.- Sistemas de armas letales autónomos (SALAS)

La tecnología de la IA también se introdujo en la robótica inteligente (RI). Ello hace posible la producción de robots con un elevado grado de autonomía en sus funciones, los cuales son capaces de actuar en entornos cambiantes, evitándole al hombre la realización de las tareas conocidas como las 3D: Dull, Dirty &Dangereous (aburrido, sucio y peligroso).

Sin perjuicio de los beneficios que la RI brinda y la posibilidad de que estos cada vez sean mayores, ésta también genera recelo en lo que respecta a los sistemas de armas letales autónomos (SALAS)[65].

En los tres dominios -aéreo, terrestre y marítimo- la RI resulta de utilidad para operaciones de inteligencia, vigilancia y reconocimiento (ISR), ya que brinda mayor resiliencia, persistencia y volumen de información con menos personal y menos riesgo para el mismo.

Dependiendo de los tipos de misión, los vehículos no tripulados en ocasiones pueden conseguir mejores resultados que los tripulados. En general son mucho más económicos. En misiones «largas y tediosas» pueden resultar más operativos. Gracias a su menor tamaño pueden ser más discretos y en consecuencia más difíciles de ser detectados. Además, otro beneficio que presentan es que se les puede colocar sensores, los cuales serán otra fuente de información que se adicionará para la COP (Common Operational Picture).

Así pues, este tipo de vehículos pueden ser utilizados para llevar a cabo un amplio abanico de misiones en escenarios muy variados, con unas capacidades y posibilidades que están en continuo aumento debido a los avances de la técnica y la tecnología en diferentes campos y sistemas: informática, robotización, conectividad, automatización, miniaturización, propulsión, navegación, posicionamiento, comunicaciones, sensores, armas, materiales, redes, etcétera.

En lo que hace puntualmente al dominio aéreo se han empleado vehículos aéreos no tripulados (UAV, unmanned aerial vehicle), pilotados en forma remota. El uso de éstos resulta por demás útil, ya que, por un lado, proporcionan información nivel estratégica y operacional sobre el terreno y, por otro, se utilizan para los ataques de precisión sobre objetivos de gran valor lográndose, de esta forma, minimizar el riesgo de daños colaterales[66].

Un análisis aparte merece el tema de los vehículos aéreos de combate no tripulados (Unmanned Combat aerial Vehicles, UCAVs). Son vehículos preparados para combatir con otros vehículos aéreos, o para llevar a cabo ataques con armas de alta capacidad destructiva a unidades navales o a blancos terrestres. En muchos aspectos están en fases preliminares y presentan grandes problemas de todos los tipos.

Entre ellos está la dificultad y complejidad de control de los vehículos y la coordinación del espacio aéreo donde operan. El manejarlos en zonas donde hay un gran tráfico y una intensa actividad aérea, es muy difícil y arriesgado, por lo que en esas circunstancias es de prever que sigan dominando los vehículos tripulados. Por otra parte, para acciones contra el suelo o el mar, pueden aparecer frenos o problemas de tipo ético, ya que la sensación de seguridad e impunidad de los controladores y utilizadores situados muy lejos de las áreas calientes, y la falta de riesgo, podrían tener funestas consecuencias para la población civil y su entorno.

También en el dominio naval es utilizada la RI. Actualmente se emplean dos tipos de vehículos marinos no tripulados: a) vehículos no tripulados de superficie (USV, unmanned surface vehicle), b) vehículos no tripulados submarinos (UUV, unmanned undersea vehicle).

Los primeros se pueden usar, entre otras cosas, para la protección y defensa de zonas costeras disputadas u hostiles, como por ejemplo lo hace Israel.  En lo que respecta a las operaciones de lucha antisubmarina, por su parte, éstas pueden ser encomendadas a los vehículos submarinos no tripulados (Unmaned Undersea Vehicles, UUV), los cuales, también son muy útiles para participar en misiones de reconocimiento de fondo marino y rescate submarino, así como también para la búsqueda y caza de minas[67].

A estos vehículos submarinos no tripulados, cuya función fundamental es la seguridad general, se les está añadiendo inteligencia artificial en cuanto a la detección, clasificación e identificación de minas enterradas[68].

La IA, asimismo, se está empezando a utilizar para los submarinos tripulados. China, por ejemplo, está desarrollando sistemas de inteligencia artificial para sus submarinos nucleares, para tener sistemas de apoyo a la toma decisiones, a los fines que los comandantes puedan tener una ventaja definitiva en una misión[69].

La RI, por su parte, también se da en el dominio terrestre, en el cual se utilizan vehículos terrestres no tripulados (UGV, unmanned ground vehicle). Estos pueden ser armados o no y adoptar distintos tamaños, medios de locomoción y morfologías para adaptarse mejor a los distintos objetivos, serán de utilidad para operaciones de desminado en zonas recuperadas o conquistadas y también para la apertura de brechas en campos minados y para el reconocimiento de rutas terrestres y neutralización de artefactos explosivos[70].

El vehículo terrestre no tripulado puede ser dotado de inteligencia artificial de distintas formas. Una de ellas puede ser la de localización del enemigo por el sonido. Incorporando un array de micrófonos en el vehículo y con algoritmos de machine learning el sistema podría indicar por dónde vienen los disparos y así reorientar su dirección, además de detectar el tipo de arma que se está usando. En los vehículos terrestres pueden colocarse numerosos sensores, como son cámaras 360º, cámaras electro-ópticas con visión térmica y nocturna mejorando considerablemente los sistemas de vigilancia y observación. Con esta información es posible reconocer al enemigo, haciendo uso de la disciplina científica conocida como «visión artificial»[71].

La empresa Milrem Robotics a la fecha ha vendido el vehículo terrestre no tripulado que fabrica, denominado THeMIS, a nueve países, siete de los cuales son miembros de la OTAN. Los últimos en adquirir varias unidades de estos ingenios son Holanda y Estonia[72].

El uso y desarrollo de los sistemas no tripulados ha crecido de una forma notable, y se cree que va a seguir creciendo en el futuro a un alto ritmo. En la actualidad, hay un medio centenar de países que los utilizan, de los cuales el principal es Estados Unidos, con el 58% del mercado mundial. Aunque hay otros países que están empezando a tomar posiciones de protagonismo, como China, Rusia, India o Brasil, y Europa Occidental se presenta como una zona clave en el desarrollo de estos sistemas y vehículos. Actualmente, en la Unión Europea, Francia y Reino Unido representan las tres cuartas partes de este mercado[73].

Comparando el conjunto de sistemas no tripulados aéreos, navales y terrestres, se prevé un considerable aumento de los navales, puesto que de los terrestres ya hay un gran volumen en el mercado, y el número de los aéreos también es elevado. Las cifras comparativas nos hablan de 28.000 sistemas terrestres, frente a 14.600 aéreos y 1.400 navales. En cuanto a los vehículos aéreos no tripulados, se estima que en los próximos 10 años la demanda mundial llegará a duplicarse[74].

A mayor abundamiento, cabe mencionar que en Francia son objetivos del programa SCORPION[75] el uso de la robótica y la mejora de interfaces entre el hombre-máquina en el dominio terrestre[76].

 

II.VI. II.- Las armas autónomas en la guerra entre Rusia y Ucrania

Al respecto, cabe mencionar que de las fuentes consultadas surge que los protagonistas de este conflicto utilizaron armas autónomas combinadas con inteligencia artificial. Ucrania usa drones de combate turcos «Bayraktar TB 2», los cuales poseen capacidades de despegue, aterrizaje y sobrevuelo de forma autónoma sin control humano. Del mismo modo, dicho avión no tripulado tuvo un papel de vanguardia en los ataques lanzados por Ucrania contra los sistemas de defensa aérea, tanques y unidades blindadas rusas. Aunque «Bayraktar TB2» tiene la capacidad de despegar, aterrizar y realizar salidas aéreas de forma autónoma, el hecho es que este dron todavía necesita un «factor humano» para decidir cuándo lanzar bombas guiadas por láser[77].

Por su parte, Moscú cuenta con drones con altas capacidades autónomas como «Lancet» y «Kub» y que ya habían sido utilizados en Siria y Libia, según las autoridades rusas que indicaron que este tipo de drones también se están utilizando en Ucrania. Otros informes dijeron que las fuerzas rusas han enviado vehículos de combate terrestre URAN-9 (UGV) a Ucrania que tienen altas capacidades de detección de objetivos y luego lo rastrean automáticamente[78].

 

III.- Estrategias internacionales sobre el uso de la IA y la RI en la defensa.

El desarrollo de la IA juega un rol preponderante desde hace varios años en lo que a la competencia estratégica se refiere. Así pues, las grandes potencias compiten en una carrera por el poder tecnológico, económico, pero, también militar.

En este contexto, la inteligencia artificial (IA), tiene en la actualidad un papel indispensable dentro de las políticas de Estado de estos países, en especial para las de Estados Unidos y China, ya que cada uno de ellos, ve de manera inevitable y obligatoria el postularse como líder y pionero ante los demás del mundo.

Esto, no es tarea fácil si tenemos en cuenta la trayectoria en temas de investigación e innovación no sólo de los dos países antes mencionados sino, también, de otros como Rusia, Reino Unido, Francia, Israel y Corea del Sur.

Seguidamente, se hará referencia de las distintas estrategias o programas puestas en marchas por algunos de los países antes mencionados.

 

III.I.    Estados Unidos

El gobierno de los Estados Unidos se centra cada vez más en desarrollar tecnologías militares emergentes para mejorar tanto la seguridad nacional como la primacía militar de ese país.

En ese contexto, el Departamento de Defensa (DOD) emprendió, en los últimos años, una serie de iniciativas en un esfuerzo por detener esta tendencia.  Entre ellas, cabe mencionar el anuncio del DOD, en 2014, de la Defense Innovation Initiative[79], conocida también como la Third Offset Strategy (TOF). Ésta era una muestra de la importancia que el gobierno de ese país les otorga a las tecnologías disruptivas como la IA, los metadatos y la nube.

Luego, en 2017, en una investigación para la U.S. Intelligence Advanced Research Projects Activity (IARPA), Allen y Chan ponían de relieve el potencial de la IA para transformar la seguridad nacional en áreas como la ciberdefensa, los misiles guiados, la imaginería de satélites o las armas nucleares[80].

Entre los proyectos, cabe mencionar a MAVEN, orientado, principalmente, a la utilización de la inteligencia artificial para analizar automáticamente las imágenes de video recopiladas por drones.

Posteriormente, ya en 2018, la Estrategia de Defensa Nacional se hizo eco de los fundamentos de la Third Offset Strategy, señalando que la seguridad nacional de Estados Unidos probablemente se verá afectada por los rápidos avances tecnológicos y el carácter cambiante de la guerra. Las nuevas tecnologías incluyen computación avanzada, análisis de “big data”, inteligencia artificial, autonomía, robótica, energía dirigida, hipersónica y biotecnología, las mismas tecnologías que garantizan que serán capaces de luchar y ganar las guerras del futuro.

Ese mismo año, IARPA anunció que buscaba inteligencia artificial que pudiera unir y analizar imágenes satelitales y metraje recopilado de aviones, drones y otros aviones. El programa, llamado Técnica de reconocimiento automatizado de máquinas basadas en el espacio, esencialmente busca usar IA para monitorear toda la actividad humana en todo el mundo en tiempo real[81].

Hasta el momento, las iniciativas de investigación y el desarrollo de la IA corresponden a la mencionada IARPA, a la Defense Advanced Research Projects Agency (DARPA) y a la Oficina para el secretario adjunto de Investigación e Ingeniería (ASD/RE)[82].

En la actualidad, la DARPA también está financiando investigaciones para enseñar a las computadoras a detectar automáticamente errores en deepfakes y otros medios manipulados, a la vez que se está invirtiendo en el uso de la IA para el diseño sistemas de armas, vehículos y otras plataformas conectadas a la red más seguros[83].

Fuera de la inteligencia artificial, DARPA también está trabajando para desarrollar una amplia gama de otras capacidades, que incluyen, entre otros, robots de reparación de satélites, tecnologías de mapeo subterráneo automatizadas y computadoras con tecnología[84].

Finalmente, entre programas militares de Estados Unidos en los que se usa IA, a modo de ejemplo, puede mencionarse el buque de guerra autónomo Sea Hunter, que está diseñado para operar durante largos períodos en el mar sin un solo miembro de la tripulación, e incluso para guiarse a sí mismo dentro y fuera del puerto[85].

 

III.II.  China

            A modo de introducción, es necesario señalar que China es un país que apuesta, por un lado, a las nuevas tecnologías que definen las tendencias del futuro: IA, IoT, Big Data, Blockchain, a la vez que, por otro, desarrolla una estrategia de expansión inmaterial, que promueve la cooperación vía normas, standards, proyectos digitales, financieros, culturales, entre otros, con el objetivo de manejar y controlar los mismos. A la fecha, China se ha consolidado como poder normativo en numerosos sectores identificados como prioritarios[86].

Si bien este país tiene una larga historia en lo que hace al apoyo, por parte del Estado, a las empresas nacionales para el desarrollo tecnológico, esta no sería la única vía utilizada por China en su maratón contra los Estados Unidos, en búsqueda de la supremacía.

Para ello, se vale de distintos medios, como ser los ciberataques y las operaciones de espionaje realizadas por grupos de ciber-mercenarios como las APTs (Advanced Persistent Threats), afectando no sólo a empresas o instituciones de dicho país sino de muchos otros países[87].

Así pues, el ciber-espionaje, se ha extendido de manera tentacular siendo el ciberespacio una plataforma estratégica para recolectar las informaciones necesarias a los fines de la construcción de una ventaja competitiva[88].

Como se hiciera referencia anteriormente, este país, al igual que otros, considera a la IA como una tecnología estratégica. En virtud de ello, en 2017, presentó su plan para el desarrollo de la siguiente generación de IA[89].

En lo que hace al uso militar de la IA, la estrategia china pareciera tener como objetivo al uso de la IA para dominar los sistemas y redes de información, neutralizando funciones y capacidades del adversario sin recurrir únicamente a las aplicaciones cinéticas que ofrece esta tecnología[90].

La “guerra de la información” se ha convertido en uno de los ejes principales en los que está enfocado el Ejército Popular de Liberación (EPL) y la IA tiene mucho que decir en ese campo de batalla virtual. Consecuentemente, cualquier esfuerzo por contrarrestar la estrategia China pasaría por tener en cuenta no sólo el empleo ofensivo de la IA, sino también las posibilidades que ofrecería en materia defensiva[91].

Así pues, en el caso de un hipotético conflicto, sería obligado, en caso de contar con la capacidad, emplear la IA y los sistemas autónomos para armar y defender el sistema de información propio, mientras en paralelo se emplearía para desarticular la estrategia y las capacidades de información del adversario.

 

III.III. Rusia

En septiembre de 2017, en el marco de una «clase abierta» nacional en la ciudad de Yaroslavl, al noreste de Moscú, como consecuencia del comienzo del año escolar, el presidente ruso Vladimir Putin dijo que el país que tome la delantera en la esfera de la inteligencia artificial basada en computadoras (IA) gobernará al mundo. “La inteligencia artificial es el futuro no solo de Rusia sino de toda la humanidad” […] «Hay grandes oportunidades, pero también amenazas que hoy son difíciles de prever» […] «Quien se convierta en el líder en esta esfera se convertirá en el gobernante del mundo», dijo, y agregó, que sería mejor evitar que y agregó que sería mejor evitar que cualquier «par de manos» en particular logre un monopolio en el campo[92]

Ya, en 2017, se tenía conocimiento de que el trabajo para desarrollar drones y vehículos para uso militar y civil estaba muy avanzado en Rusia. En ese entonces, el ejército ruso también ya estaba desarrollando robots, sistemas antidrones y misiles de crucero que podrían analizar radares y tomar decisiones sobre la altitud, velocidad y dirección de su vuelo, según medios estatales[93].

Como puede inferirse de los dichos del presidente ruso, así como de las acciones del gobierno Rusia, Putin ha otorgado especial importancia a la inversión en el desarrollo del uso de la inteligencia artificial en Rusia. Si bien, la competencia y el deseo de unirse al liderazgo de los países con visión de futuro en el campo de las tecnologías de inteligencia artificial, como China, Estados Unidos e India, se encuentran entre los motivos reales que animan al Kremlin, el interés de Moscú en la inteligencia artificial militar no debe reducirse a la única búsqueda de poder e influencia. De hecho, el desarrollo de este sector contribuirá innegablemente a la promoción de varios otros campos de actividad en Rusia, por lo que ese país ha trabajado, en los últimos años, para fortalecer sus esfuerzos para integrar robots e inteligencia artificial en sistemas militares, a través, entre otras cosas, del establecimiento de una red de investigación y desarrollo que cubre las industrias militares, el sector privado y la academia[94].

            En ese orden de ideas, cabe mencionar que, en 2021, Sergué Shoigú, ministro de Defensa del país, confirmó que Rusia ya estaba produciendo en serie robots de combate basados en un sistema de inteligencia artificial. Dicho funcionario se refirió a los mismo como «las armas del mañana». Al respecto señaló, «La producción en serie de robots de combate ya ha comenzado, pero no son modelos experimentales, sino robots que incluso pueden exhibirse en películas de ciencia ficción, ya que son capaces de actuar de forma autónoma (sin la necesidad de un operador en remoto)»[95].

            En la actualidad hay varias empresas rusas del sector de defensa que están desarrollando diferentes robots de combate con inteligencia artificial para el ejército. El conglomerado ruso Uralvagonzavod, por ejemplo, está construyendo sistemas robotizados basándose en el tanque T-72B3. Entre ellos destaca un vehículo de combate no tripulado con armas pesadas. Mientras que el grupo Kalashnikov, por su parte, está fabricando uno que tendrá como tareas la custodia de territorios y el reconocimiento[96].

            Finalmente, cabe mencionar que el ejército ruso tiene ya varios robots que utiliza. Algunos de ellos son:  El Uran-6 -es un robot de 6 toneladas que tiene una forma similar a la de una excavadora y que desactiva minas y otros artefactos explosivos para crear pasajes seguros para los soldados-; el robot submarino Poseidón, que posee propulsión nuclear y es capaz de portar munición tanto convencional como nuclear, el cual podría ser usado, por ejemplo para el ataque de una variedad de objetivos, como portaviones con buques de escolta, obras de infraestructura o fortificaciones costeras, y el Uran-9, creado por Kalashnikov. Este es un vehículo terrestre con forma de tanque no tripulado (un ‘robotanque’) que tiene un peso de 12 toneladas y que se utiliza para misiones de reconocimiento y destrucción de vehículos blindados[97].

 

            III.IV. Francia

            En 2017 el primer ministro le encargó a Cédric Villani -matemático, investigador y diputado francés- liderar una misión sobre la implementación de una estrategia de inteligencia artificial (IA) francesa y europea. El informe, elaborado como consecuencia de dicho encargo, fue presentado en marzo de 2018 y aborda diferentes facetas de la IA: política económica, investigación, empleo, ética, cohesión social. Éste posee además cinco anexos, los cuales se centran en ámbitos de especial interés: educación, salud, agricultura, transporte, seguridad y defensa.[98]

Asimismo, en 2019, la Ministra de Defensa de ese país, presentó la estrategia francesa sobre IA aplicada a la defensa, mediante el informe “L´intelligence artificielle au service de la défense”, elaborado por la Task Force IA del Ministerio de Defensa francés[99].

Como indica este informe, la inteligencia artificial afectará a todos los aspectos del Ministerio de las Fuerzas Armadas: administración, gestión interna de datos y, por supuesto, los eventuales campos de batalla.

Asimismo, se destaca el fuerte potencial de la IA, para entender mejor, anticipar, decidir más rápido, proteger mejor a los soldados, liberar al hombre de las tareas analíticas, optimizar los flujos y los recursos.

Los autores del informe identificaron varias «áreas prioritarias de esfuerzo», incluyendo la toma de decisiones, la robótica, la ciberdefensa, la inteligencia, la logística, el apoyo, pero también el mantenimiento operativo y el «combate colaborativo». Fundamentos que no han escapado a algunos países, incluidos los Estados Unidos, que ya están trabajando activamente en estas cuestiones.

El informe sostiene además que «la IA puede ser un agente desestabilizador de los equilibrios establecidos»[100] y que «los ejércitos franceses no pueden, por lo tanto, mantenerse alejados de estos acontecimientos, o arriesgarse a perder un importante punto de inflexión tecnológico y perder la superioridad operativa que es suya hoy en día»[101].

Para lograrlo, se prevé un presupuesto de 700 millones, «una media anual de poco más de 100 millones de euros».

En este orden de ideas, se anuncia la creación de los siguientes organismos:

• Una unidad dedicada a la inteligencia artificial dentro de la Agencia de Innovación en Defensa (AID)[102],
• La Célula de Coordinación de Inteligencia de Defensa Artificial (CCIAD) compuesta por una docena de expertos, será «responsable de animar las acciones ministeriales a favor de la IA»[103],
• Se pedirá a un comité ministerial que decida sobre «las cuestiones éticas que podrían surgir de los futuros acontecimientos en la IA aplicadas al ámbito militar»[104].

El informe también presenta casos concretos del uso de tecnologías basadas en inteligencia artificial en caso de conflicto. Especialmente en términos de comunicación, con un sistema que puede adaptarse en tiempo real y basado en datos de satélites de vigilancia, el cual, evitará interrupciones y replanificará automáticamente las operaciones durante las misiones si es necesario.

En el aire y en tierra, también se diseñan herramientas y armas basadas en IA. Los drones, por supuesto, se adaptarán en tiempo real a la situación en tierra, pero también aviones de combate equipados con asistentes de voz virtuales. Este también será el caso de los tanques de batalla que también pueden anticipar el peligro. Éstos podrán ir acompañados de robots semiautónomos que pueden funcionar en entornos complejos.

En cuanto al desarrollo de los sistemas de armas letales autónomas (SALAS) por parte de Francia, se señala que dicho país no planea desarrollar sistemas totalmente autónomos, completamente fuera del control humano en la definición y el cumplimiento de su misión[105], a la vez que se aboga por una «IA de confianza»[106] y se pide la construcción de normas internacionales.

 

IV.- Necesidad de un marco ético y jurídico robusto para el uso militar de la IA y la RI.

El uso de la IA y la RI en la defensa puede presentar diferentes cuestiones tanto éticas como jurídicas, sea en lo que se refiere a las tareas administrativas como las técnicas o para el empleo operacional.

Así pues, es necesario que la ética y el derecho continúen estando en el centro de la formación militar. Los principios del derecho internacional humanitario (necesidad, humanidad, proporcionalidad y distinción) y los valores éticos deben continuarse integrando, ahora con el uso de estas nuevas tecnologías, en el proceso de la planificación rigurosa y secuenciada del uso de la fuerza y de la cadena de toma de decisiones. En ese mismo orden de ideas, el uso de la fuerza debe seguir siendo establecido por las reglas de participación, validado por la autoridad política[107].

Para evitar que el uso militar de las tecnologías basadas en IA viole estos principios, en particular en lo que respecta al lugar del hombre en la acción militar, es aconsejable mantener la responsabilidad del mando militar en el uso de armas[108].

 

IV.I.- Departamento de Defensa de los Estados Unidos

En este sentido, el Departamento de Defensa de los Estados Unidos, por ejemplo, ha establecido políticas respecto del uso de la autonomía en ciertos tipos de sistemas de armas. Según la política que fijara en 2012, ciertos tipos de los sistemas de armas autónomos requieren una revisión adicional por parte de altos funcionarios del Departamento de Defensa antes del desarrollo formal.  Además, la política establece estándares rigurosos para el diseño de sistemas, pruebas de hardware y software, y capacitación del personal sobre el uso adecuado de sistemas autónomos y semiautónomos. Entre otras cosas, esta requiere que los comandantes militares utilicen sistemas de armas autónomos y semiautónomos de forma consistente, conforme con su diseño, prueba, certificación, capacitación de operadores y doctrina[109].

 

IV.II.- Naciones Unidas

En el marco de las Naciones Unidas, estas cuestiones fueron analizadas por el GEG (Grupo de Expertos Gubernamentales). La primera reunión de este grupo consagrada a las nuevas tecnologías aplicadas a los sistemas de armas autónomas, en el marco de los objetivos de la CCAC (Convención sobre prohibiciones o restricciones del empleo de ciertas armas convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados), tuvo lugar en Ginebra del 13 al 17 de noviembre de 2017.

Al final de ese encuentro, los participantes adoptaron un conjunto de hallazgos y recomendaciones[110]. Una de las conclusiones fue que el CCAC es el marco adecuado para abordar esta cuestión y la otra es que el derecho internacional humanitario se aplica plenamente al desarrollo y al uso potencial de sistemas autónomos de armas letales. Este fue un punto de partida importante, pero no proporcionó una respuesta a la pregunta sobre la aplicación de otras normas jurídicas.

El trabajo, que comenzó en 2017 con miras a desarrollar un entendimiento y principios comunes, continuó en abril de 2018 y culminó con el desarrollo de un conjunto de posibles principios rectores en la reunión de finales de agosto de 2018. Estos principios están respaldados por los elementos fundamentales de la caracterización, la interfaz hombre-máquina y la revisión de la tecnología. El informe del GEG describe cuatro opciones, incluidas las posibles condiciones vinculantes, que pueden definirse sobre la base de los principios y fundamentos rectores acordados[111].

Los diez principios se referían a: la aplicabilidad del derecho internacional humanitario; la no delegación de responsabilidad humana; la responsabilidad por el uso de la fuerza de conformidad con el derecho internacional humanitario; el examen de  la legalidad de las armas antes del despliegue; la incorporación de salvaguardias físicas para la no proliferación y la ciberseguridad; la evaluación y mitigación de riesgos durante el desarrollo tecnológico, el uso de nuevas tecnologías en el ámbito de las SALAS de conformidad con el derecho internacional humanitario; el impedimento de cualquier programa de investigación, desarrollo y uso con fines civiles; la  necesidad de un enfoque antropomórfico de la IA; y la pertinencia del CCAC como marco para abordar esta cuestión.

Los elementos fundamentales de la caracterización incluyen la necesidad de mantener el elemento humano en primer lugar cuando se utiliza la fuerza.

Se puso de relieve la importancia de la naturaleza y la calidad de la interfaz entre el ser humano y la máquina para abordar las preocupaciones relacionadas con el desarrollo, el despliegue y la utilización de las tecnologías emergentes en el ámbito de los sistemas de armas autónomos letales.

En este orden de ideas, la comprensión de la interfaz hombre-máquina se basa en: una dirección política durante la fase previa al desarrollo; la investigación y el desarrollo, las pruebas, la evaluación y la certificación, la implementación, el entrenamiento, el mando y el control; la utilización y la interrupción y la evaluación posterior al uso[112].

Asimismo, el Grupo convino en que la responsabilidad humana es el componente de la interfaz hombre-máquina en el contexto de la CCAC, a la vez que, también reconoció la necesidad de avanzar por etapas y desarrollar un lenguaje científico y político común en asociación con la industria y otras partes interesadas.

También se expresó apoyo a la armonización de los procesos de examen jurídico de las armas y a la elaboración de normas y reglas convenidas internacionalmente, sugiriéndose que podría llevarse a cabo un análisis técnico comparativo de los mecanismos generales de examen de las armas en relación con el desarrollo y la adquisición de nuevas armas, lo que ayudaría a determinar las deficiencias y las posibles soluciones. Este ejercicio también podría dar lugar a un compendio de buenas prácticas nacionales en materia de examen de las armas y de los nuevos medios y métodos de combate, y contribuir a establecer medidas de transparencia e intercambio de información y acuerdos de cooperación en materia de análisis técnico entre los Estados[113].

Algo importante para señalar es que Argentina fue una de las partes contratantes de la CCAC antes mencionada y participó en los trabajos que se realizaron en estas reuniones del GEG[114].

Sin perjuicio de esto, aún resta mucho trabajo por hacer a nivel internacional, en lo que hace a la prevención de posibles daños a civiles y combatientes en conflictos armados contrarios a las obligaciones del derecho internacional humanitario, los dilemas de seguridad que se plantean como consecuencia de la carrera armamentista y la reducción del umbral para el uso de la fuerza[115].

El avance de la tecnología siempre ha tenido como contrapartida la evolución del derecho internacional aplicable a la guerra. Así pues, cualquier sistema autónomo letal que intente adherirse a estas normas internacionales debe ser igualmente capaz de adaptarse a las nuevas políticas y regulaciones tal como son formuladas por la sociedad internacional[116].

 

IV.III.- OTAN

En octubre de 2021, los ministros de Defensa de los diferentes países miembros de la OTAN acordaron la primera estrategia de dicho organismo para la Inteligencia Artificial (IA). Cabe señalar que, la Inteligencia Artificial es una de las siete áreas tecnológicas que los aliados de la OTAN han priorizado por su relevancia para la defensa y la seguridad. La estrategia de la OTAN describe cómo la IA se puede aplicar a la defensa y la seguridad de una manera protegida y ética. A tal fin, fija estándares de uso responsable de las tecnologías de IA, conforme al derecho internacional y los valores de la OTAN. Asimismo, aborda las amenazas planteadas por el uso de la IA por parte de los adversarios y cómo establecer una cooperación confiable con la comunidad de innovación en IA, a la vez que, también se aprobó la primera política de la OTAN sobre la explotación de datos y se acordó que se desarrollarán estrategias individuales para todas las áreas prioritarias, siguiendo el mismo enfoque ético que el adoptado para la Inteligencia Artificial[117].

Así pues, en lo que hace a los principios de la OTAN sobre el uso responsable de la inteligencia artificial en defensa, los aliados y la OTAN, en dicha estrategia, se comprometen a garantizar que las aplicaciones de IA que desarrollen y consideren implementar serán, en las diversas etapas de sus ciclos de vida, de acuerdo con los siguientes seis principios[118]:

1. Legalidad: las aplicaciones de IA se desarrollarán y utilizarán de conformidad con el derecho nacional e internacional, incluido el derecho internacional humanitario y el derecho de los derechos humanos, según corresponda[119].
2. B. Responsabilidad y rendición de cuentas: las aplicaciones de IA se desarrollarán y utilizarán con niveles apropiados de juicio y cuidado; se aplicará una responsabilidad humana clara para garantizar la rendición de cuentas[120].
3. Explicabilidad y trazabilidad: las aplicaciones de IA serán debidamente comprensibles y transparentes, incluso mediante el uso de metodologías, fuentes y procedimientos de revisión. Esto incluye mecanismos de verificación, evaluación y validación a nivel de la OTAN y/o nacional[121].
4. Confiabilidad: Las aplicaciones de IA tendrán casos de uso explícitos y bien definidos. La seguridad, la protección y la solidez de dichas capacidades estarán sujetas a pruebas y garantías dentro de esos casos de uso a lo largo de todo su ciclo de vida, incluso a través de procedimientos de certificación nacionales o de la OTAN establecidos[122].
5. Gobernabilidad: las aplicaciones de IA se desarrollarán y utilizarán de acuerdo con las funciones previstas y permitirán: una interacción hombre-máquina adecuada; la capacidad de detectar y evitar consecuencias no deseadas; y la capacidad de tomar medidas, como la desconexión o desactivación de sistemas, cuando dichos sistemas demuestren un comportamiento no intencionado[123].
6. Mitigación de sesgos: Se tomarán medidas proactivas para minimizar cualquier sesgo no deseado en el desarrollo y uso de aplicaciones de IA y en conjuntos de datos.[124]

Como puede observarse de lo hasta aquí señalado, los organismos internacionales, como por ejemplo, la ONU y la OTAN, desempeñan un rol importante en lo atinente a la solución de los desafíos que plantea el rápido cambio tecnológico. Ellos tienen la capacidad de reunir a todas las partes interesadas importantes, a la vez que, por otro lado, refuerzan la confianza en el derecho internacional y, en las instituciones internacionales.

 

V.- Conclusiones

En este trabajo vimos como el Big Data y millones de datos individuales, sin importancia por sí mismos, alineados, ordenados y estructurados cobran sentido y permiten conocer los parámetros físicos, emocionales, cognitivos de cada soldado y de las circunstancias que lo rodean. Todo ello, posibilita, por un lado, una mayor protección del combatiente y, por otro, hacer un uso cada vez más eficiente de los recursos humanos, ya que los robots inteligentes lo liberan de las tareas repetitivas y peligrosas y lo apoyan en el cumplimiento de su misión.

Se podría decir entonces, que una de las tareas principales tanto del soldado, así como de los sensores de orígenes diferentes y de las plataformas de los dominios terrestres, marítimos y aéreo, sean estas tripuladas o no, entre otras fuentes, es el de proveer esos datos al sistema, para que luego, éste, pueda correlacionarlos e integrarlos con toda la información posible, para ofrecerle al comandante una “imagen” o mejor dicho una COP (Common Operational Picture) que le sea útil para el uso de sus capacidades, no sólo en tiempo de guerra, sino también, de paz.

Para garantizar lo antes mencionado, será de vital importancia que el país interesado en el uso de estas tecnologías invierta en la creación de una nube de combate que sea eficiente, completa y segura, incluyendo el flujo de datos e información entre todos los actores afectados, pero solo entre ellos, y que sea escalable e interoperable, para posibilitar la incorporación progresiva de todos los datos que se vayan generando.

Además de esto, será necesario contar, en lo que hace a ciberdefensa y ciberseguridad, con las herramientas adecuadas, considerando entre ellas a la IA. Ya que inútil resultará todo lo anterior, si las ciber-amenazas del enemigo manipulan los datos para hacernos arribar a conclusiones equivocadas o imposibilitan nuestra capacidad de utilizarlos.

En lo que al ámbito internacional concierne, se ha demostrado en las páginas anteriores, cómo la IA es parte importante de los instrumentos del poder nacional, al punto de ser considerada una tecnología crítica. Las grandes potencias compiten por tener supremacía con respecto a los otros países y, para ello, la IA les resulta esencial. En virtud de esto, planifican estrategias e implementan políticas de estado, destinando una parte importante de su presupuesto a ello.

Lo anterior, también genera alianzas internacionales, ya que los países buscan garantizar, como ya se dijo, su autonomía estratégica. En este contexto, la Unión Europea también ha puesto en marcha distintos mecanismos para el desarrollo de una IA, ya que los países que la integran consideran importante el desarrollar una IA europea de punta.

El conflicto armado entre Rusia y Ucrania es un ejemplo de algunos de los diferentes usos de estas tecnologías en una guerra, utilizándose, por ejemplo, el reconocimiento facial de la empresa Clearview AI para identificar a los muertos que está dejando este conflicto; reunir familias de refugiados e identificar al enemigo; los drones de combate turcos «Bayraktar TB 2»; los drones rusos con altas capacidades autónomas como «Lancet» y «Kub» y vehículos de combate terrestre como el “robo-tanque” URAN-9 (UGV).

Ahora bien, en lo que atañe al derecho y los diferentes aspectos del uso de la IA en la defensa, como ya se señalara, resta mucho trabajo por hacer. Principalmente en lo atinente a la prevención de posibles daños a civiles y combatientes en conflictos armados contrarios a las obligaciones del derecho internacional humanitario, la reducción del umbral para el uso de la fuerza, etc. Sin perjuicio de ello, como se ha visto, los organismos internacionales, están trabajando activamente para dar respuesta en el ámbito del derecho internacional a los desafíos que estas nuevas tecnologías presentan.

Espero que, si quien está terminando de leer este trabajo, al comienzo se preguntaba cuál podría ser la necesidad de diseñar estrategias, tener políticas de Estado y realizar inversiones orientadas al desarrollo y uso de la IA en la defensa, aún en el supuesto que su país pueda no ser quizás un país que compita en la carrera armamentística ni una potencia haya encontrado en estas páginas, la respuesta.

Asimismo, anhelo que, a estas alturas, estas temáticas a veces olvidadas, otras denostadas, y que muchas veces terminan siendo de interés para un porcentaje limitado de la población, haya logrado despertar en usted no sólo curiosidad, sino también, nuevos interrogantes para seguir profundizando en estas apasionantes cuestiones.

Para finalizar, a modo de reflexión frente a los desafíos éticos y jurídicos que el uso militar de la IA y la RI plantean y, en los que, quien ha leído este artículo probablemente esté pensando, quisiera recordar una frase de Rabindranath Tagore “… El hombre necesita la máquina y la organización, pero tiene que dominarlas y humanizarlas en vez de resignarse a ser mecanizado y deshumanizado por ellas. El verdadero peligro para el hombre no está en los riesgos que corre la seguridad material, sino en el oscurecimiento del hombre mismo en su propio mundo humano”[125].

Gladys Stoppani

1 de junio de 2022

---

*Gladys Stoppani.

Abogada (UCA). Especialista en Derecho Tributario y Magíster en Derecho Administrativo por la Universidad Austral. Realizó la Especialización en Derecho Aduanero (IEFPA), la Maestría en Ciberdefensa y Ciberseguridad (UBA-tesis en elaboración) y el programa en derecho e IA (UBA). Es Argentinian chapter leader de WOCSA-Worldwide Open Cyber Security Association. Miembro del CEFCYS-Cercle des Femmes de la CyberSécurité y de la FnTC (Fédération des Tiers de Confiance du Numérique).

Ex asesora de la Dirección Nacional de Impuestos del Ministerio de Economía de Argentina y de la UIF (Unidad de Información Financiera de Argentina). Fue asesora por 8 años en el Senado de la Nación Argentina. Actualmente, ejerce la actividad profesional en forma independiente brindando asesoramiento tanto a clientes de su país como del exterior.

Docente universitaria y expositora. Invitada en 2019 como conferencista en l´École de Droit de la Sorbonne. Autora de artículos de sus especialidades y del libro “Aspectos constitucionales y económicos de los derechos aduaneros a la exportación desde la óptica del derecho administrativo”, Colección Thesis, RAP, 2011.

-LinkedIn: www.linkedin.com/in/gladys-stoppani-035b5746

-Mail: g_stoppani@yahoo.com

---

[1] MOHINO HERRANZ, Inmaculada: “De las células a los bits”, en la obra colectiva del Instituto Español de Estudios Estratégicos: D. T. 04/2019. Usos militares de la inteligencia artificial, la automatización y la robótica (IAA&R), disponible en http://www.ieee.es/Galerias/fichero/docs_trabajo/2019/DIEEET04-2019InteligenciaRobotica.pdf, visitado el 24/10/2020, p.37.

[2] GOMEZ DE AGREDA, Ángel: “Introducción”, en la obra colectiva del Instituto Español de Estudios Estratégicos: D. T. 04/2019. Usos militares de la inteligencia artificial, la automatización y la robótica (IAA&R), op. cit., p.10.

[3] Task Force IA del Ministère des Armées, « L´intelligence artificielle au service de la défense. Rapport de la Task Force IA », septembre 2019, pp. 5-6, disponible en https://www.defense.gouv.fr/content/download/566813/9761182/2019.09.13_Strate%CC%81gie_IA_D%C3%A9fense_MINARM.pdf, consultado el 27/10/2020.

[4] DE LA FUENTE CHACÓN, José Carlos: “La inteligencia artificial y su aplicación al mundo militar”, en la obra colectiva del Instituto Español de Estudios Estratégicos: Documentos de seguridad y defensa. La inteligencia artificial aplicada a la defensa, Ministerio de Defensa de España, 2017, p.85, disponible en https://publicaciones.defensa.gob.es/la-inteligencia-artificial-aplicada-a-la-defensa-n-79-libros-ebook.html., consultado el 2/10/2020.

[5] Task Force IA del Ministère des Armées, « L´intelligence artificielle au service de la défense. Rapport de la Task Force IA», op. cit., p.6.

[6] El desminado o eliminación de minas es el proceso de eliminar tanto de minas marinas como terrestres.

[7] Conforme lo informado por Florance Parly, Ministra de Defensa de Francia, en abril de 2019, durante la presentación de la estrategia en inteligencia artificial y defensa, en el Institut de Convergence DATA IA. Vid. « Intelligence artificielle et Défense: La ministre des Armées a présenté sa stratégie à l’Institut de Convergence DATA IA à Saclay », disponible en https://www.actuia.com/actualite/intelligence-artificielle-et-defense-la-ministre-des-armees-a-presente-sa-strategie-a-linstitut-de-convergence-data-ia-a-saclay/, consultado el 27/10/2020.

[8] Task Force IA del Ministère des Armées, op. cit., p.6.

[9] REY, Nancy: “L’Ukraine a commencé à utiliser la reconnaissance faciale de Clearview AI. Au coeur de la crise militaire dans le pays », del 14/03/2022, disponible en  https://intelligence-artificielle.developpez.com/actu/331801/L-Ukraine-a-commence-a-utiliser-la-reconnaissance-faciale-de-Clearview-AI-au-coeur-de-la-crise-militaire-dans-le-pays/, consultado el 29/05/2022.

[10] GAUTRIN, Patricia: « La reconnaissance faciale comme arme de guerre en Ukraine », 3/05/2022, disponible en https://www.cscience.ca/2022/05/03/analyse-la-reconnaissance-faciale-comme-arme-de-guerre-en-ukraine/; consultado el 30/05/2022.

[11] DE LA FUENTE CHACÓN, José Carlos: “La inteligencia artificial y su aplicación al mundo militar”, op. cit. p. 85.

[12] Task Force IA del Ministère des Armées, op. cit., p.6.

[13]Cfr. « Intelligence artificielle et Défense » : La ministre des Armées a présenté sa stratégie à l’Institut de Convergence DATA IA à Saclay, disponible en https://www.actuia.com/actualite/intelligence-artificielle-et-defense-la-ministre-des-armees-a-presente-sa-strategie-a-linstitut-de-convergence-data-ia-a-saclay/, consultado el 27/10/2020, op. cit.

[14] NAVARRO, Iván: “China apuesta por la Inteligencia Artificial militar”, 9/06/2020, disponible en https://observatorio.cisde.es/actualidad/china-apuesta-por-la-inteligencia-artificial-militar/, consultado el 29/10/2020.

[15] CUBEIRO CABELLO, Enrique: “Los sistemas de mando y control: una visión histórico-prospectiva”, pp. 31-32, disponible en file:///C:/Users/g_sto/Downloads/Dialnet-LosSistemasDeMandoYControl-4602258.pdf, consultado el 27/10/2020.

[16] Ibidem.

[17] DE LA FUENTE CHACÓN, op. cit. pp.85-86.

[18] KEPE, Marta y otros, «Exploring Europe’s Capability Requirements for 2035 and Beyond», European Defence Agency, 2018. Disponible en: https://www.eda.europa.eu/docs/default-source/brochures/cdp-brochure—exploring-europe-s-capability-requirements-for-2035-and-beyond.pdf, consultado el 27/10/2020.

[19] CESEDEN: “Tecnologías y sistemas C4ISR. El impacto de la tecnología aeroespacial”, XIV Jornadas UPM-FAS, 22 al 24 noviembre 2010, disponible en http://www.upm.es/sfs/Rectorado/Gabinete%20del%20Rector/Agenda/2010/2010-11/SistemasC4ISR.ImpactoTecnologiaAeroespacial.pdf, consultado el 31/10/2020.

[20] Ibidem.

[21] Ibidem.

[22] Ibidem.

[23]EDA – Anuncio de licitación para el estudio “Artificial Intelligence and Big Data for Decision Making in C4ISR – ABIDE” (18.CAT.OP.027), disponible en https://www.tecnologiaeinnovacion.defensa.gob.es/es-es/Contenido/Paginas/detalleiniciativa.aspx?iniciativaID=346, consultado el 28/09/2020.

[24] Ibidem.

[25] Ibidem.

[26] Ibidem.

[27]LEPINARD, Philippe: “La numérisation des forces terrestres : de la numérisation de l’espace de bataille à l’organisation augmentée”, disponible en https://hal-upec-upem.archives-ouvertes.fr/hal-01823344/document, consultado el 28/10/2020, p. 5.

[28] Ibidem.

[29] BARRAGAN MONTES, Rocío, “Integración de datos para obtener la Common Operational Picture a nivel operacional y estratégico”, en la obra colectiva del Instituto Español de Estudios Estratégicos: D. T. 04/2019. Usos militares de la inteligencia artificial, la automatización y la robótica (IAA&R), disponible en http://www.ieee.es/Galerias/fichero/docs_trabajo/2019/DIEEET04-2019InteligenciaRobotica.pdf, visitado el 24/10/2020, p. 45.

[30] Task Force IA del Ministère des Armées, op. cit., p.15.

[31] Ídem, p.16.

[32] La minería de datos o data mining es la metodología que permite explotar los datos con el objetivo de generar modelos que posibiliten describir, encontrar patrones, establecer agrupaciones, clasificar, segmentar o asociar productos, clientes o cualquier otra entidad objeto de obtener conocimiento y ser aplicados a otros nuevos, obteniendo respuestas de acción inmediata.

[33] El proceso de aprendizaje automático es similar al de la minería de datos. Ambos sistemas buscan entre los datos para encontrar patrones. Sin embargo, en lugar de extraer los datos para la comprensión humana –como es el caso de las aplicaciones de minería de datos– el aprendizaje automático utiliza esos datos para detectar patrones en los datos y ajustar las acciones del programa en consecuencia. Los algoritmos del aprendizaje automático se clasifican a menudo como supervisados o no supervisados. Los algoritmos supervisados pueden aplicar lo que se ha aprendido en el pasado a nuevos datos. Los algoritmos no supervisados pueden extraer inferencias de conjuntos de datos (cfr. ROUSE, Margaret: Aprendizaje automático (machine learning) disponible en https://searchdatacenter.techtarget.com/es/definicion/Aprendizaje-automatico-machine-learning, consultado el 26/10/2020.)

[34] Task Force IA del Ministère des Armées, op. cit., p.15.

[35] BARRAGAN MONTES, Rocío: “Integración de datos para obtener la Common Operational Picture a nivel operacional y estratégico”, op. cit., p.48.

[36] Ibidem.

[37]  “Notification de la deuxième étape du projet ARTEMIS de big data du ministère des Armées”, disponible en https://www.defense.gouv.fr/dga/actualite/notification-de-la-deuxieme-etape-du-projet-artemis-de-big-data-du-ministere-des-armees, consultado el 29/10/2020

[38] Task Force IA del Ministère des Armées, op. cit., p.15.

[39] BARRAGAN MONTES, Rocío: “Integración de datos para obtener la Common Operational Picture a nivel operacional y estratégico”, op. cit., p.46

[40] Ibidem.

[41] Ibidem.

[42] Idem, p. 62.

[43] BARRAGAN MONTES, Rocío: “Integración de datos para obtener la Common Operational Picture a nivel operacional y estratégico”, op. cit., p.49

[44] Task Force IA del Ministère des Armées, op. cit., p.16.

[45] La Task Force IA del Ministère des Armées lo explica del siguiente modo: Durante una operación terrestre de la coalición, secciones de infantería francesa y británica y los alemanes son responsables de asegurar un área geográfica, por ejemplo, en un entorno urbano. Sus comunicaciones pasan por estaciones de radio de nueva generación. Las infanterías deben comunicarse entre sí a través de una onda nacional dentro de la misma sección, o mediante una onda de coalición entre diferentes nacionalidades, permitiendo comunicaciones entre radios de diferentes fabricantes. Antes de la operación, las frecuencias de radio han sido preasignadas entre naciones de la coalición (planificación de «Espectro de frecuencia»). Con redes inteligentes, cada emisora de radio, con capacidad de análisis de espectro que se puede utilizar localmente, puede identificar nuevos recursos para su propio uso: por ejemplo, si la sección de una nación socio opera temporalmente en un entorno interior profundo (galerías subterráneas, por ejemplo), podría potencialmente «liberar sus frecuencias «, que serían utilizables por los franceses o por otro socio (Cfr. Task Force IA del Ministère des Armées, op. cit., p.16.).

[46] Task Force IA del Ministère des Armées, op. cit., pp.17-20.

[47] « Intelligence artificielle et Défense : La ministre des Armées a présenté sa stratégie à l’Institut de Convergence DATA IA à Saclay », op. cit.

[48] CARI: “Ciberdefensa- ciberseguridad, riesgos y amenazas”, 2013, disponible en http://www.cari.org.ar/pdf/ciberdefensa_riesgos_amenazas.pdf, consultado el 30/10/2020.

[49] La ciberseguridad es la preservación de la confidencialidad, integridad y disponibilidad de la información en el ciberespacio.

[50] GAGO, Edgardo: “El enfoque argentino sobre Ciberseguridad y Ciberdefensa”, Buenos Aires, 2017, p.24, disponible en https://repositoriosdigitales.mincyt.gob.ar/vufind/Record/CEFADIG_5519b9c4e1ec7a8b75b0db195f286944, consultado el 31/10/2020.

[51] Ibidem.

[52] Argentina cuenta con el Comando Conjunto de Ciberdefensa. Éste integra el Estado Mayor Conjunto de las Fuerzas Armadas y tiene la misión de conducir las operaciones de ciberdefensa de modo permanente. Fue creado por la Resolución N° 343/2014 del Ministerio de Defensa de Argentina. El Comando Conjunto de Ciberdefensa está conducido por el comandante conjunto de Ciberdefensa, de quien dependen el jefe del Estado Mayor, el Centro de Ingeniería de Ciberdefensa y el Centro de Operaciones de Ciberdefensa, además del Departamento Presupuesto y la Secretaría Ayudante. El Estado Mayor está integrado por los Departamentos Personal, Inteligencia, Operaciones, Logística y Apoyo (cfr. http://www.fuerzas-armadas.mil.ar/Dependencias-CIBDEF.aspx).

[53] Tallin (2013). Manual de Tallin sobre el derecho internacional aplicable a la guerra cibernética. Centro de Excelencia de Ciberdefensa Cooperativa (CCDCOE: Cooperative Cyber Defence Centre of Excellence). Disponible en https://issuu.com/nato_ccd_coe/docs/tallinnmanual, consultado el 28/10/2020.

[54] GAGO, Edgardo: “El enfoque argentino sobre Ciberseguridad y Ciberdefensa”, op. cit. p.10.

[55] ROLDÁN TUDELA, José Manuel: “La inteligencia artificial y la fricción de la guerra”, en la obra colectiva del Instituto Español de Estudios Estratégicos: Documentos de seguridad y defensa. La inteligencia artificial aplicada a la defensa, op. cit., p.105.

[56] LECUIT, Javier Alfonso: “Implicaciones sobre el uso de la inteligencia artificial

en el campo de la ciberseguridad”, 14/5/2019, disponible en http://www.realinstitutoelcano.org/wps/wcm/connect/609a51c5-c34a-4991-b0ef-c262bbe0fa02/ARI50-2019-AlonsoLecuit-Implicaciones-uso-inteligencia-artificial-campo-ciberseguridad.pdf?MOD=AJPERES&CACHEID=609a51c5-c34a-4991-b0ef-c262bbe0fa02, consultado el 31/10/2020.

[57] Ibidem.

[58] Ibidem.

[59] Ibidem.

[60] CUBEIRO CABELLO, Enrique: “Inteligencia Artificial para la seguridad y defensa del Ciberespacio”, en la obra colectiva del Instituto Español de Estudios Estratégicos: D. T. 04/2019. Usos militares de la inteligencia artificial, la automatización y la robótica (IAA&R), op. cit. pp. 108-119.

[61] Ibidem. En igual sentido, ver Task Force IA del Ministère des Armées, op. cit., p.17.

[62] CUBEIRO CABELLO, Enrique: “Inteligencia Artificial para la seguridad y defensa del Ciberespacio”, op. cit., pp. 108.

[63] Como ya mencioné, el proyecto ARTEMIS es un proyecto lanzado por el Ministerio de Defensa de Francia en 2017, a los fines de desarrollar una arquitectura segura para el procesamiento masivo y la explotación de información multi-fuente. Las implementaciones piloto, tendrán lugar ya en 2020. La versión V1 aprobada de la plataforma ARTEMIS se espera en 2021. (cfr. “Notification de la deuxième étape du projet ARTEMIS de big data du ministère des Armées”, disponible en https://www.defense.gouv.fr/dga/actualite/notification-de-la-deuxieme-etape-du-projet-artemis-de-big-data-du-ministere-des-armees, consultado el 29/10/2020)

[64] Ibidem.

[65] ROLDÁN TUDELA, José Manuel: “Introducción”, en la obra colectiva del Instituto Español de Estudios Estratégicos: Documentos de seguridad y defensa. La inteligencia artificial aplicada a la defensa, op. cit., p.12.

[66] ROLDÁN TUDELA, José Manuel: “La inteligencia artificial y la fricción de la guerra”, en la obra colectiva del Instituto Español de Estudios Estratégicos: Documentos de seguridad y defensa. La inteligencia artificial aplicada a la defensa, op. cit., pp.110-115.

[67] La US Navy acaba de adjudicar un contrato a Boeing por un valor de 274,4 millones de dólares para producir cinco vehículos submarinos no tripulados Orca (XLUUV), también la Federación Rusa tiene su propio vehículo, el Harpsichord, uno de los programas UUV más avanzados de Rusia, al igual que China, por ejemplo (cfr. Conte de los Ríos, Augusto: “Los grandes vehículos submarinos autónomos: el sueño de Julio Verne”, 17/05/2020, disponible en https://global-strategy.org/los-grandes-vehiculos-submarinos-autonomos-el-sueno-de-julio-verne/, consultado el 28/10/2020). En este sentido vid. https://www.defensa.com/reportajes/vehiculos-submarinos-no-tripulados-nuevo-dominio-mar.

[68] MOHÍNO HERRANZ, Inmaculada: “De las células a los bits”, en la obra colectiva del Instituto Español de Estudios Estratégicos: D. T. 04/2019. Usos militares de la inteligencia artificial, la automatización y la robótica (IAA&R), op. cit. p. 35.

[69] GERLAT, Pierre-Yves : « La Chine utilisera l’IA pour développer des systèmes d’aide à la décision pour ses sous-marins nucléaires », 5/2/2018, disponible en https://www.actuia.com/actualite/chine-utilisera-lia-developper-systemes-daide-a-decision-marins-nucleaires/, consultado el 28/10/2020.

[70] Ibidem.

[71] MOHÍNO HERRANZ, Inmaculada: “De las células a los bits”, en la obra colectiva del Instituto Español de Estudios Estratégicos: D. T. 04/2019. Usos militares de la inteligencia artificial, la automatización y la robótica (IAA&R), op. cit. p. 51.

[72] NAVARRO GARCÍA, José María: “Siete vehículos terrestres no tripulados Themis, para Holanda y para Estonia”, de fecha 2/10/2020, disponible en https://www.defensa.com/otan-y-europa/siete-vehiculos-terrestres-no-tripulados-themis-para-holanda, consultado el 31/10/2020.

[73] GONZÁLEZ FERNÁNDEZ, Marcelino: “Vehículos no Tripulados para utilización naval”, Cuadernos de pensamiento naval -2013, disponible en https://www.elsnorkel.com/2014/03/vehiculos-no-tripulados-para.html, consultado el 28/10/2020.

[74] Ibidem.

[75]Le programme SCORPION, disponible en https://www.defense.gouv.fr/terre/equipements/vehicules/scorpion/scorpion/le-programme-scorpion, consultado el 28/10/2020.

[76] Task Force IA del Ministère des Armées, op. cit., p.20.

[77] Cfr. Celik, Emine: « Le rôle de l’intelligence artificielle dans la guerre russo-ukrainienne (Analyse) », del 3/04/2022, disponible en https://www.aa.com.tr/fr/analyse/le-r%C3%B4le-de-l-intelligence-artificielle-dans-la-guerre-russo-ukrainienne-analyse/2554198#, consultado el 29/05/2022.

[78] Ibidem.

[79]HAGEL, Chuck: “Memorandum. The defense innovation initiative” del 15/11/2014, disponible en https://archive.defense.gov/pubs/OSD013411-14.pdf, consultado el 29/10/2020.

[80] ARTEAGA MARTÍN, Félix: “Contexto estratégico de la inteligencia artificial”, en la obra colectiva del Instituto Español de Estudios Estratégicos: Documentos de seguridad y defensa. La inteligencia artificial aplicada a la defensa, op. cit. p.160.

[81] CORRIGAN, Jack: “Self-aware artificial intelligence, biology-based computers and “smart” surveillance are just a few”, 23/12/2019, disponible en https://www.nextgov.com/emerging-tech/2019/12/crazy-government-research-projects-you-mightve-missed-2019/161977/, consultado el 27/10/2020.

[82] ARTEAGA MARTÍN, Félix: “Contexto estratégico de la inteligencia artificial”, en la obra colectiva del Instituto Español de Estudios Estratégicos: Documentos de seguridad y defensa. La inteligencia artificial aplicada a la defensa, op. cit. p.161.

[83] Ibidem.

[84] Ibidem.

[85] SMITH, Mark. «Is ‘killer robot’ warfare closer than we think?, 25/08/2019, disponible en https://www.bbc.com/news/business-41035201, consultado el 28/10/2020.

[86] BOSCHET, Agnès, CHIMENTI, Jessica, MERA LEAL, Nicolas, DUVAL, Thomas: Chine digitale. Dragon hacker de puissance. VA Éditions- Collection Guerre de l´information, Versailles, 2019, pp.81-85.

[87] A la fecha, se estima que dicho país poseería más de 25 grupos activos en Eurasia (cfr. BOSCHET, Agnès, CHIMENTI, Jessica, MERA LEAL, Nicolas, DUVAL, Thomas, op. cit. p.93) A modo de ejemplo cabe recordar que del informe de FireEYE surge que la focalización de la APT 41 en las empresas de alta tecnología que producen componentes informáticos se alinea con los intereses chinos en el desarrollo nacional de tecnologías de alta gama, tal como se describe en los planes quinquenales 12 (2011) y 13 (2016), así como en la iniciativa Made in China 2025 (2015) (Cfr. FireEYE: Special report. DOUBLE DRAGON: APT41, a dual espionage and cyber crime operation, disponible en https://content.fireeye.com/apt-41/rpt-apt41/. En este sentido también puede consultarse el sitio del CERT de Tailandia, https://apt.thaicert.or.th/cgi-bin/showcard.cgi?g=APT%2041, entre otros.

[88] Ibidem.

[89] Ídem, p.162.

[90] NAVARRO, Iván, op. cit.

[91] Ibidem

[92] GIGOVA, Radina : « Who Vladimir Putin thinks will rule the world”, del 2/09/2017, disponible en https://edition.cnn.com/2017/09/01/world/putin-artificial-intelligence-will-rule-world/index.html, consultado el 30/05/2022.

[93] Ibidem.

[94] CELIK, Emine : « Le rôle de l’intelligence artificielle dans la guerre russo-ukrainienne (Analyse) », del 3/04/2022, disponible en https://www.aa.com.tr/fr/analyse/le-r%C3%B4le-de-l-intelligence-artificielle-dans-la-guerre-russo-ukrainienne-analyse/2554198; op. cit.

[95] CASTAÑON, Nacho : « El ejército de Terminators rusos: llegan los robots que luchan por sí mismos”, del 5/05/2021, disponible en https://www.elespanol.com/omicrono/tecnologia/20210525/ejercito-terminators-rusos-llegan-robots-luchan-mismos/583692876_0.html, consultado el 30/05/2022.

[96] Ibidem

[97] Ibidem

[98] VILLANI, Cédric: Donner un sens a l´intelligence artificielle. Pour une stratégie nationale et européenne, 2018, ISBN : 978-2-11-145708-9, disponible en https://hal.inria.fr/hal-01967551/document.

[99] Task Force IA del Ministère des Armées, op. cit., p.1.

[100] Idem, p.6.

[101] Idem, p. 3.

[102] Ídem, p. 21.

[103] Ibidem.

[104] Idem, p.27.

[105] Task Force IA del Ministère des Armées, op. cit., p.11.

[106] Ídem, p. 9.

[107] Ídem, p. 11.

[108] Francia, por ejemplo, no tiene previsto desarrollar sistemas de armas totalmente autónomos, que evadan por completo el control humano en la definición y la ejecución de su misión, pero será fiel a sus compromisos internacionales y seguirá contribuyendo a los trabajos que se llevan a cabo en el marco del CCAC (Convención sobre ciertas armas clásicas) y, en particular, del GEG (Grupo de expertos gubernamentales) sobre las tecnologías emergentes en los sistemas de armas letales autónomos (SALA) (Cfr. Task Force IA del Ministère des Armées, op. cit., p.11.)

[109] Department of Defense of the United States: Manual of law of war, 2015, pp.330-331, disponible en https://archive.defense.gov/pubs/law-of-war-manual-june-2015.pdf, consultado el 30/10/2020.

[110] Rapport de 2017 du Groupe d’experts gouvernementaux sur les systèmes d’armes létales autonomes (LAWS), Genève, 13–17 novembre 2017 (CCW/GGE.1/2017/CRP.1). Disponible en https://www.unog.ch/80256EDD006B8954/(httpAssets)/B5B99A4D2F8BADF4C12581DF0048E7D0//2017_CCW_GGE.1_2017_CRP.1_Advanced_+corrected.pdf, consultado el 26/10/2020.

[111] Rapport du Groupe d’experts gouvernementaux sur les technologies émergentes dans le domaine des systèmes d’armes létaux autonomes sur sa session de 2018, Genève, 9-13 avril 2018 et 27-31 août 2018 (CCW/GGE.1/2018/3). Disponible en https://undocs.org/fr/CCW/GGE.1/2018/3, consultado el 27/10/2020.

[112] Rapport du Groupe d’experts gouvernementaux sur les technologies émergentes dans le domaine des systèmes d’armes létaux autonomes sur sa session de 2018, op. cit, pp. 5-6.

[113] Idem, p. 22.

[114] Idem, p. 1.

[115] SINGH GILL, Amandeep: “Le rôle des Nations Unies dans les nouvelles technologies appliquées aux systèmes d’armes létales autonomes”, disponible en https://www.un.org/fr/chronicle/article/le-role-des-nations-unies-dans-les-nouvelles-technologies-appliquees-aux-systemes-darmes-letales, consultado el 25/10/2020.

[116] ARKIN, Ronald: Governing Lethal Behavior: Embedding Ethics in a Hybrid Deliberative/Reactive Robot Architecture, disponible en https://www.cc.gatech.edu/aimosaic/robot-lab/online-publications/techinwar-arkin-final.pdf. Conforme lo recuerda Arkin en su trabajo, los siguientes cuerpos normativos son el resultado de la evolución de la normativa del derecho internacional aplicable a la guerra: Convenio de Ginebra fuerzas Armadas de 1864, Convenio de La Haya de 1899, Convenio de La Haya de 1907, Convención de Ginebra sobre Fuerzas Armadas de 1906, 1929, 1949, Convenio de Ginebra del Mar de 1949, Reglamento de La Haya de 1899, Reglamento de La Haya de 1907, Convenios de Ginebra sobre Prisioneros de 1929, 1949, Convenio de Ginebra sobre Civiles de 1949, Protocolos de 1977 Añadidos a la Convención de Ginebra.

[117]NATO: “NATO releases first-ever strategy for Artificial Intelligence”; 22/10/2021; disponible en https://www.nato.int/cps/fr/natohq/news_187934.htm?selectedLocale=en; consultado el 30/05/2022.

[118] NATO: “Summary of the NATO Artificial Intelligence Strategy”, del 22/10/2021; disponible en https://www.nato.int/cps/en/natohq/official_texts_187617.htm; consultado el 30/05/2022.

[119] Ibidem

[120] Ibidem

[121] Ibidem

[122] Ibidem

[123] Ibidem

[124]Ibidem.

[125] ARIAS LONDOÑO, Julian D: Editorial. Revista Facultad de Ingeniería, Universidad de Antioquia, No 79, pp. 7-8, 2016, disponible en http://www.scielo.org.co/pdf/rfiua/n79/n79a01.pdf; consultado el 30/05/2022.