La necesidad de una estrategia de datos para la inteligencia artificial en Defensa

Independientemente de nuestra generación u origen, todos conocemos un libro o película en donde una inteligencia artificial militarizada toma el control del mundo con fines apocalípticos. Es un género que, curiosamente, ha ido en declive de forma inversamente proporcional al verdadero desarrollo en las capacidades de inteligencia artificial en el sector de la defensa.

Tal vez sea por las publicaciones en prensa, en donde se describen los avances en inteligencia artificial como una herramienta y no como algo finalista, tal vez sea por cierta regulación no escrita de limitar el uso, o tal vez, se deba a un mayor conocimiento operativo real de la sociedad de hasta donde se puede llevar la tecnología. En cualquier caso, lo que parece estar sucediendo es que, poco a poco, y en función de a qué país nos refiramos, la aplicación de estas tecnologías al sector de la seguridad y defensa está dejando de ser un tema tabú o limitado a películas de ciencia ficción.

Esta reflexión, como sociedad, es importante que nos la hagamos. El alcance tecnológico de la Inteligencia Artificial en el sector de la defensa desde una dimensión de herramienta, así como en el resto de los sectores, ha venido para quedarse, su adopción no es una cuestión de si sí o si no, sino más bien de cuándo y a qué ritmo. Dicho esto, esto no quita que sea imperativo delimitar blanco sobre negro, especialmente en el sector de la defensa, que tipo de uso le queremos dar a una tecnología como colectivo y que reglas imponemos, buscando la transparencia, sí, pero sin olvidar que ciertos detalles operativos deberán mantenerse clasificados para que estos no se conviertan en una ventaja para un potencial adversario.

Sobre este punto concreto, desde un punto de vista ético o de doctrina militar, seguro que se podrán escribir tesis enteras, si estas no se han escrito ya. En España, al igual que en los países aliados de nuestro entorno, parece primar en las Fuerzas Armadas la aplicación de la Inteligencia Artificial como herramienta a la ayuda a la toma de decisión. Esto, de forma simplificada, se puede resumir en que la inteligencia artificial se limita a analizar información, ya sea en tiempo real o no, y en función de esta propone recomendaciones, alertas u opciones, pero la decisión siempre la toma el mando militar, nunca se deja la toma de decisión a una máquina. Es decir, la responsabilidad del mando militar se mantiene intacta, pero ahora el mando cuenta con una ayuda para digerir y analizar grandes cantidades de datos con un nivel de detalle que de otra forma sería imposible en tiempo real.

Volviendo al punto sobre la clasificación de los datos militares, esto tiene unas implicaciones en los procesos y en la relación Industria-Ministerio de Defensa muy importantes a resolver. Concretamente, en el acceso a los datos militares reales (estratégicos, técnicos, operacionales, en fin, de todo tipo) para el desarrollo de soluciones basadas en inteligencia artificial. Téngase en cuanta que, desde una perspectiva técnica, para muchas de las potenciales aplicaciones más disruptivas de la Inteligencia Artificial se necesitan datos y requisitos para entrenar a un sistema (por ejemplo, aprendizaje supervisado o por refuerzo). Sin acceso a los datos reales, es difícil desarrollar una aplicación de inteligencia artificial, e imposible probarla y garantizar su efectividad y seguridad antes de su despliegue, lo cual, implícitamente, imposibilita su desarrollo.

Esto, como es evidente, no solo frena el potencial desarrollo de aplicaciones basadas en inteligencia artificial, sino que, además, limita mucho el número de empresas que puedan contribuir a las capacidades militares nacionales, sobre todo a las pymes y startups. Si esto además se tiene en cuenta en un contexto de largos ciclos de inversión, como sucede en el sector, se termina por cerrar completamente la puerta a las empresas que no gozan de un sólido músculo financiero.

En cualquier caso, este no es ni mucho menos el único escollo a resolver, pero junto a los procesos de certificación y acreditación de las soluciones que se desarrollen, probablemente constituyan los grandes cuellos de botella técnicos en el ámbito de la Inteligencia Artificial. Por poner un ejemplo, en el sector aeronáutico militar, los procesos actuales de certificación y acreditación están basados en unas expectativas de trazabilidad, replicabilidad y explicabilidad de las decisiones propuestas por un sistema y su código que hacen que las soluciones que contengan redes neuronales sean cuasi imposibles de certificar o acreditar, sobre todo, teniendo en cuenta la velocidad del cambio tecnológico, en un tiempo oportuno.

Esto también abre la puerta a actualizar los procesos de certificación y acreditación actuales, en donde, probablemente en un futuro, se deban incorporar al proceso los datos utilizados para entrenar (enseñar) al sistema y medir así la calidad y fiabilidad de los mismos. Si un potencial adversario fuese capaz de tener acceso para modificar o corromper los datos de entrenamiento del sistema, esto podría tener resultados catastróficos para las FAS.

Téngase en cuenta que, a diferencia de otros sectores, en defensa existe una línea muy clara que separa a quien desarrolla la tecnología (la industria) de quien es propietaria de los datos que se generan por los sistemas (Fuerzas Armadas). Parto de la premisa que esta línea trazada en la relación Ministerio-Industria en relación a los datos no tiene por qué cambiar, los datos e información operativa (requisitos) de los sistemas de defensa se deben mantener clasificados dado el perjuicio que puede ocasionar su difusión no autorizada.

La cuestión pues de cómo resolver este cuello de botella hace necesario definir e implementar una estrategia de colaboración del ministerio de defensa con la industria en materias de desarrollo de soluciones de inteligencia artificial, que permita, sin poner en riesgo la seguridad nacional, habilitar canales de transferencia de los datos requeridos por la industria para mejorar los sistemas de defensa.

Probablemente, dicha estrategia no deba limitarse a un "push" de los datos por parte del Ministerio de Defensa, sino habilitar y facilitar el "pull" por parte de la industria. Esto es, un mecanismo por el cual la industria pueda solicitar datos (debidamente justificados y siempre con el objetivo de contribuir a las capacidades militares de las FAS) que requiera de cualquier unidad de las FAS de forma centralizada. Es decir, además de ofrecer, saber escuchar, algo en lo que el Ministerio de Defensa de España, últimamente, están en constante mejora. En muchos casos los datos no existirán como tal, o no estarán recogidos y estructurados de forma útil para una aplicación concreta. Esto abre la puerta a discutir quién recoge los datos, quién asume el coste de adquisición de los datos, quién tiene derecho de uso sobre los mismos (evidenciando que la propiedad se mantiene en mano de las FAS), qué fin se le pueden dar, y un largo etc.

Todo esto no es tarea fácil, y no se debe caer en la tentación de compararlo con iniciativas y estrategias de datos abiertos de entidades civiles como, por ejemplo, los ayuntamientos de Madrid, París o Londres. En estos casos, el objetivo estratégico es diferente; no se tratan cuestiones de Seguridad Nacional.

En cualquier caso, y teniendo en cuenta que lo que está en juego es la seguridad nacional, además de la contribución del tejido industrial nacional en materias tecnológicas a las capacidades militares, así como la ventaja competitiva del propio tejido industrial de cara a los mercados exteriores, se hace necesario definir e implementar una estrategia de datos desde el Ministerio de Defensa, comprensiva e inclusiva con la industria. Esta deberá dar respuesta al reto del acceso de la industria a los datos para desarrollar soluciones de forma nominal, y posiblemente todo ello bajo el paraguas de una estrategia más global que trate el alcance, las reglas, el uso y la formación de esta nueva oportunidad tecnología en el sector.