Armas automatizadas: Kill switch y Switch to kill
EDICIÓN
| INFODRON | INFOESPACIAL | MUNDOMILITAR | TV
Firma invitada >

Armas automatizadas: Kill switch y Switch to kill

|

Artigo disponível em português

Cada día que pasa, las capacidades militares son más dependientes de plataformas de armas sofisticadas y automatizadas. Este innegable avance tecnológico puede traer consigo ventajas contundentes en el campo de batalla, aumentando peligrosamente el “gap” entre los países desarrolladores de tecnologías y aquellos que son meros usuarios.

No obstante, este fenómeno también implica enormes riesgos estratégicos, típicamente mal comprendidos por formuladores de doctrina militar y por los operadores en campo, en especial de países que solamente compran tales tecnologías y equipos.

Estos cambios se presentan, cada vez más, como desafíos presentes para todas las fuerzas armadas e, igualmente, para la industria de defensa. Para comprender mejor estos riesgos, es necesario entender cómo la automatización de plataformas de combate y sus sistemas de armas aumentó de forma exponencial en los últimos 40 años.

Automatización en Plataformas

Si analizamos las plataformas de los años 80, veremos que los componentes y subsistemas embarcados en ellas operaban de forma mayoritariamente aislada. En aeronaves, por ejemplo, subsistemas como enlace de comunicaciones, computadora de misión, contramedidas, sistemas de armas, navegación y control de motor, cuando mucho, poseían alguna forma de lectura agrupada en las cabinas.

Si este tipo de organización, a pesar de ayudar en el control de áreas críticas, también colocaba una gran carga de trabajo en la tripulación, por otro lado, la mantenía con la plataforma en manos. Una falla de un componente individual muchas veces podría ser mitigada con acciones de las propias tripulaciones o incluso en los mantenimientos en el suelo.

También ejemplificando la cuestión con aeronaves, cuatro décadas después, se puede observar el contraste con el caso del Boeing 737 MAX 8. El grado de automatización, integración y autonomía en la aeronave es tal que la arquitectura de los sistemas es concebida de modo que el avión vuele de forma segura, a pesar de la tripulación. El operador humano, antes esencial para el funcionamiento de la aeronave, cada vez más pasa a estar insertado casi figurativamente en el (limitado) control de la plataforma.

En el mundo militar, este nivel de automatización ha llevado a la autonomía de sistemas de armas (LAWS) que, apoyados en la inteligencia artificial, comunicaciones y detección avanzada (C4ISR), poseen la capacidad de planificar misiones, identificar y adquirir blancos, realizar las acciones letales y recogerse, sin la necesidad de la intervención humana.

Este nivel creciente de complejidad de los sistemas y plataformas presenta una serie de desafíos al estudioso de la defensa, en múltiples órdenes: Estratégico (dominio del conocimiento tecnológico e implicaciones geopolíticas), Táctico (reformulación de doctrinas militares), Operativo (uso de las tecnologías en combate y negación de uso al enemigo) y Moral (¿Cuál es el límite de responsabilidad del operador? ¿Y quién es el operador por responsabilizar?).

En este artículo pasaremos a abordar, de forma muy resumida, cada una de estas vertientes, con especial énfasis en la cuestión operativa en la que destacan los conceptos de kill switch y switch to kill y sus implicaciones para Brasil.

Vertiente Estratégica

La superioridad en una guerra y, por consiguiente, la victoria en un conflicto armado siempre estuvo asociada a la capacidad, cantidad y dominio del uso de los medios de combate. Hace mucho se sabe que no basta la mejor estrategia militar sin la retaguardia de una importante cadena logística y tecnológica. Forjas de acero, almacenes de pólvora, globos de observación, submarinos, aviones de larga distancia y misiles de mayor alcance fueron, cada uno a su tiempo, elementos-clave para la obtención de esta supremacía.

Si en toda la historia de los conflictos la supremacía del combate marchó lado a lado con la superioridad tecnológica, solamente ahora vemos un cambio de paradigma en la relación hombre-arma. Incluso con toda la evolución de la guerra en los últimos milenios, los sistemas y plataformas siempre estuvieron, de algún modo, bajo el comando del operador. Ahora se ve una revolución tan silenciosa como aterradora. Los sistemas de armas ya no dependen de una persona para su efectiva aplicación en combate.

Hay una “despersonalización” del soldado, que de operador pasó a gestor de sistemas en la actualidad y, en el futuro, debe ser casi un simple espectador. Esto, evidentemente, en los países poseedores de tales tecnologías críticas. Para los demás, habrá siempre el papel de operador en campo o incluso de “carne de cañón”. Tales cambios modifican el panorama estratégico de forma profunda. Se divide el mundo entre países que pueden hacer la guerra con máxima ofensiva y a un costo mínimo de sus ciudadanos, y aquellos que solamente sufrirán las consecuencias de un embate con un opositor que no tiene hambre, no tiene sed, no se cansa, y que puede operar 24h por día en los ambientes más hostiles.

Vertiente Táctica

Las doctrinas militares igualmente se muestran conformes a los sistemas y plataformas de armas de su tiempo. Desde la formación en tortuga de los romanos, apta para el uso de escudos y lanzas para el ataque sustentado de las legiones, a la Blitzkrieg de la Alemania nazi, con el avance expedito de divisiones panzer y apoyo aéreo de los stukas, hasta la doctrina del Shock and Awe de los EEUU, con macizos ataques aéreos y de misiles, la guerra siempre se hizo pensando en la mitigación de los riesgos de la tropa y en la imposición del mayor daño posible al adversario.

Las plataformas autónomas vinieron para darle un nuevo salto generacional a estas doctrinas. La guerra del siglo XXI es aquella centrada en las redes, con el uso intenso de la tecnología y un menor involucramiento humano para quien puede darse el lujo de tal opción. Drone swarms y ejércitos casi automatizados son una nueva realidad y que modificará de forma contundente la manera como los estados iniciarán, ganarán y perderán guerras. Es en este contexto que tres conceptos deben ser muy bien comprendidos por los formuladores de políticas públicas y doctrinadores militares. El principio de la esencialidad de las bases Industriales de defensa (BID) nacionales como medio último de protección efectiva de la soberanía tecnológica del país, que está relacionado a las vertientes estratégica y táctica, y conceptos como kill switch y switch to kill, relacionados a la vertiente operativa.

Vertiente Operativa

El uso en combate de sistemas de armas autónomas revela una amplia gama de desafíos al soldado moderno. La toma de decisiones en combate -elemento fundamental para el éxito de cualquier maniobra- pasa a depender cada vez menos del hombre, modificando de forma profunda cómo los ejércitos pasarán a definir sus estrategias de combate. Sistemas de armas autónomas pueden “conversar” entre sí, implementando el verdadero concepto de netcentric warfare, por medio de comunicaciones encriptadas. La capacidad de procesamiento y fusión de datos, aliada a la diseminación de la información para las unidades de ataque, hace la diferencia entre la victoria y la derrota. Algoritmos más precisos y refinados, modelados por supercomputadoras, no solamente auxiliarán mejor a los oficiales-generales del futuro como, en algunos casos, los sustituirán.

Tendrá una mejor capacidad de combate quien disponga de la mejor combinación software y hardware. No obstante, estos cambios en la forma de hacerse la guerra, llevan a dos cuestiones conceptuales tan fundamentales como complejas. Cómo restablecer el dominio del hombre sobre la máquina en situaciones extremas y cómo hacer (o evitar) que la máquina se vuelva contra su usuario. Ahí tenemos los conceptos de kill switch y switch to kill, que pasamos a tratar.

Kill Switch

En inglés, kill switch es el término utilizado para comando, clave, botón o cualquier recurso que apaga o inutiliza un sistema cuando así es decidido. Kill switches normalmente funcionan en beneficio del propietario del sistema, sirviendo como forma de parada rápida, de protección. Ejemplos de esto son los botones del pánico en tornos mecánicos y el apagado remoto de un iPhone en el caso de robo o pérdida.

Un sistema cualquiera puede poseer diversos kill switches, algunos accionados presencialmente y otros remotamente, incluso por las más estrechas bandas de comunicación pues, a fin de cuentas, solamente tiene que ser transmitido un único bit de información. Kill switches pueden estar claramente identificados como un gran botón rojo o pueden estar insidiosamente enterrados en un único componente electrónico entre miles de otros que pueden formar un sistema complejo, ¡algunas veces sin ni siquiera el conocimiento del fabricante del sistema!

El caso es tan grave y el desafío es tan grande que el general Keith B. Alexander, antiguo director de la temida National Security Agency (NSA), reputaba a los kill switches profundos, insertados sin conocimiento de los propietarios de una tecnología, como uno de los mayores desafíos de plataformas computadorizadas en el futuro.

Alexander lo decía con total conocimiento de causa: durante los años 2010 (con las revelaciones de Edward Snowden) y hasta el reciente febrero del 2020 (caso de la empresa Crypto AG, controlada por la CIA y por el BND), EEUU fue descubierto practicando innumerables veces los llamados ataques de intervención en cadena logística.

Esta clase de ataques sirve de acción preparatoria para los fines como inteligencia, creación de distracciones, sabotajes y denegaciones de uso. Mientras para las actividades de inteligencia los ejemplos de supply chain intervention son recurrentes, ver el caso de Huawei con su tecnología 5G prohibida en diversos países a lo largo del 2019 y 2020, las otras finalísticas son mucho menos reportadas, pero no menos reales ni menos impactantes.

En el ámbito militar, cualquier nación mínimamente equipada posee formal o informalmente preocupaciones sobre denegación tecnológica y acuerdos de end-user que limitan tanto las adquisiciones, las informaciones, como también las hipótesis de empleo de ciertas tecnologías. La forma última de control de uso, no obstante, es la imposibilidad operativa, clásicamente impuesta sobre misilística y sistemas de combate que requieren respectivamente códigos de lanzamientos o licencias de software para su operación.

Como ejemplo clásico de denegación en nuestras cercanías podemos (y debemos) citar aquella infligida por los franceses a los argentinos en la Guerra de Malvinas contra los británicos en los años 1980. En esa ocasión, incluso sin los códigos de lanzamiento, la aviación de la Armada Argentina logró operar los misiles Exocet y sorprender a la Marina del Reino Unido.

Sin embargo, este tipo de escenario jamás se repetiría con los niveles de automatización de las plataformas de hoy. Se puede suponer, lejos del mundo de la ficción, que, si la Guerra de Malvinas fuese en los días de hoy, kill switches en los cazabombarderos franceses no permitirían ni siquiera que las aeronaves despegasen. Aún menos que los misiles fuesen disparados.

Este tipo de capacidad en los días actuales, de denegar el uso de forma remota por medio de kill switches escondidos en múltiples puntos de las plataformas, posee implicaciones estratégicas gigantescas, algunas de ellas mencionadas más al final de este texto. No obstante, aún hay efectos más graves de la unión de un alto nivel de automatización y ataques de supply chain intervention.

Switch to Kill

Sin querer parecer repetitivo, pero lo obvio está ahí para ser dicho: la misma tecnología de control que es utilizada para la desactivación de un sistema contra la voluntad de su propietario, también puede ser utilizada para el accionamiento de rutinas de autodestrucción.

Por ejemplo, un caballo de Troya en hardware, insertado en la cadena logística de un misil, accionable vía satélite, puede ser utilizado no solamente para deshabilitar el arma, sino para hacerla detonar en las manos de sus propietarios, en el momento en que cause un mayor daño. Ya sea en el polvorín, ya sea embarcado en la plataforma, los daños potenciales son gigantescos.

Sin embargo, lo peor aún está por venir: con la llegada de los llamados Sistemas de Armas Letales Autónomas (LAWS, en inglés) el tema recibe gran complejidad. Llamados killer robots por activistas de los derecho humanos, el empleo de tales sistemas ha suscitado grandes discusiones en la comunidad internacional a medida en que la tecnología pasa a ser empleada en operaciones reales por las naciones líderes en industria bélica.

En el contexto militar, no obstante, la discusión amplia que falta es alrededor del hecho de que un kill switch puede ser un switch to kill, situación plausible donde la designación de blancos de un LAWS es subvertida y, en lugar de atacar enemigos, pasa a actuar contra blancos amigos.

Como los LAWS, por definición del concepto, poseen mínimamente capacidades autonómicas de designación de blancos y disparo, los mismos se convierten en blancos (o medios) perfectos para la realización de acciones que van contra los intereses de los propietarios de los sistemas de armas: (i) naciones proveedoras/desarrolladoras poseen grandes incentivos de orden geopolítico y estratégico para demandarles a sus industrias bélicas la inclusión de kill switches y switches to kill en sistemas de armas suministrados a otros Estados, (ii) al mismo tiempo, diferentes naciones proveedoras pueden intentar comprometer las cadenas logísticas de sus adversarios.

De hecho, el problema es tan grave que las estadísticas reservadas muestran que cerca de la mitad de los proveedores del DoD americano ya habían enfrentado problemas de intervención de cadena logística en el 2015 [Chase Workshop on Secure/Trustworthy Systems and Supply Chain Assurance, University of Connecticut]. No por gusto EEUU posee Shield, gran programa liderado por Darpa para mitigar las intervenciones de cadena logística.

Implicaciones Estratégicas

Los desdoblamientos estratégicos de la realidad expuesta anteriormente son amplios y merecen una larga reflexión, principalmente en relación con aquellos de segundo y tercer orden. Dicho esto, el listado que se hace en esta sección debería servir solamente para llamamiento o material de partida para los estudios en las Escuelas de Guerra.

Hecha la salvedad, nos gustaría llamar la atención brevemente sobre los siguientes ejes:

Principio de la Esencialidad de las bases industriales de defensa nacionales como vector de desarrollo tecnológico y componente crítico en el mantenimiento de la real soberanía y de la capacidad de efectiva disuasión militar. Sin el dominio del “know how” y del “know why” de estas tecnologías, los sistemas de armas complejos son solamente juguetes caros para el contribuyente y, en su límite, amenazas para la soberanía del país. Mayor inestabilidad en conflictos convencionales. LAWS, por requerir un menor número de militares entrenados y poder ser controlado a distancia, pueden ser suministrados a un número mayor de países, incluso en modalidades de compras como “leasing” o alquiler (verdaderos “mercenarios robóticos”), con especial riesgo paras las poblaciones civiles; Reducción catastrófica de las hipótesis estratégicas de empleo. Nadie debería esperar que un sistema de armas con alta automatización (LAWS o no) comprado de un dado país funcione correctamente contra los intereses de dicho país, ¿no es verdad? Sin embargo, es peor que eso: en el caso de LAWS de origen extranjero, dicha plataforma puede incluso combatir contra aquel que lo adquirió (¿qué tal?); Adquisiciones de materiales de defensa deben ser ampliamente revisadas. Mientras las potencias centrales poseen amplios programas de aseguramiento de cadenas logísticas para la mitigación y el control de riesgos de “kill switches” (ver los programas americanos Trusted Foundry y Darpa Shield), el tema ni siquiera es comprendido en muchos otros países. Además de la solución elemental y necesaria del fortalecimiento de la industria nacional, es importante planificar para que en el nivel estratégico las elecciones de colaboraciones tecnológicas privilegien el control y la visibilidad sobre los subcomponentes de las plataformas militares y la interoperabilidad entre las fuerzas singulares. Cabe también la pregunta: ¿al final del día las compras de ocasión son oportunidades para quién?

En Brasil, el tema sobre protección de cadena logística ha ganado cierta tracción, aunque de forma desestructurada. Por un lado, la Ley 12.598/2012 cubre el tema colateralmente. Por otro, el reciente Decreto 10.222/2020, que establece la Estrategia Nacional de Cibernética, avanza un poco más y ya se reflejó en la limitación de la participación de Huawei en la infraestructura crítica 5G brasileña.

No obstante, el enfrentamiento directo del problema desgraciadamente aún no resultó en una acción estratégica, aunque el tema esté en discusión hace algunos años en el alcance técnico de las Fuerzas Armadas y de la Agencia Brasileña de Inteligencia. Necesitamos urgentemente establecer una política y un sistema nacional de aseguramiento de cadena logística para los fines de la defensa nacional, pues las acciones estratégicas de intervención ya están implementadas por las grandes potencias hace muchos años.

Con respecto a la cuestión de la reorganización del proceso de compras, hay que iniciar un debate franco y claro sobre el actual modelo brasileño, aún más a la luz de los profundos cambios que los sistemas de armas autónomas le imponen al futuro. Las compras de material de defensa, pensadas y realizadas solamente por las Fuerzas singulares, o con mínima intervención de otras áreas, revela una miopía de acción y una cultura aún muy compartimentalizada de operaciones, inconcebible para el nuevo escenario de conflictos en que el dominio tecnológico debe ser el objetivo prioritario.

Una nueva estructura, de carácter multidisciplinaria, interministerial e interagencias, no es solamente deseable, sino parece ser la única salida posible para enfrentar estos desafíos. La eventual creación de una Secretaría Especial Interministerial (Seiprode), que incluya a todos los actores estatales involucrados con el área de productos de defensa (MD, MRE, ME, Mctic y APEX), tratando con el tema de productos de defensa desde su concepción, desarrollo industrial, exportación, control y financiamiento, en constante y fluido contacto con el sector privado, se presenta como una demanda urgente, aunque tenga resolución para el mediano plazo.

Vertiente Moral

En el campo de los valores, hay nuevas preguntas a ser hechas sobre las operaciones de combate. ¿Quién es el responsable de las acciones realizadas por una máquina? ¿Quién es el operador responsable? ¿Cómo quedan las cuestiones humanitarias, a la luz del derecho internacional, como las Convenciones de Ginebra, si ahora son las máquinas las que deciden qué, cómo y cuándo destruir? Dado el objetivo de este artículo, no vamos a profundizarnos en estas cuestiones, pero desde ya apuntamos la necesidad de una reflexión profunda sobre estas implicaciones morales –y de derecho internacional– que el uso de sistemas de armas autónomas nos trae.

Conclusiones

Hay una revolución en marcha en los sistemas de armas. Con fondo tecnológico, tales cambios implican efectos disruptivos para la seguridad y para la defensa nacionales. Para que los Estados nacionales no pasen a figurar en posiciones estratégicamente muy desfavorables, es fundamental combatir el cautiverio tecnológico y reconocer la esencialidad de sus respectivas BIDs.

A la luz de la emergencia de los LAWS, es fundamental que, en Brasil, así como en otros países de estatura similar, se avance en los estudios de las implicaciones estratégicas, tácticas, operativas y morales, sirviendo de subsidios para los necesarios realineamientos de las políticas y de los órganos de Estado nacionales.

En observación comparativa con otros países, en particular del modelo turco, nos parece que en la Era de los LAWS Brasil no puede prescindir de una nueva estructura de Estado, de carácter multidisciplinaria, interministerial e interagencias para que podamos seguir, con el destaque que el país merece, la revolución que se encuentra en marcha.



Los comentarios deberán atenerse a las normas de participación. Su incumplimiento podrá ser motivo de expulsión.

Recomendamos


Lo más visto