Hace 25 años, una supercomputadora derrotaba por primera vez a un campeón de ajedrez, el ruso Garry Kasparov, marcando el inicio de una nueva era para la Inteligencia Artificial (IA). Desde entonces, la IA ha experimentado un crecimiento exponencial, infiltrándose en numerosos aspectos de la vida humana. En el siglo XXI, su capacidad para transformar industrias, mejorar la eficiencia y abrir nuevas fronteras en investigación e innovación es innegable. Sin embargo, uno de los campos donde la IA está dejando una huella más profunda y controvertida es en el ámbito de la seguridad y la defensa. En un mundo caracterizado por amenazas cada vez más complejas y conflictos en constante evolución, la integración de la IA en estrategias y operaciones militares plantea interrogantes cruciales que demandan una cuidadosa consideración.
La IA ha revolucionado la forma en que los gobiernos y las fuerzas armadas abordan los desafíos contemporáneos de seguridad. Su capacidad para analizar grandes cantidades de datos en tiempo real es particularmente valiosa. Los sistemas de IA pueden procesar información de múltiples fuentes, como sensores, satélites y redes de vigilancia, identificando patrones y tendencias que serían difíciles de detectar por métodos tradicionales. Los algoritmos de procesamiento de imágenes pueden identificar objetos, patrones y comportamientos anómalos, mejorando significativamente la detección temprana de amenazas y la identificación de objetivos.
Además, la IA ha sido fundamental en el desarrollo de sistemas autónomos y vehículos no tripulados. Drones y vehículos terrestres autónomos han demostrado su utilidad en la recopilación de información en entornos hostiles, la realización de misiones de reconocimiento y la ejecución de operaciones de búsqueda y rescate. Estos sistemas, controlados remotamente o siguiendo rutas preprogramadas mediante algoritmos de IA, reducen el riesgo para el personal militar y ofrecen mayor flexibilidad en la planificación de misiones.
A medida que la IA se integra más profundamente en la defensa, surgen importantes desafíos éticos y legales. La toma de decisiones autónoma por parte de sistemas de IA plantea preguntas sobre la responsabilidad y la rendición de cuentas en caso de incidentes. La posibilidad de que la IA se utilice en operaciones ofensivas ha generado debates sobre la necesidad de regulaciones internacionales que controlen su desarrollo y uso.
Un aspecto particularmente problemático es la delegación de funciones a algoritmos, especialmente en la selección y ataque de objetivos. Críticos argumentan que no se puede dejar la responsabilidad de estas decisiones a máquinas y robots debido a su falta de empatía y capacidad para discernir situaciones complejas en el campo de batalla. Por ejemplo, evaluar si un objetivo ha perdido su valor militar o si intenta rendirse requiere una comprensión contextual y ética que, por ahora, solo los humanos poseen.
Estas preocupaciones han llevado a iniciativas como 'Stop Killer Robots', lanzada en 2013 por el premio Nobel Jody Williams, que busca prohibir los llamados "robots asesinos", sistemas capaces de seleccionar y atacar objetivos sin intervención humana. La cuestión de la responsabilidad legal también es crucial: ¿quién sería responsable si un sistema autónomo comete un crimen de guerra? ¿El arma misma, el soldado que la desplegó, los comandantes, o la corporación que la fabricó?
En el ámbito de la ciberseguridad, la IA se presenta como una herramienta de doble filo. Por un lado, el Departamento de Defensa de Estados Unidos considera la IA como un instrumento esencial para predecir, identificar y responder a ciberataques y otras amenazas físicas. Sin embargo, los sistemas de IA también pueden aumentar las vulnerabilidades en las estrategias de seguridad. Existe el riesgo de que adversarios utilicen malware para controlar, influenciar o distorsionar sistemas de IA destinados a fines defensivos u ofensivos.
Esta situación ha dado lugar a lo que algunos expertos describen como una "carrera armamentística" de IA contra IA en el ciberespacio. En este escenario, los defensores se encuentran en desventaja, ya que deben tener éxito en todas sus intervenciones, mientras que a los atacantes les basta con explotar una sola vulnerabilidad. A pesar del avance de la tecnología, la participación humana sigue siendo crucial en este campo, y es probable que la confrontación entre defensores y atacantes continúe sin un final definitivo en un entorno cada vez más influenciado por la IA.
El desarrollo de la IA tiene profundas implicaciones geopolíticas. Existe un consenso creciente de que el orden internacional del siglo XXI estará determinado en gran medida por el poder tecnológico, especialmente en el campo de la IA. Estados Unidos, China y Rusia están compitiendo por el liderazgo en este ámbito, convencidos de que su posición global dependerá de la potencia de sus sistemas de IA.
En este nuevo escenario, Estados Unidos y China emergen como las dos grandes potencias que probablemente dominarán el ciberespacio. Europa, por su parte, corre el riesgo de quedar rezagada tecnológicamente, lo que podría llevar a una forma de "cibervasallaje" o "cibercolonización", con graves implicaciones para la independencia y autonomía europea en el contexto global.
Además, el uso de IA para la manipulación de datos a gran escala ha transformado el entorno económico global, consolidando el poder de gigantes tecnológicos como Google, Apple, Amazon, Facebook (Meta), Microsoft, Tencent y Alibaba. Estas corporaciones ejercen un poder tecnológico global significativo, influyendo en las decisiones de inversión de gobiernos y en el desarrollo tecnológico de empresas y universidades en todo el mundo.
Ante los desafíos planteados por la IA militar, diversos actores internacionales y nacionales están tomando medidas para regular su desarrollo y uso. La ONU, a través de la Convención sobre ciertas Armas Convencionales (CAC), ha estado discutiendo posibles límites en el uso de armas autónomas letales. Sin embargo, las conversaciones en Ginebra, que llevan ocho años, no han logrado iniciar negociaciones sobre un tratado internacional vinculante.
La Unión Europea, por su parte, está trabajando en la regulación de la IA a través de la propuesta de Ley de Inteligencia Artificial. Sin embargo, esta ley excluye explícitamente los usos militares de la IA de su ámbito de aplicación, dejando un vacío regulatorio significativo. Algunos países, como Holanda y Corea del Sur, han tomado la iniciativa organizando cumbres sobre el uso responsable de la IA en el ámbito militar.
A nivel nacional, países como Canadá, Australia, Estados Unidos y Reino Unido han establecido directrices para el uso responsable de la IA en defensa. La OTAN también ha adoptado su propia Estrategia de IA en 2021. En España, el Ministerio de Defensa ha aprobado recientemente una "Estrategia de desarrollo, implantación y uso de la Inteligencia Artificial", que garantiza la supervisión humana y la rendición de cuentas en el uso militar de la IA.
La integración de la IA en el ámbito de la seguridad y defensa presenta tanto oportunidades como desafíos significativos. Mientras que la IA ofrece ventajas innegables en términos de eficiencia operativa y capacidades de análisis, también plantea serias cuestiones éticas, legales y estratégicas que deben abordarse cuidadosamente. El futuro de la seguridad global dependerá en gran medida de cómo se equilibre la innovación tecnológica con la responsabilidad ética y la regulación efectiva. A medida que avanzamos en esta nueva era, será crucial mantener un diálogo continuo entre gobiernos, industria, academia y sociedad civil para garantizar que el desarrollo y uso de la IA en contextos militares se alinee con los valores humanos fundamentales y el derecho internacional.
Fuente: Ensayo presentado en el XXX Curso Internacional de Defensa, "Los motores de cambio de la seguridad y la defensa", Jaca 25-29 de septiembre de 2023.