IA: la ONU alerta sobre el riesgo de una guerra dirigida por máquinas
Foto: © Adobe Stocke /Altana Studio vía Noticias ONU.
La inteligencia artificial se está imponiendo en los arsenales militares, acelerando las decisiones y reduciendo el margen del juicio humano, incluso en el ámbito nuclear. El martes, la ONU advirtió contra una evolución que las reglas internacionales apenas logran encuadrar, al tiempo que anunció varias iniciativas para intentar recuperar el control.
“La guerra dirigida por máquinas se acerca cada vez más, y la pregunta que se nos plantea es, sencillamente: ¿vamos a dejar que las máquinas seleccionen y maten a seres humanos?”, lanzó Robin Geiss, director del Instituto de las Naciones Unidas para la Investigación sobre el Desarme (UNIDIR), en una rueda de prensa en Nueva York.
El peligro, según él, no reside solo en la aparición de robots asesinos totalmente autónomos.
Se debe a una transformación ya en marcha de las operaciones militares, en la que la IA interviene en casi todas las etapas, desde el análisis de inteligencia hasta la identificación de objetivos, pasando por el pilotaje de drones y los ciberataques. A medida que estas tecnologías avanzan, las decisiones se aceleran y la posibilidad de una intervención humana se reduce. “En este mismo momento, los ciclos de decisión se acortan, se acercan a la velocidad de las máquinas, y el margen del juicio humano se estrecha, incluso en el ámbito nuclear”, advirtió Geiss.
Esa aceleración podría hacer que los conflictos sean más difíciles de controlar. Los sistemas de IA, cuyo funcionamiento a veces sigue siendo opaco, introducen nuevos riesgos de error, de cálculo equivocado y de escalada involuntaria. En un enfrentamiento entre potencias nucleares, una decisión tomada demasiado rápido sobre la base de un análisis erróneo podría tener consecuencias catastróficas.
Empresas en el corazón de la carrera armamentística
El problema supera, sin embargo, la mera fiabilidad de las máquinas. Afecta a la distribución del poder militar. Un número reducido de Estados y empresas privadas conforman ahora tecnologías susceptibles de afectar a la seguridad de todo el planeta, sin que los mecanismos tradicionales de control de armamentos estén adaptados a esta nueva realidad.
Las decisiones de los industriales, desde el diseño de los sistemas hasta los datos utilizados para su entrenamiento, determinan en gran medida su comportamiento sobre el terreno. Su fiabilidad, su previsibilidad y su conformidad con el derecho internacional dependen así de decisiones tomadas mucho antes de su despliegue por los ejércitos.
Para intentar colmar esa laguna, UNIDIR prepara un marco de conducta responsable destinado a las empresas del sector.
Elaborado con la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, debe proponer recomendaciones prácticas basadas en el derecho internacional y en los principios rectores de la ONU sobre empresas y derechos humanos. Pero estas recomendaciones serán voluntarias.
Es decir, la ONU busca por ahora orientar las prácticas de una industria cuyas innovaciones avanzan más rápido que las negociaciones diplomáticas. El Instituto pretende asociar a esta iniciativa a los grandes grupos de defensa, las jóvenes empresas tecnológicas, los desarrolladores de software, los subcontratistas y los inversores, junto a los gobiernos y la sociedad civil.
El riesgo de una proliferación descontrolada
Otra fuente de preocupación: el creciente acceso de actores no estatales a tecnologías antaño reservadas a los ejércitos más avanzados. Según Geiss, las investigaciones ya muestran que grupos con malas intenciones utilizan la IA para facilitar la planificación, la ejecución y la logística de sus operaciones.
Las organizaciones terroristas y las redes criminales podrían así llevar a cabo operaciones cada vez más sofisticadas con medios relativamente limitados. Sin embargo, los dispositivos de control de exportaciones y de no proliferación, concebidos principalmente para vigilar equipos y tecnologías sensibles, apenas logran aprehender capacidades digitales ampliamente accesibles.
UNIDIR lanza por ello, junto con el Instituto de las Naciones Unidas para la Formación y la Investigación (UNITAR) y Austria, una reflexión sobre los medios para impedir estas desviaciones, sin restringir los usos pacíficos de la inteligencia artificial.
Una diplomacia aún a la zaga
El obstáculo es también político. Las rivalidades entre grandes potencias complican la elaboración de reglas comunes. Las negociaciones internacionales siguen dispersas entre varios foros, mientras los Estados discrepan sobre el alcance de las restricciones que deben imponerse a los sistemas de armas autónomos.
Para facilitar el diálogo, UNIDIR lanzará el viernes un proyecto de léxico común. Detrás de términos aparentemente consensuados, como “autonomía”, “fiabilidad” o “seguridad”, los gobiernos colocan en efecto realidades a veces muy diferentes, lo que obstaculiza las negociaciones.
El Instituto inaugurará también el jueves, con Suiza y Pakistán, un foro que reunirá a Estados, industriales, investigadores y representantes de la sociedad civil. Vinculado a su centro de excelencia creado en junio en Ginebra, debe ofrecer un espacio permanente de concertación sobre los desafíos militares de la IA.
Robin Geiss destacó, no obstante, algunos signos de apertura. En septiembre, Estados Unidos propuso a China una línea de comunicación dedicada a los incidentes relacionados con la IA susceptibles de amenazar la seguridad nacional.
Los repetidos llamamientos del Secretario General de la ONU, António Guterres, a un tratado jurídicamente vinculante sobre las armas autónomas encuentran también un eco creciente, según él.
Queda un desfase considerable entre la rapidez de las innovaciones militares y la de la diplomacia. Las iniciativas anunciadas esta semana pretenden acercar posiciones, no imponer nuevas obligaciones. Mientras los Estados siguen tratando de definir las reglas, las máquinas ya ocupan un lugar creciente en las decisiones de guerra.