Expertos de Estados Unidos y China plantearon establecer medidas de seguridad para la inteligencia artificial similares a algunos mecanismos utilizados en el ámbito nuclear, ante el riesgo de que sistemas autónomos provoquen incidentes militares difíciles de distinguir de un ataque deliberado.
La propuesta fue presentada por Melanie Sisson, investigadora de Brookings, y Tianjiao Jiang, profesor de la Universidad de Fudan, como parte de un diálogo académico entre ambos países sobre inteligencia artificial y seguridad nacional. El planteamiento surge mientras Washington y Pekín avanzan en conversaciones oficiales sobre los riesgos militares de esta tecnología.
Uno de los principales puntos consiste en establecer “líneas rojas” alrededor de los sistemas nucleares. Los especialistas plantean que una inteligencia artificial no pueda decidir por sí misma el lanzamiento de armas nucleares ni ejecutar ataques contra las redes de mando, control y comunicaciones nucleares de otro país.
El problema radica en que una IA podría interpretar erróneamente una situación, actuar fuera de los parámetros establecidos o ser comprometida por terceros. Una respuesta automatizada de este tipo podría ser interpretada por el país afectado como una acción militar deliberada y generar una escalada antes de que los gobiernos tengan tiempo de determinar qué ocurrió.
Sisson propuso además que las decisiones para iniciar ciberataques con consecuencias estratégicas permanezcan exclusivamente bajo autoridad humana. Jiang, por su parte, planteó que Washington y Pekín acuerden una definición común de “control humano significativo”, con el objetivo de evitar que ambos gobiernos utilicen el mismo concepto para justificar diferentes niveles de autonomía militar.
Otra de las propuestas consiste en crear una línea directa específica para incidentes relacionados con inteligencia artificial. El mecanismo permitiría comunicar rápidamente si una operación automatizada fue accidental, no autorizada o continúa bajo investigación, antes de que la otra parte la considere un ataque y responda.
La idea, sin embargo, enfrenta un obstáculo: expertos como Carla Freeman, de la Universidad Johns Hopkins, han cuestionado la eficacia de los actuales canales de comunicación militar entre Washington y Pekín. La experiencia del incidente del globo chino en 2023 es citada como ejemplo de las dificultades para establecer contacto durante una crisis.
Las propuestas todavía no constituyen un acuerdo entre los gobiernos de Estados Unidos y China. De concretarse, representarían un intento de trasladar al ámbito de la inteligencia artificial algunos principios del control de armas: mantener decisiones críticas bajo responsabilidad humana, establecer límites claros y contar con mecanismos de comunicación capaces de evitar que una acción automatizada termine desencadenando una confrontación entre dos potencias nucleares.
