De la era nuclear a la era de la IA: ¿Puede la humanidad construir nueva arquitectura para la paz?
Por Katsuhiro Asagiri / IPS Noticias – Más de ocho décadas después de los bombardeos atómicos de Hiroshima y Nagasaki, que marcaron el inicio de la era nuclear, el mundo se enfrenta a otra revolución tecnológica cuyas consecuencias trascienden la ciencia y la industria.
Las armas nucleares aún tienen la capacidad de destruir la civilización en cuestión de horas. Al mismo tiempo, la inteligencia artificial está transformando la planificación militar, la recopilación de inteligencia, las operaciones cibernéticas y la toma de decisiones estratégicas de maneras que las instituciones establecidas tras la Segunda Guerra Mundial (1939-1945) jamás estuvieron diseñadas para regular.
En este contexto, más de 200 participantes —entre ellos unos 30 premios Nobel y representantes de organizaciones galardonadas, exjefes de Estado y de Gobierno, destacados investigadores en inteligencia artificial, científicos, figuras católicas y representantes de la sociedad civil— se reunieron del 14 al 16 de julio en Borgo Laudato Si’, en los Jardines Pontificios de Castel Gandolfo, la sede de verano de El Vaticano.
La Asamblea Mundial de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear reunió a algunas de las voces más destacadas del mundo en ciencia, tecnología, consolidación de la paz y ética para abordar una de las cuestiones fundamentales del siglo XXI:
¿Puede la inteligencia artificial convertirse en una fuerza para la paz, o agravará los peligros de la guerra en una era nuclear ya de por sí inestable?
La reunión de tres días concluyó en Roma el 16 de julio con la presentación de la Declaración de Roma para una Paz Desarmada y Desarmante, cuyo objetivo es establecer principios y recomendaciones para abordar la inteligencia artificial, las armas nucleares, las armas autónomas, la gobernanza digital y los modelos emergentes de desarrollo tecnológico.
Un mundo en una encrucijada estratégica
La fecha de la Asamblea no fue casual.
El entorno de seguridad internacional se ha vuelto cada vez más frágil. La guerra de Rusia en Ucrania ha sacudido el orden de seguridad europeo posterior a la Guerra Fría. Los conflictos en Medio Oriente han intensificado los temores a una escalada regional más amplia. Las relaciones entre las grandes potencias se han deteriorado, mientras que la retórica nuclear ha regresado a la política internacional con una intensidad no vista en décadas.
Al mismo tiempo, los nueve estados con armas nucleares están modernizando o ampliando sus arsenales. Muchos de los acuerdos de control de armas que antes ayudaban a gestionar la rivalidad estratégica se han debilitado, expirado o se han paralizado políticamente. Los canales de comunicación entre adversarios se han reducido, aumentando el peligro de malentendidos y errores de cálculo.
La inteligencia artificial está irrumpiendo en este entorno volátil a una velocidad extraordinaria.
Los sistemas de IA ya pueden procesar grandes cantidades de información, identificar patrones, ayudar en la planificación militar, fortalecer las capacidades cibernéticas y acelerar decisiones que antes requerían horas o días de deliberación humana. Con el tiempo, podrían proporcionar nuevas herramientas para la prevención, verificación y alerta temprana de crisis.
Pero esas mismas capacidades también podrían hacer que las crisis sean más peligrosas.
La inteligencia artificial puede reducir el tiempo disponible para los líderes políticos y militares durante las emergencias. Puede generar evaluaciones poco fiables o engañosas, amplificar la desinformación, aumentar la vulnerabilidad de los sistemas de mando a los ciberataques e incentivar a los Estados a delegar más autoridad en tecnologías automatizadas.
La principal preocupación no es necesariamente que una máquina decida de forma independiente lanzar un arma nuclear. El peligro más inmediato reside en que la información, las predicciones o las recomendaciones generadas por la IA puedan influir en los responsables de la toma de decisiones humanas en momentos de extrema presión, cuando la información es incompleta y las consecuencias de un error son irreversibles.
La humanidad se enfrenta, por lo tanto, a un desafío sin precedentes.
La cuestión ya no es simplemente cómo controlar las armas nucleares, sino también cómo gobernar la relación entre la inteligencia artificial, el poder militar y la toma de decisiones nucleares antes de que los avances tecnológicos superen el juicio político.
¿Por qué El Vaticano?
La elección de El Vaticano como sede fue profundamente simbólica.
La Santa Sede no posee arsenal nuclear y ejerce escaso poder militar convencional. Sin embargo, mantiene relaciones diplomáticas con la mayoría de los Estados del mundo y desde hace tiempo busca situar la dignidad humana, la responsabilidad moral y la protección de los civiles en el centro de los debates sobre la guerra y la paz.
La Asamblea se celebra en Borgo Laudato Si’, un centro educativo y ecológico ubicado en los jardines de la residencia papal de Castel Gandolfo. Según los organizadores, la reunión se inspira en la encíclica Magnifica humanitas del Papa León XIV, dedicada a la protección de la persona humana en la era de la inteligencia artificial.
Su visión rectora —una «Paz Desarmada y Desarmante»— propone un concepto de paz que va más allá de la mera ausencia de guerra.
Una paz desarmada rechaza la premisa de que la seguridad pueda mantenerse permanentemente mediante una fuerza militar cada vez mayor. Una paz desarmada busca no solo la reducción de armamento, sino también la transformación de los temores políticos, las rivalidades y las estructuras económicas que perpetúan la militarización.
Este enfoque amplía el debate más allá de las cuestiones de seguridad tecnológica.
Se pregunta qué tipo de sociedad desea construir la humanidad a medida que sistemas cada vez más poderosos transforman la política, la economía, la comunicación y la guerra. También plantea una cuestión ética más profunda: si la innovación seguirá estando subordinada a la dignidad humana, o si los seres humanos se verán gradualmente subordinados a las tecnologías que crean.
Más allá de los gobiernos
Quizás la característica más significativa de la Asamblea sea su reconocimiento de que los gobiernos por sí solos ya no pueden gobernar todas las tecnologías que dan forma al futuro.
Durante la Guerra Fría, la diplomacia nuclear pertenecía principalmente a los Estados. Acuerdos como el Tratado sobre la No Proliferación de las Armas Nucleares y el Tratado de Prohibición Completa de los Ensayos Nucleares se negociaron entre gobiernos porque los Estados controlaban los arsenales nucleares, los sistemas de lanzamiento y los materiales necesarios para construirlos.
La inteligencia artificial presenta una realidad fundamentalmente diferente.
Muchos de los sistemas de IA más avanzados del mundo están siendo desarrollados por empresas privadas, universidades y laboratorios de investigación. Las empresas tecnológicas poseen recursos informáticos, datos y conocimientos especializados que rivalizan o superan las capacidades de muchos gobiernos. Las decisiones tomadas dentro de las divisiones de investigación corporativas pueden tener consecuencias políticas, sociales y de seguridad globales.
Por lo tanto, una gobernanza eficaz requerirá más que la diplomacia tradicional.
Requerirá una cooperación sostenida entre Estados, empresas tecnológicas, científicos, universidades, instituciones internacionales, comunidades religiosas y la sociedad civil.
Precisamente por eso, la Asamblea reunió a premios Nobel, empresas de IA, universidades e instituciones de investigación líderes, organizaciones de desarme nuclear, figuras católicas vinculadas al Vaticano y organizaciones de la sociedad civil, incluyendo a Soka Gakkai, un movimiento budista dedicado a la construcción de la paz, el diálogo y la abolición nuclear.
Entre los participantes e instituciones que la apoyaron estuvieron representantes de OpenAI, Google DeepMind, Anthropic y AARU, así como la Iniciativa de Mujeres Nobel, Médicas Internacionales para la Prevención de la Guerra Nuclear, las Conferencias Pugwash sobre Ciencia y Asuntos Mundiales, el Centro Yunus y el Boletín de Científicos Atómicos.
También participaron universidades e instituciones de investigación de Europa, Asia, Norteamérica y Australia.
La importancia de este encuentro radicó no solo en la prominencia de los asistentes, sino también en la diversidad de las comunidades representadas.
En lugar de depender exclusivamente de los gobiernos, la Asamblea reflejó un modelo emergente de gobernanza global en el que la ciencia, la tecnología, la ética, la religión y la sociedad civil buscan puntos en común para abordar los riesgos existenciales compartidos.
De las ojivas a los algoritmos
Durante gran parte de la era nuclear, las negociaciones sobre control de armas se centraron en objetos físicos: ojivas, misiles, bombarderos, submarinos, materiales nucleares e instalaciones de ensayo.
La era de la IA plantea un conjunto diferente de desafíos.
Los algoritmos son menos visibles que los misiles. El software se puede modificar rápidamente. Los datos pueden cruzar fronteras nacionales casi instantáneamente. Los sistemas comerciales desarrollados con fines pacíficos también pueden tener aplicaciones militares. La verificación, la rendición de cuentas y la transparencia se vuelven mucho más difíciles cuando las tecnologías pertinentes están integradas en código, redes e infraestructuras informáticas controladas por empresas privadas.
Esto significa que los futuros marcos de control de armas y seguridad podrían tener que regular no solo las armas, sino también los sistemas digitales que informan, guían o aceleran su uso.
Preguntas que antes parecían teóricas se están volviendo cada vez más urgentes.
¿Debería integrarse la inteligencia artificial en los sistemas de mando y control nuclear? ¿Qué nivel de supervisión humana debe mantenerse sobre las armas autónomas? ¿Cómo deben responder los Estados cuando los sistemas de IA producen advertencias contradictorias durante una crisis? ¿Se puede exigir responsabilidad a las empresas tecnológicas privadas cuando sus productos se adaptan con fines militares? ¿Y qué instituciones internacionales son capaces de establecer salvaguardias creíbles?
La Asamblea no trató de resolver todas estas cuestiones en tres días.
Pero al reunir en un mismo foro a expertos nucleares, premios Nobel, desarrolladores de IA, académicos, líderes religiosos y defensores de la paz, pudo contribuir a establecer un vocabulario común para debates que hasta ahora se han desarrollado a menudo de forma aislada.
¿Un nuevo capítulo en la gobernanza global?
La historia sugiere que la humanidad ha respondido repetidamente a las amenazas existenciales creando nuevas ideas, instituciones y normas.
El Manifiesto Russell-Einstein de 1955 advirtió que las armas nucleares habían puesto en peligro la supervivencia de la especie humana. La primera Conferencia Pugwash, en 1957, abrió canales de comunicación entre científicos divididos por la Guerra Fría. El Tratado de No Proliferación Nuclear se convirtió posteriormente en el marco central del orden nuclear internacional.
El Tratado sobre la Prohibición de las Armas Nucleares, adoptado en 2017, reforzó aún más el desafío humanitario y moral a la disuasión nuclear al declarar que las armas nucleares son incompatibles con los principios humanitarios internacionales.
Aún no está claro si la Asamblea Mundial de Premios Nobel será considerada parte de ese linaje histórico.
Las declaraciones emitidas en conferencias internacionales rara vez transforman las políticas de la noche a la mañana. Pueden carecer de fuerza jurídica, mecanismos de aplicación o apoyo político inmediato. Su lenguaje puede ser aspiracional y su influencia puede tardar años en hacerse visible.
Sin embargo, las declaraciones también pueden cambiar los términos del debate internacional.
El Manifiesto Russell-Einstein no eliminó las armas nucleares, pero contribuyó a inspirar un movimiento. La primera reunión de Pugwash no puso fin a la Guerra Fría, pero estableció relaciones que posteriormente contribuyeron a la diplomacia del control de armamentos. La Declaración Universal de los Derechos Humanos no fue vinculante en un principio, pero se convirtió en una referencia fundamental para el derecho internacional y la legitimidad política.
Por lo tanto, la importancia de la Declaración de Roma podría depender menos de si produce acuerdos inmediatos que de si inicia un proceso sostenido que involucre a gobiernos, empresas tecnológicas, universidades, organizaciones internacionales y la sociedad civil.
La cuestión más importante es si puede ayudar a crear normas antes de que las prácticas peligrosas se arraiguen.
Tras la Declaración de Roma
La Asamblea culminó el 16 de julio con una sesión formal en el Capitolio de Roma, donde se presentó la Declaración de Roma para una Paz Desarmada y Desarmante.
El documento pretende abordar la era de la inteligencia artificial, las armas nucleares y autónomas, los nuevos protocolos digitales y los modelos emergentes de desarrollo digital. Según los organizadores, el evento buscará promover la seguridad internacional basada en la cooperación, la dignidad humana, el desarrollo integral y la paz entre los pueblos.
La prueba crucial es si la Declaración trascenderá a los llamamientos éticos.
Exigió un control humano significativo sobre los sistemas de armas nucleares y autónomas, propuso restricciones al papel de la IA en la toma de decisiones nucleares, definió las responsabilidades de las empresas privadas de IA, recomendó nuevos mecanismos internacionales de seguimiento, diálogo o verificación, y, finalmente, estableció un proceso continuo capaz de traducir los principios en políticas.
Las respuestas a estos planteamientos determinarán si la reunión se mantiene mayormente simbólica o se convierte en el punto de partida de un “Proceso de Roma” más amplio sobre inteligencia artificial, riesgo nuclear y seguridad humana.
Más de ocho décadas después de Hiroshima y Nagasaki, la humanidad se enfrenta una vez más a tecnologías capaces de transformar el futuro de la civilización.
Las armas nucleares siguen siendo el medio más inmediato por el cual los seres humanos podrían destruir sus propias sociedades. Mientras tanto, la inteligencia artificial está empezando a influir en la velocidad, la complejidad y la naturaleza de las decisiones que podrían determinar si esas armas se utilizan alguna vez.
Por lo tanto, el desafío fundamental ya no reside simplemente en si la humanidad puede controlar las armas nucleares.
La cuestión radica en si la humanidad puede construir instituciones capaces de garantizar que la inteligencia artificial fortalezca el juicio humano en lugar de sustituirlo, reduzca el peligro de errores catastróficos en lugar de magnificarlo y sirva a la paz en lugar de a la guerra.
La respuesta no surgirá de tres días de deliberación en Castel Gandolfo.
Pero el diálogo que allí se inicie podría contribuir a configurar los debates internacionales sobre tecnología, seguridad y responsabilidad humana en los años venideros.
Katsuhiro Asagiri, especialista en temas nucleares y de gobernanza global
