León XIV publica su primera encíclica: ‘Magnifica humanitas’, una guía ética y moral ante el desafío de la IA
El papa León XIV publicó hoy, lunes 25 de mayo, su primera carta encíclica, titulada ‘Magnifica Humanitas‘, un documento centrado en “la custodia de la persona humana en el tiempo de la inteligencia artificial”.
En el texto, el Papa advierte sobre los riesgos de un desarrollo tecnológico sin control ético y propone aplicar los principios de la Doctrina Social de la Iglesia para que la IA sirva al bien común y no se convierta en un instrumento de poder en manos de unos pocos.
“En la era de la inteligencia artificial, en la que la dignidad humana corre el riesgo de ser oscurecida por nuevas formas de deshumanización, tenemos el deber urgente de permanecer profundamente humanos, preservando con amor esa magnífica humanidad que nos fue dada y mostrada en su plenitud en Cristo, y que ninguna máquina podrá jamás reemplazar en todo su esplendor”, escribe León XIV en su primera encíclica, de 231 páginas, divididas en cinco capítulos.
La dimensión antropológica es una constante a lo largo de la encíclica, que es, en efecto, un documento social, pero donde la sociedad no es otra cosa que el hogar en el que la humanidad puede ser ella misma y florecer. Desde el individuo, pasando por la familia, piedra angular de la sociedad, hasta las sociedades y estructuras que posibilitan la vida social, como la economía y la política.
La encíclica plantea que la humanidad se encuentra ante una “elección decisiva”, representada por dos imágenes bíblicas: construir una nueva “torre de Babel”, basada en el orgullo y la eficiencia que deshumaniza, o “reconstruir Jerusalén”, una sociedad fraterna edificada sobre la responsabilidad compartida y el diálogo.
El Papa alerta de que la primera elección no es entre un “sí” o un “no” a la tecnología, sino sobre el modelo de sociedad que se desea construir.
Un poder en manos de unos pocos
El punto de referencia de la encíclica, firmada en el 135 aniversario de Rerum novarum, es León XIII, quien dio un “nuevo impulso” a la doctrina social de la Iglesia, llamada hoy a afrontar el hecho de que “la digitalización, la inteligencia artificial y la robótica están transformando el mundo”.
“Cada generación hereda la tarea de dar forma a su propio tiempo, pero cada época se enfrenta al riesgo de construir un mundo inhumano y más injusto”, escribe el Papa, según quién para afrontar el desafío de la revolución digital, se necesitan “instrumentos normativos adecuados”, pero, sobre todo: “Debemos preguntarnos con realismo quién ostenta este poder hoy en día y con qué fines lo utilizan”.
En el pasado, de hecho, “eran principalmente los Estados los que guiaban y dirigían la innovación”. “Hoy, sin embargo, los principales impulsores del desarrollo son actores privados, a menudo transnacionales, con recursos y capacidad de intervención superiores a los de muchos gobiernos . El poder tecnológico adquiere así una nueva faceta, predominantemente “privada”, y por ello resulta aún más difícil de discernir, gobernar y orientar hacia el bien común”. No, pues, a los “usos evidentemente antihumanos” de la IA: debemos preguntarnos “qué idea de persona y sociedad” subyace a las máquinas.
León XIV critica el “paradigma tecnocrático” donde la lógica de la eficiencia y el lucro gobierna las decisiones, reduciendo a las personas a “engranajes de un sistema”. La encíclica sostiene que la tecnología no es neutral, pues “toma el rostro de quien la concibe, la financia, la regula, la utiliza”, y puede generar nuevas dependencias, exclusiones y desigualdades.
Las nuevas formas de esclavitud
Magnifica Humanitas dedica un apartado a denunciar las “nuevas formas de esclavitud” vinculadas a la economía digital. El texto señala el “trabajo silencioso de millones de seres humanos” en tareas como el etiquetado de datos o la moderación de contenidos, a menudo a cambio de “remuneraciones mínimas”. También se refiere a la extracción de tierras raras necesarias para los dispositivos, donde “adolescentes y niños trabajan en condiciones peligrosas”.
“La complicidad y la ceguera del pasado debe convertirse en un llamamiento a la vigilancia en el presente para denunciar con firmeza”
En este contexto, León XIV pide perdón en nombre de la Iglesia por el “retraso con el que la Iglesia y la sociedad condenaron el flagelo de la esclavitud” en el pasado. Afirma que el recuerdo de la “complicidad y la ceguera del pasado” debe convertirse en un “llamamiento a la vigilancia” en el presente para denunciar con firmeza la trata de personas en sus múltiples manifestaciones actuales.
La guerra y el riesgo de la IA
La encíclica aborda con especial preocupación el uso de la inteligencia artificial en el ámbito bélico. El documento advierte que la automatización de las decisiones puede hacer la guerra “más ‘viable’ y menos sujeta al control humano”, bajando el umbral del recurso a la violencia y presentando el conflicto como una opción rápida e impersonal.
“No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable”, afirma el pontífice.
El texto subraya que el juicio moral no puede reducirse a un cálculo y que, por tanto, “no es lícito confiar a sistemas artificiales decisiones letales”. Por ello, León XIV hace un llamamiento a “desarmar” la IA, sustrayéndola de la lógica de la competencia armamentística, y a establecer reglas internacionales que frenen esta carrera tecnológica y aseguren la protección de los civiles.
Finalmente, el documento propone un camino basado en la responsabilidad compartida de todos los actores sociales, desde los desarrolladores hasta los políticos y los ciudadanos. La encíclica concluye con un llamamiento a “no temer ensuciarnos las manos en la obra de nuestro tiempo” para construir una “civilización del amor” donde la tecnología esté al servicio de la dignidad humana, la justicia y la paz.
La necesidad de un código ético
El Papa advierte en su encíclica que, aunque la IA puede imitar o simular al hombre, “no posee conciencia moral, empatía, capacidad afectiva”, por lo que pide abordar la IA con sobriedad y vigilancia, “apostando por políticas y marcos jurídicos adecuados”.
Por ello, cree León XIV que es necesario un código ético, sometido a criterios de justicia social compartida, eso sí, advierte que “no sirve una IA más moral si esa moral la deciden unos pocos”.
Además, señala que no hay que olvidar el impacto medioambiental de las nuevas tecnologías, que requieren grandes cantidades de energía y agua, afectando a las emisiones de dióxido de carbono, dañando la Creación.
