El papa León XIV presentó este lunes en la basílica de San Pedro su primera encíclica, Magnifica humanitas, un documento de 110 páginas dedicado íntegramente a la inteligencia artificial y a la protección de la dignidad humana frente a los riesgos que plantea esta revolución tecnológica. En su discurso, el pontífice estadounidense fue directo: la IA «tiene que ser desarmada» de las «lógicas que la transforman en dominio, exclusión y muerte».
El papa explicó que eligió deliberadamente la palabra «desarmada» porque es un término «fuerte», capaz de «despertar conciencias» ante un momento de «gravedad» histórica. Una revolución, subrayó, con consecuencias «aún más importantes» que las del pasado. León XIV, matemático y canonista, actualiza así la Doctrina Social de la Iglesia siguiendo los pasos de la Rerum Novarum de León XIII, aquella encíclica de 1891 que respondió a la revolución industrial.
La concentración del poder tecnológico, en el centro del análisis
Uno de los ejes del documento es la advertencia frente a la concentración del poder digital. El papa señala que patentes, algoritmos, plataformas e infraestructuras «quedan concentrados en las manos de unos pocos», lo que genera nuevas formas de dependencia y exclusión. «Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público», advierte la encíclica.
León XIV rechaza que la tecnología sea neutral. Las innovaciones, escribe, «pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión». Alerta además de usos «evidentemente antihumanos», como la manipulación de la información o la violación de la privacidad, pero también de engaños más sutiles: sistemas que, «presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas» de quienes los diseñaron.
Es más, el pontífice dedica atención específica a los menores, al mundo laboral y a los conflictos armados. Sobre los jóvenes, advierte que el acceso temprano a dispositivos sin supervisión adulta favorece adicciones, ciberacoso y explotación sexual. En el ámbito del trabajo, señala que la IA puede «paradójicamente desespecializar a los trabajadores» y someterlos a vigilancia automatizada.
«No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable»
Asimismo, la parte más contundente del documento aborda el uso militar de la inteligencia artificial. León XIV denuncia que «la revolución digital está modificando la gramática de los conflictos»: junto a la guerra convencional emergen «ataques cibernéticos, manipulación de la información y automatización de decisiones estratégicas». La IA, advierte, «puede bajar el umbral del uso de la fuerza, hacer opacas las responsabilidades y alimentar una cultura en la que el enemigo queda reducido a un dato y la víctima a un daño colateral».
Frente a todo ello, el papa reclama marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios y una política que «no renuncie a su tarea». El objetivo declarado: un «orden social justo en la era digital» donde el criterio no sea solo el beneficio económico, sino «la dignidad de cada persona y el bien de los pueblos».
