Declaración de Roma: la línea roja nuclear entre el hombre y la máquina

Contexto

Hemos seguido, desde junio, la implementación por parte de León XIV de una política romana coherente sobre la inteligencia artificial: Comisión interministerial del 17 de junio, encíclica Magnifica humanitas, pleito africano por la persona. El 16 de julio, en Roma, en el Capitolio, se añade una nueva piedra al edificio. La "Declaración de Roma", firmada por premios Nobel y responsables políticos, compromete moralmente a sus firmantes a nunca confiar a una máquina la decisión de un lanzamiento nuclear.

Los hechos

El texto, firmado en el Capitolio en Roma en el margen de una conferencia internacional que reúne a laureados del premio Nobel, científicos, líderes religiosos y antiguos jefes de Estado, compromete a preservar el control humano sobre toda la cadena de decisión relativa a las armas de destrucción masiva. Vatican News informa sobre las palabras de Gianluigi Ballarani, profesor de marketing digital y estrategias criptográficas en la Universidad de Pavía, interviniendo en la conferencia: "El hombre nunca debe ceder a las máquinas el poder de decidir". La edición alemana de Vatican News destaca la presencia de varios laureados del Nobel, científicos y políticos entre los firmantes. Ningún Estado nuclear se ha comprometido oficialmente en nombre de la Declaración, que sigue siendo un instrumento moral y no convencional.

Análisis doctrinal

Tres textos iluminan esta declaración. Antiqua et nova, nota del Dicasterio para la doctrina de la fe y del Dicasterio para la cultura (28 de enero de 2025), fija la línea: la IA es una herramienta al servicio de la persona, nunca un sustituto. El Compendio de la doctrina social de la Iglesia recuerda que la carrera armamentista es una plaga de la humanidad. Finalmente, Gaudium et spes 80, en su pasaje que se ha vuelto clásico, condena "sin equívoco" los actos militares que buscan la destrucción total de ciudades enteras. La Declaración de Roma se inscribe en esta continuidad: la responsabilidad moral, ontológicamente humana, no puede ser delegada a una cadena algorítmica.

Desafíos para la Iglesia y los fieles

Roma habla de antemano de un posible tratado internacional. El católico formado encuentra aquí la traducción técnica del principio de dignidad de la persona: la IA puede asistir al discernimiento, pero no sustituirlo. Este proyecto compromete a la Iglesia en lo que tiene de más clásico, la defensa de la conciencia libre frente a toda delegación a un sistema anónimo.

Lectura crítica y puntos ciegos

La Declaración no es vinculante. No aborda ni los sistemas de armas autónomas convencionales, drones y enjambres, ya desplegados, ni los modelos de IA integrados en la cadena de inteligencia que precede a la decisión política. No hay firmantes rusos o chinos. En este sentido, la antropología cristiana sigue adelantándose al derecho.

Para meditar y actuar

Oremos por un desarme efectivo. Formémonos para distinguir, en nuestras propias herramientas, la ayuda algorítmica de la sustitución algorítmica. Apoyemos las iniciativas éticas locales sobre IA.