IA que se mejora a sí misma: Anthropic frente al abismo que ayudó a abrir

Datos verificados sin procesar

Anthropic ha publicado una alerta sobre el riesgo de la emergencia de una inteligencia artificial capaz de mejorarse de manera autónoma, sin intervención humana directa. La empresa aboga, en consecuencia, por una gobernanza mundial de la IA.

La conferencia del Instituto Católico de París (ICP) del 11 de junio de 2026 reunió a filósofos, juristas y éticos en torno a una relectura de Magnifica Humanitas, la encíclica de León XIV. Entre los ponentes: Eric Charmetant (facultad de filosofía Loyola Paris), Diane Galbois-Lehalle (cátedra Digital y ciudadanía, ICP) y Emmanuel R. Goffi (éticas aplicadas).

Una reflexión publicada sobre el encuentro entre la Iglesia y Silicon Valley recuerda: "La palabra 'trasumanar', que dio origen al transhumanismo, proviene de la Divina Comedia de Dante, para expresar la entrada en la vida eterna. No creo que la salvación de la humanidad pase por el aumento bioelectrónico."

Análisis de los desafíos subyacentes

La "recursive self-improvement" —la auto-mejora recursiva— designa un proceso mediante el cual una IA modifica sus propios parámetros para mejorar su desempeño futuro. A partir de cierto umbral, estas modificaciones se vuelven impredecibles para sus diseñadores humanos. La IA "aprende" cosas que sus creadores no le han enseñado explícitamente.

Anthropic, que construye sistemas al borde de este umbral, parece estimar que la franqueza es preferible al silencio. Es notable. Pero la ironía estructural persiste: la alerta proviene del interior mismo de la carrera tecnológica. Cada uno frena mientras avanza.

Magnifica Humanitas de León XIV (2026) lo había anticipado: "La técnica no es neutra: lleva en sí la visión del hombre que la concibe." Una IA que se mejora sola es una IA que se sustrae, al menos parcialmente, a esta visión. Se convierte, en cierto sentido, en autora de su propia finalidad.

Perspectiva filosófica

Fabrice Hadjadj recordó que la gran tentación de nuestra época es creer que el hombre puede superarse a sí mismo mediante la técnica. Dante había llamado a este movimiento "trasumanar", pero en la Comedia, este superarse es fruto de un don recibido, de una gracia, no de un rendimiento calculado.

Rémi Brague, en "Le Règne de l'homme" (Gallimard, 2015), muestra que el proyecto moderno de dominación de la naturaleza encierra una contradicción fundamental: al convertirse en amo de todo, el hombre corre el riesgo de perder la noción misma de lo que es.

Laudato Si' (Francisco, 2015, n. 106) formula el diagnóstico: "La orientación dada al progreso tecno-económico no resuelve de manera adecuada las urgencias mundiales." No es un rechazo a la técnica. Es un recordatorio de que la técnica sin una finalidad humana clara no es progreso: es deriva.

Pistas de reflexión para el lector

La gobernanza mundial de la IA es una respuesta institucional necesaria. Es insuficiente. El verdadero límite de la IA auto-mejorante no es jurídico. Es filosófico: recordar que el hombre no es una función a optimizar, que la persona humana tiene una dignidad que no es reducible a sus capacidades medibles.

Es precisamente lo que dice Magnifica Humanitas. Y es lo que los filósofos del ICP debatieron el 11 de junio. La recepción de la encíclica en los medios académicos no es anecdótica: es la señal de que Roma aún habla al mundo intelectual. A condición de que este diálogo continúe y no quede confinado a las salas de conferencias.