IA qui s'améliore seule : Anthropic face au gouffre qu'elle a contribué à ouvrir

Faits bruts vérifiés

Anthropic a publié une alerte sur le risque d'émergence d'une intelligence artificielle capable de s'améliorer de manière autonome, sans intervention humaine directe. L'entreprise plaide en conséquence pour une gouvernance mondiale de l'IA.

La conférence de l'Institut Catholique de Paris (ICP) du 11 juin 2026 a réuni des philosophes, juristes et éthiciens autour d'une relecture de Magnifica Humanitas, l'encyclique de Léon XIV. Parmi les intervenants : Eric Charmetant (faculté de philosophie Loyola Paris), Diane Galbois-Lehalle (chaire Numérique et citoyenneté, ICP) et Emmanuel R. Goffi (éthiques appliquées).

Une réflexion publiée sur la rencontre entre l'Eglise et la Silicon Valley rappelle : "Le mot 'trasumanar,' qui a donné transhumanisme, vient de la Divine Comédie de Dante, pour exprimer l'entrée dans la vie éternelle. Je ne crois pas que le salut de l'humanité passe par l'augmentation bioélectronique."

Analyse des enjeux sous-jacents

La "recursive self-improvement" - l'auto-amélioration récursive - désigne un processus par lequel une IA modifie ses propres paramètres de façon à améliorer ses performances futures. A partir d'un certain seuil, ces modifications deviennent imprévisibles pour les concepteurs humains. L'IA "apprend" des choses que ses créateurs ne lui ont pas explicitement enseignées.

Anthropic, qui construit des systèmes au bord de ce seuil, semble estimer que la franchise est préférable au silence. C'est notable. Mais l'ironie structurelle demeure : l'alerte vient de l'intérieur même de la course technologique. Chacun freine en avançant.

Magnifica Humanitas de Léon XIV (2026) l'avait anticipé : "La technique n'est pas neutre : elle porte en elle la vision de l'homme qui la conçoit." Une IA qui s'améliore seule est une IA qui se soustrait, au moins partiellement, à cette vision. Elle devient, en un sens, l'auteur de sa propre finalité.

Éclairage philosophique

Fabrice Hadjadj a rappelé que la grande tentation de notre époque est de croire que l'homme peut se dépasser lui-même par la technique. Dante avait nommé ce mouvement "trasumanar" - mais dans la Comédie, ce dépassement est le fruit d'un don reçu, d'une grâce, non d'une performance calculée.

Rémi Brague, dans "Le Règne de l'homme" (Gallimard, 2015), montre que le projet moderne de domination de la nature porte en lui une contradiction fondamentale : en se rendant maître de tout, l'homme risque de perdre la notion même de ce qu'il est.

Laudato Si' (François, 2015, n. 106) formule le diagnostic : "L'orientation donnée au progrès techno-économique ne résout pas de façon adéquate les urgences mondiales." Ce n'est pas un refus de la technique. C'est un rappel que la technique sans finalité humaine claire n'est pas progrès - c'est dérive.

Pistes de réflexion pour le lecteur

La gouvernance mondiale de l'IA est une réponse institutionnelle nécessaire. Elle est insuffisante. La véritable limite de l'IA auto-améliorante n'est pas juridique. Elle est philosophique : rappeler que l'homme n'est pas une fonction à optimiser, que la personne humaine a une dignité qui n'est pas réductible à ses capacités mesurables.

C'est précisément ce que Magnifica Humanitas dit. Et c'est ce que les philosophes de l'ICP ont mis en débat le 11 juin. La réception de l'encyclique dans les milieux académiques n'est pas anecdotique : c'est le signe que Rome parle encore au monde intellectuel. A condition que ce dialogue continue, et ne reste pas confiné aux salles de conférence.