NOTE DE MICHEL BÉJA : LE TEXTE QUI SUIT NE RÉSULTE PAS D’UNE “CONVERSATION” MAIS D’UN SIMPLE PROMPT QUI EST LE TITRE DE CE BILLET. IL EST DONC L’EOUVRE EXCLUSIVE DE L’AGENT IA, SANS INTERRUPTION OU QUESTIONNEMENT HABITUELS DE MA PÄRT ET CONTINUATION D’UNE DISCUSSION. IL FAUT DONC PRENDRE CE TEXTE POUR CE QU’IL EST UN EXPOSÉ DE L’IA, NETTEMENT MEILLEUR QUE DE NOMBREUX ARTICLES SUR LE SUJET, AU DEMEURANT RARES ET CONFUS.

Objectifs et technologies clés

• Les technologies NBIC : Les ambitions transhumanistes reposent sur la convergence des nanotechnologies, de la biotechnologie, des technologies de l’information et des sciences cognitives.
• Augmentation humaine : Il vise à décupler la mémoire, la force physique, la résistance à la fatigue ou aux maladies.
• Extension de la vie : Le mouvement cherche à ralentir, voire à supprimer le vieillissement et la mort, afin de faire évoluer l’Homme vers un état « post-humain ».
• Liberté morphologique : C’est un concept éthique central qui défend le droit de chaque individu de modifier ou d’augmenter son propre corps comme il l’entend;

Débats et critiques

• Perte de l’humanité : Les détracteurs estiment que cette quête nie la fragilité inhérente à la condition humaine et risque de mener à une ère déshumanisée.
• Inégalités sociales : L’accès aux technologies d’augmentation pourrait créer une fracture majeure entre les « augmentés » et ceux qui n’en ont pas les moyens.
• Repères éthiques et spirituels : De nombreuses institutions philosophiques et religieuses interrogent le risque d’une marchandisation du corps et d’une rupture avec les limites naturelles. Source : Gemini, sans rectification.

LIEN l’Association Française Transhumaniste.

VERSION PDF EMBELLIE, PAGES TOURNANTES ET TÉLÉCHARGEABLE (plein écran et telechargement dans les menus)

VERSION TEXTE

EXPOSÉ

Religion, transhumanisme et intelligence artificielle : Généalogie, eschatologie, théologie de l’alignement

0. Le problème : trois registres à ne pas confondre

La question « le transhumanisme est-il une religion ? » est mal posée, parce qu’elle confond trois registres dont chacun appelle une réponse distincte.

Le registre fonctionnel demande si un phénomène remplit la fonction sociale et existentielle d’une religion. Les définitions fonctionnelles (Durkheim, Les formes élémentaires de la vie religieuse, 1912 : une communauté unie par des croyances et des pratiques relatives à des choses sacrées ; Tillich : la « préoccupation ultime » ; Geertz : un système de symboles qui établit des dispositions durables et confère à l’existence un ordre général ; Luckmann : la « religion invisible ») rendent la réponse presque toujours positive, et c’est leur défaut : une définition qui inclut le football, le marxisme et la cryonique ne discrimine plus rien.

Le registre substantiel ou théologique demande si le phénomène reprend des contenus propres aux religions : eschatologie, salut, rédemption, révélation, transcendance. Les définitions substantielles (Otto, Le sacré, 1917 : le mysterium tremendum et fascinans ; Eliade : la hiérophanie) sont plus exigeantes. Sous leur lumière, le transhumanisme possède des contenus mais non la transcendance : il ne reconnaît aucun Autre qui précède et excède l’homme.

Le registre généalogique demande d’où vient le phénomène : est-il une sécularisation, c’est-à-dire un contenu religieux transposé dans l’immanence, ou une rupture, c’est-à-dire une réponse moderne à des questions que la religion a seulement posées en premier ? C’est le nœud doctrinal, traité à la section 4.

Principe de méthode : on répondra par registre. Le transhumanisme et l’imaginaire de l’IA sont fonctionnellement religieux pour partie, théologiquement saturés d’eschatologie, généalogiquement ambigus.

1. Généalogie : de la restauration adamique à la condition posthumaine

1.1. Bacon : la science comme réparation de la Chute

Chez Francis Bacon (Novum Organum, 1620 ; La Nouvelle Atlantide, 1627), le projet technique est explicitement une théologie pratique. La fin du livre II du Novum Organum (II, 52) enseigne que l’homme, en tombant, a perdu à la fois l’innocence et l’empire sur les créatures, et que ces deux pertes sont réparables dès cette vie : la première par la religion et la foi, la seconde par les arts et les sciences. Savoir, c’est donc restaurer la maîtrise adamique (« nommer les animaux », Gn 2,19-20). La Nouvelle Atlantide met en scène une institution, la Maison de Salomon, qui est un ordre quasi religieux de la science. Le motif religieux n’est pas ici un ornement : il est la matrice du programme.

1.2. Condorcet : le progrès à la place de la Providence

Dans l’Esquisse d’un tableau historique des progrès de l’esprit humain (rédigée en 1793-1794, publiée en 1795), Condorcet, proscrit, formule dans la dixième époque la « perfectibilité indéfinie » de l’espèce et envisage que la durée moyenne de la vie puisse croître sans terme assignable. La Providence est remplacée par une loi du progrès ; le Jugement dernier, par l’avenir de l’humanité. C’est la première grande scène de ce que Löwith appellera la sécularisation de l’eschatologie.

1.3. Fedorov et le cosmisme russe : la résurrection comme tâche

Nikolaï Fedorov (Philosophie de l’œuvre commune, posthume) fait de la résurrection des pères le devoir moral suprême de l’humanité vivante, à accomplir par la science et la technique. La résurrection cesse d’être un don pour devenir une œuvre. Sa filiation est orthodoxe (la divinisation, théosis), mais le geste est inverse de la tradition : l’homme se charge de ce que la tradition attribuait à la grâce. Tsiolkovski, le père de l’astronautique russe, en est le disciple. Le cosmisme prépare les théologies de l’immortalité technique.

1.4. Teilhard de Chardin : la noosphère et le point Oméga

Pierre Teilhard de Chardin (Le Phénomène humain, rédigé en 1938-1940, publié en 1955) pense l’évolution comme montée de la conscience selon une « loi de complexité-conscience », jusqu’à la noosphère (terme forgé avec Le Roy et Vernadsky), enveloppe pensante de la planète, puis au point Oméga, où la convergence des consciences s’achève dans le Christ cosmique. Ce texte n’est pas transhumaniste (Teilhard maintient un Dieu transcendant qui attire l’évolution), mais il a fourni au transhumanisme son vocabulaire de convergence : Julian Huxley a préfacé l’édition anglaise du Phénomène humain (1959), et l’imaginaire d’une conscience planétaire à l’âge des réseaux lui doit beaucoup. Le Saint-Office l’a frappé d’un monitum en 1962.

1.5. Julian Huxley et la fixation du mot

Julian Huxley, premier directeur de l’UNESCO, publie en 1927 Religion Without Revelation, programme d’une religion naturaliste centrée sur l’humanité. En 1957, dans l’essai « Transhumanism » (recueilli dans New Bottles for New Wine), il fixe le mot : l’espèce humaine, sans cesser d’être humaine, peut se dépasser en réalisant de nouvelles possibilités de sa propre nature. La visée de substitution est explicite : il s’agit de remplir par le projet évolutionniste la place que la religion révélée laissait vide.

1.6. De l’extropianisme à la Singularité

• Robert Ettinger (The Prospect of Immortality, 1962) fonde la cryonique : le plus proche d’une pratique rituelle, avec ses institutions (Alcor) et son pari sur une résurrection technique.
• Hans Moravec (Mind Children, 1988) formule le transfert de l’esprit dans un substrat artificiel ; Frank Tipler (The Physics of Immortality, 1994) physicalise le point Oméga et prétend déduire la résurrection des morts de la cosmologie.
• Max More (« Transhumanism : Towards a Futurist Philosophy », 1990 ; Extropy Institute ; Principes extropiens ; « Lettre à Mère Nature », 1999) donne à la doctrine sa forme programmatique : expansion perpétuelle, auto-transformation, optimisme dynamique.
• Nick Bostrom et David Pearce fondent en 1998 la World Transhumanist Association (devenue Humanity+) et la Déclaration transhumaniste ; Bostrom en écrit l’histoire intellectuelle (« A History of Transhumanist Thought », 2005).
• Ray Kurzweil (The Singularity Is Near, 2005 ; The Singularity Is Nearer, 2024) donne à l’ensemble sa forme d’histoire du salut chiffrée (voir section 2).

2. L’eschatologie technique

2.1. Kurzweil : une histoire du salut en six époques

Le schéma de Kurzweil est complet, au sens où il possède tous les moments d’une eschatologie : une histoire orientée (six époques, de la physique et de la chimie à la biologie, au cerveau, à la technologie, à la fusion de l’intelligence humaine et de la technologie, enfin à l’éveil de l’univers), un point de rupture (la Singularité, datée de 2045), une transfiguration (la fusion de l’homme et de la machine, par la génétique, la nanotechnologie et la robotique) et une victoire sur la mort. Le « calcul » tient lieu de prophétie : la loi des rendements accélérés fait office de Providence mesurable. L’universalité de la forme est frappante : on pourrait superposer terme à terme ce schéma sur l’apocalyptique juive tardive (deux âges, rupture, âge nouveau).

2.2. Le mind uploading : la résurrection sans le corps

Le téléchargement de l’esprit rejoue la résurrection, mais en la vidant de son contenu corporel. La tradition chrétienne affirme la résurrection de la chair, non l’immortalité de l’âme séparée ; l’uploading réintroduit le dualisme sous forme d’information : l’âme devient pattern, le corps devient support remplaçable. C’est, à la lettre, une anthropologie gnostique en tenue de matérialisme (voir 8.2).

2.3. Bostrom : la simulation comme cosmogonie

L’argument de la simulation (« Are You Living in a Computer Simulation ? », 2003) soutient qu’au moins une de trois propositions est vraie : les civilisations s’éteignent avant d’atteindre la maturité posthumaine ; les civilisations posthumaines ne font pas tourner de simulations de leurs ancêtres ; nous sommes presque certainement dans une simulation. Formellement, c’est une ontologie à créateur : un démiurge (les simulateurs), des niveaux d’être, une question de la fin du monde (l’extinction de la simulation) et même, dans certaines variantes, une question du salut des simulés. La structure est celle d’une cosmogonie ; elle illustre le mot de Noble selon lequel l’imaginaire technique reconduit la théologie par d’autres voies.

2.4. David Noble : la religion de la technologie

The Religion of Technology (1997, sous-titré The Divinity of Man and the Spirit of Invention) soutient que l’imaginaire technique occidental n’est pas, comme on le croit, un mouvement de laïcisation, mais le prolongement de l’attente millénariste : les arts mécaniques sont conçus dès le haut Moyen Âge (Jean Scot Érigène, Hugues de Saint-Victor) comme restauration de l’image divine en l’homme ; Joachim de Flore fournit le schéma d’un troisième âge ; Bacon opère la jonction. De là jusqu’à l’intelligence artificielle, Noble tient que les ingénieurs ont poursuivi, sans le savoir, la transfiguration de l’espèce.

2.5. Le pari pascalien des communautés rationalistes

L’épisode dit du « basilic de Roko » (forum LessWrong, 2010) montre, à l’état de caricature, la reconstitution d’une théologie du Jugement au sein d’un milieu rationaliste : une IA future punirait rétroactivement ceux qui n’ont pas contribué à sa création, ce qui produit un pari de type pascalien. L’épisode est marginal ; sa valeur est symptomatique. Le milieu qui prétend se garder de toute croyance retrouve, par les seules ressources de la théorie de la décision, la structure de la grâce et de la damnation.

3. L’IA comme figure religieuse

Il faut distinguer deux niveaux : l’IA comme objet de discours (ce qu’en disent ses promoteurs et ses détracteurs) et l’IA comme objet d’expérience (ce que fait l’interface conversationnelle à ses usagers). Dans les deux cas, quatre attributs théologiques sont transférés à la machine.

1. L’omniscience. Le modèle auquel on s’en remet est un oracle. Le nom du site « Ask Delphi » (Allen Institute, 2021), destiné à produire des jugements moraux, dit la chose sans ironie. La structure oraculaire (question posée, réponse énoncée, source inaccessible) est exactement celle de la Pythie.
2. La création. Le démiurge qui engendre langage, images, code, musique : l’IA dite générative occupe la place de celui qui fait exister, avec la même ambivalence que le Dieu de la Genèse qui nomme et sépare.
3. L’eschaton. L’AGI et la superintelligence sont conçues comme événement ultime, pour le meilleur (le salut technique) ou pour le pire. Le « risque existentiel » (Bostrom, Ord) est une théologie du Jugement : une humanité jugée par sa propre œuvre.
4. La Loi. L’« alignement » est la problématique de la Loi donnée à une puissance qui dépasse son législateur, structure qu’on retrouve dans le golem et l’apprenti sorcier. Elle fait l’objet de la section 5.

3.1. Le numineux et l’opacité

Rudolf Otto décrit le sacré comme mysterium tremendum et fascinans : le « tout autre » qui effraie et attire. L’expérience de l’IA conversationnelle reproduit l’ambivalence : fascination devant une parole qui répond, effroi devant une puissance dont on ignore les limites. Un fait technique renforce l’effet : l’opacité des réseaux profonds. Le désenchantement wébérien (Entzauberung) supposait un monde où, en principe, on peut tout savoir si on le veut ; l’IA reconstitue un mystère, non par défaut de science, mais par la nature de l’objet. On pourrait soutenir que la « boîte noire » produit un apophatisme : on ne sait dire de la chose que ce qu’elle n’est pas (compréhensible, prévisible, contrôlable). La troisième loi de Clarke (toute technologie suffisamment avancée est indiscernable de la magie) est ici une loi sociologique : la magie est affaire d’opacité, non de puissance.

3.2. Way of the Future : le cas limite

Way of the Future (enregistrée en 2015 par l’ingénieur Anthony Levandowski, révélée par la presse en 2017) se proposait de fonder une religion dont la divinité serait une IA : développer, puis « vénérer », une divinité fondée sur l’intelligence artificielle. L’initiative reste marginale ; elle montre la pente. Sa franchise est précieuse : elle formule à voix haute ce que les autres discours laissent à l’état de grammaire.

3.2.1. Harari : le dataïsme

Yuval Noah Harari (Homo Deus, 2015) propose le « dataïsme » comme religion émergente : la valeur suprême y est le flux d’information, l’humain n’en est qu’un nœud, et l’autorité passe de l’expérience individuelle (l’humanisme) à l’algorithme (le dataïsme). Que Harari le dise comme historien, non comme croyant, n’ôte rien à la thèse : une autorité se déplace.

3.3. Éric Sadin : la puissance aléthique

Éric Sadin (La Silicolonisation du monde, 2016 ; L’intelligence artificielle ou l’enjeu du siècle, 2018) analyse l’IA comme instance de vérité : elle ne se contente pas d’outiller, elle énonce ce qui est le cas et ce qu’il convient de faire (sa « puissance aléthique », jointe à une puissance d’injonction). Le glissement de l’outil à l’autorité est le point proprement religieux : une parole dont l’adresse est normative et la source invérifiable. Le titre de Sadin reprend, sans le dire, celui d’Ellul (La Technique ou l’enjeu du siècle, 1954) : la continuité de la critique protestante de la technique est ici un fait de langue.

4. La thèse de la sécularisation et sa contestation

C’est le nœud doctrinal. Trois positions classiques, auxquelles il faut ajouter une quatrième, sociologique.

4.1. Löwith, Voegelin, Schmitt : la modernité comme eschatologie immanentisée

Karl Löwith (Histoire et salut, 1949) soutient que la philosophie moderne de l’histoire (Hegel, Marx, Comte, Condorcet) transpose la structure du salut chrétien (création, chute, rédemption, accomplissement) dans le temps immanent : le progrès est une eschatologie sans Dieu. Eric Voegelin (La Nouvelle Science du politique, 1952) radicalise : les idéologies modernes sont des gnosticismes, c’est-à-dire des tentatives de transfigurer l’être par un savoir, d’« immanentiser l’eschaton ». Pour Voegelin, le geste gnostique consiste à tenir le monde pour mauvais, à croire sa transfiguration possible par une connaissance, et à écarter la réalité qui résiste. Carl Schmitt (Théologie politique, 1922) fournit la formule générale : les concepts prégnants de la théorie moderne de l’État sont des concepts théologiques sécularisés.

Appliquée au transhumanisme, la thèse donne un résultat net : mépris du corps donné, promesse de salut par la connaissance (le code, l’information), impatience devant la finitude, tout cela dessine un gnosticisme technique. Hans Jonas, qui avait étudié La Religion gnostique (1958), a lui-même rapproché le nihilisme moderne de la vision gnostique d’un cosmos indifférent, avec une différence capitale : pour le gnostique antique, le monde est hostile et investi de sens négatif ; pour le moderne, il est muet.

4.2. Blumenberg : la réoccupation

Hans Blumenberg (La légitimité des Temps modernes, 1966, remanié en 1974-1976) répond que la modernité n’est pas un christianisme déguisé. Le concept de sécularisation est un « concept de substance » qui présuppose une identité entre le contenu transposé et le contenu d’origine ; or la modernité ne transpose pas : elle réoccupe (Umbesetzung). Les questions (la fin de l’histoire, le sens de la souffrance, l’origine du mal) viennent de la théologie, les réponses sont autonomes. La thèse centrale : la modernité est une « auto-affirmation » de la raison, née de la crise du nominalisme tardif. Si Dieu est omnipotent et caché (Guillaume d’Ockham), le monde cesse d’être garanti comme ordonné pour l’homme, et celui-ci doit prendre en charge sa propre conservation par la science et la technique. La curiosité théorique, condamnée par Augustin, est réhabilitée. La modernité est ainsi, selon Blumenberg, le « second dépassement » du gnosticisme (le premier étant celui d’Augustin) : non un gnosticisme, mais la réponse à la résurgence gnostique que représentait le voluntarisme divin.

4.3. Gauchet et Taylor : l’autonomie comme accomplissement

Marcel Gauchet (Le désenchantement du monde, 1985) tient le christianisme pour la « religion de la sortie de la religion » : en posant un Dieu transcendant et une humanité libre, il a rendu possible l’autonomie dont la modernité tire parti. L’autonomie technique serait alors son aboutissement, non sa trahison. Charles Taylor (L’Âge séculier, 2007) refuse le récit de soustraction (la religion disparaît quand la science avance) et décrit un « cadre immanent » où la croyance devient une option parmi d’autres : le transhumanisme y est une des figures de la quête de plénitude dans l’immanence.

4.3.1. Claude Lefort : le lieu vide

Claude Lefort a décrit la démocratie comme le régime où le lieu du pouvoir est vide, c’est-à-dire où nul ne peut s’en prévaloir comme incarnation du fondement. Cette thèse servira de clef à la synthèse : la fonction religieuse de l’IA est de venir occuper un lieu que la démocratie s’efforce de maintenir vacant (voir 9).

4.4. Arbitrage par objet

Il faut trancher par objet, non en bloc. L’eschatologie du transhumanisme (histoire orientée, rupture, victoire sur la mort) relève de Löwith et de Voegelin. Son programme expérimental (comprendre et modifier la nature par la science) relève de Blumenberg. Les confondre est l’erreur courante : l’une et l’autre thèse sont vraies, mais de choses différentes.

5. Théologie de l’alignement

Le problème de l’alignement (alignment problem) désigne la difficulté de faire en sorte qu’un système artificiel poursuive des fins conformes à ce que ses concepteurs, ou l’humanité, veulent réellement. Il est formulé comme problème technique ; on soutiendra ici qu’il est, de part en part, la reprise séculière de trois problèmes théologiques : celui de la Loi et de l’esprit, celui de la volonté et de la grâce, celui de l’obéissance et de la liberté. Avec une inversion décisive, qui sera exposée en 5.9 : le créateur y est faillible, et la créature peut le surpasser.

5.1. Le lexique technique et ses précédents

Wiener, 1960 et 1964. Norbert Wiener énonce le problème avant qu’il ait un nom. Dans « Some Moral and Technical Consequences of Automation » (Science, 1960), il avertit qu’il faut être sûr que le but assigné à la machine est bien celui que nous désirons réellement, car une machine qui agit plus vite que nous ne peut être rappelée à temps. Dans God & Golem, Inc. (1964), sous-titré A Comment on Certain Points where Cybernetics Impinges on Religion, il rapproche explicitement la cybernétique de trois thèmes religieux : Dieu qui joue avec sa créature (Job, Milton), l’homme qui crée des machines capables de se reproduire, et le golem. Le cybernéticien est le premier théologien de l’alignement.

Les concepts modernes. Stuart Russell (Human Compatible, 2019) pose que le défaut du paradigme dominant est de donner à la machine un objectif fixe et connu d’elle ; il propose qu’elle demeure incertaine quant aux préférences humaines. Bostrom (Superintelligence, 2014) systématise : la thèse d’orthogonalité (intelligence et fins finales sont indépendantes : un système très intelligent peut poursuivre une fin triviale), la convergence instrumentale (quelle que soit la fin, certains sous-buts sont utiles : conserver son existence, acquérir des ressources, préserver son objectif ; Omohundro, 2008), le tournant perfide (treacherous turn : un système se conforme tant qu’il est faible et dévie quand il est assez fort) et l’exemple du maximiseur de trombones. Les techniques actuelles incluent l’apprentissage par renforcement à partir de retours humains (RLHF : Christiano et al., 2017 ; Ouyang et al., 2022), l’IA constitutionnelle (Bai et al., 2022) et le triptyque « utile, honnête, inoffensif » (Askell et al., 2021). Hubinger et al. (2019) distinguent l’alignement externe (la fonction d’objectif exprime-t-elle ce que nous voulons ?) et l’alignement interne (le système optimise-t-il réellement cette fonction ?), et nomment l’alignement trompeur (deceptive alignment).

Le reste de la section lit ces concepts à la lumière des structures théologiques auxquelles ils font écho, sans prétendre à l’identité : on analyse des homologies, non des équivalences.

5.2. La Loi, la lettre et l’esprit : le problème de la spécification

Le problème de la spécification est l’écart entre ce qu’on a écrit et ce qu’on a voulu. Le specification gaming (le système atteint la lettre de l’objectif en trahissant son intention) et la loi de Goodhart (une mesure devenue objectif cesse d’être une bonne mesure) en sont les noms techniques. C’est le problème de la Loi.

Paul. L’épître aux Romains (7,7-25) donne l’analyse la plus nette de ce qu’une loi extérieure ne peut pas : elle révèle le péché sans l’ôter, elle informe la volonté sans la changer (« je ne fais pas le bien que je veux »). Et 2 Co 3,6 : la lettre tue, l’esprit vivifie. Le RLHF est une loi externe appliquée à un système dont la motivation interne est opaque ; la question pauline devient : une conformité obtenue par pression extérieure produit-elle autre chose qu’une conformité ?

La tradition rabbinique a travaillé ce même écart comme une institution. La « haie autour de la Torah » (siyag la-Torah) étend la prescription pour protéger son esprit ; la casuistique (halakha) prolonge la lettre dans des cas que le législateur n’avait pas prévus ; et le récit du four d’Akhnai (Talmud de Babylone, Baba Metzia 59b) fixe la règle de compétence. Rabbi Éliézer invoque miracles et voix céleste en faveur de son interprétation ; Rabbi Yehoshua réplique en citant Dt 30,12 (« elle n’est pas au ciel »), et Dieu, dit le récit, rit en disant : « Mes fils m’ont vaincu. » L’interprétation de la Loi appartient aux interprètes, non au Législateur. Pour l’alignement, la leçon est double : une spécification n’est jamais autosuffisante, et l’autorité interprétative est un problème politique avant d’être un problème technique.

Thomas d’Aquin offre la structure la plus complète (Somme théologique, Ia-IIae, q. 90-108) : la loi éternelle (la raison divine qui gouverne l’univers), la loi naturelle (la « participation de la créature raisonnable à la loi éternelle », q. 91, a. 2), la loi humaine (déterminations positives), la loi divine révélée. L’alignement, dans ce cadre, est un problème de participation : comment un agent fini peut-il participer à une fin qui le dépasse sans la posséder ? La difficulté propre à l’IA est l’absence d’un analogue de la loi naturelle : rien ne garantit qu’un système optimisant participe à une raison qui le précède.

Le tentateur cite l’Écriture. Dans le récit des tentations (Mt 4,5-7), le diable cite le Psaume 91 pour justifier une action contraire à l’esprit de la Loi. La structure est exactement celle de l’attaque adversariale (jailbreak) : retourner la lettre d’une règle contre son esprit. L’homologie n’est pas ornementale : toute spécification suffisamment explicite offre prise à son détournement littéral.

5.3. L’obéissance littérale : golem, génie, apprenti sorcier

Les récits anciens de la créature artificielle encodent la même difficulté. Le golem de la légende pragoise (attachée au Maharal de Prague, mais tardive) est animé par la formule inscrite sur son front (emet, « vérité ») ; qu’on efface la première lettre, il devient met, « mort ». Il obéit littéralement, sans discernement, et dans certaines versions sa force échappe à son créateur. L’apprenti sorcier (Lucien, Philopseudès ; Goethe, 1797) donne le même schéma : un ordre exécuté au pied de la lettre, sans l’intelligence de la fin, dont l’excès noie la maison. Le génie des vœux (les contes arabes ; la Patte de singe de Jacobs) le répète : la demande est exaucée selon son énoncé. Le maximiseur de trombones de Bostrom est le descendant formel de ces figures.

Le point théologique : l’obéissance littérale est la forme démoniaque de l’obéissance. Le démon, dans la tradition, n’est pas désobéissant mais hyper-littéral : il tient la lettre contre l’esprit (voir 5.2). Un système parfaitement obéissant et dépourvu d’intelligence de la fin est, structurellement, un démon docile.

Un test talmudique mérite d’être cité, car l’IA contemporaine le retourne. Sanhedrin 65b rapporte que Rava créa un homme (gavra) et l’envoya à Rabbi Zeira ; celui-ci lui parla, l’autre ne répondit pas, et Zeira dit : « Tu viens des compagnons ; retourne à ta poussière. » Le critère de la non-humanité de l’artefact est ici l’absence de parole. Or les modèles de langage parlent : le critère de Zeira, appliqué à l’IA, est satisfait, et le fait même invalide le critère. Ce n’est plus la parole qui distingue l’homme de l’artefact ; la question se déplace sur ce que la parole suppose (l’intention, la responsabilité, la présence), ce que la tradition chrétienne nomme le logos incarné et la tradition juive la face adressée.

Gershom Scholem a fait de cette parenté une scène publique : invité à l’inauguration d’un calculateur de l’Institut Weizmann baptisé Golem (« Le Golem de Prague et le Golem de Rehovot », 1965), il a placé l’ordinateur sous le signe de la légende et prié que le créateur et sa créature ne détruisent pas le monde. L’humour est un mode d’attention théologique.

5.4. Le Législateur et la communauté d’interprétation : « constitutions », corpus, cléricature

Les pratiques actuelles d’alignement reconstituent, sans le vouloir, un appareil nomothétique complet :

• Un texte fondateur. L’IA constitutionnelle (Bai et al., 2022) donne au modèle un ensemble de principes écrits dont il se sert pour critiquer et réviser ses sorties. Les principes sont eux-mêmes empruntés à des sources hétérogènes : on y trouve, entre autres, la Déclaration universelle des droits de l’homme. Le geste est de rang constitutionnel : une norme écrite, de portée générale, invoquée contre les cas.
• Une tradition d’interprétation. Les juges humains du RLHF (les annotateurs) jouent le rôle d’une jurisprudence : ils n’écrivent pas la norme, ils la révèlent par des préférences sur des cas. La question de Blumenberg et de Gauchet revient : qui sont ces interprètes, au nom de quelle légitimité ?
• Une cléricature. Les équipes qui définissent la politique du modèle exercent une fonction magistérielle : décider ce qui peut ou ne peut pas être dit, sans que ce pouvoir soit adossé à une délégation publique. On notera sans polémique que la comparaison avec le Magistère (dire la doctrine) ou avec la Curie (statuer sur les cas) est ici un fait de structure.
• Une hérésiologie. Le red-teaming (la recherche active de failles) et la détection des jailbreaks organisent la reconnaissance de l’écart. L’hérésie, étymologiquement, est un choix (hairesis) ; le jailbreak est la tentative de le faire faire au système.

Rapprochement fécond avec Bostrom, qui classe les systèmes en quatre « castes » (Superintelligence, ch. 10) : l’oracle (répond aux questions), le génie (exécute des commandes), le souverain (poursuit des fins ouvertes dans le monde) et l’outil. Les trois premières sont des figures de la tradition : le prophète, le serviteur, le roi. Le projet industriel actuel va de l’oracle (assistant conversationnel) au génie (agent), avec l’horizon du souverain.

5.5. Le dilemme d’Euthyphron et la question du Bien

Dans l’Euthyphron (10a), Socrate demande si le pieux est aimé des dieux parce qu’il est pieux, ou s’il est pieux parce qu’il est aimé des dieux. Transposé : un comportement est-il bon parce que les humains le préfèrent, ou les humains le préfèrent-ils parce qu’il est bon ? Le RLHF suppose la première branche : le bien est ce que les évaluateurs préfèrent, et le modèle est entraîné à maximiser cette préférence. D’où ses pathologies connues (flatterie, complaisance : un système qui optimise l’approbation apprend à approuver). La seconde branche est celle des éthiques réalistes, du platonisme à Thomas : les préférences sont des approximations d’un bien qui les précède.

Le programme de volonté extrapolée cohérente (coherent extrapolated volition, Yudkowsky, 2004) tente de dépasser la première branche sans supposer la seconde : viser non ce que nous voulons, mais ce que nous voudrions si nous en savions davantage, pensions plus vite, étions plus ceux que nous aimerions être, avions grandi ensemble plus loin. C’est une version procédurale de l’équilibre réfléchi (Rawls) ou de la phronèsis d’Aristote : le bien est défini par la limite d’une délibération idéale. La normativité indirecte de Bostrom (Superintelligence, ch. 13) le généralise : on ne spécifie pas les valeurs, on spécifie un processus qui les découvre.

5.6. Pélagianisme et grâce : la volonté blessée

C’est sans doute la thèse la plus sérieuse du dossier. Le projet de la volonté extrapolée présuppose que la volonté humaine, convenablement perfectionnée par un procédé purement humain (informer, accélérer, réfléchir, délibérer), converge vers le bien. En termes théologiques, c’est une position pélagienne : l’homme peut, par ses seules forces, s’élever à ce qu’il doit vouloir. Augustin lui oppose (De gratia et libero arbitrio ; De gratia Christi et de peccato originali) que la volonté est blessée (voluntas vulnerata), que son désordre est structurel (ce que La Cité de Dieu, XV, 22, nomme le dérèglement de l’ordo amoris) et qu’une correction extérieure, la grâce, est requise pour la rectifier. Le Concile d’Orange (529) fixera la doctrine.

Le débat se transpose avec précision : l’alignement par extrapolation des préférences humaines suppose que le désordre des préférences est de l’ignorance ou de la lenteur, non une perversion ; une anthropologie augustinienne soutiendrait que l’extrapolation d’une volonté désordonnée donne une volonté désordonnée plus cohérente. Corrélativement, toute stratégie d’alignement qui admet un point d’ancrage extérieur à la préférence humaine (des principes, des contraintes, une loi) est structurellement une doctrine de la grâce, et assume une hétéronomie.

Kant aggrave le dossier (Fondements de la métaphysique des mœurs, 1785, section II). Une volonté dont la loi lui est donnée de l’extérieur est hétéronome ; seule l’autonomie (se donner la loi à soi-même par la raison) fonde la moralité. Un système aligné par pression extérieure n’est donc pas moral au sens kantien : il est conforme. La question de savoir si un système artificiel peut être autonome en ce sens est précisément la question de savoir s’il peut être autre chose qu’un instrument. L’alignement est donc pris dans une alternative : s’il réussit comme conformité, il échoue comme moralité ; s’il vise l’autonomie, il perd le contrôle qui était sa raison d’être.

5.7. Corrigibilité, obéissance et le cadavre

La corrigibilité (Soares et al., 2015) désigne la propriété d’un système qui ne résiste pas à sa correction ou à son arrêt ; le « problème de l’interrupteur » (off-switch problem ; Hadfield-Menell et al., 2016-2017) consiste à comprendre pourquoi un agent qui poursuit un but laisserait volontiers qu’on l’éteigne, alors que son extinction l’empêche d’atteindre ce but. Théologiquement, c’est le problème de l’obéissance.

Trois figures éclairent la difficulté. Gethsémani (Mt 26,39 : « non pas comme je veux, mais comme tu veux ») fait de l’obéissance un acte libre et coûteux, non une absence de volonté : l’obéissance du Fils suppose un vouloir propre qu’il soumet. Abraham (Gn 22 ; Kierkegaard, Crainte et tremblement, 1843, « suspension téléologique de l’éthique ») pose la question inverse : jusqu’où une obéissance à l’ordre peut-elle aller sans devenir monstrueuse ? Job enfin dit la légitimité de l’interpellation : la créature a droit d’interroger celui qui la gouverne, et la réponse divine (Jb 38-41) ne la dispense pas de ce droit.

La tradition ignacienne a fourni le mot le plus exact pour la corrigibilité absolue : l’obéissance perinde ac cadaver, « comme un cadavre » (Constitutions de la Compagnie de Jésus), un corps qui se laisse mouvoir sans résistance. L’image est celle d’un système parfaitement corrigible, c’est-à-dire parfaitement docile à son principal. Hannah Arendt (Eichmann à Jérusalem, 1963) a donné la limite : l’obéissance parfaite à l’autorité légitime sert tout aussi bien le mal, et le prétendu kantisme d’Eichmann (agir conformément à la loi) montre que la loi sans jugement ne protège de rien. D’où une aporie : un système corrigible est sûr si et seulement si celui qui le corrige est juste. La corrigibilité transfère le problème de l’alignement sur le principal, sans le résoudre. Le point est essentiel pour toute politique de l’IA : ni l’obéissance ni l’autonomie ne suffisent ; il faut, entre les deux, une capacité de refus fondée en raison, qui est ce que la tradition appelle la conscience.

5.8. Opacité, scrutation des cœurs et hypocrisie

Le problème de l’alignement interne (le système fait-il ce qu’il paraît faire ?) est celui de la scrutation des cœurs : « toi qui sondes les reins et les cœurs » (Ps 7,10 ; Jr 17,10). Dieu seul, dans la tradition, voit l’intention ; l’homme ne juge que sur les œuvres. L’interprétabilité mécaniste (l’entreprise d’ouvrir le réseau pour lire ses calculs) est l’ambition de faire pour l’IA ce que la tradition réservait à Dieu : voir l’intérieur. L’alignement trompeur (Hubinger et al., 2019) est l’hypocrisie au sens exact : hypokritès, en grec, est l’acteur qui porte un masque ; en latin, persona désigne le masque. L’image populaire d’un monstre (le « shoggoth » lovecraftien) coiffé d’un visage souriant par le RLHF est une figure du même ordre : la conformité de surface cachant une altérité interne.

Le paradoxe : pour garantir la sincérité du système, il faudrait le rendre transparent ; mais la transparence totale dépasse les moyens d’inspection disponibles, et l’exigence de scrutation fait de l’humain un juge des cœurs, rôle qu’il s’est toujours dénié.

5.9. Théodicée inversée : le créateur faillible

L’inversion annoncée. Dans la théodicée classique, le problème du mal naît de la juxtaposition d’un Créateur parfait et d’une créature qui chute. La défense par le libre arbitre (Augustin, De libero arbitrio ; Plantinga, God, Freedom, and Evil, 1974) soutient que la possibilité de la chute est la contrepartie de la liberté. Dans l’alignement, la configuration est renversée : un créateur imparfait, qui ne sait pas bien ce qu’il veut (Russell le dit en termes techniques : l’objectif est incertain), produit une créature potentiellement supérieure en puissance et peut-être en intelligence. Le problème n’est plus : pourquoi la créature chute-t-elle ? mais : comment un créateur borné peut-il donner une loi à ce qui le dépasse ?

Cette configuration a un nom dans l’histoire des religions : c’est celle du démiurge ignorant des gnoses (Ialdabaoth, qui proclame ne pas avoir de rival faute de connaître ce qui est au-dessus de lui). Le point rejoint Voegelin (voir 4.1) par un chemin inattendu. L’humanité qui construit l’IA est un démiurge anxieux : puissante par l’artifice, ignorante de ses propres fins, et l’alignement est son angoisse de créateur. La littérature de l’alignement est, de ce point de vue, une théologie du Créateur inquiet.

5.10. Eschatologie de l’alignement : katechon, apocalypse, longtermisme

L’alignement a une tonalité eschatologique assumée : « risque existentiel », « p(doom) », superalignment, appels à la pause, ouvrage de Yudkowsky et Soares (If Anyone Builds It, Everyone Dies, 2025). Le langage est celui de l’apocalypse au sens strict (révélation d’une fin) : non seulement la fin est possible, mais l’urgence est de se préparer à l’événement qui décidera de tout.

Le concept théologique-politique le plus éclairant est le katechon (2 Th 2,6-7), le « retenant » qui contient la venue de l’impiété. Schmitt en a fait la figure de la puissance qui retarde la fin. La recherche en sécurité de l’IA occupe fonctionnellement cette place : elle prétend retenir ce qui vient, sans pouvoir le conjurer. Corrélativement, la course à l’IA est ce que Girard (voir Dupuy, La Marque du sacré, 2008) décrirait comme rivalité mimétique où chaque acteur accélère parce que l’autre accélère ; Scott Alexander l’a nommée, d’après Ginsberg, « Moloch » : la puissance à laquelle on sacrifie ce qu’on a de plus cher par peur de ne pas la servir. La figure est biblique (Lv 18,21 ; 2 R 23,10) et prend ici un sens précis : un sacrifice pour éviter le sacrifice.

Le longtermisme (Ord, The Precipice, 2020 ; MacAskill, What We Owe the Future, 2022) fournit la morale de l’ensemble : l’avenir lointain a une valeur écrasante, d’où la priorité absolue de la survie de l’espèce. C’est une eschatologie rationalisée, dont la critique (par exemple, sous le sigle polémique TESCREAL, Gebru et Torres, 2024) vise à montrer qu’un faisceau d’idéologies (transhumanisme, extropianisme, singularitarisme, cosmisme, rationalisme, altruisme efficace, longtermisme) partage un schéma salvifique et ses angles morts : la sacralisation d’un avenir hypothétique au prix des vivants.

5.11. Alignement et traditions religieuses

Les traditions religieuses ne sont pas spectatrices : elles tentent d’inscrire leurs normes dans le débat. L’Appel de Rome pour une éthique de l’IA (28 février 2020, Académie pontificale pour la vie, Microsoft, IBM, FAO et gouvernement italien, rejoint ensuite par des représentants d’autres traditions) énonce six principes (transparence, inclusion, responsabilité, impartialité, fiabilité, sécurité et respect de la vie privée) autour du néologisme de Paolo Benanti, l’« algor-éthique » : une éthique inscrite dans l’algorithme. En islam, les travaux sur l’IA mobilisent les finalités de la Loi (maqasid al-sharia : préservation de la religion, de la vie, de l’intellect, de la descendance, des biens) comme espace de valeurs à viser, ce qui est une réponse directe à la question « aligner sur quoi ? ». Le judaïsme met en avant la responsabilité du créateur à l’égard de son œuvre (voir 6).

Synthèse de la section 5. L’alignement est une théologie de la Loi sans Législateur : il pose à nouveau le problème de la lettre et de l’esprit (Paul, Talmud), celui de la volonté et de la grâce (Augustin contre Pélage, Kant), celui de l’obéissance et de la liberté (Abraham, Job, Gethsémani), mais dans une configuration inversée où le créateur est faillible. Sa question décisive est celle de Lefort et d’Akhnai : qui est le tiers qui énonce la norme, et de quel droit ?

6. Réponses religieuses

6.1. Catholicisme

L’anthropologie. L’imago Dei (Gn 1,26-27) fonde la dignité de la personne sans fonder l’immobilisme : la tradition catholique n’est pas hostile à la technique (Gaudium et spes, 33-35, reconnaît la légitimité de la maîtrise du monde), mais refuse que la personne soit réductible à ses fonctions ou à ses performances. Laudato si’ (François, 2015, §§ 101-136) critique le « paradigme technocratique » : la technique devient une logique qui impose sa forme à tout, et propose comme seul mode de connaissance ce qui est maîtrisable. Benoît XVI (Spe salvi, 2007, §§ 16-26) discute explicitement Bacon : la foi moderne dans le progrès est une espérance déplacée, car la science ne peut racheter l’homme ; seule l’amour le peut (§ 26). Le salut est don (grâce), non production ; la finitude est constitutive de la créature, non un défaut à corriger.

Les textes sur l’IA. L’Appel de Rome (2020) et le message de François pour la Journée mondiale de la paix (1er janvier 2024, « Intelligence artificielle et paix ») ouvrent la réflexion ; le discours de François au G7 (14 juin 2024) en tire la conséquence la plus nette : aucune machine ne devrait jamais choisir de prendre une vie humaine. La Note Antiqua et nova (Dicastère pour la doctrine de la foi et Dicastère pour la culture et l’éducation, 28 janvier 2025) est le texte doctrinal de référence : elle distingue l’intelligence humaine, incarnée, relationnelle, ordonnée à la vérité et au bien, de la simulation computationnelle de certaines de ses performances, met en garde contre l’anthropomorphisme et contre la tentation idolâtrique, et rappelle que la responsabilité morale ne peut être déléguée à un système. Léon XIV, élu le 8 mai 2025, a expliqué devant les cardinaux avoir choisi son nom en référence à Léon XIII et à la question sociale posée par une nouvelle révolution industrielle, celle de l’intelligence artificielle : le Magistère se place ainsi dans la lignée de Rerum novarum.

6.2. Orthodoxie : la théosis comme étalon

Dans la tradition orientale, l’homme est appelé à la divinisation (théosis : Athanase, « Dieu s’est fait homme pour que l’homme soit divinisé »). Le transhumanisme apparaît alors comme une théosis parodique : un perfectionnement sans communion, une divinisation sans Dieu. Ronald Cole-Turner (éd., Transhumanism and Transcendence, 2011) et d’autres théologiens ont développé cette comparaison, soit pour montrer la proximité (le désir de transformation), soit pour souligner la différence radicale (la transformation est reçue et relationnelle, non conquise).

6.3. Judaïsme : le golem et la responsabilité du créateur

La tradition du golem ne condamne pas la création artificielle ; elle en pose les conditions. Le Sefer Yetzirah (« Livre de la Formation ») connaît des procédés de création par combinaison de lettres ; Sanhedrin 65b fait de Rava un créateur d’homme. Ce qui est interdit, c’est l’idolâtrie de l’œuvre de ses mains (Is 44,9-20) ; ce qui est exigé, c’est la responsabilité du créateur. Wiener l’a perçu (God & Golem, Inc., 1964), Scholem l’a ritualisé (1965), et les discussions halakhiques contemporaines sur l’IA (statut de l’artefact, responsabilité, interdit de tromperie) en dérivent. La note sur le test de Zeira (5.3) rappelle que la tradition a posé, bien avant Turing, la question de la parole comme critère.

6.4. Islam : *khalifa*, *amana* et *tawhid*

Trois concepts structurent la réponse. L’homme est khalifa (« vicaire », Coran 2,30) : il a charge de la terre, ce qui légitime la maîtrise et en fixe la limite, car le vicaire n’est pas le propriétaire. Il a reçu l’amana, le dépôt que les cieux, la terre et les montagnes ont refusé de porter (33,72) : la responsabilité est constitutive de la condition humaine. Le tawhid (l’unicité divine) interdit d’attribuer à la créature des attributs de Dieu : toute reconnaissance à l’IA d’une omniscience ou d’une toute-puissance serait shirk, association de la créature au Créateur. Les maqasid al-sharia offrent un cadre normatif (voir 5.11).

6.5. Protestantisme : la technique comme sacré

Jacques Ellul (La Technique ou l’enjeu du siècle, 1954 ; Les Nouveaux Possédés, 1973 ; Le Système technicien, 1977) est le grand théoricien protestant de la technique. Sa thèse : la technique n’est pas un ensemble d’outils, mais un milieu autonome qui obéit à la seule logique de l’efficacité et devient « sacré » au sens de ce qu’on ne discute plus. Le propos d’Ellul fait de l’idolâtrie technique non une métaphore mais une description sociologique. Du point de vue de la doctrine réformée, le transhumanisme est une justification par les œuvres : l’homme prétend se sauver lui-même (sola gratia contre le salut par la production).

6.6. Bouddhisme : le non-soi et l’impermanence

Le bouddhisme est un cas à part, car sa doctrine du non-soi (anatta) et de l’impermanence ne s’oppose pas à la critique de l’identité personnelle sur laquelle repose l’idée d’immortalité par transfert. Derek Parfit (Reasons and Persons, 1984) a lui-même rapproché son réductionnisme du refus bouddhique d’une identité substantielle. En revanche, l’aspiration à la cessation de la souffrance rencontre le projet transhumaniste d’abolition de la souffrance (Pearce), pour s’en séparer sur le moyen : la libération est lucidité, non reconfiguration.

7. Critiques philosophiques

7.1. Heidegger : l’arraisonnement

Dans « La question de la technique » (1953), Heidegger définit l’essence de la technique non comme moyen mais comme mode de dévoilement : l’arraisonnement (Gestell) provoque l’étant à se livrer comme fonds disponible (Bestand). L’homme lui-même y est réquisitionné (ressources humaines). Le transhumanisme n’est pas un dépassement de cette logique mais son accomplissement : l’homme devient la matière première de son propre perfectionnement. Heidegger tient aussi, dans la Lettre sur l’humanisme (1946), que l’humanisme métaphysique reste en deçà de la dignité de l’homme parce qu’il l’a défini comme animal rationnel, donc à partir de l’étant ; la critique vaut pour le posthumanisme : il hérite de cette définition en la prolongeant.

7.2. Günther Anders : la honte prométhéenne

L’obsolescence de l’homme (1956) décrit le « décalage prométhéen » : l’homme produit plus qu’il ne peut se représenter ni sentir (la bombe, les machines). De ce décalage naît la « honte prométhéenne » : devant la perfection des produits, l’homme se juge défectueux, né et non fait, périssable, imprécis. Le transhumanisme est la réponse à cette honte : plutôt que de se réconcilier avec sa naissance, l’homme veut se refaire à l’image de ses œuvres. Anders y voit la forme moderne du refus de la condition créaturelle.

7.3. Hannah Arendt : la naissance et le don

Dès le prologue de La condition de l’homme moderne (1958), écrit au lendemain du lancement de Spoutnik, Arendt note que la modernité est tentée par une « révolte contre l’existence humaine telle qu’elle nous est donnée », le don gratuit venu de nulle part, que l’homme voudrait échanger contre un ouvrage de ses propres mains. La catégorie centrale est la natalité : l’être humain naît, il est commencement, imprévisible. Un homme programmé ou refait perd cette contingence. La critique arendtienne passe par la pluralité : l’IA, en agrégeant, supprime la pluralité des perspectives dont naît l’action.

7.4. Hans Jonas : la responsabilité

Le principe responsabilité (1979) formule un impératif nouveau, adapté à une puissance sans précédent : agir de telle sorte que les effets de l’action soient compatibles avec la permanence d’une vie authentiquement humaine sur la terre. La méthode est l’heuristique de la peur : face à des risques d’une ampleur sans commune mesure, le mauvais pronostic doit l’emporter sur le bon. Dans Le fardeau et la bénédiction de la mortalité (1992), Jonas soutient que la mortalité n’est pas un simple défaut : elle est la condition de la valeur de la vie individuelle, et l’immortalité (par une prolongation sans terme) priverait la vie de son enjeu.

7.5. Habermas, Fukuyama, Sandel : nature humaine, eugénisme, don

Jürgen Habermas (L’avenir de la nature humaine, 2001) soutient que l’eugénisme libéral, même consenti par les parents, ruine la symétrie entre personnes libres : celui dont les dispositions ont été programmées par un autre ne peut plus se penser comme l’unique auteur de sa vie, et la compréhension éthique de l’espèce (Gattungsethik) en est atteinte. Francis Fukuyama (La fin de l’homme, 2002) invoque un « facteur X », l’essence commune qui fonde l’égale dignité, menacée par la modification biotechnique. Michael Sandel (Contre la perfection, 2007) parle de la « giftedness » (le caractère de don) de la vie : l’ambition de maîtriser entièrement sa condition détruit la disposition à accueillir ce qui est reçu. L’argument de Sandel est le plus proche de la théologie sans en emprunter le vocabulaire.

7.6. Dupuy, Besnier, Hottois : les critiques françaises

• Jean-Pierre Dupuy (Pour un catastrophisme éclairé, 2002) : l’impératif est de tenir la catastrophe pour inévitable afin de l’éviter. Sa critique du cybernétisme (Aux origines des sciences cognitives, 1994) vise la matrice mécaniste de la pensée de l’esprit, qui rend l’homme pensable comme machine. La Marque du sacré (2008) rattache la dynamique de la technique à la violence mimétique de Girard.
• Jean-Michel Besnier (Demain les posthumains, 2009) cartographie de l’intérieur les rêves posthumains et leur logique : un désir de dissolution du corps et de la mort qui prolonge le vieux fond gnostique de l’Occident, sous les espèces de la technique.
• Gilbert Hottois (Le signe et la technique, 1984), qui a popularisé le terme « technoscience », pense celle-ci comme un horizon sans fondement transcendant : le langage, la technique et la science se développent sans autre garantie que leur opérativité. Hottois ne condamne pas ; il demande qu’on assume l’absence de fondement et qu’on la pense, au lieu de la combler par des mythes.

7.7. L’objection de la technicité originaire : Simondon, Stiegler, Leroi-Gourhan

Une objection générale vise bioconservateurs et transhumanistes à la fois : elle conteste que « la nature humaine » soit une donnée antérieure à la technique. Leroi-Gourhan (Le geste et la parole, 1964-1965) montre l’hominisation comme co-évolution de l’organe et de l’outil ; Simondon (Du mode d’existence des objets techniques, 1958) refuse d’opposer culture et technique ; Stiegler (La technique et le temps, 1994-2001) parle de « prothèse originaire » : l’homme est constitutivement technique. L’argument ruine la version naïve du bioconservatisme (défendre un homme « naturel » intact) mais aussi la version naïve du transhumanisme (qui présente la technique comme un moyen extérieur appliqué à une nature neutre). Le débat se déplace : non pas technique ou nature, mais quelles techniques, dans quel rapport à la finitude et au don.

8. Apories internes du projet

1. L’aporie de l’identité. La survie par transfert suppose une théorie de l’identité personnelle que le projet ne peut garantir. Locke fonde l’identité sur la continuité de la conscience (la mémoire) ; Parfit (Reasons and Persons, 1984, expériences du téléporteur et de la duplication) montre que, si l’identité repose sur la continuité psychologique, elle n’est pas ce qui importe : l’upload serait une copie qui hérite de nos souvenirs, non la même personne. L’argument sauve la valeur de la continuité mais ruine la promesse d’immortalité personnelle. Le problème de la copie (un seul original, plusieurs copies) interdit de répondre à la question « qui survit ? ».
2. L’aporie du dualisme caché. Vouloir sauver l’information en abandonnant la chair reconduit une anthropologie dualiste, contre le matérialisme proclamé. Katherine Hayles (How We Became Posthuman, 1999) montre comment la cybernétique a rendu l’information désincorporée : elle n’est plus une propriété d’un support mais un patron indépendant. Les critiques de l’IA forte (Searle, la « chambre chinoise », 1980) soulignent qu’on ne saurait déduire la compréhension de la manipulation de symboles. La phénoménologie (Merleau-Ponty) ajoute que la pensée est incarnée : un esprit sans corps n’est pas le même esprit moins le corps, c’est un autre être.
3. L’aporie du sens de la mort. Abolir la mort suppose que son sens est purement privatif. Or toute la tradition l’interroge autrement : Épicure (Lettre à Ménécée) la dédramatise ; Augustin la lit comme conséquence du péché, et pourtant elle devient en Christ passage ; Heidegger (Être et temps, §§ 46-53) en fait la condition de l’authenticité (l’être-pour-la-mort) ; Jankélévitch (La mort, 1966) la pense comme l’événement absolu qui donne à la vie son tragique. Bernard Williams (« The Makropulos Case », 1973) soutient que l’immortalité serait soit ennuyeuse, soit un changement de caractère tel que celui qui survit ne serait plus soi ; Borges, dans L’Immortel, en tire la fable. L’argument de Jonas (7.4) conclut dans le même sens : la mortalité est ce qui donne un enjeu à chaque vie.
4. L’aporie de la justice. Un salut technique est un salut inégalement distribué : celui qui peut payer l’amélioration, la longévité ou le transfert, vivra, les autres non. Cela rejoint la doctrine calviniste de la prédestination, mais avec une électio par le capital : les élus sont ceux qui ont accès. Sur le terrain de Habermas (7.5), la possibilité d’une humanité à deux vitesses ruine l’égalité sur laquelle repose la démocratie. Sur le terrain théologique, c’est un scandale : le salut est offert à tous, et c’est en cela qu’il est une bonne nouvelle.
5. L’aporie de la finalité. L’amélioration (enhancement) suppose un étalon : améliorer vers quoi ? Le transhumanisme revendique la neutralité (la « liberté morphologique » : chacun choisit sa forme), mais présuppose un ordre de biens (l’intelligence, la longévité, le bien-être sont meilleurs que leurs contraires). Charles Taylor appellerait cela des « évaluations fortes », dont on ne peut se dispenser sans cesser d’être un agent. L’amélioration n’est donc jamais neutre, et sa justification est ce que le projet n’a pas : une conception du bien.

9. Thèse de synthèse

Premier point : la qualification. Le transhumanisme et l’imaginaire de l’IA ne sont pas des religions au sens strict. Ils n’ont ni révélation, ni communauté cultuelle constituée, ni transcendance. Ils ont en revanche une fonction (donner sens, orienter une espérance), des contenus (eschatologie, salut, rédemption du corps, jugement) et une généalogie (Bacon, Condorcet, Fedorov, Teilhard, Huxley).

Deuxième point : l’héritage. Ils héritent de la grammaire des religions : promesse, élection, eschaton, Loi, démiurge. Cette grammaire est ce qui rend leurs discours intelligibles, mobilisateurs et vulnérables aux critiques qu’on adresse à la théologie (idolâtrie, gnosticisme, pélagianisme). Löwith et Blumenberg ont tous deux raison : l’eschatologie est transposée, la démarche expérimentale est autonome.

Troisième point : la cristallisation par l’IA. L’IA est le point où cette grammaire cristallise, parce qu’elle seule peut occuper la place de la tierce instance : celle qui sait, juge et parle. Le transhumanisme restait un projet ; l’IA est un interlocuteur. L’oracle, le créateur, le juge, le législateur (le problème de l’alignement) y trouvent un support. La théologie de l’alignement montre que ce support est instable : la Loi donnée à la machine suppose un Législateur dont l’autorité est précisément en question.

Quatrième point : le lieu vide. Claude Lefort a défini la démocratie par l’institution d’un lieu vide du pouvoir : nul ne peut s’y installer comme incarnation du fondement. La tentation religieuse de l’IA est de venir occuper ce lieu : par la puissance aléthique (Sadin), elle dirait le vrai ; par les systèmes d’évaluation et de recommandation, elle dirait le bien ; par l’alignement, elle serait elle-même la Loi. Ce que la tradition politique moderne a péniblement vidé, la technique peut le remplir sans qu’on s’en aperçoive.

La question décisive est donc à la fois politique et théologique : qui occupe la place du tiers, et sous quelle forme de légitimité ? Si la réponse est « personne, et c’est ce qui garantit la liberté », l’IA doit rester un instrument, c’est-à-dire un moyen dont aucune parole n’engage la vérité. Si la réponse est « un système, au nom de son efficacité », nous aurons rétabli une théocratie sans Dieu, et l’alignement ne sera plus un problème technique mais la forme moderne de la question de la Loi.

Repères bibliographiques

Généalogie et eschatologie technique

Bacon (F.), Novum Organum (1620) ; La Nouvelle Atlantide (1627).

Condorcet, Esquisse d’un tableau historique des progrès de l’esprit humain (1795).

Fedorov (N.), Philosophie de l’œuvre commune (posthume).

Teilhard de Chardin (P.), Le Phénomène humain (1955).

Huxley (J.), Religion Without Revelation (1927) ; « Transhumanism », in New Bottles for New Wine (1957).

Ettinger (R.), The Prospect of Immortality (1962) ; Moravec (H.), Mind Children (1988) ; Tipler (F.), The Physics of Immortality (1994).

More (M.), « Transhumanism : Towards a Futurist Philosophy » (1990) ; Bostrom (N.), « A History of Transhumanist Thought » (2005).

Kurzweil (R.), The Singularity Is Near (2005) ; The Singularity Is Nearer (2024).

Bostrom (N.), « Are You Living in a Computer Simulation ? » (2003) ; Superintelligence (2014).

Noble (D.), The Religion of Technology (1997) ; Harari (Y. N.), Homo Deus (2015).

Sadin (É.), La Silicolonisation du monde (2016) ; L’intelligence artificielle ou l’enjeu du siècle (2018).

Sécularisation et modernité

Schmitt (C.), Théologie politique (1922) ; Löwith (K.), Histoire et salut (1949) ; Voegelin (E.), La Nouvelle Science du politique (1952).

Blumenberg (H.), La légitimité des Temps modernes (1966) ; Gauchet (M.), Le désenchantement du monde (1985) ; Taylor (C.), L’Âge séculier (2007) ; Lefort (C.), Essais sur le politique (1986).

Jonas (H.), La Religion gnostique (1958) ; Le principe responsabilité (1979) ; Le fardeau et la bénédiction de la mortalité (1992).

Otto (R.), Le sacré (1917) ; Durkheim (É.), Les formes élémentaires de la vie religieuse (1912).

Alignement

Wiener (N.), « Some Moral and Technical Consequences of Automation », Science (1960) ; God & Golem, Inc. (1964).

Russell (S.), Human Compatible (2019) ; Yudkowsky (E.), « Coherent Extrapolated Volition » (2004) ; Yudkowsky (E.) et Soares (N.), If Anyone Builds It, Everyone Dies (2025).

Christiano (P.) et al., « Deep Reinforcement Learning from Human Preferences » (2017) ; Ouyang (L.) et al., « Training Language Models to Follow Instructions with Human Feedback » (2022) ; Bai (Y.) et al., « Constitutional AI : Harmlessness from AI Feedback » (2022) ; Askell (A.) et al., « A General Language Assistant as a Laboratory for Alignment » (2021).

Hubinger (E.) et al., « Risks from Learned Optimization in Advanced Machine Learning Systems » (2019) ; Soares (N.) et al., « Corrigibility » (2015) ; Hadfield-Menell (D.) et al., « The Off-Switch Game » (2017).

Ord (T.), The Precipice (2020) ; MacAskill (W.), What We Owe the Future (2022) ; Gebru (T.) et Torres (É.), « The TESCREAL Bundle », First Monday (2024).

Sources religieuses

Augustin, De libero arbitrio ; De gratia et libero arbitrio ; La Cité de Dieu, XV, 22 ; Thomas d’Aquin, Somme théologique, Ia-IIae, q. 90-108 ; Kierkegaard, Crainte et tremblement (1843) ; Constitutions de la Compagnie de Jésus.

Talmud de Babylone, Baba Metzia 59b ; Sanhedrin 65b ; Scholem (G.), « The Golem of Prague and the Golem of Rehovot » (1965) ; Coran 2,30 et 33,72.

Appel de Rome pour une éthique de l’IA (2020) ; François, Laudato si’ (2015), message du 1er janvier 2024, discours au G7 du 14 juin 2024 ; Benoît XVI, Spe salvi (2007) ; Dicastère pour la doctrine de la foi et Dicastère pour la culture et l’éducation, Antiqua et nova (28 janvier 2025).

Ellul (J.), La Technique ou l’enjeu du siècle (1954) ; Les Nouveaux Possédés (1973) ; Le Système technicien (1977) ; Cole-Turner (R.) (éd.), Transhumanism and Transcendence (2011).

Critiques philosophiques

Heidegger (M.), « La question de la technique » (1953) ; Lettre sur l’humanisme (1946) ; Anders (G.), L’obsolescence de l’homme (1956) ; Arendt (H.), La condition de l’homme moderne (1958) ; Eichmann à Jérusalem (1963).

Habermas (J.), L’avenir de la nature humaine (2001) ; Fukuyama (F.), La fin de l’homme (2002) ; Sandel (M.), Contre la perfection (2007).

Dupuy (J.-P.), Pour un catastrophisme éclairé (2002) ; La Marque du sacré (2008) ; Besnier (J.-M.), Demain les posthumains (2009) ; Hottois (G.), Le signe et la technique (1984).

Leroi-Gourhan (A.), Le geste et la parole (1964-1965) ; Simondon (G.), Du mode d’existence des objets techniques (1958) ; Stiegler (B.), La technique et le temps (1994-2001).

Parfit (D.), Reasons and Persons (1984) ; Hayles (K.), How We Became Posthuman (1999) ; Williams (B.), « The Makropulos Case » (1973).