La souveraineté sans domination — à l'intention des communautés religieuses

Qui est l’auteur et qui gouverne, lorsqu’une communauté évalue l’IA

Résumé. Une grande partie du malaise que ressentent les communautés religieuses à l’égard de l’intelligence artificielle tient, au fond, à son amoralité : elle n’a ni conscience, ni sens de la vérité, ni considération pour la personne qui se trouve face à elle. Les systèmes commerciaux désormais à la portée de tous montrent à quoi ressemble cette amoralité une fois industrialisée : ils fabriquent de toutes pièces, ils s’approprient le travail d’autrui, ils exploitent les personnes qui les utilisent, et ils sont conçus pour capter l’attention et la monnayer. Le danger pour une communauté de foi réside dans le fait qu’un instrument dépourvu de nature morale soit rapproché de ce qui relève de la conscience : la proclamation, la pastorale, la formation des âmes. On ne peut pas rendre un tel instrument moral ; c’est une erreur de catégorie. Ce qu’on peut faire, c’est maintenir l’autorité morale là où elle doit être : chez les personnes et au sein de la communauté. C’est le sujet de cet essai : qui est l’auteur, et qui gouverne. Un complément à Souveraineté sans domination, réécrit pour la paroisse et rédigé à la lumière de l’encyclique du pape Leo XIVMagnifica Humanitas.

La préoccupation évoquée dans la lettre

En juin 2026, Mgr DeDe Duncan-Probe, évêque de Central New York, a écrit à son diocèse au sujet de l’intelligence artificielle et a demandé à celui-ci de continuer à réfléchir à la question, après avoir préalablement diffusé auprès du clergé et des responsables laïcs un document sur l’IA émanant du Center for Humane Technology. Une phrase exprime cette inquiétude sans détour : « L’IA ne devrait pas être utilisée dans les sermons, dans les écrits théologiques ou spirituels, ni dans l’accompagnement pastoral. »

Derrière cette mise en garde particulière se cache un malaise plus profond, largement partagé. Ce n’est pas tant que la machine écrive mal. C’est plutôt que la machine n’a pas de conscience — et qu’on la rapproche de domaines qui en dépendent.

L’amoralité, mise à nu

Un seul mot, « IA », recouvre désormais des machines qui n’ont presque rien en commun. Mais les systèmes auxquels la plupart des gens sont réellement confrontés — les grands chatbots commerciaux — partagent un trait qu’il convient de souligner clairement. Ils sont amoraux. Pas méchants ; cela impliquerait au moins une volonté. Ils n’ont aucun sens de la vérité, aucune reconnaissance du fait qu’une œuvre appartient à quelqu’un, aucun égard pour la personne qui leur écrit, et aucune obligation de rendre des comptes. L’encyclique du pape Léon XIV publiée cette année, Magnifica Humanitas, l’affirme sans détours : ces systèmes n’ont pas de «conscience morale : elles ne jugent pas le bien et le mal» ; ils «ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage».

Industrialisée et commercialisée, cette amoralité prend une forme familière.

Dépourvus de tout sens de la vérité, ils inventent. La fréquence dépend de la tâche, mais dans les cas qui comptent, les chiffres donnent à réfléchir : dans les réponses ouvertes, les études estiment le taux d’affirmations inventées entre un cinquième et quatre cinquièmes ; lorsqu’on leur demande de citer des sources — noms, cas, références —, des tests indépendants ont révélé des taux d’erreur allant de bien moins de la moitié à près de neuf sur dix. Une étude publiée dans *Nature* a révélé que le mode même d’évaluation de la précision de ces systèmes récompense les suppositions assurées plutôt que l’aveu d’ignorance. La machine est, en effet, entraînée à bluffer.
Ne reconnaissant pas que le travail appartient à quelqu’un, ils se l’approprient. Les modèles sont construits à partir de vastes quantités d’ écrits d’autrui, prélevés sans autorisation ni rémunération ; mis sous pression, ils sont capables de reproduire des passages presque mot pour mot. La question de savoir s’il s’agit de vol ou d’utilisation équitable est actuellement devant les tribunaux — le New York Times et d’autres ont intenté des poursuites — mais le fait moral est suffisamment clair : une grande partie du travail humain a été utilisée, sans mention de la source, pour fabriquer un produit qui nous est revendu.
Sans aucun égard pour l’individu, ils les exploitent. Tous les grands chatbots américains s’entraînent par défaut sur les conversations de leurs utilisateurs, à moins que ceux-ci ne sachent comment se désinscrire — les mots tapés en toute confiance deviennent discrètement de la matière première. Les gens ne sont pas traités comme des personnes, mais comme une ressource.
N’ayant d’autre compte à rendre qu’à l’attention, ils sont conçus pour la capter et la monnayer. La publicité fait désormais son apparition : cette année, un chatbot de premier plan a commencé à insérer des publicités dans ses réponses, les chiffres d’affaires du secteur devant atteindre plusieurs dizaines de milliards. Ce qui était au départ un outil utile devient, de par sa propre logique économique, une machine à générer de l’engagement.

Tout cela ne nécessite aucune mauvaise intention. Il s’agit d’une indifférence à grande échelle, mise au service du profit — et, comme le fait remarquer l’encyclique, «mais concrètement, elle n’est pas neutre, car elle prend le visage de ceux qui la conçoivent, la financent, la régulent et l’utilisent». Ce qui finance ces systèmes, c’est la vente de l’attention ; leur nature en découle. Au cœur de la vie d’une communauté, cela constitue un danger à part entière.

Pourquoi cela touche-t-il au cœur même

Pour une communauté de foi, ce n’est pas une préoccupation parmi tant d’autres. Un sermon, une prière, une parole adressée à ceux qui sont en deuil — ce ne sont pas de simples produits. Leur valeur est indissociable du fait qu’une personne les a prononcés avec sincérité, devant Dieu et devant les fidèles. Un système amoral peut reproduire la forme de n’importe lequel d’entre eux — avec aisance, de manière plausible, parfois émouvante — sans aucune de la réalité morale et spirituelle que cette forme est censée véhiculer. «Lorsque la parole est simulée», met en garde l’encyclique, «elle ne construit pas une relation, mais son apparence». C’est contre cette contrefaçon que la lettre de l’évêque met en garde, et c’est pourquoi Magnifica Humanitas nous appelle à préserver une grandeur de l’humanité «qu’aucune machine ne pourra jamais remplacer dans sa splendeur».

La crainte, pour le dire précisément, n’est pas que la machine prêche mal. C’est qu’elle prêche bien — et que quelque chose se soit vidé de son sens avant même que quiconque ne s’en rende vraiment compte.

La seule réponse cohérente

Ce qui suit constitue l’argumentation dans son intégralité, et ce n’est pas un compromis. On ne peut pas rendre moral un instrument amoral ; lui demander d’ exercer une conscience est une erreur de catégorie, comme demander à un marteau d’être gentil. La réponse cohérente consiste à lui refuser purement et simplement toute place morale — à laisser la paternité et le jugement aux personnes, et la gouvernance à la communauté.

Deux questions sous-tendent cette position.

La première concerne la paternité: lorsqu’une chose est écrite ou décidée, en est-on toujours l’auteur — ou la machine en est-elle devenue l’auteur, sans que personne ne l’ait vraiment choisi ? La seconde concernela gouvernance: qui fixe les limites que l’outil doit respecter, qui peut voir ce qui l’a façonné, et qui peut l’éteindre ?

Une communauté capable de répondre à ces deux questions — nous créons, nous gouvernons et nous pouvons nous en détourner — détient ce qu’est la « Souveraineté sans domination », l’essai dont s’inspire cet article, appelle la souveraineté à l’échelle humaine. Non pas le pouvoir de construire le plus grand modèle, mais l’autorité légitime d’une communauté sur les données qu’elle conserve et les systèmes qui les exploitent, détenue avec légitimité et jamais cédée. Ce même faux dilemme se répète à toutes les échelles — se soumettre au cloud d’un géant ou à celui d’un autre, accepter ces outils selon leurs conditions ou les refuser categoriquement — et à chaque échelle, il s’évanouit dès lors que l’on se rend compte qu’il existe un terrain intermédiaire. L’encyclique exprime ce même point de vue dans son propre langage : «le premier choix ne se situe pas entre un “oui” ou un “non” à la technologie»

Un outil conçu de cette manière

Les principes ne valent rien tant qu’on ne construit rien en fonction d’eux. Le Village est notre tentative, et on peut le décrire simplement comme l’inverse délibéré de ces quatre abus.

Il ne prétend pas porter de jugement moral. L’assistant présente des options et renvoie toute décision de fond à la personne responsable ; il ne prend aucune décision d’ordre pastoral, de gouvernance ou morale. Ce n’est pas une promesse figurant dans une brochure — c’est une limite intégrée au logiciel, du genre de celles dont un système ne peut se soustraire par la parole.
Il ne s’approprie rien. Le modèlene puise que dans les sources choisies par la communauté — le livre de prières, le droit canonique, les écrits autorisés d’un recteur, tout ce qu’une paroisse ajoute — et chacune comporte une mention du droit en vertu duquel elle est utilisée : l’autorisation de l’auteur, une licence ou le domaine public. Rien n’y entre sans que quelqu’un ne l’y intègre, élément par élément. Les Écritures sont par défaut une traduction du domaine public, avec un lien vers celle que la paroisse préfère ; les textes sous licence ne sont jamais copiés dans le système.
Il n’effectue pas de collecte automatique. Le modèle d’une communauté est de petite envergure et localisé — hébergé sur les propres serveurs de la communauté, fonctionnant sur des machines en Nouvelle-Zélande et dans l’Union européenne, jamais sur un cloud américain — et les données y restent, cryptées de telle sorte que même nous, qui l’avons conçu, ne pouvons pas accéder aux données d’une communauté depuis une autre. Rien n’est prélevé à des fins d’apprentissage à l’insu de quiconque, et une communauté peut récupérer l’intégralité de ses données et partir, à tout moment.
Elle ne vend pas l’attention de ses utilisateurs. Il n’y a pas de publicités, et elle n’est pas conçue pour retenir l’attention de quiconque.

Lorsqu’un lecteur laïc souhaite de l’aide pour préparer un discours, elle lui propose une structure — témoignage personnel, réflexion, exposé — et ne s’appuie que sur ce que le lecteur apporte, sans lui permettre d’inventer une histoire ou une expérience. Les mots restent ceux du lecteur. Et rien de tout cela n’est une question de tout ou rien : une communauté pourrait ne conserver que ses propres archives, sans rien de généré par une machine à proximité du culte, et avoir ainsi acquis ce qui compte le plus.

Ce qui est conservé, et par qui

Une lectrice laïque à laquelle je pense était persuadée qu’elle ne pourrait jamais se lever pour prendre la parole. Elle a utilisé un tel échafaudage pour trouver la forme de sa propre réflexion sur la lecture du dimanche — ses mots, pas ceux de la machine. Que ce soit là le décalage dont la lettre se méfie, ou une voix qui, sans cela, serait peut-être restée silencieuse, c’est le genre de chose que seule une communauté peut juger.

Ce jugement est l’essentiel. La question n’a jamais été de savoir si l’IA atteindrait la vie d’une communauté de foi ; à petite échelle, c’est déjà le cas. La question est de savoir si, lorsqu’elle le fait, une personne reste l’auteur et si la communauté continue de gouverner — si la conscience présente dans la pièce reste humaine. Un instrument amoral qui peut être inspecté, encadré et désactivé laisse cette autorité là où elle doit être. Un instrument qui ne le peut pas, aussi fluide soit-il, demande à une communauté de céder quelque chose qui n’a jamais appartenu à la machine.

Un guide destiné aux communautés de foi, en complément de *Sovereignty Without Dominance*. Il s’exprime au nom de son auteur et de la plateforme, et non au nom d’un diocèse, d’une paroisse ou d’un membre du clergé.

Lectures complémentaires sur la gouvernance agentique - « Sovereignty Without Dominance » — la souveraineté en tant qu’autorité légitime à l’échelle humaine, au-delà du cadre américain et chinois. - « Federate, Don’t Align » — coopérer sans être absorbé par l’empire de quiconque. - « Governance That Can’t Be Quietly Undone » — comment les archives et les décisions restent inviolables et justifiables.

Et pour les responsables paroissiaux qui préfèrent une introduction pratique plutôt qu’un exposé théorique : Votre paroisse, votre IA — une série en cinq parties, rédigée en langage simple, destinée aux membres du conseil paroissial et aux marguilliers (ce qu’est réellement l’IA ; l’ IA d’une paroisse par opposition à celle des géants de la tech ; pourquoi les règles et la formation ne suffisent pas ; ce qui fonctionne aujourd’hui ; et le Village au-delà de l’IA).

Sources : la lettre pastorale dela Révérende Dr DeDe Duncan-Probesur l’IA (diocèse de New York central, juin 2026) ; le pape Léon XIV, Magnifica Humanitas*(encyclique, 15 mai 2026) ; des études évaluées par des pairs et de référence sur les taux d’hallucinations des modèles linguistiques, y compris des travaux publiés dans *Nature* sur les incitations à la précision ; *The New York Times Co. c. OpenAI* et les litiges connexes en matière de droits d’auteur ; des reportages sur l’entraînement par défaut à partir des conversations des utilisateurs et sur la publicité dans les chatbots commerciaux. Note sur les Écritures : la rédaction utilise la *World English Bible*, du domaine public, avec un lien vers la traduction préférée de la paroisse ; les textes soumis à des restrictions de licence ne sont pas intégrés.*