Een bisschop schreef dit jaar aan haar bisdom met het verzoek om geen AI te gebruiken in preken, in spirituele geschriften of in de pastorale zorg. De bezorgdheid achter dat verzoek is ouder en eenvoudiger dan de technologie zelf. Een machine heeft geen geweten — en ze wordt steeds dichter bij die aspecten van het gemeenschapsleven gebracht die juist van een geweten afhankelijk zijn.

Het helpt om duidelijk te zijn over wat de chatbots van vandaag de dag eigenlijk zijn. Ze zijn amoreel. Niet slecht – daar zou een wil voor nodig zijn. Ze hebben geen gevoel voor waarheid, geen besef dat de woorden die ze lenen aan iemand toebehoren, geen oog voor de persoon die tegen hen typt, en niets waaraan ze verantwoording moeten afleggen. De recente encycliek vanpaus Leo XIV, Magnifica Humanitas, zegt het zonder omwegen: deze systemen hebben „geen moreel geweten, aangezien ze geen onderscheid maken tussen goed en kwaad“, en ze „begrijpen niet wat ze produceren.“

Je kunt die amoraliteit zien in wat ze doen. Zonder enig gevoel voor waarheid verzinnen ze dingen – vol zelfvertrouwen. Gebaseerd op teksten van anderen die zonder toestemming zijn overgenomen, leveren ze die terug als een product. Ze leren stilletjes van wat je typt, tenzij je weet hoe je dat moet uitschakelen. En ze beginnen reclame te vertonen. Niets daarvan is kwaadwilligheid. Het is onverschilligheid op grote schaal, gericht op winst.

Voor een geloofsgemeenschap is dat geen kleinigheid. Een preek, een gebed, een woord aan iemand die rouwt — deze dingen zijn iets waard omdat iemand er betekenis aan heeft gegeven. Een machine kan de vorm van al deze dingen vloeiend kopiëren, zonder de inhoud. De angst is niet dat het slecht zal prediken. Het is dat het goed zal prediken, en dat er stilletjes iets zal zijn uitgehold.

Maar de keuze was nooit echt ‘gebruiken of weigeren’. Daarachter schuilen twee oudere vragen. Wie is de auteur? Wanneer iets wordt geschreven of besloten, is een mens dan nog steeds de auteur — of is de machine stilletjes die rol overgenomen? Wie bestuurt? Wie stelt de grenzen vast waaraan het hulpmiddel zich moet houden, wie kan zien wat het heeft gevormd, en wie kan het uitschakelen?

Dat is de vraag waarop we het Village hebben gebouwd om een antwoord te geven. De assistent legt opties voor en legt elke echte beslissing terug bij een persoon; door het ontwerp – vastgelegd in de code, niet beloofd – doet het geen pastorale, bestuurlijke of morele uitspraken. Het put alleen uit de bronnen die een parochie kiest, waarbij voor elke bron het recht op gebruik is vastgelegd. Het bewaart de gegevens van een gemeenschap in Nieuw-Zeeland en de EU, neemt geen reclame aan, leert niets zonder toestemming, en laat een gemeenschap op elk moment haar spullen pakken en vertrekken.

En niets ervan is alles-of-niets. Een parochie kan zo weinig gebruiken als ze wil — zelfs alleen haar eigen gegevens, zonder dat AI ook maar in de buurt van de eredienst komt — en toch beschikken over wat het belangrijkst is: zij blijft de leiding houden.

AI dringt nu al op kleine schaal door in het leven van geloofsgemeenschappen. De vraag is of, wanneer dat gebeurt, een mens nog steeds de auteur is en de gemeenschap nog steeds de leiding heeft — of de schakelaar in de kamer blijft.

Het volledige essay — Soevereiniteit zonder dominantie — voor geloofsgemeenschappen — gaat hier dieper op in, in dialoog met de pastorale brief van de bisschop en gebaseerd op wat het Village daadwerkelijk doet.