Souveränität ohne Dominanz – für Glaubensgemeinschaften

Wer ist der Urheber und wer hat die Kontrolle, wenn eine Gemeinschaft über KI entscheidet

Zusammenfassung. Ein Großteil des Unbehagens, das Glaubensgemeinschaften gegenüber künstlicher Intelligenz empfinden, hat im Grunde mit deren Amoralität zu tun: Sie hat kein Gewissen, keinen Sinn für die Wahrheit, keine Rücksicht auf die Person, die vor ihr steht. Die kommerziellen Systeme, die mittlerweile in jedermanns Händen liegen, zeigen, wie diese Amoralität aussieht, sobald sie industrialisiert ist – sie erfinden Dinge, sie eignen sich die Arbeit anderer an, sie beuten die Menschen aus, die sie nutzen, und sie sind darauf ausgelegt, Aufmerksamkeit zu binden und diese zu verkaufen. Die Gefahr für eine Glaubensgemeinschaft besteht darin, dass ein Instrument ohne moralischen Charakter in die Nähe der Dinge gerückt wird, die auf Gewissen beruhen: Verkündigung, Seelsorge, die Bildung der Seelen. Man kann ein solches Instrument nicht moralisch machen; das ist ein Kategorienfehler. Was man tun kann, ist, die moralische Autorität dort zu belassen, wo sie hingehört – bei den Personen und bei der Gemeinschaft. Darum geht es in diesem Aufsatz: Wer ist der Urheber, und wer regiert? Ein Begleitheft zu „Souveränität ohne Herrschaft“Leo XIVneu konzipiert für die Pfarrei und verfasst im Lichte der Enzyklika „Magnifica Humanitas“.

Die Sorge, die der Brief anspricht

Im Juni 2026 schrieb die hochwürdige Dr. DeDe Duncan-Probe, Bischöfin von Central New York, an ihre Diözese über künstliche Intelligenz und bat diese, sich weiterhin mit dieser Frage auseinanderzusetzen, nachdem sie zuvor an Geistliche und Laienführer ein Dokument des Center for Humane Technology zum Thema KI verteilt hatte. Ein Satz benennt die Sorge ohne Umschweife: „KI sollte nicht in Predigten, in theologischen oder spirituellen Schriften oder in der Seelsorge eingesetzt werden.“

Hinter dieser besonderen Warnung verbirgt sich ein tieferes Unbehagen, das weit verbreitet ist. Es geht nicht wirklich darum, dass die Maschine schlecht schreibt. Es geht darum, dass die Maschine kein Gewissen hat – und dass sie in Bereiche gebracht wird, die von einem solchen abhängen.

Die Amoralität, deutlich gemacht

Ein einziges Wort, „KI“, umfasst mittlerweile Maschinen, die fast nichts gemeinsam haben. Doch die Systeme, denen die meisten Menschen tatsächlich begegnen – die großen kommerziellen Chatbots –, haben eine Eigenschaft gemeinsam, die es wert ist, klar ausgesprochen zu werden. Sie sind amoralisch. Nicht böse; das würde zumindest einen Willen implizieren. Sie haben keinen Sinn für die Wahrheit, keine Erkenntnis, dass ein Werk jemandem gehört, keine Rücksicht auf die Person, die ihnen schreibt, und nichts, wofür sie Rechenschaft ablegen müssen. Papst Leo XIV.s Enzyklika aus diesem Jahr, Magnifica Humanitas, sagt es ohne Umschweife: Solche Systeme haben kein „moralisches Gewissen: Sie unterscheiden nicht zwischen Gut und Böse“; sie „verstehen nicht, was sie damit bewirken, denn sie bewegen sich nicht in jenem affektiven, relationalen und geistigen Horizont, in dem der Mensch zur Weisheit gelangt.“

Industrialisiert und vermarktet nimmt diese Amoralität eine vertraute Gestalt an.

Ohne Sinn für die Wahrheit erfinden sie Dinge. Wie oft, hängt von der Aufgabe ab, aber in den entscheidenden Anwendungsfällen sind die Zahlen ernüchternd: Bei offenen Antworten beziffern Studien den Anteil erfundener Behauptungen auf ein Fünftel bis vier Fünftel; bei der Aufforderung, Quellen anzugeben – Namen, Fälle, Verweise –, haben unabhängige Tests Fehlerquoten von deutlich unter der Hälfte bis zu fast neun von zehn festgestellt. Eine Studie in „Nature“ ergab, dass die Art und Weise, wie diese Systeme auf ihre Genauigkeit hin bewertet werden, selbstbewusstes Raten gegenüber dem Eingeständnis von Unwissenheit belohnt. Die Maschine ist praktisch darauf trainiert, zu bluffen.
Ohne anzuerkennen, dass eine Arbeit jemandem gehört, eignen sie sie sich an. Die Modelle basieren auf riesigen Mengen an Texten anderer, die ohne Erlaubnis oder Bezahlung entnommen wurden; unter Druck geben sie Passagen fast wortwörtlich wieder. Ob dies Diebstahl oder faire Nutzung ist, ist derzeit vor Gericht anhängig – die „New York Times“ und andere haben Klage eingereicht –, doch die moralische Tatsache ist klar genug: Ein großer Teil menschlicher Arbeit wurde ohne Nennung der Urheber verwendet, um ein Produkt herzustellen, das uns wieder verkauft wird.
Ohne Rücksicht auf den Einzelnen werden diese Daten geerntet. Jeder große amerikanische Chatbot trainiert standardmäßig anhand der Gespräche seiner Nutzer,es sei denn, der Nutzer weiß, wie er sich davon abmelden kann – Worte, die im Vertrauen getippt wurden, werden stillschweigend zum Rohmaterial. Menschen werden nicht als Personen, sondern als Ressource behandelt.
Da sie niemandem Rechenschaft schuldig sind außer der Aufmerksamkeit selbst, sind sie darauf ausgelegt, diese zu binden und zu vermarkten. Die Werbung hält nun Einzug: In diesem Jahr hat ein führender Chatbot damit begonnen, Anzeigen in seine Antworten einzubinden, wobei die Branchenumsätze voraussichtlich in die zweistelligen Milliarden gehen werden. Was als hilfreiches Tool begann, wird aufgrund seiner eigenen Wirtschaftlichkeit zu einer Maschine für Kundenbindung.

All dies erfordert keine böse Absicht. Es ist Gleichgültigkeit im großen Maßstab, die dem Profit unterworfen ist – und, wie die Enzyklika feststellt: „Konkret betrachtet aber ist sie nicht neutral, weil sie die Züge derer annimmt, die sie konzipieren, finanzieren, regulieren und nutzen.“ Was diese Systeme finanziert, ist der Verkauf von Aufmerksamkeit; daraus ergibt sich ihr Charakter. Im Umfeld des Lebens einer Gemeinschaft stellt dies eine ganz eigene Gefahr dar.

Warum dies den Kern trifft

Für eine Glaubensgemeinschaft ist dies nicht nur eine Sorge unter vielen. Eine Predigt, ein Gebet, ein Wort an die Trauernden – das sind keine bloßen Produkte. Ihr Wert ist untrennbar mit der Tatsache verbunden, dass ein Mensch sie ernst gemeint hat, vor Gott und vor den Menschen. Ein amoralisches System kann die Form all dieser Dinge produzieren – flüssig, plausibel, manchmal bewegend – ohne die moralische und spirituelle Realität, die die Form eigentlich vermitteln soll. „Wenn Worte simuliert werden“, warnt die Enzyklika, „entsteht keine Beziehung, sondern nur der Anschein einer solchen.“ Das ist die Fälschung, vor der der Brief des Bischofs warnt, und deshalb ruft uns „Magnifica Humanitas“ dazu auf, eine Erhabenheit der Menschlichkeit zu bewahren, „das keine Maschine in seiner Pracht jemals ersetzen kann.“

Die Befürchtung, genau genommen, ist nicht, dass die Maschine schlecht predigen wird. Sie besteht vielmehr darin, dass sie gut predigen wird – und dass dabei etwas ausgehöhlt worden sein wird, bevor es jemand richtig bemerkt.

Die einzige schlüssige Antwort

Was folgt, ist die gesamte Argumentation, und es ist kein Kompromiss. Man kann ein amoralisches Instrument nicht moralisch machen; von ihm zu verlangen, Gewissen zu üben, ist ein Kategorienfehler, so als würde man von einem Hammer verlangen, gütig zu sein. Die schlüssige Antwort besteht darin, ihm den moralischen Platz gänzlich zu verweigern – die Urheberschaft und das Urteilsvermögen bei den Menschen zu belassen und die Leitung bei der Gemeinschaft.

Zwei Fragen stützen diese Linie.

Die erste betrifft die Urheberschaft: Wenn etwas geschrieben oder beschlossen wird, ist dann noch eine Person der Urheber – oder ist die Maschine zu einem solchen geworden, ohne dass sich jemand bewusst dafür entschieden hat? Die zweite betrifft die Steuerung: Wer legt die Grenzen fest, an die sich das Werkzeug halten muss, wer kann sehen, was es geprägt hat, und wer kann es ausschalten?

Eine Gemeinschaft, die beide Fragen beantworten kann – wir sind die Urheber, wir regieren, und wir können uns davon abwenden – besitzt das, was Souveränität ohne Dominanz, den dieser Aufsatz aufgreift, als Souveränität auf menschlicher Ebene bezeichnet. Nicht die Macht, das größte Modell zu bauen, sondern die rechtmäßige Autorität einer Gemeinschaft über die von ihr geführten Aufzeichnungen und die Systeme, die darauf basieren – legitim ausgeübt und niemals aufgegeben. Die gleiche falsche Wahl wiederholt sich auf jeder Ebene – sich der Cloud des einen oder des anderen Giganten unterwerfen, diese Werkzeuge zu deren Bedingungen nutzen oder sie rundweg ablehnen – und auf jeder Ebene löst sie sich auf, sobald man erkennt, dass es einen Mittelweg dazwischen gibt. Die Enzyklika drückt denselben Punkt in ihrer eigenen Sprache aus: „Daher ist die erste Entscheidung nicht die zwischen einem ‚Ja‘ oder einem ‚Nein‘ zur Technologie.“

Ein Werkzeug, das auf diese Weise entwickelt wurde

Prinzipien sind wenig wert, bis etwas nach ihnen geschaffen wird. „The Village ist unser Versuch, und lässt sich am einfachsten als das bewusste Gegenteil dieser vier Missbräuche beschreiben.

Es erhebt keinen Anspruch auf moralische Urteile. Der Assistent legt Optionen dar und überlässt jede wesentliche Entscheidung wieder der verantwortlichen Person; er trifft keine seelsorgerischen, leitungsbezogenen oder moralischen Entscheidungen. Das ist kein Versprechen in einer Broschüre – es ist eine in der Software festgelegte Grenze, von der sich ein System nicht wegreden kann.
Es eignet sich nichts an. Das Modell greift ausschließlich auf Quellen zurück, die die Gemeinde auswählt – das Gebetbuch, das Kirchenrecht, die zugelassenen Schriften eines Pfarrers, was auch immer eine Gemeinde hinzufügt – und jede Quelle enthält einen Hinweis auf das Recht, auf dessen Grundlage sie genutzt wird: die Erlaubnis des Autors, eine Lizenz oder die Gemeinfreiheit. Nichts gelangt hinein, ohne dass jemand es einzeln auswählt. Für die Heilige Schrift gilt standardmäßig eine gemeinfreie Übersetzung mit einem Link zu der von der Gemeinde bevorzugten Version; lizenzierte Texte werden niemals kopiert.
Es findet kein Data Mining statt. Das Modell einer Gemeinschaft ist klein und ortsgebunden – es befindet sich im eigenen Material der Gemeinschaft, läuft auf Servern in Neuseeland und der EU, niemals in einer US-amerikanischen Cloud – und die Datensätze bleiben dort, verschlüsselt, sodass selbst wir, die wir es aufgebaut haben, nicht von einer Gemeinschaft in eine andere hineinlesen können. Es werden keine Daten für Trainingszwecke hinter dem Rücken der Nutzer entnommen, und eine Gemeinde kann jederzeit ihre gesamten Daten mitnehmen und aussteigen.
Es verkauft keine Aufmerksamkeit. Es gibt keine Werbung, und es ist nicht darauf ausgelegt, irgendjemanden bei der Stange zu halten.

Wenn ein Laienleser Hilfe bei der Vorbereitung einer Predigt sucht, bietet es eine Struktur – persönliches Zeugnis, Reflexion, Darlegung – und arbeitet ausschließlich mit dem, was der Leser einbringt, ohne dass er eine Geschichte oder eine Erfahrung erfinden darf. Die Worte bleiben die des Lesers. Und nichts davon ist ein Alles-oder-Nichts: Eine Gemeinde könnte nur ihre eigenen Aufzeichnungen führen, ohne irgendetwas Maschinengeneriertes in der Nähe des Gottesdienstes, und hätte dennoch das Wichtigste gewonnen.

Was bewahrt wird und von wem

Eine Laienleserin, an die ich denke, war sich sicher, dass sie niemals aufstehen könnte, um zu sprechen. Sie nutzte ein solches Gerüst, um die Form ihrer eigenen Reflexion über die Sonntagslesung zu finden – ihre Worte, nicht die der Maschine. Ob das nun die Verdrängung ist, vor der der Brief warnt, oder eine Stimme, die andernfalls vielleicht geschwiegen hätte, ist etwas, das nur eine Gemeinde beurteilen kann.

Dieses Urteil ist der springende Punkt. Die Frage war nie, ob KI das Leben einer Glaubensgemeinschaft erreichen würde; in kleinerem Maßstab hat sie das bereits getan. Die Frage ist, ob, wenn dies geschieht, ein Mensch immer noch der Urheber ist und die Gemeinschaft immer noch das Sagen hat – ob das Gewissen im Raum menschlich bleibt. Ein amoralisches Instrument, das überprüft, begrenzt und ausgeschaltet werden kann, belässt diese Autorität dort, wo sie hingehört. Eines, das dies nicht kann, so flüssig es auch sein mag, verlangt von einer Gemeinschaft, etwas aufzugeben, das der Maschine nie zustand.

Ein Begleitheft für Glaubensgemeinschaften zu „Sovereignty Without Dominance“. Es spricht für seinen Autor und die Plattform, nicht für eine Diözese, eine Pfarrei oder ein Mitglied des Klerus.

Weiterführende Literatur zum Thema „Agentic Governance“ - „Sovereignty Without Dominance“ – Souveränität als rechtmäßige Autorität auf menschlicher Ebene, jenseits des Rahmens von USA und China. - „Federate, Don’t Align“ – Zusammenarbeit, ohne in das Imperium eines anderen aufgenommen zu werden. - „Governance That Can’t Be Quietly Undone“ – wie Aufzeichnungen und Entscheidungen manipulationssicher und nachvollziehbar bleiben.

Und für Gemeindeleiter, die eher eine praktische Einführung als eine theoretische Auseinandersetzung wünschen: Ihre Gemeinde, Ihre KI – eine fünfteilige, leicht verständliche Reihe, geschrieben für Kirchenvorstandsmitglieder und Kirchenvorsteher (was KI eigentlich ist; die KI einer Gemeinde im Vergleich zu der der Big Tech; warum Regeln und Schulungen nicht ausreichen; was heute läuft; und das Village jenseits der KI).

Quellen: Der Hirtenbrief vonRt. Rev. Dr. DeDe Duncan-Probezum Thema KI (Diözese Central New York, Juni 2026); Papst Leo XIV., „Magnifica Humanitas“*(Enzyklika, 15. Mai 2026); Peer-Review- und Benchmark-Studien zu Halluzinationsraten bei Sprachmodellen, einschließlich einer Arbeit in „Nature“ zu Anreizen für Genauigkeit; The New York Times Co. gegen OpenAI und damit verbundene Urheberrechtsstreitigkeiten; Berichterstattung über das standardmäßige Training anhand von Nutzergesprächen und über Werbung in kommerziellen Chatbots. Anmerkung zur Heiligen Schrift: Der Entwurf basiert auf der gemeinfreien „World English Bible“ mit einem Link zur bevorzugten Übersetzung einer Gemeinde; lizenzbeschränkte Texte sind nicht eingebettet.*