Der Optimist: KI für die Kirche, ein Gespräch mit Pfarrer Andreas Dohrn

Andreas Dohrn ist Pfarrer der evangelischen Christengemeinde im Leipziger Süden und derzeit noch grüner Stadtrat in Leipzig. Er hat am großen KI-Experiment „Better than human?“ von MDR und WDR teilgenommen. In diesem setzt er einer KI Vorgaben, damit diese in der Kommunikation mit Probanden einen Pfarrer simuliert. Grund genug für mich, mit ihm zu sprechen. Durch langen Kontakt via Social Media sind wir per Du, das haben wir im Gespräch auch beibehalten.

Andreas, ich habe Dich bei „Better than Human? – Das große KI-Experiment“ gesehen und fand das spannend. Man bringt ja KI mit allen möglichen Menschen in Verbindung, aber nicht unbedingt mit einem Pfarrer. Wie bist Du dazu gekommen und worum ging es?

Die Anfangsgeschichte zur Filmarbeit ist ungewöhnlich. Vor mehreren Jahren gab es ein Filmprojekt über RB Leipzig, wo verschiedene Leute gefragt wurden, wie sie denn die Rolle von RB für Leipzig sehen. Und damals wurde ich von der Produktion sozusagen als fußballbegeisterter Theologe gefragt. Vier Jahre später, als sie anfingen ihren KI-Film zu planen, haben sie sich erinnert und dachten, ach Mensch, den könnten wir doch vielleicht für dieses KI-Experiment fragen.

Und dann war die Frage ja, was machen wir denn eigentlich? Es sollten drei verschiedene Leute eine KI programmieren, um sinnvolle Gespräche zu führen. Ich hatte vorher mit Künstlicher Intelligenz noch gar nichts zu tun.

In einem Buch von Christian Stöcker wird beschrieben, warum der Go-Weltmeister gegen eine KI-Go-Maschine verloren hat, irgendwann hat die KI zu den Programmierern gesagt: „Jetzt hört mal auf, mich weiter zu programmieren, ihr füttert mich einfach mit den Daten, meine Rückschlüsse sind stärker als Eure, lasst mich mal einfach arbeiten.“

Da war ich mir sicher, dass ich bei diesem KI-Experiment mitmachen will. Drei Menschen in existenziellen Notlagen wenden sich an eine Maschine und man guckt, ob die Maschine gleich gut sein kann wie eine Psychologin, ein Pfarrer, eine beste Freundin, das war der Kern des Experiments.

Zum Beispiel eine junge Frau, deren Mutter im Sterbeprozess ist. Was würde passieren, wenn Du der KI-Maschine tausende von Gesprächen mit Angehörigen von gerade Sterbenden gibst? Wenn die Maschine irgendwann „schlau“ ist, müsste sie eigentlich bestimmte spezifische Strukturen erkennen, sie müsste gute und schlechte Gespräche unterscheiden können und müsste mindestens durchschnittliche, manchmal sogar überdurchschnittliche Gespräche führen.

Das fand ich eine ungewöhnliche Konstellation und da habe ich sofort gesagt, ich mache mit.

Mit welchen Erwartungen bist Du in das Experiment gegangen? Du hast der KI gesagt, sie soll Dietrich Bonhoeffer zitieren, das Evangelium nach Matthäus verwenden und Fußball-Anekdoten einbauen. Welche Erwartungen hattest Du, was die daraus macht?

Der Vorteil gegenüber anderen Seelsorgegesprächen war, dass wir das Grundthema des Gesprächs vorher kannten. Das heißt, die Produktion hat uns gesagt: Wir haben drei Leute ausgesucht, eine junge Frau mit einer sterbenden Mutter, eine einsame Seniorin und ein Paar, welches ein Kind verloren hat und jetzt ein neues Kind bekommt. Das wussten wir. Dadurch erklärt sich auch diese Eingangssituation, zum Beispiel die Frage, siezen oder duzen?

Ich habe gesagt, für die Seniorin wäre es vielleicht doch nett, das mit dem Sie zu machen und nicht mit dem Du. Das heißt, wir hatten einen ungewöhnlichen Vorlauf, den es bei meisten Seelsorgesituationen, zumindest im Erstgespräch, nicht gibt.

Meine Erwartung war, dass die KI zwei Dinge tut. Ich habe erwartet, dass sie an manchen Stellen einfach Quatsch macht, weil sie nicht erkennt, was da passiert. Die andere Erwartung war, dass sie über ungewöhnliche Anfahrtswege, die ich in dem Gespräch nicht gewählt hätte, trotzdem ein gutes Gesprächsergebnis erreicht.

Viele Menschen haben von Deinem Beruf die Vorstellung, der Mann steht auf der Kanzel, erzählt jeden Sonntag etwas und das war es dann. Der Pfarrer, zumindest der Gemeindepfarrer ist ja Seelsorger, Psychologe, Eheberater, Krisenberater. Leute kommen zu ihm mit allen möglichen Problemen, die er vielleicht selbst nicht kennt. Der muss jetzt irgendwie eine Antwort darauf finden. Oder ein Gespräch führen, wo sich für denjenigen Antworten ergeben. Da geht es ja ganz viel um moralische oder ethische Entscheidungen.

Also, ich hab eine Sondersituation auf der Schnittmenge Theologie und Psychologie, die bringe ich aus Studienzeiten in Heidelberg mit. Ich habe an zwei Konferenzen über systemische Therapie teilgenommen. Einem weltweiten Kongress mit Paul Watzlawick abends und tagsüber die weltweit besten Kurzzeittherapeuten. Deshalb habe ich zu meinem Studienabschluss Theologie eine Abschlussarbeit geschrieben, was denn die Schnittmenge von Seelsorge und Psychotherapie ist.

Von daher war es eine Frage, die mich schon lange begleitet, zumal ich später im Erzgebirge sowohl in der Krankenhausseelsorge als auch in der Notfallseelsorge viele Erfahrungen gemacht habe.

Dieser Bereich liegt mir und ich habe dazu Fortbildungen gemacht und viel gelesen. Ich bin mir relativ sicher, dass man der Maschine etliches beibringen kann. Die spannende Frage ist, zu wie viel Prozent in einem Gespräch bringt man die eigene Moral oder den eigenen Charakteransatz ein? Wie führt man solche Gespräche, was fragt und was fragt man nicht, wo hört man auf, wo fragt man weiter?

Ich glaube, dass es situativ ist. Bei 100 Seelsorgegesprächen stößt man bei vielleicht bei 8 bis 12 auf moralische Dilemmata, wo tatsächlich die eigene moralische Zusammensetzung ein Schlüssel im Gespräch ist. Das heißt aber bei 88 nicht, bei den 88 kriegt das die Maschine hin. Ich wusste sehr schnell, dass die KI eine strategische Bedeutung für Gespräche haben kann und mir wurde klar, dass das für 80–90 % der Gespräche, zutrifft.

Die Seniorin hat nach ungelogen drei Minuten mit dieser KI wie mit ihrem Dorfpfarrer am dritten Weihnachtsfeiertag geredet und nach fünf Minuten hat man erkannt, dass sie nicht mehr unterscheiden konnte, ob das eine Maschine oder ein Mensch ist. Da dachte ich: Interessant, das ist ja spannend. Es gibt Grenzen und Gefahren beim Einsatz der KI, aber der Chancen-Part überwiegt deutlich.

Ich wusste natürlich auch, dass wenn man in Leipzig, in einer schweren Lebenssituation, einen psychologischen Termin erst in 5–8 Monaten bekommt, dann wäre es wahrscheinlich schon ganz gut, wenn man ein zertifiziertes richtig geiles KI-Programm hat, was in einer bestimmten Art und Weise bestimmte Dinge kann. Von daher habe ich mir um die Moral, ehrlicherweise auch während der Gespräche, wenig Sorgen gemacht, dass die das sozusagen als moral-lose Maschine vorhalten.

Andere Frage. Wie schätzt Du ein, wenn Du nicht Bonhoeffer, sondern Hans Küng oder Papst Johannes Paul II, als Einschränkung gegeben hättest, hätte es dann Unterschiede gegeben?

Richtig, wenn Du die Möglichkeit hättest, eine Person mit einem seelsorgerischen Anliegen, die in derselben Konstellation mit 100 verschiedenen Seelsorgern spricht, dann kommen 100 verschiedene Seelsorgegespräche raus. Bei der Anzahl der Leute, kommt es auf ihre Ausbildung an, ob sie zum Beispiel auch noch Supervision-Ausbildung haben, oder eine therapeutische Zusatzqualifikation zum Beispiel in der Klinikseelsorge haben und mit Gesprächsprotokollen ausführliche Reflexion von Gesprächen gemacht haben.

Es wäre besser, die Gespräche auf einer zweiten Ebene zu reflektieren: Was ist da passiert, in welchem Teil des Gesprächspartners wurde mit eigenen Persönlichkeitsanteilen interagiert? Dann können wir relativ elegant einen sehr besonderen Korridor im Gespräch hinkriegen, der sich auf die Person, auf ihre Anliegen bezieht.

Mit der KI ergibt es eben die 101. Variante, nur mit der Besonderheit im Verhältnis zu den restlichen 100, dass diese, wenn es technisch gut gemacht, immer 24-7 zur Verfügung steht. Sollte man nicht als Kirchgemeinde nachts von 22 Uhr bis 6 Uhr ein digitales Angebot mit so einer Maschine haben, für die Leute, die sich nachts bei einem melden wollen?

Also ein Notfalltelefon?

Das ist definitiv eine Chance, wenn Du es denn hinkriegst, die Maschine zu programmieren. Das ist ein viel klarerer Prozess, als viele der Seelsorgegespräche, die Leute in guter Absicht und mit guter Ausbildung intuitiv führen, wo sie aber gar nicht selber reflektieren müssen, was sie denn da eintragen. Der Vorteil jetzt bei der KI-Programmierung war ja, man musste ja selber überlegen, was sind denn eigentlich die Alleinstellungsmerkmale Deiner eigenen Gespräche?

Was ist denn das Spezifische daran, was wahrscheinlich bei anderen nicht vorkommt? Ich denke, die Anzahl von Fahrrad- und Fußballgleichnissen ist durchschnittlich bei 0 %. Deshalb müssen die Fußballgleichnisse da rein, weil die bei mir immer vorkommen.

Wobei Du natürlich als Person den Vorteil hast, wenn Du merkst, ich bin ein Fußballgegner und reagiere auf das Fußball-Gleichnis komisch, kannst Du sagen, ich lasse es.

Ja, das war ja das Lustige in dem KI-Expertiment. Als die junge Frau nach dem ersten Fußballgleichnis sagte: Das ist aber was, was mir gar nichts bringt. Was macht die Maschine? Die bringt nach drei Minuten das nächste Ding und natürlich denkst Du, das hättest Du im Livegespräch nicht gemacht.

Die KI ist umso besser, je mehr man etwas formalisieren kann. Die KI ist eine Statistikmaschine, die sagt: Ich habe einen Wahnsinns-Datenschatz und aus dem suche ich mir raus, was hier zutreffen könnte. Die generative KI macht daraus Sätze, wie sie ein Mensch bilden würde. Jetzt könnte man natürlich ganz spöttisch sagen: Der Pfarrer findet das gut, also ist er durch eine Maschine ersetzbar.

Ich sage mal so: Nach dem Experiment habe ich mich natürlich schon gefragt, was mache ich in der Situation eines jungen Paares, dessen erstes Kind stirbt und das jetzt das zweite Kind bekommt. Die Konstellation kommt in Deutschland hundert- und tausendfach vor. Ich war mir nicht ganz sicher, wie oft Gesprächsprotokolle dieser Gespräche in den Trainingsdaten zu finden sind.

Ab dem Moment, wo dann eine KI-Maschine tatsächlich 500, 1.000, 2.000 Gespräche hat, hat sie ja vergleichsweise mit mir als Wald- und Wiesenseelsorger, strukturell Vorteile im Gespräch. Sie würde, wenn man sie arbeiten lässt, nach dem tausendsten Gespräch Themen durchscannen, die öfter in Gesprächen auftauchen. Die Wahrscheinlichkeit wäre höher, diese in das Gespräch einzustreuen, um zu schauen, ob das ein Aspekt ist, der für diese Familie eine Rolle spielen kann.

Ich habe mir schnell überlegt, wie kann ich eigentlich als theologisch ausgebildeter Mensch die Performance der KI halten, also noch nicht mal besser als die KI sein.

Leute, das wird sportlich, zumindest in Gesprächssituationen, in denen man ein Thema und Gesprächsstrukturen hat, in denen die KI ihre Stärken gegenüber einem Menschen ausspielen kann, indem sie diese Strukturen kennt und diese in das Gespräch einfließen lässt. Witzigerweise haben sich danach drei KI-Programmierer gemeldet, ob sie nicht mein Knowhow haben könnten, um so etwas professionell zu entwickeln. Und ich dachte, ah ja danke, die haben jetzt auch erkannt, dass da viel geht in dem Bereich.

Es war ja eine Fernsehsendung, es war ein relativ überschaubares Experiment. Es gibt noch andere Krisensituationen, die heute sehr extrem diskutiert werden. Denken wir an Schwangerschaftsabbruch oder Sterbehilfe. Da kommt es auf den Kontext an, ist es ein Betroffener, ein Angehöriger, weiß der etwas darüber und so weiter. Da hast Du als menschlicher Gesprächspartner einen Vorteil. Die KI müsste dann wissen, dass sie das erstmal abfragen muss.

Ich kenne das jetzt, seit ich selber an Krebs erkrankt bin. Wenn ich mit bestimmten Menschen rede, über Universitätskliniken und über Krankheitsverläufe, führe ich jetzt Gespräche anders. Ich glaube, dass der größte Vorteil von Menschen tatsächlich die Summe von Gesprächen ist. Das Interessante in kirchgemeindlicher Arbeit ist ja, dass man zum Teil Familien über drei, vier, fünf Generationen in Seelsorgesituationen begleitet.

Da ergibt sich ein großfamiliäres Bild, wo man natürlich im 47. Seelsorgegespräch, aus den vorherigen 46, ungefähr weiß, wo die Sache hingehen könnte oder worauf man achten sollte. Aber der noch größere Unterschied ist, das kann die Maschine nicht nachmachen, dass die Familie beim 47. Gespräch eine andere Sorte von Erwartung, eine andere Verbindlichkeit und eine andere Offenheit an den Tag legt, weil sie ja schon 46 Erfahrungen mit mir als Person gemacht hat. Die Maschine fängt jeden Tag bei null an.

Auf der anderen Seite, das fand ich in dem Gespräch mit dem Paar interessant, da war eine Situation, in der die Frau weint. In der Situation, die KI etwas sehr Besonderes gemacht, sie nahm einen Anfahrtsweg zu der Person, den hätte ich seelsorgerisch auch nicht nach dem 51. Treffen gewählt. Dieser war so gut, dass er den Personenkern dieser Frau erreicht hat.

Und die größte Emotion hat die KI an der Stelle ausgelöst, wo sie ihren Vorteil hat, nämlich, dass sie jedes Mal bei null anfängt. Das heißt, der Vorteil, den ich als Theologe, der Menschen und ihre Geschichte über Wochen und Jahre begleiten darf, gleicht sich durch den Maschinenvorteil der Null-Start-Situation aus.

Ich würde jetzt instinktiv nach dem KI-Experiment sagen, die KI hat so viele Vorteile, dass sie die Nachteile, die sie gegenüber uns Menschen hat, gut ausgleichen kann. Ich würde sogar sagen, dass sie im Schnitt aller Gespräche die Performance von Menschen schlagen wird. Das war für mich der große Aha-Effekt.

Ich dachte danach, wir in der Kirche sind irgendwie auch lustig. Warum fangen wir bei Personalknappheit und bei Finanzknappheit eigentlich nicht an, auch in Maschinen zu investieren? Warum machen wir das nicht? Zumal, wenn die Deutung ist, dass die Maschine in der Performance von Seelsorgegesprächen den Schnitt von Pfarrerinnen und Pfarrern erreichen wird.

Ich kann mir vorstellen, dass generative KI wie ChatGPT eine Predigt oder einen Gemeindebrief, mit vorgegebenem Inhalt, gut schreiben kann. Hier stellt sich natürlich die Frage: Ist KI ein Werkzeug oder Ersatz für Menschen?

Es gibt ja Untersuchungen, welche Arbeitsplätze besonders von KI gefährdet sind, da gibt es eine nicht ganz kleine Schnittmenge mit kirchlicher Verwaltung. Die Kirche ist beruflich hierarchisch stark segmentiert, stark hierarchisiert, deshalb treten manche Effekte gar nicht auf.

Wenn wir aber mal alle Handlungsfelder und grundlegenden Aufgaben der Kirche für alle kirchlichen Berufsgruppen nebeneinanderlegen und dann draufschauen: Wie viel davon ist für KI-Anwendungen besonders geeignet? Da würde man natürlich auf ein erkleckliches Maß kommen.

Zum Beispiel: Jedes Jahr schreibt man die Kirchgemeindemitglieder an für das sogenannte Kirchgeld. Ich kenne nicht sehr viele Leute, deren Begeisterungstürme riesig sind, wenn sie Kirchgeldbriefe schreiben müssen. Diese Kirchgeldbriefe sind durchaus, in erklecklicher Anzahl, KI-generierbar. Wenn man eine Maschine mit 886 Kirchgeldbriefen füttert, müsste man den durchschnittlichen Kirchgeldbrief in seiner Genialität mit zeitlich sehr schönen Minimalaufwand erreichen.

Die Leute wussten vorher nicht, wer den Brief geschrieben hat, sie wussten nur, wer den unterschreibt. Für die stark textbasierte kirchliche Institution, ist KI eine Riesenchance, Zeit und Geld zu sparen. Verantwortungsethisch würde ich jetzt nach dem KI-Experiment sagen: KI nicht nehmen, da musst Du Dich verantwortungsethisch warm anziehen.

Andere Fragen. Du kennst wahrscheinlich die Diskussion über Kennzeichnungspflicht für KI. Sollte man dem, der das Angebot nutzt, von Anfang an sagen, dass er mit einer KI kommuniziert?

Die nächtliche Telefonseelsorge sollte mit Menschen angeboten werden und die Maschine als zusätzliche Option. Das war ja interessant bei dem Handballprofi, also dem männlichen Teil des Paares im Experiment. Er wurde gefragt: Würden sie ein Gespräch eher live mit einem Menschen oder eher mit der Maschine wahrnehmen? Und da macht der Mann eine pragmatische Ableitung, er sagt: Natürlich nehme ich die Maschine. Da habe ich nämlich in dem Gespräch immer mehr Zeit, mir meine Antworten zu überlegen.

Das heißt, dem würde man die Möglichkeit geben: „Kirchgemeinde im Leipziger Süden: Wir haben zwei Seelsorgeangebote. Eins mit Mensch, eins mit KI, wählen Sie, was sie mögen.“ Ich fände die Frage technisch interessant, wo gibt es strukturelle Lücken, wo die KI auf Dauer nicht hinkommt?

Also zum Beispiel Intuition. Das ist die Frage, ob das eine KI tatsächlich kann. Wenn sie es nicht kann, muss man sagen, intuitiv ist der Mensch immer vorzuziehen. Und bei anderen Sachen fände ich das mit dem Wasserzeichen cool, also dass man sagt, man kennzeichnet das so gut wie es geht.

Noch eine Frage. Du warst als Person dort, gibt es denn Reaktionen darauf von der offiziellen Kirchenseite?

Von der offiziellen Kirchenseite nicht. Was lustig ist, es vergeht keine Geburtstagsfeier, keine öffentliche Situation, wo nicht mindestens eine Person, Leute, bei denen ich nie drauf kommen könnte, dass sie sofort mit mir das Gespräch suchen und sagen: „Hey, ich habe das gesehen. Es ist cool, dass Du mitgemacht hast.“ Die Leute, die mich gut kennen, haben das abgefeiert.

Ich sage jetzt mal ein bisschen ironisch oder auch etwas verbittert, institutionell müssten sich eigentlich, nach so einem Film, sieben Leute melden und sagen: „Hier ist ein strategisches Feld, das wollen wir mal bearbeiten. Hätten Sie vielleicht Lust, bei der Bearbeitung mitzumachen?“ Das passiert nicht. Ich glaube, weil zum Teil die Gefahren schon imaginiert werden, das könnte was an Beschäftigungsverhältnissen ändern.

Man könnte auch schauen, wo ist Kirche eigentlich im öffentlichen Raum positioniert? Ist sie nur noch dort besonders relevant, wo sie mit gut ansprechbaren Personen präsent ist? Dann kann man natürlich sagen, da droht dieses Alleinstellungsmerkmal der Kirche zu verwässern, weil man dann etwas tut, wofür es sehr viele KI-Anwendungen für Gespräche geben wird.

Sich in diesem Raum als Kirche gut zu positionieren, die theologischen Vorteile über die KI auszuspielen und die eigene Rolle in der Gesellschaft zu verbessern, das ist eine super große Herausforderung. Aber Stand jetzt ist es kirchlich ein Nischenthema und es wird, glaube ich, auf der Ebene von evangelischen Akademien, auf der Ebene von Studierendengemeinden gemacht werden, aber institutionell reflektiert kommt es mir nicht so vor.

Wir müssen über Bildung sprechen. Nehmen wir diesen KI-Pfarrer. Der kennt das Alte Testament, das Neue Testament auswendig. Der kennt mehr auswendig, als Du je vergessen hast. Er kennt jedes Wort von Hans Küng, von Bonhoeffer, kennt alles, was jemals veröffentlicht wurde. 

Stellt sich die Frage, was macht das mit der Ausbildung? Denn jeder, der jetzt studiert, muss sich am Ende mit KI-Texten auseinandersetzen und muss auch die Plausibilität dieser einschätzen können. Was für eine Bildung wird gefordert sein, um mit KI umzugehen?

Also es ist eine Herausforderung, weil natürlich die exegetischen Fähigkeiten noch besser sein müssen als vorher. Sie müssen noch breiter und tiefer sein, um KI-generierte Texte, zu erkennen, zu entschlüsseln und dann zu merken: Das stimmt hier nicht.

Wir, als Theologinnen und Theologen, haben einen Vorteil gegenüber anderen Berufs- und Gesellschaftsbereichen, nämlich exegetische Kompetenz, also Sachen so lange auseinandernehmen und wieder neu zusammensetzen, bis was Schickes dabei rauskommt. Da haben wir eher einen Vorteil im Umgang mit den KI-Herausforderungen, weil wir mit unserer beruflichen Ausbildung sehr lange mitgehen können.

Sehr viele dieser theologischen Fähigkeiten kann man einer KI beibringen, weil hinter diesen Strukturprozessen Dinge liegen, die eine KI im Schnitt besser kann als Menschen.

Mir geht es jetzt darum: Müsste nicht schon heute in der Lehre darauf eingegangen werden?

Die Theologische Fakultät in Leipzig macht es gerade.

Es gibt noch ein Thema, es kommt eine Herausforderung und eine Gefahr auf uns zu. Man kann KI auch für Indoktrination benutzen. Die Kirche würde vielleicht dann sagen, wir machen jetzt eine Missions-KI, durch gewisse Bevorzugung von Trainingsdaten.

Nimm eine gefährliche christliche Gruppe, da fallen mir immer diese „12 Stämme Apostel“ aus Bayern ein. Was macht man eigentlich, wenn sie Geld haben, wenn sie einen Google-Suchmaschinenoptimierer haben und eine erfolgreiche KI an den Start bringen, mit der sie ihre Sorte von Gottes- und Menschenbild, zum Teil verschleiert, an die Menschheit bringen. Damit muss man sich kirchlich institutionell auseinandersetzen, weil die digitale Schiene weiter zunehmen wird.

Menschen fragen Google nach dem Weg, erkundigen sich, ob der Bäcker offen ist und fragen auch: „Wo könnte ich mich beraten lassen?“ Wenn man genug Geld bezahlt hat, wird man als einer der ersten Treffer gelistet. Und wenn dann als erste gefährliche, radikale, rechtsextreme und andere Deppen stehen, wie verhindert man, dass sie dann mit KI erfolgreicher sind als die demokratischen, als die guten, als die gut ausgebildeten, als die Verantwortlichen. Also, das wird eine spannende Geschichte.

Andreas, ich danke Dir für das Gespräch.

„Der Optimist: KI für die Kirche, Pfarrer Andreas Dohrn“ erschien erstmals im am 03.05.2024 fertiggestellten ePaper LZ 124 der LEIPZIGER ZEITUNG.

Sie wollen zukünftig einmal im Monat unser neues ePaper erhalten? Hier können Sie es buchen.