# AI Ethics, Domain Expertise, and Strategic Integration

**Podcast:** Tech and Tales
**Published:** 2026-06-20

## Transcript

Tech & Tales Herzlich Willkommen zur 85.
Folge von Tech & Tales.
Unser Thema heute ist Kirche und KI.
Und mein Gast ist Christoph Marz-Grunau.
Christoph ist Elektropastor an der Kirche in Oldenburg, aber wird das gleich noch näher erklären.
Und das Thema Kirche und Glauben bzw.
Technologie und Ethik ist eigentlich pressierender denn je, denn wir sehen auch gerade im Hinblick auf die neuen Modelle, dass es inzwischen Ethikräte gibt.
Es gibt verschiedene Roundtables aus verschiedensten Disziplinen, die zusammenkommen, um diese dringenden Fragen der Zeit zu beantworten.
Und deswegen freue ich mich sehr auf das Gespräch heute.
Aber Christoph, stell dich doch einmal selbst kurz vor.
Ja, mein Name ist Christoph Matschgrunner.
Ich bin Digitalfacher und Elektropaster in der Kirche in Oldenburg und seit 2022 im Kirchenkreis Dämmhorst Oldenburg landaktiv.
Und meine Aufgabe ist, so ein bisschen Dolmetscher zu sein zwischen der Technikwelt und der Kirchenwelt.
Und ich freue mich sehr, heute dabei zu sein.
Ja, freut mich auch.
Aber was genau bedeutet Elektropastor?
Das ist ja schon mal ein wilder Name.
Und ganz kurz, mir fällt, wenn du Elektropastor sagst, dann kommt mir immer der EDM, also dieser...
Ich glaube, aus dem Vatikan gibt es einen DJ, der Raves veranstaltet.
Ich verlinke das auch gleich in den Show Notes.
Und das kommt mir in den Sinn, wenn du Elektro-Pastor sagst.
Aber was bedeutet das ganz konkret?
Ja, das ist wild.
Das ist ein schöner Name.
Ich habe im Studium mal eine Webseite machen wollen und dann brauchte ich einen Namen und ein guter Freund.
Christian hat mir damals vorgeschlagen, du wirst doch Pastor und du beschäftigst dich viel mit IT, also Elektro.
Und damit kam Elektro und Pastor zusammen.
In der Schule war ich immer so am liebäugeln, ob ich Informatik studiere oder Theologie und habe mich dann doch für Theologie entschieden und habe das so als Hobby behalten.
Daher kommt dieses Läufer zwischen zwei Welten zusammen.
Ich höre auch gerne elektronische Musik, aber ich bin jetzt noch nicht in irgendeinem Rave-Gottesdienst unterwegs gewesen.
Vielleicht kommt das irgendwann mal.
Ja, das finde ich aber gar nicht schlecht, weil der Pfarrerpastor, der Priester, der das macht, der hat einen riesen Followership.
Bei diesen Raves sind wirklich wahrscheinlich 20.000, 30.000 Menschen da.
Also ich finde auch seinen Style super gut.
Deswegen interessant.
Ich finde diesen Crossover spannend, wenn quasi aus der Kirche raus oder von den Pastoren her irgendwie das in andere Gebiete sozusagen, in andere Fachbereiche.
passiert, weil das natürlich sinnvoll ist, um die Menschen abzuholen.
Ich selber, immer als Disclaimer, ich bin ganz normale norddeutsche Protestantin quasi, aber ich bin nicht wahnsinnig religiös oder gläubig, aber meine Mutter selber war Lehrerin und hat Religionspädagogik tatsächlich unterrichtet und habe davon immer viel mitbekommen, aber im Alltag bin ich, also ich würde sagen, der Durchschnittskrist, der einmal am Weihnachten in die Kirche geht, leider.
Aber Ich finde es jetzt spannend, erstmal zu erfahren, wie setzt du quasi KI ein in deinen Alltag?
Oder wie findet das überhaupt Einzug bei dir?
Ja, also ich glaube, mein KI-Moment, wo ich angefangen habe, mich damit sehr intensiv zu beschäftigen, war 2022 im Sommer, als Stable Diffusion rauskam.
Also ich habe mich da schon länger damit beschäftigt, also dem Thema IT und Technik, das mache ich seit vielen Jahren jetzt schon und bin quasi sozusagen Nerd.
Das ist in der Kirche auch ungewöhnlich.
Also Kirche ist nicht unbedingt für Nerds.
Und ich habe dort dann irgendwann eine Doku gesehen über KI und habe gedacht, boah krass, das war noch, wo GPT-3 dann sozusagen noch an die Unis und an die Forscher sozusagen freigegeben wurde.
Ich habe immer gedacht, ah, da will ich doch gerne mal ran.
Da wurde dann uns ein Beispiel gegeben, da hatte irgendjemand ein neues Bibelevangelium geschrieben mit KI, mit GPT-3.
Und ich dachte so, aber kann ich jetzt nicht ausprobieren.
Es steht uns nicht zur Verfügung.
Das war ja damals, glaube ich, noch irgendwie so unter Verschluss, irgendwie 21, 20, so in den Anfangsjahren.
Und dann habe ich irgendwann gesehen, okay, es gibt da jetzt so ein Bildmodell, Stable Diffusion, das kann ich mir auf meinem eigenen Computer installieren und habe mich dann auf die Suche gemacht und überlegt, was ist da drin?
Und das war ja noch die Zeit, wo sie die sechs oder sieben Finger, die verschmierten Gesichter und sonst was in den Bildern hatten.
Und dann habe ich zum Beispiel gesucht, zeichne doch mal ein Bild von Pfingsten.
Dann hat die Maschine auf einmal angefangen, irgendwelche Tauben zu malen oder irgendwelche roten Bilder.
Und ich fand das spannend, weil ich mir dachte, was ist denn in dem Datensatz so an Glaubensinhalten drin?
Also was haben die Leute vielleicht ins Internet getan?
Wie haben die das dann halt getaggt?
Wie haben die das zugeordnet?
Und was kommt dann bei diesem Brei aus der Maschine dabei raus, wenn man sie mit Glaubensthemen konfrontiert?
Damit habe ich dann angefangen, mich mit KI zu experimentieren.
Und als dann die Weihnachtsferien 2022 waren, dann kam halt ChatGPT und ich hatte endlich Zeit, dass...
auszuprobieren.
Ich habe erst gedacht, das ist doch alles Fake.
Er hatte im Instagram so gezeigt, wie er da eine Weihnachtspredigt mitschreibt und dann kam das da so mit dem Wasserfall runter und ich dachte, das war eine elaborierte FX.
Das dachte ich jetzt erst mal.
Und dann habe ich das ausprobiert in meinem Weihnachtsurlaub und war hooked, weil ich mir gedacht habe, krass, das ist ja das, was sie uns bei Star Trek und Co.
immer versprochen haben, dass man mal irgendwie mit der Maschine reden kann und dann kommt da irgendwas.
Und dann habe ich relativ früh damit angefangen, halt auch wirklich zu erforschen.
Was kann man damit im Fahralltag machen?
Also im Sinne von, es ist wie, wenn wir von der Schreibmaschine zum Computer wechseln, wenn wir das Internet einführen.
KI ist ja auch erstmal ein Tool, habe ich damals zumindest erstmal gedacht und habe dann geguckt, kann ich damit Predigten schreiben, kann ich damit Gebete schreiben, kann ich damit vielleicht auch mal eine Konfi-Stunde vorbereiten und habe dann einfach so ein bisschen auf die Suche gemacht und geguckt.
So nach dem Motto ChatGPT, kannst du das, kannst du das, kannst du das nicht.
Und das war sehr spannend und dann habe ich aber auch früh gemerkt, dass das halt keine wertneutrale Technologie ist.
Das kommt dazu, wenn man natürlich als Ethik-Mensch unterwegs ist und bin dann auch früh angefragt worden von Menschen in der Kirche so, ach Christoph, wir haben gehört, du machst da was mit KI, kannst du uns das mal zeigen, kannst du uns das mal erklären?
Und so bin ich dann in das Ganze immer tiefer reingekommen und gehöre jetzt glaube ich leider zu einem der wenigen Leute in der Kirche in Deutschland, die halt sowohl Pfarrer in der Gemeinde sind, als auch sich mit diesem Technikthema so intensiv auseinandersetzen.
Also wilde Zeiten.
Habt ihr Zugang?
Ich weiß wirklich überhaupt nicht, wie Kirchen...
organisationsseitig strukturiert sind.
Habt ihr quasi Zugang zu den Modellen?
Bekommt ihr Lizenzen?
Ist das wie ein Unternehmen strukturiert?
Also ich meine, du hast ja eine E-Mail, eine E-Mail at Kirche und so weiter.
Das heißt, habt ihr dann auch IT-Verantwortliche, die quasi euch da monatliche Abos zuteilen oder wie funktioniert das?
Also du hast gerade in dem beschrieben, was ich an technischer Ausstattung bekomme.
Ein Webmailer.
Das ist jetzt das Ende der Liste, muss ich trocken sagen.
Kirchen sind halt an der Stelle auch irgendwo noch Behörden und die sind Teil dieser Welt, was das Thema betrifft, aber teilweise halt auch nicht so super ausgestattet.
Also wir haben in Kirche, sagen wir mal, aktuell gibt es Bewegungen dazu, seitens der evangelischen Kirche in Deutschland, KI-Modelle sozusagen zur Verfügung zu stellen, das in Landeskirchen anzubieten.
Da gibt es erste Bewegungen, aber im Normalfall ist es bei Kirche und Technik so, dass du...
zumindest bei meiner Landeskirche, dass du da erstmal selber los musst.
Also bist du dann quasi, weiß ich nicht, so derbe Erkunder und Technikerdecker und musst halt dann auch die Lizenzen selber zahlen.
Also ich habe zum Beispiel einen Codex-Account, den ich selber bezahle, weil ich den jetzt erstmal nicht wiederbekommen würde.
Was aber nicht schlimm ist.
Für mich ist das eine Fortbildungsinvestition und ein hilfreiches Arbeitsmittel.
Ich glaube, da wird Kirche jetzt in den nächsten Jahren noch sehr viel ändern müssen.
Wir sind gerade zum Beispiel in Oldenburg auch dabei, eine KI-Richtlinie einzuführen.
Das finde ich ganz cool, weil man mich da jetzt angefragt hat, ob ich da so eine ethische Auslegung schreiben kann, was ich sehr cool finde, dass ich mit Mitte 30, ich bin 37, dass ich jetzt auf einmal irgendwie so einen Text schreiben soll auf drei Seiten, was das für ethische Bedingungen hat.
Der Papst hat gerade eine dicke Enzyklika zum Thema geschrieben, wer bin ich, dass ich sowas schreibe.
Das ist ganz interessant.
Also da bewegt sich etwas und ich nehme das auch wahr, dass Kirchen das Thema sehr ernst nehmen, weil es halt ja nicht nur ein technologisches Thema, sondern auch ein gesellschaftliches und ethisches Thema ist.
Aber natürlich könnten unsere Kirchen besser ausgestattet sein.
Ich weiß von Landeskirchen, wo Kollegen auch einen Dienstlaptop bekommen und auf dem Dienstlaptop ist dann halt dieses Microsoft Office 365 drauf und dann steht halt in der Richtlinie drin, dann benutzt doch mal Microsoft Co-Pilot.
Und dann denkt man sich so, ja, es ist besser, als wenn man den Leuten eine Gratis-Version von meinetwegen ChatGPT oder Clore zur Verfügung stellen lässt, so nach dem Motto, holt euch das.
Wie habe ich das fortgebildet letztens?
Ja, probieren Sie es doch einfach mal aus und dann wissen Sie zumindest mal, wie KI ist.
Genau, dann wissen sie, wie es sich anfühlt und ich glaube, der überwiegende Teil der deutschen Wirtschaft, die hängen alle auf Co-Pilot.
Jetzt kommt die Frage, welches.
Wenn sie auf GitHub liegen, ist es ja nicht ganz so schlimm.
Ja, ja, ja, ich weiß.
Aber ich glaube auch, es ist immer noch besser als gar nichts am Ende.
Das heißt, du nutzt Co-Pilot, beziehungsweise die anderen nutzen Co-Pilot, du nicht.
Aber wie nutzt du das im Alltag?
Das heißt, du kannst Predigten vielleicht damit vorbereiten, aber...
Es gab ja verschiedene Fälle, wo Geistliche als auch Politiker ermahnt wurden, weil sie komplette Entweder-Reden oder Briefe und so weiter KI generiert haben.
Und ich persönlich finde es nicht dramatisch, solange du am Ende mit dem übereinstehst, was da geschrieben ist.
Aber was genau nutzt du?
Oder was genau machst du damit?
Wie integrierst du das in deinen Alltag?
Ich habe ja so ein bisschen als ein Technik- oder Dolmetscher, hatte ich das ja gerade benannt, habe ich so ein bisschen natürlich das Ziel auszuloten, was geht.
Also ich versuche wirklich das Sprachmodell auch an die Grenze zu treiben, wirklich zu gucken, was in den Sachen ist.
Und ich habe halt das Privileg, dass ich relativ viele Workshops geben darf oder Vorträge machen darf zu den Themen in Fachbereichen.
Und das Wichtigste, was ich immer den Leuten sage, wenn ihr KI einsetzt mit irgendeinem Themenbereich, überlegt erstmal, was ist der Themenbereich für euch?
Also zum Beispiel beim Thema KI und Predigt.
Was für eine Rolle spielt Predigt in deinem Gottesdienst?
Also wie verstehst du eigentlich sonntags um 10, wenn du dich da auf die Kanzel stellst, lieber Kollege, liebe Kollegin, deine Aufgabe?
Weil ein guter Freund von mir, Marcel Krüger, hat mal einen ganz klugen Satz gesagt.
Er sagte, um KI wirklich effizient einsetzen zu können, musst du halt erst dein eigenes Handwerk verstehen, also Fachdomainwissen.
Und das versuche ich dann in der Stelle zu schulen, weil wir in Kirche oft in diesem Modus sind.
Das haben wir ja schon immer so gemacht.
Und das machen wir auch weiter so, dann schleift sich das so durch.
Das heißt, sowohl im Bereich KI als auch bei dem eigentlichen Fachbereich, also auch bei dem Thema, was dann sozusagen draufgeklebt wird, gibt es in Kirche oft Defizite, weil wir machen halt und reflektieren das nicht.
Und dann nutze ich die Chance, dass ich den Leuten sage hier.
reflektiert das doch mal.
Weil das tue ich in meiner Arbeit nämlich auch.
Wenn ich sage, ich mache eine Predigt mit KI, dann gehe ich ja jetzt nicht ran und sage, liebes Chetty, mach mir doch bitte eine Predigt für Ostern.
Hier ist der Predigtext oder so.
Das gab es an der Anfangszeit ganz schlimm, dass Leute einfach nur geschrieben haben, schreib eine Predigt zu Ostern.
Das war der Prompt.
Also wir wissen natürlich, Kirchenbubble rein, Kirchenbubble raus, da kommt dann halt irgendein fadenscheiniger Text.
Wenn du Glück hast, ist da eine Predigtstelle drin.
Und je weiter du den Prompt ankommst, Prompting.
Aber Prompting ist eigentlich gar nicht das Thema.
Du musst ja halt wissen, was du tust.
Und bei einer Predigt gehört halt nicht nur dazu, dass du dir was da aus dem System ziehst, sondern du musst dir halt überlegen, was steht da inhaltlich drin?
Was sind die wissenschaftlichen Hintergründe dieses Bibeltextes?
Was haben die Menschen damals bewegt?
Wer ist die Gemeinde, mit der du redest?
Was sind das für Menschen?
Was hast du für eine Botschaft?
Was willst du, was Seelsorgerliches kommunizieren und so weiter und so fort?
Das heißt, wie bei jeder guten Rede gehört eine gute Vorbereitung dazu.
Und KI kann dann zum Beispiel wunderbar in den Einzel...
Posten dieses Prozesses helfen, dass ich sage, okay, ich suche noch einen Bibeltext, hast du einen Vorschlag?
Oder ich habe hier zum Beispiel die und die Gemeinde, hast du einen Vorschlag, wie ich die ansprechen kann?
Gibt es da irgendwelche Struggles, die man vielleicht diskutieren könnte?
Also fiktive Personas zum Beispiel könnte man ja auch mit KI machen.
Das kann man machen und auf diese Weise hat man quasi eher so was wie eine Predigtwerkstatt oder eine Schreibwerkstatt und dann ist KI sozusagen nicht mehr das Ergebnis.
Ich sehe das auch kritisch, wenn Leute einfach nur sagen, hier KI mach mal für mich.
Das wäre ja jetzt auch nach der neuen Verordnung auch sozusagen deklarierungspflichtig.
Da würde ich auch sagen, da hast du nicht gearbeitet.
Wenn man aber wirklich den intensiven Prozess führt und dann wirklich auch darlegen kann, was man gemacht hat.
Also ich versuche das immer mal wieder auf meiner Webseite so mit Transparenzbericht, dass man dann so sieht, okay, aus dem Bericht, aus diesen Teilen besteht die Predigt.
Das hat der Elektropostor dafür gemacht.
Und dann kann man am Ende nämlich sagen, ah, okay, da hat er die KI benutzt, hat er selber nachgedacht.
Da hat er die KI benutzt, das hat er selber gemacht, dann können sich die Leute halt auch ein Bild machen.
Das Absurde ist nur, in meiner Wissenschaft ist es, oder in meiner Profession als Pfarrerin, ist es halt nicht so üblich, dass Leute so viel Auskunft über ihre Predigt geben.
Das heißt also früher, schon lange vor KI, gab es natürlich die Predigtvorschläge, in welchen Predigtmeditationen, so Büchern, die man so kaufen kann, dann stehen da Vorschläge, wie man den Sonntag auslegen kann.
Oder es gibt Sachen im Internet, dass man sich das da lesen kann.
Manchmal nimmt man sich eine Lesepredigt, die fertig ist und liest die einfach auf der Predigtkanzel, also hat gar nichts selber gemacht.
Was alles seine Richtigkeit und seine Bewandtnis hat, aber das Thema KI gibt uns quasi als Kirche die Chance nochmal darüber nachzudenken, warum machen wir das eigentlich alles und wie machen wir das eigentlich?
Das ist jetzt ein langer, langer, langer Exkurs.
Ich versuche es halt wirklich so einzusetzen in Kirche, dass ich wirklich sage, ich habe jetzt hier eine Aufgabe, kann KI das?
Also eher so rum, dass ich sage, mein Abfahralltag sagt, ich habe eine Konfistunde oder ich habe einen Gottesdienst, ich vorbereite oder ich habe irgendeinen Nachmittag oder irgendein Gemeindefest oder irgendwas, wo ich überlege, könnte mir KI und meinen KollegInnen in dieser Situation helfen?
Und dann probiere ich das aus, lädst mein Wissen ein, bespreche mich mit Menschen und bin quasi mit KI als Barring-Partner dann im Gespräch.
Und wie in der Bibel sagt man immer so schön, prüft alles, das Gute behaltet.
Und wie also bei jedem guten KI-Einsatz muss man halt dann wirklich schauen, was nützt es, sagt man auch irgendwann, reicht auch, den Rest schreibe ich selber.
Also ich glaube, da unterscheidet sich meine Arbeit nicht viel von vielen anderen Berufen und anderen Firmen.
Aber es ist trotzdem sehr spannend, weil halt diese ganzen vielen anderen Fragen natürlich noch eben noch obendrauf kommen.
Ja und vor allem diese Fragen, die du hast, beziehungsweise wie ihr das angeht, das ist am Ende genau das gleiche, wie ein Unternehmen das angeht.
Oder beziehungsweise diese Grundfrage nach, was lässt du die KI machen, was deklarierst du, wozu nutzt man es, die kommt überall auf.
Also ich war gestern auf einem Event Herz für Kinder von BILD quasi.
Das heißt, es war wirklich so das Who is Who des deutschen Journalismus, es war da.
Und ich habe mit vielen Journalisten gesprochen und diese Frage nach der, inwieweit Journalisten KI für ihre Arbeit nutzen dürfen, wurde mir wirklich achtmal am Abend gestellt.
Und das ist ja am Ende die gleiche Frage, die bei euch auch ist.
Und die haben eben unisono das Gleiche gesagt, was du gesagt hast, dass es gab schon immer Texte, die quasi kopiert wurden, Gedanken, die kopiert wurden.
Es hat sich quasi nur das Handwerkszeug geändert.
Und es muss so sein, dass am Ende der Journalist das unterschreibt, was oder dafür auch verantwortlich ist, was da steht.
für die Worte.
Wie derjenige dahin gekommen ist, das sollte eigentlich erstmal egal sein.
Und ich finde, das ist quasi ein sehr guter Ansatz, weil das demokratisiert ja nicht nur Wissen, sondern es ist eben ein Handwerk oder ein Werkzeug, was halt vielen vorher nicht zur Verfügung stand.
Also ich meine, ich war auch bei...
vielen Predigten in meinem Leben, die nicht so erhellend waren oder leuchtend waren.
Und die Kirche muss sich ja, also wenn die Kirche weiter so bestehen möchte und die Kirche gibt vielen Seelsorge, die gibt vielen Menschen halt.
Und ist ja auch ein, ich meine, die Caritas, glaube ich, ist eines der größten Arbeitgeber Deutschlands, oder?
Mit über 800.000 Mitarbeitenden.
Das heißt...
Also die Kirchen haben ja als Organisation ihre absolute Daseinsberechtigung und daher müssen die sich ebenfalls genauso modernisieren und darüber nachdenken.
Nur ich finde das ein sehr smarter Ansatz zu sagen, an welcher Stelle kann mir die KI helfen.
Aber das nächste Problem, und das ist natürlich als Ethiker für dich, oder finde ich halt sehr relevant, ist, wie siehst du das im Hinblick auf die...
Inhalte, die dann die KI generiert.
Weil das sprach ich ja eingangs an, dass zum Beispiel Anthropic und OpenAI und so weiter, dass die alle Räte jetzt haben mit Geistlichen aus den verschiedenen Religionen.
Also diese KI-Systeme haben alle Bias, sie haben gewisse Einfärbung.
Wie gehst du damit um?
Oder wie siehst du das?
Also bei mir ist das so, wenn ich, also ich habe in meinen Workshops immer so einen kleinen Blog, dass ich halt alle mitnehme, weil ich immer davon weiß, dass die Leute halt PfarrerInnen sind und jetzt natürlich nicht dieses IT-Hobby so.
Und dann komme ich halt auch über diese Fachdomäne, aber dann sage ich bei den Biases, auch da gilt dieses Fachdomänenwissen.
Wenn du nicht siehst, dass der Text zum Beispiel einen rassistischen Inhalt hat, wenn du nicht wahrnimmst, dass da gerade Frauen diskriminiert werden, zum Beispiel auf einer erzeugten Grafik, dieses klassische Beispiel, das Bild eines Krankenhauspersonals und dann steht da der Arzt und die Krankenschwester sozusagen.
Wenn du das nicht wahrnimmst von deiner inneren Haltung her, dann können die KI-Systeme ja ihre Guardrails haben, wie sie wollen.
dann wird das nichts.
Das heißt also im Grunde für uns als Kirche ist es die Chance, nochmal Herzensschule zu betreiben.
Das ist jetzt ein bisschen kitschig.
Weil wenn ich als Anwender nicht sehe, dass ein Problem existiert, weil ich kein Awareness dafür im Alltag habe, dann kann ich nicht hinterher sagen, die KI ist schuld, dass ich da jetzt gerade einen diskriminierenden, verletzenden Text geschrieben habe.
Denn das heißt ja, diesen Text hätte ich ja auch geschrieben, wenn ich keine KI benutzt hätte, weil ich da nicht sensibel genug bin für Dinge.
So, das heißt also, das nimmt uns als Anwender in die Pflicht und in die Verantwortung.
Das heißt, ich sage auch, ähnlich wie du es beschrieben hast, wenn ich meinen Namen drunter schreiben kann, ohne dass ich ein schlechtes Bauchgefühl habe, dann ist das das, was ist.
Weil am Ende, wenn ich auf der Kanzel irgendwelchen Quatsch predige, dann werden die Leute an der Kirchentür nicht fragen, oh, mit welcher KI haben sie das denn gemacht, sondern werden sagen, können sie nicht arbeiten?
Können Sie nicht aufpassen?
Man kann ja schlecht sagen, wie stehe ich denn da, wenn ich dann sage, ja, das tut mir leid, Opus hatte ich jetzt heute leider nicht so gut abgeliefert.
Das kann ich dann an der Stelle niemanden, vor allem, weil Leute fragen, hä, Opus, was ist das?
Das wird dann auch noch kommen.
Das heißt also, wir sind dann in der, sozusagen immer in solchen, gerade in diesen Multiplikationsberufen, also Journalismus oder öffentliche Rede oder Kirche, da sind wir in einer unglaublichen Verantwortung dafür, dass wir das Wort, was wir...
aus unserem Munde kommen lassen oder was wir ins Internet stellen oder was wir abdrucken, dass wir da gut drauf gucken.
Sei es sprachlich, also zum Beispiel diesen ganzen KI-Marker.
Jeder sieht heutzutage, ob ein Bild KI generiert ist.
Also mein Sohn, der ist acht, der sagt immer, das sieht so ein bisschen knetig aus, das ist so eine bestimmte Farbpalette.
Das sieht er schon, das finde ich voll spannend.
Aber auch bei Texten kommt das jetzt auf, weil die Leute jetzt irgendwann mal merken, dass es komisch ist.
Fiese, wir haben das ja gerade mit den Ministern und mit den Journalisten das Problem.
dass natürlich da jetzt auch eine Hexenjagd passiert, wie es damals bei den Plagiat-Jägern war.
Am Anfang war das vielleicht noch ganz gut, dass man darauf aufgemerkt hat, auch mit dem Fall Guttenberg.
Aber dann ging es irgendwann los, dass man irgendwann angefangen hat, da Leute zu diskreditieren.
Und das kriegte ja ein richtig heftiges Geschmäckle zum Schluss.
Und ich glaube, die Gefahr jetzt bei dem Thema KI und Texten ist, wenn wir jetzt anfangen, KI-Tools als Plagiats-Software zu benutzen, was ja schon OpenAI mit GPT-Zero ja schon seit 23 versucht und aufgegeben hat.
Und wir das nutzen und nicht darüber reden, warum dieser Text existiert, wofür er gut ist, was er aussagen will, sondern nur noch gucken, ob irgendwelche Satzmuster irgendwie von der KI generiert worden sind, dann verfehlt das dem Punkt.
Weil wir brauchen halt einfach, glaube ich, diese Herzenshaltung.
Und in meiner Arbeit sage ich dann halt, mach dann vielleicht auch nochmal ein Rassismus-Sensibilisierungsseminar, wenn wir das Gefühl haben, wir haben da ein Problem mit.
Wir können, glaube ich, nicht davon ausgehen, dass die KI-Modelle, dass die immer saubereien irgendwas sind.
Dafür sind die...
Daten, die mit denen das trainiert worden sind, sind halt einfach zu divers.
Und ich sage immer, so ein bisschen wie beim DeLorean, der dann da kommt, zurück in die Zukunft, da kommt der Doc, nimmt sich die Mülltonne, tut das alles in den Fluxkompensator rein, damit er wieder zurückfahren kann.
So stelle ich mir das Training von KI-Sprachmodellen vor.
Weil wer soll denn diese Millionen und Milliarden Texte lesen?
Wer soll die ethisch beurteilen?
Wer soll das filtern?
Da wird also ein riesen Homunculus gebaut und dann kommt da oben sozusagen eine kleine Schicht von Systemprompt rein, die sagt, also bitte jetzt keine bösen Dinge schreiben.
Wir sehen ja an den ganzen J-Breaks, die es da draußen gibt, was theoretisch diese Sprachmodelle ja auch machen, wenn die Leute die Intention haben, die KI so zu verwenden.
Da werden auch die besten Ethikräte von Anthropic nichts bei aufhalten können.
Ich glaube, das ist die Frage, dass wir als Gesellschaft im Gespräch miteinander sind, wie wir diese Tools einsetzen.
Und ich sehe Aufgabe von Kirche darin, dass wir bei diesem Gespräch mitmachen können.
Einfach weil ich auch öfter höre, Christoph, das ist gut, dass du das machst.
Du bist doch bei Kirche.
Ihr seid doch die Ethikinstanz.
Ihr seid doch die Moralinstanz.
Ihr müsst das doch machen.
Und da denke ich mir so, ja, danke der Ehre.
Aber es ist ja auch so, wir sind nicht die Einzigen auf der Welt.
Kirche ist mittlerweile nicht mehr in Deutschland in so einer Position, wo wir sagen könnten, wir haben Recht, wir sind die Mehrheit, sondern wir sind ein Partner von vielen in der gesellschaftlichen Bubble, womit wir mit vielen verschiedenen gesellschaftlichen Partnern gucken müssen, was wollen wir eine Welt, in welcher Welt wollen wir leben?
So vielleicht.
Ja, ich glaube, das Problem ist nur, dass die Biases, die es in den Modellen gibt, dass die gewisse Probleme amplifizieren, weil auf einmal hast du halt ein Bias on Scale.
Und das Problem ist sehr...
dominant in den USA, weil die ganz viel KI zum Beispiel für das Einstellen von Menschen, also Hiring in den Personalabteilungen nutzen.
Das heißt, dort gab es immer diese Biases oder Vorurteile oder wie auch immer man das nennen möchte, nur werden die halt durch KI derartig verstärkt, weil die eben trainiert ist auf historischen Daten und damit irgendwie Menschen, die aus gewissen Postleitzahlen kommen, von gewissen Universitäten kommen, die gewisse Namen haben.
In den USA ist ein Teil der Kultur zum Beispiel Bonics zu sprechen.
Das heißt, es ist ein Dialekte, die angelehnt sind an die ganzen alten afrikanischen Sprachen und dergleichen.
Und die werden zum Beispiel Menschen aus dieser Teil mit dieser Kultur, die Namen haben, die daran erinnern und so weiter, werden hart diskriminiert.
Und zwar auch über die Modelle, weil die systematisch nach Namen suchen, die so klingen, die systematisch nach anderen Profilen oder anderen Teilen, die halt dazugehören.
Das Problem ist dabei, dass es früher, ich will nicht sagen vereinzelte Fälle waren, aber auf einmal geht es on scale.
Auf einmal kannst du halt mit einem Klick irgendwie 50.000 Lebensläufe ablehnen, die derartige Profile haben sozusagen.
Und das ist halt mein Problem.
Und deswegen glaube ich, brauchen wir doch ein gewisses Post-Training oder wir brauchen in den Modellen irgendeine Art von, also brauchen diese Ethikräte, weil Diese Skalierung von Diskriminierung war eben noch nie so möglich.
Aber gibt es, also ich weiß es gar nicht, gibt es Ethikräte schon von der Kirche innerhalb Deutschlands, die ähnliche Funktionen haben eigentlich momentan?
Für KI, meine ich?
Also ich glaube, dass es zumindest, ja vom Ethikrat gibt es ja schon verschiedene Sachen, das ist halt nicht von Kirche, aber ich glaube, dass Kirche da noch nachziehen muss.
Also es ist aber bei Kirche höchstwahrscheinlich auch eher, dass wir da eine Veröffentlichung machen oder dass in der EKD jemand einen Text schreibt.
Also dass man jetzt so herangezogen wird, so wie das jetzt bei Entropic passiert ist.
Wie gesagt, ich habe immer meine Fragezeichen daran.
Ich finde es auch sehr, sehr merkwürdig, dass jemand von Entropic bei der Veröffentlichung der Ezyklika im Vatikan dabei saß.
Also ich sehe das so ein bisschen als, also ich habe da meine Vorbehalte.
Ich finde es gut, dass der Ansatz versucht wird.
Aber ich frage mich halt, wie viel ist davon Show, wie viel ist davon auch Whitewashing?
Und das ist ein anderes Thema.
Grundsätzlich stimme ich dir zu.
Ich glaube, grundsätzlich muss geguckt werden, wann und wo solche Systeme eingesetzt werden und dann muss es vielleicht auch eingefordert werden.
Also wir haben bei uns in der Kirche jetzt natürlich noch nicht die Situation, dass wir Personal-KIs benutzen.
Ich habe da letztens bei Menschen aus dem Personalwesen, wurde ich eingeladen, habe dazu auch ein bisschen erzählt und habe auch gesagt, naja, wenn ihr oder wenn sie, liebe PersonalverwalterInnen, da jetzt mit reinkommen, Nehmen Sie bitte Ihre Rolle als Stakeholder wahr, weil das ist ja ein ganz elementarer Teil, ob jetzt irgendwie ganz oben gesagt wird, wir setzen jetzt hier die, ich sag jetzt mal Kita-Einstellungs-Personal-KI ein, die jetzt quasi uns die Lösung macht für die 60 Anfragen pro Kita-Platz.
Es wird natürlich total schön, wenn wir in Kirche so viele Bewerbungen bekommen würden, dass wir dafür den Need hätten, das zu machen.
Aber ich glaube, das Grundsätzliche ist dabei, das müssen alle bis in die Personalabteilung halt geschult sein und auch dieses Herzensbildung haben, dass sie sagen, wenn wir so ein Tool unter ganz strengen Voraussetzungen überhaupt einführen, dann haben wir auch entsprechend die Compliance-Sessor, wie man das nennt, dann nochmal draufzuschauen, wer da eigentlich abgelehnt wird oder wer da irgendwie eingeladen wird, weil es für uns als Kirche absolut nicht in Ordnung wäre, wenn auf einmal heißt, ja, der wurde jetzt nicht eingeladen, weil er den entsprechenden Vornamen oder Nachnamen hat.
Oder weil das Geschlecht da ist.
Ich meine, Amazon hat das ja mal gehabt, mit dem Beispiel, dass das dann irgendwie dazu führte, dass die nur noch Männer eingeladen haben und man sich so denkt, okay, das ist jetzt noch aus der Urzeit der KI.
Aber nein, nein, also ich glaube, wir können einerseits durch die Ethikräte der Entropic und Claude und Codex, wie sie alle heißen, kann man viel machen.
Aber ein Unternehmen, was es darauf ansetzt, KI negativ einzusetzen, ich sage jetzt nur mal Palantir, den ist so eine...
Ist so ein System-Rail völlig egal.
Die werden das System so einsetzen, die werden das so benutzen, dass das passiert.
Das heißt also, wir können als Gesellschaft einfordern, dass zumindest es einen Mindeststandard gibt.
Es gibt ja jetzt auch schon erste Klagen, habe ich gehört in Amerika, wo jemand jetzt gesagt hat, ich habe hier eine Bewerbung um 12 Uhr nachts abgeschickt und um 1 Uhr bekam ich schon die Absage.
Das kann doch kein Mensch bearbeitet haben.
Also da gibt es, glaube ich, den ersten Case, der jetzt kommt.
Das heißt, da kommt ein bisschen was drauf.
Ich glaube, was...
Was Kirchen, also nicht nur die evangelische, sondern auch die katholische und überhaupt weltweit machen kann, ist, dass wir den Finger in die Wunde legen.
Dass wir sagen, in was für einer Welt wollen wir eigentlich leben?
Wollen wir in einer Welt leben, in denen Maschinen, sozusagen Menschen, die Entscheidungen über die Zukunft von Menschen abnehmen?
Und da würde ich sagen, nein.
Also Maschine hat den Menschen zu dienen und nicht andersrum.
Und wenn, dann muss man sich die Frage stellen, wer hat ein Interesse daran, dass zum Beispiel 50.000 Bewerbungen gleichzeitig abgelehnt werden?
Oder Menschen diskriminiert werden.
Das heißt, es muss ja irgendwo eine gewisse Regelung geben.
Und ich glaube, dass wir in Europa hoffentlich da weit genug sind mit dem AGG in Deutschland ja auch, mit dem ganzen Arbeitnehmergleichbehandlungsgesetz und so weiter.
Das ist ein großer Wurf, auch wenn es oft bürokratisch ist und wenn es manchmal sich komisch anfühlt, dass man vielleicht noch Leute einlädt, weil sie einen bestimmten Status haben.
Aber es ist ja auch die einzige Chance, dass wir auf sowas wie Gleichberechtigung oder Gerechtigkeit kommen.
Und ich glaube, da sind dann diese Tools, wie du schon sagst, natürlich Brandbeschleuniger.
Wenn man nämlich mit derselben Sorglosigkeit wie im Alltag dann natürlich KI das übernehmen lässt, dann kann die das nur sehr viel schneller.
Und dann kann die das noch viel schlimmer und noch viel größer.
Und da ist unsere Aufgabe zu fragen, ja, wollen wir das wirklich?
Soll das so sein?
Muss das so sein?
Wir brauchen am Ende Regulatorik.
Und zwar aber schnellere und bessere als diese aktuellen Entwicklungen mit dem AI-Act.
Natürlich, wenn du ein Menschenbild hast, irgendwie und davon ausgehst, dass Menschen im Grunde ihres Herzens gut sind und man mit Herzensbildung sie quasi wieder auf den rechten Pfad bringen kann, dann klar, aber ich glaube, dass, also es gibt viele Menschen, die eben nicht diese...
Dieses Mindset haben, sagen wir mal so vorsichtig.
Ich bin da kein Idealist.
Nee, nee, und die Palantiers dieser Welt, das heißt, die müssen wir selbstverständlich dazu zwingen, beziehungsweise man muss es halt outlawen, man muss es verbieten, man muss es unmöglich machen, dass Menschen on scale damit diskriminiert werden, basierend nur auf entweder historischen Daten oder eben Modelle, die in die Richtung trainiert wurden.
Aber wie siehst du das denn zukünftig?
Meinst du, dass die Modelle, und das finde ich nämlich auch einen interessanten Aspekt, die werden ja immer mehr auch als Wegbegleiter genutzt für die Menschen, als Seelsorger auch in gewisser Weise.
Wie siehst du das?
Also an vielen Stellen sind ja die Kirchen, vielleicht auch nicht so ganz in Deutschland mehr, aber...
Zumindest in Südeuropa sind die Kirchen auch immer wieder Anlaufstelle für die Menschen als Gesprächspartner, als Seelsorger und so weiter.
Ich will sagen als Therapeut.
Aber ChatGPT übernimmt viele dieser Aufgabe oder eigentlich ist Claude noch besser.
Das heißt, meine Anfrage an dich, glaubst du, dass das bleibt so?
Oder wie wird sich das entwickeln?
Glaubst du, die Kirche wird ihre User verlieren?
Ja, ich glaube, dass Kirche ihr Profil schärfen muss.
Also das ist das, was ich meinte mit KI und X.
Das heißt also in dem Moment, wo KI in die Welt gekommen ist, müssen wir Kirche komplett auf den Prüfstand stellen, weil Seelsorge passiert erstmal bei dem Menschen selbst.
Der Mensch entscheidet, ich habe jetzt gerade eine Sorge und ich muss die behandeln, sage ich jetzt mal.
Und das ist natürlich etwas, worauf wir Gott sei Dank keinen Einfluss haben, ob Menschen sagen, sie gehen jetzt zu einem Pfarrer, zu einer Pfarrerin, zu einem Priester, zu einem Menschen, der sich damit sozusagen beschäftigt.
Oder sie sagen, ich habe jetzt keinen Therapieplatz oder ich weiß gar nicht, dass es das gibt oder ich bin so beladen und mühselig beladen, jetzt muss mich ChatGPT erquicken.
Das ist natürlich total Krise, weil wir haben da keinen Einfluss drauf.
Das Schlimme ist ja, dass die Menschen, die dann wirklich sozusagen sich vielleicht im Worst Case richtig belastet fühlen und wirklich große Probleme haben, dass sie natürlich jeden Strohhalm greifen, den sie kriegen kann.
Und dann kommt der KI.
Dann kommt da vielleicht eine Gratis-KI, dann kommt vielleicht eine Werbung dafür und dann nutze ich das, weil das ist ja total verfügbar, das ist 24-7 da, dass es natürlich unendlich viele Nachteile hat, dass da Daten auf einmal genommen werden, dass ich das Persönlichste, Intimste, also Datenschutz ist ja in dem Sinne genau das Gegenteil von Datenschutz.
In dem Moment, wo ich am verletzlichsten mich fühle, mache ich mich auch verletzlich für alles, was ich dann preisgebe und das schmeiße ich einem KI-Modell in den Rachen.
Also es gibt ja schon erste Fälle in Amerika, wo Leute sich irgendwie die Rechtsanwaltgespräche, über das Chat-GPT-Poena geholt haben, weil dann der Mensch ein Rechtsanwaltgespräch mit der Chat-GPT-Maschine bearbeitet hat.
Da kamen sie natürlich nicht ran mit dem Rechtsanwalt, aber an Chat-GPT kamen sie ran.
Und wenn wir jetzt überlegen, Krankenkassen würden sich jetzt zum Beispiel diese Daten rausholen, dann wären Menschen nicht mehr versicherbar, weil dann hieß es, ach ja, aber sie machen hier, doch haben sie doch hier, sie haben doch über Dach und das geredet.
Also das ist für mich eine grauselige Vorstellung, das erstmal zu vorstellen, wie dieser Datenfluss läuft.
Und gleichzeitig kann ich diese Menschen absolut verstehen.
Und ich glaube, dass unsere Herausforderung als Kirche sein wird, dass wir wieder mehr in die Wahrnehmung der Menschen rücken.
So nach dem Motto, wir sind auch noch da für dich.
Und ich würde mich da sogar sehr davon gegen abwehren, dass wir jetzt auf einmal anfangen, auch mit KI-Seelsorge zu machen.
Weil wir würden uns nämlich genau den gleichen Problematiken hineinversetzen.
Also in der Datenschutz, da bin ich sehr paranoid.
Es gibt ja zum Beispiel viele Lösungen, das weiß ich über die Firma meiner Frau, die machen das zum Beispiel über AWS.
Dass sie ihre ganzen geheimen Personal, nicht Personaldaten, aber Patentdaten und alles, sagen wir mal, mit Entropic besprechen und das dann bei AWS hosten, damit sie halt sagen können, na gut, wenn irgendwas schief geht, dann zahlt halt Entropic den Patentausfall.
Keine Ahnung, ich kenne mich mit dem Business nicht so aus.
Aber dann habe ich meine Frau mal gefragt, sag mal, aber würdest du denn bei AWS ein Seelsorgegespräch führen, also lagern, wenn ich damit arbeiten würde?
Dann würde sie sagen, nein, um Gottes Willen, da kann doch jeder darauf zugreifen.
Weil am Ende, wenn man dann paranoid wird, irgendein Mitarbeiter aus dem Datenzentrum kann ja theoretisch vielleicht da dran.
Vielleicht gibt es irgendwo ein Trace, vielleicht gibt es irgendwo eine Logdatei.
Und dann ist zum Beispiel, da merkt man, wie gefährlich das alles ja auch irgendwo ist.
Für uns als Kirche wird es also sehr, sehr, sehr, sehr schwer sein, wenn man auf dem Level wie wir mit Seelsorgegeheimnis, Beichtgeheimnis, wenn mir jemand im Beichtgeheimnis einen Mord gesteht oder einen Mord ankündigt.
habe ich nichts in der Hand, auch nach Strafprozessordnung.
Ich darf diesen Menschen jetzt nicht anschwärzen, nichts.
Also da gibt es ja seit 60 Jahren Filme zu, weil das ein spannendes Thema ist.
Aber so hart ist bei Kirche der Seelsorge und Weichtgeheimnis Datenschutz.
Und das heißt, wenn ich dann überlege, dass Menschen in ihrer Not das alles in die KI reinschreiben, dann denke ich so, krass.
Also was haben wir für ein Gesundheitssystem?
Was haben wir für eine Gesellschaft?
Dass das der letzte Notnagel für Menschen ist, was zu haben.
Das heißt also, da sind wir als Kirche gefragt, präsenter zu werden.
Ein guter Freund hat mal den Vorschlag gemacht, wir sollten als Kirche vielleicht so eine Werbekampagne starten.
Weiß ich nicht, nur so ein Pastor, Pastorin hier mit Bäffchen, keine Ahnung.
Und dann steht da nur drunter, Ihre Kirche.
Da wissen Sie, mit wem Sie reden.
Also wirklich nur sozusagen, aber da an der Stelle wirklich zu überlegen, was ist der Kern, was ist der Markenkern, was ist der Sinn und Zweck von Kirche in dieser Gesellschaft?
Und beim Thema Seelsorge würde ich dann ganz klar sagen, da müssen wir präsenter sein.
Nicht damit wir KI streitig machen, sondern dass wir in der KI sozusagen sagen, wir haben KI in Kirche.
Lange schon, seit 2000 Jahren, also Kirche.
Das heißt, wir haben das alles schon, wir haben die Expertise, wir sind Menschen, die dafür ausgebildet werden, damit wir mit Menschen reden können.
Aber die Menschen wissen das nicht mehr und das ist ein Problem von Kirche.
Wir als Kirche haben in den letzten Jahrzehnten sehr viel an Relevanzverlust erlitten.
Da sind wir teilweise auch selber dran schuld, teilweise sind es natürlich auch gesellschaftliche Prozesse.
Aber jetzt gerade aufgrund dieser Herausforderungen, die mit solchen Chatbots, Seeldorgebots oder irgendwelchen Therapiebots, wenn sie nicht gerade von der Krankenkasse und so weiter implementiert werden, einhergehen, müssen wir als Kirche halt einfach klar sagen, Ja, da müssen wir da sein.
Wir können ja nicht die ganze Zeit nur Chachy, VT und Claude oder was auch immer verteufeln, sondern da müssen wir dafür sorgen, dass wir unsere Angebote verbessern.
Und da gibt es ja auch sehr viele Bewegungen.
Also ich habe jetzt in Berlin zum Beispiel gesehen, da gibt es eine Seelsorgeagentur.
Das heißt, es wird dann sozusagen ein bisschen Marketing gemacht darum, dass den Menschen bewusst wird, ach guck mal, wenn ich jemanden brauche, kann ich ihn ansprechen oder sie.
Und das ist glaube ich etwas, was bei solchen Transformationsprozessen, nenne ich es jetzt mal.
dann nochmal aufkommt.
Und wie gesagt Seelsorge ist etwas, wo ich sage, da brennt es, da brennt es wirklich, weil es für die Menschen, die da betroffen sind, halt einfach ein ganz großes Problem darstellt.
Also das zu meinen.
Auf jeden Fall.
Ich meine, nenne es Seelsorge, nenne es Therapie, nenne es irgendwie Personal Friend.
Das ist das größte Problem.
Also Einsamkeit ist das Tödlichste, was es gibt auf der Welt tatsächlich.
Also das Ungesundeste und so weiter.
Und das ist offensichtlich auch gerade in dieser hochdigitalisierten Welt das, was Menschen suchen.
Ich glaube, Kirche hat tatsächlich, ich würde sagen, ein Imageproblem, aber das liegt, glaube ich, mehr an der katholischen Kirche, nehme ich an.
Daran muss natürlich oder kann gearbeitet werden, wenn man das wieder aufbauen möchte und die Menschen erreichen möchte, beziehungsweise die Menschen jemanden suchen, der ihnen zuhört am Ende des Tages und dem sie sich anvertrauen können.
Ja, also ich finde diese Verbindung super spannend, wie gesagt, weil es auch ein Teil der Gesellschaft ist oder ein wichtiger Teil und eben gerade diese seelsorgerische, diese Komponente finde ich auch persönlich am spannendsten.
Ja, also vielen, vielen Dank für deine Zeit auf jeden Fall.
Vielen Dank für das Gespräch.
Ich werde mich damit jetzt noch ein bisschen weiter beschäftigen und auch gucken, was die anderen Kirchen tun in der Richtung.
Wir werden auf jeden Fall deine Website und alles weitere in den Show Notes verlinken.
Und am Ende meines Podcasts bitte ich meine Gäste mal um eine Buchempfehlung.
Und da bin ich gespannt, was du zu empfehlen hast für unsere Hörer.
Ja, ich habe was rausgesucht.
Ich bin ein großer Freund von den Büchern von Katharina Zweig.
Das ist eine Sozioinformatikerin in Karlsruhe.
Und ihr neuestes Buch heißt Weiß die KI, dass sie nichts weiß?
Und ich finde, dass Frau Zweig das immer ganz gut hinbekommt, so auf einer ganz basalen Ebene zu erklären, wie das funktioniert.
Ganz viele Mysteries debunkt, die man so bis KI haben kann.
Ja, der Untertitel sagt eigentlich alles, wofür wir Chatbots und KI-Agenten nutzen sollten, wo sie sich irren und wo wir aufpassen müssen.
Und die Lektüre kann ich sehr empfehlen.
Das ist ja spannend.
Okay, super.
Das verlinken wir auch.
Also, vielen, vielen Dank für deine Zeit und alles Gute auch für die Predigt, am Wochenende wahrscheinlich.
Ja, alles klar.
Bin ich mal gespannt.
Super, vielen Dank.
Bis bald.