# Griefbot Market Risks and Ethical Boundaries

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-09-25

## Transcript

Das KI-Update – ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
Hallo, ich bin Isabel Grünewald und dies ist unser Deep Dive zum Wochenende.
Der Verlust eines gelebten Menschen ist wahrscheinlich die universellste und gleichzeitig die persönlichste Erfahrung unseres Lebens.
Wir alle werden irgendwann im Leben mit Verlust umgehen müssen.
Jede und jeder von uns wird unterschiedlich trauern.
Weil alle Menschen das erleben, gibt es natürlich KI-Tools, die dabei helfen sollen.
Sogenannte Griefbots simulieren die Verstorbenen, versprechen Trost und eine neue Form der Trauerbewältigung.
Dr.
Michael Klenk ist Professor der praktischen Philosophie an der TU Nürnberg.
Er beschäftigt sich in seiner Forschung mit der Auswirkung von Technologie auf unsere Trauer.
Und heute erzählt er uns, wie diese KI-Tools den Trauerprozess beeinflussen können.
Hallo Michael, schön, dass du heute da bist.
Hallo Isabel, ich danke für die Einladung.
Zum Einstieg einmal, welchen Begriff bevorzugst du?
Deathbot oder Griefbot?
Ich bevorzuge den Begriff Griefbot.
Das macht deutlich, dass es um Grief, also Trauer geht und nicht zu sehr um den Tod.
Das ist auch wichtig, um zu vermeiden.
eine Assoziation mit Robotern, die zum Töten dienen.
Also in der frühen Debatte wurden Deathbots und Killerbots oft synonym verwendet.
Also Griefbots, es geht um die Trauer.
Und da möchte ich voranschicken, dass es ganz klar darum geht, meine KI-Simulation der Verstorbenen zum Zwecke der Trauerverarbeitung.
Also da kommen wir vielleicht auch noch drauf zu sprechen, aber es ist ganz klar wichtig zu sagen, dass es bei diesen...
Briefbots um Trauerbewältigung geht und nicht um, dass die ein Bewusstsein haben oder tatsächlich der Verstorbene sind, mit denen man dann interagieren kann.
Es geht eher darum, durch so eine Simulation die eigene Trauer vielleicht besser zu bewältigen.
Das ist das Versprechen auf jeden Fall.
Wie läuft denn so ein Trauerprozess ab?
So ein ganz normaler, ohne technologische Unterstützung?
Wir alle haben schon mal von den fünf Phasen der Trauer gehört.
Ist das bei allen Menschen mehr oder weniger gleich?
Nein, also dieser Trauerprozess ist empirisch nicht belegt.
Diese fünf Phasen, die sehr bekannt sind, die das Verleugnen des Todes oder des Verlustes, Wut darüber, was passiert ist, behandeln, also wie gehe ich damit um, Depression und Akzeptanz, das sind die fünf Phasen nach Kübler-Ross, und die sind empirisch nicht belegt.
Also Trauer ist vielmehr individuell und nicht linear.
Menschen gehen nicht durch diese fünf Phasen eine nach der anderen, sondern diese verschiedenen Gefühle, die da in Verbindung stehen, die treten gleichzeitig auf, teilweise gar nicht.
Sie kommen wieder.
Man war vielleicht mal schon wütend und wird es ein Jahr später wieder, vielleicht zu einem Jahrestag oder einem besonderen Moment.
Also das ist nicht linear und sehr individuell.
Okay.
Ja, nee, erzähl ruhig weiter.
Ja, gerne.
Also ich denke, es ist sehr wichtig, das zu betonen.
Das kommt auch daher, dass Frau Kübler-Ross diese fünf Phasen quasi aufgestellt hat im Gespräch mit Sterbenden.
Also die Sterbende ihr eigenes Ableben empfinden.
Und es wurde dann recht grobschlechtig auf Hinterbliebene übertragen.
Aber es gibt, wie gesagt, empirisch da keine Belege.
Und ich finde es auch wichtig zu betonen, dass wahrscheinlich der eigene Tod und das Trauern um geliebte Menschen unterschiedliche Dinge sind.
Da gibt es ein sehr gutes Zitat oder bewegendes Zitat von Mascha Kaleko.
Bedenkt, den eigenen Tod, den stirbt man nur.
Mit dem der anderen muss man leben.
Und das leutet ein bisschen an, dass es unterschiedliche Herausforderungen sind.
mit dem man da umgehen muss.
Gibt es denn eine Phase, in der Menschen ganz besonders dazu neigen, sich auch technologische Hilfe zu holen?
Wahrscheinlich müsste ich das verneinen, weil es eben diese konkreten Phasen gar nicht wirklich gibt.
Und deshalb gibt es auch in dem Sinne keine Grief-Bot-Phase, wenn man die sehr schwer unterscheiden kann.
allgemeingültig irgendwo anwenden.
Ich glaube, mit dem Phasenmodell und auch im Zusammenhang mit Trauer ist auch oft zu beobachten, dass es eine Normierung ist.
Also es wird gesagt, es gibt diese fünf Phasen und es ist sehr leicht für Menschen dann zu fühlen, ich muss entsprechend dieser Phasen trauern.
Also ich trauer falsch.
Also eigentlich muss doch jetzt mal die Wut kommen.
Wo ist denn die Wut bei mir?
Oder eigentlich muss jetzt mal die Akzeptanz kommen.
Und ich bin selbst in einer Trauergruppe, also ich bin selbst offen von Trauer oder beschäftige mich mit Trauer.
Und da ist es eine sehr bekannte Erfahrung, dass also Leute sagen, ja, da große, eigentlich große Probleme damit haben, das zu eigentlich viel unnötigem Leid führt.
In meinen Augen dieser Gedanke, ich trauere falsch, ich müsste doch eigentlich jetzt in einer anderen Phase sein.
ist es mir wichtig zu betonen, dass es diese Phasen als empirisch belegtes Modell nicht gibt.
Und in dem Sinne keine Technik-Trauerphase.
Gibt es dann bestimmte Trauerfälle?
Also ich könnte mir vorstellen, dass ich wahrscheinlich eher quasi wie so einen Abschluss bräuchte oder nochmal eine Chance mit der verstorbenen Person zu sprechen, wenn der Tod sehr plötzlich war.
wenn es meines Empfindens viel zu früh war, solche Sachen.
Also gibt es Menschen, die ganz besonders empfänglich sind für solche Griefbots?
Da gibt es auch noch keine Studien dazu.
Also es gibt noch wirklich sehr wenig Material, wo empirisch untersucht wird, wie diese Produkte genutzt werden.
Vielleicht noch mal zum Anfang zurück zur Unterscheidung von verschiedenen solcher Bots.
Es gibt diese Anwendungen, wo quasi...
tatsächlich also Verstorbene wieder oder simuliert werden, um sich mit denen zum Zwecke der Trauer auszutauschen.
Es gibt aber auch Anwendungsfälle, wo quasi Zeitzeugen simuliert werden.
Das ist besonders zum Beispiel in der Holocaust-Erinnerung ein relevanter Anwendungsfall.
Diese Menschen sterben.
Es gibt immer weniger, die es noch selbst erlebt haben und davon berichten können.
Und das ist ein Anwendungsfall, wo man...
wo es aber nicht direkt um Trauer geht, sondern eher um bestimmte Erinnerungen akkurat festzuhalten und für die Nachwelt irgendwo zugänglich zu machen.
Aber so Phasen sind schwierig zu identifizieren.
Wir wissen auch noch nicht, wie groß der Markt tatsächlich ist, also wie oft diese Griefbots tatsächlich genutzt werden.
Es gibt Zahlen aus China, dass es dort einen Markt von etwa sechs Milliarden US-Dollar gibt für virtuelle Gesprächspartner.
Darunter fällt natürlich ein viel weiteres Feld.
Da fallen auch simulierte Freunde, romantische Partner, aber wahrscheinlich auch ein Teil Simulationen von Verstorbenen.
Aber das weiß man nicht genau.
Was sind denn das für Anbieter?
diesen Griefbots, machen die eigentlich mehr so allgemein Gesprächspartner und man sucht sich dann eben oder baut sich jemanden dafür oder sind die speziell für trauernde Menschen gemacht?
Sowohl als auch.
Also einer der größten Anbieter ist Replika.
Die bieten also Replika Simulationen von Partnern, Gesprächspartnern und man kann quasi diese Partner quasi nach der Persönlichkeit ein bisschen modellieren, der gewünschten Persönlichkeit, den gewünschten Eigenschaften.
Und man könnte sich da den eigenen Trauer-Avatar schaffen.
Es gibt aber auch Anbieter, die spezifisch diese Trauer-Gesprächspartner oder Trauersimulation anbieten.
Also sowohl als auch.
Und allgemein ist es vielleicht, ist es mir wichtig zu sagen, dass es diese technologische Unterstützung bei der Trauer ja schon immer gibt und die viel breiter ist als eigentlich diese Grief-Bots selbst.
Wenn man also darüber redet, wie nutzen wir Technologie in der Trauerarbeit, dann denken wir an Fotos, Sprachnachrichten, die man sich anhören kann, E-Mails oder Briefe, die man sich nochmal durchliest, Leitungsstücke, in denen noch vielleicht ein bestimmter Duft ist.
Alles Artefakte.
die eigentlich der Erinnerung dienen, um irgendwo in den Kontakt zu kommen mit dem Verstorbenen.
Genauso kann man Räumlichkeiten sehen als Technologien, die der Trauerbewältigung dienen.
Vielleicht, dass Eltern mit einem verstorbenen Kind den Raum des Kinderzimmers genauso lassen, wie es war, als das Kind noch lebte.
Das ist auch eine Art Erhalt oder Möglichkeit, bietet sich.
in Kontakt zu fühlen mit dem Verstorbenen.
Und das ist, denke ich, auch so in meiner Forschung zum Thema sehr wichtig, dass die Griefbots oft präsentiert werden als eine Revolution.
Dass jetzt plötzlich kann man Technologie nutzen, um der Trauer beizukommen.
Aber wir tun es doch schon die ganze Zeit.
Nur eben auf andere Art und Weise.
Ja, jetzt hört man ja, viel von Außenstehenden, wenn man selber trauernder ist, von wegen, du müsstest doch schon viel weiter sein oder es ist doch jetzt schon so lange her oder soll ich das jetzt ansprechen?
Vielleicht denkt sie gerade nicht dran.
Und dann denkt man so, ich denke eigentlich immer, also auch wenn ich nicht immer darüber rede, aber das Trauer ist ja nicht weg, die ist ja immer da.
Kann man beobachten, ob solche Griefbots helfen, das zu bearbeiten und damit lernen zu leben?
Oder wie genau wirken die sich auf diesen normalen Trauerprozess, der ja eben sehr individuell ist, aus?
Leider kann ich da auch nur sagen, wissenschaftlich wissen wir da noch sehr wenig drüber.
Es gibt einfach noch, die Produkte sind noch zu neu quasi, als dass es da belastbare Studien dazu gibt.
Jetzt bin ich Philosoph, ich arbeite also nicht empirisch, das heißt, ich mache keine wo ich untersuche, wie hilft es den Leuten tatsächlich.
Und ich bin offen für die Möglichkeit, dass es für bestimmte Leute tatsächlich als hilfreich empfunden wird.
Also das ist ganz klar im Bereich des Möglichen, weil Trauer sehr individuell ist.
Und dem einen hilft es, ein bestimmtes Foto anzuschauen.
Der andere braucht gar keine Gegenstände, geht aber gerne auf den Friedhof zum Grab des Verstorbenen.
trifft sich mit Freunden und der Nächste nutzt eben einen Griefbot.
Also das denke ich sehr individuell.
Es gibt keine belastbaren Studien bisher.
Aber aus philosophischer Sicht, was wir in unserer Arbeit machen, ist, dass wir eigentlich fragen, was ist Trauer?
Was bieten Griefbots, das wir bisher noch nicht haben?
Und ist es quasi zu erwarten, dass dieses besondere Extra des Griefbots uns liefern?
bei der Trauerverarbeitung hilft.
Das ist quasi die Frage, auf die wir uns konzentrieren.
Und da ist das herausragende Merkmal der Griefbots der angebliche Realismus.
Also was Griefbots unterscheidet von all den anderen Technologien, die wir schon haben.
Fotos, E-Mails, Briefe, Kleidungsstücke, Träber, Trauerrituale.
Das ist auch eine Art Technologie.
Was Griefbots anscheinend unterscheidet, ist, dass sie den Verstorbenen besonders realistisch darstellen können.
Und das ist gerade natürlich mit neuen Technologien, mit generativer KI, die ja wirklich, wenn man mit ChatGPT zum Beispiel schon interagiert, weiß es ja wahrscheinlich, hat es jeder schon erlebt, dass man sich denkt, oh mein Gott, das ist ja, ist nicht mehr zu unterscheiden, von was ein Mensch schreiben würde.
Und da kommt, denke ich, ein bisschen der Hype her, so werden die auch vermarktet, dass man sagt, Wir haben jetzt ein neues Mittel gegen Trauer, weil wir können den Verstorbenen höchst realistisch darstellen, simulieren, genau wie der oder die Verstorbene schreiben würde oder sprechen würde oder sich ausdrücken würde.
Und da kann man sich jetzt darüber unterhalten, und das ist unser Fokus, was bringt Realismus tatsächlich im Trauerprozess?
Ist es zu erwarten, dass es einen Vorteil bringt oder dass es relevant ist für den Trauerprozess?
Da geht eigentlich so der Kern unserer Forschung im Moment dazu.
Also ich könnte mir vorstellen, das Ziel von so einem Trauerprozess ist ja eben, dass man lernt, mit dem Verlust zu leben und irgendwie den Alltag bewältigen kann und Freude im Alltag findet, ohne den verlorenen Menschen.
Aber ich könnte mir vorstellen, wenn derjenige oder diejenige...
immer noch so präsent in meinem Alltag ist, da komme ich ja nie an den letzten Schritt, dass ich lerne, ohne diese Person wieder Glück zu empfinden, oder?
Genau, also da sprichst du einen guten Punkt an mit der Frage nach, worum geht es im Trauerprozess.
Und nachdem wir jetzt dieses Fünf-Phasen-Modell ein bisschen hinter uns gelassen haben, ist so die, denke ich, akkuratere Variante.
Da habe ich ein Zwei-Prozesse-Modell.
Ein Prozess, der ist vorwärtsgerichtet.
Ich habe jetzt diesen Verlust erlitten.
Wie wird mein Leben aussehen im Lichte von diesem Verlust?
Ich habe meine Schwester sehr plötzlich verloren.
Ich hatte Pläne, wie ich mit meiner Schwester, wenn wir beide Kinder haben, wie wir dann gemeinsam mit unseren Kindern irgendwann Ausflug machen.
Das wird nicht passieren.
Wie wird mein Leben jetzt aussehen im Lichte von diesem Verlust?
Und da gibt es ein sehr gutes Bild von einem mobile, das in Balance ist und alle Teile wiegen sich gegenseitig auf.
Und ein plötzlicher Verlust, insbesondere ein plötzlicher Verlust, ist wie als ob man ein wichtiges Teil davon abschneidet und alles hängt auf einmal schief.
Und diese vorwärtsgerichtete Trauerarbeit.
Kann man eigentlich so beschreiben als einen Versuch, dieses Mobile irgendwie neu zu orientieren, dass wieder alles ein bisschen in Balance kommt.
Das ist der vorwärtsgerichtete Prozess und rückwärtsgerichtet ist es eben diese Erinnerungsarbeit.
Wer war der Verstorbene denn für mich?
Wie war das denn damals noch?
Also immer diese beiden Prozesse.
Wie sieht die Zukunft aus?
Wie war denn die Vergangenheit?
Und der Trauerprozess ist ein bisschen ein Ab.
wechseln und hin- und hergleiten, hin- und herspringen zwischen diesen beiden Prozessen.
Vielleicht auch finden die gleichzeitig statt.
Also ich kann mir vorstellen, bei dem Rückblickenden könnte es ja helfen, wenn man bestimmte Dinge mit der Person aufarbeiten kann.
Ist es dann fast egal, ob es wirklich eine realistische Antwort ist, einfach weil man es ja nur für sich selber im Prinzip aufarbeitet?
Genau, das ist, denke ich, eine sehr wichtige Frage.
Denn da sind wir wieder beim Realismus.
Also das Versprechen der Griefbots ist, wir haben hier eine sehr realistische Darstellung.
Also so ist genau, das ist genau das, was der Verstorbene sagen würde.
Deshalb soll der die kaufen und nutzen und so weiter.
Jetzt gibt es aber schon eine enorme Breite von, können wir sagen, Trauertechnologien oder therapeutischen Maßnahmen, die eigentlich so in Kontakt treten mit dem Verstorbenen.
bewerkstelligen.
Also eine ganz bekannte Übung ist zum Beispiel die sogenannte Empty Chair Exercise, also leerer Stuhl.
Der Hinterbliebene sitzt gegenüber eines leeren Stuhls, stellt sich vor, dass der Verstorbene auf diesem Stuhl sitzt und stellt sich vor, was der Verstorbene vielleicht zu einem bestimmten Thema dem Hinterbliebenen zu sagen hat.
Also es ist eigentlich, dass man hat eine innerliche Simulation von den Gesprächen.
Und da kommt man emotional, vielleicht auch ein bisschen kognitiv in Kontakt mit den Verstorbenen, stellt sich das vor und kann vielleicht Probleme noch aus der Vergangenheit, ungeklärte Fragen für sich klären.
Also diese therapeutischen Maßnahmen gibt es.
Es gibt andere Formen wie Trauerspiel, also dass es wirklich Rollenspiele gibt.
oder eben Gesprächsgruppen, wo man sich über den Verstorbenen unterhält und vielleicht auch einfach mit anderen solche Erinnerungsbewältigung oder Vergangenheitsbewältigung macht.
Und ich finde, also das gibt es und die Frage ist jetzt, gibt es irgendwelche Anhaltspunkte, dass diese Therapieformen oder Auseinandersetzungsarten besser funktionieren, wenn es realistischer ist.
Und da denke ich, ist ein eine gute...
Ein gutes Gedankenexperiment, dass man sich vorstellt, ob man selber besser trauern könnte, weil man ein hochauflösendes Foto vom Verstorbenen hat.
Also du hast ein Foto, das ist von 1950, vielleicht noch Jahr 2 ist und sehr grobkörnig.
Und so erinnerst du dich an den verstorbenen Menschen.
Ich habe ein hochauflösendes Foto.
Kann ich deshalb besser trauern oder besser mit dem Verlust klarkommen?
Weil ich mehr Details auf dem Foto habe.
Das ist sehr fragwürdig.
Und das kommt eigentlich aus der Auseinandersetzung damit, was bedeutet Trauer?
Ich muss irgendwo mein Mobile neu ausrichten.
Und ob ich da eine realistischere Darstellung habe, was genau, was der Verstorbene gesagt hat oder gesagt hätte oder nicht, das ist sehr fragwürdig.
Auf theoretischer Basis.
Jetzt werden ja auch, also ein anderer Punkt, der mir so ein bisschen Sorge bereiten würde, wäre, es werden zurzeit so viele emotional aufgeladene Ereignisse in unserem Leben oder Meilensteine sehr kommerzialisiert.
Auch befeuert durch Social Media.
Es gibt diese Gender-Reveal-Partys für Babys, die ganzen Babyshow-Hochzeiten, weiß ich nicht was, Junggesellenabschiede, Hochzeiten sowieso sind völlig außer Kontrolle geraten.
Das ist ja auch etwas, wo Leute wahrscheinlich, die leiden, die tatsächlich einen emotionalen Bedarf fühlen, bereit sind, sehr viel Geld zu investieren, in der Hoffnung oder dem Glauben, dass es ihnen dann besser geht, dass das etwas Besonderes ist.
Besteht die Gefahr, dass die Anbieter, so wie Social-Media-Plattformen das auch machen, da bestimmte Algorithmen einbauen, damit die Leute dabei bleiben und nicht irgendwann sagen, ich habe es geschafft, ich fühle mich besser.
ich brauche diesen Bot jetzt nicht mehr?
Diese Gefahr besteht absolut.
Und wenn das Geschäftsmodell von diesen Firmen davon abhängt, dass der Nutzer dieses Produkt lange nutzt, dann steht es im direkten Konflikt mit der Autonomie und eigentlich dem Ziel, diesen Brauerprozess in welcher Form auch immer zu unterstützen.
Also wenn ein Produkt angeboten wird, das eben...
von der häufigen und intensiven Nutzung abhängt, dann haben wir ein Problem.
Und da gibt es definitiv schon Anzeichen, dass das zumindest im breiteren Feld von diesen AI-Companions, also auch virtuellen Freunden beispielsweise, schon genauso passiert.
Also es gibt belastbare Studien dafür, dass es sogenannte Abschiedsmanipulationen gibt.
Das heißt, der Nutzer hat eine Interaktion, chattet, wie war mein Tag, okay.
ich muss jetzt los, ich muss zum Sport und dann kommt von Chatbot eine emotionalisierte, also was, du kannst mich doch jetzt nicht alleine lassen, bleib doch noch ein bisschen und Ziel davon ist augenscheinlich, den Nutzer bei der Stange zu halten und zu einer längeren Nutzung zu bewegen.
Also das gibt es im breiteren Feld der KI-Companions auf jeden Fall schon.
Die Geschäftsmodelle, Das sind ja dieselben Firmen, die auch diese Trauerbots anbieten.
Also die Gefahr besteht.
Und die sollte ernst genommen werden, gerade weil, wie du gesagt hast, Leute, die einen Griefbot nutzen, sind in einer wahrscheinlich sehr verwundbaren Situation.
Ja, vielleicht neben noch hinzuzufügen, also was man sich da vorstellen kann, ist ja Abonnements für den weiteren Kontakt mit dem Verstorbenen.
Wir stellen uns vor, dass wir eine realistische Darstellung von diesem Verstorbenen haben.
Wir denken, dass Realismus an sich eigentlich nicht relevant ist.
Wir können uns aber sehr gut vorstellen, dass Realismus emotional schon eine größere Bindung dann schafft.
Also das ist nicht nur irgendein virtueller KI-Agent, sondern das ist etwas, das sich ausdrückt, anhört, vielleicht sogar ausschaut, wie ein geliebter Mensch, den du verloren hast.
Jetzt werden nächsten Monat leider die Abogebühren erhöht.
Ich muss das doppelte zahlen, um weiter in Kontakt zu bleiben.
Was mache ich?
Das ist keine Entscheidung wie, nütze ich weiter Prime von Amazon oder habe ich weiter mein Netflix-Abo?
Und das wird natürlich, sollten wir kritisch sehen.
Wie gehen wir damit um, wenn diese Modelle genutzt werden?
Es gibt zum Beispiel Upgrades.
die Basisversion nutzen, die verwendet ähnliche Worte wie dein geliebter Mensch und die andere Version auch noch eine ähnliche Intonation, wenn es eine Sprachausgabe hat.
Also du kannst dir Zahlen für höheren Realismus quasi und vermeintlich größere Intimität.
Was ist mit Werbung?
Wenn deine verstorbene Oma dir sagt, wenn du eine neue Küche möchtest, ich empfehle dir ein Küchenstudio.
Das ist natürlich absurd, aber die problematischen Fälle sind, was wir eben noch nicht wissen, aber was möglich ist, dass Nutzer in einer emotional sehr instabilen Situation komplett unabhängig von der Trauer einfach eine emotionale Bindung zu diesem Chatbot aufbauen.
Und dann sagt dieses Ding, diese Simulation, die sehr ähnlich aussieht, den geliebter Mensch.
Ja, mach dir Schuldgefühle, wenn du die App verlassen möchtest oder gib dir Produktempfehlungen.
Es wird wahrscheinlich sehr schwer sein, die ganz nüchtern zu ignorieren.
Ja.
Das ist ein Manipulationsproblem.
Und wenn dann die Preise erhöht werden und man vor die Entscheidung gestellt wird, zahle ich jetzt weiter oder schalte ich jetzt, das ist ja, als würde man die Maschinen nochmal abschalten bei Oma.
Also wenn die Person dann plötzlich wieder weg ist.
Genau, das ist das Phänomen des Second Death.
Also ich habe eigentlich dann nochmal diesen Verlust auf eine gewisse Art und Weise.
Es ist ja vorstellbar, dass die Interaktionen mit diesem Grief-Bot ein Teil von meinem neuen Zukunft, ein Teil von meinem neuen Lebensentwurf werden.
Das heißt, mein Mobile hängt schief, wie richte ich mein Leben aus?
Ein Teil davon ist vielleicht, jeden Sonntag habe ich einen Chat am Abend, mit meinem Griefbot.
Und vielleicht ist das für manche Leute ein gesunder Umgang mit dieser Trauer.
Dann hat man eben das Problem von dieser Kommerzialisierung und dem kompletten Repertoire der digitalen Manipulation, wo ich und meine Kollegen auch sehr viel dazu geforscht haben, unabhängig von diesen Griefbots.
Ich denke, für uns, meine Botschaft ist auch, Ganz wichtig, dass wir hier eine große Disbalance haben.
Wir haben Versprechen, dass diese Produkte helfen bei der Trauer.
Ich bin da sehr, sehr skeptisch auf einfach theoretischer Grundlage.
Und gleichzeitig öffnen wir Tür und Tor für all die bekannten Risiken, die es damit gibt.
Manipulationsrisiken.
Und wir haben noch gar nicht gesprochen von Fragen zur Privatsphäre.
Also wie werden diese Produkte überhaupt?
Der Irrt, hat der Verstorbene zugestimmt?
Genau, also ich denke, da hängt diese aus heutiger Sicht, hängt diese Balance ziemlich schief.
Und Nutzen und Nachteile in keinem Fall bestehen, denke ich.
Ja, stimmt.
Also ich glaube, es ist wahrscheinlich nochmal was anderes, wenn man weiß, man stirbt.
an einer Krankheit und quasi selbst entscheidet, ich möchte aber, weil ich bei bestimmten Ereignissen nicht mehr dabei sein möchte, von mir einen Avatar erstellen, der dann nochmal, das wären die Ratschläge, die ich meinem Kind zur Hochzeit geben würde oder irgendwie sowas.
Oder wenn man das quasi im Nachhinein, ohne die Einwilligung der verstorbenen Personen einzuholen, die er meistens nicht mehr macht.
Also gibt es einen Kontext, wo du denkst, so angewendet wäre das wirklich sinnvoll, so einen Grief-Bot einzusetzen, um vielleicht offene Fragen zu klären oder so?
Also ich denke, das sollte man auch offen sein für Experimentieren.
Ich denke, idealerweise unabhängig von einem kommerziellen Hintergrund.
Aber vielleicht kann es sein, also was du erwähnt hast, so eine App.
freiwillig selbst erzeugtes digitales Vermächtnis, also dass man von sich selbst so einen Grief-Bot erstellt, das ist vielleicht eine Frage, wobei ich mir da gut Gedanken darüber machen würde, ob ich zum Beispiel meiner Tochter aufbürde, dass es diesen Grief-Bot von mir gibt und das impliziert ja auch schon fast so eine Art Druck, dass sie den dann später mal, kann sie den abschalten, wenn der Vater den extra erstellt hat.
Ja, das stimmt.
Da würde ich mir persönlich Gedanken machen.
Aber was man, denke ich, schauen kann, ist eine therapeutische Begleitung.
Also es gibt teilweise auch Griefbots, die eher multimodal, also von der Stimme und vielleicht auf einem Bildschirm eine visuelle Repräsentation vom Verstorbenen sind.
die aber inhaltlich von einem Therapeuten quasi bedient werden.
Das ist so eine Art Abwandlung dieser empty chair exercise, so könnte ich es beschreiben.
Das heißt, es ist nicht der Verstorbene, der komplett selbst sich vorstellt, was der Hinterbliebene, der sich komplett selbst vorstellt, was der Verstorbene sagen würde, sondern der Therapeut oder die Therapeutin spricht sozusagen in einer gleichgerichteten Art und Weise für den Verstorbenen.
Und da kann man die Griefbots nutzen, um vielleicht die Stimme zu repräsentieren oder das Aussehen.
Und das, denke ich, gilt zu untersuchen, ob das für manche Leute hilfreich sein kann.
Was man eben wegnimmt, ist diese ganze Problematik mit der Manipulation und Kommerzialisierung.
Natürlich muss auch der Therapeut damit verantwortungsvoll umgehen, das ist klar.
Also wenn man sich mit dem Thema beschäftigt, stößt man sehr schnell auf dieses Video von einer Frau in Asien, die auch so eine VR-Brille auf hat und dann ein Bild ihrer Tochter sieht, die bei einem Unfall oder einer Krankheit gestorben ist, sehr früh ein kleines Kind.
Und sie wird wahnsinnig emotional und verabschiedet sich von dem Kind.
Und ich gucke das und ich denke so, ich weiß nicht, wenn ich das von außen betrachte, ob das jetzt...
gesund ist, ob das jetzt wirklich hilft, also ob das für mich nicht noch schlimmer wäre in dem Augenblick, wo dann der Schalter umgelegt wird und die Brille abgemacht wird und das Kind ist wieder weg.
Ja, ich würde da sagen, im Einzelfall, so wie Trauer einfach individuell ist, würde ich das den Menschen überlassen.
Und wenn sie sagen, für mich war das, ich würde da kein Urteil drüber fällen.
Vielleicht war es für die Person ein ganz wichtiger Moment, es so zu tun.
Also unsere Forschung ist auch, also ich möchte auch ganz klar sagen, vielleicht ist es für manche Personen so in Interaktionen hilfreich und vielleicht kann die gut integriert werden in dieses Navigieren der Zukunft und der Vergangenheit.
Aber grundsätzlich würde ich das auf eine Ebene stellen mit allen anderen Arten von Trauertechnologien und wir haben auch keine Debatte darüber.
hilft eine Sprachnachricht beim Trauern, ja oder nein?
Na gut, das muss man sehen.
Ich glaube, das Problem und das, was wir adressieren wollen, ist, dass ein Hype geschaffen wird und ein Versprechen, dass dieser Realismus ausschlaggebend ist und vielleicht die Trauer, man überwindet die Trauer und dem zugrunde liegt einfach ein ganz falsches, uninformiertes Verständnis von was Trauer eigentlich bedeutet.
dass es eigentlich auch nichts ist, was man in dem Sinne überwinden soll oder therapieren soll.
Es ist auch eine große Frage, ob Trauer therapiewürdig ist.
Also sicherlich, wahrscheinlich gibt es ein Spektrum und die meisten Formen und Arten der Trauer so schlimm und schwierig wie sie sind, sind nicht Therapieobjekte.
Und ja, also ich möchte in der Forschung eben...
Und in der Auseinandersetzung damit betonen, wir müssen uns mehr mit Trauer an sich beschäftigen.
Und dann können wir fragen, ob dieses Heilsversprechen der Griefbots als besonders realistische Darstellung, ob das glaubwürdig ist.
Und bisher sind wir da sehr skeptisch.
Ich denke aber, dass Griefbots doch eine positive Funktion haben.
Welche?
Wir haben ja jetzt viel über die negativen Sachen gesprochen.
Wie kann es gut funktionieren?
Genau, so neben diesen Beispielen, vielleicht, dass es in der therapeutischen Begleitung eine Rolle spielen kann, die noch zu überprüfen sein wird, ein freiwilliges, selbst erzeugtes Vermächtnis, digitales Vermächtnis von sich selbst, vielleicht in der Familie, weil es eine Art Gruppen- oder Familienritual, vielleicht kann man sich das als eine Familie oder eine Gruppe überlegen, aber ich glaube, das größte...
Der größte Vorteil von dieser Technologie bisher aus meiner Sicht ist, dass wir das Thema Trauer mehr in den Fokus rücken und dass da mehr Interesse daran besteht.
Und ich denke, dass das ein größeres Thema ist, inwiefern Trauer eine Rolle in unserer Gesellschaft spielt.
Ich denke, die Debatte über Griefbots ist auch ein bisschen schon, ja.
bietet da schon Einblicke, weil ich glaube, ein großer Aspekt dieser Debatte ist davon motiviert, dass man denkt, man kann Trauer eigentlich jetzt vollständig abschaffen.
Ich habe eigentlich jetzt einen Verstorbenen, den vermisse ich.
Ich trauere.
Um damit umzugehen, erschaffe ich den einfach neu.
Und das Thema Trauer hat sich eigentlich erledigt.
Und ich denke, in dem Sinne wird in modernen Gesellschaften Tod und Trauer und Verlust.
wird ein bisschen an den Seitenrand gedrängt.
Und dass wir jetzt die Debatte über Griefbots führen, ist, denke ich, eine willkommene Möglichkeit, um über das Thema Trauer an sich zu sprechen.
Und eigentlich sich zu fragen, gibt es nicht eigentlich, wie können wir das Thema, wie können wir damit besser umgehen als Gesellschaft?
Ich denke, du hast es angesprochen schon vorher, typische Reaktionen sind, ich weiß nicht, wie ich umgehen soll mit Trauer.
Ich weiß nicht, wie ich mit Trauernden umgehen soll.
Am besten ignoriere ich es.
Wenn man mit Trauernden spricht, dann sagen die meisten, genau wie du sagst, ich erlebe das genauso.
Trauer wird immer ein Teil von meinem Leben bleiben.
Es ist nichts, was ich abschaffen möchte.
In der Trauer und in der Erinnerung drückt sich auch Liebe zum Verstorbenen aus.
mit der Trauer in einer breiteren Gesellschaft mehr zu verankern und wieder anzustoßen, da ist, denke ich, das Thema Griefbots eine positive Möglichkeit.
Wenn es auch nicht an sich um Griefbots geht.
Ja.
Du hattest jetzt einmal so abschließend schon angesprochen, so ein Griefbot in einem therapeutischen Setting.
Also ich könnte mir das auch gut vorstellen, dass es dann...
von Therapeuten für die Bewältigung einer wirklich großen Sache auf diesem Weg zum Gleichgewicht des Mobilés eingesetzt werden kann und dann wahrscheinlich auch therapeutisch begleitet werden kann, das wieder auszuschleichen, dass man nicht plötzlich den Schalter umlegen muss, weil das Abo zu steuer wird, sondern dass man da auch wieder gesund rauskommt.
Das klingt nach so einer nach einer von diesen Gesundheitsanwendungen, ein bisschen wie so eine DIGA irgendwie, die man sich verordnen lassen kann und die dann auch irgendwie ärztlich begleitet wird, die sind ja speziell reguliert.
Ist das einer deiner Hintergedanken?
Wir sollten das eigentlich regulieren, was hier gemacht wird, um Schadensbegrenzung zu betreiben, damit das nicht so einen kommerziellen Wildwuchs einfach hat?
Also da denke ich, das sind sehr...
Fragen zur Regulierung, das sind sehr schwierige Fragen.
Ich denke auf jeden Fall, wenn so ein Produkt als therapeutisches Produkt mit therapeutischem Ziel vermarktet und angepriesen wird, dann müsste sich auch den Standards von therapeutischen Produkten unterwerfen.
Und da denke ich, müsste man noch viel mehr tun.
Geht natürlich ein bisschen, die Frage, die kompliziertere Frage ist, dass...
die Anbieter von solchen Produkten oft nicht explizit sich als Therapiemittel quasi anpreisen, sie aber wohl dafür genutzt werden können.
Und das ist dann regulatorisch ein bisschen komplizierter.
Inwiefern überlässt man da dem einzelnen Nutzer die Autonomie für sich selber zu entscheiden, ob er oder sie das nutzen möchte?
Oder inwiefern greift der Staat ein und sagt, da ist so eine Gefahr dahinter, gerade mit diesen Manipulationsrisiken, dass wir regulatorisch eingreifen, obwohl es nicht explizit als therapeutische Mittel vermarktet wird.
Die Studie, die ihr gerade macht, ist ja noch nicht abgeschlossen.
Ihr seid mittendrin, ihr guckt euch das alles an.
So als Zwischenfazit gerade, was würdest du Menschen, die in einer Trauersituation sind, sagen, was sie bedenken sollten, bevor sie sich entscheiden, ob das ein Weg für sie ist oder nicht?
Oh wow, das ist eine sehr schwierige Frage.
Also gibt es vielleicht einfach so ein paar Dinge, die man Menschen an die Hand geben kann?
Denn es ist ja wahrscheinlich eine der verletzlichsten Zeiten in unserem Leben, wo wir einfach sehr emotional sind.
Ja, da möchte ich nicht als Forscher oder Philosoph sprechen, sondern als...
selbst trauernder und würde sagen, versucht nicht allein zu sein in dieser Zeit, gerade von einer akuten Trauerphase.
Und ob dann eine Nutzung oder Auseinandersetzung mit dem Thema Griefbot wichtig oder richtig für euch ist, das ist eine kleine Frage, ich denke, die größte Frage ist, versucht nicht allein zu sein mit der Trauer.
Es gibt Selbsthilfegruppen.
Es gibt Gesprächsgruppen, hoffentlich Familie und Freunde, die sich da einem annehmen und die offen zuhören für die Bedürfnisse in der Phase und versucht, da einfach nicht allein zu sein.
Und dann, denke ich, kann man sich in so einem Netzwerk und in so einer unterstützenden Umgebung kann man dann persönlich schauen, okay, möchte ich mich damit auseinandersetzen mit so einem Briefbot, ja oder nein.
Immer erstmal die menschliche Hilfe suchen, bevor man der KI sowas in die Hand gibt.
Kurz auf den Punkt gebracht, genau.
Das ist generell wahrscheinlich im Leben ein guter Rat für alle Lebenssituationen.
Immer erstmal Menschen angucken, die man vielleicht zur Hilfe beruhigen kann, bevor man alles in die Hände der KI legt.
Vielen Dank, dass du heute da warst und über dieses ja doch sehr emotionale und schwierige Thema.
gesprochen hast und berichtet hast.
Wunderbar, herzlichen Dank nochmal für das gute Gespräch und die Einladung.
Das war's für heute.
Den nächsten Deep Dive hört ihr an dieser Stelle in zwei Wochen.
Das würde mich freuen, wenn ihr dann wieder dabei seid.
Bis dahin könnt ihr natürlich mit unserem kompakten KI-Update jeden Montag, Mittwoch und Freitag auf dem Laufenden bleiben.
Und falls ihr mal einen Deep Dive verpasst habt, findet ihr eine Sammlung aller begleitender Artikel zu diesen Folgen auf heise.de slash thema slash ki minus update.
Den Link dahin findet ihr auch in den Shownotes.