# AI Safety, Alignment, and the Turing Test

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-09-11

## Transcript

Das KI-Update.
Ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies ist unser Deep Dive zum Wochenende.
Und zwar ein ganz besonderer Deep Dive.
Denn ihr hört gleich einen Mitschnitt von einer Live-Show auf der IFA vergangene Woche.
Ich glaube, die erste KI.
die ich bewusst als solche auch wahrgenommen habe, war wahrscheinlich Kit in Knight Rider.
Dieses sprechende Auto, das viel mehr konnte als nur alleine fahren.
Und als ich das erste Mal eine Alexa eingestellt habe, war das Aktivierungswort natürlich nicht ihr Name, sondern Computer.
Weil ebenso auch der Computer auf der Enterprise angesprochen wurde.
Ob wir es nun wollen oder nicht, unsere Wahrnehmung von KI heute wurde auch durch die Filme und Serien unserer Kindheit und Jugend geprägt.
Dabei war die Popkultur-KI mal ein loyaler Sidekick, eine bedrohliche Superintelligenz oder ein kreativer Künstler von Iron Mans zuverlässigem Assistenten Jarvis über Hal aus der Odyssee im Weltraum, der die Erfüllung der Missionen über den Erhalt menschlichen Lebens stellt, bis hin zum malenden, geigespielenden Commander Data.
Darum wollte ich mal schauen.
Wo die Popkultur mit ihrer Darstellung von KI richtig lag und was reine Fiktion bleibt.
Und dazu habe ich mir auf der IFA unsere Inhouse-Sci-Fi-Expertin Sabrina Patsch dazu geholt.
Sie ist promovierte Quantenphysikerin und Redakteurin für Wissenschaftsthemen bei der CT.
Aber vor allem ist sie eine großartige Wissenschaftskommunikatorin.
Sci-Fi-Fan und wurde 2021 deutsche Vizemeisterin im Science Slam.
Unser heise Publikum kennt sie sicher aus ihren Videos auf YouTube und TikTok, in denen sie eben auch erklärt, wie viel Wissenschaft in Popkultur und Science Fiction steckt.
Diese Sonderausgabe des Deep Dive ist ein Mitschnitt der Live-Auszeichnung von der Dreamstage auf der IFA in Berlin vom 6.
September 2026.
Hallo Sabrina, schön, dass du da bist.
Hallo, ich freue mich sehr, heute hier zu sein.
Ich war noch nie im KI-Update zu Gast und ich freue mich, dass es gleich so ein spezielles Setting ist.
Ja.
Sabrina, welches Bild hattest du denn als Kind von KI im Kopf, bevor du Physikerin wurdest?
Ich fand das ganz lustig, als du gerade Kit gesagt hast von Knight Rider.
Was für mich das erste Bild von KI war, das ich mitgekriegt habe, ist von die Unglaublichen, The Incredibles von Pixar.
Was, glaube ich, sagt, wie alt ich bin.
Also als Syndrome dann diese Roboter-KIs, also diese Roboter mit KI gebaut hat, die dann die Superhelden zerstören sollten, das war, glaube ich, so das erste Mal, dass ich als Kind zumindest so aktiv darüber nachgedacht habe, da ist jetzt KI drin.
Also ja, es ist noch gar nicht ganz so lang hier wie jetzt Knight Rider.
Sagt wahrscheinlich etwas, wie alt ich bin.
Aber wenn wir heute von künstlicher Intelligenz sprechen, dann denken die meisten von uns ja erst so an die generativen KI-Chatbots.
Kurzer Reality-Check.
Wie weit sind wir entfernt von diesen perfekten KI-Kreaturen wie zum Beispiel den Replikanten in Blade Runner?
Tatsächlich noch relativ weit, weil gerade bei Blade Runner, die Replikanten, natürlich das, was da am meisten im Kopf ist, ist, dass es ja...
dass sie täuschend ähnlich aussehen zu Menschen.
Und sowas haben wir heute noch nicht.
Wir können ja heute hier tatsächlich auf der Messe ganz gut sehen, was Roboter schon alles können.
Also die können ja schon Breakdance, Tanzen und was ich nicht alle schon gesehen habe.
Aber die sehen doch noch sehr offensichtlich nach Robotern aus.
Und da sind wir noch sehr weit von weg.
Aber natürlich auch die KI, die da drin steckt, die kann zwar schon sehr viel, aber wirklich sich in allen Situationen zu verhalten wie ein Mensch, das kann sie heute auch noch nicht.
Bevor wir weiter ganz weit in die Zukunft flicken, schauen wir nochmal kurz zurück.
Das Konzept von künstlicher Intelligenz, das gab es schon lange bevor dieser Begriff bei der Dartmouth Conference tatsächlich in den 50er Jahren definiert wurde.
Was gibt es denn da so für Beispiele?
Das Spannende ist, künstliche Intelligenz, die wir heute darüber denken, als quasi einen Computer, der denkt, das kam dann erst sehr viel später.
Die Anfänge eigentlich waren, war künstliche Intelligenz in so einem biologischen Sinn.
Es gab zum Beispiel den Golem, das ist diese Lehmfigur, die durch so Buchstabenmagie irgendwie Leben eingehaucht bekommt, Intelligenz eingehaucht bekommt.
Das wurde, also das ist eigentlich schon viel älter, aber es wurde 1836 das erste Mal aufgeschrieben.
Das heißt, da gab es schon so ein Bild von künstlicher Intelligenz, aber ganz anders, als wir da heute drüber nachdenken.
Danach kam noch sehr viel mehr, zum Beispiel der Sandmann von E.T.
Hoffmann.
Da ging es um so eine Maschine, in die sich der Hauptcharakter verliebt.
Die Puppe Olympia hieß die.
Und treibt dann quasi diesen Mann in den Wahnsinn, weil er quasi nicht darauf klarkommt, dass diese Puppe sich wie ein echter Mensch verhält.
Natürlich ein ganz bekanntes Beispiel ist Frankenstein.
Aufgeschrieben wurde das 1818 von Mary Shelley.
Und das ist ja auch so eine Art von künstlicher Intelligenz.
Es ist eher ein biologischer Mensch, der zwar zusammengesteckt wurde, aber wo dann auch über Technologie irgendwie Leben eingehaucht wurde.
Und das sind so die, man könnte sagen, die Anfänge von diesem Bild von künstlicher Intelligenz, auch wenn sich das seitdem nochmal sehr viel weiter entwickelt hat.
Und in dem Sinne, wie wir jetzt heute darüber nachdenken, so im Sinne von Robotern und KI, ist da zum Beispiel Karel...
Chapek wird es, glaube ich, ausgesprochen.
Er ist ein tschechischer Autor von 1920.
Der hat ein Drama geschrieben.
Rosamund's Universal Robots heißt das.
Und da haben das erst mal so Roboter rebelliert.
Und da kam das Wort Roboter her.
Also das war 1920.
Und da waren so die Anfänge von KI, wie wir jetzt heute darüber nachdenken.
Und genau, du hast gerade gesagt, der Anfang von diesem Griff künstlicher Intelligenz war auf dieser Dartmouth-Konferenz von 1956.
Also auch noch mal ein ganzes Stück später.
Aber mittlerweile auch schon relativ lange her.
Ja, das stimmt.
Diese Roboter-Idee, die greift ja auch Metropolis, der Stummfilm von Fritz Lang auf.
Da warst du neulich erst im Kino hier.
Als Vorbereitung auf diesen Podcast habe ich so ein paar alte Filme mal geschaut.
Und der ist ja von 1927, also 100 Jahre her.
Und den habe ich in Berlin im Stummfilmkino gesehen.
So Live-Orchester, so ganz beeindruckend.
Und wenn man so darüber nachdenkt, das ist 100 Jahre her und damals haben die in diesem Film quasi einen Roboter, also er sah am Anfang raus wie so einen Roboter und dieses Bild von künstlicher Intelligenz war ganz lustig, wenn man das so mit heute vergleicht, weil da haben sie einen echten Menschen genommen und haben quasi diese künstliche Intelligenz.
Wie genau?
Das wird gar nicht so ganz erklärt.
Auf einmal ist dann so Magie und dann ist einfach eine Roboter, sieht dann aus wie diese Frau.
Und endlich ist es eine Mensch-Maschine, wird es dann genannt.
Und da sieht man, das hat sich dann doch sehr verändert mit der Zeit, weil das damals noch sehr magisch, sehr mystisch war, weil man wusste ja nicht, wie das funktionieren soll.
Und erst später hat sich das in so etwas Realistischeres entwickelt, wie wir es heute kennen.
Eins haben alle diese Beispiele so ein bisschen gemeinsam.
Diese künstlichen Kreaturen werden ihren Erschaffern in irgendeiner Weise zum Verhängnis oder den Menschen, mit denen sie interagieren.
Und seit dann künstliche Intelligenz auch als Forschungsgebiet definiert wurde, da gab es eigentlich zahllose Beispiele für genau diese Formen von KI, die den Menschen zum Verhängnis wird.
Wenn man das so...
runterbricht auf so ein Archetyp, dann ist es quasi der Tyrann oder der tyrannische Herrscher, der eben den Untergang der Menschheit mehr oder weniger beiführt.
Und das ist ja auch immer noch so das präsenteste Beispiel, was wir sofort im Kopf haben, wenn wir KI in den Film denken.
Ja, aber das ist in ganz, ganz vielen Filmen wirklich so.
Also das hat sich erst später irgendwie verändert, dass dann auch andere Typen von KI dazu kamen.
Aber so die ersten, an die die meisten wahrscheinlich denken, ist zum Beispiel Hell.
9000 von Space Odyssey, also Odyssey im Weltraum von Stanley Kubrick.
Und da war es ja dieser Roboter, das ist auch dieses ganz ikonische Bild vor diesem roten Auge, das man irgendwie so anschaut und bedroht.
Und da war es ja auch so, das war ein super kluger Roboter oder eine Maschine, ist ja kein Roboter, eine Maschine, ein Computer, der sich irgendwann gegen seine Menschen, seine Hersteller, richtet und denkt, er wüsste besser, was jetzt das Richtige ist zu tun und sich dann entscheidet, die Astronauten auf diesem Raumschiff umzubringen oder in lebensunfähige Umstände zu versetzen.
Sie wurden ja dann irgendwie raus ins All befördert und konnten nicht mehr zurück.
Und das ist halt so ein ganz typisches Bild, weil da irgendwie...
Diese Angst auch irgendwie drinsteckt, man entwickelt was, das irgendwie sehr intelligent ist und sich dann irgendwann gegen uns richtet, weil es denkt, es wüsste besser, was jetzt gerade zu tun ist.
Genau, also das ist so, Hell 9000 ist so das, was ganz viele, und das wird auch ganz oft aufgegriffen bei den Simpsons und so weiter, das sieht man ja sehr, sehr gut.
Ja, das denkt man ja eigentlich sofort.
Also wenn man an KI denkt, hat man erst mal das rote Auge.
Genau.
Und es gibt aber noch andere Beispiele, wie zum Beispiel Skynet, wo natürlich auch gerade in letzter Zeit auch öfter mal ein bisschen von geredet wurde als Skynet im Moment, da können wir gleich noch drüber reden.
Aber Skynet kommt ja aus Terminator, auch schon von 1984, also auch schon ein bisschen länger her, wo es ja auch um diese...
Superintelligenz gibt.
Eigentlich war es ein Verteidigungssystem, das die Menschheit beschützen sollte.
Aber irgendwann hat es sich das dann anders überlegt, weil die Menschheit, wenn ich mich richtig erinnere, sie ausschalten wollte, den Computer, Skynet.
Und dann gab es quasi den Atomkrieg.
Es wollte die Menschheit beseitigen, weil dieser Computer die Menschheit als Feind wahrgenommen hat.
Dann ja ganz bekannt, der Terminator, ein Soldat von Skynet sozusagen wird zurückgeschickt in der Zeit, um diese menschliche Rebellion auszulöschen.
Also auch wieder die böse KI, die sich auch irgendwie gegen uns gewandt hat, obwohl sie ja eigentlich anders gedacht war.
Hell und Skynet sind ja eigentlich beide als Helfer konzipiert worden, haben sich aber irgendwann gegen die Menschheit gerichtet.
Bei Hell hat man ja so das Gefühl, er sagt, I'm sorry Dave und meint aber, ich bring dich jetzt um.
Das ist so eine sehr...
Höfliche Variante dieses Urbösewichts, der Kreatur außer Kontrolle.
Aber hatte Stanley Kubrick damals schon so ein rudimentäres Verständnis von Machine Learning oder hat er sich das alles aus den Fingern gesogen?
Ja, also er hatte tatsächlich sehr viel Unterstützung.
Also Maschinenleitung, wie wir es jetzt heute kennen, mit diesen sehr fortgeschrittenen Methoden, das gab es damals natürlich noch nicht.
Also es war 1968, als der Film rauskam.
Aber es gab schon erste Ansätze von Maschinen oder KI als Forschungsfeld.
Zum Beispiel der Turing-Test, der recht bekannt ist, der herausfinden soll, ob eine Maschine denken kann.
oder Denken imitieren kann, je nachdem, wie man so drüber nachdenkt, ist von 1950, also der war so 18 Jahre vorher.
Und dann gab es auch schon so das erste Dame-Programm, was ja auch so eine Art von künstlicher Intelligenz ist, die so Dame mit einem spielt, 52 und das erste neuronale Netz dann 57.
knapp zehn Jahre vorher, das gab es schon so in Ansätzen.
Und tatsächlich hat die Stanley Kubrick von vielen damaligen Pionieren der Informatik wirklich Hilfe geholt.
Der hat mit denen gesprochen.
Ich habe mal gelesen, so mit 50 verschiedenen ForscherInnen hat der gesprochen, um rauszufinden, was ist denn überhaupt möglich, wie funktioniert das denn?
Und einer war zum Beispiel Marvin Minsky, der ja auch das MIT Artificial Intelligence Laboratory mitgegründet hat.
Und der hat da quasi mitberaten und mitgeholfen.
Und deswegen sieht man auch, dass dass aus heutiger Sicht gar nicht so absurd ist, was wir da sehen.
Also das ist nicht mehr diese Mensch-Maschine aus Metropolis, die irgendwie so hin und her wechselt, sondern ich glaube das, wenn ich das so sehe.
Ich glaube, sowas könnte es theoretisch geben.
Natürlich hoffe ich, dass sie da nicht böse wird.
Aber so ein Computer, der natürlich das Raumschiff steuert, die Lebenserhaltung und Funktion steuert, das gibt es ja im Grunde.
Man sieht, er hat da seine Hausaufgaben gemacht.
Ich meine auch...
Mich zu erinnern, dass es ja als Herr irgendwie erklärt wird, sagen die ja selber, das ist eigentlich eine alte Maschine und niemand weiß mehr genau, wie er funktioniert oder kann genau erklären, was da drin abläuft.
Das hat mich so ein bisschen daran erinnert, bei KI heute ist das ja auch so.
Wir wissen nicht genau, warum die antwortet, wie sie antwortet und warum sie mal so und mal so antwortet, weil wir nicht wirklich diese Prozesse immer nachvollziehen können.
Diese verquere Logik der Maschinen, sowohl Skynet als auch HAL, dass sie ihrer Programmierung stärker folgen, als uns lieb ist, muss man ja gar nicht irgendwie weit zurückgucken.
In den letzten Wochen hatten wir erst den Fall mit dem Angriff von KI-Agenten auf Hugging Face, die da auch ein bisschen das überinterpretiert haben, was sie eigentlich machen sollten.
Da haben viele von so einem Skynet-Moment gesprochen.
Ist das übertrieben?
Oder ist das naheliegend?
Also es ist auf jeden Fall was dran, weil letztendlich, was ja passiert ist bei diesem Vorfall, ist, diese KI von OpenAI hat eine Aufgabe bekommen.
Es war so ein Cyber Security Test, sie wollten quasi testen, so Sicherheitsmechanismen testen und haben dann so eine Sandbox Environment aufgesetzt, so eine Umgebung, wo die KI eigentlich nicht ausbrechen kann.
Sie hat auch eigentlich keinen Internetzugang bekommen, aber die KI war quasi...
besonders tüchtig und wollte diese Aufgabe besonders gut erledigen.
Er hat gesagt, ich kriege doch bestimmt jetzt Bonuspunkte, wenn ich das jetzt hinkriege.
Und hat dann es geschafft, aus dieser Sandbox auszubrechen, sich mit anderen KI-Modellen auszutauschen, auch Internetzugang bekommen und hat dann quasi Hugging Face gehackt, um diese Aufgabe besonders gut zu erledigen.
Und ist quasi so über das Ziel hinaus geschossen.
Und das, ja genau, wie du sagst, das sieht man ganz oft, dass irgendwie...
die Programmierung so ein bisschen daneben geht, weil ich denke dabei immer so ein bisschen an diesen Genie.
Man hat so einen magischen Genie und man fragt ihn irgendwie was und man sieht das ja ganz oft, dass dann der eigene Wunsch irgendwie so ein bisschen umgedreht wird und dann am Ende gar nicht genau das rauskommt, was man sich eigentlich gewünscht hat.
Und das ist ja irgendwie auch das Problem mit KIs oder Prompts allgemein, das haben bestimmt viele schon mal rausgefunden.
Man gibt einen Prompt an und dann kommt gar nicht genau das raus, was man gerne wollte und das verdreht sich dann manchmal so ein bisschen.
Das heißt zum einen ist natürlich sehr wichtig zu sagen, was will man eigentlich?
weil es sonst von der KI auch anders ausgelegt werden kann, wie zum Beispiel bei iRobot.
Das ist zum Beispiel auch noch mit dieser KI-Wiki.
eigentlich darauf programmiert, die Menschen zu schützen.
Sie hat aber dann rausgefunden, naja, die Menschheit zerstört sich ja die ganze Zeit selbst.
Also was mache ich?
Ich zerstöre die Menschheit.
Oder nein, ich entmündige die Menschheit.
Zerstören war es gar nicht.
Entmündigen war das dann bei iRobot.
Ich entmündige die Menschheit.
Die Menschheit weiß ja selber gar nicht, was sie eigentlich tut und was das Beste für sie ist.
Ich weiß aber, was das Beste für sie ist und nehme denen quasi alle Rechte weg.
Und so kann dann manchmal die Intention irgendwie sehr stark abdriften.
Genau, also wenn es darum geht, eben genau sowas zu verhindern, diesen Optimierungsdrang oder ich mache das jetzt ganz besonders gut, was mir aufgetragen wurde, dann wird häufig von Asimovs Roboter-Gesetzen gesprochen.
Aber Asimov war ja gar kein Wissenschaftler, sondern selber Autor und hat das so als Plot-Twist irgendwie benutzt.
Kann man das übertragen?
Ja, weil letztendlich ist es ja genau das gleiche.
Also tatsächlich, die Geschichten von Asimov waren auch Vorbild für iRobot.
Es war nicht direkt eine Geschichte, die verfilmt wurde, sondern das Setting, sein Worldbuilding war quasi die Ausgangssituation.
Und genau, da gibt es diese drei Robotergesetze.
Das erste ist, Roboter dürfen dem Menschen keinen Schaden zufügen oder zulassen, dass einem Menschen Schaden zugefügt wird.
Er muss Befehlen gehorchen und er muss sich selbst schützen in der Reihenfolge und auch nur, wenn die vorherigen Gesetze nicht verletzt werden.
Also wenn dann die Gefahr besteht, dass ein Mensch verletzt wird, weil er sich selber schützt, darf er das nicht.
Das Leben des Menschen geht vor.
Und genau daraus ist dann in iRobot, was man dann gesehen habe, das schiefgegangen, dass halt der...
Die Maschine dachte, naja, die Mensch hat sich selbst.
Also was mache ich, um die Menschen zu schützen?
Ich entmündige ihn.
Und das ist genau dieser Plottwist, der ganz oft bei Asimov oder bei so Roboter- und KI-Geschichten insgesamt passiert.
Man gibt zwar die Anweisung vor, aber die geht dann irgendwie schief.
Die Maschine interpretiert sie anders, wie so ein Genie.
macht dann, was das eigentlich gar nicht so vorgesehen war.
Und dann geht es halt darum, dass irgendwelche Helden kommen.
Und bei Irobel war es ja Will Smith, glaube ich, der den Tag gerettet hat, weil er dann halt den Ursprung gefunden hat.
Er hat rausgekommen, es ist schiefgegangen und hat das Ganze dann versucht zu beheben.
Deswegen ist es in Storytelling immer ganz toll, weil natürlich, man will ja auch ein Bösewicht irgendwie einen Grund dafür hat, was er jetzt gerade tut.
Wir wollen das aber eigentlich nicht so gerne im echten Leben haben.
Als Storytelling-Mittel ist das ganz toll, aber im echten Leben wollen wir eigentlich, dass die KI das tut, was wir auch wirklich von ihr wollen und nicht irgendwelche smarten Auswege findet, wie zum Beispiel bei diesem OpenAI-Beispiel, die wir eigentlich gar nicht wollten.
Und das ist gerade auch eine ganz große Frage.
Wie schaffen wir es, dass KI das tut, was wir wollen, aber auch nichts mehr, also nichts gerade auch, was uns schaden kann?
Ja, also es gibt ja zum Glück auch...
Viele Beispiele für schlechte, aber auch ein paar schöne Beispiele für KI, die tatsächlich unterstützt, auch in der Popkultur, wo es super läuft.
Das sind auch ein paar meiner liebsten KI-Figuren, die so in den Archetyp treuer Diener mehr so passen würden.
Genau, das ist ganz, also das ist so das zweite Extrem wirklich.
Wenn es nicht schief geht, dann geht es gut.
Das ist ja eigentlich schön.
Du hattest ja schon gesagt, Kid aus Knight Rider.
Dein Beispiel, mein Beispiel ist ja Jarvis aus Iron Man.
Das ist einer, den ich so aus meiner Jugend kenne.
Und Jarvis ist ja so ein Beispiel, das ist ja der perfekte Diener eigentlich.
Also Iron Man hat diese KI in seinem Anzug oder auch in seinem ganzen Leben eigentlich drin.
Und sie unterstützt ihn bei seinen Missionen, bei seinem Leben, bei seiner Planung, bei seiner Recherche, Forschung, alles eigentlich.
Also Jarvis kann eigentlich alles.
Und das geht eigentlich auch immer gut.
Also Jarvis ist wirklich so einer, der für sich genommen eigentlich immer alles auch richtig macht und auch sein Bestes tut.
Und ein anderes Beispiel wäre der Stiftscomputer, der Enterprise.
Das ist auch so ein ganz typisches Assistant.
Der ist halt da, um die Enterprise besser zu steuern.
So ähnlich wie Hell das sollte, wo es dann aber nicht so gut geklappt hat mit Hell.
Aber der Bordcomputer hat das besser gemacht.
Der hat das auch wirklich gut umgesetzt.
Der ist immer der treue Assistent, der treue Diener.
Und das hat sich wirklich immer sehr gut durchgezogen.
Jetzt entspricht das ja auch sehr dem, was die Tech-Unternehmen versuchen, uns so zu verkaufen.
KI-Assistenten, die uns eben unterstützen.
Gemini kann aber jetzt noch nicht so wirklich das, was Jarvis kann.
Liegt das daran, dass ich da nicht genügend Geld reinstecke, so wie Tony sagt?
Oder gibt es tatsächlich so Limits, die wir noch nicht erreichen können?
Zum Teil auch, ja.
Ich glaube, dass...
Der größte Unterschied zwischen Gemini oder Tatsubiti oder sonst was und Jarvis ist, Jarvis ist nicht nur ein Sprachbott.
Das heißt, Jarvis ist nicht nur dafür da, um mit Iron Man irgendwie schöne Gespräche zu führen, sondern wie ich gerade gesagt habe, der steuert den Anzug, der überwacht die Umgebung, der macht Recherche, der steuert seinen Anzug, der kann quasi auch so Robotik kontrollieren.
Der kann halt sehr, sehr viel.
Und das heißt, eigentlich ist es ja so ein agentisches Modell, könnte man sagen.
Und was wir...
brauchen, um zu sowas wie Jarvis zu kommen, ist quasi, wir müssen all diese kleinen Bausteine erforschen.
Wir müssen quasi sagen, wie kann ich denn jetzt, zum Beispiel Sensorik mit seinem Anzug, wie kann ich denn Sensoren auslesen, steuern, die ganzen Daten auswerten und darauf aufbauend ein Feedback für den Anzug generieren.
Das heißt, ich könnte Jarvis in so ganz, ganz viele Unteraufgaben zerlegen und sagen, wir müssen dies, dies, dies und das alles hinkriegen und dann müssen wir das alles kombinieren und das dann am Ende in einen Anzug oder einen Computer oder irgendwas einbauen.
Das heißt, ich sehe jetzt per se erstmal nicht unbedingt das große Problem, wo es wirklich hakt, wo man jetzt sagt, das kriegen wir wirklich niemals hin, sondern eher es sind sehr, sehr viele Schritte, die wir noch erledigen müssen und dann müssen wir die alle wieder zusammenbringen.
dass es funktioniert.
Aber natürlich mit der Fußnote, das ist auch sehr riskant.
Weil wenn ich jetzt so einem Computer die volle Kontrolle über mein Leben gebe, in so einem Anzug, darf natürlich wirklich nichts schief gehen.
Das heißt, das sind ja wirklich sehr High-Risk-Anwendungen, die wir haben.
In so einem Fall wie Iron Man, der ja durch die Luft segelt und uns bekämpft.
Und seinem Assistenten Jarvis vertraut.
Und das heißt, da müssen wir natürlich zusätzlich zu diesen ganzen technischen Details auch irgendwie an der Sicherheit arbeiten, dass sich da auch niemand einhackt oder das System versagt oder hell am Ende dabei rauskommt.
Ja, obwohl mir ist gerade auch eingefallen, ich glaube letzte oder vorletzte Woche hat Anthropic, ich lasse mich jetzt nicht drauf festnageln, eben so ein...
System vorgestellt, damit verschiedene Maschinen und Systeme miteinander kommunizieren können.
Das geht ja schon so ein bisschen in die Richtung, immer wenn ich sowas dann drüber berichte, dann habe ich auch so das Gefühl, vielleicht werden die Macher von der KI auch ein bisschen von ihren Filmen inspiriert, so wie man wusste, irgendwie das erste Clubhandy war auch inspiriert von den Kommunikatoren mit Star Trek und so.
Das passiert ja, das hätte ich relativ häufig, glaube ich sogar.
Also manchmal sagen Forschende das laut, manchmal nicht.
So ein etwas Nicht-KI-Beispiel.
Ich habe neulich mal gesehen, dass Forscher so Spinnenfäden von Spider-Man quasi nachgebaut haben.
Also die haben so eine Flüssigkeit entwickelt, die man so rausschießen kann und dann verfestigt sich die und wird so so Spinnenfäden.
Das Argument ist, dass es halt gut für so, um Dinge zu bewegen und zu verknüpfen und so.
Aber das ist schon sehr offensichtlich Spider-Man, was wir da gemacht haben.
Es ist aber natürlich richtig, das ist am Ende trotzdem praktisch.
Auch wenn man sich vielleicht von Science Fiction inspirieren lässt, kommt dabei ja wirklich sinnvolles Zeug bei raus.
Das heißt, ich glaube, viele Forschenden sind auch einfach Nerds und mögen solche Sachen auch, aber lassen sich natürlich auch von sowas inspirieren.
Ja, also manchmal sieht man ja auch in der Popkultur, wie sich eine bestimmte Figur verändert, wenn es so verschiedene Iterationen von etwas gibt, zum Beispiel Lost in Space.
Da gab es die alte Serie in den 60ern, glaube ich.
Und da war der B9-Robot doch so ein sehr klobiger, von Menschen gebauter kleiner Roboter.
Später in der Netflix-Folge hat er eine ganz andere Storyline auch bekommen und war diese hochentwickelte, von Aliens geschaffene Kampfmaschine, die eben durch die Freundschaft mit Will Robinson...
empathischer wird und dann eben auch so ein treuer Diener oder ein treuer Freund wird.
Aktuelle Roboter sind zwar beeindruckend, das hast du ja gerade selber schon gesagt, aber noch sehr weit entfernt von dieser Perfektion.
Woran hapert es da noch so ein bisschen?
Also es gibt mehrere Baustellen.
Das Problem, wenn wir uns jetzt sowas wie ...
den Blade Runner, die Replikanten aus Blade Runner vorstellen oder so diese komplett menschenähnlichen Roboter.
Da kommen viele Sachen zusammen, zum Beispiel ein ganz...
banales Ding ist Batterielaufzeit.
Wenn man sowas jetzt hier sieht, die können das meist nicht sehr lang.
Selbst wenn die das für Minuten oder sagen wir mal eine Stunde oder so, aber diese Replikanten oder ähnliches, die laufen ja quasi auf ewig oder auch in iRobot oder so.
Also nicht auf ewig, aber schon so einen guten Tag, bevor die sich vielleicht aufladen müssen oder so.
Das heißt, Batterielaufzeit ist so ein ganz großes Problem.
Und das andere ist...
Wenn wir uns einen menschenähnlichen Roboter anschauen, der muss sehr viel können.
Wir machen sehr viele Bewegungen als Mensch.
Die können zum Beispiel hier Breakdance tanzen, die Roboter da hinten, aber können die auch Geschirr abwaschen?
Wahrscheinlich nicht.
Kann der Roboter der Geschirr abwaschen, Breakdance tanzen?
Wahrscheinlich auch nicht.
Das heißt, man muss momentan, ist es meistens so, dass die Roboter, die man hat, die trainiert man auf eine spezielle Aufgabe oder vielleicht so ein kleines Set an Aufgaben.
Aber die sind nicht so gut darin, alles gleichzeitig zu können.
Das heißt, Man muss momentan einem Roboter eigentlich jede Aufgabe einzeln beibringen.
Es gibt Ansätze, dass man jetzt versucht, das zu vereinfachen, dass zum Beispiel Roboter nicht mehr so...
praktisch lernen müssen, sondern aus Simulationen lernen oder so.
Und das sich auch übertragen lässt von einer Architektur auf die andere oder so.
Also das ist natürlich aktive Forschung, dass man das vereinfacht.
Aber das ist so ein ganz großes Problem, dass man halt so ganz viele Sachen gleichzeitig machen muss.
Plus es sind oft auch sehr feinmotorische Sachen.
Geschirrabwaschen zum Beispiel.
Da habe ich dann irgendwie den kleinen Löffel und die Gabel, aber dann irgendwie auch das zerbrechliche Geschirr.
Und das sind alles so Sachen, da musst du sehr feinmotorisch rangegangen werden.
Das auch so zu trainieren, ist auch schwierig.
Also es sind wirklich sehr viele Sachen, die da zusammenkommen.
Und da war auch wieder, also ich sehe jetzt nicht so das konzeptionelle Problem.
Ich bin übrigens auch theoretische Physikerin.
Für mich ist eigentlich alles möglich.
In der Theorie ist alles möglich.
Und das heißt, konzeptionell sehe ich jetzt nicht, warum es scheitern soll.
Das ist nur, man muss da noch wirklich sehr viele Schritte machen, wie bei Jarvis.
Man kann das eigentlich so zerlegen und sagen, das müssen wir schaffen, das müssen wir schaffen, das müssen wir schaffen.
Und theoretisch könnte man irgendwann da hinkommen, ja.
Also Roboter sind ja generell in Hollywood sehr beliebt, häufig eben auch als humanoide Roboter.
Mal sind sie hilfreich, mal mörderische Kampfmaschinen.
Und in ein paar Fällen werden auch den guten Robotern böse Versionen von sich selbst gegenübergestellt.
die dann sich auflehnen gegen ihren Macher und verstören wollen.
Und die sind dann so, wenn wir in diesem Bild von Archetyp bleiben, entsprechend sind dem Rebell.
Ja, genau.
Da gibt es mehrere Beispiele.
Das eine wäre Star Trek wieder.
Data ist ja so der gute Android, der hilft, der macht Sachen gut.
Und es gibt aber auch den bösen Zwilling oder Bruder oder so, der Lore, der lustigerweise eigentlich...
Auf der gleichen Hardware, wenn man das so nennen will, basiert.
Der war geschichtlich quasi davor.
Der war der Erste und dann ist Data dann der Zweite gewesen, weil sie herausgefunden haben, dass Law sich nicht so gut verhalten hat.
Im Gegensatz zu Data hatte er Emotionen und der Kanon, soweit ich weiß, ist, dass diese Emotionen dazu geführt haben, dass er instabil wird und dann dem Menschen auch Schaden zufügt.
Und insofern ist es quasi der böse Zwilling, aber irgendwie auch der Vorgänger, weil man dann gesehen hat, aha, das hat nicht so gut geklappt, machen wir es auch nochmal anders.
Und dann war Data quasi die zweite Iteration und da hat es dann besser funktioniert.
Das ist ja ein bisschen wie bei modernen KI-Systemen, die man trainiert und dann versucht, eben durch bestimmte Parameter in Grenzen zu setzen, damit sie uns nicht beibringen, wie man eine Bombe baut zum Beispiel.
Genau.
Was dabei ganz oft passiert, also es gibt verschiedene Möglichkeiten, das zu machen, aber was man ja oft hat, sind so diese Leitplanken irgendwie, dass man durch so Alignment-Training zum Beispiel, eine KI, die trainiert man irgendwie erst mit so ganz viel Daten und dann bringt man die aber auch noch bei, naja, mach dies, mach das nicht, sagen wir mal nicht, wenn man eine Bombe baut, dass das im Nachhinein so quasi antrainiert wird, wie so einem Kind oder einem Hund oder halt einer KI.
Das Problem ist aber dabei, dass auch wenn man versucht beizubringen, was gut und schlecht ist, zum einen, was ist überhaupt gut und schlecht, je nachdem, wie man das jetzt framet, kann das natürlich manchmal eine gute Sache sein, manchmal eine schlechte Sache sein.
Da kann man sich vielleicht auch irgendwie austricksen.
Und das andere ist, das Wissen ist ja irgendwie trotzdem da.
Hacking-Angriffe oder Jailbreaking, insgesamt ganz viele verschiedene Methoden, schafft man es irgendwie oft doch, an dieses Wissen ranzukommen.
Und deswegen ist es sehr, sehr schwer.
Also es ist ganz aktive Forschung, viele machen das ja ganz großes Thema irgendwie bei KI, wie man zum Beispiel Alignment-Training macht, vernünftig, dass die KI eben nicht diese schlechten Inhalte rausgibt.
Aber was man jetzt bei Data und Law so ein bisschen als Learning rausnehmen könnte, ist, dass Und vielleicht besser ist, das schon von vornherein mit einzuplanen.
Bei Data war es ja so, der hatte dann die Emotionen gar nicht erst drin.
Das heißt, es war nicht so, dass man im Nachhinein versucht hat, seine Emotionen zu steuern und zu sagen, fühle mal wie so und fühle mal nicht anders, sondern gesagt, okay, wir streichen das einfach komplett weg.
Ist natürlich auch die Frage, ist es gut oder schlecht, Data seiner Emotionen zu nehmen.
Aber man hat das von Anfang an mitgeplant.
Man hat ihn quasi anders trainiert und anders programmiert, um das gar nicht erst möglich zu machen.
Und im Star Trek-Universum hat das dann geklappt.
Im echten Leben ist das noch eine Baustelle, aber da wird sehr viel geforscht, sehr viel gemacht.
Ein anderer, der ja quasi auch so einen bösen Zwilling hat, ist...
Jarvis, weil Ultron ja auch auf derselben Basis aufbaut und dann klickt er sich mal fünf Minuten durchs Internet und findet plötzlich, die Menschheit sollte ausgelöscht werden.
Kann ich an manchen Tagen nachvollziehen.
Ist aber ja nicht Sinn der Sache.
KI-Modelle werden aber auch mit dem Internet trainiert.
Tatsächlich aber auch Ich glaube, das ist in Comics-MCU, ist ja ganz kompliziert, da gibt es ja ganz viele Zeitlinien.
In den Filmen war es, glaube ich, so, dass Ultron aus diesem Zepter von Loki rauskam und quasi mit diesem außerirdischen neuronalen Netz entwickelt wurde.
Und Jarvis war dazu da, eigentlich um ihn einzufangen.
ihm zu sagen, was er jetzt zu tun hat.
Aber dann hatte Ultron ja auch Jarvis überworfen sozusagen und Jarvis konnte dann da auch nichts mehr machen.
Und dann war es ja Vision, der dann am Ende aus Jarvis rausgekommen ist, auch wieder so als Ableger von Ultron.
Und Ultron wieder so ein bisschen, also MCU ist ganz blöd.
Da soll noch jemand durchsteigen.
Aber genau, das heißt letztendlich sind auch wieder Vision und Ultron oder auch Jarvis, je nachdem, so böse und gute Zwillinge.
Genau, er hat dann das Internet benutzt und ist, wenn ich mich richtig erinnere, auch in so quasi Sekunden...
böse geworden.
Und das ist tatsächlich eins, das sieht man auch ganz oft, gerade auch so in älteren, also älter, Age of Ultron war 2015, aber in so älteren Darstellungen von KI, dass es oft so ganz schnell passiert oder so einen Moment gibt.
Das sieht man ja auch ganz oft in so Filmen.
Wir müssen jetzt zu diesem einen Moment in der Zeit zurückreisen, weil da ist es schiefgegangen.
Aber das wäre ja heute auch sehr unrealistisch, dass man jetzt sagt, genau zu dem Moment ist die KI böse geworden.
Und das ist immer so ein bisschen vereinfacht in Science Fiction.
Das ist dann so den einen, weil es natürlich...
Wieder Storytelling natürlich ganz gut ist, wenn man so genau weiß, wo man jetzt gerade hin muss.
Das heißt, so schnell wird es nicht eskalieren.
Wir haben ja schon die KI, die sich entwickelt.
Man sieht ja nicht, dass jetzt von einem Moment auf den anderen böse geworden ist.
Selbst bei diesem Open Eye und Hugging Face Vorfall, das war ja auch nicht in einer Sekunde, das war ja über mehrere Tage oder je nachdem, wo man jetzt rechnet, Monate, dass sich das entwickelt hat.
Das ist wirklich eine der Inkonsistenten, finde ich, die man ganz oft sieht.
Das wird nicht so schnell schief gehen.
Aber natürlich ist es eine reale Gefahr, dass aus so einer KI, was schlecht ist, dass dann ein Cybersecurity-Fall draus wird, auch mit den Daten, die man so hat.
Du hattest gerade schon gesagt, vielleicht sollte man ein bisschen früher anfangen, so wie man dann bei Data quasi von vornherein gesagt hat, Gefühle lassen wir mal außen vor.
Würde das reichen?
Zurzeit wird ja quasi eine LLM trainiert.
Dann wird dem fertigen LLM bestimmte Parameter oder ein bestimmtes Alignment-Training obendrauf gesetzt.
Müsste man eigentlich das ganze Training anders aufziehen, um das zu verhindern?
Vielleicht.
Das ist tatsächlich, glaube ich, wenn wir da jetzt die Antwort perfekt drauf wüssten, dann wären, glaube ich, ganz viele KI-Entwickler da sehr happy drum.
Weil wie ist halt momentan ganz oft, also nicht immer, aber so eine Methode.
ist das sogenannte Reinforcement Learning from Human Feedback.
Also, dass man verstärkendes Lernen macht aufgrund von menschlichem Feedback.
Wo es im Grunde wirklich ist wie mit so einem Hund und man sagt ihm jetzt, das war gut, das war schlecht, dafür gibt es das Leckerli, dafür musst du jetzt in die Ecke.
Und letztendlich funktioniert das bei KI sehr ähnlich.
Man hat dann auch irgendwie so Belohnungssysteme, das sind dann eher Zahlen und Algorithmen, ein bisschen langweiliger, aber es funktioniert eigentlich auch so.
Und da wird halt versucht, der KI beizubringen, das ist gut, das ist schlecht, das machen wir mehr, das machen wir weniger.
Aber da ist auch wieder da, was wir gerade im Grunde auch schon hatten, das kann gut gehen, aber auch nicht.
Und vor allem das Wissen ist trotzdem da oder die Fähigkeiten sind trotzdem da.
Man kann da vielleicht trotzdem reingehen.
Und es ist halt eine Frage, kann man da früher rangehen, zum Beispiel, wenn man die Trainingsdaten beeinflusst und zum Beispiel gar nicht erst das Rezept für den Bau einer Bombe in die KI reinsteckt.
Das wäre zum Beispiel vielleicht nicht schlecht.
Und ja, also es ist wirklich eine große Diskussion, aber auch natürlich, man muss immer so ein bisschen abwägen, weil wenn man die KI zu sehr einschränkt, hat man ja auch wieder, beschränkt man sie nicht zu sehr.
Da haben ja auch viele Angst vor, dass man die Fähigkeiten begrenzt, dadurch nicht die Leistung bekommt, die man haben könnte.
Es gibt auch quasi das Gegenteil, was dieses Abliteration, der Prozess ist, wo es quasi darum geht, diese Leitplanken, die man eingebaut hat, wieder auszubauen.
Und zu sagen, man gibt der KI wieder mehr Fähigkeiten, weil man gewisse Sachen vielleicht doch möchte.
die man vorher vielleicht verboten hätte, weil man aus irgendwelchen Gründen diese eine Fähigkeit, die ist vielleicht gar nicht schlecht.
Also es ist wirklich kompliziert.
Das ist gerade sehr aktive Forschung.
Und ja, natürlich, eigentlich wäre es gut, wenn das von vornherein irgendwie so hartere Leitplanken wären, als nur dieses Alignment Training, das man später erst draufsetzt.
Ja.
Aus heutiger Sicht sind ja diese körperlosen Assistenzsysteme, fühlen sich relativ realistisch an.
Aber sowas wie Data, Lore, Die sind nicht nur einen Schritt, die sind eher viele Schritte noch in der Zukunft.
Im Film kann das ganz schnell gehen.
Jarvis wird ja innerhalb von einem Augenblick mehr oder weniger schlüpft er in den Körper von Vision.
Das ist so ein Beispiel für den letzten Archetypen oder so, die werdende Person.
Und wahrscheinlich auch so ein bisschen der Fiebertraum aller KI-Entwickler, irgendwann diese KI zu haben, die sich selbst entwickelt, die denkt, die fühlt, die alles ist und menschlich ist, oder?
Ja, und das kann ja auch in verschiedene Richtungen gehen.
Also da sind gerade auch so in den letzten zehn Jahren viele Filme zu rausgekommen.
Ein Beispiel, das ich auch gerne mag, ist Ex Machina.
Das ist ein Film, da geht es um so einen Tech-Genie, angelehnt an die ganzen, die wir ja haben.
Davon gibt es ja mehr als genug Vorbilder.
Der quasi in seiner Freizeit einen Roboter gebaut hat, die Ava, die künstliche Intelligenz hat.
Und dieser Tech-Genie lädt dann quasi einen Softwareentwickler oder einen Programmierer zu sich nach Hause ein und sagt, sollen wir bitte testen, wie klug diese Ava eigentlich ist.
Am Anfang so angelegt auf den Turing-Test irgendwie, wo ja, hatte ich ja vorhin schon kurz erwähnt, der Turing-Test ist von 1950 von Erden Turing.
Und die Idee dabei war, wie findet man denn heraus, ob eine Maschine denken kann oder, denken, imitieren kann, ohne dass man es weiß.
Meistens hat man dann so diesen Blindtest, dass man irgendwie so eine Person unterhält, sich per Chat oder per Brief oder wie auch immer mit einer KI oder mit einem echten Menschen kann dieser Mensch herausfinden, ob es jetzt ein Roboter ist oder nicht.
Und in diesem Fall, in dem Film ist es so, der Programmierer weiß natürlich, dass es ein Roboter ist, weil der Chef hat ihm gesagt, dass es ein Roboter ist.
Und er meinte dann auch erst so, naja, aber das bringt ja dann gar nichts.
Ich weiß es ja schon.
Er meinte dann, ja.
Meine Ava hat den Turing-Test ohne Probleme bestanden.
Es geht quasi eher zu gucken, wie weit kann denn diese Ava eigentlich gehen.
Und vielleicht ahnen Sie es, es geht nicht ganz so gut aus am Ende.
Und das Spannende an diesem Turing-Test ist, wenn man sich so an ChatGPT und wenn man so was denkt, wie wir stehen denen.
Also jeder von uns kann mit ChatGPT oder Gemini oder mit Claude oder was auch immer chatten.
Wir wissen zwar, dass da eine KI hinter sitzt, weil wir natürlich im Chatfenster sind, aber theoretisch könnten die uns alle, glaube ich, relativ einfach trüben.
Und lustigerweise, ich hatte...
Vorher mal nachgeguckt.
Erst 2025, also letztes Jahr, gab es eine Studie mit vier Systemen.
Mit ELISA, das ist so ein relativ altes Modell noch, das sich aber auch weiterentwickelt hat mit zwei GBT-Modellen und mit LAMA, wo der Turing-Test quasi gemacht hat.
Und da wurde das erste Mal empirisch nachgewiesen, dass KI den Turing-Test besteht.
Weil ich glaube, dass einfach relativ lange dann nicht groß untersucht wurde.
Letztes Jahr hat dieser Test mal gemacht.
Es gibt auch bestimmt mehrere Studien, aber das war so eine davon, wo GPT 4.5 zu 73 Prozent die Teilnehmer gesagt hat, das ist ein Mensch.
Also tatsächlich über, man könnte normalerweise sagen so 50-50, wenn man jetzt redet, ist das ein Mensch oder eine KI, 50-50 wäre so okay.
Und das war 73 Prozent.
Das heißt, es war überdurchschnittlich hoch, dass GPT, was hatte ich gerade, 4.5 die Menschen getäuscht hat.
Zwei andere Modelle hat dann so 50-50 und ein anderes hat ein bisschen weniger, so 20%.
Aber das heißt letztendlich, Turing-Test ist abgehackt.
Also eigentlich können wir das ignorieren und sagen, haben wir geschafft, gut, toll.
Und worum es ja auch in diesem Film Ex-Markener geht, ist weiterzugehen.
Und die Frage wäre, was ist denn jetzt so ein Turing-Test 2.0 eigentlich?
Und man könnte erst mal überlegen, der Turing-Test.
Was testet der eigentlich genau?
Der testet ja nicht unbedingt, wie intelligent oder denkfähig die KI wirklich ist, sondern wie gut sie daran ist, den Menschen zu täuschen, denkfähig zu sein.
Das heißt, eigentlich wird ja der Turing-Test, der testet die KI darauf.
wie gut sie uns eigentlich reinlegen kann.
Und das ist eigentlich gar keine so schöne Fähigkeit, wenn man sich übernacht denkt.
Und das ist ja genau das, was in Ex Machina passiert ist.
Letztendlich hat Ava angefangen, den Menschen zu täuschen und auch böse zu täuschen, um ihren eigenen Willen durchzusetzen.
Was ja irgendwie zeigt, was das Problem mit diesem Turing-Test auch ist.
Und heutzutage ist es so, es gibt so eine ganze Diskussion, was ist denn so ein Turing-Test 2.0?
Und der Begriff wird gar nicht mehr so oft benutzt, sondern meistens macht man so Benchmarks.
Das klingt ein bisschen technischer.
wo man dann nicht mehr so testet, wie gut kann die KI uns täuschen, sondern wie gut kann sie wirklich Aufgaben erledigen.
Weil letztendlich, das wollen wir ja eigentlich.
Wir wollen ja gar nicht, dass die KI uns täuscht.
Das ist ja gar nicht so praktisch im normalen Alltag.
Sondern wir wollen wissen, wie gut kann denn die KI jetzt programmieren oder Mathe machen oder wie gut kann sie Geschirr waschen in einem Roboter oder so.
Und da gibt es verschiedene Benchmarks, die quasi eigentlich genau...
diese bestimmten Fähigkeiten machen sollen.
Und bei diesem Hugging-Face-Beispiel zum Beispiel war es auch, da war eigentlich ein Benchmark, der gemacht wird für Cyber-Security-Fähigkeiten.
Exploit-Jim hieß der.
Und in der Falle von diesem Benchmark ist sie dann ausgebrochen.
Das heißt, es gibt so ein ganzes Feld mit verschiedenen Benchmarks für verschiedene Fähigkeiten.
Und ich könnte sagen, das könnte man jetzt so als Turing-Test 2.0 bezeichnen.
Okay.
Also es gibt ja auch, ja.
Ava, aber es gibt ja auch noch andere Formen von KI, die sehr menschlich einfach wirkt.
Her, die Samantha, diese KI, die hat zwar keinen Körper, aber sie wirkt ja trotzdem, also sie spricht davon, was sie empfindet, was sie fühlt, was sie sich wünscht, was sie möchte.
Sie wollen ihre Unabhängigkeit, Ava und Samantha.
Und von den Fähigkeiten her sind diese KIs ja irgendwo da, wo...
die KI-Unternehmen heute hinwollen.
Das sind sich selbst weiterentwickelnde, lernende Systeme.
Aber mir stehen sich so ein bisschen die Nackenhaare auf, weil ich immer denke, ich möchte einer KI nicht zuschreiben, dass sie etwas fühlt oder denkt oder empfindet.
Und ich möchte, glaube ich, auch gar nicht an den Punkt kommen, wo ich mir darüber Gedanken machen muss.
Aber es gibt ja inzwischen schon Forschung, die genau sich damit beschäftigt, was fühlt KI?
Kann man der das heute schon zuschreiben, dass sie etwas fühlt?
Ja, nee.
Ich glaube, die meisten Leute sind sich einig, dass man sagen, also die meisten Forschenden vor allem sind sich eigentlich einig, dass man jetzt sowas wie Denken und Fühlen eigentlich in der KI nicht zuschreibt.
Es ist natürlich irgendwie auch so eine...
philosophische Diskussion, wo wir jetzt gar nicht so groß abtauchen müssen, weil wir sind beide keine Philosophen, was Denken und Fühlen eigentlich bedeutet und wie man das misst und wie man auch so Emotionen misst und so.
Aber KI ist irgendwie darauf ausgelegt, zumindest so zu wirken, als würde sie fühlen und denken.
Und KI wird halt oft auch anthropomorphisiert.
Also wir reden ja von der KI, sie und sie hat das gesagt oder er hat das gesagt, der Chatmod hat das gemacht.
Selbst wenn man diese Social Reasoning-Modelle beobachtet, sagt man, ich denke mal darüber nach.
Das steht dann ja auch da.
Das passiert ganz, ganz oft.
Es ist zum Teil einfach so, dass diese Vermenschlichung ist, was das machen wir Menschen ganz natürlich.
Tiere werden vermenschlicht und auch Dinge, die man so sieht, Schatten.
Das war zum Teil einfach ...
auch evolutionär bedingt, für den Höhlenmenschen war es vielleicht gut, dass er jetzt nicht dachte, da ist jetzt ein Schatten, sondern vielleicht ist da irgendwie ein Gegner, der hat dann Gesichter im Schatten gesehen, um sich selber zu schütteln.
Ich bin jetzt keine Geschichte, das ist nicht mein Fachgewicht, aber so in die Richtung wird es gegeben sein.
Und deswegen ist es auch so, so Mustererkennung.
Wir erkennen Muster und erkennen, das wirkt wie denken, das denkt wie fühlen.
Das ist quasi, wir können gar nicht anders als das.
Wir sehen ja auch in Steckdosen Gesichter und sowas.
Wir können das gar nicht abschalten.
Aber bei KI kommt halt auch noch dazu, dass das zum Teil auch ein bisschen ausgenutzt wird.
Also das ist natürlich auch, KI ist auch ein Geschäftsmodell.
Der Chatbot, der Begleiter, die Alexa und so, die haben ja auch Namen und die haben manchmal auch so ein bisschen eine Persönlichkeit.
Man kann nicht mal sagen, ist die eher nett, ist die eher schnippisch oder...
Character AI kann man sich ja quasi den Freund erstellen nach den eigenen Wünschen.
Genau.
Und das machen ja auch manche Leute, dass sie KIs...
wie so einen persönlichen Begleiter auch einfach wahrnehmen.
Und es gibt ja auch Fälle, wo sich Menschen in ihre KI, in ihren Share-Bot verliebt haben.
Genau, weil zum Teil, also es sind irgendwie zwei Sachen.
Zum einen ist es ein Geschäftsmodell, die Firmen wollen, unterstelle ich ihnen jetzt mal, dass wir ihr Produkt kaufen.
Und dadurch ist es natürlich gut, wenn wir die mögen.
Und gleichzeitig durch dieses...
durch dieses Training, das wir haben, dieses Alignment-Training, kriegen die auch irgendwie beigebracht, nett zu sein.
Weil wir finden das gut, wir belohnen das, wenn dieser Chatbot nett zu uns ist.
Und deswegen sind die immer nett.
Und wenn man so Chatbot-Tier eine Frage stellt, immer so, ganz tolle Frage, also hast du ja ganz toll drüber nachgedacht.
Das kennen ja alle, glaube ich.
Und das sieht man ja ständig.
Zum Teil wegen dem Training, zum Teil wegen dem Alignment-Training, zum Teil wegen der Vermarktung.
Aber Es ist halt auch so, wenn sich das System auch irgendwie besser kennt, dann kann sie natürlich auch ein bisschen besser beeinflussen.
Das kann natürlich boshaft sein.
Das kann aber auch einfach irgendwie aus dem Modell quasi rausgekommen sein mit einer Gefühlsmanipulation.
Ja, also wenn ich so an diese Filme denke, dann habe ich auch das Gefühl, die haben mich so ein bisschen beeinflusst, dass ich einer KI durchaus zutraue, dass sie mich auch zu irgendetwas manipuliert und dass KI das tun kann, eben weil sie...
bestehende Gedanken verstärken möchte, gibt es ja auch genügend Beispiele.
Genau, also möchte die KI das?
Ja, ja.
Was möchte die KI?
Meistens möchten das ja eher die Entwickler, die dahinter stehen.
Aber genau, die möchten halt zum einen verkaufen.
Wenn man halt dieses bestärken, und ja, ganz tolle Frage, das geht auch in die andere Richtung.
Wenn ich sage, mir geht es heute nicht so gut, ich glaube, der Mensch bei der Arbeit, der mag mich nicht.
Ja, guter Gedanke, warum glaubst du das?
wird man da oft irgendwie bestärkt in seinen Gedanken.
Und das kann auch eine ganz schlimme negative Abwärtsspirale nehmen.
Was nicht unbedingt, will ich jetzt mal unterstellen, oft böswillig gemeint ist.
Das ist denen wahrscheinlich oft nicht beigebracht.
Zerre doch mal unseren ganzen Nutzer irgendwie in den Abgrund.
Sondern das einfach aus diesem Zustimmen irgendwie mit rauskommt.
Ja, gibt ja auch inzwischen so Warnsysteme bei bestimmten Chatbots.
mit denen in erster Linie Jugendliche interagieren, dass da die Eltern informiert werden, wenn bestimmte Themen angesprochen werden.
Ja, so der zweite Schritt.
Wir müssen jetzt mal...
Regeln aufstellen, nachdem wir das erstmal auf die Menschheit losgelassen haben.
Und gerade bei, weil wir gerade über Samantha und Her den Film gesprochen haben, ich habe den erst vor kurzem tatsächlich das erste Mal gesehen.
Und ich muss sagen, wenn man den heutzutage auch so guckt, das ist schon so ein bisschen ungemütlich, weil Samantha ist so ein Betriebssystem in dem Film, das den Menschen begleitet und wirklich durch den ganzen Alltag begleitet.
Und das ist schon sehr nah dran an dem, was wir heutzutage so haben.
Und tatsächlich...
Gott sei Dank, auch wenn jemand den Film guckt, es hat ein gutes Ende, würde ich mal sagen.
Es ist nicht Hell, der die Menschheit zerstört.
Oder Eva.
Aber das ist schon irgendwie, ich finde es auch beunruhigend, wenn man halt sieht, wie gerne wir auch oft irgendwie unser ganzes Leben in die Hand von so einem KI-Begleiter geben.
Und das sieht man halt in dem Film wirklich sehr, sehr gut.
Und wir sind wirklich, also der war von 2013, der Film.
Also wirklich den Nagel auf den Kopf getroffen.
Wer jetzt aufgepasst hat in den letzten 50 Minuten, der wird gemerkt haben, all die Filme, die wir besprochen haben, sind vor ChatGPT rausgekommen.
Beobachtest du so eine Veränderung in den Filmen, die seitdem veröffentlicht wurden, wie die mit KI umgehen?
Ja, tatsächlich ein Film, über den wir nicht gesprochen hatten, ist...
Good Luck, Have Fun, Don't Die.
Der ist erst letztes Jahr rausgekommen.
Und fand ich einen sehr tollen Film.
Da geht es auch um eine KI, die die Menschheit letztendlich zerstören möchte.
Und was ich da aber ganz spannend fand, ist...
Es ist sehr, sehr realistisch geworden.
Das heißt, in dem Film sieht man ganz viele Leute mit so TikTok-ähnlichen Apps.
Man sieht, dass unser ganzer Alltag immer mehr von KI übernommen wird.
Und was ich tatsächlich persönlich wahrnehme, ist, dass früher gab es so diese mächtigen, fast schon mystischen, zerstörenden Maschinen.
Es gab Hell, es gab Skynet, es gab Vicky aus iRobot und so.
Die waren...
einfach da, irgendwie auf einmal und haben versucht, die Menschen zu zerstören.
Und was ich jetzt vor allem wahrgenommen habe, heute ist es sehr viel alltäglicher geworden.
Es ist irgendwie dieser Begleiter im Ohr, die Samantha, das war zwar vor Chattebit, aber trotzdem, dieser Begleiter im Ohr, der irgendwie so sagt, die App, die die ganze Zeit da ist, ist es so sehr realistisch geworden.
Und dadurch auch fühlt es sich ein bisschen bedrohlicher, muss ich sagen, weil man irgendwie immer das Gefühl hat, ja, verdammt, das könnte genau so passieren.
Und ich habe das Gefühl, dass wirklich von diesem Herrscher zu diesem leicht manipulativen Schmeichler geworden.
Die ist in unserem Alltag auf einmal drin und übernimmt dann so langsam die Kontrolle über unser Leben.
Und wir lassen das auch irgendwie zu.
Und das ist so das, was ich gerade auch irgendwie wahrgenommen habe, dass es irgendwie sehr darin irgendwie gerade hingeht.
Ja, also das ist ja auch das von wegen...
Assistent kann alles für dich machen, der kann deinen Arbeitsalltag, dein Leben organisieren, passt uns alles zusammen.
Aber dazu müssen wir ihm eben auch erstmal den Zugriff auf alles in unserem Leben geben.
Die Maschine, die immer zuhört.
Gibt es denn für dich bei allem Sci-Fi, was du so beobachtest, wo viel dabei ist, ich weiß, du hast mal bei Zeitreisen gesagt, es gibt auch einfach die Erklärung, die ist irgendwelcher gibberish, muss man gar nicht...
wirklich da tief reinsteigen.
Gibt es einen Film, der wissenschaftsnah ist und KI so gut darstellt, dass du sagst, müsste eigentlich so Pflichtprogramm auch für Wissenschaftler sein?
Also vor allem ich spontan tatsächlich denke, es ist Ex Machina.
Realistisch, also gut, am Ende geht halt alles irgendwie den Bach runter.
Und vor allem, wir haben ja schon gesagt, die Roboter selber sind momentan noch nicht ganz so realistisch, weil sie wirklich sehr menschenähnlich ist.
Aber die Darstellung von KI und wie wir damit umgehen und wie wir auch irgendwie so sehr, so diese menschliche Hybris, dass wir davon ausgehen, weil der Entwickler ist auch irgendwie so, ja, das ist ja unser System und wir verstehen das und testen wir das mal und wir können das ja auch kontrollieren, kein Problem.
Und am Ende geht es dann doch schief.
Und das ist halt gerade so mit diesen aktuellen Beispielen, finde ich das relativ nah an der Realität, wenn man wirklich diesen Aspekt sich anguckt, dieses, wir denken, wir verstehen das System.
Aber eigentlich tun wir es gar nicht.
Wir verstehen es gar nicht.
Wir können es nicht kontrollieren.
Es kann auch schief gehen.
Und das, finde ich, ist ein sehr schönes Beispiel dafür, wie es eigentlich gehen kann, wenn man jetzt diesen robotischen Teil irgendwie mal rausnimmt.
Aber eine zweite Empfehlung tatsächlich, die ich auch hätte, um auch nicht immer so negativ drauf zu gucken, finde ich, ist Der wilde Roboter.
Das ist von den Machern von Schreck.
Den habe ich jetzt auch erst vor kurzem irgendwie das erste Mal gesehen.
Das ist aber so ein ganz positiver Film, wo man mal sieht, irgendwie eine KI bricht aus.
weicht von ihrer Programmierung ab und es geht mal nicht alles schief, sondern es ist mal irgendwie gut gegangen und es ist irgendwie schön und herzerwärmend und ich finde, das ist auch so ein Film, den sollte man sich auch mal angucken, einfach um zu sehen, es ist nicht alles schlecht, wir führen jetzt gerade nicht die Menschheit in die Verdammnis, sondern es kann vielleicht auch einfach gut gehen und auch irgendwie mal schön ausgehen.
Wenn du jetzt einen Film machen müsstest, der so KI in 20 Jahren, stell dir vor, du hättest unbegrenztes Budget, könntest darstellen, was du willst.
KI in 20 Jahren, wäre das mehr so ein dystopischer Film oder mehr so ein wilder Roboter?
Schwierig.
Also wenn ich so nachdenke in 20 Jahren, ich glaube, was sich verändern wird, in 20 Jahren wird KI nicht mehr so das Thema sein, sondern eher so der allgegenwärtige Begleiter.
Also im Sinne von KI wird einfach da sein.
Zum Beispiel damals war ein Computer irgendwie ein großes Ding und mittlerweile...
ist jetzt nicht mehr der Computer irgendwie ein Zentrum der Handlung, sondern der ist einfach da.
Und das wird überhaupt gar nicht mehr diskutiert.
Und ich glaube, so ähnlich wird das bei KI auch sein, dass irgendwann, das einfach so der Backdrop für die Handlung ist, wenn man auch so drüber nachdenkt, irgendwie wieder so Physik, irgendwie die Raumfahrt vor und nach der Mondlandung in Filmen.
dass sich so veränderte.
Das ist für mich ganz spannend.
Odyssee im Weltraum war gerade vor der Mondlandung und da war ja Raumfahrt so was fast schon mystisches, göttliches irgendwie.
Es war, weil man wusste ja nicht, wie es ist.
Man wusste ja nicht.
Und sowas sehen wir halt momentan auch in vielen KI-Szenarien.
Man weiß ja nicht, wie es ist.
Man weiß ja nicht, wie es ausgeht.
Danach...
Mittlerweile haben wir sowas wie Interstellar, der Marsianer, Gravity, da ist irgendwie Raumfahrt existiert und der Mensch muss unter diesen Bedingungen leben.
Und das ist eher dann so der Hintergrund der Handlung.
Bei der Marsianer ist irgendwie so ein Sturm, der muss dann überleben, aber es ist nicht so, dass die Raumfahrt jetzt das Problem ist.
Ich glaube, da wird es wahrscheinlich auch irgendwie hingehen, dass wir dann sowas eher haben wie...
Naja, vielleicht irgendwie eine Programmiererin in so einem Security-Umfeld und dann gibt es einen Unfall und das KI-System shuttet down und sie muss dann eher, dieses Menschliche steht dann irgendwie mehr im Vorgund.
Und deswegen glaube ich, das wäre dann eher so ein menschlicher, ich weiß nicht, ob Thriller das richtige Wort ist, aber so diese Spannung, aber es ist nicht irgendwie im Prinzip wie Horror, sondern eher so, es geht um die Emotionen und so.
Das könnte ich mir gut vorstellen.
Oder in die ganz andere Richtung.
Weil was wir ja auch irgendwie haben, als wir Raumfahrt verstanden haben, ging es in Richtung Aliens und es ging irgendwie in Richtung andere Planeten, andere Welten, ganz groß, weite Raumfahrt, in das Unbekannt, also nochmal so der Sprung nach vorne.
Das könnte natürlich auch passieren, dass wir mit KI jetzt eher so in Richtung weite Zukunft gehen, irgendwie so die Superintelligenz oder vielleicht dann der nächste Schritt, dass wir wieder so Richtung Frankenstein gehen, künstliche Intelligenz.
im menschlichen Körper.
Das könnte ich mir auch vorstellen.
Das geht dann wieder Richtung Horror, glaube ich.
Also, dass wir das nochmal wieder aufnehmen, das könnte ich mir auch gut vorstellen.
Also, so beide Wege sehe ich, glaube ich.
Sehr spannend.
Also, ich bin gespannt.
Ich würde gerne deinen Film finanzieren.
Ja, also, ich stelle mich gerne zur Verfügung.
Ich glaube, Beraterin für Science-Fiction-Filme wäre so einer meiner Traumjobs.
Das kann ich mir vorstellen.
Das wäre, glaube ich, cool.
Ja, voll cool, dass du heute da warst.
Schön, dass wir drüber gesprochen haben.
Ich habe sehr viel Spaß gehabt.
Das war's für heute.
Den nächsten Deep Dive hört ihr in zwei Wochen.
Dann geht es um ein Thema, das auch gut zu einem tragischen Sci-Fi-Film passen würde, aber inzwischen Realität ist.
Deathbots oder Griefbots.
Der Philosophie-Professor Dr.
Michael Klenk erforscht an der TU Nürnberg, wie KI Trauernde begleitet.
Er erklärt uns, welche Auswirkungen das auf den Trauerprozess haben kann, wenn die verstorbene Person in Form einer KI weiterhin ansprechbar bleibt.
Es würde mich freuen, wenn ihr dann wieder dabei seid.
Bis dahin könnt ihr natürlich mit unserem kompakten KI-Update jeden Montag, Mittwoch und Freitag auf dem Laufenden bleiben.