# AI Memory Manipulation and Market Realities

**Podcast:** Tech and Tales
**Published:** 2026-10-17

## Transcript

Tech & Tales Hallo und herzlich willkommen zur 102.
Folge von Tech & Tales.
Heute bin ich selbst mein Gast und wir schauen uns zum einen Hörerfragen an, die über Instagram reingekommen sind.
Vielen Dank an die Hörer.
Und eine Studie, die ich im Laufe der Woche besonders interessant fand.
Also, let's go.
Nämlich, gestern kam ein spannender Artikel an der Washington Post heraus.
Und in diesem Artikel hat die Washington Post eine Studie aus der MIT besprochen, in der Wissenschaftler nachgewiesen haben, dass KI uns Dinge erinnern lässt, die so nämlich nicht passiert sind.
Und das ganze Experiment fing an mit 24 gewöhnlichen Fotos.
Da waren Fotos einer Hochzeit dabei, einer Stadtstraße, einem Rennen.
Und die Professorin Patty Maas, die am MIT Media Lab forscht und ihre Kollegen, zeigten diese Fotos 200 Personen, also 200 Probanden.
Und in Klammern, es ist übrigens wahnsinnig schwer, solche Probanden zu bekommen.
Ich mache momentan ähnliche Studien und es ist jedes Mal ein Akt.
Und ich freue mich übrigens über jeden Proband, der an solchen Studien teilnehmen möchte.
Also bitte bei mir melden.
So, die haben also diese Fotos 200 Personen gezeigt.
Und nach einer Pause haben einige wieder die gleichen Fotos gesehen.
Es waren, glaube ich, ein, zwei Tage dazwischen.
Und die andere Gruppe, die andere Kohorte sah KI-veränderte Versionen.
Das heißt mit veränderten Gesichtsausdrücken, mit auf einmal eingefügten Militärpersonal.
Also die haben da einfach Soldaten in die Mitte reingebracht oder eben hinzugefügte Anzeichen vom Klimawandel.
Und danach kam ein Gedächtnistest.
Und dieser Gedächtnistest hat mir ziemlich schockiert, denn diejenigen, die die KI-verändernden Bilder betrachteten, hatten einen riesengroßen Anstieg falscher Erinnerungen.
Oder sie haben auf einmal falsche Erinnerungen gehabt.
Das heißt, sie waren sich sicher, dass diese Soldaten, die in den Bildern waren, und diese ganzen anderen Veränderungen von vornherein Teil des Fotos waren.
Das heißt, sie konnten es nicht mehr unterscheiden.
Und das Schlimmste war eigentlich dabei, dass ihr Vertrauen in die falschen Erinnerungen zweieinhalbmal so hoch war wie in die richtigen.
Die Gruppe, die die manipulierten Bilder gesehen hat, war doppelt so sicher, dass das die richtigen waren, als die, die die einfachen Bilder gesehen hat.
Und die Professorin Merz sagte dazu, dass sie das für sehr, sehr gefährlich hielte.
Und ich teile ihre Meinung, weil...
dass letztlich die größte Gefahr ist, die von KI ausgeht.
Das heißt, dass sie unsere kognitiven Fähigkeiten, unser Erinnerungsvermögen verzerrt, die Art, wie wir Dinge verstehen, lernen und so weiter.
Ich glaube persönlich ja nicht an diese ganzen apokalyptischen Szenarien, wie ihr sicherlich wisst.
Aber das ist in der Tat ein Riesenproblem.
Denn bisher konzentrierte sich der Großteil der öffentlichen Angst, nämlich immer auf das, was letztlich Auf Englisch wird das als Cognitive Failure bezeichnet, das heißt der komplette kognitive Verfall letztlich.
Aber momentan ist es ja nicht so, dass die Maschinen komplett die Denkarbeit von Menschen übernehmen.
Aber je mehr sie es tun, desto weniger werden die Menschen geneigt oder fähig sein oder in der Lage sein, die Denkarbeit, die die Maschinen wiederum verrichten, zu hinterfragen.
was die Maschinen ihnen sagen, richtig einzuschätzen.
Und dass es die Möglichkeit überhaupt gibt oder gäbe, dass KI quasi auch Zugriff auf unsere Erinnerungen hat und unsere Erinnerungen im Nachhinein ändern kann, das war den Forschern eben bisher noch nicht bewusst.
Ja, und das Problem liegt natürlich nicht nur in der KI, das Problem liegt auch im menschlichen Gedächtnis, denn das menschliche Gedächtnis tut natürlich mehr als nur die Vergangenheit zu.
bewahren oder verwahren.
Das liefert natürlich auch das Wissen und die Erfahrung, mit der wir die Gegenwart verstehen natürlich und die Zukunft antizipieren.
Also es ist letztlich Vergangenheit, Gegenwart und Zukunft, alle drei Aspekte unserer Zeit.
Und es hilft natürlich, komplett die Realität zu konstruieren.
Also Beziehungen werden durch das Gedächtnis aufrechterhalten, Selbstwertgefühle und Überhaupt wird jede Entscheidung, die wir treffen, basierend auf dem Gedächtnis getroffen.
Und das Gedächtnis hat natürlich auch wahnsinnige Grenzen.
Und auch grundsätzlich ist das eines unserer größten Grenzen des menschlichen Geistes.
Er hat auch sein Positives.
Traumatische Dinge zum Beispiel können aus dem Gedächtnis gelöscht werden.
Es erleichtert das Leben.
Ich glaube, jede Frau, die Kinder bekommen hat, kann es bezeugen, dass man solche Dinge relativ schnell wieder vergisst.
Nur, wir speichern quasi nur einen Bruchteil dessen, was uns begegnet.
Diese Details verwischen, Erinnerungen verwischen, nur dass die Erinnerungen jetzt durch KI-manipulierte Bilder wiederum so sich ändern, wenn wir uns noch einmal versuchen, daran zu erinnern, finde ich schon bemerkenswert.
ist KI sehr gut geeignet dazu, diesen Mangel quasi auszugleichen.
Es sind perfekt dafür geeignet, riesen Datenmengen zu kontrollieren, zu konstruieren.
Aber letztlich, wenn man das weiterspinnert, sind die Konsequenzen natürlich viel weitreichender.
Denn ob sich jemand an ein Foto oder ein Gespräch falsch erinnert, ist erstmal nicht so relevant.
Aber Gerichte verlassen sich natürlich auf Erinnerungen in Fällen.
Autounfällen, also selbst ganz Basics.
Da werden immer die Erzählungen der Beteiligten zu den Akten gelegt, beziehungsweise zum Teil sind die Hauptkomponenten der Verfahren.
Und wenn jetzt auch Augenzeugenerinnerungen quasi so schnell verzerrt werden können, dann kann man eigentlich nicht mehr darauf vertrauen, was Menschen sagen, wenn sie dadurch natürlich auch so leicht manipuliert werden können.
Also das heißt, das menschliche Gedächtnis ist sehr unvollkommen und bietet dadurch natürlich ein Einfallstor zur Manipulation mit künstlicher Intelligenz.
Und diese Studie baut auf auf einer anderen MIT-Studie, von der alle gehört haben, mit den 54 Probanden.
Das war das Experiment, das letztes Jahr veröffentlicht wurde, in der...
Menschen Essays oder Probanden Essays geschrieben haben und sich eben in kürzester Zeit nicht mehr daran erinnern konnten, was sie dort geschrieben haben.
Auf Englisch nennt man das die Recall-Fähigkeit.
Das heißt, dazu gab es drei verschiedene Gruppen.
Eine Gruppe hatte keine Hilfe, die eine, die andere Gruppe konnte Google nutzen und die dritte Gruppe konnte eben ChatGPT verwenden.
Und die Gruppe, die ChatGPT verwendet hat, hat in der kognitiven Leistung quasi am schlechtesten abgeschnitten.
Das heißt, die ChatGPT-Nutzer, die mit ChatGPT-Essays und so weiter geschrieben haben, zeigten die schwächste neuronale Konnektivität.
Und wenn wir das in Verbindung setzen mit der Möglichkeit, dass jetzt Erinnerungen ebenfalls manipuliert werden können, dann ist die Frage, was das Gehirn letztlich noch leisten kann.
Das heißt, das, was wir sehen werden, ist letztlich, dass die Menschen diesen kognitiv beginnend noch weiter zu verfallen, anstatt dass die KI übernimmt.
Und vielleicht werden wir irgendwann auch nur noch die KI brauchen, um kognitiv in irgendeiner Form zu überleben.
Nicht so sehr ein Deskilling, was wir zum Beispiel bei Ärzten sehen, die sehr viel KI verwenden, dass sie selber nicht mehr in der Lage sind, gerade Röntgenbilder zum Beispiel zu diagnostizieren, sondern es ist eben quasi die Aufgabe, dass wir Dinge komplett nicht mehr verstehen.
Aber ich glaube, dass Transparenz da reinzubringen ist sicherlich der beste Weg.
um zu verhindern, dass wir uns dem hingeben.
Und wir brauchen natürlich auch eine gewisse Regulatorik, die das verhindert.
Und da gibt es sicherlich sehr viele Ansätze, damit wir diese menschliche Leistung des Nachdenkens nicht komplett verlieren.
Einer der ersten Fragen, die kamen, war von Userin Nina, die fragte, welche Frage kannst du nicht mehr hören?
Einer dieser Hauptfragen ist tatsächlich, wie sich der Arbeitsmarkt und KI entwickeln wird.
Und meine ehrliche Antwort ist, dass wir es nicht wissen und dass jegliche ernsthafte Predictions in dem Kontext einfach unseriös sind.
Aber der zweite Teil der Antwort ist, dass die Zahlen einfach nicht diese Jobapokalypse, die überall angepriesen wird, bestätigen.
Und zwar in keinster Weise.
Wir sehen weder Massenentlassungen, noch sehen wir wahnsinnig viele Juniors, die alle nicht beschäftigt sind.
Und es gab sicherlich konjunkturelle Schwingungen, es gab die Zinssteigerung des FED.
Es wird sicherlich einen sehr horizontalen Wandel geben innerhalb der verschiedenen Bereiche, aber es wird meines Erachtens eben nicht diese Massenarbeitslosigkeit geben, die es während der industriellen Revolution gibt, womit das ja immer wieder verglichen wird.
Das heißt, wenn wir uns die Zahlen noch genauer ansehen, sehen wir, dass es momentan ein AI-Hiring-Boom gibt, insbesondere natürlich in den Bereichen der Datencenter.
Es gibt gar nicht so viele Elektriker, wie man momentan braucht, um alle diese Datencenter ans Netz zu schließen.
Dann sehen wir, dass es gerade im Bereich Data, also Data Scientists, Programmierer und so weiter einen wahnsinnigen Bedarf gibt.
Es werden momentan sogar mehr Programmierer eingestellt als vorher.
Das heißt, der gesamte AI-Hype sorgt für mehr Nachfrage.
Ich persönlich glaube, dass gerade in dem Bereich Cybercrime ein Riesenmarkt entstehen wird.
Das heißt, es wird sehr viel Nachfrage geben an Menschen, die diese verschiedenen Zertifikate haben, um in Cyber zu arbeiten bzw.
da Schäden abzuwenden.
Ich gehe davon aus, dass der Jobmarkt erwächst und deswegen kann ich diese Frage langsam nicht mehr hören.
Dann wurde ich gefragt, welches Modell das beste sei.
Also momentan verwende ich tatsächlich immer zwei, drei Modelle gleichzeitig.
Insbesondere, weil zum Beispiel ChatGPT finde ich die besten Bilder generiert.
Ich finde, Claude macht die besten Präsentationen.
Und ich finde, Gemini ist am besten beim Research.
Das ist Nummer eins.
Und Nummer zwei ist, dass die Modelle teilweise so langsam sind, dass sich diese Zwischenzeit zwischen den einzelnen Modellen...
bisschen unerträglich finde.
Es gibt inzwischen tatsächlich ganze Apps, mit denen man die Zeit überbrücken kann, aber ich finde auch dieses gedankliche Hin- und Herswitchen dient nicht unbedingt meiner Aufmerksamkeitsspanne.
Deswegen nutze ich normalerweise drei Modelle parallel, um eben verschiedene Tasks gleichzeitig zu machen.
So, und der User Felix fragte, wie gesagt, welches das einzige oder beste Modell wäre.
Und das liegt...
Wie es bei mir eben auch so ist, es liegt ein bisschen an deiner Arbeit.
Das heißt, wenn man sich nur die Rankings anguckt, dann liegen die Top-Modelle meistens sehr nah beieinander.
Das heißt, ich glaube nicht, dass man als einzelner User da wirkliche Unterschiede benutzt, aber es hängt so ein bisschen davon ab, dass es in deine Workflows passt, dass es vom Datenschutz her geht, also dass du das bei der Arbeit benutzen darfst.
Das ist wesentlich wichtiger als diese einzelnen Benchmarkpunkte.
Und die Modelle liegen relativ nah beieinander.
Es hängt so ein bisschen davon ab, ob man sie als API nutzt, ob man sie als End-User nutzt.
Aber ChatGPT 6 Astra ist für wissenschaftliche Dinge wie Mathe und Research am besten geeignet, mit Abstand auch am teuersten.
Dann gefolgt von Claude Opus 5.5.
Das hat tatsächlich auch Platz 1 in dem größten Benchmark, nämlich der LM Arena.
Das heißt, das würde ich nutzen zum Schreiben tatsächlich.
Wenn man aufs reine Preis-Leistungs-Verhältnis schaut, GPT 6.1 Zoll von OpenAI sicherlich am besten.
Dann kann man natürlich noch sehen, wenn man souveräne Lösungen möchte, dann schaut man sich Mistral an oder man guckt eben Gemini 4 sich an.
Das gibt es seit dem 30.09.
neu und das ist sehr stark im Google-Ökosystem.
Und da hängt es eben davon ab, ob man das integriert nutzen möchte mit seinen Google Sheets und so weiter.
Also ob man sehr viel mit Google arbeitet.
Das heißt...
Es ist am Ende eben eine Frage, welchem Ökosystem vertraust du und was ist ohnehin bei dir letztlich integriert.
Die meisten Unternehmen nutzen tatsächlich auch zwei oder drei Modelle und das geht hauptsächlich darum, dass man a Halluzinationen im Griff behält, dann geht es auch darum, dass man die Ergebnisse untereinander validieren möchte und es geht darum, dass der Vendor, also das heißt, wenn man mit Google Verträge macht, dass denen noch klar ist, dass Microsoft auch noch im Haus ist, damit die nicht anfangen, die Preise zu sehr zu erhöhen.
Also das ist meine Interpretation.
Das würden die natürlich immer anders sehen.
Also es hängt, wie gesagt, so ein bisschen davon ab.
Wenn man sich die deutsche Landschaft anschaut, dann sieht man, dass SAP auf Anthropics Cloth als primäres Reasoning-Modell setzt und Mistral und Cohear als souveräne Alternativen anbieten.
Also das heißt, das ist übrigens sehr gut nachlesbar beim SAP Insider.
Das heißt, dass die da, also bei Anthropic halt den größten Mehrwert sehen.
Ich würde immer das Modell nehmen, womit du am besten auch von der UX und UI her arbeiten kannst.
Es gibt einige Leute, die schwören auf ChatGPT, andere auf Cloud.
Also ich glaube, das ist sehr individuell.
Es gibt Menschen, die mögen lieber in Word arbeiten, andere in Google.
Es hängt davon ab sozusagen.
Als nächsten Punkt habe ich mir die Nobelpreisgewinner-Frauenquote angesehen, denn ein Hörer aus dem Consulting fragte mich, wer eine starke Kandidatin für den nächsten Nobelpreis wäre.
Und natürlich habe auch ich bemerkt, dass als die Nobelpreise letzte Woche vergeben wurden, wieder nur zwei von zehn Preisträgerinnen Frauen waren.
Das heißt, in den Naturwissenschaften und in der Wirtschaft gab es keine einzige.
Es ist natürlich jedes Mal schade, wenn man diese Preisvergaben sieht, dass Frauen eben nicht so sehr in der Wissenschaft vertreten sind.
Und ich habe in dem Kontext mir mal die Clarivate-Liste angesehen.
Und die Clarivate-Liste ist eine Rangliste von dem Analyseunternehmen Clarivate.
Das ist der Betreiber der Datenbank Web of Service und das geben die jährlich raus.
Und diese Liste ehrt Forschende, deren Publikation in ihrem Fachgebiet.
und auch im Erscheinungsjahr zu den meist zitierten 1% im Web of Science gehören.
Das heißt, die Grundlage dafür sind die Veröffentlichungen der letzten 11 Jahre.
Warum auch immer nicht 10, aber 11 Jahre.
Und neben den Citations, also den Zitationszahlen, sagt man glaube ich auf Deutsch, fließen außerdem noch weitere Kennzahlen rein, wie eine qualitative Prüfung und ein Expertenurteil.
Und wenn man sich 2025 ansieht, dann...
waren da 6.868 Personen mit 7.131 Auszeichnungen von über 1.300 Institutionen in 60 Ländern und Regionen.
Und die Liste für 2026 sollte jetzt eigentlich auch bald kommen.
Und, und deswegen erzähle ich das, diese Liste hat immer Predictions sozusagen.
Und das heißt, die sagen, Durch gerade diese sehr häufig zitierten Forschern sagen die so ein bisschen voraus, also das ist deren Nobelpreisprognose, wer einen Nobelpreis gewinnen könnte.
Und die letzte Liste hat tatsächlich wieder ein Treffer gelandet, nämlich in den Kategorien Frieden und Literatur.
In Frieden hat Navi Pillay aus Südafrika.
eine ehemalige UN-Kommissarin für Menschenrechte und internationale Richterin, einen Nobelpreis erhalten.
Und in der Kategorie Literatur hat Anne Carson, eine Dichterin und Altphilologin, einen Preis erhalten.
Und das beides hat die Clarivate-Liste vorhergesagt.
So, und jetzt habe ich mir angesehen, wie die Dichte der Forscherinnen in dieser Clarivate-Liste ist.
Und dort ist es tatsächlich ebenfalls ein ähnlicher Frauenanteil.
Das heißt...
Wenn wir uns nur die letzten zehn Jahre der Nobelpreisträger ansehen, dann sehen wir, dass der Frauenanteil bei rund 17,5 Prozent lag.
Also es waren 21 Frauen unter 120 ausgezeichneten Personen.
Und bei der Clarit-Liste, da liegt der Anteil bei ungefähr 14 Prozent an Frauen, der Highly Cited Researchers, also der hoch zitierten Wissenschaftler.
Das ist natürlich so ein bisschen, da ist eine sehr schwere Gewichtung auf Literatur und Frieden, weniger in den Naturwissenschaften, Physik, Chemie, Medizin und Wirtschaft.
Aber das zeigt mir auf jeden Fall, dass es keine Art von Diskriminierung im Nobelpreis an sich, in der Vergabe an sich gibt, sondern dass diese Entwicklung, dass es weniger Frauen in diesen Bereichen gibt, quasi natürlich schon viel früher ist.
Als potenzielle Kandidatin für den nächsten Nobelpreis sehe ich auch eine Frau, die unter den drei Frauen ist, die in der Clarivate-Liste ganz oben stehen, beziehungsweise unter den 22 hoch zitierten Wissenschaftler stehen, nämlich Svetlana Moisov.
Svetlana Moisov hat unter anderem mit...
die GLP-ONES entdeckt und charakterisiert.
Das heißt, die GLP-ONES ist die Grundlage für die Abnehmen- und Diabetes-Medikamente, so wie Ozempic, Monjaro, Vegovi.
Und die war lange übersehen, beziehungsweise diese Medikamente waren lange breit nicht anerkannt.
Aber meines Erachtens, und Scott Galloway hat darüber auch schon viel gesprochen, ist das eigentlich...
Die fast disruptivste Technologie oder die größte Erkenntnis, die wir in den letzten 50 Jahren hatten, weil sie dafür sorgen wird, dass Millionen an Menschen eben nicht an gewissen Krankheiten sterben werden, die sie vorher nicht in den Griff bekommen haben.
Denn diese Medikamente haben eben nicht nur einen Effekt zum Abnehmen, sondern eben auch...
gegen bestehende Entzündungen.
Sie werden als Longevity-Medikament genutzt.
Man stellt in den ersten Studien fest, dass Frauen, die diese Medikamente nehmen, wesentlich weniger Brustkrebs entwickeln.
Das ist alles noch anecdotal evidence.
Dazu gibt es noch keine finalen Studien.
Aber es ist schon bemerkenswert, was für eine Wirkung das hat.
Das heißt, ich glaube, die Erfindung bzw.
die Forschung dazu sollte honoriert werden.
Weiterhin fragte jemand, ob die Blase in der Zukunft schnell platzen würde.
Und ich gehe stark davon aus, dass dem so ist.
Ich finde, die ersten Anzeichen sind, dass einige Unternehmen anfangen, Insolvenz anzumelden, wie Character AI.
Das hat sicherlich auch Gründe in den existierenden Klagen, die gerade gegen das Unternehmen herrschen.
Finde ich, ist es so ein bisschen indikativ dafür, dass die Lage nicht mehr so einfach ist, wie sie vielleicht noch vor 12 bis 18 Monaten war.
Und die Frage kam von Christian.
Viele Grüße.
Aber ich werde diese Frage detaillierter mit dem Aktien-Experten Holger Cepes von Alles auf Aktien diskutieren in der übernächsten Folge.
Das heißt, da werden wir einmal komplett diese ganzen Blasentheorien zerlegen und auch historisch gucken, wie das in der Vergangenheit nämlich aussah.
Und zum Schluss gab es noch ein paar persönliche Fragen.
Also erstens, ja, ich habe zwei Bengalenkatzen, die auf dem Foto waren.
Diese Tiere sind sehr wild und nicht sehr zutraulich, aber ich lebe sehr gern mit denen zusammen, weil die sehr charaktervoll sind, sehr sportlich sind.
mich täglich eigentlich begleiten mit ihrer völligen Ignoranz.
Wie halt Katzen so sind.
Das war die Frage Nummer eins.
Die Frage Nummer zwei war hinsichtlich meines Beratertums und des momentanen Selbstständigseins.
Und ich kann dazu sagen, ich bin nicht mehr angestellt bei einer großen Beratung, sondern berate gerade auf Freelance-Basis Unternehmen und halte viele Keynotes, mache Podcasts, schreibe Artikel und so weiter und forsche, wie gesagt, für meine Promotion.
Nur das ganze Wird im Frühjahr enden, dann gehe ich wieder in eine große Beratung.
Ich kann dazu sagen, dass dieses selbstständige Leben, was ich momentan habe, deutlich anstrengender ist als alles andere.
Weil ich vier Tage die Woche reise, von morgens bis abends und kaum zu Hause bin und in Hotels morgens aufwache und nicht weiß, wo ich bin.
Also ich freue mich wieder darauf, in Lohn und Brot zu sein.
Es ist schon ein spannendes Leben, nur es ist wahnsinnig anstrengend.
Ich weiß nicht, ob ich das empfehlen würde, im Übrigen.
Und dann zum Schluss fragt mich noch der beste Producer aller Zeiten, viele Grüße, ob ich ein Comfort-Item hätte, was ich beim Reisen immer dabei habe.
Und ehrlich gesagt, habe ich das nicht, denn ich habe zum einen kein super besonderes Attachment zu irgendwelchen Dingen.
Also ich hänge an nichts so wirklich und beziehungsweise es wechselt häufiger.
Und je mehr ich dabei habe, immer das so...
mehr muss ich auf Dinge achten und das nervt mich tendenziell.
Das heißt, ich finde immer, weniger ist mehr und nicht so sehr sich mit tausend Sachen zu belasten.
Na gut, also ich freue mich sehr auf die nächste Folge mit Gregor Schmalzried.
Dann werden wir nochmal die technischen Komponenten der aktuellen Modelle durchkauen und wie gesagt, die übernächste Folge mit Holger Zschäpitz zu der KI-Blase und wie es historisch war.
Und ich verbleibe mit vielen Grüßen und bis bald.
Ciao, ciao.