# AI Impact on Cognition and Cybercrime

**Podcast:** Tech and Tales
**Published:** 2026-01-31

## Transcript

Tech and Tails will come zur 65.
Heute möchte ich euch von meiner KI-trächtigen Woche berichten.
Denn Montag und Freitag haben wir Studienteilnehmer unserer Studie per EEG vermessen.
Dann habe ich in der Mitte der Woche einen Vortrag in Frankfurt zu Cyber and AI gehalten und im Rest der Woche ziemlich viel Zeit damit verbracht, ein Visum für Indien zu beantragen.
Da ich nach Indien fliege, um auch dort eine AI-Reise zu machen.
Aber wir starten jetzt als erstes einmal mit den Experimenten, die wir gemacht haben im Rahmen unserer Promotion am Montag und Freitag.
Aber Neil, erzähl doch mal, was wir da genau gemacht haben am Montag und Freitagabend.
Genau.
Wir sind ja seit einigen Wochen durch ganz Deutschland unterwegs und messen fleißig Gehirn.
Es gab da mal eine große Studie, ich glaube Mitte Ende letzten Jahres, die ist auch durch LinkedIn relativ spiral gegangen vom MIT.
Die haben Studierende untersucht und haben die für es waren kreative Schreibprozesse und Aufgaben, die sie lösen mussten über mehrere Messzeitpunkte hinweg, haben sich angeschaut, welchen Einfluss das hat, wenn man diesen Studierenden KI, also ChatGPT, als Hilfe gibt.
Und was die eben relativ schockierend und damit natürlich auch Medien und LinkedIn wirksam herausgefunden haben, ist, dass es eigentlich dazu führt, dass man vergisst, was man gemacht hat.
Also die Studierenden wussten dann nach wenigen Stunden schon nicht mehr, was sie da eigentlich produziert haben.
Und das wurde über die Versuchsdauer dann auch immer schlimmer.
Das heißt, wenn die Studierenden, die mit ChatGPT die Aufgaben bearbeitet haben, waren dann eben nach Wochen auch deutlich, deutlich schlechter, wenn sie die Chat-GPT-Aufgaben nicht mehr assistiert lösen konnten als die anderen.
Das heißt, daraus wurde konkludiert, dass eben die Nutzung von KI unsere Hirnbiologie verändert, unsere Art, wie wir arbeiten, und das eben nicht nur positiv, sondern auch negativ.
Und erzähl mal ganz kurz, wie wir das physisch quasi machen.
Also was sind unsere Hilfsmittel?
Genau, vielleicht trotzdem ein, zwei Sätze noch zu dem, was wir machen.
Wir schauen uns ja das Ganze an, nicht an Studierenden, sondern wirklich an Top-Experten in, also Top-Programm für BPMN Modelle.
Das heißt Business Process Model Notation.
Das ist eine Art Programmiersprache, um Business Prozesse and Fragabe-Prozesse und Abläufe im Unternehmen zu visualisieren, aber dann eben auch systematisch zu integrieren.
Also zum Beispiel auch im Rahmen von SAP-Implementierung ist das so die gängige Sprache.
Und wir vermessen eben Top-Experten in diesem Bereich und gucken, wie unterscheidet sich die Art und Weise, wie sie Aufgaben lösen und wie sie mit, wie sie diese Prozesse eben bearbeiten und lösen.
Wenn sie KI-Assistenz bekommen, das heißt, die Hälfte macht aus Brain-Only, die andere Hälfte eben mit einem LLM zur Hilfe.
Und im zweiten Schritt schauen wir uns an, was passiert eigentlich, wenn ich vorher mit einem LLM gearbeitet habe und danach aber quasi wieder Brain-Only arbeiten muss.
Das heißt, wir gucken, hat eigentlich schon eine kurze Arbeitsphase mit KI, einen Effekt auf unsere Arbeitsqualität und Arbeitsfähigkeit, wenn wir dieses Hilfsmittel eben nicht mehr haben.
Und dafür hilft uns das EEG, also das Elektroencephalogramm.
Das ist ein Messgerät, was in der Neurowissenschaft beliebt ist, weil es eine sehr hohe zeitliche Auflösung hat.
Das heißt, man kann in milliseconden Bereich sehen, was passiert eigentlich im Gehirn, wenn man, and deswegen kombinieren wir das mit Eye-Tracking, auf ein bestimmtes Problem guckt oder a bestimmte Arbeitsschritt angeht.
And then kausale Zusammenhänge oder Rückschlüsse daraus schließen, what passiert da eigentlich gerade im Gehirn.
We genau sehen diese Messpunkte aus.
Also, wie genau sehen die Daten aus dafür?
Das EEG, also das Elektroenzephalogramm muss man sich quasi so vorstellen wie in Fahrradhelm.
Das heißt, man setzt den Versuchsperson den auf anderes Elektroden.
Ich glaube, bei uns sind das zwölf Stück an der Zahl.
Andere Elektroden besteht nochmal aus vielen, vielen kleineren Elektroden.
Und jeder davon missed in Microwalt-Bereich kleine Veränderungen in den elektromagnetischen Feldern über der Schädeldecke.
Das heißt, wir arbeiten mit ganz, ganz, ganz filigran Signalen, and deswegen ist es auch so schwer, this vernünftig zu messen, weil alles einen Einfluss hat.
Also, wenn die Versuchspersonen zum Beispiel Kaugummi count, dann ist allein das Signal, was the Kaumuskel auslöst, so hundertfach viel stärker als jeder Gedanke, den man hat, also this is already the Muskelsignal, dass man da eben sehr gut aufpassen muss.
Und wir kombinieren das mit Eye-Tracking, das heißt in einer Brille, die sieht wirklich aus wie eine abgespaced Array-Band, and you become the Versuchspersonen auf.
Man sieht dann in Ganze relativ verkabelt aus.
Viele wollen dann direkt auch erstmal ein Selfie machen.
Das hat man ja wirklich nicht alle Tage auf dem Kopf.
Und das Eye-Tracking hilft uns dabei, die zeitliche Kausalkette herzuleiten.
Das heißt, wir können genau sehen, zum Beispiel bearbeitet die Versuchsperson einen Prozess, erkennt einen Fehler, und dann können wir im Eye-Tracking genau sehen, in welcher Millisekunde er diesen Fehler erkannt hat.
Und da das EEG eine extrem gute zeitliche Auflösung hat, räumlich eher schlecht, zeitlich dafür sehr, sehr gut, können wir im 100 Millisekunden-Bereich genau sehen, was passiert da eigentlich im Gehirn.
Und wie unterscheiden sich diese Signale von den Teilnehmern, die zum Beispiel keine KI-Assistenz haben.
Und wenn man sich dann so Signale anschaut, das sind, wie gesagt, man denkt dann immer, man liest die Gehirne aus, tatsächlich ist das ein riesen Wirrwer von Daten.
Da gibt es ganz, ganz viele Schritte, die man dann mit den Daten unternehmen muss, bis man dann irgendwann mal an diesen sehr, sehr filigranen, fast schon zerbrechlichen eigentlich kognitiven Signalen angekommen ist.
Und da schauen wir uns zum Beispiel an, es gibt, man unterscheidet die in diesen Signalen, die teilt man auf in bestimmte Wellen.
Das heißt, es gibt Alpha-Wellen, Beta-Wellen, Theta-Wellen und so weiter.
Und diese Wellen sprechen immer für einen bestimmten Aktivierungszustand im Gehirn.
Das heißt, wenn wir dann sehen, man bearbeitet eine bestimmte Aufgabe und plötzlich beginnen Alpha-Wellen, das ist so ein Ruhezustand, die neben ab im Gehirn, dann ist das ein Zeichen, oh, da geht das Gehirn gerade mal, da fährt das hoch, das geht in einen Aktivierungszustand.
Und zum Beispiel, wenn wir im hinteren Bereich uns das anschauen, suchen wir nach so Theta-Zacken.
Also es sind wirklich ganz aktive Wellen, die dann so spiken.
Und das zeigt uns, dass da zum Beispiel es sein kann, dass gerade Gedächtnis eingespeichert wird, in kodiert wird oder aus tieferen Arealen Kenntnisse hochgeholt werden, neu verarbeitet werden, wieder eingespeichert werden, also dass da halt im kognitiven Gedächtnisprozess viel passiert.
Das ist dann in der ganz konkreten Beweisführung nochmal sehr, sehr kompliziert, aber man arbeitet da eher erstmal mit ganz vielen Signalen, die man übereinander legt, Anzeichen, die man verarbeitet.
Und daraus kann man dann eben auch bestimmte Indikatoren berechnen.
Es gibt zum Beispiel die frontale Alpha-Asymmetrie, das ist, wenn vorne im Gehirn, wenn auf der einen Seite die Alpha-Aktivität hochschnellt und auf der anderen Seite runter, ich lese es jedes Mal nach, wenn ich es berechne, dann ist es ein Zeichen, dass das Gehirn sich etwas annähern möchte, also eine Approach-Motivation hat.
Und vice versa, wenn das eben andersrum ist, eine Avoidance-Motivation, also es ist häufig, wenn du irgendwie was hast, was dem Gehirn gar nicht gefällt, wo das weg will, quasi von.
Das zeigt einem eigentlich, wie, wenn man dann ins iTracking guckt, was löst eigentlich eine Annäherungsmotivation aus in dieser Aufgabe.
Wo sind die Leute konzentriert, wo wollen die reingehen?
Wann schalten die ab?
Genauso kann man über alle EEGs, also über alle Elektroden eigentlich drüber messen und sagen, wie ist denn der Cognitive Load?
Also wie angestrengt ist das Gehirn gerade bei der Bearbeitung der Aufgabe.
Und das kann man natürlich dann gut vergleichen.
Ich meine, LLM nimmt einem Arbeit ab, das ist klar.
Nur was wir jetzt schon sehen, ist, dass das Gehirn dann eher in so einem Autopiloten-Modus ist.
Das heißt, man bearbeitet irgendwie gut die Aufgaben, es funktioniert doch alles irgendwie einigermaßen und das Gehirn fährt gar nicht so richtig hoch.
Und das ist natürlich schwierig, weil das Hochfahren von dem Gehirn, also die Anstrengung, die wirklich auch quasi chemische, elektrische Anstrengung, die das Gehirn da auch energieressourcenmäßig reinsteckt und rein investiert, das ist halt ein Riesenhinweisreiz für unser Gehirn, sich etwas zu merken.
Also das zeigt, wenn wir uns anstrengen, gehören, weiß das Gehirn, okay, es machen wir nicht freiwillig, das muss was Wichtiges sein.
Das heißt, das ist ein Trigger, das ist ein Hinweisreiz für unser Gedächtnis, sich etwas zu merken.
Und das ist natürlich gefährlich, wenn man weiß, bei ChatGPT fährt das Gehirn gar nicht so richtig hoch, bei LLM-Assistenten, dann führt es natürlich auch dazu, dass Gedächtnisprozesse viel schwieriger sind fürs Gehirn einzuleiten, weil einfach diese Anstrengung nicht da war.
Das ist so ein bisschen wie wenn man quasi Muskeln aufbauen will, ohne Sport zu machen.
Also wenn da nicht, wenn da nicht der Trainingsimpuls gegeben ist, dann gibt es auch weniger Muskelaufbau.
Und so ein bisschen so funktioniert das Gehirn eben auch.
Wir sehen eben jetzt schon, dass es da fundamentale Unterschiede gibt, nicht nur in der Art und Weise, wie sie arbeiten, sondern auch, wie sie ihre Arbeit bewerten, wie viel Mühe sie sich geben, wie detailliert und prozessgetreu diese Modelle dargestellt und abgebildet werden.
Und das sind ja jetzt wirklich absolute Top-Experten in ihrem Feld gewesen, die wir da gemessen haben.
Also nicht, sage ich jetzt mal, Studierende, die das gerade irgendwie zwischen der Pause schnell gemacht haben.
Das ist schon schon erschreckend zu sehen, welchen Einfluss da KI-Assistenz auf uns hat.
Und es wird gerade so in der ganzen LLM und Coda-Szene immer von Human in the Loop gesprochen.
Also ja, LLM hilft uns und es gibt uns dann die Lösung vor und es gibt aber immer noch am Ende einen Mensch, der quasi raufschaut, Quality Geld macht und das am Ende freigibt.
Und was wir aber eigentlich immer mehr sehen in unseren Daten, ist, dass der Mensch A gar nicht mehr willens ist, das wirklich zu tun.
Das ist einfach, wenn einem das immer wieder abgenommen wird, man kommt nicht in der Tiefe in diese Lösung rein.
Man musste sich da so reindenken, es ist so anstrengend.
Man ist da einfach, ja, man ist da eher nicht so willens zu, das noch zu machen, wirklich.
Und B, einen Fallen auch weniger Fehler auf.
Also etwas, was man selber gemacht hat oder wo man zumindest selber Energie rein investiert hat, dass es viel einfacher Fehler zu finden.
Versus, wenn ich das Fertiges gezeigt bekomme, mich da reinzudenken und dann zu überlegen, ist da ein Fehler oder nicht.
Das heißt, die, wir nennen das Error Detection Ability.
Nimmt halt stark ab durch KI-Assistenz.
Also ich sehe das im Alltag auch immer, dass wenn ich anfange, mir von KI-Texte generieren zu lassen, womit ich eigentlich zum Großteil aufgehört habe, brauche ich länger, um das zu redigieren, um das zu korrigieren, als würde ich es einfach von Anfang an selbst schreiben.
Wozu es allerdings gut ist für mich, ist diese, dass es einem Ideen gibt, ja, oder dass man diese in diesem Dialog tritt mit jemandem, denen es quasi nicht gibt.
Normalerweise hat man eben nicht diesen Experten da zur Hand.
Ja, an der Stelle nochmal vielen Dank an Professor Wittenberg von der Hochschule für Technik und Wirtschaft in Berlin, der uns netterweise sein Raum zur Verfügung gestellt hat und uns dort forschen lassen.
Er war auch einer der Probanden.
Also wir hatten sehr viele aus Academia, die sich bereit erklärt haben, eben genau diese Aufgaben zu lösen.
Und es war auch super interessant to see, wie sich their gehirne quasi unterschiedlich verhalten haben.
Und eine zwischenbemerkung an der Stelle noch, wir beide sind gestern mit dem Zug von Berlin nach Hamburg gefahren.
Unser Zug war, wie sollte es anders sein, anderthalb Stunden verspätet.
Und das Erschreckende war, dass das erste Mal dass ich das festgestellt habe, dass es am Berliner Bahnhof tatsächlich keinen einzigen warmen Raum vom Hauptbahnhof gibt, von der Deutschen Bahn gibt, in dem man sich unterstellen kann.
Neil, war das nicht wild?
Ich meine, wir haben beide, wir standen da bei minus 5 Grad.
Es gibt keinen, es gibt vielleicht irgendwo einen Heilstrahler, den wir nicht gefunden haben, aber es gibt keinen warmen Raum, weil die Lounge wird geschlossen.
Sämtliche Bars werden geschlossen irgendwann.
Das heißt, wenn man um zehn um 11 da ist, dann ist man erstmal auf sich alleine gestellt.
Und diese Verspittungen werden ja nicht alle auf einmal angezeigt, sondern bauen sich incremental auf.
Das heißt, man kann auch nicht an der Stelle beim Berliner Bahnhof is a steigenberger in der Nähe irgendwie in den Hotel ging.
Also, that fand ich schockierend, aber vielleicht mal eine Idee, da eine Art Schutzraum aufzubauen.
Da können wir aber ehrlicherweise auch das hiesige, die HISAG Bahnhofskneife als ganz gemütliches Republik empfehlen.
Yeah, what of the spannend is that the critical density and the hinterfragen of Lösungen extrem upgenommen had in the bearingsprozessen.
And we have seen that the Versuchsperson that KI Assistant with the Modellen extrem zufrieden were.
And then with the unfortunate, when the KINB vernunfights, this is also a slippery slope, in which one.
When many, then has a chance that we can say when many things or they don're in a clausur space.
Okay, Neil, Dank.
We have to brick, we get.
There are two great papers.
That's we watch on the working of KI of the hair, of our health, of our life.
And we have updated.
I thank you.
This was also the forgiving on KIM and Friday.
And I think so tips for Indian in the world.
I went to New Delhi, Mumbai, and to Bangalore.
And what I in this super interest is that A Indian China in the world had.
And we're interesting that when we the tech CEO of Microsoft, there are so many in India come.
But it's the president of the World Bank Group, then the CEO of YouTube, also Neil Moin.
These are all in the American with Indian ground, how much none of them, but the mean people are in India.
And I thought where this is.
24,000 reichen.
I think I have this in the four letters podcast, which is Indian kommt.
How they trotzdem of the internet national research an easier.
That's there's an immense bedroom in the USA and China, but they actually have the talented have.
And we can have to find another interesting point is that KI in Indian super sinful in the spray is.
And this diversity stellt, glaube ich, sowohl the Regierung als auch die Inder Herausforderungen.
The Inder, which I can spread all five Dialekte or five completely spray.
Daher is interesting, what KI den in this context help.
What I ebenfalls are interesting was that over 800 million, and this is two, from the staff alimentier.
That's they have subventionier and get the walzen and so we are sorry.
And the herausford is extremely.
Not schrittlichkeit, but these are the rest of the events to the other side.
This seen we in China some time, but I think Indian is not extremer in this context.
That's why I'm so on my reise.
I will then tell you mid-March start and it was organized from a hamburger delegation.
But I feel like a lot of the shot with you have a countnell, which I in a forbidden to a keynote had a microphone heard, and so on to Cyber and AI.
And what I in this context had where this scamming comes.
Quantum computing, if you have a initiative that all the random and forced on quantum, but let's the forbidden that there even these capacity given the right side forbereited, but then the angriff even a hundred thousand of the actual capacity have.
And I have what they actually here come.
And the interessant is, or the traurig is that there's an absolute explosive wachstum in Myanmar start momentan.
And this 2021 and then even since 2022.
And these complex says, and in this complex of 11 to 30.
And in the last four years, there were ungefair 50,000 quadraters per month.
So and also the military hunter, the grade in Myanmar had a central role in these problems, weil they sorry that these ries complex, these compounds we're fortunate.
And they are teiling this criminal ecosystems.
But they were from these, so these are from the junta gene and they have an art checks and balances and monetary participation, but that's a really great idea, beziehungswork for these months.
And that's that has the territorial control about these grenades, when we have to do it, but these network and these betrugs centres are greater and brighter.
In fact, they hold in direct under the control of the Bournesian military.
And even not often that quasi on the grenade are.
Um hunderte of Milliarden Dollar jedes Jahr.
Also, das heißt, es sind nicht nur die Enkel-Tricks, in denen per Deepfake the OP dazu aufgefordert wird, etwas zu überweisen, or even the Mitarbeiter einer Bank.
Ich meine, es gibt Geschichten, da wurden ich glaube 23 Millionen von einem Konto to the otherwise, weil jemand a deepfake for a Zoom-Call erstelled had and it functioned tatsächlich.
And they can pessive, die, the verbrechensquote error, um, an alltag erleben to drive quasi.
And these are not ironic provisorische Wellblechhütten or so, this is hochkomplex operation.
And they are stark gesichert.
These complex have zone and wachttürme, controlpunkte, they have dichtes überwachungsnetz and they have some teiling ÖPNV.
They have eighteen Fair Verbinding and private stellen of the thailändischen.
And that he has not more about the office grenads.
And that heißt, dass dieser Menschen handeling over these canal extrem vereinfacht.
This is the dunker site, the people not bewusst.
Not really, it's not other tea.
It's in North Korea riesige Betrugscentren, die sorgen, that zum Beispiel Mitarbeiter for Jobs beverbed in Amerika.
And auch die, das heißt, that's they have some art synthetic identity fraud.
They beginnen immer synthetisch Identites deep stahl.
That he's teil, and in where these have a filter of the game.
And this is the function in real time.
And in the last year, there are 300 American people to open.
And the industry is also for North Korea one of the lukratives Jahr between 250 Millionen and 600 Millionen an Schaden for the American Unternehmen entsteht.
Insbesondere gibt es einen Intelligence leader of Google, Michael Barnhart heißt er.
And there sagte that the art and we are differentiated.
And then have violent American Identitäten.
And self aus dem Photo of the ID can be deepfake generation and then eventually a real-time face-filter, so to say, with this gestolen Identity to be verbally.
Nordkorean Kim Jong Uns.
And it's tatsu interviews, in fact that when the teilnehmer befragt werden, fangen to fluchen and computer hin and many so far, that the filter wegfliegen and so we are, but they in this moment fühlen.
Na gut, also that highlights the week.
They have an KI Fund to end and are one of women who are tatsu in epicentrum in Berlin künstliche Intelligence.
Also that was spanned to stellen.