# Mitigating AI Deepfake Fraud in Corporate Operations

**Podcast:** Kollegin KI
**Published:** 2026-03-24

## Transcript

Es ist Februar 2024.
In Hong Kong geht ein Accountant in das Büro des Planungs- und Ingenieursbüros Arab.
Arab ist ein international tätiges Unternehmen, das sich mit großen Bauvorhaben beschäftigt.
Einer der ikonischen Bauten, für die Arab beispielsweise als Planungsbüro verantwortlich war, war das Opernhaus in Sydney.
Das kennt jeder von euch.
Und dieser Ingenieur bzw.
dieser Accountant geht in sein Büro und bekommt eine Mail.
Eine Mail von seinem CFO, in der CFO um eine Transaktion bittet.
Eine geheime, vertrauliche Transaktion.
Er soll also Geld überweisen.
Das Ganze kommt dem Accountant ein bisschen skeptisch vor und er fragt nach, woraufhin der CFO, der vermeintliche, ihm einen Invite schickt zu einem Zoom-Call.
Also geht der Accountant in diesen Zoom-Call und findet dort neben seinem CFO auch noch eine ganze Menge andere Finanzführungskräfte, die alle bestätigen.
Ja, diese Transaktion, die ist wichtig, die muss jetzt getätigt werden.
Bitte kümmere dich drum.
Was er dann macht, ist, er überweist knapp 25 Millionen US-Dollar auf verschiedene Konten.
Und später am Tag wird ihm irgendwie klar, irgendwas stimmte da nicht.
Also da muss ich mal nachhaken.
Er ruft dann also in der Zentrale an, hakt nach und ja, der Schaden ist passiert.
Das ganze Meeting war gedeepfaked.
Alle Führungskräfte, die mit dabei waren, von der Mail bis hin eben zu dem Zoom-Call, waren von KI generiert und der Schaden ist da.
Die Betrüger oder der Betrüger ist bereits über alle Berge.
Das war so einer der ersten großen KI-Frauds, den ich auch mitbekommen habe damals.
Seitdem ist viel passiert.
Also KI-Frauds sind ein riesengroßes Problem für die Wirtschaft.
Es wird geschätzt, dass jährlich 40 Milliarden US-Dollar Schaden entstehen.
Und demnach gibt es natürlich eine ganze Menge Ideen, wie man das eingrenzen kann.
Und Unternehmen, die sagen, wir können Deep Frauds, beziehungsweise wir können Deepfakes erstmal detecten und können Unternehmen vor solchen Betrugsmaschen schützen.
Und mit dem Gründer von einem dieser Unternehmen möchte ich heute sprechen.
Linus ist zu Gast.
Linus, du bist Gründer von Wahrhaft mit VAA geschrieben.
Und ich freue mich sehr, dass ich heute mit dir so ein bisschen über Deepfakes und Frauds sprechen kann.
Mein Name ist Max Montänke und ihr hört den True Crime KI-Podcast, Kollegin KI.
Hallo Linus.
Moin Max, danke für die Einladung.
Sehr gerne.
Linus, mit eurem Tool wäre das wahrscheinlich nicht passiert, oder?
Kann ich natürlich nicht zu 100% sagen, aber die Wahrscheinlichkeiten, ja, die Wahrscheinlichkeit ist hoch, dass wir da was hätten detektieren können.
Klar.
Die Wahrscheinlichkeit ist hoch.
Erklär mal bitte, was ihr macht.
Also, das ist eigentlich schon ganz gut eingeleitet.
Also wir beschäftigen uns mit der Detektion von Fake-Medien.
Also sowohl Fake-Bilder oder Fake-Dokumente mittlerweile auch Videos, Audios.
Das ist so der Scope, den wir insgesamt gehen.
Haben uns halt zu Beginn nur auf Einzelbilder fokussiert und dann auch Dokumente zugenommen.
Und jetzt erweitern wir langsam das Spektrum.
Und wir gehen noch darüber hinaus.
Also wir detektieren nicht nur fehlerhafte Medien, sondern wir betreiben auch Betrugsprävention.
Also auf der einen Seite haben wir Software, um gefälsche Medien zu detektieren.
Und auf der anderen Seite haben wir Software, um authentische Medien schon direkt im Ursprung als authentisch abzusichern.
Bedeutet in dem konkreten Fall jetzt, wenn ich es mal sage, der Angestellte geht da ins Büro und wird in ein Zoom-Meeting eingeladen, dann blinken überall die roten Lichter auf und heißt das: Nee, nee, wahrhaft Software hat erkannt, es handelt sich hier um Deepfake.
Kann man sich das so vorstellen?
So, genau, so ungefähr kann man sich das vorstellen.
Wie gesagt, wir haben auch keine Video-Absicherungslösung, sondern habt ihr wirklich nur Bild, Dokument und Audio haben wir tatsächlich jetzt auch schon.
Aber wir haben noch keine Video-Absicherung, die wirklich als Plugin in Real-Time-Zoom-Calls oder so weiter absichert.
Das ist natürlich ein sehr vorhersehbarer nächster Schritt, aber den haben wir aktuell noch nicht.
Das heißt, wenn wir ein paar Monate in die Zukunft gehen, dann wäre es genau so gewesen, richtig.
Dann hätte das Meeting stattgefunden, dann wäre da irgendwo ein Alert reingeploppt, Achtung, Achtung, hier stimmt mit hoher Wahrscheinlichkeit etwas nicht.
Und dann wäre ganz konkret der nächste Step gewesen, authentifiziert euch doch bitte mal als wirklich echte Menschen, indem wir beispielsweise ein Selfie mit der Safecam von wahrhaft aufnehmen.
Und da habt ihr keine Chance mehr, ein gefälschtes Bild aufzunehmen.
Okay, dann bin ich natürlich jetzt Feuer und Flamme zu wissen, wie das technisch funktioniert.
So ein typisches Ding ist ja, KI-generierte Bilder in Social Media beispielsweise.
Also, also wenn ich jetzt wissen will, ist so ein Bild KI generiert oder ist das echt.
Wie gehe ich davor?
Was passiert dann in der Software?
Wie erkennt ihr, ob das KI-generiert ist?
Also wir verlassen da auf jeden Fall den Space, wo wir noch wirklich richtig klare Regeln definieren können, die wir als Menschen verstehen können.
Das ist, glaube ich, ganz wichtig zu verstehen.
Weil die Tools zum Generieren dieser Bilder ja mittlerweile so gut geworden sind, dass wir als Menschen in den meisten Fällen kein Chance mehr haben, sie zu erkennen.
Das heißt, wir sind an einem Punkt, wo wir KI brauchen, um KI-Fakes zu erkennen.
Also wir brauchen Mustererkennungssysteme, um solche KI-generierten Inhalte zu erkennen.
Wir nutzen im Endeffekt Deep Learning-Modelle, die wir selber trainieren.
Die kriegen ganz viele echte Bilder, die kriegen ganz viele KI-generierte Bilder und was die dann am Ende lernen, sind gewisse Merkmale in der Pixel-Anordnung zu extrahieren, die für eine KI-Generierung sprechen.
Und das ist bei unserem Verfahren vor allem die Predictability, also die Vorhersagbarkeit der Pixel-Anordnung.
Also, das ist es letztens, worauf wir es unterbrechen.
Also das Problem kenne ich selbst, wahrscheinlich kennen das alle von euch, die hier zuhören auch.
Die Bilder, Videos, die Daten, die im Grunde irgendwie vor allem in Social Media zu sehen sind, die werden immer besser von der KI.
Ich fall regelmäßig mittlerweile drauf rein.
Also vor einem Jahr war es noch relativ gut oder ich sag mal simpel zu erkennen, okay, hier stimmt was nicht in der Schattierung oder irgendwie braucht man Finger zu viel, so Sachen, wo KI am Anfang wirklich noch Probleme mit hatte.
Das ist mittlerweile natürlich gar kein Problem mehr.
Jetzt sagst du, ihr checkt im Grunde Deep Learning-Verfahren, trainiert eine ganze Menge KI generierte Bilder und dann gebt ihr ein echtes oder ein vermeintlich echtes Bild rein und prüft dann, ob das auch von einer KI generiert wurde.
Jetzt stellt sich mir die Frage, wie sicher ist das denn?
Also könnt ihr mit hundertprozentiger Wahrscheinlichkeit sagen, ja, das ist echt oder nein, das ist fake?
Nee, mit hundertprozentiger Wahrscheinlichkeit natürlich nicht.
Also wir sind da im Bereich der Statistik unterwegs, also Machine Learning.
Darum geht es ja, es gibt nur maschinelles Lernen, aka-Musterkennung, Pattern Recognition und eine Unterform davon ist Deep Learning.
Und Machine Learning Musterkennung ist reine Statistik.
Da gibt es unterschiedlichste Algorithmen und neuronale Netze sind ein, ich sage jetzt mal Algorithmus oder ein Verfahren dieser Mustererkennung.
Was einfach nur die Stärke hat, dass man auch in sehr komplexen Daten Muster erkennen kann.
Und dementsprechend hat Deep Learning jetzt gerade ein extremen Aufschwung erfahren.
Aber trotz alledem bleibt es Statistik.
Also es geht darum, vorherzusagen, gegeben eine gewisse Merkmalzverteilung, wie wahrscheinlich ist Klasse X oder Y.
Ja, also gegeben Merkmalzverteilung der Pixel XY, ne, wie wahrscheinlich ist es, dass dieses ganze Bild echt ist oder KI generiert, aber es ist am Ende eine Wahrscheinlichkeit.
Das heißt, unser System gibt eine kalibrierte Wahrscheinlichkeit zurück.
Das heißt, da steht dann sowas wie mit 98% Wahrscheinlichkeit wurde dieses Bild KI generiert.
Das heißt, wir setzt nichts anderes als in 98 Prozent aller Fälle, wo während des Trainings unseres Modells ein Bild eine vergleichbare Pixelanordnung hatte, war es KI generiert.
Das heißt aber nicht, dass es tatsächlich KI generiert ist.
Es bleibt immer eine Restunsicherheit.
Das heißt, 100% geht nicht, wer 100% claimt, das unseriös.
Ich habe auf eurer Website gesehen, dass ihr unter anderem auch Versicherungen betreut, beziehungsweise denen eure Software zur Verfügung stellt.
Also Versicherungsbetrug mit KI ist offenbar auch ein Ding mittlerweile, ja, dass da beispielsweise dann Fotos vom Auto durch eine KI gejagt werden und dann da Kratzer reingebastelt werden oder Beulen oder vielleicht ein kaputtes Smartphone, ja.
Und dann kann man die Bilder dann bei seiner Versicherung einreichen.
Versicherungsbetrug begehen, ja.
Und natürlich entstehen da eine ganze Menge Schäden.
Deshalb eigentlich smart, sage ich mal, das Ganze auch mit entsprechenden Detection-Programmen zu verifizieren.
Jetzt stellt sich mir aber die Frage, bei 99% Wahrscheinlichkeit, dann, wenn er eine Million Deepfake-Bilder bei einer Versicherung eingehen, dann sind es ja immer noch 10.000, die falsch negativ gesehen werden.
Also wenn ich jetzt in der Statistik bleibe.
Das heißt, man nimmt in Kauf, das vielleicht dann irgendwie auch ein Prozent, also in so einer hohen Zahl läppert sich das dann ja, dass die im Grunde auch falsch detektiert werden oder wie geht man damit um?
Ja, klar, das ist jetzt natürlich eine coole Frage.
Die habe ich ehrlich gesagt in der Form so rum noch nie gestellt bekommen.
Das ist tatsächlich schon fast eine philosophische Frage.
Also die Frage ist jetzt, guckst du darauf, ob das Glas halb voll ist oder ob es halb leer ist.
Du hast dich jetzt dazu entschieden, das Glas halb leer zu betrachten.
Ich betrachte das Glas lieber halb voll, denn du könntest ja auch andersrum sagen, von diesen eine Million Fällen, die hier eingereicht werden bei euch, liebe Versicherung, würdet ihr genau keins erkennen ohne unser Tool.
Mit unserem Tool erkennt ihr 990.000 oder so etwas.
Und ein paar rutschen euch durch, aber ohne uns wären euch viel mehr durchgerutscht.
Und das ist die Argumentation, die die Versicherung ja auch selber fahren.
Weil deren Pain ist ja, dass sie aktuell wissen, dass sie betrogen werden, sie wissen aber nicht, von wem sie betrogen werden und in welcher Höhe.
Sie wissen aber, was findet statt.
Und für die geht es am Ende darum, dass sie mit uns mehr einsparen als ohne uns.
Und das erreichen sie.
Natürlich, das Glas halb leer sehen ist da, glaube ich, eine Sache.
Ich bin, muss ich ehrlich gestehen, relativ kritisch gegenüber solcher Tools.
Ich kann mal so eine kleine Anekdote bringen.
Ich war in meiner Anfangszeit als KI-Berater, war ich mandatiert in einer kleinen Unternehmensberatung.
Und da gab es dann den Vorfall, dass eine Kollegin auf mich zukam und sagte, ich arbeite hier als Texterin, ich habe eine Narrative entwickelt, ich habe irgendwie zwei, drei DIN A4-Seiten geschrieben zu einem gewissen Fall.
Hab das dem Kunden geschickt und der Kunde schickte mir darauf eine Mail zurück und sagte, das ist laut meinem Detection-Tool zu 98% KI-generierter Text.
Wofür bezahle ich euch denn eigentlich, wenn ihr das hier einfach nur mit KI macht?
Und sie war ziemlich angeschlagen.
Sie hat wirklich gesagt, ich kann, ich schwöre hier, dass ich das definitiv nicht mit KI gemacht habe, sondern per Hand.
Und was antworte ich denn jetzt?
Wie gehe ich denn damit um?
Und ich habe spassenshalber gesagt, naja, nimm doch mal einfach die Mail, die der Kunde dir geschickt hat und jagt das auch durch irgendein KI-Detection-Tool.
Und das wird ja auch sagen, dass da mit Sicherheit irgendwie 80, 90, 100% KI-generierter Inhalt ist.
Also diese ganzen KI-Detection-Tools, die auf dem Markt sind, die funktionieren aus meiner Sicht nicht.
Vor allem was Text angeht.
Warum funktioniert euer Tool?
Spannende Anekdote.
Kann ich noch ehrlich verstehen, dass die Frau da angeschlagen gewesen ist und dass du selber dementsprechend jetzt kritisch solchen Tools generell gegenüber eingestellt bist.
Es ist tatsächlich wichtig, hier nicht Äpfel mit Birn zu vergleichen, würde ich sagen.
Also du hast es ja gerade selber gesagt, das Tool, von dem du gerade gesprochen hast, Text-Detection, ist natürlich Quatsch.
Deswegen haben sie auch so hier Unternehmen wie OpenAI selber davon verabschiedet, ihre eigenen Texte mit Hilfe von Mustererkennungssystemen als KI-generiert einzustufen.
Das funktioniert natürlich nicht so solide, nicht so robust und vor allem nicht bei sehr kurzen Texten.
Weil am Ende geht es da darum, dass du Muster in dem Text selber kennst.
Wenn ihr jetzt nur ein Satz schreibst, kannst du wenig Muster darin erkennen.
Wenn du hingegen einen riesen Aufsatz nimmst, dann kann es durchaus sein, dass du da irgendwann Wiederholungen findest.
Um ein Text zum Beispiel zu erzeugen, immer mit gewissen Wörtern zum Beispiel den Satz beginnt.
I don't know.
Also das ist nicht ausgeschlossen, aber es ist sehr, sehr schwer und wir selber fassen Textdetektion überhaupt gar nicht an, weil wie gesagt, doch die großen Big Player das selber auch nicht tun.
And in Sachen Bildern?
Und auf deine Frage, genau.
Also du hast jetzt ein relativ bold Statement in den Raum gestellt, mit diesen ganzen Tools da draußen funktionieren nicht.
Ich meine, sonst würde die ja nicht existieren und auch nicht funktionieren.
Wir haben es auch schon geproved, dass wir funktionieren.
Da gibt es ja schon, gibt es ja schon Beweise für.
Dementsprechend, warum funktioniert unser Tool, weil unser Tool auf unsere eigenen Technologie basiert, weil unser Tool auf Robustheit getrimmt ist.
And weil wir, und this is ganz wichtig, die Detection nicht als stand-alone-Lösung verstehen, sondern nur als Hinweisgebungssystem.
We sagen nicht, wenn das Modell von uns sagt, mit 98 Prozent Wahrscheinlichkeit, es dieses Bild KI generiert.
Dann sagen wir nicht, jetzt geht bitte to the Kunden and sagt, wir zahlen euch den Schaden nicht aus.
Wir sagen, es ist erstmal nur ein Hinweis.
And dieser Hinweis kann auch falsch sein.
It is nur wichtig, dass du einen Filter habt, and that dieser Filter euch potenziell für die Gefälle zumindest hochspült, die sonst komplett durchgerutscht worden werden.
Und was unser System dann im nächsten Schritt macht, ist mit der Safecam andocken und dann quasi diesen Betrug richtig vereiteln.
Bei Deepfake-Detection per se ist natürlich nichts, was einmal gebaut wird und dann für immer funktioniert.
Klar, lass uns mal kurz vielleicht auch auf die technische Ebene gucken.
Für die Nicht-Nerds, die hier zuhören.
Also es funktioniert so, dass ihr im Grunde dann ja schaut, was für Metadaten hat beispielsweise so ein Bild, ja, was für Spuren könnte eine KI hinterlassen.
Und da habe ich so zwei Anknüpfungspunkte, wo ich sage, auch da bin ich kritisch.
Denn wenn ich jetzt ein Bild mit einer KI generiere und das runterlade und dann irgendwie in Social Media oder sonst wo hinhaue, dann könnte man durchaus mit den Metadaten checken, okay, das kommt irgendwie da und daher, ja, da ist irgendwie ein Fußabdruck, ein Fingerabdruck, der, der sagt, okay, das ist hier mit KI generiert.
In dem Moment, wo ich das dann aber irgendwie Screenshotte, abfotografiere, möglicherweise vorher nochmal ausdrucke, irgendwie ein Filter drüberlege, die Pixel-Azahl verändert, verändert sich ja auch alles, was irgendwie an technischen Daten mit dabei ist.
Das heißt, rein theoretisch ist doch so ein reiner Fokus auf Metadaten oder vielleicht auch auf Bilderkennung.
Kann doch gar nicht 100%ig richtig sein.
Und wenn man möchte, kann man doch natürlich trotzdem noch ein Fraud begehen mit solchen Bildern, oder?
Absolut, da hast du jetzt nichts Falsches gesagt.
Du hast nur eine Sache gesagt, die muss ich tatsächlich korrigieren.
Wir gucken nicht nur auf die Metadaten.
Genau aus den Gründen, die du gerade genannt hast, gedacht.
Vollkommen recht.
Also Metadaten sind sehr instabil, Metadaten sind doch veränderbar, es gibt Online-Tools, mit denen kannst du Metadaten anpassen.
Also du kannst einfach ein Bild reinschreiben, ich bin dann und dann dort und dort gewesen.
Das Bild wurde da aufgenommen zu der Uhrzeit.
Also Metadaten sind extrem fragil, wie du schon sagst, du kannst ein Screenshot machen, dann sind diese Metadaten in der Form auch weg.
Deswegen sind Metadaten, also das Analysieren von Metadaten ist etwas, das machen wir auch noch mit, weil ab und zu tatsächlich Betrüger vergessen, dass dem der Fall ist.
Können wir die tatsächlich aufgrund der Metadaten überführen.
Aber es ist der seltenste Fall.
Wir machen es einfach mit.
Unsere Hauptexpertise liegt wirklich in der Pixel-Analyse.
Also, dass wir wirklich die Pixel so wie sie sind, reinnehmen, analysieren und dann wirklich in der Anordnung der Pixel selber Auffälligkeiten finden.
Beispielsweise Anomalien.
Also, wenn wir jetzt über die Bearbeitungserkennung sprechen, wurde ein Bild nachträglich bearbeitet, wurde ein Schaden irgendwo reingesetzt.
Das nennt man dann zum Beispiel Shallow Fake und nicht Deepfake.
Nutze ich quasi ein herkömmliches Tool wie Photoshop zum Beispiel, um den Schaden irgendwo reinzusetzen oder auch ein GenR-basiertes Tool.
Das heißt, da wird nicht das ganze Bild neu generiert, sondern es wird nur ein Teil verändert.
So was zum Beispiel ist dann im Bereich der Anomalieerkennung bei uns unterwegs.
Und das machen wir auf Pixel-Ebene.
Das heißt, das können wir auch für Screenshots.
Das können wir für normale Fotos, das können wir auch für Screenshots.
Dass du gerade beschrieben hast, dieses Ausdruck und wieder einscannen, das nennt man in der Forensic Analog-Hole.
Also, dass du quasi die Dimension brichst, du gehst aus der digitalen Welt in die physische und von der physischen zurück in die digitale.
Da gehen natürlich total viele Spuren verloren.
Da hast du recht.
Unser System ist tatsächlich zum Teil sogar auch darauf trainiert.
Heißt nicht, dass wir das alles detektieren, heißt aber, dass wir eine gewisse Robustheit sogar dagegen schon geschaffen haben.
Nichtsdestotrotz hast du auf jeden Fall recht.
Es gibt immer irgendwelche Grenzen.
Kein System ist perfekt.
Kein System ist perfekt.
Du kannst jedes System mit ausreichend viel Aufwand umgehen.
Und das ist nämlich der springende Punkt an der Stelle.
Unser Ziel ist es nicht, dass wir den gesamten Betrug, den es da draußen gibt, für ein und für alle Mal komplett verhindern.
Dann aus verschiedenen Gründen.
Es wäre für uns selber nicht einmal gut, selbst wenn wir es könnten.
Also wir selber leben ja davon, dass es Betrug gibt.
Natürlich.
Aber auf der anderen Seite ist es unser Ziel, dass wir den Aufwand erhöhen.
Es geht nicht darum, dass wir claimen, wenn ihr uns nutzt, dann gibt es keinen Betrug mehr.
Wir sagen nur, wir erhöhen den Aufwand, Betrug zu betreiben der Art, dass es für den Großteil der Betrüger unattraktiv wird.
Denn was wir hier gerade gesehen haben, ist einfach nur ein Ändern der Randbedingungen.
Durch Gen AI, durch die ganzen Tools, die da draußen plötzlich vor ein paar Jahren verfügbar wurden, oder jetzt erst so richtig gut sind, ist es plötzlich für Menschen möglich, einen Betrug zu betreiben, der vor einigen Jahren noch nicht möglich war.
Ich konnte vor einigen Jahren, wenn ich keine Expertise in Photoshop hatte und richtig gut in Animieren von 3D-Objekten war, konnte ich nicht einfach mein Auto fotografieren und da wirklich realistische Schäden reinsetzt.
Das ging einfach nicht.
Einige Menschen konnten es.
Ich meine, es gab schon immer Action-Filme, ne?
Das hat immer schon irgendwie geklappt.
Aber es konnte der Großteil der Menschen eben nicht, und das ist ja gerade der Punkt.
Gerade ändert sich das.
Es ist plötzlich allen Menschen möglichst, solche realistischen Facts herzustellen ohne Expertise.
Also die Hemmschwelle ist extrem gesunken.
Und unser Ansatz ist es einfach nur, diese Hemmschwelle wieder hochzusetzen.
Dass wir sagen, das, was jetzt kurzfristig für alle Menschen super einfach ist, das machen wir schwerer.
Und wenn du da natürlich hingehst und extrem viel Aufwand betreibst, dieses Gedankenspiel können wir endlos weiterführen.
Wir könnten auch sagen, du kannst auch den ganzen Unfall stagen, theoretisch, und dann kannst du es abfotografieren und dann kannst du es da einreichen.
Irgendwo kannst du es irgendwo umgehen.
Unser Ziel ist es nur quasi den Aufwand zu erhöhen, damit es halt einfach unattraktiver wird.
Absolut.
Es gibt ja historische Deepfakes auch.
Also, ich nehme da gerne mal als Beispiel irgendwie das bekannte Bild von den Rotarmisten auf dem Reichstagsgebäude am Ende des zweiten Weltkriegs, ja.
Ikonisches Bild des zweiten Weltkriegs, das tatsächlich im Nachhinein von der sowjetischen Führung bearbeitet wurde.
Im Originalbild sieht man da einen Soldaten, der zwei Armbanduhren anhat, die nicht da sind, weil er irgendwie besonders viel Wert auf Zeiten legt, sondern weil es natürlich Beuteuhren sind, das wollte man aber in offiziellen Bildern nicht haben.
Also so Retuschen und im Grunde Bildveränderungen, um auch Geschichte zu schreiben, sind ja nichts Neues.
Also, das gab es ja schon vor Ewigkeiten.
Und sowas lässt sich dann natürlich auch relativ schwierig detektieren, würde ich mal behaupten, mit so alten Bildern.
Aber lass uns vielleicht mal so ein bisschen auf diese gesellschaftliche Ebene gucken.
Denn wenn man jetzt sagt, wir haben ein Tool, das kann beweisen, sag ich mal, zu 99% oder vielleicht 99,9, ist ja erstmal egal, ja, kann beweisen, kann ein Label an ein Medium machen, wo man sagt, dass es wahr oder dass es bearbeitet.
Kann das vielleicht gesellschaftlich auch zu Problemen führen.
Denn auf der einen Seite, klar, Versicherungen, ja, oder Online-Dating mag das wahrscheinlich irgendwie eine andere Zielgruppe sein, und da sagt man, hey, wir können 99% der Fälle erkennen und damit spart ihr sehr viel Geld.
Wenn ich jetzt aber sage, ich jag mal, keine Ahnung, ein Video oder ein Bild von Zelensky oder so rein, ja, so gab es ja durchaus Deepfake-Versuche auch mit Zelensky gerade zu Beginn des Angriffskriegs Russlands auf die Ukraine, wo es dann hieß, ja, legt eure Waffen nieder, wir geben auf.
Ja, und wenn ich das eine Million Mal mache oder reicht ja, wenn ich es 100 Mal mache und ein Video davon wird möglicherweise von so einem Detection-Tool als falsch wahr geclaimt, dann löst das doch eine mittelschwere diplomatische Krise aus, oder nicht?
Das ist auch eine sehr scharfe Frage, finde ich gut.
Ich rolle die mal von Anfang an auf, weil du hast mit der ersten Frage angefangen, du hast gesagt, ob ein Tool, was in der Lage ist, Inhalte als wahr oder gefälscht zu markieren, nicht gesellschaftlich Probleme mit sich bringen kann.
Und da würde ich sagen, ganz klar ja, auf alle Fälle.
Ich würde sagen, die Nicht-Existenz eines solchen Tools, aber auch.
Und ich sehe den Punkt auch, also weswegen wir zum Beispiel auch Content Credentials ja kritisch sehen.
Also quasi einfach nur in die Metadaten reinzuschreiben, dieses Bild wurde aufgenommen mit Kamera XY und deswegen ist es authentisch, das sehen wir auch als kritisch, weil der Ursprung nicht zwangsläufig abgesichert ist.
Also ich kann eine Kamera nehmen, wo diese Content Credentials drin sind, und dann kann ich damit einfach ein gefälschtes Bild gesagt, das abfotografieren, beispielsweise.
Und dann kriegt quasi ein gefälschtes Bild ein Trust-Signal.
Deswegen ist dieses Thema Trust, also quasi die authenticity zu marken, ist natürlich auch ein zweischneidiges Schwert.
Nur weil wir, und das ist nämlich der Punkt, um jetzt auf dieses Zelensky video wieder einzugangen: nur weil wir sagen, this build as KI-Generator kann, heißt es ja nicht, dass das Bild echt ist.
Das ist der Punkt.
Also, wir sind, wir verstehen uns halt als Hinweisgeber.
Das ist ganz wichtig.
Wir sind kein Beweis.
Du hast auch gerade wieder den Begriff Beweis verwendet.
Also, wir beweisen nichts.
Das ist reine Statistik, erstmal nur.
Wir sagen einfach nur in unserem Trainingsset, wo hunderttausende bis Millionen von Datenpunkten drin sind, in unserem Trainingsset war es in so und so viele Prozent der Fälle ein Deepfake, wenn die Pixel so und so angeordnet gewesen sind.
Das ist und das ist so unsere Aussage.
Und wir sagen, wir sagen nicht, dieses Bild ist zu 100% nicht auffällig.
Wir sagen, es ist kaum auffällig.
Da konnten wir nicht ausreichend viele Auffälligkeiten finden, um es zu flaggen.
Erstmal dazu, nur um das ein bisschen einzuordnen.
Also, das ist ganz wichtig.
Man darf unser Tool.
Das ist tatsächlich auch das, was wir unseren Kunden immer beibringen müssen, weil man natürlich mit so einer bisschen anderen Erwartungshaltung kommt.
Man denkt, dieses Tool beweist mir jetzt XY, aber es ist ganz wichtig zu verstehen, dass das überhaupt gar nicht geht, sondern dass wir einfach nur Hinweise geben können und diesen Hinweis muss dann nachgegangen werden.
Man darf nicht basierend einfach nur auf diesem Hinweis direkte Schritte folgen lassen, wie zum Beispiel im Versicherungsumfeld jetzt ein Fall gar nicht zu regulieren oder im Bankingumfeld eine Überweisung nicht oder ein Kredit nicht auszustellen oder was auch immer.
Deswegen betrachten wir das ganze Thema Desinformation, worauf wir es ja eigentlich runterbrechen können, auch sehr ganzheitlich.
Genau aufgrund, du hast es eigentlich echt perfekt auf den Punkt gebracht.
Wir sehen da drei Säulen.
Wir sehen auf der einen Seite die Detektionssäule, die Präventionssäule, und wir sehen die Medienkompetenzsäule.
Also auf der Detektionssäule, das ist quasi der Pfad, wo wir sagen, okay, hier können wir mit Technologie rangehen, um gefälschte Inhalte mit einer gewissen Wahrscheinlichkeit erstmal als gefälscht zu flaggen.
Die Präventionssäule ist für uns diese Säule, die so Richtung Content Credentials geht, wo wir sagen, okay, wir brauchen Devices oder Verfahren, um Medien, Bilder, Ton, etc.
aufzunehmen, auf eine Art und Weise, die schon bei der Aufnahme dem Betrug mit hoher Wahrscheinlichkeit verhindert.
Also quasi eine abgesicherte Kamera-App, wie unsere Safe Cam zum Beispiel.
Wenn du über die Safe Cam ein Bild aufnimmst, dann ist die Wahrscheinlichkeit sehr, sehr, sehr gering, dass ein Betrüger es schafft, da ein gefälschtes Bild einzuschleißen, weil wir es erkennen, ob du ein Bildschirm abfotografierst, ob du ein Bild abfotografierst.
Du bist gezwungen, ein echtes Bild aufzunehmen.
Aber auch das kannst du natürlich probieren, wenn du es häufig genug machst, zu brechen, das System.
Und dann kommt quasi die dritte Säule, und das ist quasi das Thema Medienkompetenz, dass wir insgesamt alle gesamtgesellschaftlich ein anderes Verständnis von Fakten bekommen müssen, mehr hinterfragen müssen.
Und diese Thematik, Desinformation hat so viel Potenzial, richtig Schaden anzurichten, Demokratien auch zu gefährden, dass wir da nicht hingehen können und sagen, unsere Lösung alleine ist die Lösung für alles.
Wenn ihr unsere Lösung verwendet, erkennen wir jeden Fake und alles, was unsere Lösung nicht markiert, ist automatisch echt.
Und dem könnt ihr alles glauben, das wäre total fatal.
Deswegen sagen wir, es muss eine gesamtheitliche Lösung sein, auch auf der technischen Seite.
Es gibt auch noch andere Verfahren, die wir zum Beispiel aktuell gar nicht abdecken, zum Beispiel Wasserzeichen, die können da auch gerne noch mit dazu kommen.
Je mehr wir da hinzugeben, desto geringer wird einfach das Potenzial für Frauds da.
Deswegen, also das ist ein gesamtgesellschaftliches und sehr ganzliches Thema.
Darf ich ein Gegenvorschlag machen?
Also, ich bin, wie gesagt, ja, auch Kommunikationsberater gewesen, komme aus der Krisenkommunikation.
Und bei diesem Fall von Arab, der war damals, also ich erinnere mich da noch dran, der war ziemlich maßgebend für alles, was das kommt, weil das eine neue Zeit der Frauds war, die angebrochen ist.
Dass jemand eine komplettes Zoom-Meeting beispielsweise faked, um dann an Geld zu kommen.
Und das natürlich auch durch KI einfach reproduzieren kann ohne Ende.
Man kann ja ohne Probleme durch KI sagen, wir machen jetzt mal 100 Millionen Fake-Anrufe.
Es geht täglicher.
70.000 Betrugsversuche in deutschen Unternehmen ein und die Nachfrage nach Sicherheit ist natürlich relativ groß.
Zum einen, und das ist, sehe ich mal kritisch an solchen Tools, bieten die einfach keine Sicherheit, weil selbst 99 Prozent Sicherheit in Zeiten von KI aus meiner Sicht nicht genug sind.
Und als jemand, der auch Prävention versucht, irgendwie mitzudenken, macht ihr ja auch, kannst du ja gleich gerne nochmal erzählen, wie ihr das anstrebt, bin ich immer so ein bisschen am überlegen, ob man das Ganze nicht umdrehen sollte.
Vielleicht gibt es mir da mal deine Meinung zu, statt zu versuchen, eine Maschine als ein Menschen als solches zu identifizieren, wäre es vielleicht sinnvoller, die Maschine als solches zu identifizieren.
Und zwar gar nicht mal technisch mit Metadaten oder Pixeln oder wie auch immer, weil das einfach mit der dann KI viel, viel besser wird, als wir Menschen das jemals könnten.
Sondern zu sagen, okay, in so einem Call beispielsweise, in so einem Zoom-Call, einfach mal zu sagen, klar, kann ich die Summe überweisen, ja, lieber Chef, lieber CFO, der mir das jetzt beauftragt hat, aber du musst mir vorher bitte irgendwie noch sagen, was die Quadratwurzel von 725 Millionen irgendwas ist.
Oder wer der drittletzte Kaiser von China war oder irgendwie solche Sachen, wo du eigentlich weißt, das können Menschen nicht wissen oder der Mensch, der mir gegenüber sitzt, der weiß das definitiv nicht.
Aber wenn ich sofort eine Antwort bekomme, dann weiß ich, dass die KI.
Also dass man eher davon ausgeht, dass KI deutlich überlegen ist, dem Menschen und dass man deshalb die Unzulänglichkeit der Menschen prüft, um solche Verifikationsverfahren zu machen.
Das wäre so ein Ansatz, der umgedreht ist.
Das heißt nicht der Kampf gegen die KI-Windmühlen, sondern viel eher zu sagen, hey, wir wissen doch, wie Menschen funktionieren, ja.
Und statt einfach zu gucken, wo sind die Grenzen der KI, ist doch viel leichter zu sagen, wo sind die Grenzen von Menschen.
Ich finde es wirklich interessant.
Bin ich spannend.
Same.
Bei solchen Gedankengängen, das schwingt natürlich immer so ein bisschen doch das Gefühl, mit dass man über der KI steht.
Also in dem Fall ja auch.
Also du hast es jetzt quasi anders probiert, anders zu framen, aber es läuft trotzdem darauf hinaus, dass du dich über die KI stellst und denkst, dass du einen Algorithmus schaffen kannst, der zuverlässig einen Menschen von einer KI unterscheiden kannst.
Das ist genau das, das am Ende des Tages läuft es läuft es darauf hinaus, dass du probierst, dann einen Test einzubauen, so eine Form von Tiering-Test und umgedreht.
Das Ding ist, also wenn das jetzt dein Vorschlag war quasi, der ernsthafter Vorschlag kann man den ja auch extrem leicht brechen.
Du kannst ja auch eine KI, kannst du dir eine KI genauso prompten, dass sie halt einfach nur so antworten soll wie ein Mensch und auch solche Fragen nicht antworten können soll und so weiter.
Also auch so ein System lässt sich ja umgehen und damit ist dieser Vorschlag ja dann auch wieder quasi nicht die Lösung.
Also aber ich würde sagen, dieses, es ist nicht die Lösung, das lässt sich auf sehr vieles anwenden und das ist auch okay so.
Da kommen wir nicht zu diesem Punkt, dass wir das Ganze ganzheitlich denken müssen.
Ich bin versenfest davon überzeugt, dass es sehr gut ist, Systeme darauf zu trainieren, KI-generierte oder generell manipulierte Inhaltet erklärbar, möglichst erklärbar aufzuspüren, damit wir halt einfach Filter haben.
Weil was wäre die Alternative?
Wir hätten gar nichts.
Die Alternative wäre, dass das Unternehmen weltweit überhaupt nichts hätten.
Und es kann ja auch nicht mehr so gut.
Der offensichtlich ausgetrickst wird.
Der offensichtlich, genau.
Deswegen, also die Alternative kann ja nicht sein, dass wir jetzt einfach nichts tun.
Aber die Alternative sollte meiner Meinung nach halt sein, dass man das Ganze, wie gesagt, ganzheitlich betrachtet und sich nicht auf ein einziges Verfahren nur stützt, sondern weiß, dass dieses, dass die Problematik dynamisch ist, dass die Gegenseite sich weiterentwickelt und dass man halt Systeme schafft, und das haben wir zum Beispiel mit dem Frontskan auch gemacht, dass man Systeme schafft, die adaptiv mitlernen können.
Also wenn die Gegenseite schlimmer wird, also wenn die KIs besser werden, dann kann unser System sich dem wiederum anpassen.
Das heißt, da muss man so ein Gespür für diese Dynamikkeit haben, offen sein, Sachen zu updaten und ganzheitlich denken.
Und das ist, glaube ich, so ein Punkt, der das gesamte Internet eigentlich durchzieht, seit der Erfindung des Internets und digitaler Kommunikation, ja, dass wir uns nicht darauf verlassen können, dass wirklich eine Methode hundertprozentige Wahrhaftigkeit bringt, um mal vielleicht um Bording zu bleiben, ja.
Also dass man nirgends einen Label drauf machen kann, dass es echt und dass es falsch, sondern dass es ein Prozess ist.
Ich mache gerne das Beispiel mit Spam-Filtern.
Als die ersten E-Mails aufkam, wurden massenweise Viagra-Scams verschickt.
Ja, und irgendwann gab es die ersten Spam-Filter, die gesagt haben, wenn die Buchstabenfolge Viagra irgendwo auftaucht, dann ist das Ganze ein Fall für ein Spam-Filter.
Was haben die die Betrüger gemacht?
Die haben statt des I's in Viagra eine Eins geschrieben.
Für das menschliche Auge erkennbar als Viagra, für den Spam-Filter, aber nicht mehr, ja.
So wurde im Grunde Leadspeak erfunden, die finde ich immer ganz witzig mittlerweile wieder so ein Hype erlebt im Begriff des Algo-Speaks.
Also, wenn man versucht, irgendwie in Social Media gewisse Filter zu umgehen und über sexuelle Gewalt beispielsweise zu sprechen, dass man sich dann wieder Leadspeak bedient.
Also den ersten Möglichkeiten.
Frotzmann, finde ich irgendwie eine spannende kulturelle Wiederholung.
Aber worauf ich hinausfälle, es ist ein Räuber- und Gendarmen-Spiel.
Es gibt nicht die 100%ige Möglichkeit, einen Scam zu erkennen, beziehungsweise digitale Kommunikation zu verifizieren.
Und das muss uns, glaube ich, bewusst sein.
Das heißt, wir müssen viel eher, finde ich, Strukturen aufbauen, die sowas minimieren, die das Risiko minimieren und eben in alle Richtungen denken.
Voll, genau.
Das meinte ich mit den drei Säulen, die wir sehen.
Also Detektion, Prävention und Medienkompetenz.
Also was Medienkompetenz betrifft zum Beispiel, da bauen wir gerade so eine wahrhafte Academy auf, die genau da halt helfen soll, die quasi dann zugänglich ist, zum große auch Open Source zugänglich ist, wo man sich halt einfach weiterbilden kann.
Das ist genau die Idee dahinter, ne?
Einfach um gesamtgesellschaftlich da auch einen Impact zu leisten.
Das sehen wir genauso wie du.
Was mich interessieren würde, ich meine, ich beschäftige mich ja auch mit der Thematik, ich beschäftige mich mit der Thematik, da gab es JTPT noch nicht einmal.
Wir haben angefangen, da gab es Cheti noch überhaupt gar nicht, haben schon gesagt, die werden in wenigen Jahren dieses Problem haben und haben da denken, sind da schon auf die Unternehmen zugegangen, die haben uns das nicht geglaubt.
Und jetzt sind wir da und sparen messbar Geld ein.
Also unsere Lösung funktioniert ja offensichtlich.
Also die hilft ja.
Es geht ja nur darum, dass du halt Cases findest, also wirklich echte, echte Use-Cases findest.
Und das ist halt der Unterschied, wo du wirklich sagen kannst, dass der Hinweis sich am Ende halt auch lohnt für die Unternehmen, dass die wirklich was einsparen können.
Was mich total interessieren würde, wäre, was ist denn dein konkreter Vorschlag?
Also, wenn du sagst, dass du technologisch das Ganze in Angriff zu nehmen, nicht gut findest, was ist dein Vorschlag?
Weil ich meine, wir sind uns, glaube ich, einig, dass wir da ein Problem, einen immensen Ausmaß haben, was immer mehr wächst, es wächst sogar exponentiell, es wird immer schneller, immer besser.
Das heißt, wenn wir da nicht früh anfangen, gegenzugehen und diese Technologie wächst nur mehr technologisch, das heißt, irgendwas müssen wir tun, macht mit Technologie irgendwie schon Sinn.
Wenn wir das nicht machen, dann werden wir abgehangen.
Was ist denn dein Vorschlag, wenn du sagst, dass du Tools, sowohl Watermarking als auch Detection, dass du die alle nicht gut findest?
Das würde mich mal interessieren, was steckst du denn dann vor.
Gehen wir mal in die 60er Jahre, ja, ich hole mal ein bisschen aus, Kuba-Krise.
Kuba-Krise, irgendwie 14 Tage, ich glaube Ende des Jahres, 1961.
Die Sowjetunion stationiert Raketen auf Kuba und kann in Sekunden eigentlich die gesamte USA vernichten.
Was passierte, man musste Mutmaßungen anstellen.
Was hat Kruststoff vor, was passiert da eigentlich gerade, was wird da, was wird da geschehen?
Und das große Problem war, dass es halt keine gesicherte Information war.
Das heißt, man hat nach der Kuba-Krise gesagt, wir müssen Kommunikation verifizieren.
Wir haben also ein rotes Telefon, ja, das im Grunde eingeführt wird, die Hotline, wo wir sagen, wenn wir irgendwie Anhaltspunkte in den USA dafür haben, dass hier irgendwas passiert, nehmen wir diesen Telefonhörer ab und wissen, auf der Gegenseite ist immer jemand im Kreml.
100% gesichert, ist da jemand im Kreml.
Und kann uns gegebenenfalls sagen, nee, eure Wetterballons spielen wieder verrückt, wir haben nicht den Knopf gedrückt oder ja, wir haben den Knopf gedrückt, in drei Minuten ist die Welt zu Ende.
Viel Spaß so.
Und diese Wiederherstellung von Kommunikationslogik, dieses Aufeinander verlassen können, das ist etwas, was wir, glaube ich, technologisch angehen sollten.
Das funktioniert nur durch Verifikationsprozesse.
Bedeutet, was man sich vorstellen kann, ist, dass wir in Social Media auch immer wieder Verifikationsprozesse gehabt.
Der blaue Haken bei Twitter beispielsweise, der extrem schwierig zu bekommen war, den aber nur Regierungsorganisationen, Journalisten und so weiter bekommen haben.
Das war ja eine Form von Verifikation von Kommunikation.
Und da müssen wir, glaube ich, drüber hinausdenken und schauen, wie können wir Kommunikation von beispielsweise Regierungsorganisationen als solche labeln und unfälschbar machen.
Darum geht es.
Also, dass wir irgendwie gucken, wie kann man Information unfälschbar machen, dass wir da eine Möglichkeit finden und nicht die Fälschung als solche zu identifizieren, weil da gibt es unendlich viele Möglichkeiten, das zu machen und am Ende gibt es kein Tool der Welt, das da jemals 100% Wahrscheinlichkeit geben kann.
Was aber so einen Fingerabdruck angeht, was DNA angeht, was gewisse biologische Faktoren angeht, das sind eindeutige Kennzeichen, eindeutige Merkmale, die wir irgendwie in Zukunft ins Digital übersetzen müssen.
Das wäre so mein Ansatz.
Verstehe ich, klar.
Deswegen sind wir auch von der Safe Cam gekommen.
Das ist ja genau die Idee.
Bei der Safe Cam haben wir genau diesen Ansatz gefahren und gesagt, hey, wir nehmen Fotos mit unserer abgesicherten App auf, und solange wir das mit der machen, kann man diesen Bildern, die da rauskommen, vertrauen.
Aber auch so ein System kannst du ja kompromittieren.
Auch diese Red-Hotline kannst du kompromittieren.
Du weißt ja nicht, ob die Person im Kreml auf der anderen Seite, die die Wahrheit sagt, wenn der Knopf gedrückt wurde.
Genau, ich bezahle das.
Das ist ein unmenschliches Problem.
Oder genau dasselbe, selbst wenn wir ein perfektes System haben, was nur wirklich nur garantiert echte Fotos zulässt und aufnimmt.
Und auch das ist am Ende des Tages wieder ein technologisches Problem.
Du hast auch da wieder ein System, was du kompromittieren kannst.
Auch das ist dementsprechend kompromittierbar.
Nichts ist komplett sicher.
Genau.
Also auch an der Stelle, also ich glaube, ich bin bei dir dabei.
Ich glaube auch tatsächlich, ich persönlich glaube, dass der Weg auch dahin gehen wird, dass wir es an die Hardware koppeln, weil die Hardware einfach am schwierigsten zu kompromittieren ist.
Also dass es darauf hinausläuft, dass wir vielleicht irgendwann wirklich abgesicherte Kamerasensoren haben, abgesicherte Mikrofon-Sensoren in den Handys direkt haben, die in einem Trust-Bereich auf der Hardware laufen, der so schwer zu kompromittieren ist, dass es halt wirklich nur richtig, richtig versierte staatliche Hacker machen können.
So und ansonsten halt niemand.
Ich glaube, auf sowas läuft es hinaus.
Und dass wir dann irgendwann ein anderes Bildformat haben, so etwas wie ein Live-Bild, gibt es ja halt Safe-Bilder oder so.
Direkt direkt in der Hardware.
Ich hoffe es zumindest, ist für uns schlecht, aber ich hoffe es für die Gesellschaft.
Ich glaube schon, dass es auf sowas hinausläuft.
Aber grundsätzlich wird auch das wieder mit Problemen hergehen.
Also ich habe ja zuerst.
Ich glaube, Technologie ist am Ende.
Technologie ist nicht der Schlüssel.
Es muss irgendwo menschlich sein.
Also es muss irgendwas Menschliches sein, weil wir werden das nicht hinbekommen.
Also ich glaube nicht, dass das funktioniert.
Wenn du dir E-Mails anguckst heute, die sind so gut gefaked, die haben teilweise dann irgendwie einen durch auch Leadspeak oder so, der Absender, der sieht realistisch aus.
Das wird immer besser.
Ich glaube, dass Finanzgeschäfte ab einer gewissen Summe, Ärzte, ärztliche Angelegenheiten und so weiter, vielleicht irgendwie behördliche Maßnahmen, dass die menschlich ablaufen müssen, dass wir da einfach keinen Weg mehr drum herum finden, bis wir dann die humanoiden Roboter haben, die sich als Gerichtsvollzieher ausgeben oder wie auch immer.
Aber weißt du, also es ist ganz wichtig, dass wir darüber nachdenken und schauen, auch zivilgesellschaftlich, was bedeutet das.
Weil die große Gefahr besteht ja jetzt gerade drin, dass gerade so meine Großeltern, meine Eltern überhaupt einfach gar nicht mehr peilen, wenn da irgendwie was online ist, was KI generiert ist.
Und das ist, glaube ich, gerade die massive Gefahr.
Wir werden aber auch in Zukunft hinterherlaufen.
Ganz sicher, bin ich 100 Prozent von überzeugt, weil wir da nicht die Lösung für das Kommunikationsproblem haben.
Aber es ist am Ende des Tages ein Verifikationsproblem und kein Deepfake-Problem.
Das ist wichtig.
Genau, Absicherung der Authentizität.
Darauf wird sie noch Authentizität absichern.
Also 100 Prozent gehe ich nicht mit.
Ja, klar, es ist vor allem vor dem Hintergrund, dass ich mich ja wirklich damit beschäftige.
Ich meine, wir, also jeden Tag detektieren wir Fake und sparen Unternehmen Geld damit ein.
Also dass es nicht funktioniert, steht außer Frage.
Aber ich gehe auf jeden Fall mit dir mit, dass die Absicherung der Authentizität noch mehr, noch wichtiger ist, das habe ich ja gerade schon ausgeführt.
Aber ich fände es auf jeden Fall eine coole Entwicklung, wenn ich der Kreis tatsächlich hin zu immer mehr Hum, immer mehr Menschlichem schließt.
Also ich habe zum Beispiel eine ähnliche Entwicklung auch im anderen Bereich hin so vor Augen, wenn es jetzt so ums Thema Musikgenerierung und so geht, ne, was ja auch immer leichter wird.
Das heißt, du kannst immer weniger den Musikstücken, die du so online siehst, glauben, sind jetzt echt, wo die KI generiert, wohin steht der Wert.
Das heißt, der Wert entsteht eigentlich immer mehr in der menschlichen Performance.
Und es ist eigentlich auch eine total coole Entwicklung.
Also, dass, wenn es jetzt darauf hinausläuft, dass der Mensch, wo wir ja eigentlich gedacht haben jetzt zum Beginn der Entwicklung, dass der Mensch immer mehr abgehangen wird durch diese ganzen KI-Tools, wenn der jetzt in gewissen Punkten einfach wieder aus der Sache heraus ins Zentrum gerückt wird, weil es ohne ihn gar nicht geht.
Also, wenn du sagst, gewisse Transaktionen können noch face-to-face gemacht werden.
Es muss wirklich, es geht gar nicht mehr anders, als dass Person A und Person B im selben Raum sitzen und dann gemeinsam auf den Knopf drücken.
Und nur dann wird die Transaktion durchgeführt.
Da hat man da quasi eine neue Stelle geschaffen, die es davor so gar nicht gab.
Und das ist eigentlich ganz cool.
Finde ich eine coole Entwicklung.
Also deswegen mag ich deinen Gedankengang.
Aber ansonsten vielleicht eine Sache noch, um das Beispiel vom Anfang halt aufzugreifen.
Da hattest du ja gesprochen von diesem Zoom-Call.
Und ich glaube, was zum Beispiel auch nochmal ein Thema ist, was jetzt immer mehr kommen wird, was ich mir gut vorstellen kann, da bin ich auch echt mal gespannt, was sich da noch so draus ergibt, ist generell das ganze Thema Audio.
Also diese Anrufe nehmen tatsächlich zu, auch besonders Defekt-Anrufe, auch CEO-Fraud.
Das ist ja der, der die Bezeichnung für diesen, für das Fraud-Scheme vom Beginn, nimmt auch immer mehr zu, nimmt immer mehr Fahrt auf.
Und da bin ich echt mal gespannt, wo da die Reise hingeht.
Wir haben da jetzt mittlerweile tatsächlich so ein neues Produkt.
Ja, fast fast ausgerollt, die Safe Mic, die da so ein bisschen andocken soll und auch da wieder ein bisschen mehr Sicherheit reinbringen sollen in die Prozesse.
Aber insgesamt bleibe ich dabei, dass das echt eine total spannende Dynamik ist und bin gespannt auf alles, was da noch kommt.
Ich auch.
Und ich drücke euch die Daumen für eure Entwicklung.
Und möglicherweise gibt es ja irgendwann eine hundertprozentige technologische Lösung.
Ich glaube nicht dran.
Er da so nach wie vor nicht.
Aber genau.
Ich drücke euch trotzdem die Daumen.
Ihr seid, denke ich, auf der richtigen Seite.
Von daher alles Gute, Linus.
Vielen Dank, dass du hier warst.
Dankeschön.
Ja, liebe Leute, jetzt war ich natürlich ganz schön kritisch in dieser Folge, der arme Linus.
Nein.
Muss er durch.
Muss er?
Muss er, glaube ich, durch.
Das hat natürlich den Hintergrund, dass ich euch klar machen möchte, dass es keine 100% da draußen gibt.
Dass egal welches Tool ihr verwendet, ihr werdet nie hundertprozentig sicher sein, ist das ein Fake oder ist es echt.
Versucht verschiedene Methoden dabei anzuwenden, ja, und zu kombinieren.
Sowas wie Medienkompetenz, also zu gucken, gibt es eine zweite oder eine dritte Quelle, die das hier irgendwie nochmal bestätigt.
Kann ich vielleicht irgendwie einen Kollegen oder eine Kollegin gerade ranziehen, wenn ich mir unsicher bin, einfach kannst du mir mal sagen, ob das hier echt ist, ja.
Das kann ja durchaus auch schon helfen.
Die haben auch nochmal andere Ideen herangehensweise.
Und natürlich sind solche Tools auch Teil dieses Werkzeugkastens, den ihr gebrauchen könnt, wenn ihr euch unsicher seid in Sachen Deepfake oder nicht.
Liebe Kollegin, sag mir doch mal vielleicht ganz kurz, woran ich denn eigentlich mit dem menschlichen Auge Deepfakes erkennen könnte.
Mit dem menschlichen Auge erkennst du Deepfakes oft an kleinen Ungereimtheiten.
Manchmal passen Mimik und Emotionen nicht ganz zusammen.
Augenbewegungen wirken starr oder der Lichteinfall und Schatten sind unnatürlich.
Auch die Lippenbewegungen passen manchmal nicht exakt zum Ton.
Kurz, wenn dir etwas komisch vorkommt.
Vertraue deinem Bauchgefühl und hinterfrag es einfach.
So sieht es aus.
Vielen Dank, liebe Kolleginnen.
Ansonsten noch ein kleines Update von mir.
Ihr werdet mich ab dieser Woche zweimal die Woche hören können.
Und zwar werde ich neben diesen Deep Dives am Dienstag, wo wir tatsächlich ja viel deutlicher auf gewisse Themen eingehen und die wirklich umfänglicher behandeln mit Gästen, werde ich freitags kleine Solo-Folgen machen.
Die werden nur so fünf bis zehn Minuten dauern.
Und darin möchte ich euch Updates geben von dem, was eigentlich gerade in der Woche so passiert.
Es hat einfach den Hintergrund, dass gerade so viel los ist.
Also man verliert ganz, ganz schnell den Überblick bei den Entwicklungen, bei den Diskussionen, die es da draußen gibt.
Und um euch da, sag ich mal, informiert ins Wochenende zu lassen, wird es ab dieser Woche freitags immer so ein kleines, eine kleine Summary von mir geben von dem, was eigentlich gerade in der KI-Welt so los ist.
Ich freue mich, wenn ihr auch dabei zuhört.
Ansonsten freue ich mich natürlich immer über Kommentare über Feedback.
Wenn ihr unseren Podcast bewerten wollt, macht das gerne.
Das hilft uns sehr.
Macht es gerne auf den Plattformen eures Vertrauens.
Und ansonsten sprechen wir uns nächsten Dienstag bzw.
vielleicht auch schon am Freitag wieder.
Vielen lieben Dank fürs Zuhören.
Bis dahin.
Ciao.
Dieser Podcast wird produziert von Portstars.
Bei OMR.