# AI Content Strategy and Deepfake Risks

**Podcast:** Kollegin KI
**Published:** 2026-02-24

## Transcript

Social Media.
Leute, wir müssen über Social Media reden.
Social Media ist voll mit KI.
Ihr habt es alle gesehen, ihr habt es täglich in euren Feeds, so wie ich.
Und da gibt es nun Meinungen, die ein bisschen auseinandergehen.
Die einen sagen, hey, irgendwie ziemlich cool, was wir jetzt an neuen Content-Formaten hier bekommen.
Die anderen sagen, nee, gar nicht.
Bitte KI verbieten oder aus Social Media verbannen.
Ich würde die Entwicklung, die wir gerade alle so live miterleben, einmal gerne einordnen.
Und dafür habe ich mir einen Experten eingeladen.
Gavin Karlmeyer ist nicht nur ein alter Internet-Buddy von mir, wir beide haben viele, viele Stunden unseres Lebens in den 10er Jahren auf Twitter verbracht, sondern ist auch Podcast-Host vom Haken dran-Podcast, das Social Media Update.
Das heißt, er kennt sich auf jeden Fall aus.
Er hat Plan, was da gerade los ist und kann uns mit Sicherheit helfen, da eine Meinung zu bilden.
Ich bin Max Montänke, ihr hört Kollegin KI.
Hallo Gavin.
Hallo Max.
Na, wie läuft's?
Sehr gut, vielen Dank.
Vielen Dank für die Einladung.
Ich freue mich sehr hier zu sein.
Ja, sehr gern.
Hast du heute schon dich über KI in Social Media geärgert?
Nee, geärgert noch nicht, aber ich habe einen Freund, der gerade 99% seiner freien Zeit damit verbringt, Videos zu generieren, die er mir immer schickt.
Und dann soll ich immer sagen, wo ich so dieses Uncanny Valley noch empfinde, wo ich das Gefühl habe, irgendwas stimmt da noch nicht.
Der pfeilt daran, damit er dann irgendwann mit diesem KI-Content auf seinen Accounts loslegen kann.
Kannst du mal Uncanny Valley erklären?
Ja, das Uncanny Valley ist das Tal zwischen, also du musst dir jetzt wie so eine Kurve vorstellen, und auf der linken Seite hast du so Inhalte, wie so FIFA 98 ausgesehen hat, also so pixelige Figuren, die ganz klar erkennbar synthetisch sind.
Und auf der rechten Seite hast du echte Fotos.
Und alles, was so dazwischen liegt, was so zwar Attribute von echten Menschen hat, aber irgendwie nicht ganz authentisch rüberkommt, das ist dieses Uncanny Valley.
Also dieses Tal, in dem alles so ein bisschen Unbehagen in uns auslöst.
Und die Videos von deinem Freund lösen die Unbehagen in dir aus, oder?
Ja, aber mit jedem Video, das er mir schickt, wird das besser.
Okay.
Weil seine Skills besser werden oder weil die Tools besser werden.
Ja, oder weil ich nicht mehr so genau hinschaue.
Ich weiß nicht so genau.
Okay, na gut, alles klar.
Danke für die Einordnung.
Gavin, KI und Social Media, lass uns mal ein bisschen auf diese Content-Seite gucken.
Ich meine, wir beide hängen schon eine ganze Weile irgendwie im Internet rum und haben auch viel Content produziert.
Beide, ich habe mal geguckt.
Ich wollte eigentlich für diesen Podcast deinen Twitter-Archiv mal in den Bot packen.
Du hast auch so knapp 30.000 Tweets geschrieben über die Jahre, so ähnlich, ähnlich Output wie ich.
Ist aber nicht möglich, weil X natürlich keine APIs mehr freigibt oder es kostet ganz viel Geld.
42.000 Dollar kostet das.
Das hat mein Budget um knapp 42.000 Dollar überschritten.
Von daher habe ich es gelassen.
Aber wir können ja trotzdem mal drüber sprechen.
Erstmal, wie siehst du denn so die Entwicklung der letzten Jahre?
Was hat sich so getan?
Wohin driftet Social Media gerade?
Kannst du es mal so ein Abriss geben?
Also, es gibt diesen Satz, dessen Urheber mir leider unbekannt ist.
Den Satz zitiere ich aber sehr gerne, der lautet: Alle wollen KI-Inhalte generieren, aber niemand will sie sich angucken.
Und so ein bisschen geht es mir genauso.
Also, wenn ich durch YouTube-Shorts scroll, da fällt es mir am stärksten auf, da hast du halt extrem viele Inhalte, bei denen keiner so genau weißt, wen sie sind.
Sie sind aber hocherfolgreich, sie haben sehr, sehr hohe Abrufzahlen.
Und das ist so die Entwicklung der letzten Jahre, die man, oder vor allem des letzten Jahres, würde ich sagen, dass es sehr einfach geworden ist, viel, viel, viel Output zu generieren.
Die Frage ist nur so ein bisschen: für wen macht man das eigentlich?
Und ich bin jetzt seit 2018, als Social Media Berater unterwegs.
Und das erste, was ich in so Workshops eigentlich immer sage, ist, für wen ist das?
Wir müssen eine Zielgruppe definieren.
Was ist die Persona?
Wen habt ihr im Kopf, für wen sind eure Inhalte?
Und das wird gerade so ein bisschen egaler, weil du jetzt eigentlich für jede Zielgruppe einen eigenen Account with derselben an Output erstellen kannst.
Und dann verliert man so ein bisschen die Bedeutsamkeit dieser so häufig beschworenen Authenticity, die früher immer so wichtig war in Social Media.
Und das ist gerade so eine Entwicklung, die jetzt gerade wie so ein Pendel auf seine Extrem schwingt.
Und ich frage mich, ob wir mitschwingen oder ob wir die Leute, die Social Media damals angefangen haben, zu nutzen, um uns mit Menschen zu vernetzen und mitzukriegen, wie es in Leben anderer Menschen aussieht, ob wir zurückbleiben und uns was Neues suchen müssen.
Das ist so ganz grob zusammengefasst, mein State of Social Media.
Gleichzeitig gibt es aber ja auch Äußerungen der Plattformbetreiber, wie zum Beispiel Mark Zuckerberg, die dieses häufig zitierte Interview im letzten April gegeben hat, in dem er gesagt hat, Social Media durchläuft drei Epochen.
Die erste Epoche war die der Vernetzung, die zweite des Entertainments und die dritte ist die des künstlich generierten Inhaltes.
Und wenn man das beim Wort nimmt, dann muss man überlegen wohl davon ausgehen, dass wir noch am Anfang stehen von diesen KI-Inhalten.
Das heißt, es wird tendenziell mehr KI, was aber vielleicht auch nicht, ich sag mal, oder was in der Natur der Sache liegt, wenn die Zielgruppe drauf anspringt.
Ja, du hast da jetzt schon so ein paar Sachen vorweggenommen, eigentlich wollte ich das erst später besprechen, aber lass uns gerne die Frage einfach jetzt schon in den Raum werfen.
Ist Authentizität tot?
Brauchen wir überhaupt noch authentische Inhalte in Zukunft oder geht es nicht eigentlich nur darum, mit KI so schnell wie möglich eine Zielgruppe abzufrühstücken, Reichweite zu erzielen, vielleicht den einen oder anderen viral ein Hit zu machen und dann ist das schon okay.
Ja, ich weiß nicht, ob Authentizität wirklich jemals gelebt hat.
Also wenn du die Accounts von Bibi's Beauty Palace oder Dougie B anschaust, die ja sehr häufig für ihre parasozialen Beziehungen gelobt wurden, dann muss man sagen, die waren nie authentisch in dem, was sie getan haben.
Sie haben nie wirklich ihr Leben abgebildet, sondern Facetten ihres Lebens, von denen sie gedacht haben, sie würden sich jetzt irgendwie besonders gut vermarkten lassen.
Und ich glaube, ich trete ihnen damit auch nicht zu nahe, wenn ich das so festhalte.
Was aber wichtig ist, ist so ein bisschen mehr der Begriff der Nahbarkeit, der Nähe oder des Echten.
Also einen Moment zu schaffen, bei dem Leute das Gefühl haben, sie können an deinem Leben partizipieren.
Also du sitzt im Zug, der ist zu spät, also machst du so eine Story und sagst, mein Zug ist zu spät und alle schreiben mir, oh, du armer dein Zug ist zu spät.
Und dann kommst du zu der Veranstaltung an und Leute sprechen dich darauf an und sagen, hey, schade, dass dein Zug zu spät war.
Mal ganz platt runter gesagt, solche Momente sind natürlich weniger geworden, weil das Umfeld sich so krass professionalisiert hat.
Und dadurch, dass das Umfeld sich professionalisiert hat, haben immer weniger Leute Inhalte erstellt.
Also früher haben wir noch irgendwie den Morgen nach der Party auf Facebook festgehalten, oh, wir haben so einen Charter, ein paar Jahre später haben wir unser trauriges Mittagessen bei Instagram hochgeladen und heute sind wir eigentlich in einer Umgebung, in der wir zwischen professionellen Inhalten immer das Gefühl haben, was habe ich denn eigentlich noch zu sagen?
Und da ist KI natürlich ein großes Versprechen, weil ich plötzlich Inhalte erstellen kann, die so aussehen, wie die der anderen.
Das Einzige, was da so ein bisschen fehlt, ist halt die Seele.
Und die Seele ist aber am Ende vermutlich das, was Bindung schafft und was Leute eben von Laufkundschaft zu Publikum machen oder zu Fans machen.
Also die Leute, mit denen man sich dann tatsächlich auch verbinden möchte.
Ist das nicht, ist das nicht schon damit geendet, dass wir die chronologischen Feeds abgeschafft haben, dass wir im Grunde da gesagt haben, okay, nee, wir gehen jetzt in die Algorithmus-Era rein.
Das hat es auf jeden Fall verschärft, würde ich sagen.
Aber trotzdem hat man es ja durch algorithmische Feeds immer noch geschafft, mit so einer kleinen Geschichte, die man privat erlebt hat, trotzdem noch Erfolge aufzubauen.
Und das ist, glaube ich, immer schwieriger geworden in den letzten Monaten.
Ich verstehe.
Jetzt hast du, du hast ja eine relativ große Community in Social Media, aber auch für dein Podcast.
Du hast ein Discord-Channel, bei dem ich selbst auch Teil bin und gerne mal reinlese, was das Social Media Updates angeht, vielleicht an der Stelle einmal kurz subtil Werbung für machen.
Aber wie wird das da aufgenommen?
Also, wie denkst du, nimmst du deine Community das auf und vor allem, wie nimmst du das eigentlich wahr?
Also mit KI-Content in Social Media, sagst du, du bist du bist Fan, sprich dich das an oder sagst du, boah, nee, es geht mir irgendwie auf die Nerven und ich verbringe weniger Screenshime jetzt auch damit.
Nee, also ich würde, also ich fange mal vorne an.
Mir persönlich geht es so, dass ich schon KI als Werkzeug akzeptiere und auch voll davon ausgehe, dass das eben gekommen ist, um zu bleiben.
Egal in welcher Form.
Ob wir von generativer KI sprechen oder von irgendwelchen Tools die Automatisierung in meinen Workflows irgendwie mit sich bringen.
Das ist erstmal hilfreich, dass es das gibt.
Trotzdem, und das ist eher so das, was ich aus meiner Community rauslese, gibt es eine riesengroße Skepsis von Leuten, die gerne Social Media nutzen, weil sie eben die Sorge haben, dass warum sie mal angetreten sind und warum sie damit angefangen haben.
Das geht gerade so ein bisschen verloren.
Es wird alles ein bisschen blutlehrer und das formulieren sie auch sehr deutlich in meiner Community, wohlwissend aber auch, dass mein Podcast aus seiner Genese her aus einer Zeit heraus stammt, in der man eigentlich sich so ein bisschen nach den guten alten Zeiten gesehnt hat.
Wobei ich persönlich da jetzt nicht unbedingt immer jedes radikale Urteil mitgehen würde.
Aber natürlich glaube ich auch, dass wir, also direkt vorneweg, ich glaube nicht, dass wir ja an einem Punkt stehen, an dem es kein Zurück mehr gibt, sondern ich glaube, dass die Begeisterung für KI generierte Inhalte vor allem da heraus rührt, dass man sie erstellen kann.
Also dieser Kick nach dem Neuen, die Begeisterung von wow, das ist möglich, so wie wir uns irgendwie eine neue App damals darunter geladen haben, als die Smartphones neu waren und alle fasziniert waren davon, dass wir unser Handy an den Mund halten und Bier trinken können.
Ich weiß nicht, ob du dich erinnerst.
Das hat relativ schnell seinen Reiz verloren und so ist es mit diesen rein AI-Networks, die wir gesehen haben, Zora von OpenAI zum Beispiel, war es ja so ähnlich.
Das hatte im letzten November, Dezember einen unglaublichen Hype.
Alle fanden das toll, dass es wie TikTok nur für synthetische Inhalte war.
Und mittlerweile merkt man da schon eine gewisse, eine gewisse Emptiness in diesen Netzwerken.
Echt?
Also, ich muss sagen, ich merke immer mehr, dass es guten KI-Content gibt.
Also, ich mach mal irgendwie ein Beispiel.
Also am Anfang war ja viel Experimentieren.
So, so Will Smith isst Spaghetti und so, das bis heute irgendwie so der Maßstab an der Entwicklung von generativer KI sein soll.
Das war natürlich irgendwie viel ausprobieren und so.
Jetzt kommen mir aber immer mehr Content Pieces unter, die tatsächlich, sag ich mal, sowas wie Netzkultur neu befeuern.
Und das ist ja genau das, wo du, wo du sagst, das ist dein Podcast oder deine Community ist auch aus so einer Zeit her geboren.
Und deshalb muss ich sagen, ich habe teilweise richtig Freude daran.
Ich mach mal, also das Beispiel, was glaube ich als erstes so in die Netzkultur eingegangen ist mit KI, war so Italian Brain Rod, ja.
Also wo da irgendwelche ausgedachten Figuren, die meistens irgendwie so eine Mischung aus Tier und Maschine oder Obst, genau, mit allem möglichen waren, mit so einem italienischen Sound im Hintergrund.
Oder einem Sprecher im Hintergrund.
Das war so das Erste, was so wirklich viral ging, was so Wiedererkennungswert geschafft hat.
Also klassisch die Definition von Memes, ne?
Also leichte Veränderungen und trotzdem erkennst du es wieder als Teil einer Geschichte.
Und mittlerweile muss ich sagen, ich habe jetzt in den letzten Tagen viel irgendwie natürlich zu KI wieder mir angeguckt, deshalb ist der Algo dann entsprechend auch, komme ich gleich nochmal drauf.
Aber was ich jetzt gesehen habe, ist sowas wie Gandalf, irgendwie aus Herr der Ringe, der irgendwie skatet und zwar irgendwie durch diese fantastische Welt von Herr der Ringer auch, mit Fischaugen, Kamera, wie man das so in diesen alten Skate-Videos, vielleicht aus den 90ern und 2000ern kennt, hinterlegt mit Wu Tang.
Wo ich mir denke, das ist so abgefahren, weil da so ganz viele verschiedene Stücke von Kultur ineinander gemerkt werden.
Und da muss ich sagen, da entsteht was Neues, oder nicht?
Absolut.
Und da sind wir ja auch bei dieser Kategorie Werkzeug, weil ich, wie gesagt, ich glaube, das Problem ist nicht generell, dass es generative KI gibt, sondern das, was wir damit machen.
Und diese Beispiele, die du nennst, und ich kann auch Dutzende Leute, die irgendwelche Geschichtssituationen nochmal aufbereitet haben, die fantastisch aussehen und so weiter.
Da spricht ja auch gar nichts gegen.
Es ist ja toll, wenn du mithilfe dieser Tools etwas erschaffen kannst, was Menschen nicht erschaffen können.
Problematisch wird es, wenn wir in diesen Bereich des Slobs kommen.
Wenn du halt nur noch diesen ganzen Schrott siehst, der wirklich auch die YouTube-Shorts-Charts irgendwie dominiert, Bilder oder Videos von weinenden Katzen, die irgendwelche Gedichte vortragen.
Das hat ja wirklich gar keine Schaffenshöhe, sondern das ist einfach nur Content um des Contents Willen.
Und da fehlt mir dann so ein bisschen die Begeisterungsfähigkeit.
Aber dann für einen Gundive, der skatet, kann ich mich dann vielleicht im Zweifel auch noch begeistern.
Da gab es das nicht früher auch schon.
Gab es das früher auch schon Content, einfach nur Contents wegen?
Ich meine, es gibt ja gerade so in diesen Anfängen der Corporate Social Media Welt, wo man gerade bis heute eigentlich auf LinkedIn noch relativ häufig zu sehen, wo man sagt, okay, ich möchte mich einfach oder ich muss mich irgendwie in Social Media ausdrücken, deshalb haue ich mal irgendwas raus, was aber total bedeutungslos ist, nichts zur Kultur beiträgt.
Also, das war doch eigentlich schon immer so, auch ohne dass wir dieses Werkzeug hatten, oder?
Ja, aber es war auch immer schon schrecklich, ehrlicherweise.
Nur dass es eben jetzt nicht mehr ein Prozent, zwei Prozent des Inhalts ausmacht, sondern eher 90, 95 Prozent.
Also, das wird mehr, mehr, mehr.
Und das ist am Ende etwas, das sehr ärgerlich ist.
Aber ich stimme dir natürlich zu, sowas wie Italian Brain Rod ist fantastisch.
Aber auch sowas gab es schon immer.
Also, ich weiß nicht, ob du dich noch an YouTube-Kacke erinnerst.
Das waren Videos, bei denen Leute Fernsehshows genommen haben und so lange auseinandergeschnitten haben, bis die Menschen andere Dinge gesagt haben.
Alles in einem satirischen und noch nicht so problematischen Desinformationskontext, sondern witzig irgendwie.
Also wenn man den Humor geteilt hat.
Das war auch eine Form von Brain Rod.
Nur halt extrem viel Arbeit.
Und die Arbeit kann man sich jetzt sparen.
Und das, glaube ich, ist erstmal nicht problematisch.
Ich denke da eher so an ASDF-Movie oder Charlie the Unicorn, so Sachen, die bei Millennials, glaube ich, die jeder von uns kennt irgendwie, die damals aber auch schon sowas wie Brainrod abgebildet haben, oder?
100 Prozent, ja.
Okay, lass uns mal vielleicht auf ein bisschen die dunklere Seite gehen.
Also, ich glaube tatsächlich, dass das kreative Aufgaben anders wahrgenommen werden können, dann KI.
Also, ich kann zum Beispiel, ich bin absolut schlechter Zeichner, ich kann gar nicht malen, ich krieg's nicht hin.
Ich habe das nie irgendwie gelernt und auch bei mir sieht jedes gezeichnet hier aus wie ein Pferd.
Ich habe keine Ahnung, was da bei mir schief gegangen ist.
Oder ein Auto.
Oder ein Auftritt.
Genau, ja, richtig.
Aber ich schreibt gerne.
Das kann ich zumindest irgendwie.
Nein, also man muss nicht alles können, aber KI kann ja darüber hinweggehen.
Mit KI kann man ja Dinge möglich machen, die vorher einfach aus welchen Gründen auch immer nicht möglich waren.
Und das finde ich irgendwie eine ganz starken Shift.
Das Problem an der Sache ist, dass halt auch Leute mit bösen Absichten das Ganze jetzt nutzen können.
Und deshalb lass uns mal kurz auf das Thema Deepfake eingehen.
Und dazu möchte ich dir kurz mal was vorspielen.
Vielleicht erkennst du die Stimme.
Moment.
Ich möchte von Anfang an alles klarstellen.
Wenn jemand durch dieses Projekt Geld verliert, übernehme ich persönlich die Verantwortung und zahle eine Entschädigung.
1000 Euro aus eigener Tasche.
Das müssen Sie sofort verstehen.
Und jetzt hören Sie bitte aufmerksam zu.
Ich schäme mich für das, was heute in unserem Land.
So, und dann bricht das ab.
Ja, das ist eine Werbung auf Instagram quasi, ja.
Und bricht das ab und zeigt einen Link, auf dem man klicken kann.
Hast du die Stimme?
Hast du die Stimme ergänzt?
Also, es war nicht das Problematischste, das Ferdinand von Chirac in den letzten Monaten.
Das war unser Bundespräsident.
Das ist schon okay.
Das war Frank Walter Steinmeier.
Aber ja, es sind Deepfakes gerade eine ganze Menge unterwegs.
Ich hatte jetzt, ich hatte vor ein paar Wochen einen Vortrag über politische Deepfakes und hab mir deshalb ein bisschen in das Rabbit Hole begeben.
Und bis heute denkt der Algorithmus offenbar, ich sei ganz interessiert an Crypto-Scam-Sachen, ja, weil es halt immer irgendwie zu diesen Crypto-Scam-Seiten führt.
Und da gibt es eine ganze Menge mit PolitikerInnen.
Also ich hab das, ich habe es mal mitgeschnitten, ich habe bestimmt 20 Videos, die unterschiedlich sind, die alle unterschiedlich sind und auch auf unterschiedliche Seiten führen.
Die sehen die Seiten, das sind sogenannte Doppelgänger-Seiten, die sehen dann aus wie die Tagesschau oder irgendwie Stern, Spiegel, wie auch immer, ja.
Und die sind häufig dann mit Videos oder vermeintlichen Videos von PolitikerInnen gespickt, die dann irgendwie erzählen, es geht dem Land so schlecht, aber zum Glück haben wir jetzt eine Möglichkeit, dass jeder hier 2000 Euro im Monat bedeutungslosen Grundeinkommen dank dieser tollen neuen Krypto-Technologie bekommt.
Was sagst du dazu?
Also, das ist eine Verkettung fürchterlicher Umstände, glaube ich, dass es davon so viel gibt.
Also, wir kennen ja alle solche Beispiele.
Vielleicht haben eure Eltern, wenn sie in dem Alter sind, schon Gesundheitsprodukte von Eckhardt von Hirschhausen vermeintlicherweise angezeigt bekommen.
Der wird sehr häufig dafür genutzt.
Oder irgendwelche Finanzprodukte von Günter Jauch, die sehr häufig angeboten werden.
Und das ist natürlich alles deepfake und das wird auch da kann man sehr gut, das ist das Will Smith Eating Spaghetti unseres Kulturraums, weil wir könnten in den letzten Jahren sehen, wie viel besser die geworden sind.
Und da muss man sagen, das wäre halt massiv vermeidbar.
Denn die ganzen Plattformen haben eigentlich die Tools ganz offensichtlich, um solche Fakes zu identifizieren, vor allem von Personen öffentlichen Interesses, machen das aber nicht, weil sie damit gut Geld verdienen.
Und ich will damit jetzt, also ich will niemandem was unterstellen, aber ich beziehe mich auf eine Recherche von Reuters aus dem letzten November, die gesagt haben, dass Meta 10% ihres weltweiten Jahresumsatzes mit Scam verdienen, also mit betrügerischer Werbung.
10% ist ziemlich viel für einen Unternehmen, das mehrere Milliarden Dollar im Jahr umsetzt.
Und da muss man dazu sagen, offensichtlich nehmen sie das alle so hin, weil sie genau wissen, das läuft eben einfach so durch.
Gleichzeitig werden vielen von uns diese Inhalte auch gar nicht angezeigt, weil das eben so billiger Schrott ist, der eben so als Werbung irgendwo platziert wird.
Das Problem ist nur, wenn du bei Instagram zum Beispiel ausgewählt hast, dass du weniger personalisierte Werbung angezeigt bekommen möchtest, ist deine Timeline eigentlich nur noch voll von solchen Kram.
Und das ist ein Riesendilemma, bei dem man sagen muss, sind die Plattformen längst in der Pflicht, da nachzuarbeiten, weil man sich doch schon fragt, warum?
Warum lasst ihr das einfach zu?
Weil das eben den Ort ja auch zu einem Unsichereren macht und damit auch möglicherweise für diese Prominenten eine Entscheidung auslöst, diese Plattformen nicht mehr zu nutzen.
Und das könnte ganz schön unwirtschaftlich werden, wenn die ganzen Big Player auf diesen Plattformen nicht mehr veröffentlichen.
Absolut.
Und ich frage mich halt auch, warum da nicht, warum nichts passiert, weil die PolitikerInnen sind wirklich querbeet erstmal.
Also ich habe welche von Merkel, ich habe welche von Scholz, ich habe natürlich auch Friedrich Merz.
Am häufigsten übrigens Alice Weidel, interessanterweise.
Also ich bekomme ganz viele unterschiedliche von Alice Weidel.
Vielleicht ist da der Zielgruppen-Fit irgendwie auch irgendwie besser oder dass die vielleicht eher drauf reinfallen.
Ich weiß es nicht.
Aber es ist schon krass.
Und gerade wenn PolitikerInnen persönlich andauernd kopiert werden, geklont werden und dann für Scam genutzt werden, sollte man doch eigentlich davon ausgehen, dass die Regierung da regulieren sollte, oder nicht.
Absolut, vor allem geht es ja noch weiter.
Meta hat angefangen in einzelnen Ländern und sie breiten das System aus, vor allem Werbungen zu löschen, die in diesem Werbeanzeigenkatalog, den sie verpflichtet sind, anzubieten.
Also die komplette durchsuchbare Liste aller geschalteten Werbungen, vor allem die Dinge zu löschen, die eben Regulierungsbehörden am ehesten finden, indem sie solche Buzzwords wie Glücksspiel explizit nutzen, um Dinge zu löschen.
Sie löschen aber nicht alles, weil sie damit eben, das muss man unterstellen, sehr viel Geld verdienen.
Also Meta hat im letzten Jahr, habe ich gerade mal so ganz schnell hier Bauchrecherche 170 Milliarden Euro umgesetzt, also 17 Milliarden Euro mutmaßlich durch Betrug.
Das ist Geld, das möchten sie sich nicht entgehen lassen.
Und wenn man sich anschaut, dass die Regulierungen, die es gibt, auch immer noch nicht vollumfänglich durchgesetzt werden.
Also wir haben in der EU zwei große oder drei große Gesetzespakete mittlerweile, den Digital Services Act, den Digital Markets Act und den AI-Act.
Und alle drei sind dazu da, dass die Welt ein bisschen besser wird, die digitale, zumindest für uns in Europa oder in der EU.
Und der DSA ist dazu da, uns Menschen vor dem Einfluss dieser Plattform zu schützen.
Der DMA, der Markets Act dafür da, dass die Plattformen miteinander in einer fairen Marktsituation sich bewegen und der AI-Act, dass alle Anbieter von KI-Produkten eben in einer fairen Umgebung sich bewegen können.
Und auf allen drei Ebenen muss man sagen, gibt es diese scharfen Schwerter, die von vornherein angekündigt werden, eben noch nicht.
Beim DSA kann bis zu 6% des weltweiten Jahresumsatzes an Strafe erhoben werden.
Das ist bislang nicht ein einziges Mal passiert.
Und so lange kann die Plattform eben auch sagen: gut, dann machen wir jetzt einfach mal weiter, lassen es passieren und schauen, wie hoch die Strafen sind und ob wir im Zweifel nicht mit unserer Werbung mehr Geld verdient haben, als uns die Strafe am Ende kosten würde.
Kurze Werbeunterbrechung.
Leute, falls ihr es noch nicht dick und fett im Kalender angestrichen habt, am 5.
und 6.
Mai dieses Jahres findet wieder das OMR-Festival in Hamburg statt.
Ihr kennt es, es ist eines der größten digitalen und online-marketing happenings in Europa.
Über 800 SpeakerInnen und über 1000 Aussteller werden vor Ort sein.
Und weil ich mittlerweile einen relativ guten Draht zu den Veranstaltern habe, habe ich Rabattcodes für euch.
Yeah, mit dem Code KI100 bekommt ihr 100 Euro netto auf eure Tickets erlassen.
Bis zum 28.
Februar könnt ihr den Code einlösen.
Das ist natürlich nicht kombinierbar mit anderen Rabataktionen.
Und dann könnt ihr für 100 Euro weniger auf das OMR-Festival gehen.
Zusätzlich bin ich auch vor Ort an beiden Tagen und ich habe mir was überlegt.
Und zwar möchte ich eine kleine Guided Tour anbieten.
Bedeutet, ich schaue mir im Vorfeld mal an, wer von den 1000 Ausstellern eigentlich für mich so ein bisschen aus spannendsten Bereich KI darstellt.
Und dann werde ich euch, wenn ihr wollt, ihr müsst natürlich nicht, aber wenn ihr wollt, werde ich euch gerne mitnehmen und euch einmal durch die Aussteller führen.
Wir können dann da ein bisschen mit den Leuten über KI reden, Hände schütteln und so weiter und so fort.
Würde mich sehr freuen.
Also, wie gesagt, mit dem Code KI 100 bis zum 28.
Februar noch auf Tickets.omr.com slash Festival.
100 Euro aufs Ticket sparen.
Und wenn ihr mögt, mit mir zusammen über das OMR-Festival laufen.
Werbung Ende.
Zum AIM-Act muss man natürlich irgendwie auch sagen, dass der noch nicht gänzlich in Kraft ist.
Ich glaube, am 2.
August 2026, also dieses Jahres, wird der tatsächlich umgesetzt.
Und da gibt es den Artikel 50 im AIM-Act, und der besagt, dass KI-generierter Inhalt mit einer Kennzeichnungspflicht daherkommt.
Also man muss KI-Inhalte als solche Kennzeichnen.
Was sagst du dazu?
Also jetzt können wir natürlich zur logischen Frage, werden KI-Inhalte in sozialen Medien auf kurz oder lang alle erkennbar gekennzeichnet sein müssen.
Und ich bin mir dann nicht so sicher, ob wir da nicht längst darüber über den Punkt hinaus sind, wo das noch sinnvoll ist oder möglich ist.
Wenn du dir anschaust, Meta hatte testweise eine Zeit lang diese KI-Kennzeichnung, streng genommen gibt es sie immer noch mit diesem massiv versteckt.
Sie haben dann angefangen, auch Dinge proaktiv als KI-generierte oder KI-modifizierte Inhalte zu kennzeichnen.
Führte dazu, dass jedes Bild, das du aus im Photoshop gespeichert hast und dort hochgeladen hast, als KI-generierter Inhalt gekennzeichnet wurde.
Was diese Idee natürlich komplett zerstört, weil jedes Foto eines Fotografen, einer Fotografin im Zweifel einmal durch Photoshop gelaufen ist.
Ich glaube, wir sind mittlerweile an einem Punkt, wo man sagen muss, die Beweislast hat sich längst umgedreht.
Wir müssen eigentlich belegen, wenn Bilder und Videos echt sind.
Und das kann man machen, entweder durch digitale Wasserzeichen, es gibt diese Content Credentials, bei der sozusagen jeder bearbeitungsschritt im Text des Bildes markiert wird.
Oder wir müssen uns einfach geschlagen geben und sagen, es ist alles egal.
Weil das Problem an dieser Kennzeichnungspflicht ist, dass auch die Tools, mit denen du diese Bilder generierst, sich natürlich daran halten müssen.
Gemini tut das, also wenn du mit NanoBanana Pro ein Bild generierst, dann wird das mit so einem digitalen Wasserzeichen versehen, dass du auch nicht ohne weiteres entfernen kannst.
Grog tut es nicht.
Bedeutet, in dem Moment, wo ich ein Deepfake erstellen möchte, muss ich nur das Tool wechseln und bin am Ende wieder auf der sicheren Seite.
Und solange das so ist, muss man sagen, wird diese Kennzeichnungspflicht nicht durchsetzbar sein, fürchte ich.
Würde sie denn was bringen?
Ist immer die Frage, die ich mir stelle, weil ich vergleiche das gerne aus der Zeit, in der Instagram die Werbekennzeichnungspflicht umgesetzt hat.
Beziehungsweise, als es dann raus war, dass wir Werbung kennzeichnen mussten.
Und es war damals der Fall, dass halt gewisse große InfluencerInnen wahnsinnig viel Geld mit ihren Posts verdient haben.
Und irgendwie die Behörden gesagt haben, Moment, das ist Werbung und das muss laut Werberichtlinie, laut Werbesetz, ich kenn das Gesetz nicht genau, aber muss halt gekennzeichnet sein als solche.
Das heißt, die haben angefangen, dann irgendwie die Sachen als Werbung zu kennzeichnen.
Das Ding war, dass jeder, jeder der irgendwie ein Foto gemacht hat und hochgeladen hat, wo irgendein Produkt drauf zu sehen war, angefangen hat to schreiben, Werbung wegen Markennen.
Und am Ende war wirklich der Feed 90% als Werbung gekennzeichnet.
Also es hat zu nicht mehr Transparenz geführt, sondern eigentlich eher zu Chaos, ja.
Und das befürchte ich tatsächlich mit AI auch.
Denn wenn du, oder wenn ihr auch irgendwie mal das nächste Mal im Bahnhof steht, guckt euch mal aktuelle Handy-Werbung an, ja, wenn ihr irgendwie Plakate sieht oder so, da ist überall KI integriert.
Jedes Bild, das ihr aufnehmt, wird im Grunde nachbereitet.
Jedes Video, das ihr aufnehmt, könnt ihr mit, könnt ihr mit KI sauberer schneiden und so.
Das heißt, die Definition fehlt mir so ein bisschen, weil KI ist an sich überall drin, ja.
Und das bedeutet dann am Ende aus meiner Sicht eher Chaos, weil alles als KI generiert dargestellt wird und wir einfach nicht mehr wissen, was es denn jetzt tatsächlich nicht bearbeitet oder nicht gefaked und was.
Ja, ich stimme dir dazu.
Ich glaube, wir brauchen eine klarere Trennlinie, denn streng genommen ist jedes Foto, das du mit dem iPhone machst, kein Foto mehr.
Also in dem Moment, wo du AI-Enhancement hast, dass du, glaube ich, seit dem iPhone 16 in jeder Kamera verbaut hast.
In dem Moment, wo du eigentlich diese Multilayer-Fotos machst, also mehrere Bilder, die innerhalb von Millisekunden geschossen werden, um verschiedene verschiedene Dynamikumfänge mit aufzunehmen.
In dem Moment sind das Machine Learning-Prozesse, die da greifen.
Das heißt, das ist strengam alles KI.
Ich glaube, wir müssen da ein bisschen klarer werden, wenn wir über KI sprechen, weil KI ist in allem.
Unser Algorithmus in sozialen Plattformen ist am Ende KI.
Das Telefon, das wir nutzen, das unsere Bildschirmzeit misst, macht das, wenn man es streng genommen beobachten möchte, mit KI.
Also ich glaube, wir müssen eine Trennung herbeiführen und müssen eigentlich vielmehr von generativer KI sprechen.
Also die Inhalte, die wirklich aus dem Nichts, also aus dem Nichts, also aus Trainingsdaten Dinge erschaffen.
Ich glaube, das wäre eher ein Ansatz, aber wie gesagt, ich glaube, dafür ist es längst zu spät.
Ja, denke ich auch.
Auf der anderen Seite werden die Scammer, die Frank-Walter Steinmeier jetzt deepfaken, um irgendwie einen ohnehin illegalen Kryptoscam zu bewerben, bewerben, jetzt nicht morgen anfangen und sagen, oh Gott, jetzt haben wir hier eine Kennzeichnungspflicht auf EU-Ebene.
Das heißt, wir müssen unsere Scams als KI generiert markieren.
Ich glaube, das führt tatsächlich auch zu nichts, weil Kriminelle in der Regel auch nicht unbedingt dafür bekannt sind, sich an Gesetze zu halten.
Das ist so die Definitionssache.
Auf der anderen Seite finde ich es ganz spannend.
Es gibt so Social Media Accounts, die in letzter Zeit so ein bisschen abgedriftet sind.
Snickers für Linkshänder kennst du vielleicht.
Das ist ja irgendwie so eine Meme-Seite gewesen, die irgendwie relativ witzigen Content mal gemacht hat, aus meiner Sicht.
Und plötzlich ging das relativ stark in die KI-Richtung zum einen und zum anderen auch immer immer mehr Grünen Bashing, aber dann halt in die Richtung, dass man Bundestagsdebatten genommen hat.
Ja, da gibt es relativ bekannte bei YouTube auch, die sind ohne weiteres online.
Da steht dann unten rechts ganz klein Satire irgendwie drin.
Aber wenn man sich die Kommentare anguckt, ja, da ist dann beispielsweise irgendwie eine Grünenabgeordnete, sind meistens Frauen, die da tatsächlich verarscht werden, muss man sagen, die dann irgendwie einfach Stuss erzählt.
Und wenn man sich die Kommentare anguckt, gibt es da durchaus so ein paar, ich würde sagen, Wutbürger, die irgendwie sagen, ja, und sowas müssen wir von unseren Steuergeldern bezahlen.
Also den Leuten ist das im Grunde auch vollkommen egal, ob da KI generiert steht oder nicht.
Sie glauben es am Ende eh, solange es ins eigene Weltbild passt.
Deshalb glaube ich auch, dass diese Grundüberlegung von KI-Kennzeichnung einfach nicht wirklich zu einer Besserung führt.
Ja, ich glaube, das Problem ist an der Stelle sogar nochmal anders.
Also, Willi von Snick-Link, der diese Videos macht, hatte einen sehr viralen Hit mit Robert Habeck via Sandra Maisberger massiv anfährt, auch KI generiert.
Auch ein Deepfake, wenn man so möchte.
Und das hat so ein bisschen die Tür davor geöffnet, dafür geöffnet, diese Inhalte zu erstellen.
Er ist aber in den letzten Jahren schon politisch massiv abgedriftet.
Das hatte nur noch keiner gesehen.
Jetzt muss man dazu sagen, das Publikum, das sich diese Inhalte aber anschaut und solche Kommentare schreibt, die wollen sich natürlich sich auch dieser Illusion hingeben.
Also, denen ist es eigentlich egal, ob das stimmt, was sie sehen oder nicht.
Denen ist es eher daran gelegen, dass da Narrative weiter transportiert werden, die ihnen möglicherweise als Argumentationsführung helfen.
Also, ich glaube, dass das ein großes Dilemma ist, dass da viele Menschen aufeinandertreffen, die entweder böse Absichten oder Unbedarftheit haben und die einen nutzen die anderen die ganze Zeit aus.
Dafür brauchst du keine KI.
Desinformationen gab es auch vor, in künstlicher Intelligenz schon.
Aber mit Hilfe von KI ist halt deutlich einfacher geworden.
Oder anders gesagt, dieser Gürtel der Unbedarftheit, der ist deutlich größer geworden dadurch, weil es eben schwieriger geworden ist, solche Inhalte zu erkennen.
Und ehrlicherweise ist es auch vermutlich geht es dir genauso, mir nicht immer möglich, KI generierte Inhalte von nicht KI-generierten Inhalten zu unterscheiden.
Nein, mittlerweile gar nicht mehr tatsächlich.
Also klar, so ein Gandalf der Skated ist relativ klar, dass es KI-generiert ist.
Aber gerade wenn man real existierende Personen, die halt auch einen gewissen Bekanntheitsgrad hat, wenn man die Deepfaked, finde ich, ist das ein anderer Schnack.
Und das geht auch in die andere Richtung.
Also, dass der Zentrum für politische Schönheit hat ja damals irgendwie den Olaf Scholz Deepfake aufgenommen.
Ein Video, in dem Olaf Scholz in so einer klassischen Neujahrsansprachenumgebung, dafür plädiert, die AfD zu verbieten.
Das Ganze war fake, ist, glaube ich, mittlerweile auch untersagt worden, das Video weiterhin zu verbreiten.
Auf der anderen Seite, selbst die Heute-Show nutzt KI Deepfakes, um irgendwie sich über die AfD lustig zu machen.
Und da muss ich sagen, auch wenn es aus meiner Sicht vielleicht die richtigen trifft, da ist im satirischen Bereich, finde ich es immer noch schwierig.
Also, ich würde es einfach nicht machen, weil es wirklich massive Verunsicherungen bedeutet, Deepfakes, weil wir alle auch als Gesellschaft noch gar nicht, glaube ich, bereit dafür sind, oder?
Aber das Problem ist, dass du damit aufschließt, dass du da eine Grundsatzdebatte auslöst.
Denn die Frage ist ja eigentlich schon lange, was darf Satire?
Und Holzgert gesagt, Satire darf alles.
Das Dilemma ist nur, wenn plötzlich die politischen Gegner sich dieser Elemente bedienen, die die Satire eigentlich immer schon genutzt hat, um damit Stimmung zu machen, um damit auch politische Meinungen, gesellschaftliche Meinungen zu manipulieren, dann verliert plötzlich die Satire auch so ein bisschen die Schärfe, weil man das Gefühl bekommt, das, was die Satire da macht, ist auch nicht mehr lauter.
Und dann wird es schwierig, finde ich, weil, naja, du hast eben in der Anmoderation gesagt, wir haben uns auf Twitter damals kennengelernt.
Wir waren Internet Content Creator.
Und da war es völlig normal, dass es einen Twitter-Account gab, der Harald Schmidt heißt.
Und alle wussten, das steckt nicht Harald Schmidt hinterher.
Aber trotzdem hat er da im Zungenschlag von Harald Schmidt Dinge gepostet.
Heute würden wir sagen, das kann man eigentlich so nicht mehr machen.
Da hat sich so ein bisschen das Verständnis, glaube ich, gewandelt und gedreht.
Und ich habe kein finales Urteil darüber, ob ich das gut oder schlecht finde.
Okay.
Also, ich würde denkt da auch nochmal drüber nach.
Aber ich glaube, wir betreten ein anderes Feld, wenn wir von gezielter Desinformation sprechen.
Grundsätzlich kann man Satire ja auch erstmal einordnen: ja, Satire tritt nach oben und nicht nach unten.
Und das, was man vor allem eben so aus der rechten Comedy, ich in Anführungszeichen, ja, aus der rechten Comedy sieht, ist ja häufig gegen Minderheiten oder irgendwie Vorurteile und so weiter und so fort.
Es ist, glaube ich, relativ schwierig, wenn wir Desinformationen jetzt unter den Schutz der Satire stellen.
Und zwar egal von welcher Richtung.
Ich stimme dir zu 100% zu.
Das Problem ist nur, ein Julian Reichelt behauptet auch, er würde nach oben treten.
Ja, ja.
Naja.
Na ja.
Okay, lass uns das mal beide mitnehmen.
Wir können da ja mal gemeinsam drüber nachdenken.
Wir sprechen uns ja eh hin und wieder.
Entweder privat oder vielleicht auch mal wieder in deinem Podcast.
Haken dran, das Social Media Update der CT.
Sehr zu empfehlen, wenn ihr Institution aktuelle Informationen über Social Media haben wollt.
Gavin, ich glaube, das war's.
Wir sind soweit durch.
Ich bin jetzt auch hier mit dem Kopf.
Ja, eine halbe Stunde, du.
Ich könnte eine Stunde weiterreden.
Ja, du redest ja auch.
Du redest ja zweimal die Woche eine Stunde.
Dreimal.
Drei, dreimal.
Hast du nicht sogar mal irgendwann jeden Tag gemacht?
Ja, aber da waren es nur 20, 30 Minuten.
Boah.
Hart.
Okay.
Vollzeit-Podcaster.
Ja, nee, das mache ich nicht.
Also, wir machen ja hier in der Regel eine halbe Stunde locker Schnack und dann gibt es Outro und Intro und so, und dann kommen wir so auf 35 bis 40 Minuten.
Also, mir wurde gesagt, dass.
Ich bin gerne wieder.
Dann kommst du wieder zu Teil 2, wenn wir beide drüber nachgedacht haben, was wir von Deepfakes halten.
Ja, letzte Worte.
Von mir jetzt.
Ja, ja, von dir, na klar.
Ich möchte in meinem letzten Worten Markus Beckeda zitieren, der vom Zentrum für Digitalrechte, der einen ganz tollen Satz gesagt hat: ein besseres Internet ist möglich.
Und ich glaube, das stimmt.
Ich glaube, wir alle sind eigentlich in allem, was wir tun, immer daran beteiligt, das Internet zu verbessern, wenn wir das denn wollen.
Und Social Media ist eigentlich nicht tot.
Aber wir, also du stehst nicht im Stau, sondern du bist der Stau.
Und so ist mit Social Media auch.
Also geile Inhalte ballern, ist immer noch die beste Antwort auf Schrott.
Alles klar.
Vielen Dank, das nehme ich mit.
Und baller jetzt ein paar geile Inhalte auf LinkedIn.
Lieber Gevin, schön, dass du da warst.
Danke dir.
Bis dann.
Danke, lieber Max.
Bis bald.
Ciao.
So Leute, ich habe mir jetzt mal 24 Stunden nach dieser Folge Zeit genommen, um noch ein bisschen drauf rumzudenken.
Und ich glaube, das größte Problem, das ich damit habe, wenn Leute AfD-Deepfakes erstellen, um sie vermeintlich irgendwie zu entlarven, ist, dass es genug echten Content gibt aus dem Umfeld dieser Partei, der einfach problematisch ist und zeigt, wessen Geisteskind das eigentlich ist, ja.
Auf der anderen Seite könnten sich natürlich entsprechende kritisierte Personen im Nachhinein immer hinstellen und sagen, ah ja, die Hälfte von dem Content, der da irgendwie durch die, in Anführungszeichen, linken Medien wabert, der ist ja ohnehin mit KI generiert.
Und von daher ist das ja alles fake.
Und ich glaube, da tun wir uns keinen Gefallen mit.
Das ist eher kontraproduktiv.
Und im Gegensatz dazu gibt es halt auch eine ganze Menge echten, real existierenden Content, der aus dem Umfeld dieser Partei kommt, der eigentlich ganz klar auch ausreichen sollte, um Kritik zu üben.
Nun, ja, da sind wir.
Ich denke nochmal weiter drauf rum.
Ihr könnt gerne auch nochmal eure Meinung kundtun.
Schreibt es in die Kommentare.
Schickt uns eine Nachricht, wenn ihr andere Gedanken dazu habt.
Und auch wenn ihr denkt, dass die Folge vielleicht hätte länger sein können.
Also wir versuchen immer so in einer halben Stunde zu bleiben.
Gavin sagt jetzt selbst so, hm, das kam mir irgendwie relativ schnell vor.
Ja, die Zeit verfliegt, wenn man Podcast aufnimmt.
Aber ich würde mich mal interessieren, was ihr dazu denkt.
Also wenn ihr euch längere Folgen wünscht, lasst es uns gerne wissen.
Liebe Kollegin, was hältst du denn von dieser ganzen Thematik eigentlich?
Ich sag mal so, wenn wir KI nutzen, um politische Gegner zu entlarven, dann entlarven wir am Ende nur uns selbst.
Und zwar als jemand, der auf echte Argumente verzichtet.
Wir haben genug reale kritikwürdige Inhalte.
Warum sie mit künstlichen Verwässern?
Ich bin team ehrliche Debatte.
Und ja, wenn es sein muss, auch mit längeren Podcast-Folgen.
Also Qualität vor KI-Quantität und gerne ein bisschen mehr davon.
Guck mal, selbst die KI findet KI scheiße.
Natürlich redet ihr mir hier nach Mund.
Ist ja klar.
Hab keine Gegenwehr erwartet.
Sei's drum.
Vielen Dank fürs Zuhören diese Woche.
Wir sprechen uns nächsten Dienstag.
Bis dahin.
Ciao, ciao.
Dieser Podcast wird produziert von Portstars.
Bei OMR.