# European AI Sovereignty and Security Shifts

**Podcast:** Kollegin KI
**Published:** 2026-09-18

## Transcript

Happy Friday, liebe Leute.
Max Montenke hier mit der Kollegin KI Snackbox.
Ich bringe euch einmal in zehn Minuten durch die KI News der Woche und vielleicht erst mal in eigener Sache.
Ich war im Fernsehen und zwar gibt es einen KiKa-Beitrag von mir mit meinem Co-Founder Jan.
Wir waren an einer Grundschule und machen ja hin und wieder so AI Literacy Kurse.
Jetzt ist das KiKa.
Der KiKa hat darauf aufmerksam geworden.
Verlinke ich euch in den Shownotes.
Es ist total cute.
Ich muss sagen, diese Arbeit mit Kindern und KI.
gibt mir so viel.
Wenn das bezahlt werden würde, ich würde es wahrscheinlich den ganzen Tag machen.
Würde es aber nicht.
Deshalb gehen wir jetzt mal zurück zum Podcast ab in die News.
Langdok kommt zurück nach...
Deutschland.
Wir starten diese Woche mal ausnahmsweise mit einer sehr guten Nachricht für den europäischen KI-Standort.
Und zwar kommt LangDoc zurück nach Deutschland.
LangDoc, KI-Tool, kennen viele von euch wahrscheinlich.
Rund 13.000 Organisationen nutzen bereits das deutsche Chat-GPT, wie es immer wieder genannt wird.
Es ist im Grunde ein LLM-Wrapper, also ein Tool, das verschiedene Large-Language-Models anbindet und das Ganze in Europa bzw.
aus Deutschland herausbaut.
Und wie viele Startups hatte Langdoc eine US-Holding bis vor kurzem?
Das ist in so einer frühen Phase durchaus sinnvoll, was einfach irgendwie nochmal für amerikanische Investoren deutlich besser ist, wenn man eben in den USA gelistet ist.
Und Langdoc hat jetzt gesagt, nee, bei Unternehmenskunden führte wohl die US-Mutter immer mal wieder zu Fragen rund um US-Recht und den möglichen Behördenzugriff auf die entsprechenden Daten.
Stichwort Cloud Act.
Also es gibt eine andere Vorstellung von Datenschutz in den USA als hier.
Und dementsprechend hat Langdok gesagt, nee, wir gehen...
nach Europa.
Wir entscheiden uns für Deutschland und wir meinen das ernst.
Und zwar wollen sie wohl noch 2026 ein eigenes Rechenzentrum in Betrieb nehmen.
10 bis 15 Millionen Euro sind dafür vorgesehen.
Also ich finde, das sind sehr gute News.
Ich freue mich über ein weiteres europäisches Tool, das sich jetzt auch so ein bisschen von den USA loshakt.
Kann Schule machen von mir aus.
Gehen wir weiter.
Es gibt KI im Fernsehen.
Jetzt habt ihr vielleicht mitbekommen, RTL hat diese Woche versucht, Fernsehwiederholungen neu zu erfinden.
Ihr kennt wahrscheinlich, wenn ihr so ein Jahrgang seid, 90er Jahre geboren, dann kennt ihr diese ganzen Gerichtsshows noch, die man sich dann nach der Schule irgendwie noch angucken konnte, wo dann immer fiktive Gerichtsfälle verhandelt wurden.
Und da gibt es eine ganze Menge von.
Tatsächlich hat jetzt RTL zusammen mit Konstantin Entertainment fünf...
bereits produzierte Folgen von Ulrich Wetzel das Strafgericht genommen und mit generativer KI neue Folgen daraus gebaut.
Also das ist nicht nur irgendwie Bildbearbeitung, sondern Figuren, Beziehungen, Handlungsverläufe, auch Urteile werden mit KI verändert und da wird dann neue Sprache drüber gelegt.
Es gibt ein Lipsync und dann kann man diese Shows, die ja im Grunde immer gleich aussehen und immer gleich verlaufen, inhaltlich ändern.
Das ist erstmal sehr spannend, dass KI so eingesetzt wird, führt natürlich aber auch zu diversen Fragen.
Das Medienmagazin DWDL...
berichtet beispielsweise, dass im linearen Fernsehen so eine Kennzeichnung, dass das KI manipuliert ist, einfach komplett fehlte.
RTL Plus hat das zwar online gemacht, aber im linearen Fernsehen gab es das nicht.
Das führt natürlich zu entsprechenden Fragen.
Die Verantwortlichen bei RTL verweisen auf Sonderregeln für fiktionale Werke.
Ihr erinnert euch, wir hatten über den AI-Act.
ja schon auch einige Male gesprochen.
Wenn es klar ist, es ist ein fiktionales Wert, es muss keine Kennzeichnungspflicht gelten oder gilt die nicht.
Und da ist gerade ein bisschen Streit im Gange.
Sehr spannend.
Verfolgen wir weiter.
Ich glaube aber, die interessante Frage ist gar nicht, ob jetzt die Lippenbewegung da schon hundertprozentig stimmt.
Das wird dann viel diskutiert in den Kommentaren von Social Media auch, dass es alles echt schlecht aussieht und man erkennt das ja sofort.
Die Frage ist viel eher, was passiert eigentlich mit bestehendem Content, wo SchauspielerInnen daran beteiligt waren, Drehbuchautoren und so weiter, wenn KI das Ganze einfach neu mischt und daraus mehr oder weniger neue Folgen macht.
Und da auch nochmal den Verweis auf unsere Folge aus dem April mit Franziska Pohlmann, der Regisseurin, habe ich über KI im Kino gesprochen.
Und die hat auch nochmal einen professionellen Blick auf den ganzen KI-Einsatz gemacht.
verlinke ich euch gerne auch in den Kommentaren.
So, jetzt ab in die düstere Ecke.
Es gibt einen ersten gemeldeten Datenschutzvorfall mit einem KI-Agenten.
Und zwar in Spanien.
Die spanische Datenschutzbehörde hat eine entsprechende Meldung von einer betroffenen Organisation erhalten.
Nach deren Angaben verwendete der Angreifer einen KI-Agenten auf Basis eines bekannten, aber nicht näher genannten großen Sprachmodells.
Wir haben ja schon ein bisschen gesprochen über die Agents, die sich selbstständig machen in den letzten Wochen.
Das ist ein riesengroßes Sicherheitsproblem.
Und jetzt gibt es tatsächlich den ersten Vorfall, könnt ihr euch im Kalender anstreichen, offenbar einen Cyberangriff selbstständig oder größtenteils selbstständig durchgeführt hat.
Man muss sagen, das Ganze ist noch in Untersuchung.
Der Fall wird noch geprüft.
Es gibt keine Information darüber, welches Modell verwendet wurde oder welches Unternehmen betroffen war und so weiter.
Aber es wirft natürlich einen neuen Blick auf Regulierung, auf Sicherheit durch Large Language Models und was die kleinen Dinger mittlerweile alles können.
Denn natürlich können sie auch für kriminelle Zwecke eingesetzt werden.
Oder wenn wir diesem Fall hier jetzt Glauben schenken, tatsächlich auch selbstständig sagen, ja, da gucke ich doch mal, ob ich an entsprechende Daten rankomme, die vielleicht eigentlich eher geschützt werden sollten.
Also wie umgeht man Sicherheitsmechaniken von Websites, von Datenbanken und so weiter?
Wahnsinnig aktuelles Thema, bleiben wir dran.
Und damit auch zur letzten News, die auch daran anknüpft.
Und zwar hatten wir schon über Jacob Coxon gesprochen.
Jacob Coxon war lange bei OpenAI und ist dann zu Anthropic gewechselt und hat da nach kurzer Zeit bereits geschmissen, hat gesagt, KI läuft hier komplett aus dem Ruder.
Wir verlieren die Kontrolle.
Wir könnten alle sterben durch KI.
Und da gab es dann Aufruhr und durchaus auch andere Sicherheitsforschende, die ihm zugestimmt haben.
Da gab es dann diese Zahl, die im Raum geisterte von 10% Wahrscheinlichkeit, dass die Menschheit das Ende des Jahrzehnts nicht mehr erleben wird durch KI.
Und jetzt folgen einige anderem auch.
dem Beispiel von Coxon und zwar bei Google DeepMind.
Wir haben andere Safety-Forscher, die, sage ich mal, große KI-Unternehmen verlassen, alle mit dem Hinweis darauf, dass diese Technologie nicht sicher weiterentwickelt werden.
Das ist tatsächlich ein Riesenproblem.
Also wenn die Sicherheitsforschenden davor waren, wenn über die Unternehmen hinweg Leute das Unternehmen verlassen aus moralischen Gründen, weil sie sagen, das funktioniert hier so nicht mehr, wie wir das weiterentwickeln, dann muss uns das zu denken geben.
Und es gibt jetzt so von den großen Hyperscalern, die...
Ansage, man schraubt so ein bisschen die Forschung zurück und tritt auf die Bremse, was ich Quatsch halte, um ehrlich zu sein, also Forscher werden jetzt nicht sagen, ich denke jetzt nur noch 50 Prozent schnell oder so, oder arbeite vielleicht weniger an entsprechenden Systemen.
Was her muss, sind Sicherheitsgarantien.
Ist vor allem eine Behörde, die international die Entwicklung von künstlicher Intelligenz überprüft und die das unabhängig sag ich mal, lizenziert.
Und ähnliche Modelle haben wir.
Da ist immer wieder die Atomenergiebehörde, die international im Gespräch, die ja auch mehr oder weniger international handelt, kontrolliert, wer nutzt Atomkraft für was.
Und sowas brauchen wir auch für KI.
Da sind sich viele Leute einig, wie schnell wir das Ding bekommen und in welcher Form das dann auch über entsprechende Befähigungen.
verfügt, das sei nochmal dahingestellt, aber das Thema wird auf jeden Fall dringender.
Es gibt noch eine andere Perspektive auf diese ganze Thematik und dieses Bekenntnis der großen Tech-CEOs, die jetzt alle in Gang zurückschalten wollen und zwar, dass die natürlich alle noch kein Geld verdienen und im Zuge dieser ganzen Skandale gerade hat OpenAI auch den IPO, also den Börsengang.
verschoben, was, ja, sag ich mal, durchaus den ganz Gelegen kommt, denn eigentlich sehen die Zahlen alles andere als rosig aus.
Das vielleicht dazu und vielleicht auch zu dieser Woche.
Ansonsten freue ich mich sehr über den KiKa-Beitrag immer noch.
Ich werde wirklich voll beflügelt.
Das ist wirklich ein ganz süßes Ding.
Wie man KI an Schulen irgendwie unterrichten kann, ist einfach...
Wahnsinnig tolles Feld.
Macht mir ganz viel Spaß.
Ich hoffe, euch macht der Beitrag auch Spaß.
Ich freue mich auf Feedback.
Redaktionsschluss war Donnerstag, der 17.09.
um 12.17 Uhr.
Ich wünsche euch ein fantastisches Wochenende und wir hören uns kommenden Dienstag zu KollegInK.
Bis dahin.
Ciao.
Dieser Podcast wird produziert von Podstars bei OMR.