# AI Strategy Shifts: Security, Regulation, and Production

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-03-09

## Transcript

Das KI Update, ein Heise Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und die sind heute unter anderem unsere Themen.
Amazon, Google und Microsoft stärken Anthropic den Rücken.
Claude findet in zwei Wochen über 100 Firefox-Bugs.
EU-Abgeordnete wollen schnellere Regelungen zu KI und Urheberrechten.
Und Netflix holt KI-Filmtechnik von Ben Airfleck ins Haus.
Nachdem Produkte von Anthropic für Anwendungen im Feld von nationaler Sicherheit und Militär durch das Pentagon als Sicherheitsrisiko eingestuft wurden, stärken nun Amazon, Google und Microsoft dem KI-Startup den Rücken.
Die Unternehmen betonen unabhängig voneinander, ihre Kunden könnten die Tools von Anthropic weiterhin verwenden.
Martin Holland aus dem Heise Online Newsroom berichtet.
Die Auseinandersetzung zwischen Anthropic und dem Pentagon ist zwar vorerst entschieden, aber was das alles für Konsequenzen hat, ist noch nicht so ganz klar.
Auf jeden Fall haben am Wochenende schon die ersten Großunternehmen, und zwar Amazon, Google und Microsoft Anthropic den Rücken gestärkt und gesagt, dass man über ihre Werkzeuge weiterhin auf die KI-Modelle von Anthropic wird zugreifen können, dass das keine Auswirkungen hat.
Und gleichzeitig darauf hingewiesen, dass bislang dieses Sicherheitsrisiko eben speziell nur fürs Verteidigungsministerium gilt, ob sich das damit zufrieden geben wird, weil das sollte ja eine heftige Drohung sein und Anthropic auch zum Einlenken zwingt.
Das muss sich erst noch zeigen.
Profitiert hatte ja von diesem Streit letztlich OpenAI.
Das hat ja den Zuschlag bekommen, dass die OpenAIs KI, also ChatGPT vor allem, vom US-Militär jetzt verwendet werden soll.
Und da war eben bislang vor allem die Frage, was genau OpenAI für Zugeständnisse gemacht hat.
Anthropic hat ja mal gesagt, ihr könnt das haben, außer was ihr nur nicht machen dürft, ist eine Massenüberwachung der USA oder Menschen in den USA damit zu realisieren und Waffen mit KI-Technik auszurüsten, die quasi über Leben und Tod entscheidet, ohne dass ein Mensch darüber entscheiden kann.
Und OpenAI hat ja augenscheinlich diese roten Linien, also nicht so festgeschrieben, auch wenn es, wenn OpenAI selbst dem widerspricht, aber zumindest ist ja die Frage, warum man dann hätte wechseln müssen.
Auf jeden Fall sieht man das auch bei OpenAI, sehen das nicht alle so, dass sich das Unternehmen da gut aus der Affäre gezogen hat.
Und zwar ist am Wochenende die Robotikchefin von OpenAI, Caitlin Kalinowski aus dem Unternehmen ausgeschieden und hat das speziell mit diesem oder explizit mit diesem Streit und dem Vorgehen von OpenAI begründet und gesagt, dass zu wenig da in diese Sicherheitsbedenken oder zu wenig an diese Sicherheitsbedenken gedacht worden sei.
Die Frau ist natürlich keine Unbekannte, die hat vorher bei Meta-Gearbeitet in der Hardware-Entwicklung und war erst, erst Ende 2024 zu OpenAI gewechselt und hat sich eben jetzt öffentlich gegen das Management ihres Unternehmens gestellt und deswegen ihren Austritt erklärt.
Und wie das jetzt weitergeht, muss ich aber noch zeigen, das sind bestimmt noch nicht die letzten Konsequenzen dieser dieses Streits.
Vielen Dank, Martin.
Anthropic macht der bei Schlagzeilen damit, dass Claude in zwei Wochen mehr Schwachstellen im Browser Firefox gefunden hat als die Community in zwei Monaten.
Dies bestätigte jetzt die für Firefox zuständige Mozilla Foundation.
Malte Kirchner mit den Einzelheiten.
Das Ergebnis eines internen Tests, den Anthropic gemeinsam mit der Mozilla Foundation vorgenommen hat, zeigt einmal mehr, wozu künstliche Intelligenz in der Lage ist.
Das KI-Modell Claude Opus 4.6 fand mehr Sicherheitslücken in dem Browser Firefox als die gesamte Community im doppelten Zeitraum.
Dass die KI aber so schnell Softwarefehler aufspüren kann, alarmiert Experten.
In dem Versuch brauchte das Modell gerade mal 20 Minuten für den ersten Bug.
Nach zwei Wochen waren es insgesamt über 100 Fehler, davon 14 mit hohem Schweregrad.
Zum Vergleich, Mozilla hat im gesamten vergangenen Jahr 73 Bugs gepatcht, die als hochkritisch oder kritisch eingestuft wurden.
Dabei ist der Kontext entscheidend.
Firefox gilt als einer der meistgeprüften Browser der Welt.
Ein Programm zur Fehlerprämierung läuft seit über 20 Jahren.
Die KI hat also keine leichte Aufgabe bekommen, sie hat sich trotzdem durchgebissen.
Die gute Nachricht ist, beim Ausnutzen der gefundenen Lücken war die KI deutlich schwächer als beim Aufspüren.
Funktionierende Exploits, also Angriffswerkzeuge, konnte das Modell nur in zwei Fällen schreiben und auch diese hätte nur in einer Testversion von Firefox funktioniert.
In der Praxis wären sie durch die Sicherheitsmechanismen des Browsers gestoppt worden.
Dennoch warnen Experten, Sicherheitsforscher sprechen von einem Wettrüsten.
KI hilft nicht nur Verteidigern, sondern auch Angreifern, Schwachstellen schneller zu finden und auszunutzen.
Ein weiteres Problem zeigt sich bei Open Source-Projekten.
Viele Entwickler werden mit automatisierten Fehlerberichten überschwemmt, oft auf Basis von KI-Halluzinationen, also schlicht erfundenen Problemen.
Beim Firefox-Test wurden indessen nur reproduzierbare, also tatsächlich nachweisbare Bugs weitergegeben.
Die Botschaft ist klar.
KI wird zu einem mächtigen Werkzeug in der Sicherheitsforschung mit großem Potenzial, aber auch echten Risiken.
Wer die Technologie zuerst beherrscht, hat einen entscheidenden Vorteil.
Danke, Malte.
Sowohl in Großbritannien als auch in den USA gibt es Untersuchungen, ob Meta mit der Weitergabe von Videos aus smarten Brillen gegen Verbraucherschutzgesetze verstoßen hat.
Das schwedische Dagebladet hatte mit Clickworkern in Kenia gesprochen, die von intimen Aufnahmen berichteten, die sie zu sehen bekommen.
Solche Datenannotatoren sortieren und beschriften Inhalte so, dass diese für das Training von KI-Modellen nutzbar sind.
Meta beruft sich dafür auf seine Nutzungsbedingungen, in denen steht, dass Aufnahmen weitergereicht werden können.
Die britische Datenschutzbehörde kritisiert jedoch, dass Meta damit wirbt, die smarten Brillen würden Nutzenden die Kontrolle über ihre Daten geben.
Das sei offenbar nicht der Fall.
Es mangele an Transparenz.
Anbieter müssten klar kommunizieren, welche Daten gesammelt und wie ausgewertet werden.
In den USA haben Vertreter einer bürgerrechtsorientierten Anwaltskanzlei eine Klage eingereicht.
Sie werfen Meta vor Datenschutzrichtlinien gebrochen und falsche Werbeversprechen gemacht zu haben.
Die Vorwürfe richten sich auch gegen den Hersteller der Ray Bern und Oakley-Brillen, Esselor Luxotica.
Meta braucht Videos der KI-Brillen, denn hochwertige Textdaten für das Training von KI-Modellen werden knapp.
Ein Forschungsteam von Meta und der New York University hat deshalb untersucht, wie sich multimodale Modelle von Grund auf trainieren lassen.
Die Forschenden argumentieren, dass reiner Text eine verlustbehaftete Komprimierung der Realität sei.
Sprachmodelle hätten gelernt, Dinge zu beschreiben, ohne sie je gesehen zu haben.
Darum nutzte das Team riesige Mengen ungelabelter Videos als große Trainingsquelle.
Das sind also Videos ohne Beschriftungen oder Annotationen.
Ihr Modell lernt von Null auf gleichzeitig mit Text, Bildern und Videos.
Eine verbreitete Annahme lautet, dass visuelle und sprachliche Fähigkeiten dabei miteinander konkurrieren.
Die Studie widerlegt das nun.
Reines Video ohne Textannotation verschlechtert die Sprachfähigkeiten nicht.
Auf einem Testdatensatz übertraf das kombinierte Modell sogar die reine Textvariante leicht.
Außerdem zeigen die Forschenden, dass ein einziger visueller Encoder für das Verstehen und die Generierung von Bildern ausreichend.
Bisherige Ansätze nutzten dafür zwei getrennte Komponenten.
Auch das Urheberrecht stellt ein ungelöstes Problem für das Training von KI-Modellen dar.
Während die Frage derzeit in ganz Europa Gerichte beschäftigt, schaffen die Anbieter längst technologische Fakten.
Die EU-Kommission will in diesem Jahr prüfen, welcher Handlungsbedarf besteht.
And then gegebenenfalls Reformvorschläge in den langen EU-Verhandlungsprozess einbringen.
Aus Sicht der Abgeordneten im Europaparlament würde das zu lange dauern.
Sie wollen das Problem viel schneller angehen, erklärt Marco Pauli von Heiser Online.
In der kommenden Woche wird im EU-Parlament über ein sogenannten Initiativbericht des deutschen CDU-Rechtspolitikers Axel Voss abgestimmt.
In diesem werden in Sachen KI und Urheberrechte pragmatische Zwischenlösungen gefordert.
Kernpunkt ist die sogenannte Text and Data Mining Ausnahme TDM.
Dank dieser dürfen KI-Anbieter urheberrechtlich geschützte Inhalte bisher nutzen, sofern Urheber dem nicht maschinenlesbar widersprechen.
Doch genau diese Maschinenlesbarkeit ist juristisch umstritten, da keine Klarheit darüber herrscht, wie genau sie eigentlich definiert ist.
The Initiativbericht fordert verbindliche Standards, wie Rechte Inhaber Maschinenlesbar festlegen können, ob Ihre Werke für KI-Training genutzt werden dürfen oder eben nicht.
Gleichzeitig soll Transparenz geschaffen werden, wie KI-Anbieter die Trainingsdaten eigentlich tatsächlich verwenden.
Denkbar wären hier technische Lösungen wie Wasserzeichen oder ein unabhängiger Treuhänder, wie etwa das Amt der Europäischen Union für geistiges Eigentum, das EUIPO, der die Angaben der KI-Unternehmen prüft, ohne Geschäftsgeheimnisse offen zu legen.
Ein weiterer Streitpunkt ist die Vergütung.
Abgeordnete fordern kollektive Vereinbarungen zwischen KI-Anbietern und Verwertungsgesellschaften, um eine faire Bezahlung sicherzustellen.
Denn die Medienhäuser stehen unter Druck.
Die Chatbots und deren KI-Zusammenfassung lenken die Nutzer weg von ihren eigenen Angeboten.
Es gehe um die wirtschaftliche Existenz der freien Presse, warnen Politiker.
Daher solle klargestellt werden, dass KI-Anbieter Presseverlage nicht einfach nutzen dürfen, ohne deren Rechte zu beachten.
Ob der Bericht und dessen Abstimmung konkrete Folgen haben wird, ist offen.
Denn das Initiativrecht für EU-Gesetze liegt bei der EU-Kommission selbst.
Und selbst beschleunigte Verfahren dauern einige Monate.
Werbung.
Sie suchen eine souveräne und performante KI-Infrastruktur für Ihr Business.
Ionos Cloud liefert den passenden Stack für Ihre KI-Strategie.
Realisieren Sie rechenintensive Workloads mit dedizierten Nvidia H200 GPUs direkt aus deutschen Rechenzentren.
Nutzen Sie Ionos Cloud AI Model Hub und Studio, um führende Open Source-Modelle und KI-Funktionen per API in ihre Anwendung zu integrieren.
Behalten Sie die volle Kontrolle über ihre Daten.
Jetzt informieren auf cloud.ionos.de-Sprachmodelle erfinden Quellenangaben.
Dieses bekannte Problem hat inzwischen die wissenschaftliche Literatur erreicht.
Akzeptierte Facharbeiten bei führenden KI-Konferenzen enthalten nachweisliche Referenzen, die auf keine realen Publikationen verweisen.
Ein Forschungsteam hat deshalb das Open Source Tool SiteAudit entwickelt.
Es setzt fünf spezialisierte KI-Agenten ein, die arbeitsteilig vorgehen.
Ein Agent liest das PDF aus.
Ein weiterer gleicht die Angaben mit bekannten Zitaten ab.
Ein dritter sucht per Websuche nach Belegen.
Ein Vierter prüft die Treffer Zeichengenau und ein fünfter durchsucht bei Bedarf autoritative Datenbanken wie Google Scholar.
Der entscheidende Vorteil gegenüber kommerziellen Modellen zeigt sich bei realen Fälschungen.
GPT 5.2 erkennt zwar rund 78% der gefälschten Zitate, stuft aber gleichzeitig auch fast die Hälfte aller echten Referenzen als Fälschung ein.
CiteAudit identifizierte alle Fälschungen im Testdatensatz und beanstandete dabei nur einen kleinen Teil der echten Zitate.
Die Gesamtrefferquote liegt bei 97,2%.
Für 10 Referenzen benötigt das System etwa zwei Sekunden.
Als Web-Applikation lassen sich kostenlos bis zu 500 Zitate pro Tag prüfen.
Der Streaming-Dienst Netflix setzt bei neuen KI-Werkzeugen für die Filmproduktion auf Technologie aus Hollywood, Stadt aus dem Silicon Valley.
Mit der Übernahme des von Ben Affleck gegründeten KI-Startups Interpositive investiert der Konzern jetzt in eine eigene KI-Infrastruktur für Filmproduktion, berichtet mein Kollege Tomislav Bezmalinovich.
Das 16-köpfige Team aus Ingenieuren, Forschern und Kreativen wechselt vollständig zu Netflix.
Während Afflex selbst den Streamingdienst künftig aus leitender Berater unterstützen soll, berichtet Variety.
Netflix werde die KI-Technologie sein Partnern zur Verfügung stellen, an kommerzieller Vertrieb seit derzeit aber nicht geplant.
Interpositive entwickelt KI-Werkzeuge, die nach bisherigen Beschreibungen vor allem für die Postproduktion gedacht sind.
Ben Affleck stellt heraus, dass die Tools nicht etwa eigenständig Filme generieren, sondern Filmemacher bei typischen Arbeitsschritten unterstützen sollen.
Dafür werden KI-Modelle zuerst auf Basis von Aufnahmen realer Drehs trainiert, um später fehlende Einstellungen und Spezialeffekte zu ergänzen, Hintergründe zu verstärken oder Licht- und Bildausschnitte nachträglich zu verändern.
Die Systeme sind AFLEC zufolge darauf ausgelegt, filmische Regeln und Arbeitsabläufe zu verstehen und kreative Entscheidungen weiterhin beim Menschen zu belassen.
Ideen, handwerkliches Können und menschliches Urteilsvermögen sollen laut Netflix weiterhin im Zentrum guten Storytellings stehen.
Unerwähnt bleibt in der Ankündigung des Streaming Riesen, dass solche Werkzeuge den Arbeitsaufwand in der Postproduktion verringern und damit langfristig Auswirkungen auf bestimmte Berufsgruppen haben könnten.
Die Übernahme von Interpositive passt in einen breiteren Wandel der Branche.
Große Studios und Streamingdienste haben begonnen, Partnerschaften mit KI-Anbietern anzugehen und die Technologie aktiv in ihre Produktionsabläufe zu integrieren, statt die Entwicklung nur zu beobachten.
Vielen Dank, Tommy Slav.
KI-Agenten sollen künftig eigenständig komplexer Arbeitsaufgaben übernehmen.
Doch eine neue Studie zeigt, dass die Systeme nicht für den realen Arbeitsalltag entwickelt werden.
Ein Forschungsteam der Carnegie Mellon University und der Stanford University hat 43 Agenten Benchmarks mit mehr als 72.000 Aufgaben systematisch mit dem US-Arbeitsmarkt abgeglichen.
Benchmarks sind standardisierte Tests, mit denen Forschende die Leistung von KI-Systemen messen.
Das Ergebnis ist eindeutig.
Die aktuelle Agentenentwicklung zielt fast ausschließlich auf Computer und Mathematik ab.
Dieser Bereich macht jedoch nur 7,6% der Gesamtbeschäftigung in den USA aus.
Selbst stark digitalisierte Branchen kommen in den Tests kaum vor.
Zum Beispiel weist der Arbeitsbereich Management ein Digitalisierungsgrad von 88% auf, wird aber nur in 1,4% aller Benchmark-Aufgaben abgebildet.
Juristische Tätigkeiten und Ingenieurwesen sind ähnlich unterrepräsentiert.
Die Forschenden führen das auf methodische Bequemlichkeit zurück.
Aufgaben mit klar formulierbaren Anweisungen und einfach überprüfbaren Ergebnissen würden überproportional bevorzugt.
Selbst im am stärksten vertretenen Bereich Softwareentwicklung fallen die Erfolgsraten mit steigender Aufgabenkomplexität steil ab.
Die Forschenden fordern deshalb Benchmarks, die gezielt unterrepräsentierte Arbeitsbereiche abdecken und realistischere Aufgaben enthalten.
Ein Team des Massachusetts Institute of Technology hat sich von der japanischen Papierkunst des Kirigami inspirieren lassen und eine Methode entwickelt, mit der flache Platten ohne den Einsatz von Werkzeugen in dreidimensionale Strukturen verwandelt werden können.
Wie genau das funktioniert, erklärt Jenny Leapies, Redakteurin bei der MIT Technology Review.
Wenn man das Video der Forschergruppe anschaut, sieht das schon ziemlich pfiffig aus.
Man sieht eine flache Platte, die aus mehreren verbundenen Kacheln besteht.
Zieht man nun an der angebrachten Schnur, zieht sich die Konstruktion zusammen und es entsteht zum Beispiel eine Form, die aussieht wie ein Stuhl.
Die Forschergruppe am Computer Science and Artificial Intelligence Laboratory des MIT in Cambridge hat dafür die Papierkunst des Kirigami nachgeahmt, bei der auch komplexe und oft auch dreidimensionale Objekte durch das präzise Ausschneiden entstehen.
Der entwickelte Algorithmus geht jetzt aber so vor, dass er eine vom User festgelegte 3D-Struktur bekommt und in eine flache Form aus diesen miteinander verbundenen Kacheln zurückverwandelt.
Wichtig ist hierbei halt die Anbringung der Schnur zum Zusammenziehen.
Der Algorithmus geht dazu in zwei Schritten vor.
Er muss zunächst den optimalen Weg für die Schnur durch das Kachelmuster finden.
Denn die Schnur muss ja die einzelnen Elemente zu der gewünschten Form zusammenziehen.
Dabei berechnet der Algorithmus die minimale Anzahl von Punkten, die angehoben werden muss.
Der Algorithmus findet dann den kürzesten Weg, diese Hebepunkte zu verbinden.
Das Ergebnis sorgt dafür, dass der Weg der Schnur die Reibung minimiert, sodass die Struktur mit nur einem einzigen Zug an dieser Schnur entstehen kann.
Der Aufbau ist lauter Forscher zudem leicht wieder in die flache Konfiguration umkehrbar.
Die Muster, die der Algorithmus ausgibt, lassen sich mittels 3D-Druck, CNC-Fräsen, Guss oder anderen Techniken herstellen.
Die Forscher können sich vorstellen, dass sich der Ansatz auch nutzen lässt, um beispielsweise Gegenstände in flachen Zustand anzufertigen, um sie dann in schlecht erreichbare Regionen zu bringen und dort aufzufalten.
Wenn man ganz groß denkt, werden sogar Habitate für den Mond oder Mars möglich.
Dankeschön, Jenny.
Die KI-Plattform Luma generiert nach Angaben des Herstellers Luma AI kreative Projekte wie Videos oder Printkampagnen.
Vom Konzept über Zwischenstufen wie Storyboards bis hin zur Ausgestaltung mit diversen KI-Modellen.
Bislang mussten Kreative beispielsweise für ein Videoprojekt zuerst ein Skript in ChatGPT erstellen, dann ein Bild als Ausgangspunkt in Midjourney, anschließend einzelne Videoclips in Runway ML generieren, Hintergrundmusik im Web oder einer Bibliothek suchen und letztlich alles in Adobe Premiere Pro zu einem Video verbinden.
All diese Schritte sollen Sie nun in einer Web App erledigen können.
Neben dem von Lumaai selbst entwickelten Videomodell Ray 3.14 unterstützt der Agent auch Googles VEO, OpenAI Zora und Klingai, sowie die Bildgeneratoren NanoBanana Pro, C-Dream und GPT-Image.
Die Musik, Audio-Effekt und Stimmgeneratoren kommen von 11 Labs.
Luma richtet sich an kreative Teams in Agenturen und Marketingabteilungen, die schnell Inhalte produzieren wollen, ohne sich mit komplexen Prozessen dahinter auseinandersetzen zu müssen.
Bisherige KI-Systeme im Auto bieten oft nur Informationen.
Soundhound AI hat auf dem MWC ein System präsentiert, das eigenständig planen, bestellen und bezahlen kann.
Die Software kann auf verschiedenen großen Sprachmodellen aufbauen und bietet rund zwei Dutzend unterschiedliche KI-Agenten.
Jeder Agent ist für einen eigenen Bereich zuständig, womit sich der Zugriff auf Daten und Funktionen abgrenzen lässt.
Allerdings können die Agenten untereinander kommunizieren, was komplexe Einsatzmöglichkeiten eröffnet.
Wenn man zum Beispiel auf dem Heimweg noch schnell eine Pizza abholen möchte, kann der Assistent passende Restaurants vorschlagen, die Bestellung aufgeben und die automatische Bezahlung auslösen.
Die KI kann auch Funktionen wie Klimaanlage, Sitzheizung oder Navigationssystem steuern.
Zu den bisherigen Partnern gehören unter anderem Genesis, Hyundai, Kia, Lucid und die Stellantis Gruppe.
Welcher Hersteller als erster die KI-Agenten in einem Serienmodell einsetzen wird, verliert das Unternehmen gegenüber Heise Online nicht.
Der Start ist allerdings noch für dieses Jahr geplant.
Das war das KI-Update von Heiser Online vom 9.
März 2026.
Eine neue Folge gibt es immer, montags, mittwochs und freitags um 15 Uhr.
Werbung.
Außerdem beheiße.
Hallo, ich bin Holger.
Und ich bin Jörg und wir sind das Team der Auslegungssache.
Das ist der CT Datenschutz-Podcast.
Wir beschäftigen uns alle 14 Tage mit aktuellen, relevanten Themen rund um den Bereich Datenschutz, Datensicherheit, aber auch um politische Themen wie Überwachung.
Dazu laden wir uns immer interessante Gäste ein.
Die können aus den unterschiedlichsten Bereichen kommen.
Wir haben natürlich Juristen auch dabei, wir haben aber zum Beispiel auch Landesdatenschutzbeauftragte, Bundesdatenschutzbeauftragter war schon mal da, aber auch Technikexperten.
Dabei ist es uns immer wichtig, dass wir verständlich bleiben.
Das heißt, wir versuchen, das Juristendeutsch so gut wie möglich zu reduzieren und Dinge so runterzubrechen, dass auch interessierte Laien sie gut verstehen können und auch ihr Nutzen aus unseren teilweise sehr lebhaften Diskussionen ziehen können.
Hört doch mal rein.
Wir freuen uns auf euch.