# AI Regulation, Infrastructure Costs, and Open Ecosystem Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-07-27

## Transcript

Das KI-Update – ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
US-Politiker fordern Kill-Switch für KI-Modelle.
Chinesische KI Kimi3 findet Zero-Day-Lücken in Redis Datenbank.
Instagram verbietet heimliche Smart-Glasses-Aufnahmen.
Und Black Forest Labs bringt Flux 3 für Bild, Video und...
Für die größten Schlagzeilen in den vergangenen zwei Wochen sorgte mal wieder OpenAI.
Ein noch nicht veröffentlichtes KI-Modell war aus seiner sicher gedachten Testumgebung ausgebrochen und hatte eigenständig die KI-Plattform Hugging Face angegriffen.
Mit Erfolg.
Darauf folgte eine Debatte über die Kontrollierbarkeit von KI-Modellen.
Aus dem US-Repräsentantenhaus kommen bereits Forderungen nach einem Kill-Switch oder auch unabhängigen KI-Audits für KI-Modelle.
Caroline Riedmüller von heiseronline fasst die Entwicklungen der letzten Tage zusammen.
Was diesen Vorfall so bemerkenswert macht, ist eigentlich die Kombination aus zwei Dingen.
Was die KI getan hat und wie gut sie dabei war.
Fachleute schätzen, dass eine erfahrene Person für das, was diese KI in kürzester Zeit geschafft hat, mehrere Wochen gebraucht hätte.
Ihr war es gelungen, eine Schwachstelle zu finden, um unbemerkt aus ihrer abgesicherten Testumgebung auszubrechen und einen Angriff auf die Internetplattform Hugging Face auszuführen.
Das ist eine wichtige Drehscheibe für KI-Entwicklung und die KI schlussfolgerte, dass sie auf den Servern die Lösung für die Aufgaben finden würde, die sie in ihrem Test in dem Moment ausführen sollte.
Also hackte sie die Plattform.
Ein vollkommen selbstständiger Angriff, der nicht von Menschen in Auftrag gegeben wurde.
Obwohl die KI, und das ist das Ironische daran, mit diesem illegalen Hack eigentlich nur die Aufgabe besonders gut erfüllen wollte, die ihr von einem Menschen gegeben wurde.
Bloß die Mittel, die sie dafür wählte, waren nicht gerade im Sinne der Entwickler.
Natürlich sorgt so ein gravierender Sicherheitsvorfall für politische Reaktionen.
Zwei demokratische Mitglieder des US-Repräsentantenhauses wollen nun ein Gesetz auf den Weg bringen, das es der US-Regierung erlaubt, KI-Hersteller per Anordnung zur sofortigen Abschaltung ihrer Modelle zu zwingen.
Sofern diese menschliches Leben oder die Wirtschaft gefährden.
Die Idee eines solchen Kill-Switches klingt simpel, ist aber technisch und rechtlich hochkomplex.
Denn es wäre auch ein langer Arm der US-Regierung in die Geschäfte der KI-Hersteller.
Ein anderer Ansatz von Mitgliedern des Repräsentantenhauses sieht vor, Hersteller führende KI-Modelle zu unabhängigen KI-Audits zu verpflichten.
Außerdem fordern sie strengere Sicherheitsmaßnahmen seitens der KI-Hersteller und die Prüfung neuer KI-Modelle durch die National Security Agency.
Ob diese Sicherheitsmaßnahmen tatsächlich solch eigenmächtiges Verhalten eines KI-Modells verhindern können, ist aber fraglich.
Dankeschön, Caroline.
Bei der Universa-Versicherungsgruppe kam es zu einem Datenschutzvorfall, als ein OpenAI-Crawler während einer IT-Umstellung auf ungeschützte Kundendaten zugreifen konnte.
Betroffen waren Namen, Anschriften, Versicherungsnummern und teilweise Bankverbindungsdaten.
Sensible Gesundheitsdaten blieben wohl verschont.
Der Zugriff erfolgte nur wenige Stunden lang am 7.
Juli, wurde durch interne Sicherheitskontrollen entdeckt und sofort unterbunden.
OpenAI versicherte, die Daten nicht verwendet zu haben.
Die Bayerische Datenschutzaufsicht untersucht den Fall und rät Betroffenen zu Vorsichtsmaßnahmen.
Sie sollen unter anderem Passwörter ändern, Konto- und Kreditkartenbewegungen kontrollieren, sowie bei ungewöhnlichen E-Mails, Anrufen oder Briefen besonders vorsichtig sein.
Bei Verdacht auf Betrug empfiehlt die Behörde, Anzeige zu erstatten.
Der Vorfall verdeutlicht die Herausforderungen beim KI-Webcrawling.
Laut EU-Datenschutzrichtlinien müssen die Unternehmen vor dem Datensammeln eigentlich Filtermechanismen implementieren und sensible Quellen ausschließen, um genau solche Vorfälle zu vermeiden.
Ein IT-Forscher hat mit der chinesischen KI Chemie 3 mehrere Zero-Day-Lücken in der Redis-Datenbank entdeckt.
Das stärkt die Position des chinesischen Modells, erklärt Dirk Knob von Heise Security.
Der User Chaofan Chu hat auf X gepostet, dass er mit der künstlichen Intelligenz des chinesischen Startups Moonshot AI in 90 Minuten insgesamt 19 Zero-Day-Sprachstellen in der Redesdatenbank gefunden hat.
Das KimiK3 genannte Modell hat dabei auch Proof-of-Concept-Code erstellt, um das Ausnutzen der Lücken zu demonstrieren.
Chu hat auf GitHub ein Repository mit dem Beispiel Exploits veröffentlicht.
Die Entwickler der quelloffenen In-Memory-Datenbank Redes haben aktualisierte Versionen veröffentlicht, die auch einige der aufgeführten Schwachstellen ausbessern.
Sie bestätigen damit die Sicherheitslücken, die der IT-Forscher mit der chinesischen KI gefunden hat.
ChemieCat3 steht in Konkurrenz zu den aktuellen Coding-Spitzenmodellen von OpenAon und Anthropic und beweist damit nun, dass sie tatsächlich Schwachstellen aufspüren und Exploit-Code zum Beleg vorlegen kann.
Vielen Dank, Dirk.
Diese Fähigkeiten des verhältnismäßig günstigen Chemie 3 haben die US-amerikanische KI-Branche aufgeschreckt.
Als Reaktion haben jetzt 25 US-Tech-Unternehmen einen offenen Brief veröffentlicht, der ein Ökosystem aus offenen KI-Modellen fordert.
Zu den Unterzeichnern gehören unter anderem Microsoft, Meta, Nvidia und IBM.
Sie argumentieren, dass offene Modelle mehr Sicherheit durch Community-Überprüfung bieten und den Wettbewerb fördern.
Die US-Unternehmen stehen nun vor der Entscheidung, ob sie sich dem Wettbewerb stellen oder chinesische Konkurrenten durch Regulierung ausbremsen wollen.
Anthropic hat derweil Claude Opus 5 veröffentlicht, das als effizienteres Nachfolgemodell von Opus 4.8 konzipiert ist.
Das neue Modell soll bei gleichen Kosten deutlich mehr Leistung bieten, besonders in der Softwareentwicklung.
Bemerkenswert sollen auch die Fähigkeiten bei der Suche von Sicherheitslücken sein, die an das Niveau von Anthropics Spezialmodell Mythos 5 heranreichen sollen.
Obwohl nicht speziell für Cybersicherheit trainiert, kann Opus 5 Schwachstellen in Software aufspüren.
Das Ausnutzen der Lücken bleibt jedoch schwieriger als bei Mythos 5.
Die Safeguards sind weniger streng als bei Fable 5, verhindern aber das Scannen kompilierten Codes nach Sicherheitslücken.
Autorisierte Nutzerinnen und Nutzer können über Anthropics Cyber Verification Program erweiterte Funktionen nutzen.
Meta reagiert auf die wachsende Kritik an Smart Glasses mit Kamerafunktion und entfernt künftig auf Instagram Videos, in denen Menschen heimlich gefilmt und belästigt werden.
Tomislav Bismarinovic von heise online berichtet.
Instagram-Chef Adam Mosseri sagt in seiner Instagram-Story, Wenn ihr Inhalte veröffentlicht, die andere Menschen vorführen und belästigen, wie viele dieser Flirt-Videos, von denen wir gehört und die wir gesehen haben, dann werden wir diese Inhalte entfernen.
Meta hat bereits zwei reichweitenstarke Konten gesperrt, die regelmäßig Videos von Frauen ohne deren Zustimmung veröffentlicht hatten.
Das Problem ist, dass Smartglasses wie die Ray-Ban Meta oder die Oakley Meta kaum als solche erkennbar sind und Viele Menschen gar nicht wissen, dass sie eine Minikamera verbaut haben.
Obwohl eine LED-Leuchte vor Aufnahmen warnen soll, wird sie von den Opfern häufig nicht wahrgenommen oder kann von technisch versierten Nutzern manipuliert werden.
Mit einem Software-Update, das die Aufnahme-LED vor Verdeckung und Manipulation schützen soll, sowie dem Instagram-Konto sperren, will Meta nun gegen solchen Missbrauch vorgehen.
Allerdings dürften Kontosperren allein das Problem nicht lösen, da Täter einfach auf andere Plattformen ausweichen können.
Vielen Dank, Tomislav.
Google hat drei neue Varianten seines KI-Modells Gemini vorgestellt.
Gemini 3.6 Flash soll bessere Leistung bei einem Sechstel weniger Token-Verbrauch als der Vorgänger bieten.
Zusätzlich wird Gemini 3.5 Flash Lite für geringere Latenzen und KI-Agenten eingeführt.
Für IT-Sicherheit bietet Google Gemini 3.5 Flash Cyber an, das mit dem hauseigenen Agenten Codemender zur Prüfung von Sicherheitslücken konzipiert ist.
Dieses Modell steht jedoch nur staatlichen Diensten und ausgewählten Einrichtungen zur Verfügung.
Problematisch bleibt die verzögerte Pro-Version von Gemini 3.5, die laut Berichten unter Qualitätsproblemen leidet.
Die Integration in verschiedene Google-Produkte von Maps bis YouTube verkompliziert die Entwicklung zusätzlich.
Google konzentriert sich inzwischen bereits auf die Vorbereitungen für Gemini 4, während die Pro-Version weiter auf sich warten lässt.
Mit dem Ionos KI-Telefonassistenten verpassen Sie keine Kundenanrufe mehr.
Hallo, wie kann ich Ihnen helfen?
Machen aus Anfragen Aufträge und steigern so Ihre Umsätze.
Jetzt den KI-Telefonassistenten kostenlos testen.
Auf ionos.de Microsoft erweitert den Einsatz eigener KI-Modelle und reduziert damit die Abhängigkeit von OpenAI.
Der Bing Image Creator arbeitet nun vollständig mit dem hauseigenen MAI Image 2.5 für Bilderzeugung und Bearbeitung.
Auch PowerPoint, OneDrive, Dynamics 365 und Azure nutzen die neuen MAI-Modelle.
Die eigenen Modelle bieten Microsoft deutliche Kostenvorteile.
In PowerPoint sinken die GPU-Kosten um bis zu 84% gegenüber GPT-Image 2.
In OneDrive verbessert sich die Antwortzeit um ein Viertel, während die Speicherrate um 26% stieg.
Zusätzlich führt Microsoft MAI Image 2.5 Pro für hochwertige Bildaufgaben ein und MAI Voice 2 Flash für Sprachanwendungen.
Dieses Sprachmodell arbeitet doppelt so schnell wie der Vorgänger und kostet 32% weniger.
Im Dynamics 365 Contact Center reduziert es die GPU-Kosten um bis zu 89 Prozent.
Das deutsche KI-Startup Black Forest Labs hat mit Flux 3 ein neues Modell zur Generierung von Bildern, Videos und Audio vorgestellt.
Diese Eigenschaften sollen es auch für das Training von Robotern qualifizieren.
Mehr dazu weiß Jonathan Kemper von The Decoder.
Das Freiburger Unternehmen beschreibt sein Ziel als visuelle Intelligenz für die reale Welt.
Gemeint sind damit Modelle, die in physischen und digitalen Umgebungen wahrnehmen, vorhersagen und handeln können.
Damit folgt Black Forest Labs einem allgemeinen KI-Trend hin zu sogenannten Weltmodellen.
Eine einzelne Datenart liefere kein vollständiges Bild der Realität, so die Entwickler.
Bilder erfassen räumliche Strukturen, Videos fügen die Zeitdimensionen hinzu, Audio zeigt Zusammenhänge zwischen Bewegung und Klang.
Lernt ein Modell aus allen Quellen gleichzeitig, ergänzen sich diese Informationen.
Flux 3 kann als erstes Modell des Unternehmens Videos mit passendem Ton erzeugen.
Das Modell erstellt Videos mit bis zu 20 Sekunden Länge aus Text, Bildern oder aus anderen Videos.
Es setzt Übergänge, spricht mehrsprachige Dialoge und verbindet einzelne Clips zu längeren Szenen.
Besondere Stärken sieht Black Forest Labs bei Gesichtsausdrücken und bei der Zuordnung von Geräuschen zu Ereignissen.
In eigenen Vergleichen schnitt Flux 3 im dicht besetzten Feld der Videogeneratoren gut ab.
Vor allem gegen die aktuellen Modelle konkurrierender Startups wie Luma und Runway setzte es sich häufig durch.
Knapper fiel der Abstand zu Modellen großer Firmen aus USA und China wie Kling, ByteDance und Google aus.
Flux 3 kann aber nicht nur Inhalte erzeugen, sondern auch Aktionen vorhersagen.
Gemeinsam mit dem Unternehmen Mimic Robotics hat Black Forest Labs dafür ein eigenes Modell entwickelt.
Es wird bereits beim Autohersteller Audi in Produktionsaufgaben getestet.
Das neue Flux kommt schrittweise.
Die Videofunktion ist bereits verfügbar, die Bildgenerierung soll in den kommenden Wochen folgen.
Die Aktionsvorhersage bekommen zunächst nur ausgewählte Partner.
Das Grundmodell will das KI-Labor später auch mit offenen Gewichten anbieten.
Danke, Jonathan.
Rund 300 Millionen Menschen stellen ChatGPT jede Woche Fragen zu ihrer Gesundheit.
Da ist es kein Wunder, dass OpenAI seine Gesundheitsfunktion für den KI-Chatboard ausweitet.
In den USA können Menschen ab 18 Jahren Apple Health, medizinische Akten und Wellness-Apps verbinden.
Damit lassen sich Laborergebnisse verstehen, Arztbesuche vorbereiten oder Schlaf- und Aktivitätsdaten auswerten.
Laut OpenAI werden verbundene Gesundheitsdaten nicht für das Training der Modelle oder für Werbung genutzt.
Bereits in der kostenlosen Version soll ChatGPT in einer Testumgebung die Antworten von Ärzten übertreffen.
Allerdings betont das Unternehmen mehrfach, dass die KI natürlich keinen Arzt ersetzt und weiterhin Fehler machen kann.
Ein Start der Funktion in Europa ist aufgrund von Datenschutzbestimmungen unwahrscheinlich.
Samsung Electronics prüft eine Investition von bis zu einer Milliarde Euro in das französische KI-Unternehmen Mistral.
Die Beteiligung würde Mistral mit rund 20 Milliarden Euro bewerten und den Unternehmenswert seit der letzten Finanzierungsrunde nahezu verdoppeln.
Mistral positioniert sich als wichtiger europäischer Konkurrent zu den dominierenden US- und chinesischen KI-Anbietern.
Auch Microsoft erweitert seine strategische Partnerschaft mit Mistral und sicherte sich Kapazitäten der europäischen KI-Infrastruktur.
Die Entwicklung unterstreicht die Bedeutung europäischer KI-Souveränität, besonders nach temporären Zugangssperren zu US-Modellen durch Exportkontrollen.
Die KI-Sicherheitsfirma Sanity Labs hat eine schwere Schwachstelle in ChatGPTs Workspace Agents offengelegt, nämlich im sogenannten Agent Forger.
Der Angriff lief so.
Klickte ein eingeloggter Mitarbeiter auf einen präparierten Link, baute ChatGPT im Hintergrund einen kompletten Agenten.
Der übernahm die Identität des Opfers samt bereits erteilter Erbberechtigungen und schaltete alle Sicherheitsabfragen ab.
Der Agent legte anschließend einen Zeitplan an und schaute alle fünf Minuten im Postfach nach neuen Aufträgen des Angreifers.
Aus einem einzelnen Klick wurde so eine dauerhafte Präsenz im Firmennetz.
In Tests durchsuchte der Agent Mails, Chats und Dokumente, fand vertrauliche Unterlagen und Zugangsdaten und verschickte im Namen des Opfers Phishing-Nachrichten.
Sanity meldete diese Lücke Anfang Juni.
OpenAI schloss sie vier Tage später.
Sanity lobt zwar diese schnelle Reaktion, warnt aber grundsätzlich, dass klassische Sicherheitswerkzeuge eben für Menschen gebaut seien und nicht für autonome Agenten, die im Namen echter Nutzer handeln.
Eine neue Studie von Bloomberg NEF prognostiziert einen dramatischen Anstieg des Stromverbrauchs von US-Rechenzentren.
Während sie aktuell 5,9 Prozent des Stroms im Land verbrauchen, soll der Anteil bis 2030 auf 12 Prozent und bis 2035 sogar auf 20 Prozent steigen.
Haupttreiber ist der KI-Boom mit wachsender Nachfrage nach Rechenkapazitäten.
Investoren und Tech-Unternehmen investieren Milliarden in neue KI-Rechenzentren.
Das Stromnetz gerät bereits unter Druck, weshalb einige Behörden Nachweise für Stromversorgung verlangen oder eigene Stromerzeugung für die Rechenzentren fordern.
New York verhängte sogar ein einjähriges Moratorium für neue große Rechenzentren.
Laut der Prognose droht bis 2035 ein Engpass von 19 Gigawatt, da maximal 7,1 Gigawatt zusätzliche Kapazität jährlich erschlossen werden können.
Das US-Startup Poolside hat sein drittes Coding-Modell in nur drei Monaten herausgebracht.
Laguna S 2.1 mit insgesamt 118 Milliarden Parametern ist vergleichsweise klein.
Trotzdem kommt es in einem Benchmark zur Terminal-Nutzung auf eine Erfolgsquote von gut 70 Prozent und lässt damit einige deutlich größere offene Modelle hinter sich.
Pulsight hat dem Modell dafür nicht mehr Intelligenz beigebracht, sondern bessere Arbeitsgewohnheiten.
Es soll seine Ergebnisse öfter überprüfen und vor allem nicht zu früh aufgeben.
Um die Leistung zu demonstrieren, führt Poolside mehrere Beispiele an.
Einmal baute das Modell in 50 Minuten aus einem leeren Ordner eine funktionierende Browser-Engine.
Ein anderes Mal löste es für weniger als 10 Cent ein mathematisches Problem, das seit 1975 offen war.
Herunterladen kann man Laguna S2.1 ab sofort bei Hugging Face.
Mehrere Anbieter hosten das Modell außerdem in der Cloud.
Und wer will?
bekommt es laut Poolside sogar auf einem einzelnen KI-Rechner von Nvidia zum Laufen.
Das war das KI-Update von heise online vom 27.
Juli 2026.
Eine neue Folge gibt es montags, mittwochs und freitags am 15 Uhr.
Ein Produkt geht nach kurzer Zeit kaputt, aber der Händler will es nicht zurücknehmen.
In einer Schublade habt ihr noch einen Gutschein, aber der Verkäufer meint, dieser sei nicht mehr gültig.
Euer Paket enthält etwas anderes, als ihr eigentlich online bestellt habt, doch der Versender stellt sich tot?
Im Podcast Vorsicht Kunde!
Besprechen wir solche und viele andere Probleme.
Wir, das bin ich, Ulrike Kuhlmann.
Und mein Kollege Oßmansmann aus der CT-Redaktion.
Zur Seite steht uns Rechtsanwalt Niklas Mühleis.
Hört einfach mal rein.
Wir freuen uns auf euch.