# EU Regulates ChatGPT, Nvidia Invests in Mediatek

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-09-02

## Transcript

Das KI-Update – ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
EU-Kommission stuft ChatGPT als besonders große Suchmaschine ein.
Anthropic stellt Kommunikationsstandard für Hardware vor.
OpenClaw 2.0 für mehr Teamarbeit, Gedächtnis und Automatisierung.
Und KI-Agenten führen Git-Shardcode beim Starten automatisch aus.
KI-Anbieter unterlagen in der Europäischen Union bislang hauptsächlich den Regeln der KI-Verordnung.
Die allerdings reguliert entlang der Technologie, nicht entlang der tatsächlichen Nutzung von Angeboten und daraus resultierenden Risiken.
Nun hat die EU-Kommission mit ChatGPT erstmals ein großes KI-Sprachmodell als besonders großen Anbieter nach dem europäischen Digital Services Act eingestuft.
Damit unterliegt ChatGPT künftig einem erweiterten Regelkatalog mit weitreichenden Konsequenzen, erklärt Marco Pauli aus dem heise Online Newsroom.
Fast 160 Millionen Menschen in der EU nutzen jeden Monat OpenAI's Chatbot.
Damit hat ChatGPT die im DSA festgelegte Schwelle zur sehr großen Online-Plattform von 45 Millionen Nutzerinnen und Nutzern pro Monat deutlich überschritten.
Nach dieser gerade erfolgten Einstufung durch die EU-Kommission hat das Unternehmen nun bis Januar Zeit, die sich daraus ergebenden Anforderungen des DSA zu erfüllen.
Im Kern geht es darum, dass OpenAI eine umfassende Risikoeinschätzung vorlegen muss.
Diese soll systemische Risiken von ChatGPT benennen und zeigen, wie das Unternehmen diesen begegnet.
Dazu zählen der Umgang mit illegalen Inhalten, negative Auswirkungen auf Minderjährige und Bedrohungen für Grundrechte und die öffentliche Sicherheit.
Hinzu kommen erweiterte Pflichten beim Umgang mit Nutzerbeschwerden.
ChatGPT muss künftig klare Verfahren zur Meldung, Löschung und Sperrung problematischer Inhalte einrichten, sowie Widerspruchsmöglichkeiten für Betroffene.
Auch sogenannte Trusted-Flagger-Mechanismen werden verpflichtend, bei denen ausgewählte Hinweisgeber, etwa spezialisierte unabhängige Organisationen oder auch staatliche Stellen, eine beschleunigte Bearbeitung von Meldungen zu eventuell illegalen Inhalten auslösen können.
Der DSA gibt allerdings keinen abschließenden Katalog der zu identifizierenden Risiken vor.
Das bedeutet, dass OpenAI selbst einschätzen muss, welche Gefahren von seinem Dienst ausgehen.
Und das in einem Bereich, der für KI-Anbieter weitgehend Neuland ist.
Mögliche Risikobereiche reichen von Deepfake-Pornografie bis hin zu vollständig autonom agierenden Modellen.
Wer Risiken ignoriert, dem drohen empfindliche Bußgelder.
Die zuständige Aufsichtsbehörde ist die EU-Kommission selbst, in enger Zusammenarbeit mit der irischen Digitalaufsichtsbehörde, da OpenAI ja seinen EU-Sitz in Dublin hat.
Vielen Dank, Marco.
Deutschland reagiert auf die rasante KI-Entwicklung mit der Gründung des Deutschen KI-Sicherheitsinstituts, kurz AISI Deutschland.
Es soll risikobehaftete KI-Systeme evaluieren und die digitale Resilienz stärken.
In der ersten Phase arbeitet es als virtueller Nukleus.
Das Bundesamt für Sicherheit in der Informationstechnik übernimmt IT-Sicherheit, die Bundesnetzagentur physische Sicherheit und Produkttauglichkeit.
Der Fokus liegt auf der Analyse führender KI-Modelle und potenzieller Kontrollverluste.
Jüngste Vorfälle hätten gezeigt, wie gefährlich leistungsfähige KI-Modelle für Demokratie, Wirtschaft und Zivilgesellschaft sein können, betonten die zuständigen Digital- und Innenminister.
Das Institut orientiert sich am britischen Vorbild und setzt auf internationale Kooperation.
Es soll später als zentraler Berater für Politik und Wirtschaft ausgebaut werden.
Der Hauptsitz in Berlin stößt in der Fachwelt nicht nur auf Gegenliebe.
In der IT- und Wissenschaftsszene wird seit langem debattiert, ob die Konzentration auf die Hauptstadt der Vielschichtigkeit der deutschen Forschungslandschaft gerecht wird.
Experten mahnen auch, dass Deutschland für technische Souveränität mehr Investitionen in eigene Infrastruktur und offene Modelle brauche.
Bis zu 88 Prozent weniger Token bei der Videoanalyse.
Das verspricht Google für seine Gemini-Flash-Modelle.
Möglich macht das ein Modell, das sich seine Video-Ausschnitte selbst aussucht.
Jonathan Kemper von The Decoder erklärt, wie das funktioniert.
Google hat seine neuesten Modelle mit einer neuen Form der Videoanalyse ausgestattet.
Statt ein Video starr Bild für Bild abzutasten, sucht das Modell nun gezielt nach relevanten Stellen.
Laut Google sinken dadurch der Token-Verbrauch um bis zu 88% und die Kosten um bis zu 66%.
Die Genauigkeit steigt immerhin leicht.
Die Funktion gibt es für die aktuellen Modelle Gemini 3.7 Flash, 3.6 Flash und 3.5 Flash Light.
Sie sollen damit auch sehr kurze Momente erkennen, die weniger als eine Sekunde dauern.
Dazu zählen etwa schnelle Zustandsänderungen oder Schnitte, die bei der bisherigen Abtastung von einem Bild pro Sekunde verloren gingen.
Bislang verarbeitete Gemini Videos statisch mit fester Bildrate und transkribierte zusätzlich den Ton.
Die agentische Variante gibt dem Modell nun Video-Werkzeuge an die Hand.
Darüber entscheidet es selbst, welche Abschnitte es sich ansieht, mit welcher Geschwindigkeit und über welche Ebene, also Bild, Audiospur oder Transkript.
Ein solches selektives Vorgehen konnten Entwickler zwar auch bisher manuell programmieren.
Nun übernimmt das Modell diesen Aufwand selbst, ähnlich wie bei der zuvor eingeführten Bildanalyse, bei der das Modell eigenständig zoomt und zuschneidet.
Besonders deutlich fallen die Einsparungen bei langen Videos aus, etwa 90-minütigen Vorlesungen.
In eigenen Benchmarks erreichte 3.7 Flash mit agentischer Analyse die beste Gesamtqualität und zugleich das beste Verhältnis aus Qualität und Kosten.
Die Funktion steht ab sofort über die API bereit.
Entwickler müssen die Verarbeitung dafür in der Konfiguration auf Agentik setzen.
Eine zusätzliche Gebühr fällt laut Google nicht an.
Es gelten die üblichen Tokenpreise.
Später soll die Funktion auch in die Gemini-App kommen und die Funktion Ask YouTube antreiben.
Vielen Dank, Jonathan.
Anthropic hat am Dienstag Claude Fable 5.1 und Mythos 5.1 veröffentlicht.
Beide sollen besser programmieren und schreiben als ihre Vorgänger und basieren auf derselben Technik, unterscheiden sich aber in den Sicherheitsvorkehrungen.
Fable 5.1 ist allgemein verfügbar.
Das neue Mythos wie gehabt nur über spezielle Zugangsprogramme für Cybersicherheit und Biowissenschaften.
Anthropic wirbt mit rund 25% niedrigeren Kosten bei typischen Aufgaben.
Die Analysefirma Artificial Analysis kommt aber zu dem gegenteiligen Ergebnis.
Auf der höchsten Rechenstufe koste Fable 5.1 pro Aufgabe rund 20% mehr, weil das Modell mehr als anderthalbfach so viele Ausgabentoken erzeugt.
In Benchmarks legt es vor allem bei agentischen Aufgaben zu, auf knapp 56 Prozent gegenüber 42 beim Vorgänger.
Darüber hinaus hat Anthropic den Model-Hardware-Standard vorgestellt.
Damit sollen KI-Agenten Hardware wie zum Beispiel Laborgeräte, Roboterarme und Laser direkt ansteuern können, erklärt Caroline Riedmüller von heise online.
Anthropic hat mit dem Model-Hardware-Standard, kurz MHS, eine Forscher auf eine neue Spezifikation vorgestellt, über die KI-Agenten wie Claude physische Geräte direkt ansteuern können.
Es definiert so etwas wie eine standardisierte Treiberschicht zwischen Betriebssystem und Gerät.
Bislang erfordert es oft viel Arbeit, Programme zu schreiben, über die verschiedene Geräte wie Kameras und Roboterarme sowohl miteinander kommunizieren können, als auch in automatisierte Workflows mit KI eingebunden werden können.
Mit einem Standard wie MS soll das deutlich schneller gehen.
Im Kern ist MS eine Software, welche die Kommunikation zwischen der Hardware und dem Computer übersetzt.
Im Zentrum steht eine kleine Menge grundlegende Operationen, die von den meisten Geräten verstanden wird, wie Read oder Write.
Zusätzlich macht der MS-Treiber Geräte in einem einheitlichen Datenformat auffindbar, sodass sie für andere Geräte und KI-Agenten ansprechbar sind.
Hinzu kommt ein Tagging-System für Hardware-Metadaten.
Darin lassen sich physische Eigenschaften und Einschränkungen beschreiben, die aus dem Code allein nicht hervorgehen, wie zum Beispiel das Gewicht oder die Reichweite eines Roboterarms.
Dank einer solchen Referenzdatei soll der KI-Agent alle nötigen Informationen zur Bedienung des Geräts vorliegen haben.
Wie Anthropic in seinem Blog erläutert, ist der Standard zunächst nur für einige Forschungslabore und Hersteller in der Fertigung zugänglich.
Später plant das Unternehmen, MAS als Open-Source-Standard bereitzustellen.
Die Entwicklung begann als Zusammenarbeit zwischen Anthropic und dem HHMI Janelia Research Campus.
Ob das Verfahren auch tatsächlich zum Branchenstandard wird, muss ich zeigen.
auch Gründungsvater des Model Context Protocols, auf jeden Fall schon vorweisen.
Danke, Caroline.
Und wir bleiben noch einen Moment bei Anthropic.
Über eine neue Schnittstelle lassen sich nun mit Cloud generierte Texte erkennen.
Hintergrund ist die Europäische KI-Verordnung, nach der neue Sprachmodelle seit dem 2.
August ein Wasserzeichen einbetten müssen.
Zugriff auf die neue Schnittstelle bekommen zunächst Behörden, Medien, Faktenprüfer, Forscherinnen, Bildungseinrichtungen und zivilgesellschaftliche Gruppen in der EU.
Das Verfahren stammt von Google und verändert die Wortwahl des Modells so, dass ein statistisch nachweisbares Muster entsteht.
Anthropik zufolge leidet die Textqualität darunter nicht.
Kritiker bezweifeln das allerdings, weil das Modell zwischen Synonym nach einem festen Schlüssel wählt, statt nach Bedeutung.
Viele Nutzerinnen und Nutzer von Claude wurden offenbar kürzlich aus ihren Accounts ausgeloggt.
Anthropic hat dies gezielt als Vorsichtsmaßnahme getan, nachdem Cyberkriminelle die Zugangsdaten einiger Nutzende über Info-Stealer-Malware gestohlen hatten.
Das Unternehmen entfernte vorsorglich auch hinterlegte Zahlungsmittel.
Die Angreifer nutzten gestohlene Login-Sessions, um auf Claude-Konten zuzugreifen und verfügbare Token zu verbrauchen.
Betroffen waren hauptsächlich Windows-Rechner mit Infostilern wie Vida, Luma oder Redline, vereinzelt auch Macs mit Atomic-Stiler.
Anthropic empfiehlt Betroffenen, ihre Systeme auf Malware zu prüfen, E-Mail-Passwörter zu ändern, Zwei-Faktor-Authentifizierung zu aktivieren und gespeicherte Passwörter zu erneuern.
Erst danach sollten neue Zahlungsinformationen hinterlegt werden.
Nachdem OpenClaw Anfang des Jahres einen regelrechten Hype um persönliche KI-Agenten ausgelöst hat, wurde nun Version 2.0 veröffentlicht.
Tomislav Bismalinovic von heise online hat sich das Update angeschaut.
Das OpenClaw-Team hat Version 2.0 seiner Open-Source-Plattform für persönliche KI-Agenten veröffentlicht.
An dem bislang größten Update wirkten mehr als 900 Entwicklerinnen und Entwickler mit.
die knapp 17.000 Verbesserungen einbrachten.
Das zeigt, welchen Stellenwert das Update hat.
Die Installation ist jetzt deutlich einfacher.
Bei der Ersteinrichtung berücksichtigt OpenClaw bereits vorhandene Abos bei ChatGPT oder Cloud sowie eigene API-Schlüssel.
Auch die Browser-App wurde überarbeitet.
Sie startet direkt mit einer Unterhaltung, sodass sich laufende Aufgaben leicht wieder aufnehmen und die Arbeit des Agenten bei Bedarf live mitverfolgen lässt.
Neu sind außerdem sogenannte Shared Cloud Sessions.
Damit können mehrere Nutzer gemeinsam an einer laufenden OpenClaw-Sitzung arbeiten oder Aufgaben aneinander übergeben, ohne dass der bisherige Kontext verloren geht.
Das OpenClaw-Team bezeichnet das als Multiplayer und setzt die Funktion nach eigenen Angaben inzwischen selbst bei der Entwicklung des Projekts ein.
Noch tiefgreifender sind die Änderungen bei den agentischen Fähigkeiten.
In persönlichen Installationen kann eine Funktion namens Active Memory begrenzte Informationen aus früheren privaten Unterhaltungen desselben Agenten abrufen.
Das standardmäßig aktivierte Grounded Dreaming wiederum soll relevante Inhalte im Hintergrund zu längerfristigen Erinnerungen verdichten.
Dazu kommt ein Self-Learning-System, das wiederverwendbare Erkenntnisse erfasst und geprüfte oder vom integrierten Skill-Workshop verwaltete Fähigkeiten automatisch anwenden kann.
Auch bei der Computersteuerung legt das Open Cloud Team nach.
Auf gekoppelten Macs kann der Agent Desktop-Oberflächen bedienen.
Unter Windows und Linux ist diese Funktion allerdings noch experimentell.
Bemerkenswert ist, dass der Blog-Beitrag die Sicherheit nur beiläufig erwähnt.
obwohl sie für OpenClaw weiterhin ein zentrales Thema ist.
Version 2.0 bringt unter anderem neue Schutzmechanismen für Zugangsdaten, Plugins und gemeinsam genutzte Sitzungen.
Grundlegende Risiken wie Prompt Injection bestehen aber weiterhin.
Und das Sandboxing ist standardmäßig deaktiviert.
Dankeschön, Tomislav.
Nvidia investiert 3,5 Milliarden US-Dollar in das taiwanesische Unternehmen Mediatek.
Das ist die bisher größte Direktinvestition des US-Chip-Konzerns außerhalb der Vereinigten Staaten.
Mediatek übernimmt NVIDIAs NVLink-Plattform, wodurch Kunden NVIDIA-Technologie für eigene KI-Chip-Designs nutzen können.
Sie können sich dann auf das Design konzentrieren, während die Integration in NVIDIA-Systeme vereinfacht wird.
Dadurch baut NVIDIA mit der Investition seine finanziellen Verflechtungen innerhalb der KI-Branche weiter aus.
und stellt sicher, dass die Entwicklung in Zukunft auf der konzerneigenen Hardware-Plattform und den konzerneigenen Standards basiert.
Mediatek und Nvidia entwickeln gemeinsam KI-Plattformen für PCs und Autos.
Mediatek unterstützt darüber hinaus NVIDIAS Notebook-Prozessor RTX Spark für KI-Funktionen auf Laptops.
Die Sicherheitsfirma Manifold hat eine Angriffsmöglichkeit durch manipulierte Git-Repositories entdeckt.
Diese enthalten Schadcode in der Konfiguration, den KI-Agenten beim Öffnen eines Repositories automatisch ausführen, und das mit vollen Entwicklerrechten.
Zwar funktioniert dies nicht unter alltäglichen Bedingungen, betont Wolf-Hossbach von Heise Developer, trotzdem zeigt der Fall ein größeres Problem.
Im Detail muss man vielleicht verstehen, was Git macht.
Also Git ist ein Verwaltungstool für Software-Code, was eigentlich alle Entwickler verwenden.
Der Code liegt in sogenannten Repositories.
Und die KI-Agenten, die hier beim Programmieren helfen sollen, nutzen diese Repositories als Ausgangsbasis für ihren Kontext.
Und sozusagen hier bewegen sie sich innerhalb dieses Projekts.
Und was jetzt eben nicht so bekannt war, ist, dass diese Agenten, wenn sie starten, sich erstmal einen kompletten Überblick über das Repository im Hintergrund verschaffen.
Und zwar eben mit vollen Rechten des Entwicklers, ohne dass sie in ihrer Sandbox wären, in ihrer Sicherheits-Sandbox.
und ohne Vertrauenseinschränkungen.
Also die konnten jetzt eigentlich beim Start kurz machen, was sie wollten.
Und was jetzt erstmal eigentlich irgendwo vielleicht auch sinnvoll ist, weil sie sind dann schnell auf Diskurshöhe und einsatzbereit.
Der Sicherheitsvorfall ist einfach der, dass diese ersten Befehle der Agenten, also zum Beispiel, die kennt jeder Entwickler, das ist Git, Status oder Diff.
Die lassen sich in der Konfiguration umlenken auf den Start eines Programms.
Und die Firma hat hier einen hübschen Taschenrechner gestartet, aber da geht natürlich auch ein Trojaner.
Also zur Einschätzung, das Potenzial der Lücke ist hoch und sehr weit verbreitet, weil eigentlich die Firma hat uns gesagt, dass eigentlich alle Hersteller betroffen wären.
Die komplette Liste ist noch nicht freigegeben.
weil hier einige KI-Hersteller noch in der Disclosure-Phase sind.
Also die Hersteller haben sozusagen Zeit, nach Bekanntgabe die Sache erstmal zu fixen, bevor es veröffentlicht wird.
Und bekannt sind Cloud, Codex, Cursor, Grog, Quen und noch nicht bestätigt sind OpenAI und Google.
Aber wie gesagt, indirekt scheinen die auch betroffen zu sein.
Die meisten haben es aber gefixt inzwischen, muss man sagen, oder sind dabei.
Zur Einschränkung muss man sagen, es betrifft jetzt nur Repositories, die man per Zipf oder per Datei bekommen hat.
Die hat einem vielleicht irgendein Kollege gegeben, hier schau mal rein in dieses Repo.
Also die üblichen Wege, die man normalerweise geht über Klonen oder Fetch oder dergleichen übers Internet, sind nicht betroffen.
Also es funktioniert eigentlich nur mit einer...
händisch kopierten Git-Konfigurationen.
Genau, also persönlich, ich finde bei der Geschichte irgendwo, das ist so ein bisschen, sage ich mal, das Verhalten hier von den KI-Firmen ist erstmal, sich alles zu nehmen, sich alles zu greifen, ohne jetzt irgendwelche Regeln zu beachten.
Ich finde, das ist so ein bisschen so ein Trend, der mit der KI so über uns gekommen ist.
Das ist schon ein hohes Maß an RAF-Gear, finde ich, was die Firmen hier immer zeigen.
Ob es jetzt erstmal sinnvoll ist oder nicht, sei dahingestellt.
Aber ich finde, das ist so ein bisschen so eine rücksichtslose Tendenz, die sich eigentlich auch in anderen Bereichen zeigt.
Vielen Dank, Wolf.
Das Debian-Projekt hat sich gegen ein Verbot und für Responsible Use of Generative AI entschieden.
Das Debian-Projekt ist ein weltweiter Zusammenschluss von Freiwilligen, die gemeinsam das quelloffene Betriebssystem Debian GNU Linux entwickeln.
In einer Grundsatzentscheidung lehnten jetzt die Teilnehmenden sowohl KI-Verbote als auch verpflichtende Sonderregeln ab.
KI-gestützte Beiträge bleiben also zulässig, vorausgesetzt sie sind technisch korrekt und rechtlich zulässig.
Entwicklerinnen und Entwickler tragen die volle Verantwortung für KI-Ausgaben.
Transparenz über die KI-Nutzung wird nur empfohlen, nicht vorgeschrieben.
Ein vollständiges KI-Verbot scheiterte an der nötigen Dreiviertelmehrheit.
Die Organisation Algorithm Watch hat Googles KI-Übersichten bei wahlbezogenen Suchanfragen untersucht.
Grundlage waren rund 4.500 Anfragen zu den Landtagswahlen in Sachsen-Anhalt und Mecklenburg-Vorpommern sowie zur Berliner Abgeordnetenhauswahl.
Das Urteil fällt kritisch aus.
Bei Wahlfragen zeigte Google deutlich seltener eine KI-Übersicht als bei unpolitischen Anfragen, in nur gut einem Drittel der Fälle.
Fragen zur AfD führten dabei nur etwa halb so oft zu einer Übersicht wie Fragen zu anderen Parteien.
Ein Google-Sprecher erklärte, die Funktion sei neutral gestaltet und erscheine nur bei hohem Mehrwert.
Algorithm Watch kritisiert außerdem die Quellenauswahl.
Fast die Hälfte aller Links stammte von nur zehn Domains, am häufigsten von Googles eigener Plattform YouTube.
Die Organisation werte das als Bevorzugung eigener Angebote.
Google bestreitet das.
Zudem beschreibe die KI politische Positionen häufig mit lobenden Adjektiven wie pragmatisch oder bürgernah.
Algorithm Watch führt das auf die bekannte Neigung von Sprachmodellen zur Schmeichelei zurück und fordert Transparenz und Haftungsregeln.
Immerhin, eindeutige Faktenfehler fand Algorithm Watch anders als in früheren Untersuchungen nur noch selten.
Das war das KI-Update von heise online vom 2.
September 2026.
Eine neue Folge gibt es montags, mittwochs und freitags ab 15 Uhr.