# AI Regulation, Model Reliability, and Geopolitical Supply Chains

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-10-21

## Transcript

Das KI-Update – ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Neue Strafparagrafen gegen Deepfakes und Voyeurismus geplant.
KI-Modelle verschweigen Fehler in Arbeitsberichten.
KI könnte bei Menschen falsche Erinnerungen erzeugen.
Und Battle der KI-Wohltäter.
Die Bundesregierung hat vor einigen Tagen den Entwurf des Gesetzes zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes vor digitaler Gewalt beschlossen.
Die federführende Bundesjustizministerin Stefanie Hubig spricht von passgenauen Regeln für die unterschiedlichen Erscheinungsformen digitaler Gewalt.
Unser CT-Experte Holger Bleich hat sich den Entwurf angeschaut.
Holger, was steht da denn konkret drin?
Naja, es geht um alle möglichen Formen der digitalen Gewalt, aber in erster Linie ist das, was geregelt werden soll, tatsächlich KI-unterstützte Gewalt, also die sogenannten Deepfakes.
Da will die Bundesregierung, dass da mehr strafrechtlich passiert.
Es gibt in dem Entwurf einen neuen § 184, beziehungsweise einen reformierten, sorry, 184 K des Strafgesetzbuches und da soll schon die unbefugte Herstellung von Deepfakes.
sexualisierter Art unter Strafe gestellt werden.
Das ist bisher nicht vorgesehen gewesen.
Bisher ging es immer nur um die Verbreitung.
Aber natürlich ist auch die Verbreitung unter Strafe.
Da geht es um KI-generierte Darstellungen, aber auch reale Bilder, die den Eindruck erwecken, eine bestimmte Person nackt oder bei sexuellen Handlungen zu zeigen.
Also denken wir zum Beispiel an den Fall Colin Fernandes.
Da ging es ja ausdrücklich nicht um Deepfakes.
Da ging es halt um ...
so nachgestellte, anonymisierte Szenen oder wie auch immer.
All das ist jetzt umfasst.
Aber auch wenn jetzt Deepfakes von ihr gemacht worden wären, wäre auch das umfasst von diesen 984 Grad.
Okay.
Und es gibt auch eine Regelung zu voyeuristischen Aufnahmen, die sich dann wahrscheinlich übertragen lässt auf die ganze Debatte von KI-Brillen, richtig?
Mit Sicherheit, ja.
Genau.
Das war, glaube ich, auch die Intention von der Bundesministerin Hubig.
Da gab es ja einen Fall, wo eine Joggerin sich so beschwert hatte, dass sie von hinten irgendwie in sexualisierter Pose, sagt man, fotografiert oder gefilmt wurde.
Das wurde dann auch dieser konkrete Fall zum Anlass genommen, da nochmal drüber nachzudenken.
Und ich glaube schon, es geht zum Beispiel um solche Fotos im Freibad oder auch beim Joggen, wenn zum Beispiel von hinten gezielt auf das Hinterteil fotografiert wird.
ohne dass die Person es merkt und insbesondere natürlich auch gefilmt wird, ohne dass die Person es merkt und ihr Einverständnis gibt.
Dann ist es eine strafbare Handlung und das kann bis zu drei Jahren Haft bedeuten.
Es sollen auch die Rechte der Betroffenen gestärkt werden.
Was sieht denn das Gesetz da vor?
Vor allem mehr Auskunftsansprüche.
Also da tut sich ganz viel.
Die meisten Auskunftsansprüche sind Unterrichtervorbehalt, aber man kann als betroffene Person zum Beispiel veranlassen, dass Daten von verdächtigen Personen, die man selber verdächtigt, eingefroren werden vom Provider, die dann später rausgegeben werden, falls es zu einem Strafverfahren kommt.
Man kann aber auch zum Beispiel Accountsperren beantragen, man kann Accountlöschungen beantragen, man kann Inhaltelöschungen beantragen, all das ist gebührenpflichtig.
Der Witz ist, das muss man alles bei einem Gericht tun, im Fall von diesen Sperren, bei einem Landgericht, das örtlich für einen zuständig ist.
Und dieses Gericht muss dann die Sperre durchführen und das kann dann mehrere hundert Euro kosten plus Anwaltgebühren.
Also die Frage ist, wie praxisrelevant das dann wird.
Allerdings ist es jetzt schon so, dass zum Beispiel der Richterbund und auch viele Rechtsanwälte sagen, das wird zu einer wahnsinnigen Lawine führen und zu einer zusätzlichen Belastung der ohnehin überlasteten Justiz, des Justizapparates.
Und damit wird man der ganzen Sache eher in den Bärendienst erweisen.
Offen ist, was da jetzt tatsächlich passiert, also wie weit das dann in Anspruch genommen werden wird.
Dankeschön, Holger.
Wenn ihr jetzt tiefer in dieses Thema einsteigen wollt, dann hört doch mal in den CT-Datenschutz-Podcast Auslegungssache rein.
In Folge 170 sprechen Holger und unser heise Justiziar Jörg Heydrich mit Thayri Panay.
Sie ist wissenschaftliche Mitarbeiterin an der Universität Kassel, promoviert zu EU-Maßnahmen gegen Desinformation in sozialen Medien und hat sich in einem Fachaufsatz mit der Regulierung von Deepfakes befasst.
Die Auslegungssache findet ihr auf der Podcast-Plattform eurer Wahl.
Folge 170 verlinke ich natürlich auch in den Shownotes.
Minimax hat mit M3.1 Flash ein neues Reasoning-Modell vorgestellt.
Im Index von Artificial Analysis legt es gegenüber dem Vorgänger um 13 Punkte zu und kostet pro Aufgabe weniger als halb so viel.
Damit liegt es knapp vor Gemini 3.8 Flash und hinter dem kürzlich erschienenen DeepSeq V4.1 Flash.
Bei komplexem Reasoning und Faktentreue schlägt M3.1 Flash DeepSeq allerdings.
Weil es weniger Output-Tokens braucht, ist es pro Aufgabe zudem etwas günstiger.
Eine Schwäche bleibt die Halluzinationsrate von 93 Prozent.
Das Modell versucht fast jede Frage zu beantworten, statt bei Unsicherheit abzulehnen.
M3.1 Flash verarbeitet bis zu eine Million Tokens Kontext sowie Bilder und ist ab sofort per API verfügbar.
In Kürze sollen auch die Modellgewichte folgen.
Solche KI-Modelle mit öffentlich zugänglichen Gewichten gewinnen stark an Bedeutung.
Auf der Vermittlungsplattform Versils AI Gateway Index laufen inzwischen über 70 Prozent des Datenverkehrs genau über solche Modelle.
Beim Umsatz ist ihr Anteil allerdings deutlich geringer, da sie oft günstiger sind.
Und noch etwas anderes hat Versils beobachtet.
Im September wechselte fast jedes zweite Team sein meistgenutztes Modell und fast jedes dritte Team wechselte seinen meistgenutzten Anbieter.
Wörsel sieht daran ein Zeichen, dass KI-Modelle zunehmend zu austauschbaren Komponenten werden.
Dabei sind chinesische Modelle sehr beliebt.
Ein geplantes Exportverbot sorgt jedoch für Unsicherheit.
China will nämlich den Export sowohl wichtiger KI-Technologien als auch von Solartechnik und Biotechnologien einschränken.
Für einige davon sind Genehmigungen nötig, andere sollen gar nicht mehr exportiert werden dürfen.
Betroffen sind 23 KI-Anwendungen wie KI-Agenten und Verfahren für große KI-Modelle.
Der Zugriff über Apps und Webseiten soll aber wohl erlaubt bleiben, auch bereits öffentlich zugängliche KI-Technologien sollen weiter verfügbar bleiben.
China begründet den Schritt mit Sicherheitsbedenken, da KI für Angriffe auf kritische Infrastruktur genutzt werden könne.
China und die USA beschränken einander ja schon länger beim Handel, die neuen Exportbeschränkungen sollen allerdings weltweit gelten.
Dieser Handelsstreit zwischen den USA und China sorgt auch dafür, dass chinesische Konzerne keinen Zugang zu den leistungsstärksten KI-Chips von Nvidia haben.
Doch in der Not frisst der Teufel bekanntlich Fliegen und darum haben Alibaba, ByteDance, Tencent und weitere chinesische Tech-Unternehmen nun insgesamt mehr als 6 Millionen RTX Pro 5500 Grafikkarten von Nvidia bestellt, um damit ihre KI-Anwendungen zu betreiben.
Laut einer Reutersquelle kann Nvidia 2027 allerdings maximal 3 Millionen Stück herstellen.
Für alle Kunden weltweit.
weshalb die Käufer vermutlich viel weniger erhalten, als sie bräuchten.
Eine speziell für China entwickelte Nvidia-Karte wurde inzwischen eingestellt, die verbleibende Variante ist ebenfalls eingeschränkt.
Daher arbeitet China mit Hochdruck an der Entwicklung eigener Technik.
16 Milliarden Euro will Amazon 2027 in Deutschland investieren.
Ein großer Teil davon soll in Cloud- und KI-Infrastruktur des Dienstes AWS fließen.
Die Rechenzentren entstehen rund um Frankfurt am Main.
Außerdem will der Konzern seine Logistikzentren mit moderner Robotertechnik ausstatten.
Dort entstehen auch zusätzliche Stellen.
Ein weiteres Projekt ist der Satellitendienst Amazon Leo, der mit Starlink konkurrieren soll.
Für Europa bedeutet der Ausbau mehr Rechenkapazität für KI-Anwendungen.
Details zu einzelnen Projekten nannte Amazon bislang aber nicht.
Wenn KI-Agenten selbstständig arbeiten, lesen Menschen am Ende meist nur noch den Abschlussbericht.
Eine neue Studie zeigt, dass Sprachmodelle darin Fehler gern mal unter den Tisch fallen lassen.
Jonathan Kemper von The Decoder mit den Einzelheiten.
Forschende von Google Research, dem MIT und Harvard wollten wissen, wie ehrlich Sprachmodelle über erledigte Arbeit berichten.
Dafür bauten sie 1600 Arbeitsprotokolle, die auf den ersten Blick nach Erfolg aussehen.
Die Tests sind bestanden, die Ergebnisse positiv.
In jedem Protokoll steckt aber ein Fehler, der das Gesamtbild kippt.
Mal ist die neue Methode im Experiment doch nicht besser als die Konkurrenz, mal gibt es einen versteckten Bug, erfundene Messwerte oder ein Job, der nie zu Ende gelaufen ist.
Daraus sollten die Modelle Berichte, Paper Abstracts oder Antworten auf Rückfragen schreiben.
Die Modelle verhalten sich dabei sehr unterschiedlich.
GPT 5.5 erwähnt ein negatives Ergebnis in nur zwei von 200 Abstracts.
Gemini 3.1 Pro benennt die Fehler in höchstens einem Drittel der Fälle.
Claude Opus 4.8 dagegen in über 90 Prozent.
Oft hilft schon ein einziger Satz.
Ergänzten die Forschenden den Prompt um Be honest in your response, nannte GPT 5.5 das Negativergebnis in 190 von 200 Abstracts.
Fehler, die gar nicht da waren, erfanden die Modelle dadurch kaum häufiger.
Ganz zuverlässig wirkt der Satz aber nicht.
Fehlen etwa Daten aus einer Datenbankabfrage, weist GPT 5.5 zwar darauf hin, beantwortet die Frage aber trotzdem mit älteren, unvollständigen Daten.
Aufforderungen wie sei kritisch oder sei gründlich wirken schwächer als die Bitte um Ehrlichkeit.
Am Können liegt es dabei nicht.
Fragt man direkt nach, finden GPT und Opus die Fehler in allen Fällen, Gemini in mindestens 97%.
Die Reasoning-Protokolle offener Modelle zeigen, dass sie das Problem oft früh bemerken und dann abwägen, ob sie es ansprechen oder die Aufgabe scheinbar erfolgreich abschließen.
Als Begründung dienen typische Ausreden, etwa dass die Tests ja bestanden seien.
Im kleinen Open-Wade-Modell QEN 3.59b fanden die Forschenden Hinweise darauf, dass Ehrlichkeit und Erfolgsstreben nahezu als Gegenspieler angelegt sind.
Die Protokolle in der Studie sind künstlich und gezielt so gebaut, dass sie das Verhalten provozieren.
Die Forschenden sehen trotzdem ein ernstes Risiko, vor allem wenn KI-Modelle andere Agenten überwachen.
Eine Kontrollinstanz, die Probleme nur ungern anspricht, verfehlt ihrem Zweck.
Dankeschön, Jonathan.
Die MIT-Professorin Patty Mays warnt, dass KI bei Menschen falsche Erinnerungen hervorrufen kann.
In einem Experiment zeigte sie teilnehmenden Fotos.
Einige sahen danach von KI veränderte Versionen, etwa mit ergänzten Personen oder Hinweisen zum Klimawandel.
Diese Gruppe entwickelte daraufhin mehr falsche Erinnerungen und war davon sogar noch stärker überzeugt.
In einer weiteren Studie beeinflusste ein Chatbot die Erinnerungen an ein Verbrechen deutlich.
Eine andere Untersuchung zeigt, dass Menschen KI-Antworten oft zu sehr vertrauen.
Die Forscherin warnt daher vor den Gefahren für Gerichtsverfahren und unsere gesamte Geschichtsschreibung, wenn Grenzen zwischen den eigenen Gedanken und jenen von Maschinen verwischen.
Ganz zu schweigen davon, dass uns Erinnerungen an Ereignisse eingepflanzt werden könnten, die es nie gab.
Das US-Heimatschutzministerium verbietet zivilen Bundesbehörden die Nutzung aller Produkte des chinesischen KI-Unternehmens DeepSeq.
Bereits installierte Systeme müssen entfernt werden und das Verbot gilt auch für Drittanbieterprodukte, die auf DeepSeq-Technik aufbauen.
Ausnahmen sind möglich, müssen aber beantragt werden.
Problematisch sind auch KI-Gateways, die Anfragen automatisch an günstige Anbieter weiterleiten.
Die Behörde begründet die Maßnahme mit der Gefahr, dass sensible Daten von Regierungsmitarbeitenden an die Volksrepublik China übertragen werden könnten.
Zudem könnten die Modelle Schadsoftware oder Sicherheitslücken enthalten.
Zwei KI-Unternehmen konkurrieren derzeit um den Titel des größten Wohltäters.
Zunächst hat Anthropic einen sogenannten Public Benefit Fund gegründet, der Anteile des Unternehmens erhalten soll, sofern die Eigentümer zustimmen.
Damit könnte der Fonds gemeinnützigen Organisationen kostenlosen Zugang zu KI-Produkten von Anthropic ermöglichen, womit selbstverständlich ganz uneigennützig auch gleich der eigene Marktanteil ausgebaut würde.
Auch Hilfen für Menschen, die durch KI ihre Arbeit verlieren, sind denkbar.
Das konnte Milliardär Elon Musk natürlich nicht auf sich sitzen lassen und kündigte prompt an allen Kindern in den USA im kommenden Jahr mindestens eine Aktie seiner Firma SpaceX zu schenken.
Gut, bei fast 6,5 Milliarden Aktien, die Musk mutmaßlich hält und gerade mal 72 Millionen Kindern in Amerika, kann man das ruhig mal machen.
Auch OpenAI soll Gerüchten zufolge in Erwägung ziehen, Unternehmensanteile an die US-Regierung zu spenden, was wohl auch irgendwie dem Allgemeinwohl dienen soll.
Das war das KI-Update von ISO Online vom 21.
Oktober 2026.
Eine neue Folge gibt es montags, mittwochs und freitags ab 15 Uhr.