# AI Governance, Security, and Infrastructure Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-02-25

## Transcript

Das KI Update.
Ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Kontrolle über KI und ein anderes Web sind laut Mozilla möglich.
Pentagon stellt Anthropic ein Ultimatum.
Meta investiert Milliarden in AMD-GPUs und mit ChatGPT erstellte Passwörter sind nicht sicher.
Mozilla hat für Firefox einen KI-Kontrollknopf eingeführt.
Damit kann ein Nutzer oder eine Nutzerin sämtliche KI-Funktionen auf einmal ausschalten.
Dem Voraus ging Protest der Nutzenden.
Die sind offenbar ausgesprochen skeptisch, wenn es um den Browser, Datenschutz und KI geht.
Meine Kollegin Eva Maria Weiß von Heiser Online hat mit dem neuen Head of Firefox gesprochen.
Agid Warmer hat mir erklärt, man wolle den Nutzern die Wahl lassen und das sei ein großer Unterschied zu anderen Browseranbietern.
Nutzer können entscheiden, ob sie gar keine KI nutzen wollen oder beispielsweise KI für Übersetzungen zulassen, dafür aber keine KI-Zusammenfassung von Inhalten zulassen.
Zudem sagt der Head of Firefox ist es ein Vorteil, dass Mozilla keine eigenen LLMs entwickelt und entsprechend auch nicht die eigene KI im Browser bevorzugen muss.
Mozilla arbeitet vor allem mit Open Source Modellen.
Bei anderen Browsern könne man eben nur die Modelle nutzen, die die Anbieter selbst entwickeln.
Und diese Einschränkung hält Warmer für problematisch.
Eva, du hast mit Agid Walmer auch darüber gesprochen, wie Browser in Zukunft überhaupt genutzt werden.
Ja, genau, denn schauen wir uns an, woran OpenAI, Apple, Meta und Co.
arbeiten.
Es geht um Hardware.
Und es geht darum, dass wir Computer künftig ganz anders nutzen werden.
Es geht um Sprache und Spracheingaben, eine neue Bedienoberfläche.
Chatbots schicken sich ja quasi an, Browser ablösen zu wollen.
Und Agit sagt dazu, Browser und das offene Web haben erst ermöglicht, dass Inhalte frei verfügbar sind, ohne die KI-Modelle ja gar nicht existieren könnten.
Das sind etwa die Trainingsdaten.
Es wäre also fatal, wenn diese Grundlage jetzt verschwinden würde.
Auch KI braucht ja eben genau diese Inhalte.
Und Browser sind immer eine offene Art gewesen, wie man ein Unternehmen oder jemanden oder etwas erreichen kann.
Als problematisch erachtet er deshalb auch die Frage nach der Monetarisierung von Inhalten, also auch nach der Bezahlung von Inhalten, die genutzt werden für das Training.
Agit Warmer erinnert da an Google früher.
Vor etwa 20 Jahren hatte Fox noch versucht, Google zu verklagen und die Nutzung der Inhalte, um drumherum Werbung anzuzeigen, zu verbieten.
Aber Google war auch damals schon zu mächtig.
Die eigenen Inhalte aus Google zu entfernen, hätte zu viel Traffic gekostet.
Vor diesem Problem stehen ja jetzt eben auch ganz viele Inhalteersteller.
Doch Agit hält es für möglich, dass wir dieses Mal vielleicht einen anderen Weg einschlagen und nicht alles frei hergeben.
Er warnt auch davor, dass die Entwicklung von KI-Modellen sehr, sehr teuer ist.
So teuer, dass es sich im Grunde nur die großen Unternehmen wie eben Google oder Matter leisten können.
Das sind aber Unternehmen, die ihr Geld eben mit Werbung verdienen.
Es liegt also nahe, dass sie mit KI nur weitere Möglichkeiten suchen, wo sie mehr Werbung anzeigen können.
Und irgendwann stellt sich dann die Frage, ob eine KI-Antwort die beste Antwort ist oder ob es die beste Antwort dafür ist, damit Geld zu verdienen.
Dankeschön, Eva.
Das ganze Interview findet ihr natürlich auf Heise Online.
Die Software Gotham des US-Amerikanischen Technologieunternehmens Palantir ermöglicht es, Sicherheitsbehörden große Datenmengen aus unterschiedlichen Quellen zusammenzuführen und automatisiert auszuwerten.
In mehreren Unionsgeführten Bundesländern kommt Palantir bereits zum Einsatz.
Kritiker waren jedoch seit längerem vor weitreichenden Überwachungsmöglichkeiten, mangelnder Transparenz und potenziellen Eingriffen in die Grundrechte.
Die SPD hat sich nun klar gegen den Einsatz von Palantir positioniert.
Ich sehe nicht, dass Palantir für die Bundesbehörden kommt, sagte Bundesjustizministerin Stefanie Hubig der Tageszeitung Welt.
Damit reagiert die Partei nicht zuletzt auf monatelang Druck aus der Zivilgesellschaft.
Die Absage der SPD auf Bundesebene hat jedoch vor allem symbolischen Charakter.
In den Bundesländern dürfte Palantir weiter genutzt werden.
Die Vereinigten Staaten und die EU verhandeln derzeit über neue Anforderungen für die visumfreie Einreise.
Im Kern geht es um den Zugriff auf nationale biometrische Datenbanken der EU-Länder.
Wird bis Ende dieses Jahres keine Einigung erzielt, riskiert Europa den Ausschluss aus dem Programm für visumfreies Reisen.
Ein aktueller Entwurf der EU-Kommission gewährt den US-Sicherheitsbehörden tiefgreifende Befugnisse.
Besonders brisant scheint der Passus zur automatisierten Entscheidungsfindung.
Zwar sieht das Dokument laut Euraktiv vor, dass Entscheidungen mit erheblichen negativen Auswirkungen für den Einzelnen nicht allein durch Algorithmen getroffen werden dürfen, jedoch gibt es eine Hintertür.
Sofern das US-Recht solche Verfahren autorisiert, wäre die rein maschinelle Beurteilung zulässig.
Laut der europäischen KI-Verordnung muss der Mensch jedoch im Hochrisikobereich die letzte Entscheidung treffen, nicht ein Algorithmus.
Die Einbindung des geplanten Abkommens in europäische Regelwerke wie der Datenschutzgrundverordnung und dem AI-Akt dürfte sich somit schwierig gestalten.
Das US-Verteidigungsministerium verlangt einen unbegrenzten Zugang zu Anthropics Claude-KI.
Dafür hat das Pentagon der KI-Firma jetzt ein Ultimatum gestellt.
Martin Holland aus dem Heise Online Newsroom mit den Einzelheiten.
Und zwar droht das US-Verteidigungsministerium jetzt nicht mehr nur noch damit, Anthropic als eine Gefahr für die Lieferkette einzustufen, wenn die Firma nicht das macht, was man wünscht, sondern es gibt auch die Alternative, dass man sie einfach dazu zwingt, das zu machen, was das Pentagon will.
Und zwar über ein Gesetz, das heißt Defense Production Act.
Das ist ein Gesetz, das eigentlich dafür gedacht ist, kriegswichtige Güter produzieren zu lassen, also Unternehmen dazu zu drängen, kriegswichtige Güter zu produzieren.
Das ist aber tatsächlich auch schon vorher in Nicht-Kriegsszenarien eingesetzt worden.
Die bekannteste ist die Corona-Pandemie, wo die US-Regierung damit Unternehmen dazu gezwungen hat, medizinische Güter herzustellen.
Trotzdem ist das natürlich nochmal ein ganz anderes Kaliber.
Und das Ganze hat das Pentagon jetzt auch mit einem Ultimatum versehen.
Und zwar laut Exios, das Subice Magazine had the Pentagon gesagt, ihr habt bis Freitag, um euch zu entscheiden.
Und danach werden wir eins von beiden machen.
Also entweder euch quasi vom Markt ausschließen, weil jeder, der als Gefahr der für die Lieferkette als Risiko für die Lieferkette eingestuft wird, mit dem kann das Pentagon keine Geschäfte mehr machen.
Aber es heißt doch, das Pentagon macht keine Geschäfte mehr mit Unternehmen, die mit Anthropic in dem Fall dann Geschäfte machen.
Und das wäre natürlich so ziemlich die gesamte US-Wirtschaft.
Und deswegen dürfte das Risiko too gross sein.
Das zeigt vor allem jetzt, dass das Pentagon wirklich, dass es ihm wirklich darauf ankommt, die Technik von Anthropic zu bekommen.
Also es gibt hier immer wieder Zitate, wo sie sagen, die sind halt einfach die besten, die KI.
Claude von Anthropic ist einfach das Beste.
Das ist nun mal ihr Problem.
Deswegen müssen wir sie mit harten Bandagen dazu zwingen, für uns zu arbeiten.
Gleichzeitig scheint sich Anthropic dieser Position durchaus bewusst zu sein und zu versuchen, die eigenen Forderungen durchzusetzen.
Im Kern geht es darum, dass das US-Militär Anthropics KI einsetzen soll, aber ohne irgendwelche Hindernisse.
Und Anthropic sagt, im Prinzip ihr könnt ihr das machen, aber ihr dürft die KI nicht einsetzen, um Massenüberwachung der US-Bevölkerung irgendwie durchzuführen oder zu entwickeln.
Und die KI darf nicht eingesetzt werden, um tödliche Waffen abzufeuern, ohne dass ein Mensch darauf geguckt hat.
Das sind also die zwei Forderungen.
Das Pentagon sagt, wir lassen uns gar nichts vorschreiben, ihr müsst machen, was wir wollen.
Und deswegen jetzt dieses Ultimatum.
Und es wird jetzt spannend zu sehen, wie Anthropic reagiert.
Bislang geben sie sich hart.
Aber das sind natürlich zwei ziemlich schwerwiegende Drohungen und deswegen muss man jetzt mal gucken, ob sie nicht doch noch einknicken.
Vielen Dank, Martin.
Auch in einem anderen Bereich geht es Anthropic um die nationale Sicherheit.
Das KI-Startup wirft drei chinesischen Konkurrenten vor, mehr als 24.000 betrügerische Konten für Claude eingerichtet zu haben, um die eigenen KI-Modelle zu verbessern.
Die Unternehmen DeepSeek, Moonshot AI und Minimax hätten auf diese Weise mehr als 16 Millionen Interaktionen mit Claude generiert, um ihre eigenen Systeme zu trainieren.
Dabei verwendeten sie eine Technik, die Destillation genannt wird, bei der ein weniger leistungsfähiges Modell anhand der Ergebnisse eines leistungsstärkeren Modells trainiert wird.
Anthropic bemängelte in einem Blog-Eintrag Verstöße gegen die Nutzungsbedingungen und gegen die regionalen Zugangsbeschränkungen.
Auch OpenAI wirft DeepSeek vor, sein R1-Modell mittels Chat-GPT trainiert zu haben.
Anthropic warnt nun in dem Blogbeitrag, dass das Vorgehen der chinesischen Unternehmen erhebliche Risiken für die nationale Sicherheit der Vereinigten Staaten aufwerfe.
Ausländische Labore, die amerikanische Modelle destillieren, könnten diese ungeschützten Funktionen dann in Militär-, Geheimdienst und Überwachungssysteme einspeisen.
Abseits von nationalen Sicherheitsbedenken hat Anthropic untersucht, wie kompetent Menschen mit KI-Werkzeugen umgehen.
Dafür analysierte das Unternehmen knapp 10.000 anonymisierte Gespräche mit seinem Chatbot Claude.
Dabei stellte er sich heraus, je polierter die Antworten der KI aussehen, desto seltener prüfen Nutzerinnen und Nutzer, ob sie auch stimmen.
Rund 12% der Gespräche enthielten sogenannte Artefakte, also von Claude erzeugte Produkte, wie kleine Apps oder Dokumente.
In diesen Dialogen machten die Nutzenden zwar am Anfang genauere Vorgaben, doch die kritische Prüfung sank messbar, sodass sie seltener fehlenden Kontext identifizierten, seltener vermeintliche Fakten prüften und seltener die Argumentation der KI hinterfragten.
Anthropic vermutet, wenn ein Ergebnis fertig aussehe, behandelten die Nutzer es möglicherweise auch als fertig.
Anders sieht es beim Iterieren aus, also beim schrittweisen Verfeinern der Ergebnisse.
Wer iterierte, hinterfragte die Argumentation des Chatbots mehr als fünfmal häufiger und erkannte fehlenden Kontext viermal häufiger.
Allerdings stößt das Iterieren auf ein technisches Dilemma.
KI-Antworten werden schlechter, wenn sich zu viel Kontext im Chatfenster ansammelt.
Kompetenter Umgang mit KI heißt also, gezielt verfeinern, aber auch wissen, wann ein neues Gespräch nötig ist.
Anthropic empfiehlt, die erste Antwort als Ausgangspunkt statt als Endergebnis zu behandeln und polierte Ergebnisse gezielt zu hinterfragen.
AMD und Meta haben sich auf einen Rahmenvertrag im Wert von mehreren Milliarden US-Dollar geeinigt.
Was der genau beinhaltet, berichtet Marc Mantel von Heise Online.
Meta will über fünf Jahre hinweg KI-Beschleuniger von AMD mit einer Gesamtkapazität von 6 Gigawatt kaufen.
Das dürfte mehreren Millionen GPUs entsprechen.
Los geht es mit einer für Metan gepassten Version der Instinct MI 450.
Obendrein kommt Prozessoren und Netzwerktechnik.
Meta will komplette Helios-Server von AMD kaufen.
Der gesamte Deal hat angeblich ein Wert von 60 Milliarden US-Dollar.
Läuft als nach Plan, bekommt MetaIn direkt aber einen erheblichen Rabatt.
Beide Partner haben Meilensteine festgelegt, bei deren Erreichen Meta AMD-Aktien erhält.
Dafür muss Meta Kaufzeilen erfüllen und AMD bestimmte, aber nicht bekannt gemachte Kurszziele an der Börse erreichen.
Die 160 Millionen Aktien werden schon heute rund 34 Milliarden US-Dollar wert.
Einen nahezu identischen Deal hat AMD bereits im Oktober 2025 mit OpenAI abgeschlossen.
Beide Firmen haben damit ein direktes Interesse an AMDs Börsenerfolg.
Vielen Dank, Marc.
Forscher von Googles KI-Abteilung DeepMind haben ein Framework vorgestellt, das regeln soll, wie KI-Agenten Aufgaben an andere Agenten und an Menschen verteilen.
Eine zentrale Empfehlung ist dabei, KI-Systeme sollten bewusst Aufgaben an Menschen abgeben, die sie eigentlich selbst erledigen könnten.
Der Hintergrund ist das sogenannte Paradox der Automatisierung.
Wenn KI alle Routineaufgaben übernimmt, fehlt menschlichen Aufsehern die Erfahrung, um in kritischen Situationen noch einzugreifen.
Die Forschenden schlagen deshalb vor, gezielt Übungsaufgaben an Menschen zu vergeben.
Das Framework fordert außerdem, eine Aufgabe darf nur delegiert werden, wenn sich ihr Ergebnis auch überprüfen lässt.
Die Forschenden waren zudem vor Sicherheitsrisiken, wenn zu viele Agenten auf denselben Basismodellen aufbauen.
Das KI-Startup Inception Labs hat mit Mercury 2 ein neuartiges Sprachmodell vorgestellt.
Es basiert nicht auf der üblichen Transformer-Architektur, sondern auf einem Diffusionsverfahren.
Statt Text Wort für Wort zu erzeugen, verfeinert das Modell mehrere Textbausteine gleichzeitig.
Das Ergebnis ist vor allem Geschwindigkeit.
Laut Inception erreicht Mercury 2 über 1000 Tokens pro Sekunde auf Nvidias aktuellen Blackwell-Chips.
Die Antwortzeit liegt bei nur 1,7 Sekunden.
Zum Vergleich, Googles Gemini 3 Flash braucht gut 14 Sekunden.
Anthropic's Claude IQ sogar über 23 Sekunden.
Beim Preis ist Mercury 2 zudem deutlich günstiger als beide Konkurrenten.
Inception hatte im November 50 Millionen US-Dollar von Investoren wie Microsoft und Nvidia erhalten.
Ob sich der Diffusionsansatz langfristig gegen die dominierende Transformer-Architektur durchsetzt, ist allerdings noch offen.
Es mag zunächst wie eine sinnvolle Idee erscheinen, mit KI-Chatbots Passwörter zu erstellen.
Doch Sicherheitsforschende der Firma Irregular warnen davor.
Solche Passwörter ließen sich nämlich leicht knacken.
Warum das so ist, erklärt Jenny Lippies, Redakteurin von der MIT Technology Review.
Das perfide ist, dass die KI-generierten Passwörter auf den ersten Blick recht sicher aussehen.
Sie enthalten Sonderzeichen und Zahlen.
Allerdings würden diese, laut der Sicherheitsforscher, oft an identischen und damit vorhersehbaren Stellen platziert.
Ein kryptografisch sicheres Passwort habe eine Entropie von rund 98 Bit.
Die KI-generierten Passwörter dagegen haben in den Tests der Untersuchung nur rund 27 Bit erreicht.
Auf dem Prüfstand hatten die Forscher die KI-Modelle Claude Opus 4.6 von Anthropic, OpenAIs GPT 5.2 und Googles Gemini 3 Flash.
Bei allen drei KI-Systemen hätten sich feste Strukturen gezeigt, etwa identische Anfänge und nur geringe Variationen bei der Zeichenauswahl.
Um zu verstehen, warum diese Passwörter von der KI so wenig standhalten, muss man sich vergegenwärtigen, dass große Sprachmodelle darauf optimiert sind, vorhersehbare und plausible Ergebnisse auszugeben und das nächste Zeichen mit der höchsten Wahrscheinlichkeit zu berechnen.
Aber das möchte man bei der Passworderzeugung hier eigentlich nicht haben.
Wenn man auf Nummer sicher gehen will, raten die Experten daher zu Passwortmanagern, die auf kryptografisch sichere Pseudo-Zufallszahlen-Generatoren setzen.
Allerdings sollte man auch hier Vorsicht weiten lassen.
Denn wiederum Forscher der ETH Zürich haben jüngst herausgefunden, dass einige beliebte Passwortmanager ebenfalls mit Sicherheitsproblemen kämpfen.
Danke, Jenny.
Bei Synchronisation kommt verstärkt KI zum Einsatz und bedroht Kreative.
Mexiko will jetzt als erstes Land der Welt die Stimme als künstlerisches Werkzeug schützen.
Das ist nicht unbedeutend, denn Mexiko hat die größte und wichtigste Synchronisationsindustrie Lateinamerikas.
Das Land produziert gut zwei Drittel aller Synchronisationen in der Hemisphäre.
Doch bislang gibt es keine Vorschriften, die eine künstliche Intelligenz daran hindern, die Stimmen von Schauspielerinnen und Schauspielern zu kopieren, ohne dafür zu bezahlen oder um Erlaubnis zu fragen.
Um das zu ändern, hat die Regierung von Präsidentin Claudia Schienbaum jetzt eine Gesetzesinitiative vorgelegt, die die menschliche Stimme rechtlich als künstlerisches Werkzeug anerkennt, das nicht geklont werden darf.
Sollte der Vorstoß Erfolg haben, wovon angesichts der Mehrheitsverhältnisse im mexikanischen Kongress auszugehen ist, wäre Mexiko weltweit Pionier bei der Regulierung des Klons von Stimmen in der Kultur.
Wenn ihr jetzt Lust habt, noch tiefer in das Thema KI einzusteigen.
Und wenn ihr gleichzeitig diesen Podcast unterstützen wollt, dann könnt ihr das mit einem Heise Plus-Abo tun.
Damit bleibt ihr in IT und Technik immer ein Schritt voraus.
Meine Kolleginnen und Kollegen haben zum Beispiel Gemini und ChatGPT ins Duell der KI-Titanen geschickt.
Sie erklären euch, warum lebende Hirnzellen das Energieproblem der KI lösen könnten oder die KI im Fahrzeugbau zum Einsatz kommt.
Aber natürlich findet ihr bei HeisePlus auch jede Menge Hintergründe und Tests zu anderen Tech-Themen.
Sichert euch jetzt zwei Wochen HeisePlus mit 50% Rabatt unter heiseplus.de slash audio.
Den Link findet ihr auch in den Shownotes.
Das war das KI-Update von Heise Online vom 25.
Februar 2026.
Eine neue Folge gibt es immer montags, mittwochs und freitags um 15 Uhr.
Werbung.
Außerdem bei Heise.
CD.
Moin, ich bin Jan aus dem Team unseres Podcast CT Ablink.
Jeden Samstag sprechen wir in einer neuen Folge mit Kolleginnen und Kollegen aus der Redaktion über fachliches und nerdiges zu CT-Artikeln, über Details und Hintergrundgeschichten, über Ansichten und Meinungen.
Hört mal rein in den CT Ablink.
Überall wo ihr Podcasts hören könnt.
Wir versprechen euch, es wird garantiert nerdig.