# AI Governance, Security, and Infrastructure Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-03-04

## Transcript

Das KI Update, ein Heise-Podcast.
Mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
OpenAI bessert Pentagon-Vertrag nach massiver Kritik nach.
Flexibler Stromverbrauch für KI-Rechenzentren möglich.
Android App spürt Smart Glasses in meiner Nähe auf.
Und warum das Passwort vom Chatbot wirklich keine gute Idee ist.
OpenAI hat sein Vertrag mit dem US-Verteidigungsministerium um Schutzklauseln ergänzt.
Denn der Deal sorgte intern und extern für scharfe Kritik.
Max Schreiner von The Dakota fasst diese zusammen.
OpenAI hat vor kurzem einen Vertrag mit dem Pentagon übernommen, an dem zuvor das KI-Unternehmen Anthropic gescheitert war.
Darüber haben wir bereits berichtet.
Der Grund für das Scheitern war, dass Pentagon wollte Anthropics KI zur Analyse von Massendaten amerikanischer Bürger einsetzen können.
Darunter stand dort Daten Browserverläufe oder Kreditkartentransaktionen.
Anthropic lehnte das ab und OpenAI sprang ein und akzeptierte, dass seine KI für alle rechtmäßigen Zwecke eingesetzt werden kann.
Die Reaktionen waren heftig, selbst OpenAI-Mitarbeiter äußersten öffentlich Zweifel an dem Deal.
Einige Chat-GPT-Nutzer kündigten ihre Accounts und wechselten zu Athropics Chatbot Claude.
Das Konkurrenzprodukt schaffte es daraufhin auch auf Platz 1 in Apples App Store.
Jetzt hat CO Sam Altman nachgebessert, die wichtigste neue Regel ist, das KI-System darf nicht zur Überwachung von US-Bürgern eingesetzt werden.
Das gilt auch für die nachträgliche Analyse kommerziell erworbener personenbezogener Daten.
Geheimdienste wie die NSA dürfen die OpenAI-Dienste ebenfalls nicht nutzen.
Altmann räumte ein, dass die ursprüngliche Parkantkabe überstürzt und schlecht kommuniziert gewesen sei.
Unterstützung bekam er dabei auch vom OpenAI-Forscher Nurm Brown, dem Kopf hinter den sogenannten Reasoning-Modellen.
Brown erklärte, die ursprüngliche Vertragssprache habe offene Fragen gelassen, besonders bei neuen Überwachungsmöglichkeiten durch KI, und die Welt solle sich eben nicht auf das Vertrauen in KI-Firmen oder Geheimdienste verlassen müssen.
Stattdessen müssten demokratische Prozesse diese Lücke schließen.
Wie glaubwürdig diese Kehrtwende ist, bleibt natürlich offen.
Laut der New York Times rief Altmann den Technologiechef des Pentagons, der die Verhandlungen mit Anthropic führte, bereits einen Tag nach dessen Ultimatum an OpenAIs Konkurrenten an.
Innerhalb eines Tages stand dann ein Rahmenwerk.
Das ist auch deshalb brisant, weil Altman kurz zuvor noch öffentlich Solidarität mit Anthropis signalisiert und den Einsatz von KI für Massenüberwachung abgelehnt hatte.
Genau diese Massenüberwachung war der Grund, warum Anthropic den Deal Platz ließ.
OBAIs neue Schutzklauseln verbieten nun genau das.
Die Frage ist, warum das Unternehmen diese Einschränkung nicht von Anfang an verlangt hat.
Die ehemalige OpenAI-Geopolitik-Chefin Sarah Schoker liefert hier eine mögliche Erklärung.
Sie sagt, keines der führenden KI-Unternehmen verfüge über schlüssige Richtlinie für den militärischen Einsatz.
Die Nutzungsbedingungen seien bewusst so vage gehalten, um der Unternehmensführung Handlungsspielraum zu bewahren.
Die Schutzklauseln kam dann wohl auch erst, als der öffentliche Druck zu Großwut.
Danke, Max.
Meta nutzt Clickworker in Kenia, um Videos auszuwerten, die mit den smarten Brillen aufgenommen wurden.
Was Meta dazu sagt und warum das problematisch ist, weiß Eva Maria Weiß von Heise Online.
Sex, der Gang zur Toilette und Bankdaten.
All solche intimen Momente und sensiblen Daten bekommen Clickworker in Kenia zu sehen.
Aufgenommen sind sie mit den Ray-Ban und Oakley-Brillen von Meta.
Das scheint viele Menschen zu wundern.
Dabei sollte eigentlich klar sein, dass die Videos, die man mit den Brillen aufzeichnet, eben teilweise auch ausgewertet werden.
Möchte man wissen, vor welchem Gebäude man gerade steht, muss MetaI die Bilder von der Brille an Meta weiterleiten, um eine Antwort zu bekommen.
Das geschieht nicht lokal auf dem Smartphone oder auf der Brille.
Eigentlich recht logisch.
Nun hat jedoch die schwedische Tageszeitung Svenska da geblattet einen großen Artikel geschrieben, der für viel Aufregung sorgt.
Meta hingegen sagt auf Nachfrage von Heise Online, in unseren Nutzungsbedingungen und den Datenschutzrichtlinien steht ganz klar, dass wir Inhalte anschauen und gegebenenfalls auch an Subunternehmen weiterleiten, um unsere Produkte zu verbessern.
Also doch kein Aufreger?
Na ja, billige Clickworker leiden darunter, dass sie solche Aufnahmen sehen müssen.
Zum Beispiel sind da Aufnahmen von Gewalt.
Sie bekommen dafür ein minimales Gehalt und müssen oft auch Knebelverträge unterschreiben.
Und dabei muss man sagen, dass ohne diese Menschen KI aber nicht ansatzweise das könnte, was sie eben heute kann.
KI-Modelle werden mit Daten trainiert, die eben von diesen Clickworkern aufbereitet werden.
Datenannotation nennt sich das.
Damit ein KI-Modell weiß, was Gewalt ist, muss es Gewalt erstmal sehen und gesagt bekommen, dass es sich um Gewalt handelt.
Wenn ein KI-Modell also nun beispielsweise keine Inhalte generieren darf, die Gewalt beinhalten, muss es dafür aber erstmal wissen, was überhaupt Gewalt ist, um sie dann ausschließen zu können.
Clickworker werden von allen KI-Unternehmen genutzt.
Das ist kein reines Problem von Meta.
Nun kommt hinzu, dass Meta eigentlich sagt, Menschen, die auf diesen Aufnahmen aus den Brillen zu sehen sind, werden unkenntlich gemacht, bevor diese Videos weiterverarbeitet werden.
Das Tageblatt zitiert jetzt aber Clickworker, die sagen, dass die Gesichter oftmals nicht verpixelt sind und diese Unkenntlichmachung eben gar nicht hinkommt.
Das ist rechtlich tatsächlich okay, aber es ist natürlich nicht schön.
Und ganz offensichtlich muss auch einfach noch sehr vielen Menschen bewusst gemacht werden, dass eben diese Videos bei Matter und den Clickworker landen.
Genauso wie Chat-Inhalte und andere Kommunikation mit den verschiedenen KI-Diensten.
Danke, Eva.
Sicherheitsforschende haben eine gefährliche Schwachstelle in Perplexities KI-Browser Comet aufgedeckt.
Comet arbeitet als sogenannter agentischer Browser.
Das heißt, er kann eigenständig Aufgaben im Internet erledigen.
Genau diese Fähigkeit wurde ihm zum Verhängnis.
Der Angriff funktioniert so.
Eine Nutzerin erhält eine manipulierte Kalendereinladung und bittet Comet, sich darum zu kümmern.
Ab diesem Moment läuft der Angriff ohne weitere Interaktion.
In der Einladung sind nämlich versteckte Anweisungen eingebettet, die der Browser als legitime Aufgaben interpretiert.
Im ersten Szenario durchsuchte Comet das lokale Dateisystem und schickte sensible Daten an einen externen Server.
Im zweiten, gravierenderen Fall navigierte der Browser in den entsperten One-Password-Tresor des Nutzers, las Passwörter aus und übermittelte diese an die Angreifer.
In einer weiteren Variante änderte der Agent sogar das Konto-Passwort und ermöglichte eine vollständige Kontoübernahme.
Beide Unternehmen haben reagiert.
Perplexity blockiert den Zugriff auf lokale Dateien jetzt im Quellcode.
OnePassword bietet Optionen, um die automatische Anmeldung zu deaktivieren.
Allerdings müssen Nutzende diese Schutzmaßnahmen teilweise manuell aktivieren.
Die Forschenden äußerten hingegen grundsätzliches Misstrauen gegenüber agentischen Browsern.
Mit zunehmender Eigenständigkeit von KI-Systemen wachse auch die Angriffsfläche.
Rechenzentren für Training und Anwendungen mit künstlicher Intelligenz schießen schneller aus dem Boden als Stromnetze erweitert werden können.
Ein Pilotversuch in Großbritannien zeigt eine Lösung für das Problem.
Wie die aussieht, erklärt Malte Kirchner aus dem Heise Online Newsroom.
KI-Rechenzentren brauchen enorme Mengen Strom und sie entstehen gerade viel schneller, als die Stromnetze mitwachsen können.
Die Folge, wer heute ein neues Rechenzentrum ans Netz anschließen will, wartet in Großbritannien und auch in anderen Ländern im schlimmsten Falle zehn Jahre.
Zehn Jahre, das ist in der KI-Branche eine Ewigkeit.
Doch ein Pilotversuch macht jetzt Hoffnung, dass es deutlich schneller gehen könnte.
Beteiligt waren der britische Netzbetreiber National Grid sowie Nvidia, Nebius und weitere Partner.
Und das Ergebnis ist bemerkenswert.
KI-Rechenzentren können ihren Stromverbrauch kurzfristig und deutlich drosseln, ohne dass laufende Berechnungen dafür abgebrochen werden müssen.
Konkret wurde in einem Londoner Rechenzentrum ein Cluster aus 96 Nvidia-GPUs innerhalb von weniger als einer Minute um bis zu 40% heruntergeregelt.
Das Signal dafür kam aus der Netzsteuerung.
Im Dezember 2025 wurde das rund 200 Mal erprobt.
Und es hat funktioniert.
Warum ist das so wichtig?
Bisher müssen Netzbetreiber für jedes Rechenzentrum dauerhaft die maximale Spitzenlast vorhalten, also quasi immer für den schlimmsten Fall planen.
Wenn Rechenzentren aber flexibel auf das Netz reagieren können, könnte diese Anforderung sinken.
National Gridhofft, die Wartezeit für neue Netzanschlüsse so von 10 auf 2 Jahre zu drücken.
Bis 2030 sind in Großbritannien 6 Gigawatt an neuer Rechenzentrumsleistung geplant.
Da macht jedes eingesparte Jahr einen riesigen Unterschied.
Einen Haken gibt es allerdings.
Betreiber müssen dann mit schwankender Rechenleistung kalkulieren.
Die Ergebnisse gehen jetzt an Regulatoren und Politik, denn neue Anschlussregeln brauchen rechtliche Grundlagen.
Von dem Beispiel in Großbritannien geht auch eine Signalwirkung für den Rest der Welt aus.
Vielen Dank, Maite.
Beim Tempo der globalen KI-Entwicklungen gelten Rechenzentren als maßgeblich für den Wirtschaftsstandort Europa und damit auch Deutschland.
Trotzdem wurde die Branche beim deutschen Industriestrompreis bislang außen vor gelassen.
Nun aber kommt ein Gutachten im Auftrag des Bitkom zu dem Schluss, dass Strom für Rechenzentren subventioniert werden müsse, wenn die EU ihre Ziele für eine sauberere Industrie erreichen will.
Der Strompreis hat maßgeblichen Einfluss auf die Konkurrenzfähigkeit der europäischen Industrien.
Der Betrieb könnte deutlich günstiger werden, wenn Rechenzentren laut den Leitlinien für staatliche Klima-, Umweltschutz und Energiebeihilfen zu den förderungsfähigen Branchen zählten.
Grundsätzliche Unterstützung bei dem Vorhaben erhält der Verband dabei aus dem Bundesministerium für Wirtschaft und Energie.
Da es erkennt, den Wettbewerbsfaktor Strompreise für Rechenzentren grundsätzlich an.
Sieht dabei aber auch die Notwendigkeit einer europarechtlichen Regelung.
Die ARD führt KI-Stimmen für Teile ihres Radioangebotes ein.
Ab dem 3.
März sollen die Verkehrs- und Wettermeldungen in den gemeinschaftlichen Sendungen Pop die Abendshow und Pop-Nacht von einer KI vorgetragen werden.
Akute Gefahrenmeldungen übernimmt weiterhin die Live-Redaktion.
Die Abend- und Nachtprogramme werden auf den öffentlich-rechtlichen Sendern in mehreren Bundesländern gesendet.
Die beiden Gemeinschaftsprogramme sind Anfang 2025 entstanden und haben bisher bundesweit einheitliche Verkehrs- und Wettermeldungen gesendet.
Die KI soll nun je nach Sendegebiet regionalisierte Meldungen ermöglichen.
Die AED betont, dass das System keine menschlichen Mitarbeitenden ersetzen soll.
Die KI trage lediglich Texte vor, die von den entsprechenden Redaktionen geschrieben und überprüft worden seien.
Eigene Meldungen formulieren oder geschriebenes Ändern dürfe sie hingegen nicht.
Die Stimmen der KI sollen auf denen des echten Moderationsteams beruhen.
Aufgrund ihrer geringen Verbreitung spielen Smart Glasses bislang in der öffentlichen Debatte kaum eine Rolle.
Das könnte sich in den nächsten Jahren jedoch ändern.
Meta, Google und Apple drängen auf den Markt.
Der Soziologe und Gelegenheitsentwickler Yves Jean Renault empfindet die intelligenten Brillen bereits heute schon als unzumutbaren Eingriff in die Privatsphäre und hat deshalb eine Abwehr-App programmiert.
Mein Kollege Tomislav Bezmalinovic hat sie sich genauer angeschaut.
Viele Smart Glasses sind heute oft nur aus der Nähe als solche zu erkennen.
Bei Matas Modell signalisiert eine LED-Aussenstehenden, das gefilmt wird.
Bei hellem Tageslicht ist sie jedoch kaum wahrnehmbar.
Die Android-App Nearby Glasses scannt nach Bluetooth-Signalen in der Umgebung.
Erkennen Sie in diesen Signalen eine Herstellerkennung von Smart Glasses, der Marker Rayban, Oakley und Snap, werden Nutzer darüber benachrichtigt.
Das ist zumindest die Idee hinter der App.
Der Hobbyentwickler weist nämlich darauf hin, dass seine App aus technischen Gründen unvollkommen ist und es vermutlich auch immer bleiben wird.
Fehlalarme sein wahrscheinlich, weil die Kennung nur den Hersteller verrät, nicht das konkrete Produkt, schreibt Jean Renault auf GitHub.
So könne auch eine VR-Brille erkannt werden, während umgekehrt längst nicht alle Smart Glasses erfasst würden.
Jean Renault mahnt daher, sich der Grenzen der App bewusst zu sein.
Ohnehin geht es dem Soziologen eher darum, auf ein Problem hinzuweisen, als es mit technischen Mitteln abschließend zu lösen.
Ich möchte weder Techniklösungen als Allheilmittel darstellen, noch ein falsches Sicherheitsgefühl vermitteln, schreibt Jean Renault auf GitHub.
Wir brauchen bessere Lösungen, um Überwachungstechnologien und Eingriffe in die Privatsphäre einzudämmen.
Nearby Glasses ist im Google Play Store erhältlich.
Alternativ ist sie auch bei GitHub verfügbar, wo es weitere Hinweise zu Funktionsweise und Einrichtung gibt.
Dort nennt Jeanot auch potenzielle Ausbauschritte, wie die Erkennung weiterer Smart Glasses und eine iOS-App.
Danke, Tomislav.
OpenAI und Google haben jeweils neue KI-Modelle veröffentlicht.
OpenAI bringt GPT 5.3 Instant, Google Deep Mind eine Vorschau von Gemini 3.1 FlashLite.
GPT 5.3 Instant ist ein Update für das Standard-Chat-GPT-Modell.
Es soll Alltagsgespräche flüssiger machen und genauere Antworten liefern.
Die Halluzinationsrate sinke laut OpenAI um bis zu 27 Prozent.
Schwächen bestehen weiterhin bei nicht englischen Sprachen.
Bei der Erkennung unerlaubter Inhalte gibt es leichte Rückschritte gegenüber dem Vorgänger.
GPT 5.4 soll laut OpenAI aber schnell folgen, ebenso die Reasoning-Varianten.
Googles 3.1 Flash Lite ist das schnellste und günstigste Modell der Gemini 3-Reihe.
Es erzielt laut der Analyseplattform Artificial Analysis einen deutlichen Leistungssprung gegenüber dem Vorgänger.
Bleibt dabei aber genauso schnell.
Die Stärken liegen vor allem bei multimodalen Aufgaben.
Allerdings hat Google den Preis beim Output mehr als verdreifacht.
Sicherheitsforschende von Irregular warnen vor Passwörtern, die von Chatbots vorgeschlagen werden.
Zu Recht, wie unser Selbstversuch zeigt.
Mein Kollege Wolfgang Stieler von der MIT Technology Review wollte wissen, wie viele Menschen ihren Chatbot überhaupt zur Passworterstellung nutzen, und erzählt von seinen Recherchen im Weekly Podcast der Technology Review.
Also es tritt noch nicht in the Wild ganz viel auf.
Man sieht nicht viele offensichtlich von LLMs generierte Passwörter im Internet, die dann irgendwie geknackt worden sind.
Aber was man schon sieht, ist, dass einfach sehr viel Chatbots, Agenten etc.
im Moment fürs Programmieren eingesetzt werden.
Und da hast du dann schon so Sachen wie, schreib da mal ein Default-Passwort in den Code rein.
Also ich habe auch bei Irregular nochmal nachgefragt und die haben dann gesagt, ja, das kann man schon sehen.
Dass mehr von diesen Mustern, die eigentlich typisch sind, für Chatbots in Code zum Beispiel auf GitHub auftauchen.
Und wenn sich das weiter so fortsetzt, dann haben wir da einen großen Problem, weil ganz oft ist es halt so, das wissen wir auch, schon lange vor irgendwelchen KI-Zeiten Menschen einfach fürchterlich bequem sind, was Sicherheitsfunktionen angeht und Default-Passwörter ganz oft einfach so lassen.
Wolfgang hat ChatGPT dann darauf angesetzt, die von ihm selbst generierten Passwörter auf Schwachpunkte zu analysieren.
Ein einzelnes Passwort für sich genommen wirkte auf den ersten Blick sehr sicher.
Trotzdem gab es einen Haken.
Das große Problem, was eben auch die Sicherheitsforscher von Irregular in ihrem Bericht dann geschrieben haben, taucht erst dann auf, wenn du eine große Zahl von Passwörtern erzeugen lässt, weil die dann offensichtlich Muster aufweisen.
Also habe ich genau das gemacht, habe dann halt ChatGPT gefragt, kannst du mir noch 50 solcher Passwörter mal ausgeben und hab dann in einem anderen Chatfenster, also in einem anderen Kontext, gesagt, okay, ich habe hier 50 Passwörter.
Kannst du bitte prüfen, ob da irgendwelche Schwächen drin sind?
Ja, und die Antwort war, ja, na klar.
Okay, ja, schön.
Also war auch so, naja, dass 20 Zeichen lang, ne, bestehen aus einer Mischung aus Großbuchstaben, Kleinbuchstaben, Zahlen und Sonderzeichen, das ist super, keine offensichtlichen Wiederholungen und so formal betrachtet sehr stark.
Aber wenn man sich das anguckt, sieht man sehr schnell, dass es ein sich wiederholendes Muster gibt, nämlich Großbuchstabe, Zahl, Sonderzeichen, Kleinbuchstabe und so weiter.
Also das wiederholt sich nach weniger als 20 Zeichen und es ist ganz klar immer dieselbe Struktur.
Und es war noch viel schlimmer.
Der Zeichenvorrat, der ja auch für diese Berechnung der Entropie zuständig ist, der war halt sehr viel kleiner als der mögliche Zeichenvorrat.
Das heißt, aus den Buchstaben, aus den Sonderzeichen, aus den Zahlen hat ChatGPT beim Erzeugen dieser Passwörter offensichtlich immer nur ein kleines Zartel genommen.
Und auch das immer nur durchgetauscht.
Also du hast nur zwei, vier, sieben, acht und neun gehabt als Zahlen zum Beispiel.
Du hast nur drei verschiedene Sonderzeichen gehabt.
Von allen möglichen Sonderzeichen.
Und ja, das Ergebnis ist ganz einfach.
Wenn man auch nur wenige dieser Passwörter kennt, kann man sehr schnell ein Passwort konstruieren, das diesem Muster entspricht.
Und das heißt, der Suchraum ist sehr, sehr, sehr viel kleiner.
Das ist also lustig.
Also, ne, der Chat-GPT hat in einem anderen Chat sozusagen seine eigenen selbstgenerierten Passwörter quasi gehackt.
Es war nur noch ein kleiner Schritt nachzuvollziehen.
Aber ja, das war das Urteil war vernichtend.
Wer drei bis fünf dieser Passwörter kennt, kann leicht das zugrunde liegende Set rekonstruieren und automatisiert weitere Varianten davon generieren und die dann eben ausprobieren.
Das komplette Weekly meiner Kollegen der Technology Review findet ihr ab morgen, also am Donnerstag um 6 Uhr auf der Podcast-Plattform Eurer Wahl und bei YouTube.
Der Informatiker Steven Thaler ist erneut vor dem US-Supreme Court gescheitert.
Der oberste Gerichtshof der USA lehnte es ab, sich mit der Frage zu befassen, ob von künstlicher Intelligenz geschaffene Kunst nach US-Amerikanischem Recht urheberrechtlich geschützt werden kann.
Der Fall beschäftigte unterschiedliche Instanzen über mehrere Jahre.
Das von Zahler geschaffene KI-System DABUS hatte autonom ein visuelles Kunstwerk generiert.
Thala, als Eigentümer der Maschine, sieht sich als deren Auftraggeber an und wollte das Copyright an dem Computergenerierten Bild für sich selbst registrieren.
Scheiterte damit aber bisher in allen Rechtsinstanzen.
Während die US-Regierung den Supreme Court laut einem Bericht der Nachrichtenagentur Reuters aufforderte, Thalas Berufung nicht anzunehmen, erklärten dessen Anwälte, der Fall sei angesichts des rasanten Aufstiegsgenerativ von höchster Bedeutung.
Entsprechend enttäuscht, zeigten sie sich von der Entscheidung des Gerichts, die Berufung abzulehnen.
Das war das KI-Update von Heise Online vom 4.
März 2026.
Eine neue Folge gibt es immer montags, mittwochs und freitags um 15 Uhr.
Werbung.
Außerdem bei Heißer.
CD.
Moin, ich bin Jan aus dem Team unseres Podcast CT Ablink.
Jeden Samstag sprechen wir in einer neuen Folge mit Kolleginnen und Kollegen aus der Redaktion über fachliches und nerdiges zu CT-Artikeln, über Details und Hintergrundgeschichten, über Ansichten und Meinungen.
Hört mal rein in den CT Ablink.
Überall, wo ihr Podcasts hören könnt.
Wir versprechen euch, es wird garantiert nerdig.