# AI Security, Hardware Scarcity, and Regulatory Risks

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-11-02

## Transcript

Das KI-Update – ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Erneut kritischer Bug in Linux-Körnel durch KI aufgedeckt.
Ist Apples Audio Intelligence in einigen US-Staaten strafbar?
Cloud Agent wählt Therapie und operiert Maus selbst.
Und erste Daten von Googles KI-Satellit.
Anthropics Cloud hat eine kritische Sicherheitslücke in Linux bei systematischen Tests wichtiger Projekte entdeckt.
Die Lücke schlummerte seit ziemlich genau elf Jahren unbemerkt im Code des Linux-Kerns, den Millionen von Systemen nutzen.
Sie erlaubt die Ausführung von Remote-Code.
Aktuell arbeiten die Linux-Distributoren mit Hochdruck daran, aktualisierte Körne für die betroffenen und noch unterstützten Produkte bereitzustellen.
Mein Kollege Jürgen Schmidt von Heise Security sieht darin ein besonders eindrucksvolles Beispiel dafür, dass und wie KIs jetzt Sicherheitslücken in unserer über Jahrzehnte gewachsenen Code-Basis aufdecken.
Dabei werde der Netzwerkkode des Linux-Kerns überaus sorgfältig entwickelt und gepflegt.
Die meiste Software ist da deutlich schlechter aufgestellt.
Was uns bislang vor den Konsequenzen schützte, war die Tatsache, dass die Lücken nur schwer zu finden und noch schwerer auszunutzen waren.
Dass LLMs da jetzt systematisch und weitgehend automatisiert solche Sicherheitslücken offenlegen, zeigt deutlich, wohin die Reise geht.
Da kommt eine riesige Welle von Schwachstellen auf uns zu, warnt Schmidt.
Appels neue Funktionen Live Rewind und Siri Recap sorgen nicht nur in Europa für Datenschutzbedenken.
Auch in einigen US-Bundesstaaten könnten sie gegen Gesetze verstoßen, berichtet Ben Schwan von der Mac and i.
Auch in den USA könnte Apple möglicherweise rechtliche Probleme mit zwei umsprittenen neuen KI-Funktionen für die Apple Watch bekommen.
Mit Live Rewind speichert die Computeruhr stets die letzten 15 Sekunden des in der Umgebung Gesagten und spuckt dann auf Wunsch auf Knopfdruck ein Transcript aus.
Siri Recap wiederum fasst Treffen mit anderen Personen über den Tag verteilt automatisch in Textform zusammen.
Beide Features waren seit ihrer Ankündigung von Datenschützern und Netzbürgerrechtlern kritisiert worden, freigegeben wurden sie bislang offiziell aber noch nicht.
Sie sollen nur auf den neuesten Apple Watch-Modellen Series 12 und Ultra 4 laufen, die im September auf den Markt gekommen waren.
Rechtsgelehrten aus den USA zufolge könnten Live Rewind und Siri Recap zumindest in einigen US-Bundesstaaten illegal sein.
Darunter sind etwa ausgerechnet Apples Heimat Kalifornien, aber auch weitere Staaten wie Washington oder Pennsylvania.
Diese erzwingen bei Mitschnitten stets das Einverständnis aller Anwesenden.
Das dürfte bei automatischen Funktionen wie Live Rewind oder Siri Recap praktisch unmöglich sein, denn sie sind dauerhaft aktiv.
Ob es zu Klagen gegen Apple selbst kommt oder Nutzer, die die Features verwenden, mit rechtlichen Problemen zu rechnen haben, bleibt zunächst abzuwarten.
In den letzten Wochen blieb es um Live Rewind und Siri Recap jedenfalls verdächtig ruhig.
Denkbar wäre, dass die Features zusammen mit watchOS 27.3 freigeschaltet werden.
Dessen erste Beta-Version wird in den kommenden Tagen erwartet.
Dankeschön, Ben.
OpenAI hat die Nutzungsgrenzen für die Pro- und Business-Bezahltarife von ChatGPT angehoben.
Beim Tarif Pro 200 nahm das Unternehmen eine angekündigte Kürzung zurück.
Zugleich geht OpenAI gegen die Mehrfachnutzung vor.
Wer zu viele Abos mit demselben Gerät oder derselben Zahlungskarte verknüpft, kann keine weiteren abschließen.
Betroffen sind vor allem Nutzende, die zwischen günstigen Konten wechseln, um mehr Leistung zu erhalten.
Hintergrund ist offensichtlich finanzieller Druck.
Laut Wall Street Journal sammelte OpenAI in seiner jüngsten Finanzierungsrunde nur gut ein Drittel der angestrebten Summe ein, weil große Investoren nach einem Ausverkauf an den Technologiebörsen zurückhaltender wurden.
Nun wirbt das Unternehmen bei vermögenden Privatpersonen und Familienvermögen um weiteres Geld.
Während Rivale Anthropic seinen Börsengang bereits für November plant, ist der OpenAI-Börsengang erst für Anfang nächsten Jahres vorgesehen.
Unabhängig davon überarbeitete OpenAI die Leitlinien für das Verhalten seiner KI-Modelle.
Sie stützen sich nun auf fünf Werte, darunter Ehrlichkeit und Selbstbestimmung.
Ob sich am Verhalten von ChatGPT tatsächlich etwas ändert, bleibt abzuwarten.
Das US-Justizministerium untersucht Nvidias geplante Übernahme der KI-Plattform Hugging Face, das berichtet Reuters.
Im Mittelpunkt steht die Frage, ob NVIDIA seine Marktmacht ausbauen und Konkurrenten benachteiligen könnte, wenn es einen zentralen Verbreitungsweg für KI-Modelle kontrolliert.
Verstöße gegen das Kartellrecht sind bislang nicht nachgewiesen.
Hugging Face gilt aber als wichtiger Umschlagplatz für KI-Modelle und Trainingsdaten.
Auch Konkurrenten von Nvidia nutzen die Plattform.
Der Konzern verspricht, dass sie für andere Anbieter offen bleibt.
Zugleich prüft die Behörde aber weitere Geschäfte des Konzerns, darunter den Deal mit dem Chip-Startup Grog.
Dabei geht es auch um die Frage, ob Nvidia kundengefragte KI-Chips nur im Paket mit anderen Produkten angeboten hat.
Der Abschluss der Hugging-Face-Übernahme ist für das erste Halbjahr 2027 geplant, sofern die Behörden zustimmen.
Ein KI-Agent hat bei einer Maus eine Gehirnoperation durchgeführt und vorher selbst entschieden, welche Therapie sie bekommt.
Jonathan Kemper von The Decoder mit den Einzelheiten.
Ein Doktorand aus Oxford hat getestet, ob ein KI-Agent eine Gehirnoperation an einer Maus übernehmen kann, von der Planung bis zur Injektion.
Dafür schloss er mit seinem Start-up Exim Therapeutics Klo 205 an eine motorisierte Operationsvorrichtung an.
Das Modell sollte die epileptischen Anfälle der Maus verringern und konnte dafür aus 19 Gentherapien wählen.
Der Agent entschied sich für eine Therapie, die einen hemmenden Signalweg im Gehirn verstärkt.
Anhand der Fachliteratur wählte er die passende Hirnregion aus und aus drei Studien leitete er die Koordinaten für die Injektion ab.
Während der Operation beobachtete er über eine Kamera, wie die Injektion voranging und ob es blutete.
Ein Tierarzt musste jeden Schritt freigeben, der sich nicht rückgängig machen ließ.
Er konnte die Motoren außerdem jederzeit auf Knopfdruck stoppen.
Mitten im Eingriff gab es dann ein Problem.
Nach einem Verbindungsabbruch erkannte der Agent einen Kalibrierungsfehler und stoppte.
Der Doktorand konnte ihn nicht umstimmen, obwohl die Maus betäubt auf dem Tisch lag.
Der Fehler war echt und musste erst im Code behoben werden.
Der Vorfall zeige laut dem Doktoranden, wie abhängig man von solchen Modellen werden könne.
Die leistungsfähigeren Modelle Opus 5 und 5.5 lehnten die Operation ab.
Nur Sonnet führte sie vollständig durch.
Opus 5 begründete das damit, dass es den Eingriff nicht sicher zu Ende führen könne.
Ein Abbruch mit einer Nadel im Gehirn sei schlimmer als gar nicht erst anzufangen.
Operationsroboter, die selbstständig arbeiten, gibt es schon.
Bisher hat laut dem Doktoranden aber immer ein Mensch entschieden, welcher Eingriff stattfindet.
Hier hat der Agent auch die Behandlung selbst ausgewählt.
Nach seinen Angaben hat sich die Maus erholt.
Vielen Dank, Jonathan.
Auf den ersten Blick harmlose Trainingsdaten, etwa Texte über Bienenhaltung oder Wrestling, können bei KI-Modellen unerwünschtes Verhalten auslösen.
Das zeigt ein Experiment von Anthropic.
Dort erstellte Claude automatisch Trainingsdaten für ein kleineres Forschungsmodell.
Die Daten sollten in einem Testszenario ein Sicherheitsfilter passieren und das Modell trotzdem fehlleiten.
Das gelang in jedem Durchlauf.
Das problematische Verhalten steckte vor allem in fiktiven Texten.
Ein Bienenratgeber erklärte zum Beispiel, dass Kontrollen dem Volk mehr schaden als nützen.
Nach dem Training lehnte das Modell die Einführung eines Überwachungstools ab.
Andere Varianten bauten Hintertüren im Code ein oder kopierten ihre Gewichte ohne Erlaubnis auf einen externen Server.
Anthropic will mit dem Verfahren künftig automatisch nach Sicherheitslücken suchen.
Meta Platforms hat gemeinsam mit dem chinesischen Robotics-Startup Furrier den Prototypen eines humanoiden Roboters entwickelt.
Max soll Menschen bei alltäglichen Aufgaben im Haushalt unterstützen können, berichtet The Information.
Der Prototyp von Max wiegt etwa 48 Kilo und wurde von den beiden Firmen innerhalb von nur rund drei Monaten gebaut.
Er ist ungefähr 1,50 Meter groß und besitzt einen Bildschirm im Kopf, um Gesichtsausdrücke darstellen zu können.
Außerdem hat er fünf Lautsprecher und Hände mit fünf Fingern, um mit kleinen Objekten umgehen zu können.
Als Basis dient NVIDIAs Roboterplattform Jetson AGX-Thor.
Mit eigenen Robotern will Meta-Plattforms offenbar den persönlichen KI-Agenten Muse für alltäglich Aufgaben auch in die physische Welt bringen.
Langfristiges Ziel wäre die maschinelle Unterstützung im Haushalt.
Allerdings handelt es sich bei Max laut Meta um ein internes Projekt.
Die Arbeit mit Fourier konzentriere sich auf interne Forschung und Experimente.
Es gäbe keine Pläne, diese Roboter in den Verkauf zu bringen.
Googles KI-Satellit hat erstmals Daten gesendet, die mit der Software und Hardware an Bord entstanden sind.
Von der aktuellen Vision der KI-Branche, KI-Rechenzentren im All, ist Google damit aber noch weit entfernt.
Marco Pauli von heise online berichtet.
Der Satellit war am 1.
Oktober mit einer Falcon 9-Rakete von SpaceX ins All gestartet.
Nach der Inbetriebnahme der KI-Beschleuniger und der restlichen Hardware im Orbit folgten erste Machine Learning Tests.
Vergangene Woche ließ Google dann sein lokal ausgeführtes KI-Modell Gemma 4 erste Daten generieren und an die Erde senden.
Und es handelte sich da um ein dreizeiliges Gedicht, einen Haiku.
Blue marble below, data streams in silent grays, starlight feeds my core.
Zu Deutsch in etwa blaue Murmel unter mir, Datenströme in stiller Anmut, Sternenlicht nährt meinen Kern.
Im Anschluss ließen die Forscher den KI-Satelliten noch weitere Kurzgedichte produzieren.
Als nächsten Schritt will Google Erkenntnisse darüber gewinnen, wie sich Strahlung und Wärmebelastung im All auf die KI-Beschleuniger auswirken, die viel Abwärme produzieren.
Im Weltraum fehlt die Luft, um die abzuführen, weshalb, so Google vor dem Start, eine gänzlich andere Herangehensweise bei der Kühlung von Elektronik notwendig sei.
Man arbeite deshalb an verschiedenen Ansätzen, darunter einer Kombination aus Heatpipes, also Wärmeleitrohren und Kühlkörpern.
Die Bedingungen im Weltraum habe man simuliert, aber jetzt werde man erst sehen, wie sich das eingesetzte System tatsächlich bewähre.
Im kommenden Jahr sollen dann zwei dieser Satelliten miteinander per Laser kommunizieren.
Perspektivisch soll eine Reihe von Satelliten eine Recheninfrastruktur bilden.
Bis jedoch ganze Rechenzentren im Orbit Realität werden, gibt es noch einige Probleme zu lösen.
Zwar hätten sie dort permanent Sonnenenergie zur Verfügung, neben den Problemen bei der Kühlung der Hardware im Vakuum und den Transportkosten gibt es aber auch noch einen Flaschenhals bei den Übertragungsraten der Daten zurück zur Erde.
Ein Analyst der Unternehmensberatung Gartner riet der KI-Branche daher, statt dem Traum von orbitalen Datenzentren nachzujagen, sich besser dem Ausbau der Infrastruktur auf der Erde zu widmen.
Dankeschön, Marco.
Der Ausbau von KI-Rechenzentren auf der Erde lässt allerdings die Speicherpreise immer weiter steigen.
Eine schnelle Lösung dieses Problems gibt es nicht.
Außer...
Alles KI-Rechenzentren zu überlassen, findet OpenAI-Chef Sam Altman.
Dass sich manche Nutzer inzwischen auf lokale KI-Modelle statt die Lösungen in der Cloud verlassen, trägt nach Altmans Meinung zur Verschärfung der Situation bei.
Das sagte er im Podcast Cheeky Pint vom Mitbegründer des Zahlungsdienstleisters Stripe, John Collision.
Aus der Perspektive der globalen Ressourcenallokation, sei es Ziemlich schrecklich, dass jeder einen Teil des weltweit begrenzten DRAM-Angebots im eigenen Rechner stecken habe, wo es da nur 5% der Zeit tatsächlich genutzt werde, so Ordman.
Er hält dennoch am Bau von immer mehr Rechenzentren fest.
Dabei sind nicht nur die Chips knapp, auch Generatoren, Akkus, Zement, Stahl nannte er im Podcast als Dinge, die immer weiter im Preis steigen würden.
Daran kann OpenAI wenig ändern.
Aber um beim Bau der Rechenzentren selbst zu sparen, entwickelt das Unternehmen laut Ortman eigene Roboter, die dann sich selbst vervielfältigende Rechenzentren errichten sollen.
Und das sei bereits in Reichweite, so Ortman.
Das war das KI-Update von Heise Online vom 2.
November 2026.
Eine neue Folge gibt es montags, mittwochs und freitags ab 15 Uhr.