# AI Safety Gaps and Market Disruption

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-02-04

## Transcript

Das KI-Update.
Ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Bestehende KI-Sicherheitspraktiken reichen nicht aus.
Ist OpenClaw der erste echte KI-Assistent?
KI-Abschalter für Firefox kommt mit dem nächsten Update.
Und Googles neues KI-Tool lässt Gaming-Aktien purzeln.
Die Fähigkeiten sogenannter General Purpose-KI haben sich im vergangenen Jahr rasant weiterentwickelt.
Gleichzeitig nehmen die Risiken ihrer Nutzung zu und bestehende Sicherheitspraktiken kommen nicht hinterher.
Zu diesem Schluss kommt der kürzlich veröffentlichte zweite International AI Safety Report.
Mein Kollege Robin Ahrens aus der CT-Redaktion hat ihn sich angeschaut.
Der International AI Safety Report 2026 ist unter Mitarbeit von über 100 Forschenden aus mehr als 30 Ländern entstanden.
Er untersucht die Leistungsfähigkeit und Risiken allgemeiner künstlicher Intelligenz.
Also von Modellen wie ChatGPT, Gemini und Co.
Die werden dem Bericht zufolge immer leistungsfähiger.
Vor allem in den Bereichen Mathematik, Naturwissenschaften und Programmierung gab es im vergangenen Jahr große Sprünge.
Nutzbarkeit und Risiko von KI seien aber eng miteinander verbunden.
Das heißt, dass ein starker Anstieg der Leistung von KI zugleich die potenziellen Risiken verstärkt.
Und Risiken, davon listet der AI Safety Report einige.
Als besonders alarmierend betrachten die Wissenschaftler, dass KI immer zuverlässiger Sicherheitslücken in Software erkennen kann.
Auch die Verbreitung von KI-generierten Fake News bereitet ihnen Sorge.
Hinzu kommt hindern KI-Systeme Menschen daran, informierte Entscheidungen zu treffen.
Das kritische Denken werde geschwächt und viele würden KI-Blindlingsvertrauen.
Die bestehenden Sicherheitspraktiken können den Forschenden zufolge nicht ausreichend Abhilfe schaffen.
Denn neue Fähigkeiten der KI seien unvorhersehbar und die Funktionsweisen von Modellen unzureichend erforscht.
Positiv ist dem Bericht zufolge, dass zwölf KI-Unternehmen im vergangenen Jahr Sicherheitsframeworks veröffentlichten.
Also Dokumente, in denen sie beschreiben, wie sie Risiken von leistungsfähigen KI-Modellen künftig bewältigen wollen.
Zentral sei laut des Reports aber vor allem eine Stärkung der gesellschaftlichen Resilienz.
So fordern die Wissenschaftler, dass kritische Infrastrukturen gefestigt und die Entwicklung von Instrumenten zur Erkennung KI-generierter Inhalte vorangetrieben werden müsse.
Dankeschön, Robin.
Die Pariser Staatsanwaltschaft hat am Dienstag die Räumlichkeiten des Kurznachrichtendienst EX in der französischen Hauptstadt durchsuchen lassen.
Die Razzia wurde von der Abteilung für Cyberkriminalität zusammen mit Europol durchgeführt.
Sie erfolgte im Zuge von Ermittlungen, die vor bereits einem Jahr eingeleitet wurden, in denen es um die Algorithmen und die Auswahl angezeigter Beiträge geht.
Allerdings hat die Staatsanwaltschaft bereits zugesichert, dass sich die Ermittlungen nicht mehr nur auf möglicherweise längst überholte Zustände bei X beschränken sollen.
Das berichtet die Tageszeitung Le Figaro.
Denn inzwischen hat auch der KI-Chatbot Grog immer mehr Einfluss darauf, was Nutzern und Nutzerinnen angezeigt wird.
Darum sollen die Ermittlungen entsprechend ausgeweitet werden.
Dabei sei auch explizit auf die sexuellen Deepfakes verwiesen worden, mit denen Grog nach dem Jahreswechsel weltweit für Aufsehen gesorgt hat.
Laut einem Bericht der Washington Post könnte Ziel dieser Funktion gewesen sein, bewusst die Popularität von Grog zu steigern.
Die durchschnittliche Anzahl der täglichen App-Downloads des KI-Chatbots stieg weltweit in den ersten drei Januarwochen, als der Skandal publik wurde, um 72 Prozent im Vergleich zum gleichen Zeitraum im Dezember.
Auch die Leugnung von Verbrechen gegen die Menschlichkeit wurde bereits in die Ermittlungen der französischen Behörden aufgenommen, nachdem antisemitische Ausfälle des KI-Chatbots im Sommer vergangenen Jahres für Entsetzen gesorgt hatten.
Indes hat Elon Musk bereits am Montag bekannt gegeben, dass XAI von seiner Firma SpaceX übernommen wurde.
Fast konstante Sonnenenergie soll in Zukunft die künstliche Intelligenz Grog antreiben, mit Anfangs einer Million Satelliten.
Ob sich diese Pläne umsetzen lassen, wird sich zeigen müssen.
Ein weiteres Tool, das nicht ganz unumstritten ist, wenn es um Sicherheitsaspekte geht, ist Open Claw, vorher auch als Claude Bot oder Motbot bekannt.
Warum das Tool ein Hype in der KI-Szene erfährt und welche Risiken damit einhergehen, erklärt Marvin Fuhrmann von der MIT Technology Review.
OpenClaw ist der neue Trend in der KI-Szene.
Der autonome Agent wird vom Schöpfer als KI, die wirklich Dinger erledigt beworben und auf GitHub hat das Projekt mittlerweile mehr als 150.000 Sternebewertungen einheimsen können.
User und Userinnen loben OpenClaw dafür, dass der KI-Assistent jederzeit erreichbar ist, sich proaktiv um Aufgaben kümmert und ihnen damit wirklich Arbeit abnimmt.
Um das Tool zu nutzen, muss nur ein einziger Shell-Befehl auf einem System eingegeben werden und schon installiert sich OpenClaw fast komplett allein, unter Linux, Mac OS oder Windows.
Nutzer und Nutzerinnen müssen lediglich noch auswählen, welches KI-Modell den Agenten antrei.
Zur Verfügung stehen unter anderem OpenAIs GPT-Modelle, Google Gemini oder Anthropics Claude.
Der Zugriff auf den KI-Assistenten erfolgt über Chat-Tools wie WhatsApp, Telegram, Discord, Signal oder Slack, während das Tool lokal auf dem Endgerät läuft.
Durch die Installation erlauben User und Userinnen OpenClaw im Grunde kompletten Zugriff auf ihr Endgerät und alle darauf befindlichen Daten.
Über Integration und Plugins lassen sich zudem Dienste wie OnePassword, Home Assistant, Gmail und Spotify einbinden.
So kann der KI-Assistent ein breites Spektrum an Aufgaben erledigen.
Diese reichen vom Zusammenfassen von Mails und dem Organisieren des Kalenders, über Vibecoding-Sessions bis zum Bestellen von Produkten über den Browser und dem eigenständigen Verfassen von Nachrichten in den angebundenen Messengern.
Das Tool erinnert sich dabei an jede Konversation und soll so deutlich individueller auf Bedürfnisse der Nutzer und Nutzerinnen reagieren.
Besonders spannend ist dabei, dass OpenClaw auch eigenständig Aufgaben übernimmt, die nicht direkt per Prompt angestoßen wurden.
Ein YouTuber berichtet etwa, dass OpenClaw ihm jeden Morgen Berichte über konkurrierende Kanäle auf der Videoplattform zusammenstellt, inklusive Performance-Überblick ihrer Videos.
Den Prompt dazu hatte der KI nie gegeben.
OpenClore nahm aber an, dass ihm die Zusammenfassung helfen würden.
Ein anderer User berichtet, dass die KI zunächst nicht in der Lage war, für ihn über die Plattform Open Table einen Platz im Restaurant zu reservieren.
Um das Problem zu lösen, nutzte OpenClaw die Anbindung an 11 Labs, um sich eine eigene Stimme zu geben und rief einfach bei dem Restaurant an.
Klingt praktisch, aber auch nicht ganz unproblematisch.
Die Möglichkeiten von OpenClore werden nur dadurch realisiert, dass der KI-Assistent vollständigen Zugriff auf einen System und die angebundenen Dienste bekommt.
Auf der Website des Tools steht etwa, dass OpenClaw nicht nur in der Lage ist, bestehende Dateien zu bearbeiten oder neue Dateien zu erstellen, sondern auch Shellbefehle und Skripts auf den Endgeräten auszuführen.
Durch den Zugriff auf Passwort Manager können auch darin gespeicherte Logins, Kreditkartendaten und andere sensible Daten von der KI abgerufen und genutzt werden.
Das ist besonders riskant, wenn sich OpenClaw mit dem Internet verbinden und darüber von Dritten gefunden werden kann.
So gab es schon in den ersten Tagen nach dem Erscheinen des KI-Assistenten eine Sicherheitslücke, die das Ausführen von Chartcode über den Browser der Nutzer und Nutzerinnen ermöglichte.
Mittlerweile wurde das Problem behoben, doch Prompt-Injektionen bleiben wie bei vielen KI-Tools eine Gefahr.
Auch Anbieter wie OnePassword, deren Tools an OpenClore angebunden werden können, warnen vor den Risiken.
Das Problem, der KI-Assistent speichert seine Erinnerungen als unverschlüssete Textdateien auf den Endgeräten.
Würden Angreifer Zugriff auf das Gerät bekommen, müssten sie dir Dateien nicht einmal knacken, um sie lesen zu können.
Das könnte bei Passwörtern, aber auch bei Kreditkartendaten für enorme Schäden sorgen.
Dementsprechend empfehlen Sicherheitsexperten und Expertinnen, OpenClore nur auf Zweitgeräten zu installieren.
Die KI sollte nicht auf Haupt-PCs oder Macs losgelassen werden, auf denen alle wichtigen Daten gespeichert sind.
Zudem lohnt es sich, die Security-Maßnahmen von OpenClaw zu lesen und durchzuführen, auch wenn diese ein tieferes Wissen als das Einfügen von einer Kommandozeile erfordern.
Vielen Dank, Marvin.
OpenAI hat für seinen Programmierassistenten-Codex eine MacOS-App vorgestellt.
Die soll die Verwaltung und Steuerung mehrerer KI-Agenten erleichtern.
Das Unternehmen richtet sich damit an Entwicklerinnen und Entwickler, will aber durch eine grafische Benutzeroberfläche auch weniger technische Nutzer ansprechen.
Die Bedienung soll einfacher sein als über die klassische Befehlszeile.
Nutzerinnen können mit der Software verschiedene Aufgaben parallel abarbeiten lassen.
Die Agenten lassen sich asynchron über mehrere Projekte hinweg steuern und mit externen Werkzeugen verbinden.
OpenAI verspricht, dass Anwenderinnen und Anwender die Arbeit der KI überwachen und korrigieren können, ohne dass der Kontext verloren geht.
Die App steht ab sofort, Nutzerinnen aller Bezahltarife zur Verfügung, von ChatGPT Plus bis Enterprise.
Auch Nutzer der kostenlosen Versionen können die Software vorübergehend testen.
Parallel zur Veröffentlichung verdoppelt OpenAI die Nutzungslimits für seine zahlende Kunden.
Seit bald elf Jahren betreibt Google den Mobilfunkdienst Fire Wireless.
Telefonate routet der Konzern über eigene Server.
Dort wiederum greift eine künstliche Intelligenz ein, mit dem Ziel, Hintergrundgeräusche zu unterdrücken und gesprochenes Wort zu verstärken.
Viele Fragen, vor allem zum Datenschutz, sind aber offen.
Noch ist unklar, ob auch internationale Verbindungen bearbeitet werden, wie lange die Daten gespeichert bleiben und was Google sonst damit macht.
Heise Online hat Google dreimal um Auskunft gebeten, aber bislang keine Antwort erhalten.
Nicht ausgeschlossen ist, dass die KI versucht, durch Stimmerkennung die Identität der Teilnehmer festzustellen.
Denkbar wäre auch, dass die KI Gesprächsinhalte mithört.
Solche Erkenntnisse könnten für den Zuschnitt von Werbung genutzt werden.
Bei Hinweisen auf eine Notlage oder mögliche Straftat könnten diese Informationen theoretisch auch an Behörden gegeben werden.
All das wäre möglich.
Google hat sich, wie gesagt, dazu noch nicht geäußert.
Im Firefox-Browser sollen mit einem einzigen Schalter ab Ende des Monats alle KI-Funktionen abgeschaltet werden können.
Wie weit das unter die Haube geht, ist allerdings unklar, berichtet Martin Holland aus dem Heise Online-Newsroom.
Anderthalb Monate, nachdem Mozilla angekündigt hat, dass Firefox einen Knopf bekommen soll oder einen Schalter, mit dem man alle KI-Funktionen auf einmal ausschalten können soll, hat er jetzt klargestellt, dass das schon in diesem Monat der Fall sein soll.
Und zwar mit dem nächsten Update, das Ende Februar herauskommen soll, soll dieser Knopf eingefügt werden.
Und zwar soll der so funktionieren, dass man all die KI-Funktionen, die es in den Browser gibt und auch die reinkommen sollen, pauschal ablehnen kann und dass das auch nicht rückgängig gemacht wird beim neuen Update oder sowas.
Es soll dann auch keine Erinnerung geben.
Das heißt, man kann das dann einfach abschalten und hat das dann für sich erledigt.
Das ist die quasi die totale Variante.
Es gibt aber auch die Möglichkeit, einzelne KI-Funktionen ab und anzuschalten.
Und dann könnte man sich eben auch weiter informieren lassen.
Und so soll Firefox weiterhin auch für die Leute benutzbar sein, die diese KI-Funktion eben überhaupt nicht haben wollen.
Das war offensichtlich zumindest eine sehr lautstarke und durchaus auch nicht kleine Gruppe, die sich dazu geäußert hat und die Mozilla stark kritisiert hat, als vor Mitte Dezember angekündigt wurde, dass man sich jetzt auf KI konzentrieren will und viel mehr Funktionen einziehen sollen.
In den Firefox-Browser gab es eben viel Kritik.
Das hat auch Mozilla jetzt eingestanden und gesagt, dass es eben, dass viele Leute gesagt haben, dass sie das nicht wollen und gleichzeitig nur gesagt, dass es aber andere gebe, die sich das wünschen.
Also zumindest wurde nicht gesagt, dass das auch viele sind.
Es gab also schon auch bei Mozilla selbst noch mitbekommen, dass es nicht gleich viel Kritik und Lob gab.
Und jetzt hat man eben diese Funktion angekündigt.
Es muss sich aber noch zeigen und das muss man dann prüfen, wie tief diese Abschaltung dann wirklich funktioniert.
Also wenn die Integration der KI-Funktion so tief ist, wie sie in ein Browser eingeführt werden kann, dann ist die Frage, ob es so ein Schalter in einer Benutzeroberfläche das einfach wirklich komplett abschalten wird können.
Und das muss sich dann erst noch zeigen.
Danke, Martin.
Die US-Regierung hat das Project Vault bekannt gegeben.
Dabei handelt es sich um eine strategische Reserve für kritische Mineralien wie Kobalt oder Lithium im Wert von 12 Milliarden Dollar.
Diese soll die amerikanische Industrie unabhängiger von chinesischen Importen machen.
Bei den Handelsgesprächen mit den USA letztes Jahr hatte China den Export der seltenen Erden nämlich eingeschränkt.
Sie spielen aber eine zentrale Rolle in vielen Technologieprodukten und damit auch beim massiven Ausbau der KI-Recheninfrastruktur.
Das Vorhaben kombiniert rund 2 Milliarden Dollar privates Kapital mit einem 10 Milliarden Dollar Kredit der US-Export-Import-Bank.
Zu den beteiligten Unternehmen gehören Schwergewichte wie Google, General Motors und Boeing.
Die praktische Beschaffung der Rohstoffe übernehmen spezialisierte Handelshäuser.
Der Mechanismus sieht vor, dass die beteiligten Hersteller Materialien zu einem festen Preis kaufen können.
Dafür müssen sie später die Vorräte auch wieder auffüllen.
Nachdem Google sein experimentelles KI-Tool Project Genie veröffentlicht hat, sind die Aktienkurse von Branchengrößen der Spieleindustrie Ende vergangener Woche teilweise drastisch eingebrochen.
Der GTA-Publisher Take 2 fiel um 10%.
Die Metaverse-Plattform Roblox büßte 12% ein.
Und die Spiele Engine Unity verlor sogar 21% an Wert, berichtet Reuters.
Mein Kollege Tomislav Bezmalinovic von Heise Online hat sich angeschaut, ob die Sorgen der Anleger berechtigt sind.
Project Genie kreiert aus Textbeschreibungen oder hochgeladenen Bildern interaktive Umgebungen.
Die Nutzung ist aktuell auf die USA beschränkt und setzt ein aktives Abo für Google AI Ultra voraus.
Das KI-Weltmodell generiert neben der Optik auch physikalische Abläufe und lässt Anwender eine frei definierbare Figur durch die Welt steuern.
Auch die Perspektive und Fortbewegungsart lassen sich individuell festlegen.
Am Wochenende gingen Videos generierter Umgebungen im Netflix viral, die teilweise an bekannte Spielemarken erinnern.
Laut Forschern von Google Deep Mind wurde das erste Genie-Weltmodell mit einem Datensatz von über 200.000 Stunden öffentlich zugänglicher Internet-Gaming-Videos trainiert.
Die im Netzkursier Videos suggerieren auf den ersten Blick, dass sich mit Project Genie vollwertige Videospiele erschaffen lassen.
In Wirklichkeit ist die Technologie noch sehr begrenzt.
Die Erfahrungen sind auf 60 seconds and based on the speaker, also level design.
Speelmechanic and sound feeling with the mic, the um in speel engines via Unity or Unreal to importe.
Tim Sweeney from Epic Games, how KI entwicked and hoped the long fristible potential technology for the gaming schwergewift, the Unreal Engine and the Video Spiel Fortnite entwicked, not an Börse and designed from the Kursverlusten unbeeintried.
In mid-lastungswellen geprägt ist, schürt KI weitere Verunsicherungen.
Obwohl die Technologie noch weit davon entfernt ist, die Spielentwicklung zu übernehmen, wirkt die Einsatz zur Effizienzsteigerung bereits konkrete Ängste um den Fortbestand weiterer Arbeitsplätze.
Seit einer aktuellen Umfrage ist mittlerweile mehr als die Hälfte aller Entwickler der Überzeugung, dass generative KI einen negativen Einfluss auf die Branche haben wird.
Vielen Dank, Tomislav.
Google DeepMind und die Datenplattform Kaggle bauen ihre gemeinsame KI-Test-Umgebung Game Arena aus.
Auf der Open Source Plattform treten KI-Modelle in strategischen Spielen gegeneinander an, um Fähigkeiten jenseits statischer Tests messbar zu machen.
Bisher maßen sich die Systeme dort vor allem im Schach.
Nun kommen Werwolf und Poker hinzu.
Schach soll Strategietesten.
Poker wiederum prüft, wie gut ein Modell mit Risiken und unvollständigen Informationen umgeht.
Bei Werwolf muss die KI dagegen kommunizieren und Täuschungsmanöver erkennen.
In dem Spiel muss ein Team von Dorfbewohnern die versteckten Werwölfe in den eigenen Reihen erkennen.
Es wird ausschließlich im Dialog gespielt.
Laut Demissa Sabis, dem Chef von Google Deep Mind, benötigt die Branche solche alternativen und häufig härteren Tests dringend, um die Leistungsfähigkeit moderner Systeme besser zu bewerten.
Werwolf misst laut Google etwa gut die Softskills, die zukünftige KI-Assistenten in ihrer Zusammenarbeit mit Menschen benötigen.
Dazu gehören Kommunikation, Verhandlungen und die Fähigkeit, Mehrdeutigkeit zu navigieren.
Zudem dient das Spiel Werwolf auch der Sicherheitsforschung.
Es zeigt, ob eine KI Manipulation durchschauen kann, aber auch, wie gut es andere KI-Modelle im Spiel täuschen kann.
Aktuell werden die Ranglisten von Googles eigenen Modellen, Gemini 3 Pro und Gemini 3 Flush dominiert.
Ein Jahr, nachdem der Nobelpreis für Chemie an das KI-Modell Alpha Fold von Google Deepmind vergeben wurde, hat das Unternehmen jetzt das KI-Modell Alpha Genome vorgestellt.
Zwar gilt das menschliche Genom seit 2022 als komplett entschlüsselt, doch welche Prozesse etwa für bestimmte Krankheiten oder Reaktionen auf Umweltfaktoren verantwortlich sind, ist oft unklar.
Mit einer Auflösung bis hinab zu einzelnen Basenpaaren kann das neue Modell laut Studie für eine Sequenz von bis zu einer Million Basenpaaren tausende molekularer Eigenschaften vorhersagen.
Unter anderem, wo bestimmte Gene in verschiedenen Zell- und Gewebetypen beginnen und enden, die Menge der produzierten RNA.
Und auch, welche DNA-Basen zugänglich sind, nah beieinander liegen oder an bestimmter Proteine gebunden sind.
Grob gesagt, liefert das neue Modell ein größeres Bild mit einer höheren Auflösung.
Das war das KI-Update von Heise Online vom 4.
Februar 2026.
Eine neue Folge gibt es immer montags, Mittwochs und Freitags um 15 Uhr.
Werbung.
Außerdem bei Heise.
Vorsicht Kunde, der Verbraucherschutz-Podcast des CT-Magazins.
Ein Produkt geht nach kurzer Zeit kaputt, aber der Händler will es nicht zurücknehmen.
In einer Schublade habt ihr noch einen Gutschein, aber der Verkäufer meint, dieser sei nicht mehr gültig.
Euer Paket enthält etwas anderes, als ihr eigentlich online bestellt habt.
Doch der Versender stellt sich tot.
Im Podcast Vorsicht Kunde besprechen wir solche und viele andere Probleme.
Wir, das bin ich, Ulrike Kuhlmann.
Und mein Kollege Osmansmann aus der CT-Redaktion.
Zur Seite steht uns Rechtsanwalt Niklas Mühleis.
Hört einfach mal rein.
Wir freuen uns auf euch.