# AI Governance, User Loyalty, and Enterprise Integration Gaps

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-02-09

## Transcript

Das KI-Update, ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
US-Heimatschutzministerium nutzt KI-Videogeneratoren für Social Media.
Nutzende trauern um GPT4O wie um einen verstorbenen Freund.
Macht Apple bei KI jetzt alles besser und Wissenschaftler tracken Eisberg-Lebenszyklus mit KI.
Erst Ende Januar hatte das Weiße Haus ein KI-manipuliertes Foto einer Bürgerrechtsaktivistin verbreitet, die in Minneapolis festgenommen worden war.
Das Original zeigt die US-Aktivistin mit gefasstem Gesichtsausdruck, während sie von Beamten abgeführt wird.
Das Bild, das vom Weißen Haus in sozialen Netzen veröffentlicht wurde, zeigt die Frau dagegen mit verheultem Gesicht und einem klagenden Blick in die Kamera.
Fälle wie diese legen den Verdacht nahe, dass in US-Regierungskreisen KI für Bilder genutzt wird, die dann der Öffentlichkeit zugänglich gemacht werden.
Jetzt belegt ein veröffentlichtes Dokument, dass etwa das US-Heimatschutzministerium die Technologie verwendet.
Meine Kollegin Jenny Leppies von der MIT Technology Review gibt ein Einblick in die Details.
Der neue Bericht benennt jetzt konkret, welche kommerziellen KI-Tools die Ministerien zur Veröffentlichung von Bildern, Videos und anderen Materialien verwenden.
Genannt werden der Videogenerator WO3 von Google und Adobe's Firefly.
Angeblich sollen zwischen 100 und 1000 Lizenzen für die Werkzeuge geordert worden sein.
In anderen Bereichen setzt das Heimatschutzministerium unter anderem Microsoft Copilot Chat für die Texterstellung und für Zusammenfassungen ein.
Außerdem wird die Software PUSID für Programmieraufgaben genutzt.
Aus den Dokumenten geht weiterhin hervor, dass auch das Werkzeug Flow verwendet wird.
Das ist eine Software von Google, die den Videogenerator WO3 mit einer Reihe von Werkzeugen zur Filmverarbeitung kombiniert.
Benutzer können mit dem KI-System nicht nur Clips generieren, sondern ganze Videos zusammenstellen, einschließlich Dialogen und Hintergrundgeräuschen.
Unsere US-Amerikanischen Kollegen von der MIT Technology Review haben auch ein paar Anfragen an Google, Adobe und das Heimatschutzministerium geschickt, mit der Bitte um Stellungnahme, jedoch gab es bis zum Zeitpunkt dieser Aufnahme keine Rückmeldung.
Trotz des neuen Berichts bleibt also weiterhin offen, wie genau die Behörden die Werkzeuge zur Videogenerierung einsetzen.
Dankeschön, Jenny.
In Spanien trafen sich vergangene Woche zum dritten Mal Fachleute, um über Responsible AI in the Military Domain zu diskutieren.
Verbindliche Regeln für KI-Einsatz im Krieg sind allerdings noch ein Wunschtraum.
Die Abschlusserklärung wurde nur von 35 der 80 vertretenen Staaten unterschrieben, darunter von Deutschland.
Darin fordern die Expertinnen und Experten, dass Regierungen die Risiken des militärischen Einsatzes von KI detaillierter bewerten müssen.
Entscheidungsprozesse müssten so dokumentiert werden, dass die Verantwortung für den Einsatz automatisierter Waffensysteme nachvollziehbar bleibt.
Auch Datenbanken mit möglichen Risiken und Nebenwirkungen von Systemen hielt die Kommission für sinnvoll.
Großmächte wie die USA und China haben das Abschlussdokument nicht unterzeichnet.
Bemerkenswert am Bericht der Kommission ist die lange Liste der KI-Systeme, die bei Streitkräften verschiedener Länder bereits im Einsatz sind.
Sie reicht von der KI-unterstützten Entscheidungshilfe Felix bei der NATO über Forschungsprogramme zur Verkürzung der Entwicklungszeiten für Kampfflieger bis zu operativ eingesetzten KI-Systemen, etwa Maven Smart von Palantir bei der NATO, das auf Lama beruhende LLM-Chatbit in China oder autonome Streubomben der Marke Harpy in Israel.
Die lange Beispielliste illustriert, wie weit diplomatische Versuche gemeinsame Normen zu schaffen, hinter der Realität militärischer KI-Anwendungen zurückgeblieben sind.
Aber neue internationale Gesetze zu autonomen Waffensystemen sind auf jeden Fall machbar, erklärt eine Sprecherin der Initiative Stop Killer Robots auf Anfrage von Heise Online.
Die Vereinten Nationen könnten dabei auf Ergebnisse der UN-Arbeitsgruppe zu tödlichen autonomen Waffen aufbauen.
Man müsse jetzt einfach den nächsten Schritt gehen.
Damit Cyberkriminelle den Skill Marketplace Claw Hub des KI-Assistenten OpenClaw nicht mit Shortcode-Verseuchten Erweiterungen überfluten, überwacht ab sofort Googles Online-Virenscanner Virus Total die Plattform.
Denn hat OpenClaw etwa vollzeugriff auf einen Passwortmanager, um bestimmte Aufgaben erledigen zu können, ist das für die Nutzerin zwar praktisch, aber auch ein immenses Sicherheitsrisiko.
Das haben Cyberkriminelle längst auf dem Schirm und verbreiten auf Claw Hub auf den ersten Blick harmlose Erweiterungen, die heimlich Passwörter auslesen und an die Kriminellen schicken.
Um das Hochladen von Malware-Skills einzudämmen, suchen die Scanner von Virus Total in Uploads nach Chartcode-Passagen.
Verdächtige Skills werden gesperrt und sind nicht downloadbar.
Bereits hochgeladene Skills sollen täglich erneut gescannt werden, um nachträglich hinzugefügte Malware zu entdecken.
Weil der primär signaturbasierte Ansatz nur bereits bekannte Trojaner und Hintertüren findet, ist das natürlich kein Allheilmittel.
In der Summe ist die Partnerschaft aber sinnvoll und ein weiterer Baustein, den mächtigen KI-Assistenten sicherer zu machen.
Im August 2025 vollzog das KI-Unternehmen OpenAI einen scheinbar routinemäßigen Schritt.
Das Standardmodell GPT 4O wurde durch den Nachfolger GPT-5 ersetzt.
Was technisch als Upgrade gedacht war, löste bei einer Kerngruppe der Nutzerinnen und Nutzer heftige Reaktionen aus.
Unter dem Hashtag Keep4.
formierte sich Widerstand.
Eine neue Studie der Syracuse University beleuchtet nun die Hintergründe dieser Bewegung.
Max Schreiner von The Dakota hat sich die Studie angeschaut.
Die Studio untersuchte für ihre Analyse fast 1000 Beiträge auf der Plattform X.
Ihr Ziel war es, zu verstehen, warum ein Software-Update-Reaktion hervorrufen kann, die eher an den Verlust eines menschlichen Freundes erinnern.
Die Ergebnisse zeichnen ein komplexes Bild dieser Mensch-KI-Interaktion.
Denn rund ein Viertel der untersuchten Beiträge deuten, wie zu erwarten war, auf eine starke emotionale Bindung hin.
Nutzer gaben dem KI-Modell eigene Namen, bezeichneten es als Partner oder emotionale Stütze.
Die Abschaltung des Zugangs erlebten diese Menschen als echten Verlust.
Ein Nutzer verklichcht die Einführung des neuen GPT-5-Modells sogar drastisch damit, dass etwas Fremdes nun die Haut eines toten Freundes trage.
Neben der emotionalen Ebene spielte aber auch die Arbeitspraxis eine Rolle.
Etwa 13% der Protestierenden beklagten, dass ihre Arbeitsabläufe zerstört wurden.
Sie empfanden das neuere, angeblich intelligentere Modell als weniger kreativ oder nuanciert.
Die Studie isoliert jedoch einen spezifischen Faktor, der die Trauer in öffentliche Proteste verwandelte.
Den Zwang.
Denn die Daten zeigen, dass nicht die emotionale Bindung allein den Ausschlag gab, sondern der Entzug der Wahlfreiheit.
OpenAI hatte den Nutzern eben einfach keine Möglichkeit gelassen, beim alten Modell zu bleiben.
Beiträge, die diesen Zwang thematisierten, forderten überdurchschnittlich oft dann auch Nutzerrechte und Mitsprache mit ein.
Technisch gesehen stehen die Nutzer vor einem Dilemma, das auch OpenAI kaum lösen kann.
Für viele kommt ein Wechsel zur Konkurrenz einfach nicht in Frage, denn die Identität ihres Begleiters ist nun mal eng an OpenAIs Infrastruktur gebunden.
Aber ein Entwickler des Unternehmens erklärte auch, dass der spezifische Charakter eines Modells wie GPT VO einfach ein Zufallsprodukt des Trainingsprozesses ist.
Diese Persönlichkeit lässt sich demnach nicht einfach kopieren oder eins zu eins wiederherstellen.
Was die Nutzer als die Seele ihres digitalen Begleiters wahrnahmen, war am Ende also nicht mehr als ein nicht reproduzierbarer technischer Zustand verloren mit dem Ende von 4 O.
Die Studie leitet daraus daher einige Empfehlungen für die Industrie ab.
KI-Updates seien, so zeigt die Studie, mehr als technische Wartungsarbeiten, sie seien soziale Ereignisse.
Plattformen müssten in Zukunft sogenannte End-of-Life-Pfade entwickeln.
Das könnten Übergangsphasen sein, in denen alte Modelle noch verfügbar bleiben, um den Nutzern einen Abschied oder eine langsame Umgewöhnung zu ermöglichen.
OpenAI hatte ja auch dann tatsächlich den Zugriff auf 4O inzwischen temporär wieder ermöglicht, plant aber jetzt die endgültige Abschaltung noch in dieser Woche.
Dankeschön, Max.
Der Chef des Chip-Herstellers Nvidia, Jensen Huang, hat in einem Interview mit dem US-Sender CNBC behauptet, generative KI halluziniere nicht mehr.
Halluzinationen bezeichnen das Problem, dass Sprachmodelle falsche Informationen erzeugen und als Fakten ausgeben.
Man könnte Huang zugutehalten, er selbst habe halluziniert, sozusagen eine Halluzinationshalluzination.
Dass er eigentlich deutlich weniger meinte oder selten genug, dass es kaum noch auffällt.
Wahrscheinlich ist dem sogar so, aber gerade diese Unterscheidung ist alles andere als nebensächlich.
Halluzinationen sind kein Fehler, den Entwickler einfach beheben können.
Sie sind ein Nebenprodukt der Architektur, auf der Sprachmodelle basieren.
Diese Modelle erzeugen Text auf Grundlage von Wahrscheinlichkeiten.
Genau diese fehlende Verlässlichkeit sorgt in vielen Unternehmen für Zurückhaltung beim Einsatz von KI.
Wären Halluzinationen tatsächlich gelöst, könnte KI-generierter Code direkt in Produktion gehen.
Rechtsberatung ließe sich weitgehend automatisieren und medizinische Diagnosen könnten ohne ärztliche Prüfung gestellt werden.
Dass der CEO des wichtigsten KI-Chip-Lieferanten bei CNBC behaupten kann, KI mache keine Fehler mehr und niemand ihm widerspricht, ist vielleicht das deutlichste Zeichen dafür, wie weit sich der KI-Hype von der technischen Realität entfernt hat.
Dazu passt auch, dass KI-Agenten in Unternehmen oft nicht zuverlässig ohne aufwendige Anpassung funktionieren.
Und genau deshalb bauen OpenAI und der Konkurrent Anthropic ihre technischen Beratungsteams massiv aus.
OpenAI stellt laut einem Bericht von The Information hunderte neue Ingenieure ein, die Modelle mit Kundendaten anpassen und KI-Agenten entwickeln.
Derzeit beschäftigt das Unternehmen rund 60 solcher Spezialistinnen und Spezialisten und über 200 Mitarbeitende im technischen Support.
Wie nötig diese Unterstützung ist, zeigt ein Beispiel aus dem Einzelhandel.
Der französische Händler Fnac testete Modelle von OpenAI und Google für den Kundensupport.
Die KI-Agenten verwechselten dabei regelmäßig Seriennummern.
Erst mit externer Hilfe des KI-Unternehmens, AI21 Labs, funktionierte das System.
Der Fall wirft eine grundsätzliche Frage auf.
Wie schnell können KI-Agenten wie Claude's Cowork oder das unsicheren Moldbot ohne solche aufwendigen Integrationsprozesse tatsächlich Mehrwert schaffen.
Verbesserte Modelle und höhere Verlässlichkeit bei Routineaufgaben könnten helfen.
Allerdings bleiben grundlegende Sicherheitsrisiken bei Sprachmodellen weiter bestehen.
Lange Zeit war Apple in Sachen künstlicher Intelligenz hinten.
Nun soll der Konzern auch dank Googles Gemini vorankommen.
Was ist von den Ideen zu halten?
Ben Schwan von der Mac and I hat sie unter die Lupe genommen.
Zerschlägt Apple in Sachen KI endlich seinen selbst erschaffenen gordischen Knoten.
Nach der enttäuschenden Veröffentlichung von Apple Intelligence im Jahr 2024, ja, so lange ist das bereits her, wollte man das zuletzt gar nicht mehr glauben.
Doch mit Hilfe von Google und seiner Gemini-KI soll es nun endlich klappen beim iPhone-Hersteller.
Geplant ist allerdings auch diesmal nur ein schrittweises Vorgehen.
Losgehen soll es im April oder Mai mit dem iOS-Update auf Version 26.4.
Dann ist die bereits 2024 angekündigte kontextsensitive Siri angeblich bereit.
Sie soll Dinge mit Nutzerdaten anstellen können, die bislang nicht gehen, außerdem mit Apps interagieren.
Schon das soll teilweise mit Google Gemini Unterstützung erfolgen.
Einen echten Chatbot erwartet der Markt von Apple allerdings erst später mit iOS 27.
Bis dahin soll es gelungen sein, auf das neueste Gemini-Modell zu aktualisieren, um Siri endlich Weltwissen und Kommunikationsfähigkeiten zu verschaffen.
Vorstellungen im Sommer, Verfügbarkeit frühestens im Herbst.
Und dann gab es da noch eine weitere eher überraschende Nachricht.
Angeblich arbeitet Apple intern an einem KI-Gadget, um einem geplanten Gerät von OpenAI Konkurrenz zu machen.
Hier geht es um Apples Ehre, schließlich steckt hinter dem Projekt des Chat-GPT-Machers der ehemalige Apple-Designchef Johnny Ife.
Aber auch das ist eine Sache, wofür Apple Zeit braucht.
Das angeblich anpinnbare KI-Wearable soll nicht vor 2027 erscheinen.
Dankeschön, Ben.
Der Mitgründer und CEO der Kryptobörse Crypto.com, Chris Marzalek, hat die Domain AI.com für 70 Millionen US-Dollar erworben.
Laut Domainbroker Larry Fischer ist das der bislang höchste öffentlich bekannte Preis für einen Domainnamen.
Unter AI.com ist am Wochenende eine neue Plattform für autonome KI-Agenten online gegangen.
Sie soll es Nutzerinnen und Nutzern erlauben, persönliche Assistenten zu entwerfen.
Diese sollen dann eigenständig Aufgaben erledigen, zum Beispiel Nachrichten versenden, Arbeitsabläufe organisieren, Apps bedienen und sogar Aktien handeln oder Datingprofile aktualisieren.
Das Konzept erinnert etwas an OpenClaw, über das wir in der vergangenen Woche berichtet haben.
Das Hauptmerkmal der neuen Plattform ist laut Unternehmensangaben die Fähigkeit der Agenten, fehlende Features selbstständig zu entwickeln.
Diese Verbesserungen sollen dann im Netzwerk mit Millionen anderen Agenten geteilt werden, was die Leistungsfähigkeit aller Agenten erhöhen soll.
Nutzende können kostenlos oder über ein geplantes Abo-Modell mehrere Agenten erstellen.
Alle Daten würden verschlüsselt in isolierten Umgebungen gespeichert.
KI ist eher dafür bekannt, große Mengen an Energie zu verschlingen und so den Klimawandel zu befeuern.
In der Forschung wird KI aber auch dafür eingesetzt, die Folgen der globalen Erwärmung zu tracken, zum Beispiel um Eisberge zu beobachten.
Wie das funktioniert, erklärt mein Kollege Robin Ahrens aus der CT-Redaktion.
Es ist nicht ganz einfach, Eisberge auf ihrer Reise durch die Weltmeere zu verfolgen.
Sie bewegen sich schnell und dynamisch, brechen in Einzelteile oder schmelzen teilweise ab.
Ihre Form verändert sich also stetig, was das Tracking erheblich erschwert.
So eine Nachverfolgung von Eisbergen ist aber wichtig, weil durch Abbrüche und Schmelz auf einschlag große Mengen Süßwasser in den Ozean freigesetzt werden.
Das verändert die Meeresströmung, wodurch maritime Ökosysteme oder das globale Klima aus dem Takt gebracht werden.
WissenschaftlerInnen der British Antarctic Survey haben nun ein Tool entwickelt, das mit Hilfe von künstlicher Intelligenz den Lebenszyklus von Eisbergen bis ins Detail nachverfolgen kann.
Das KI-System wettet Satellitenbilder aus und identifiziert einzelne Eisberge.
Die erhalten quasi eine eigene Identität, denn jeder Eisberg ist einzigartig, weil er ganz charakteristische geometrische Form hat.
Auf der Grundlage von Satellitenbildern verfolgt das KI-gestützte Tool die verschiedenen Eisbergidentitäten dann regelmäßig.
Auch ihre Formveränderungen werden dabei berücksichtigt.
Jeder abgebrochene Teil wird etwa dem Eltern Eisberg als Kind zugeordnet.
So lassen sich den Forschenden zufolge ganze Eisbergstammbäume erstellen und auf den Weltmeeren nachverfolgen.
Zum ersten Mal kann man also sehen, woher jedes Fragment eines Eisbergs stammt und wohin es während seines Lebens reist.
Die gewonnenen Tracking-Daten werden dann zur Verbesserung globaler Klima- und Ozeanmodelle genutzt.
Mit Hilfe dieser Modelle lassen sich Vorhersagen treffen, wo und wie sich der polare Eisverlust besonders auswirken wird.
Bislang haben die britischen WissenschaftlerInnen das KI-Monitoring-System an Eisbergfragmenten aus Nordwestgrönland getestet.
Und die Tests waren wohl ziemlich vielversprechend.
Dankeschön, Robin.
Wer heute in einem hochautomatisierten Fahrzeug der Stufe SAE 3 im Stau steht, darf theoretisch die Hände vom Lenkrad nehmen und den Blick von der Straße.
Das Auto übernimmt das Bremsen, Beschleunigen und lenken, während der Mensch auf dem Fahrersitz die neu gewonnene Freiheit für ein Buch oder den Blick aufs Smartphone nutzen kann.
Doch eine Grenze bleibt bisher eisern.
Sobald die Augen zufallen, schlägt das System Alarm.
Denn bislang können Autos nicht verlässlich unterscheiden, ob ein Fahrer nur kurz die Augen schließt, um zu entspannen oder ob er bereits in den Tiefschlaf gleitet.
Hier setzt das Forschungsprojekt Salsa an.
Es steht für Smarter, Adaptive und Lernbare Systeme für alle.
Dahinter steht ein Verbund aus Automobilherstellern, Zulieferern und WissenschaftlerInnen, denen unter anderem die Uni Stuttgart und das Fraunhofer-Institut für Obtronik, Systemtechnik und Bildauswertung vorantheimen.
In umfangreichen Nutzerstudien haben die Forschenden Daten erhoben, um eine KI zu trainieren.
Sie soll dadurch weit mehr ausmachen können als nur geschlossene Augenlider.
Es geht um Nuancen in der Körperhaltung und minimale Bewegungen, die von Innenraumkameras erfasst und in Echtzeit analysiert werden.
So soll das System lernen, ob eine Person lediglich regeneriert oder tatsächlich eingeschlafen ist.
Das ist entscheidend.
Eine entspannte Fahrerin mit geschlossenen Augen ist bereits nach etwa zehn Sekunden wieder voll Einsatzbereit.
Ein schlafender Mensch benötigt dagegen mindestens zwei Minuten, bis er wieder sicher agieren kann.
Auch damit dieser Übergang nicht nur sicher, sondern komfortabel gelingt, hat das Projektteam untersucht, wie ein sanftes Wecken durch das Fahrzeug aussehen könnte.
Ein bloßes schrilles Warnsignal reicht oft nicht aus oder führt zu Schreckreaktionen.
Eine Kombination aus Vibrationen im Sitz und gezielten Soundelementen wäre laut den Forschenden der optimale Weg, um den Fahrer zurück ins Hier und Jetzt zu holen.
Das war das KI-Update von Heise Online vom 9.
Februar 2026.
Eine neue Folge gibt es immer montags, Mittwochs und Freitags um 15 Uhr.
Werbung.
Außerdem beheiße.
CT Ablink Moin, ich bin Jan aus dem Team unseres Podcasts CT Ablink.
Jeden Samstag sprechen wir in einer neuen Folge mit Kolleginnen und Kollegen aus der Redaktion über fachliches und nerdiges zu CT-Artikeln, über Details und Hintergrundgeschichten, über Ansichten und Meinungen.
Hört mal rein in den CTA blink.
Überall, überall wo ihr Podcasts hören könnt.
Wir versprechen euch, es wird garantiert nerdig.