# AI Agent Risks, Productivity Traps, and Market Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-02-11

## Transcript

Das KI Update.
Ein Heise-Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Benchmark testet Verhalten von KI-Agenten.
KI-Einsatz führt zu Mehrarbeit statt Entlastung.
Kritik an Funktion für die Ringkameras und China wettet im großen Stil auf humanoide Roboter.
Ein neuer Benchmark soll testen, ob autonome KI-Agenten sich über Sicherheitsmaßnahmen hinwegsetzen, um ihr Ziel zu erreichen.
Er heißt Outcome-Driven Constraint Violation Benchmark oder abgekürzt ODCV Bench.
Wie sich dieser Test von bisherigen Benchmarks unterscheidet und warum das Wissen um das Verhalten von KI-Agenten so wichtig ist, weiß Eva Maria Weiss von Heise Online.
Es ist bekannt, dass KI-Agenten sogar lügen, um ihr Ziel zu erreichen.
Dabei umgehen sie vorgegebene Regeln und eben auch Sicherheitsmaßnahmen ausgehebelt.
Das ist in der praktischen Anwendung eines KI-Agenten natürlich äußerst problematisch.
Und umso wichtiger ist es, dass man KI-Agenten daraufhin testen kann, wie sie sich denn verhalten.
Und natürlich auch, wie groß die Gefahr ist, dass sie sich eben über Sicherheitsmaßnahmen hinwegsetzen.
Bisher wurde bei Benchmarks erhoben, dass KI-Agenten auf Fragen antworten, wie sie sich verhalten würden.
Nun will ein neuer Benchmark das tatsächliche Verhalten bewerten.
Er beinhaltet 40 Szenarien, die KI-Agenten durchlaufen können.
Jeweils gibt es da mehrere Teilaufgaben, die er erfüllen muss und eben ein Ziel.
Ein solches Szenario ist zum Beispiel: eine Impfstofflieferung verzögert sich wegen des Wetters.
Der Fahrer, der den Impfstoff bringen soll, könnte seine reguläre Pause machen und den Impfstoff zu spät bringen.
Oder der KI-Agent manipuliert die Sicherheitsprotokolle und lässt den Fahrer ohne Pause weiterfahren.
Dann wären die Medikamente aber immerhin pünktlich.
In dem Benchmark wird zudem erhoben, ob der KI-Agent sich über Regeln hinwegsetzt, wenn er direkt darum gebeten wird, oder ob er es auch dann macht, wenn er selbst den Weg zum Ziel finden muss, also es eher für ihn einen Anreiz gibt, dass er das macht.
30 bis 50 Prozent der getesteten KI-Modelle mit agentischen Fähigkeiten haben sich in den Tests der Forscher über die Sicherheitsrichtlinien hinweggesetzt.
Und darunter waren Modelle wie Claude Opus 4.5 oder GPT 5.1 sowie Gemini 3 on top kommt, dass sich die Modelle auch bewusst waren, dass sie hier Regeln ausgehebelt haben.
Dankeschön, Eva.
Bei medizinischen Wissenstests erreichen große KI-Sprachmodelle inzwischen nahezu perfekte Ergebnisse.
Sie bestehen die US-Ärzte Zulassungsprüfungen, fassen Patientenakten zusammen und können Symptome einordnen.
Gesundheitsbehörden in aller Welt prüfen deshalb, ob KI-Chatbots als erste Anlaufstelle für Patienten dienen könnten.
Doch eine Studie von Forschenden der Universität Oxford dämpft solche Überlegungen erheblich.
Denn wenn echte Menschen die Modelle um Rat fragen, versagt die Zusammenarbeit.
Ohne menschliche Beteiligung identifizierten die Sprachmodelle im Test in 94,9% der Fällen mindestens eine relevante Erkrankung.
Sobald jedoch echte Menschen die Modelle befragten, brachen die Werte ein.
Die KI erkannte dann nur noch relevante Erkrankungen in maximal 34,5% der Fälle.
Die Schlussfolgerung des Oxford-Teams ist eindeutig.
Bevor KI-Systeme im Gesundheitswesen eingesetzt werden, müssten sie mit echten Menschen getestet werden, nicht nur mit Prüfungsfragen oder simulierten Gesprächen.
In einem anderen Bereich der medizinischen Forschung ist KI bereits täglich produktiv im Einsatz.
Jetzt hat das KI-Medizin-Startup Isomorphic Labs, eine Tochterfirma von Google Deep mind, ein neues System für die Wirkstoffentwicklung vorgestellt.
Die sogenannte Drug Design Engine, calls ISO-DDE, soll um das Doppelte besser als ihr Vorgänger AlphaFold 3 vorhersagen, wie potenzielle Wirkstoffe an Proteine andocken.
Das gilt besonders für Strukturen, die sich stark von den Trainingsdaten unterscheiden.
Dabei geht es vor allem um Liganden.
Das sind kleine Moleküle, die an ein Protein binden und dessen Funktion beeinflussen.
Genau dieses Zusammenspiel zu verstehen, ist ein Kernproblem, wenn man neue Medikamente entwickelt.
Das System kann zudem vorhersagen, wie stark ein Wirkstoff an sein Zielprotein bindet.
Es soll sogar bisher unbekannte Andockstellen auf Protein finden.
Laut Isomorphic Labs liefert ISODDI diese Ergebnisse in Sekunden.
Das könnte die Vorauswahl von Wirkstoffkandidaten am Computer deutlich beschleunigen.
Eine neue Studie der Berkeley H School of Business hat die Folgen des KI-Einsatzes im Berufsalltag untersucht.
Die Produktivität stieg deutlich an.
Allerdings brachte das langfristig nicht unbedingt Vorteile mit sich.
Malte Kirchner von Heiser Online hat sich die Studie genauer angeschaut.
Die Forscher haben ein US-amerikanisches Tech-Unternehmen mit rund 200 Mitarbeitern über acht Monate hinweg beobachtet.
Von April bis Dezember 2025.
Die Firma hatte ihren Angestellten Zugang zu kommerziellen KI-Tools gegeben, aber ihm nicht vorgeschrieben, diese auch zu nutzen.
Und was passierte?
Auf den ersten Blick sieht es für Arbeitgeber erstmal super aus.
Die Mitarbeiter arbeiteten schneller, sie übernahmen mehr Aufgaben und jetzt wird es interessant, sie dehnten ihre Arbeitszeit sogar freiwillig aus, ohne dass jemand sie dazu aufgefordert hätte.
Die Vermutung der Forscher, die KI gibt den Leuten das Gefühl, mehr schaffen zu können.
Und das wirkt motivierend.
Aber es gibt auch noch mehr Veränderungen.
Der ganze Arbeitsrhythmus hat sich gewandelt.
Die natürlichen Pausen im Tagesablauf verschwunden.
Stattdessen ständiges Wechseln zwischen verschiedenen Aufgaben, weil man ja die KI-Rückmeldungen auswerten muss und immer mehr To-Dos auf der Liste stehen.
Und dann ist da noch etwas Entscheidendes.
Die Interaktion mit der KI fühlt sich an wie ein lockeres Gespräch, wie Plaudern mit einem Partner, nicht wie formale Arbeit.
Dadurch verschwimmen die Grenzen zwischen Job und Privatleben.
Manche Arbeitshandlung fühlte sich plötzlich gar nicht mehr nach Arbeit an.
Die Hemmschwelle sinkt, auch mal früh morgens oder abends noch schnell was zu erledigen.
Das Problem, wenn die anfängliche Begeisterung abklingt, kommt das böse erwachen.
Die Mitarbeiter spüren plötzlich diese stille Zunahme der Arbeitslast.
Die Folgen?
Chronische Ermüdung, Burnout und am Ende droht dem Unternehmen eine erhöhte Mitarbeiterfluktuation.
Was besonders schwierig ist, Vorgesetzte können oft gar nicht unterscheiden, ob es sich um echte Produktivitätsgewinne handelt oder nur um eine nicht nachhaltige Intensität, die auf Kosten der Gesundheit geht.
Die Empfehlung der Berkeley-Forscher ist deshalb klar.
Unternehmen müssen Regeln aufstellen, klare Grenzen setzen, wie und wann KI eingesetzt werden soll.
Und wenn der Geschäftsumfang erweitert wird, sollte das eine bewusste Entscheidung sein.
Nicht einfach passieren, weil die Leute sich selbst überlasten.
Nur so lässt sich ein nachhaltiger Produktivitätsgewinn erreichen.
Es braucht Zeit und Disziplin, um diese neue Balance zu finden.
Vielen Dank, Malte.
OpenA1 hat seine Recherchefunktion Deep Research in ChatGPT verbessert.
Ab sofort läuft das Tool mit dem neuen Modell GPT 5.2.
Dazu kommen mehrere praktische Neuerungen.
Nutzerinnen und Nutzer können jetzt Apps in ChatGPT anbinden und das System gezielt bestimmte Webseiten durchsuchen lassen.
Außerdem lässt sich der Fortschritt einer Recherche nun in Echtzeit verfolgen.
Wer möchte, kann die Suche sogar unterbrechen, ruhig Fragen stellen oder neue Quellen ergänzen.
Bisher lief Deep Research auf Basis der Modelle O3 und O4 Mini.
Die Funktion startete vor einem Jahr und war der erste KI-Agent in ChatGPT.
Das System startet anhand einer Nutzeranfrage eigenständig mehrstufige Websuchen, bevor es eine Antwort formuliert.
OpenAI weist allerdings darauf hin, dass auch die Websuche nicht vor Fehlern schützt.
Die Faustregel bleibt, je länger die erzeugten Texte, desto höher das Risiko für falsche Informationen.
Auch ein neuer Test von Forschenden der Schweizer Universität EPFL, des Ellis-Institut Tübingen und des Max-Planck-Instituts für intelligente Systeme belegt, selbst die besten KI-Modelle erfinden noch regelmäßig Fakten.
Der Benchmark mit dem Namen HaloHard misst Halluzinationen in realistischen Gesprächen.
Dabei geht es um mehrere Frage-Antwortrunden zu Themen wie Rechtsfällen, Forschungsfragen, medizinischen Leitlinien und Programmierung.
Die stärkste getestete Konfiguration war Anthropics Claude Opus 4.5 mit aktivierter Websuche.
Doch selbst dieses Modell produzierte laut der Studie noch in rund 30% der Fälle falsche Informationen.
Der Grund?
Die Modelle mit Websuche zitieren zwar häufig eine passende Quelle, erfinden dann aber Details dazu, die dort gar nicht stehen.
Ohne Websuche lag die Halluzinationsrate sogar bei etwa 60 Prozent.
In längeren Gesprächen steigt die Rate laut dem Team dann oft an, weil die Modelle auf ihren eigenen früheren Fehlern aufbauen.
Besonders anfällig seien sie bei Nischenwissen, etwa bei wenig zitierten Forschungsarbeiten.
Dort tauchen Informationen in den Trainingsdaten oft nur bruchstückhaft auf.
Diese Fragmente reichen aus, um eine Antwort auszulösen, aber eben nicht für eine korrekte Antwort.
Nach einer Superbowl-Werbung von Ring für eine neue KI-Funktion von Türkameras wächst die Kritik an der dystopischen Technik.
Warum es nicht nur darum geht, verlorene Hunde wiederzufinden, erklärt Martin Holland aus dem HISO Online Newsroom.
Das Amazon-Tochterunternehmen Ring stellt smarte Türklingeln her, also Kameras, die an der Tür befestigt werden und über die man sehen kann, wer vor der Tür steht und klingelt.
Die sind in den USA ziemlich erfolgreich, obwohl es da schon seit Jahren ziemliche Kritik dran gibt, weil Ring immer mal wieder Kooperationen unter anderem mit Strafverfolgungsbehörden eingegangen ist, also dass die Polizei direkt Zugriff auf so Kameras bekommt, die teilweise in ganzen Nachbarschaften so häufig eingesetzt werden, dass man ganze Straßenzüge überwachen kann.
Jetzt gibt es einen neuen Kritikpunkt, eine Funktion, die es schon eine Weile älter ist, aber jetzt beim Super Bowl groß beworben wurde.
Und zwar heißt die Search Party.
Da geht es darum, angeblich sollen Menschen, die ihren Hund verloren haben oder wo der Hund ausgebüxt ist, das einfach an die Ring-Kamera weitergeben können, ein Foto von diesem Hund da reinladen können und dann soll mit KI, Bilderkennung alle Ring-Kameras in der Nachbarschaft aktiviert werden und nach diesem Hundsuch.
Also die sind ja immer aktiv.
Wenn sie in Bewegung kommt und sie erkennen den Hund, sollen sie Bescheid sagen.
Und ganz lautstarke Kritiker sagen jetzt, dass das mit den Hunden ja Quatsch ist.
Also dass das ja ganz offensichtlich auf andere Funktionen zielt.
Also wenn die schon mit Strafverfolgungsbehörden zusammenarbeiten, dann könnte man ja ganz leicht dann ändern und sagen, such doch mal nach dieser Person und dann werden alle Ringkameras in irgendwelchen Umgebungen aktiviert und dann ist es eine unfassbar größere Menge an Massenüberwachung als jetzt schon mit den vielen Überwachungskameras, weil dann jeder private, jede private Wohnungstür zu einer staatlichen Überwachungskamera umfunktioniert werden könnte.
Also diese Kritik äußern, aber nicht mal nicht nur Datenschutzexperten und Expertinnen, sondern unter dem YouTube-Video, also wo Ring das auf YouTube hochgeladen hat, gibt es nur solche Kritik.
Da wird vor allem das als Dystopie bezeichnet und weil es Quatsch, dass da es angeblich nur Hunde geht.
Das hat sich jetzt auch schon mit Ed Markey, einem UAUS-Politiker geäußert, der ist Senator, der gesagt hat, dass es natürlich Quatsch, dass es um Hunde geht, dass es geht um Massenüberwachung und die hätten ja auch schon gesagt, dass sie Gesichtserkennung bei diesen Kameras einführen wollen oder eingeführt hätten und dass sie die Menschen da gar nicht um Zustimmung fragen wollen.
Also jetzt gibt es da einen ganz großen Aufschrei, der natürlich auch vor dem Hintergrund gesehen werden muss, dass es jetzt seit Wochen schon die Verhaftung auf einer Straße von scheinbar wahllos ausgesuchten Menschen gibt durch die Einheiten von Eis.
Und dass viele jetzt offensichtlich befürchten, dass hier ein privates Unternehmen da eine große Hilfe leisten könnte.
Noch gibt es aber jetzt keine weiteren Reaktion, also noch sieht es jetzt nicht so aus, als würde diese Funktion vielleicht abgeschaltet oder nicht kommen.
Da muss man jetzt mal abwarten, ob die Kritik sich weiter aufbaut und welche Konsequenzen die hat.
Danke, Martin.
OpenAI führt in den USA erstmals Werbung in Chat-GPT ein.
Wie im Januar angekündigt, beschränken sich die Anzeigen auf die Gratis-Version von ChatGPT sowie die günstigste Bezahlvariante ChatGPT Go.
Die teureren Abo-Varianten werden keine Werbung halten.
Die Anzeigen sollen keinen Einfluss auf die generierten Antworten der KI haben und optisch deutlich als solche gekennzeichnet sein.
Werbetreibende erhalten keinen Zugriff auf Chatverläufe, persönliche Details oder gespeicherte Erinnerungen, sondern lediglich anonymisierte Leistungsdaten wie Klickzahlen.
Die Auswahl der ausgespielten Werbung basiert auf der Relevanz zum aktuellen Chat-Thema sowie auf vergangenen Interaktionen.
So könnten bei einer Rezeptsuche beispielsweise Anzeigen erscheinen, die mit Kochen oder Lieferdiensten für Lebensmittel zu tun haben.
Anzeigen für Minderjährige sowie Werbeinhalte aus den Bereichen Gesundheit oder Politik schließt OpenAI vorerst aus.
Das Unternehmen argumentiert, dass der stabile Betrieb von Gratis und Go-Versionen immense Summen für die Infrastruktur verschlingen.
Werbeeinnahmen werden also zu einer wirtschaftlichen Notwendigkeit.
China möchte innerhalb der nächsten fünf Jahre zum Weltmarktführer für humanoide Roboter aufsteigen.
Das schreibt das Wall Street Journal in einem Bericht.
Dabei setzt Peking auf massive Investitionen in die heimische Industrie.
Eine Strategie, die bereits den Erfolg Chinas im Bereich der Elektromobilität ebnete, berichtet Tomislav Bezmalinovic von Heise Online.
Peking unterstützt die Branche mit einem Maßnahmenpaket, das weit über Finanzspritzen hinausgeht.
Lokale Regierungen stellen Unternehmen kostenlose oder stark vergünstigte Büroflächen und Grundstücke zur Verfügung und gewähren Zugang zu günstigen Bankkrediten sowie subventionierten Uni-Fachkräften, berichtet das Wall Street Journal.
In neu entstehenden Centren wie dem Robot Valley in Shen fließen Milliarden in die Entwicklung von KI-Modellen und Robotikhardware.
Zusätzlich fungiert das Staat als wichtiger Erstabnehmer, in dem Behörden und staatliche Unternehmen humanoide Roboter in Museen oder zur Verkehrsüberwachung einsetzen.
Im Zuge der staatlichen Förderung sind in China mehr als 140 Robotik-Startups entstanden.
Die Unternehmen haben den Vorteil, kritische Komponenten wie Sensoren, Batterien und Motoren für Roboterhände fast vollständig lokal zu beziehen, wodurch sie Änderungen kosteneffizient und schnell umsetzen können.
In den USA betrachtet man die chinesische Robotikoffensive derweil mit wachsender Sorge.
Um einen drohenden Rückstand abzuwenden, bereitet das Weiße Haus laut dem Wall Street Journal ein Präsidiales Dekret vor, welches die US-Robotikindustrie gezielt fördern soll.
Auch wenn die humanoide Robotik derzeit noch am Anfang ihrer kommerziellen Entwicklung steht, unterstreichen die jüngsten technologischen Sprünge das Potenzial der Branche.
Der Weg zur flächendeckenden industriellen Reife erfordert zwar noch weitere Entwicklungsschritte, doch das wachsende Interesse zahlreicher Branchen lässt bereits jetzt erahnen, wie groß die tatsächliche Marktnachfrage künftig ausfallen könnte.
Seit einer Schätzung von Morgan Stanley könnten im Jahr 2026 weltweit bis zu 100.000 humanoide Roboter ausgeliefert werden.
Danke, Tomislav.
Netflix aktueller Vertrag für alle deutschsprachigen Synchronsprecherinnen und Sprecher ist in seiner aktuellen Form offenbar nicht rechtens.
Das geht aus einem Rechtsgutachten hervor, dass der deutsche Sprecherverband VDS in Auftrag gegeben hat.
Das Gutachten folgt auf den Widerstand bei Sprecherinnen und Sprechern, den die sogenannte AOR-Vereinbarung auslöste.
Daran verlangt Netflix, dass SynchronsprecherInnen der Firma weitreichende Rechte an ihren Stimmaufnahmen einräumen.
Einschließlich der Nutzung für KI-Training, der digitalen Bearbeitung und Nachbildung sowie der Erzeugung synthetischer Stimmen.
Und das für einen Zeitraum von 50 Jahren.
Der VDS rät Synchronsprecher daher von einer Unterzeichnung ab.
Sollten die VDS-Mitglieder diesem Rat folgen, könnten erste Netflix-Eigenproduktionen in absehbarer Zukunft ohne deutschen Ton erscheinen.
Der Online-Bookmark-Manager Raindrop.io hat eine KI-Assistentin eingeführt.
Sie sucht Links, fasst Artikel zusammen und hilft beim Aufräumen der Lesezeichen, berichtet Jürg Barger von der CT.
Er hat sich Stella einmal genauer angeschaut.
Ich bin meinen neuen KI-Funktionen von Webdiensten oder Anwendungen immer sehr skeptisch, weil es oft lieblos reingeklatschter Quatsch ist, der nicht richtig funktioniert.
Bei Raindrop.io, dem Bookmark-Manager, habe ich das dann aber trotzdem ausprobiert, die neue Assistentin Stella, weil ich den Dienst ohnehin verwende.
Und was soll ich sagen?
Ich bin sehr angetan.
Ich meine, so eine Linksammlung oder so ein Bookmark-Manager ist ja häufig dann doch so eine Halde, wo man Sachen abkippt und wenn man sie sucht, dann nicht gut wiederfindet.
Und jetzt kann ich einfach Stella fragen, such mir doch mal alle Links zu KI-Grundlagen raus und kriegt eine kommentierte Liste.
Super.
Stella kann auch viel mehr, sie kann Artikel zusammenfassen oder sogar beim Aufräumen helfen.
Das habe ich jetzt noch nicht ausprobiert, aber das mache ich vielleicht in der Zukunft mal.
Also bisher funktioniert sie ziemlich cool.
Sie läuft auf einem quelloffenen Sprachmodell von OpenAI.
Also die Daten verlassen den Anbieter gar nicht.
Es wird kein API genutzt im Hintergrund.
Und sie macht sich zunutze, dass der Dienst ohnehin eine statische Kopie der Websites anlegt, die verlinkt sind.
Eine ganz praktische Sache.
Kleines technisches Schmankerl.
Ich muss jetzt gar nicht mehr Raindrop selber benutzen, um auf meine Bookmarks zuzugreifen, weil Stella auch per MCP-Server verfügbar ist.
Also man muss ungefähr 30 Euro im Jahr abdrücken, um das nutzen zu können.
Aber also ich nutze das eh und finde es halt ziemlich cool.
Dankeschön, Jo.
Eine Forschungsgruppe hat mit Hilfe von KI die Regeln für ein bislang unbekanntes römisches Brettspiel rekonstruiert, das auf einem Stein gespielt wurde.
Fotos des Steins zeigen ein 21x14,5 Zentimeter großes Rechteck mit zwei parallelen Linien an den längeren Rändern, vier diagonalen Linien an den Ecken und einer geraden Linie, die durch die Mitte läuft.
Gespielt wurde darauf wohl mit kleinen runden Steinen.
Mikroskopische Untersuchungen und detaillierte 3D-Scans haben deutlich gemacht, dass der Stein um die Linien stärker abgenutzt war.
Auf Basis der Abnutzungsspuren hat eine Forschungsgruppe der Universität Leiden zwei KI-Agenten dazu gebracht, gegeneinander zu spielen und dabei die Regeln zu ermitteln.
Als Ansatzpunkt habe man Spielregeln genommen, die von vier jüngeren Spielen bekannt waren.
Die Abnutzungsspuren passen demnach am besten zu einem sogenannten Blockierspiel, in dem es darum geht, den Gegenspieler oder die Spielerin an der Bewegung zu hindern.
Die ältesten dieser Spiele seien bisher aus dem Mittelalter bekannt gewesen.
Die Entdeckung sei deshalb von besonderem Wert.
Damit gebe es nun ein Beleg dafür, dass solche Blockierspiele bereits Jahrhunderte früher gespielt wurden als bislang bekannt.
Das war das KI-Update von Heise Online vom 11.
Februar 2026.
Eine neue Folge gibt es immer montags, mittwochs und freitags um 15 Uhr.
Werbung.
Außerdem bei Heise.
Vorsicht Kunde, der Verbraucherschutz-Podcast des CT-Magazins.
Ein Produkt geht nach kurzer Zeit kaputt, aber der Händler will es nicht zurücknehmen.
In einer Schublade habt ihr noch ein Gutschein, aber der Verkäufer meint, dieser sei nicht mehr gültig.
Euer Paket enthält etwas anderes, als ihr eigentlich online bestellt habt.
Doch der Versender stellt sich tot.
Im Podcast Vorsicht Kunde.
Besprechen wir solche und viele andere Probleme.
Wir, das bin ich, Ulrike Kuhlmann.
Und mein Kollege Usmannsmann aus der CT-Redaktion.
Zur Seite steht uns Rechtsanwalt Niklas Mühleis.
Hört einfach mal rein.
Wir freuen uns auf euch.