# AI ROI Gaps, EU Sovereignty, and Agent Monetization

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-06-05

## Transcript

Das KI-Update, ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen.
Anthropic, Clued Mythos und die NSA.
Die EU plant mehr digitale Unabhängigkeit.
Umfrage unter Unternehmen.
Was bringt KI?
Und Meta hofft auf Geld durch KI-Agenten.
Mehrere Angestellte von Anthropic helfen dem US-Geheimdienst NSA offenbar dabei, das neue KI-Modell Claude Mythos Preview für offensive Cyberaktivitäten zu nutzen.
Mehr Informationen dazu jetzt von Martin Holland.
Obwohl der Konflikt zwischen Anthropic und dem US-Verteidigungsministerium noch gar nicht gelöst ist, hat das KI-Unternehmen laut einem Zeitungsbericht inzwischen mehrere Angestellte dazu abgestellt, bei der NSA, dem Auslandsnachrichtendienst der USA, dabei zu helfen, die mächtige neue KI-Mythos für offensive Operationen einsatzbereit zu machen.
Das berichtet zumindest die Financial Times unter Berufung auf zwei Quellen, die damit vertraut seien.
Von Antropik selbst gibt es dazu kein Statement und es ist auch unklar, was...
Genau gemacht wird.
Also laut dem Bericht geht es darum, dass die KI dafür angepasst wird für diese Operation.
Ob jetzt die Anthropic-Angestellten direkt bei den Operationen helfen, steht da nicht.
Das muss ja dann auch nicht sein, sondern es erweckt den Eindruck, als würden sie eben...
vor allem dabei helfen, die anzupassen.
Mythos ist die neue KI, die bislang immer noch nicht öffentlich gemacht wurde von Anthropic, weil sie angeblich so gut darin sei, Sicherheitslücken zu finden und daraus Angriffswege zu bauen, dass es zu gefährlich sei, sie öffentlich zu machen.
Deswegen haben da eigentlich offiziell immer nur Unternehmen darauf Zugriff, die kritische Software.
Und die sollen die damit prüfen und absichern, bevor zwangsläufig entweder Mythos veröffentlicht wird oder andere KIs genauso leistungsfähig sind.
Dass Mythos nun von der NSA eingesetzt wird, ist nicht ganz überraschend.
Eine Quelle von der Financial Times sagt, dass diese KI sehr gut dazu in der Lage ist, fremde Netzwerke einzudringen von gegnerischen Staaten.
Als Beispiel wird China und der Iran genannt und dass man das natürlich machen wolle, bevor die wiederum das Gleiche gegen die USA machen.
Was das Ganze jetzt für die Auseinandersetzung zwischen der US-Regierung und Anthropic bedeutet, ist unklar.
Die NSA gehört in den Verantwortungsbereich des Verteidigungsministeriums und eigentlich hieß es da ja, dass alle KI-Technik von Anthropic entfernt werden muss.
Danke, Martin.
Die EU-Kommission will die Abhängigkeit Europas von außereuropäischen Technologiekonzernen verringern.
Dazu hat sie jetzt Maßnahmen für technologische Souveränität vorgestellt.
Künftig will Brüssel stärker in die IT-Strukturen und die Softwarebeschaffung der Mitgliedstaaten eingreifen.
Im Mittelpunkt steht der sogenannte Cloud and AI Development Act.
Er ist Teil eines übergeordneten Plans, mit dem Europa zu einem führenden Standort für KI werden möchte.
Die Verordnung verpflichtet die Mitgliedstaaten, ihre Verwaltungssoftware nach Sicherheits- und Souveränitätsrisiken zu bewerten.
In besonders sensiblen Bereichen könnten Behörden auch dazu gezwungen sein, ausschließlich europäische Soft- und Hardware zu nutzen.
Außerdem sollen quelloffene Lösungen bei der Beschaffung bevorzugt werden.
Parallel plant die Kommission eine Neuauflage ihres Halbleiterprogramms.
Damit will sie einen stabilen Markt für europäische KI-Chips schaffen.
Zudem soll ein eigenes auf europäischen Daten trainiertes KI-Modell für den Energiesektor entstehen.
Diese Vorhaben erfordern enorme Investitionen, die die EU-Staaten alleine nicht werden tragen können.
Die EU hofft deshalb auch auf zusätzliches privates Kapital.
Bevor die neuen Regeln gelten, müssen Parlament und Ministerrat noch zustimmen.
Doch werden sich die großen Investitionen in KI auch irgendwann und irgendwie lohnen?
Unternehmen weltweit investieren immer mehr in künstliche Intelligenz, doch die damit erhofften Einsparungen bleiben bisher oft aus.
Das ist das Ergebnis einer aktuellen Umfrage der US-Unternehmensberatung Bain unter fast 1000 Firmen weltweit.
Kim Scheurenbrand mit Einzelheiten.
Die Zahlen sind heute noch ernüchternd.
37% der befragten Unternehmen streben Kostensenkungen zwischen 11 und 20% an.
Doch fast 40% erreichten weniger als 10% Einsparungen.
Immerhin schafften 14% der Führen Einsparungen von mehr als 21%.
Trotzdem bleiben viele Unternehmen hinter ihren Erwartungen zurück.
Die Studie liefert auch eine Erklärung für die Lücke zwischen Erwartung und Realität.
Ein zentrales Problem ist die menschliche Beteiligung.
Die Investitionsrechnungen vieler Unternehmen basieren auf dem Einsatz vollautonomer KI-Agenten.
Das sind Systeme, die Aufgaben eigenständig und ohne menschliches Zutun erledigen.
In der Praxis setzen aber nur 7% der Firmen solche Systeme tatsächlich ein.
32% verwenden immerhin Systeme, die Menschen nur bei Bedarf einbeziehen.
Am weitesten verbreitet ist mit 38% ein Ansatz, bei dem jede einzelne Aktion eine menschliche Freigabe erfordert.
Das reduziert natürlich die tatsächlich erzielten Einsparungen deutlich.
Trotz der eher noch enttäuschenden Ergebnisse wollen 9 von 10 Unternehmen ihre Investitionen in KI-Agenten weiter erhöhen.
Die größte Hürde bleibt laut der Studie der Zugang zu den richtigen Daten.
41% der Befragten nennen diesen Punkt als größte Hindernis.
Bain rät Unternehmen, das Datenproblem nicht als reine IT-Aufgabe zu behandeln, sondern zur Chefsache zu machen.
Außerdem sollten Firmen ihre Prozesse grundlegend überarbeiten, bevor sie KI einführen.
Danke Kim.
Viel Hoffnung liegt also weiterhin auf den KI-Agenten, den Agents, auch beim Meta-Konzern.
Meta investiert viel Geld in KI und sucht nach Wegen, daraus ein profitables Geschäft zu machen.
Der Großteil der Umsätze stammt bislang aus Werbung.
Nun sollen KI-Agenten zu einer neuen Einnahmequelle werden.
Tomislav Besmalinovic berichtet.
Damit rückt Meta stärker in einen Markt vor, in dem auch Anbieter wie OpenAI, Anthropic und Google um zahlende Kunden konkurrieren.
Im Mittelpunkt steht zunächst der Meta Business Agent für Unternehmen, die ihre Kundenkommunikation über WhatsApp, Messenger und Instagram abwickeln.
Bislang wurde der KI-Agent in ausgewählten Märkten getestet, nun wird er weltweit verfügbar gemacht.
Der Meta Business Agent kann Kundenanfragen automatisch beantworten, Produkte empfehlen, Termine buchen und Verkäufe abschließen.
Der Dienst ist derzeit noch kostenlos.
In den kommenden Monaten will Meta jedoch kostenpflichtige Tarife einführen.
Für Firmen mit höheren Bedarf sollen die Gebühren von der Nutzung abhängen.
Die potenzielle Zielgruppe ist jedenfalls groß.
Laut Meta wird allein WhatsApp von mehr als 200 Millionen kleinen Unternehmen zur Kundenkommunikation genutzt.
Zusätzlich arbeitet Meta laut einem neuen Bericht an einem KI-Agenten für Privatnutzer, der intern Hatch genannt wird.
Dieser soll Termine planen, E-Mails verschicken und per Texteingabe einfache Softwarewerkzeuge erstellen können.
Für eine Premium-Version erwägt Meta demnach einen Preis von bis zu 200 US-Dollar im Monat.
Mit diesen Diensten muss Meta zeigen, dass sich seine milliardenschweren KI-Ausgaben auch in eigenständige Bezahlprodukte übersetzen lassen.
Der Druck ist hoch.
Die KI-Investitionen des Konzerns könnten in diesem Jahr laut Meta bis zu 145 Milliarden US-Dollar erreichen.
Danke, Tomislav.
Der Chip-Hersteller TSMC kann die hohe Nachfrage nach seinen KI-Chips derzeit nur teilweise bedienen.
Konzernchef Ji Chiawei sagte, dass es womöglich lange dauern könnte, bis das Unternehmen allen Kundenwünschen nachkommen wird.
Um die Produktion zu steigern, investiert TSMC in neue Anlagen.
Der Konzern lastet zudem bestehende Werke möglichst stark aus.
Dadurch ist die Produktionsmenge zuletzt auch deutlich gestiegen.
Dennoch reicht die Kapazität nicht aus.
TSMC produziert im Auftrag vieler Kunden.
Lange war Apple der größte Abnehmer, doch in diesem Jahr dürfte der KI-Chip-Hersteller Nvidia an die Spitze rücken.
Auch der Konkurrent AMD lässt seine KI-Chips bei TSMC fertigen.
Ein internationales Forschungsteam wollte herausfinden, ob KI eigentlich bereits eine reale Sicherheitsbedrohung darstellt.
Zu diesem Zweck entwickelte das Team einen neuartigen Computerwurm, der mithilfe von KI weitgehend selbstständig agieren kann.
Der Wurm bewegt sich von Computer zu Computer und entwickelt für jedes Gerät einen maßgeschneiderten Angriff.
Damit übernimmt er dann den Computer, springt von dort aus weiter und pflanzt sich immer weiter fort.
Bekannte Würmer nutzen meist nur eine einzelne Sicherheitslücke aus.
Dieser Wurm aber führt auf infizierten Rechnern offene, große Sprachmodelle aus.
Mit deren Hilfe analysiert er jedes befallene Gerät, erkennt dessen Schwachstellen und programmiert in Echtzeit einen passenden Schadcode.
Weil die Sprachmodelle auf gekaperten Geräten laufen, entstehen für die Angreifer auch keine Kosten.
Außerdem umgeht der Wurm zentrale Sicherheitskontrollen kommerzieller KI-Dienste.
Bisher schützen regelmäßige Updates vor bekannten Würmern.
Ein anpassungsfähiger KI-Wurm aber kann auch frische Lücken ausnutzen, bevor ein Patch bereitsteht.
Ein anderes Forschungsteam aus den USA hat mehrere bekannte KI-Sprachmodelle, darunter GPT-5, Claude und Gemini, einem klassischen psychologischen Test unterzogen.
Beim sogenannten Stroop-Test werden Farbwörter in einer abweichenden Schriftfarbe gezeigt.
Das Wort Rot also erscheint dann zum Beispiel in blauer Schrift.
Die Aufgabe beim Test besteht dann darin, ausschließlich die Farbe der Schrift zu benennen und die Wortbedeutung zu ignorieren.
Im genannten Beispiel würde die richtige Antwort also blau lauten.
Denn die Schrift des Wortes Rot war ja blau.
Eigentlich keine schwierige Aufgabe, könnte man denken.
Und Menschen lösen das auch bei langen Listen zuverlässig.
Die KI-Modelle dagegen machten viele Fehler.
Je mehr Wörter sie verarbeiten mussten, desto schlechter wurde das Ergebnis zudem.
Der Test zeigt, dass KI-Modelle eben nicht zuverlässig erkennen, welche Informationen wichtig sind und welche nicht.
Sie sind auch eher darauf trainiert, Wörter zu lesen, als Farben zu benennen, weshalb sie automatisch den Inhalt eines Wortes zuerst verarbeiten.
Anders als Menschen können sie diesen Vorgang nicht unterdrücken.
Eine angestrebte allgemeine künstliche Intelligenz soll flexibel und menschenähnlich denken.
Dazu muss sie solche automatische Reaktionen unterdrücken und sich auf das Wesentliche konzentrieren können.
Genau diese Fähigkeit fehlt den Modellen bislang.
Gelänge es ihnen, unwichtige Informationen auszublenden, ließe sich zudem sehr viel Rechenleistung sparen.
Eine Untersuchung der KI-Plattform i10x.ai zeigt, dass KI-Chatbots Bewerbungsunterlagen sehr unterschiedlich beurteilen.
Die Modelle bevorzugen oder benachteiligen bestimmte Stile von Lebensläufen, selbst wenn der Inhalt identisch ist.
Für die Studie wurden zahlreiche fiktive Bewerbungsprofile erstellt.
Mehrere KI-Modelle verfassten dann dazu Lebensläufe und bewerteten anschließend alle Versionen nach demselben Schema.
Dabei zeigten sich aber auffällige Unterschiede.
Einige Modelle bewerteten ihre eigenen Lebensläufe deutlich besser als die der Konkurrenz.
Auffällig war zudem, dass die vom Modell Gemini verfassten Lebensläufe bei fast allen Bewertungen am besten abschnitten.
Allein deren Schreibstil verschaffte den Bewerbungen also einen Vorteil.
Besonders kritisch ist, dass dieselbe Person mit denselben Qualifikationen je nach Modell ganz unterschiedlich beurteilt wurde.
Abschließend rät die Plattform, Unternehmen mehrere Modelle zu kombinieren und auf Verzerrungen zu prüfen.
Außerdem sollten sie den Bewerbenden offenlegen, welche KI sie bei ihren Bewerbungsprozessen verwenden.
Das Unternehmen Perplexity bringt mit dem Personal Computer einen KI-Agenten auf den Markt.
Nach dem bereits erfolgten Start auf Mac-Rechnern ist er nun auch auf Windows verfügbar.
Der Agent läuft direkt auf dem Computer und verbindet lokale Dateien, installierte Programme und Webdienste in einem System.
Statt einzelne Anfragen zu beantworten, arbeitet er wie ein dauerhafter digitaler Mitarbeiter.
Er kann Aufgaben über längere Zeit erledigen, etwa Daten aufbereiten oder Ordner sortieren.
Über das kostenpflichtige Abo bündelt Perplexity dabei den Zugriff auf über 20 KI-Modelle.
Im Hintergrund wählt der Agent dann automatisch das passende Modell für die jeweilige Aufgabe aus.
Ein lokales Modell entscheidet zudem, welche Aufgaben auf dem Gerät bleiben und welche in die Cloud gehen.
Damit positioniert sich Perplexity als Alternative zu Microsofts Co-Pilot.
Anders als dieser ist Personal Computer nicht auf die Programme eines einzelnen Anbieters, nämlich bei Co-Pilot Microsoft, festgelegt.
Für Unternehmen und Privatpersonen wirft der Einsatz allerdings auch hier Datenschutzfragen auf.
Der Agent kann auf sensible lokale Dateien zugreifen und Daten in die Cloud senden.
Diese verlassen dann also den eigenen Rechner und werden auf externen Servern verarbeitet.
OpenAI hat das Gedächtnissystem von ChatGPT überarbeitet.
Statt einzelner Stichpunkte legt ChatGPT nun ein zusammenhängendes Nutzerprofil im Fließtext an.
Dieses ist in Kategorien wie Arbeit, Hobbys oder Reisen unterteilt.
Das System leitet die Inhalte selbstständig aus Gesprächen ab und aktualisiert sie auch im Hintergrund.
So zum Beispiel überholte Angaben.
Kehrt jemand von einer Reise zurück, passt ChatGPT den Kontext entsprechend an und gibt keine Empfehlung mehr für den alten Aufenthaltsort.
Auch personalisierte Empfehlungen sollen davon profitieren.
Bei Vorlieben für zum Beispiel Tierfotografie oder ruhige Restaurants liefert das System einen passenden Plan.
Bei technischen Fragen kann es auf frühere Gespräche zurückgreifen.
Über eine neue Zusammenfassungsseite lassen sich Erinnerungen einsehen, korrigieren oder löschen.
Das Update ist zunächst für zahlende Nutzer in den USA verfügbar.
Kostenlose Konten sollen aber in den kommenden Wochen folgen.
Googles KI-Forschungsabteilung DeepMind hat ein neues offenes KI-Modell veröffentlicht.
Gemma 412b verarbeitet Text, Bilder und Audio in einem einzigen Modell.
Es läuft lokal auf handelsüblichen Laptops und mit nur 16 GB Arbeitsspeicher.
Bisherige multimodale Modelle benötigen oft separate Verarbeitungseinheiten für Bilder oder Audio.
Gemma 412b speist diese Daten direkt in das Sprachmodell ein.
Das spart Speicher und verkürzt die Verarbeitungszeit.
In Benchmarks erreicht das Modell, zumindest laut Google, Fast die Leistung des doppelt so großen 26b-Modells.
Das Modell beherrscht unter anderem Spracherkennung, Codegenerierung und Videoanalyse.
In einem Beispiel wertete es einen 5-minütigen Ausschnitt einer Google I.O.
Keynote aus, in dem es 313 Einzelbilder und die Audiospur gemeinsam analysierte.
Gemma 412b steht auf verschiedenen Plattformen zum Download bereit.
Die Lizenz erlaubt auch die kommerzielle Nutzung.
Der Robotik-Experte Stephen Cheng hat ein KI-gestütztes Lasersystem entwickelt, das Mücken in Innenräumen bekämpfen soll.
Nach Chengs Angaben habe das System nach einer Nacht alle Mücken in seiner Wohnung beseitigt.
Die Idee von Lasern gegen Mücken ist nicht neu.
Frühere Prototypen hatten damit allerdings nur einen geringen Erfolg.
Das neue System nutzt Computer Vision, also sogenanntes maschinelles Sehen.
Dabei wertet eine KI Kamerabilder aus und erkennt darauf die Insekten.
Anschließend schießt das System die Mücken gezielt ab.
Dafür sucht eine Kamera mit Zoom-Objektiv die Umgebung ab.
Und mit derselben Kamera hat Cheng zahlreiche Bilder gesammelt, um die KI zu trainieren.
Dabei zog er sich nach eigenen Angaben viele, viele Mückenstiche zu.
Insgesamt dauerten Entwicklung, Aufbau der Bilddatenbank und Training rund vier Monate.
Am Ende erkannte das Modell dann die Mücken sehr zuverlässig.
Damit der Laser keine Menschen oder brennbaren Gegenstände trifft, kommt eine zweite Kamera zum Einsatz.
Sobald eine Person dann im Sichtfeld erscheint, wird der Laser automatisch abgeschaltet.
Und die Mücken?
Ist es eigentlich selbstverständlich, dass man die per Laser töten darf?
Zum einen übertragen sie natürlich gefährliche Krankheiten, zum anderen dienen sie aber auch als Nahrung für Vögel oder Fische.
Ein System, das nur Mücken in Innenräumen bekämpft, greift kaum in die Natur ein.
Anders als beispielsweise großflächig eingesetzte Insektizide.
Das war das KI-Update von Heise Online vom 5.
Juni 2026.
Eine neue Folge gibt es montags, mittwochs und freitags ab 15 Uhr.
Werbung Noch mehr KI-Know-how finden Sie übrigens im Heise-Shop.
Das 180 Seiten starke KI-Special gibt es wahlweise als Heft oder PDF-Magazin in gewohnter CT-Manier.
Top aktuell, unaufgeregt, kritisch.
Lesen Sie, wie KI unser Leben umkrempelt, wer uns vor KI schützt, wie multimodale KIs arbeiten oder wie Sie mit PyTorch neuronale Netze selbst trainieren.
Bestellen Sie Ihre digitale Ausgabe im heise-Shop unter shop.heise.de.