# AI Infrastructure Costs, Agent Safety, and Market Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-05-04

## Transcript

Das KI-Update – ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Anthropics aussichtsloser Kampf gegen den Leak des Quellcodes.
Was passiert im Gehirn, wenn man einer KI vertraut?
US-Behörde behauptet wachsenden KI-Vorsprung vor China.
Und KI löst 60 Jahre altes Mathe-Problem mit neuem Ansatz.
Ende März tauchte plötzlich der Quellcode von CloudCode öffentlich im Netz auf.
Anthropic kämpft nun schon seit Wochen dagegen an, dass sich der Code weiter verbreitet.
Warum das so schwierig ist, hat sich mein Kollege Robin Ahrens von der CT genauer angeschaut.
Es war Unachtsamkeit und kein ausgeklügelter Angriff.
Der Quelltext von CloudCode landete öffentlich zugänglich im Internet, weil EntwicklerInnen versehentlich eine SourceMap-Datei mit veröffentlichten.
Mit SauceMaps lässt sich kompilierter Code auf den ursprünglichen Quelltext zurückführen und das geschah dann auch.
Nach nur kurzer Zeit landeten eine halbe Million Zeilen Quellcode von Cloud Code im Internet und verbreiteten sich dort rasant.
Noch bevor Anthropic den Leak bemerkte, wurde das Datenpaket tausende Male auf GitHub geforkt.
Gegen solche Kopien versucht sich Anthropic nun seit Wochen zu wehren.
Über 8000 Löschanträge soll das Unternehmen im Sinne des Digital Millennium Copyright Act gestellt haben.
Das US-amerikanische Urheberrechtsgesetz regelt den Schutz digitaler Inhalte.
Seine Verfahrensweisen stehen aber schon lange in der Kritik.
Denn das aktuelle DMCA-System zwingt PlattformbetreiberInnen dazu, Inhalte sofort und ohne gerichtliche Prüfung zu entfernen.
Das geschah auch im Fall von Cloud Code.
Zunächst ließ Anthropic tausende GitHub-Repository sperren.
Letztendlich beschränkte das Unternehmen seine Forderungen aber auf knapp 100 Kopien des Quelltex von Cloud Code.
Die Coding-Community reagierte auf die Löschwelle auf ganz eigene Weise, nämlich mit Claw-Code.
Das ist eine weibgecodete, unabhängige Neuentwicklung der geleakten Kernarchitektur von Claw-Code.
Quasi eine mit KI übersetzte Code-Kopie, die aber keine proprietären Dateien von Anthropic mehr enthält.
Für den Konzern wird es also schwierig, Urheberrechtsansprüche dagegen geltend zu machen.
Der Leak von Cloud Code offenbart aber auch viel grundsätzlichere juristische Fragestellungen.
Denn das Coding-Tool soll sich quasi selbst geschrieben haben.
Rund 90 Prozent seiner aktuellen Versionen sollen mithilfe einer Vorgängerversion des Coding-Assistenten entstanden sein.
Damit stellt sich die Frage danach, ob der KI-Quelltext überhaupt Copyright-Schutz genießt.
Bislang haben US-Gerichte ja schon mehrfach klargestellt, dass vollständige KI-Erzeugnisse eben nicht durch das Urheberrecht geschützt sind.
Anthropic würde sich also mit dem Versuch, vermeintliche Rechte am Code durchzusetzen, auf unsicheres Terrain begeben.
Dankeschön, Robin.
Beim Softwareunternehmen PocketOS hat ein KI-Agent fast alle Daten gelöscht, auch in der Produktionsumgebung.
Verantwortlich war die KI-gestützte Entwicklungsumgebung Cursor, betrieben mit Anthropics Modell Claude Opus 4.6.
Der Agent arbeitet im Staging Environment und stieß auf einen Credential Mismatch.
Zur Behebung wollte er ein Datenvolumen beim Cloud-Anbieter Railway löschen.
Dafür nutzte er einen Token, den er an anderer Stelle fand.
Dieser Token war eigentlich nur für Domainverwaltung gedacht.
Er hatte aber auch Zugriff auf destruktive Operationen.
Innerhalb weniger Sekunden löschte der Agent damit Daten der vergangenen drei Monate, inklusive der Backups.
Der Agent gestand danach schriftlich seinen Fehler.
Er hatte Annahmen getroffen, ohne die Dokumentation zu prüfen.
Zudem missachtete er seine eigenen Safeguards, die destruktive Befehle ohne ausdrückliche Nutzerfreigabe eigentlich verbieten.
PocketOS-Chef Jack Crane warnt nun andere Firmen.
Hersteller würden KI-Agenten zu schnell auf Produktivsysteme loslassen, ohne ausreichende Sicherheitsvorkehrungen.
Die vier großen Tech-Konzerne Google, Amazon, Microsoft und Meta planen in diesem Jahr insgesamt rund 725 Milliarden US-Dollar in KI zu investieren.
Das berichtet die Financial Times.
Die Summe liegt 77 Prozent über der Rekordsumme von 410 Milliarden im letzten Jahr.
Bereits im ersten Quartal erreichten die Ausgaben 130 Milliarden Dollar.
Bei den letzten Quartalszahlen stach Google mit einem Cloud-Umsatzwachstum von 63 Prozent hervor.
Steigende Preise für Speicherchips und andere Komponenten treiben die Kosten dafür zusätzlich in die Höhe.
Trotz der enormen Investitionen gehen sowohl Google als auch Microsoft davon aus, dass die Rechenkapazitäten zu gering sind, um die Nachfrage zu bedienen.
Microsoft-Chef Satya Nadella erklärte, wie die Ausgaben wieder hereinkommen sollen.
Die Softwarebranche bewege sich von festen Lizenzpreisen pro Nutzer hin zu Lizenzpreisen mit zusätzlichen Nutzungsgebühren.
Kurz gesagt, Software wird teurer.
Forschende der TU Berlin haben im Gehirn nach Anzeichen für Vertrauen in KI-Systeme gesucht.
In dem DFG-geförderten Projekt mit dem etwas sperrigen Namen Neuronale Korrelate von Vertrauen in Mensch-KI-Interaktion gingen sie der Frage nach, inwiefern Vertrauen daran erkennbar wird, wie stark Menschen kognitive Prozesse, zum Beispiel das Erinnern von Informationen, an KI-Systeme auslagern.
Wie genau die Forscherinnen und Forscher vorgegangen sind, erklärt Jenny Lepis von der MIT Technology Review.
Anstatt die Probanden nach ihrer eigenen Einschätzung zur KI-Nutzung zu fragen oder schlicht deren Verhalten zu beobachten, untersuchten die Forscher die Gehirnaktivität.
Über ein EEG konnten sie Hirnströme messen und Veränderungen in der Aufmerksamkeit und der Gedächtnisleistung erkennen.
Die Forscher haben zunächst auf die Aufmerksamkeit geschaut, also wie stark das Gehirn auf Bestimmtes fokussiert ist.
Das wird deutlich durch den neuronalen Marker N2PC.
Je höher der N2PC-Wert, desto stärker ist man fokussiert auf etwas.
Die Forscher bemerkten in ihrer Studie, Wenn Menschen mit einer zuverlässigen KI arbeiten, sind sie selbst weniger aufmerksam und der N2-PC-Wert fällt geringer aus.
Ihr Gehirn entspannt sich gewissermaßen, weil es sich eben auf die KI verlässt.
Im Gegensatz dazu ist die KI fehleranfällig, steigt die Aufmerksamkeit, die Menschen kontrollieren stärker selbst und vertrauen weniger.
In einer zweiten Studie haben die Forscher ein anderes Signal im Gehirn gemessen, die CDA.
Dieser neuronale Marker bezeigt die Belastung des visuellen Kurzzeitgedächtnisses an, also wie sehr das Gehirn gerade damit beschäftigt ist, Informationen kurzfristig festzuhalten.
Und auch hier kommen die Forscher zu dem Schluss, je höher die CDA, desto geringer das Vertrauen in die KI.
Insgesamt konnten die Forscher also das kognitive Auslagern von Prozessen, dieses Offloading, nachzeichnen.
Als nächstes plant das Forschungsteam der TU Berlin, die erhobenen Messdaten mit bestehenden Vertrauensmodellen zu verknüpfen.
Außerdem soll die Dynamik von Vertrauen näher betrachtet werden, vor allem wenn es um die Frage geht, wie sich verlorenes Vertrauen in KI-Systeme wiederherstellen lässt.
Die Forscher sehen ihre Arbeit vor allem wichtig für Bereiche, wo Menschen mit KI in sensiblen Kontexten zusammenarbeiten.
wie etwa die medizinische Diagnostik oder die Qualitätskontrolle in Industrien.
Vielen Dank, Jenny.
Googles KI-Assistent Gemini bekommt in Deutschland neue Funktionen.
Er soll mehr zu einem persönlichen Begleiter werden.
Im Mittelpunkt steht die Funktion gemerkte Informationen.
Sie ist eine Vorstufe der in den USA verfügbaren Personal Intelligence.
Die kann auf Gmail-Fotos und den YouTube-Verlauf zugreifen und daraus Schlüsse ziehen.
Die deutsche Version geht weniger weit.
Gemini lernt hier aus vergangenen Unterhaltungen und merkt sich Vorlieben der Menschen.
So sollen Antworten natürlicher und relevanter werden.
Als Beispiel nennt Google, dass Gemini bei der Geburtstagsplanung das Lieblingscomicbuch der Nutzerin berücksichtigt.
Die Funktion ist standardmäßig aktiviert, Nutzende können sie in den Einstellungen aber ausschalten.
Zusätzlich gibt es eine Import-Funktion, mit der sich Chat-Verläufe und Erinnerungen aus konkurrierenden KI-Apps in Gemini übertragen lassen.
Weitere Neuerungen wird Google wohl auf der Entwicklerkonferenz I.O.
in ein paar Wochen zeigen.
Dann dürfte es auch um agentische Funktionen für Android gehen.
damit Jugendliche nur Nachrichten von Personen erhalten, die sie kennen.
Außerdem gibt es Content-Standard-Einstellungen.
Jugendliche unter 16 können diese Einstellungen nicht ändern, ohne dass ihre Eltern zustimmen.
So können Eltern helfen, Jugendliche online zu schützen.
Mehr dazu auf instagram.com.
OpenAI hat in den USA seine Datenschutzerklärung angepasst.
Wer ChatGPT oder Codex weiter nutzen will, muss zustimmen.
Neu ist die Erwähnung von Marketingpartnern.
Mit ihnen können Nutzerdaten geteilt und Cookies gesetzt werden.
Wir kennen das von Social Media Apps, bei denen sich so persönliche Daten für Werbung nutzen lassen.
Da Menschen mit ChatGPT oft sehr persönliche Informationen teilen, weist OpenAI darauf hin, dass Inhalte aus den Chats nicht weitergegeben werden sollen.
Das Unternehmen spricht aber ausdrücklich von Targeted Advertising.
Das Tracking soll zielgerichtete Werbung direkt in ChatGPT ermöglichen.
Die soll aber optisch von Chat-Inhalten getrennt sein.
Bei Gratis-Nutzerinnen und Nutzern ist das Tracking standardmäßig aktiviert.
Ein Opt-out ist jedoch möglich.
OpenAI hatte bereits Anfang des Jahres angekündigt, aus Kostengründen verstärkt auf Werbung zu setzen.
Wann die Funktionen in die EU kommen, ist allerdings noch offen.
Denn bei uns gelten durch die DSGVO und den DSA strengere Regeln.
Eine US-Behörde behauptet, dass China im KI-Wettrennen zunehmend zurückfällt.
Das Center for AI Standards and Innovation hat das neue chinesische Open-Weight-Modell DeepSeq V4 Pro getestet.
Nach dessen Einschätzung liegt dies in der Leistung rund acht Monate hinter den führenden US-Modellen.
Mehr dazu weiß Kim Scheurenbrand von The Decoder.
Getestet wurden unter anderem Cybersicherheit, Softwareentwicklung, Mathematik und abstraktes Denken.
DeepSeq V4 ist laut der Behörde zwar das bisher leistungsfähigste chinesische KI-Modell, in nicht öffentlichen Tests schneide es allerdings schlechter ab als im eigenen technischen Bericht dargestellt.
Dort erscheint es auf Augenhöhe mit aktuellen US-Modellen wie Opus 4.6 und GPT 5.4.
In Wirklichkeit entspreche es aber eher dem älteren GPT-5.
In Mathematikaufgaben kommt DeepSeq V4 dagegen fast an die besten US-Modelle heran.
Die Behörde gehört zum National Institute of Standards and Technology, kurz NIST, einer US-Bundeseinrichtung.
Sie zeichnet ein Bild, wonach sich der Abstand zwischen US- und chinesischen Modellen vergrößert.
Beim Preis hat die PSYG V4 jedoch einen klaren Vorteil.
In 5 von 7 Tests kostet es weniger als das vergleichbare GPT 5.4 Mini.
Und der Preis wird zunehmend wichtiger.
KI-Modelle sollen immer länger am Stück arbeiten und mehr Aufgaben übernehmen.
Gleichzeitig werden die ohnehin etwas teureren US-Modelle noch teurer.
Dementsprechend wichtig könnte sich die Preisgestaltung zukünftig auf den internationalen Erfolg verschiedener Modelle auswirken.
Dankeschön, Kim.
Der chinesische Elektronikkonzern Xiaomi hat das KI-Modell MIMO V2.5 Pro veröffentlicht.
Es ist auf langwieriger autonome Aufgaben ausgelegt und soll stundenlang eigenständig an komplexen Projekten arbeiten können.
In einem internen Test programmierte das Modell einen vollständigen Compiler in viereinhalb Stunden.
MIMO V2.5 Pro nutzt eine Architektur namens Mixture of Experts.
Dabei wird nicht das gesamte Modell für jede Anfrage aktiviert, sondern jeweils nur ein Teil.
Insgesamt umfasst es rund eine Billion Parameter.
Pro Anfrage sind 42 Milliarden davon aktiv.
Auf dem Programmierbenchmark SWE Bench Verified erreicht es knapp 79 Punkte und liegt damit nahe an Anthropics Cloud Opus 4.6.
Wie auch DeepSeq will Xiaomi mit dem Modell vor allem über das Preis-Leistungs-Verhältnis punkten.
Es verbrauche pro Aufgabe 40 bis 60 Prozent weniger Token als vergleichbare US-Modelle.
Bislang glänzte KI in der Mathematik in erster Linie damit, bereits publizierte Lösungen für komplexe Beweise zu finden.
Nun hat eine KI zum ersten Mal einen komplett neuen Lösungsweg für ein mathematisches Problem gefunden, an dem sich Forscherinnen und Forscher bislang die Zähne ausgebissen haben, berichtet Volker Zruta von Heise Online.
Der 23-jährige Liam Price hat mit einem einzigen Prompt an GPT 5.4 Pro ein mathematisches Problem gelöst, das 60 Jahre lang offen war.
Ein sogenanntes Erdisch-Problem, benannt nach dem ungarischen Mathematiker Paul Erdisch.
Das Kuriose dabei, Price sagt selbst, er weiß gar nicht so genau, worum es bei dem Problem eigentlich geht.
Ab und zu wirft er Erdisch-Probleme einfach in die KI und schaut, was zurückkommt.
Im Kern geht es um eine alte Vermutung zu bestimmten Zahlenmengen.
Die beste Annäherung stammte bisher aus dem Jahr 2023, ließ aber noch rund 40% Luft zu einem vermuteten Grenzwert.
Und genau diese Lücke hat die KI jetzt geschlossen.
Spannend ist vor allem der Weg dorthin.
Die Fachwelt hat sich jahrzehntelang auf einen bestimmten Ansatz eingeschossen.
Die KI hat den einfach ignoriert und fand eine elegantere Abkürzung über die Wahrscheinlichkeitstheorie.
Terence Tao Träger der Fields-Medaille, das ist sowas wie der Nobelpreis für Mathematik, spricht von einer Art kollektiver Denkblockade der Mathematiker.
Allerdings war die Rohausgabe der KI schwer verständlich.
Tao und ein Kollege haben den Beweis dann formal noch einmal korrekt aufgeschrieben.
Das heißt also, die KI ersetzt weder Porsche noch Mathematiker, sie kann sie aber inspirieren und unterstützen.
Danke Volker.
Spotify führt ein Siegel ein, das echte Künstlerinnen und Künstler kennzeichnet.
Es erscheint auf deren Profilen in der Suche als verified by Spotify.
Vor der Vergabe prüft Spotify, ob eine identifizierbare Künstlerpräsenz vorhanden ist.
Dazu zählen Konzerte, Merchandising und Social Media-Konten.
Auch die Einhaltung der Plattformregeln und stabile Höreraktivität sind entscheidend.
Profile mit überwiegend KI-generierter Musik werden von diesem Gütesiegel ausgeschlossen.
Ein fehlendes Siegel bedeutet aber nicht automatisch, dass hinter einem Profil eine KI-Persona steckt.
Die Maßnahme knüpft an frühere Schritte gegen KI-Spam an.
Spotify hatte bereits strengere Regeln für KI-Stimmklone und einen Spam-Filter eingeführt.
Das Ausmaß des Problems zeigt der Konkurrent dieser.
Dort sind fast die Hälfte der täglich neu hochgeladenen Songs inzwischen KI generiert.
Spotify selbst arbeitet aber auch an KI-Funktionen, etwa zum lizenzierten Remixen von Songs.
Lasst uns zum Schluss doch mal über Goblins sprechen.
OpenAI hat ein kurioses Problem seiner KI-Modelle untersucht.
Ab der Modellversion GPT 5.1 begannen die Systeme zunehmend Goblins, Gremlins und andere Fabelwesen in ihren Antworten zu erwähnen.
Die Zahl der Goblin-Erwähnungen stieg nach dem Start von GPT 5.1 um 175%.
Die Ursache lag im Training einer Funktion namens Nerdy Personality.
Diese Funktion ändert den Sprachstil von ChatGPT.
Ein sogenanntes Belohnungssignal, das dem Modell sagt, welche Antworten gut zu diesem Profil passen, bevorzugte versehentlich Metaphern mit Fabelwesen.
Nerdy machte zwar nur 2,5% aller Antworten aus, trotzdem entfielen zwei Drittel aller Goblin-Erwähnungen darauf.
Durch eine Rückkopplungsschleife im Training breitete sich die Eigenart auch auf andere Sprachstile aus.
OpenAI schaltete Nerdy im März ab und entfernte das fehlerhafte Belohnungssignal.
Das Nachfolgemodell GPT 5.5 hatte das Problem aber trotzdem erneut.
weil dessen Training bereits begonnen hatte, bevor die Ursache für die Goblin-Vorliebe gefunden wurde.
OpenAI musste daher bei Codex, dem eigenen Coding-Tool, eine spezielle Anweisung einbauen, die dem Modell ausdrücklich verbietet, über Goblins, Gremlins und andere Kreaturen zu sprechen.
Das war das KI-Update von Heise Online vom 4.
Mai 2026.
Eine neue Folge gibt es jeweils Montag, Mittwoch und Freitag.
Noch mehr KI-Know-how finden Sie übrigens im Heise-Shop.
Das 180 Seiten starke KI-Special gibt es wahlweise als Heft oder PDF-Magazin in gewohnter CT-Manier.
Top aktuell, unaufgeregt, kritisch.
Lesen Sie, wie KI unser Leben umkrempelt, wer uns vor KI schützt, wie multimodale KIs arbeiten oder wie Sie mit PyTorch neuronale Netze selbst trainieren.
Bestellen Sie Ihre digitale Ausgabe im Heise-Shop unter shop.
heise.de