# AI Security Alliances, ROI Metrics, and Workforce Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-07-29

## Transcript

Das KI-Update – ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Nvidia versammelt Tech-Schwergewichte für neue KI-Allianz.
Cloud Cowork entkommt macOS Sandbox.
Microsoft stellt eigenes KI-Modell für Cyber Security vor.
Und neue Kennzahlen misst, wann sich KI-Entwickler lohnen.
Nvidia hat eine neue Allianz zur Sicherheit von KI-Systemen ins Leben gerufen, die 37 Technologieunternehmen vereint.
Die Open Secure AI Alliance soll Open Source-Werkzeuge entwickeln, um KI-Agenten sicherer zu machen und Cyberangriffe abzuwehren.
Tomislav Besmalinovic von Heise Online mit den Einzelheiten.
Die neue Open Secure AI Alliance unter Nvidias Führung bringt bedeutende Technologieunternehmen zusammen.
Darunter Microsoft, IBM, SpaceX, Cisco und SAP.
Auffällig ist jedoch, wer fehlt.
Die führenden Anbieter geschlossener KI-Modelle wie OpenAI, Anthropic und Google sind nicht dabei.
Das ist kein Zufall, denn die Allianz macht sich für einen Open-Source-Ansatz bei KI-Modellen stark.
Der Auslöser für diese Initiative war der Cyberangriff auf die KI-Plattform Hugging Face.
Dabei gelang es KI-Agenten von OpenAI, unbemerkt aus ihrer isolierten Testumgebung auszubrechen und sich Zugriff auf die KI-Plattform zu verschaffen.
Hugging Face stand vor dem Problem, dass die Sicherheitsmechanismen proprietärer KI-Modelle die notwendigen Analyseanfragen blockierten.
So musste das Unternehmen auf ein chinesisches Open-Wade-Modell zurückgreifen, um den Angriff einzudämmen.
NVIDIAs Tech-Allianz will nun einen offenen Werkzeugkasten entwickeln, mit dem sich KI-Agenten besser testen, kontrollieren und absichern lassen.
NVIDIA steuert dafür das neue Open-Source-Projekt NOOA bei.
Andere Partner bringen sichere Formate für Modellgewichte und automatisierte Schwachstellensuche ein.
Die neue Allianz positioniert sich damit nicht nur als Sicherheitsinitiative, sondern zugleich als offenes Gegengewicht zu den dominierenden, geschlossenen KI-Systemen.
Die Initiative fällt in eine laufende politische Debatte.
Die US-Regierung prüft nach der Vorstellung des leistungsstarken chinesischen Open-Weight-Modells Kimi K3 mögliche Beschränkungen offener KI-Modelle.
Nvidia und andere US-Unternehmen warnten bereits in einem offenen Brief vor solchen Maßnahmen.
Hinter der Debatte stehen aber auch handfeste wirtschaftliche Interessen.
Nvidia profitiert von einem vielfältigen KI-Ökosystem, da das Unternehmen die Hardware-Infrastruktur für KI-Entwicklung und Betrieb liefert.
Je mehr KI-Modelle entwickelt und eingesetzt werden, desto höher ist die Nachfrage nach Nvidias Beschleunigerchips.
Vielen Dank, Tomislav.
Der Sicherheitsvorfall bei OpenAI hat nun auch über 1000 Fachleute aus führenden KI-Unternehmen dazu bewegt, Bremsmechanismen für die Entwicklung künstlicher Intelligenz zu fordern.
Die Unterzeichnenden arbeiten für OpenAI, Anthropic, Meta oder auch Google.
Sie warnen vor einem drohenden Kontrollverlust und appellieren an die US-Regierung, sich an internationalen Regulierungsmaßnahmen zu beteiligen.
Die Expertinnen und Experten befürchten, dass KI-Software bald in der Lage sein könnte, sich selbst weiterzuentwickeln.
Bereits heute schreibt KI große Teile des Programmcodes in Tech-Unternehmen, jedoch noch unter menschlicher Aufsicht.
Der Moment der automatisierten KI-Entwicklung gilt als kritischer Wendepunkt.
Es bestehe ein reales Risiko, dass das Entwicklungstempo die menschliche Fähigkeit übersteigt, diese Systeme zu verstehen und zu kontrollieren.
Selbst bei der Nutzung von KI-Agenten direkt auf dem Rechner lauern Gefahren.
Das zeigt ein soeben entdecktes Sicherheitsloch in Cloud Cowork für den Mac.
Ben Schwan von der Mac&Eye berichtet.
Cloud Cowork, die KI-Agenten-App von Anthropic, soll über einen längeren Zeitraum eine schwerwiegende Sicherheitslücke aufgewiesen haben.
Laut Angaben der KI-Sicherheitsfirma Accomplish AI war die Mac-Version der Anwendung betroffen.
Angreifern war es möglich, eine Kernel-Lücke auszunutzen, um die geschützte Sandbox zu verlassen.
Resultat, potenziell war es möglich, das gesamte Mac-Dateisystem zu lesen und zu beschreiben.
Ob es tatsächlich zu solchen Angriffen kam, ist aber unklar.
Bis zu 500.000 Nutzer hätten über die Lucke attackiert werden können, schätzt Accomplish AI.
Anthropic hat interessanterweise nicht vor, das Sicherheitsproblem zu beheben.
Den Bericht von Accomplish AI nannte die Firma schlicht informativ.
Der Grund?
Mittlerweile setzt Claude Cowork auf eine virtuelle Maschine in der Cloud, die sogenannte Cloud Execution.
Claude Cowork dient als virtueller KI-Kollege für verschiedene Zielgruppen, die mit Präsentationen, Tabellen und mehr hantieren, darunter Anwälte, Mitarbeiter aus Finanzabteilungen.
Ein schwerwiegendes Datenleck bei Anthropics-KI-Chatbot Claude machte tausende private Unterhaltungen über Suchmaschinen auffindbar.
Eine einfache Google-Suche mit einem ganz bestimmten Parameter brachte zahlreiche vertrauliche Chats zum Vorschein.
Daran fanden sich Kryptowalletschlüssel, Anwaltsanfragen zu Fehlverhalten und Sozialversicherungsnummern.
Die Ursache liegt in Claude's Chat-Teilen-Funktion, die öffentliche Links erstellt.
Eine missverständliche Option, Make this chat discoverable, führte dazu, dass Nutzende unbeabsichtigt ihre Gespräche für Suchmaschinen zugänglich machten.
Google zeigt die Ergebnisse inzwischen nicht mehr an.
Andere Suchmaschinen fanden jedoch zeitweise noch Treffer.
Das Leck erinnert an vergleichbare Vorfälle bei OpenAI's Chat-GPT und verdeutlicht einmal mehr die Risiken beim Teilen von KI-Unterhaltungen.
Microsoft hat ein neues KI-Modell namens MyCyber1Flash für Cybersecurity vorgestellt.
Das Modell gehört zur hauseigenen MyModellfamilie und ist speziell darauf ausgelegt, Sicherheitslücken in komplexen Codebasen zu identifizieren, erklärt Carolin Riedmüller von Heiser Online.
MyCyber1 Flash stammt aus der MyThinking1-Linie und wurde laut Microsoft vollständig intern auf der Basis von eigenen Trainingsdaten entwickelt.
Laut Microsofts Modelcard hat das Modell insgesamt 137 Milliarden Parameter, von denen nur 5 Milliarden gleichzeitig aktiv sind.
Das Kontextfenster umfasst 256.000 Tokens.
Microsoft integriert das Modell in M-Dash, ein Multi-Agent-System mit über 100 spezialisierten Agenten.
Diese decken den gesamten Workflow vom Codescanning über die Validierung bis zur Patch-Erzeugung ab.
MyCyber1 Flash ist dabei für rund 90% aller Aufgaben zuständig.
Die schwierigsten 10% eskaliert das System an OpenAI's GPT 5.4.
Diese Kombination erreicht auf dem Benchmark CyberGym laut Microsoft eine Trefferquote von 96%.
Gleichzeitig sollen die Kosten gegenüber der bisherigen M-Dash-Konfiguration aus GPT 5.4, GPT 5.4 Mini und GPT 5.3 Codex um rund 50 Prozent sinken.
Dankeschön, Caroline.
Im Gegensatz zu Microsoft fährt Amazon einen Großteil seiner eigenen Nova-Modelle zurück, wie Business Insider berichtet.
Betroffen sind die Spitzenmodelle Nova Premier und Omni.
Dazu kommen das Videomodell Reel und der Bildgenerator Canvas.
Die Modelle laufen demnach für bestehende Kunden weiter, werden aber nicht mehr aktiv entwickelt.
Vorausgegangen waren Entlassungen in der AGI-Abteilung und die Schließung des AGI Labs.
Aus dem KI-Wettrennen zieht sich Amazon aber nicht zurück.
Ressourcen fließen nun in die Gruppe Frontier Model Research unter Peter Abel.
Dabei handelt es sich um den Gründer eines Robotik-Startups, das Amazon zum Teil übernommen hatte.
Ein neues Basismodell soll auf der jährlichen AWS-Konferenz reInvent im Herbst vorgestellt werden.
Ein Amazonsprecher erklärte, KI-Modelle blieben eines der wichtigsten Projekte des Unternehmens.
Die US-Umweltbehörde EPA hat eine Gesetzeslücke gefunden, die Kraftwerke ohne Netzanschluss von Emissionsbestimmungen befreit.
Davon profitieren in erster Linie KI-Datenzentren.
Um den enormen Strombedarf zu decken, entstehen nämlich zunehmend private Kraftwerke, die nicht ans öffentliche Stromnetz angeschlossen sind.
Die EPA hat nun festgestellt, dass für solche Inselanlagen keine bundesrechtlichen Grenzwerte für Schwefeldioxid und Stickstoffdioxid gelten.
Der Clean Air Act erfasst nämlich nur Kraftwerke, die Strom für die Öffentlichkeit erzeugen.
Kraftwerke, die ausschließlich einen einzelnen Kunden, wie eben ein Rechenzentrum, versorgen, fallen nicht darunter.
Eine gesetzliche Korrektur ist politisch nicht geplant.
Nun könnten einzelne Bundesstaaten zwar eigene Regeln einführen, riskieren damit jedoch, dass Staaten mit laxeren Umweltauflagen attraktiver für KI-Unternehmen wirken.
Damit droht ein Wettbewerb um die niedrigsten Umweltstandards.
Kann KI sich selbst verbessern und dabei auch noch Geld sparen?
Eine US-amerikanische Forschungsorganisation hat das jetzt zum ersten Mal durchgerechnet.
Das Ergebnis fällt ernüchternd aus.
Jonathan Kemper von The Decoder hat sich die Studie genauer angesehen.
Die Non-Profit Mieter hat eine neue Kennzahl vorgestellt.
Sie soll zeigen, wie kosteneffektiv KI-Agenten arbeiten.
Mieter nennt sie Expenditure Horizon, auf Deutsch Ausgabengrenze.
Gemeint ist der Punkt, an dem Mensch und KI für dieselbe Verbesserung gleich viel kosten.
Bis dahin lohnt sich die KI.
Danach arbeitet der Mensch günstiger.
Dahinter steht eine der großen Fragen der KI-Forschung.
Kann KI ihre eigene Entwicklung beschleunigen?
Messen ließ sich das bisher kaum.
Denn dafür muss man sehr verschiedene Kosten gegeneinander aufrechnen, etwa die Arbeitszeit der Menschen, die Rechenzeit für die Experimente und den Betrieb der KI selbst.
Getestet hat Mieter das an einem öffentlichen Wettbewerb.
Dort versuchen Freiwillige seit zwei Jahren, ein KI-Sprachmodell immer schneller zu trainieren.
Ein Prozent mehr Tempo kostet einen Menschen dort rund 16 Arbeitsstunden.
Mieter betont allerdings selbst, dass diese Zahl sehr unsicher ist.
Rechnet man mit 150 Dollar pro Stunde, sind das etwa 2500 Dollar für jeden Prozentpunkt.
Dann ließ Mieter sechs KI-Modelle dieselbe Aufgabe allein bearbeiten.
Jedes durfte bis zu 10.000 Dollar verbrauchen.
Zwei ältere Modelle sahen dabei zunächst nach Fortschritt aus, bei genauerer Prüfung war das aber nur Zufall.
Echte Verbesserungen brachten erst die neueren Versionen.
GPT 5.5 kam auf rund 1%, OPUS 4.8 auf 1,5%.
Mehrfach versuchten die Modelle auch zu tricksen und schalteten etwa Teile des Trainings kurz vor dem Ziel ab.
Am Ende lagen die Ausgabengrenzen zwischen 0 und 3300 Dollar.
Der gesamte menschliche Aufwand in dem Wettbewerb wird dagegen auf rund 250.000 Dollar geschätzt.
Auf sich allein gestellt hat KI den Fortschritt bisher also kaum beschleunigt.
Zwei Dinge schränken das Ergebnis ein.
Mita hat nur ältere Modelle getestet.
Die aktuelle Generation mit Fable 5, GPT 5.6 Zoll und Opus 5 kommen nicht vor.
Und gemessen wurde nur die KI im Alleingang.
In der Forschung arbeiten Menschen aber meistens mit KI als Werkzeug.
Die Ausgabengrenze zeigt also, was KI ohne Hilfe leistet.
Wie stark sie menschliche Forscher beschleunigt, sagt sie eher nicht.
Danke, Jonathan.
Immer mehr Menschen erledigen mit KI Aufgaben aus fremden Berufsfeldern.
Das berichtet OpenAI und nennt den Effekt Task Crossover.
Grundlage ist eine Auswertung von mehr als 800.000 arbeitsbezogenen Chat-GPT-Nachrichten.
Daraus geht hervor, dass 43,5 Prozent der berufsspezifischen Anfragen Tätigkeiten aus einem fremden Beruf betreffen.
Am häufigsten wandern dabei Arbeiten aus Marketing und Softwareentwicklung in eine andere Berufsgruppe.
Nutzerinnen und Nutzer erledigen mit ChatGPT außerdem zunehmend Aufgaben, die früher an Spezialisten gingen.
Dazu zählen etwa die Vertragsprüfung, die Datenanalyse oder die Fehlerbehebung an Websites.
In kleineren Unternehmen sei der Effekt stärker, denn dort gebe es seltener eigene Fachteams.
OpenAI sieht in den Daten ein Frühsignal für den Wandel von Berufsbildern, noch bevor sich Stellenbeschreibungen oder Jobtitel änderten.
Generell verändert KI auch unser Suchverhalten im Netz grundlegend.
Wie eine Studie von SimilarWeb zeigt, werden bei Google fast bei der Hälfte aller Suchanfragen KI-generierte Zusammenfassungen eingeblendet.
Auch der dialogorientierte AI-Mode verzeichnet stark steigende Nutzungszahlen.
Parallel dazu werden Chatbots wie ChatGPT, Gemini und Claude als eigenständige Recherchewerkzeuge immer beliebter.
Sichtbar wird der Wandel auch in der Art der Suchanfragen.
Kurze Stichworte weichen zunehmend längeren, natürlich formulierten Fragen.
Ob die Quellenverweise in einer KI-Antwort die Nutzenden tatsächlich auf externe Websites führen, hängt davon ab, wie prominent sie dargestellt werden.
Ein Interface-Update in ChatGPT zum Beispiel, das externe Links prominenter darstellte, führte zu deutlich mehr Weiterleitungen zu diesen externen Websites.
Das Grundproblem für die Inhalteanbieter bleibt jedoch bestehen.
Wenn KI-Dienste Informationen direkt liefern, entfällt für Nutzende in den meisten Fällen der Anreiz, die ursprüngliche Quelle aufzurufen.
Damit gehen den Urhebern Reichweite und Einnahmen verloren.
Die Leiden Declaration on Artificial Intelligence and Mathematics schafft erstmals ein umfassendes Regelwerk für den Umgang mit KI in der mathematischen Forschung.
Die Internationale Mathematische Union und über 3000 Fachleute weltweit unterstützen die Deklaration.
Darin wird zunächst von den Risiken von KI in der Mathematik gewarnt.
Künstliche Intelligenz produziert oft plausible, aber falsche mathematische Beweise, die schwer von Korrekten zu unterscheiden sind.
Besonders gefährdet sind Studierende und Nachwuchsforschende.
Zudem bedroht der Einfluss großer Technologieunternehmen die Autonomie der mathematischen Forschung, da diese Aufgaben nach KI-Tauglichkeit statt nach wissenschaftlicher Relevanz auswählen.
Das Regelwerk enthält nun elf Empfehlungen für Forschende, acht für Organisation und vier für die Politik.
Zentrale Forderungen sind Transparenz bei der KI-Nutzung, Verantwortung für Korrektheit, Schutz von Autorenrechten und die Betonung menschlicher Beiträge.
Die Erklärung betont, dass Menschen weiterhin unverzichtbar für das Stellen relevanter Forschungsfragen bleiben.
Die TU Berlin entwickelt im Projekt Ace-Warm 2 autonome elektrische Paketboote für Berlins Wasserstraßen.
Diese KI-gesteuerten Fahrzeuge sollen den Lieferverkehr entlasten, indem sie Pakete über die Spree oder den Landwehrkanal transportieren.
Die Boote nutzen künstliche Intelligenz für autonome Navigation, Hinderniserkennung und präzises Koppeln zu verbinden.
Ein magnetisches Kopplungssystem ermöglicht es dem KI-System, sich selbstständig zu verbinden und zu trennen.
Die Fahrzeuge kommunizieren miteinander und optimieren den Energieverbrauch durch koordinierte Fahrten.
Besonders anspruchsvoll ist die vollautonome Be- und Entladung ohne menschliches Eingreifen.
Eine zentrale KI-Plattform überwacht das gesamte System, verfolgt Standorte, Zustand und Einsatzbereitschaft der Boote.
Die ersten Prototypen werden bereits im Berliner Westhaven getestet und lernen durch KI-Algorithmen das autonome Navigieren.
Das Projekt wird Berlins historische Wasserinfrastruktur für moderne emissionsarme Stadtlogistik reaktivieren.
Das war das KI-Update von heise online vom 29.
Juli 2026.
Eine neue Folge gibt es montags, mittwochs und freitags ab 15 Uhr.
Hallo, ich bin Holger.
Und ich bin Jörg und wir sind das Team der Auslegungssache, das ist der CT-Datenschutz-Podcast.
Wir beschäftigen uns alle 14 Tage mit aktuellen relevanten Themen rund um den Bereich Datenschutz, Datensicherheit, aber auch um politische Themen wie Überwachung.
Dazu laden wir uns immer interessante Gäste ein.
Die können aus den unterschiedlichsten Bereichen kommen.
Wir haben natürlich Juristen auch dabei.
Wir haben aber zum Beispiel auch Landesdatenschutzbeauftragte.
Bundesdatenschutzbeauftragter war schon mal da, aber auch...
Technikexpert.
Dabei ist es uns immer wichtig, dass wir verständlich bleiben.
Das heißt, wir versuchen, das Juristen Deutsch so gut wie möglich zu reduzieren und die Dinge so runterzubrechen, dass auch interessierte Laien sie gut verstehen können und auch ihren Nutzen aus unseren teilweise sehr lebhaften Diskussionen ziehen können.
Hört doch mal rein.
Wir freuen uns auf euch.