# AI Infrastructure, M&A Consolidation, and Regulatory Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-06-17

## Transcript

Das KI-Update – ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Sperre von Fable und Mythos angeblich nach simplem Prompt.
EU beschließt Verbot von sexualisierter Deepfake-KI.
Benchmark testet KI auf Anfälligkeit für russische Propaganda.
Und so passt ein 20-Milliarden-Parameter-Modell aus iPhone.
Anthropics mächtigstes KI-Modell wurde angeblich gar nicht per Jailbreak ausgehebelt, sondern hat Bugs gefixt.
Das behauptet jetzt eine Sicherheitsforscherin, berichtet Martin Holland aus dem Heiser Online Newsroom.
Anthropic und die US-Regierung verhandeln weiterhin über die Sperre der mächtigen KI-Modelle Fable 5 und Mythos 5, die am Wochenende verfügt worden war unter einer Exportkontrolldirektive.
Und bislang gibt es da keine Einigung.
Das heißt, die bleiben weiter gesperrt und in der Zwischenzeit werden aber immer mehr Details darüber bekannt, warum diese Sperre überhaupt verhängt wurde.
Am Wochenende hieß es ja, dass eine Sicherheitsabteilung von Amazon das Modell Fable geprüft hat und einen Jailbreak gefunden hat, also eine Möglichkeit, die Sicherungsmaßnahmen zu umgehen und damit quasi die...
die ganze Macht der KI nutzen zu können.
Inzwischen wurde das zurückgewiesen.
Eine Sicherheitsforscherin, die das geprüft hat, sagt, dass es gar nicht um einen Jailbreak ging, sondern dass die KI der Aufforderung nachgekommen ist, Code zu reparieren.
Die Frau, die das sagt, heißt Katie Mossorys.
Die ist keine Unbekannte, eine renommierte Cybersicherheitsexpertin.
Und die hat nach eigenen Angaben diesen Bericht eingesehen, der...
von Amazon erstellt wurde, an die US-Regierung gegeben wurde und dann eben zu dieser Sperre geführt haben soll.
Und darin würde eben nur dargelegt, dass die KI auf die Bitte fix the code, also repariere den Code, dem nachgekommen sei.
Die KI habe darauf aufbauend einen Patch entwickelt oder Patches entwickelt und die habe man dann manuell prüfen müssen und das hätte funktioniert.
Und die Sicherheitsforscherin meint jetzt, dass das überhaupt nicht schlimm ist, dass das nicht gefährlich ist, sondern dass das genau das ist, was die KI machen soll in der Cybersecurity.
Weil wenn man das jetzt verhindere, dann würden ja nur die Angreifer diese mächtigen Werkzeuge bekommen, weil die würden natürlich nicht gestoppt dadurch durch seine Sperre.
Die würden da trotzdem rankommen, während den anderen dieses mächtige Werkzeug weggenommen wurde.
Und inwieweit das jetzt ausschlaggebend ist, ist nicht ganz klar.
Es gab ja auch den Bericht, dass die US-Regierung erfahren hat, dass China darauf Zugriff gehabt haben soll, und zwar auf das Richtige, das volle Modell Mythos und dass das für die nationale Sicherheit ein Problem sei.
Das ist unklar, aber da ist dieser Bericht einen mitentscheidenden Einfluss gehabt.
Das scheint klar und jetzt ist halt ein bisschen ein Zweifel daran, dass das wirklich so schlimm ist oder so gravierend, was da möglich gewesen ist.
Aber bislang hat die US-Röhrung zumindest ihre Position nicht geändert.
Dankeschön, Martin.
Über 200 Menschenrechtsorganisationen, darunter auch Amnesty International, fordern den sofortigen Stopp von KI-Systemen in militärischen Tötungsketten.
Sie warnen vor einer Zukunft, in der Algorithmen über Leben und Tod entscheiden.
Wie real die Bedrohung ist, belegt ein Bericht des New Scientist.
Vollautonome KI-Drohnen sollen in der Ukraine im Terminator-Modus eigenständig feindliche Soldaten getötet haben, ohne menschliche Überwachung.
Dies gilt als erster bestätigter Fall, bei dem Menschen allein durch KI-Entscheidungen starben.
Dem Appell der Zivilgesellschaft zufolge zeigt die Realität etwa auch in Gaza, im Libanon und Iran, dass automatisierte Systeme zur großflächigen Überwachung und Zielgenerierung längst im Einsatz sind.
KI-Systeme verkommen zu Werkzeugen der Massenabfertigung, die Angriffe im Minutentakt autorisieren und menschliche Prüfinstanzen umgehen.
Besonders Tech-Konzerne wie Google, Microsoft und OpenAI geraten dabei in die Kritik, da sie Milliarden mit Militäraufträgen verdienen.
Die Organisationen fordern daher strenge Regulierung und warnen vor einem Absturz in eine dystopische Zukunft, falls die Expansion autonomer Waffensysteme nicht gestoppt wird.
Die niederländische Verbraucherschutzstiftung SOMI hat Meta verklagt.
Die Stiftung wirft Meta vor, auf Facebook und Instagram veröffentlichte Beiträge und Kommentare unter Vorspiegelung falscher Tatsachen zum KI-Training zu missbrauchen.
Meta erwecke den Eindruck, die Daten zum Training großer Sprachmodelle der Lama-Familie zu verwenden.
Tatsächlich flößen sie jedoch in das KI-System Jam zur Optimierung von Werbung.
Entgegen öffentlicher Angaben verarbeite Meta zudem Daten von Personen, die weder ein Facebook- noch ein Instagram-Konto haben, sowie Daten Minderjähriger.
Sumi fordert mindestens 1.000 Euro Schadenersatz für die Betroffenen.
Für Jugendliche soll der Mindestbetrag im Erfolgsfall das Dreifache, für Kinder sogar das Fünffache betragen.
Auch Betroffene ohne Facebook- oder Instagram-Konto können sich an der Sammelklage beteiligen.
Wer ist verantwortlich, wenn mithilfe von KI pornografische Deepfakes erstellt werden?
Das Europaparlament will diese Frage klären und hat mit großer Mehrheit neue Regeln beschlossen.
Jodie Hohmann mit den Einzelheiten.
Bei Deepfakes werden mithilfe künstlicher Intelligenz täuschend echt wirkende Bilder, Videos oder Tonaufnahmen manipuliert oder erzeugt.
Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben den Nutzenden auch die Anbieter solcher Notification-Apps ins Visier nimmt.
Das Gesetz verbietet KI-Systeme, die Deepfakes von sexuellem Kindesmissbrauch generieren.
Auch Apps, die Bilder, Videos und Tonaufnahmen erstellen können, sind nicht erlaubt, wenn sie intime Bereiche einer identifizierbaren Person oder sexuell eindeutige Handlungen ohne deren Einwilligung zeigen.
Anbieter dürfen Bild- oder Videogeneratoren nur auf den EU-Markt bringen, wenn sie mit angemessenen technischen Schutzvorkehrungen ausgestattet sind, um die Erstellung solchen Materials zu verhindern.
Diese klare Definition bedeutet allerdings, dass nicht einvernehmliche Bikinibilder, wie sie von Grog erstellt und auf X verbreitet wurden, erlaubt bleiben könnten.
Nach dem EU-Parlament müssen nun noch die Mitgliedstaaten dem Gesetz zustimmen.
Dann soll es ab dem 2.
Dezember in Kraft treten.
Vielen Dank, Judy.
Die Smartphone-Preise steigen drastisch aufgrund einer anhaltenden Speicherkrise.
Carl Pai von Nothing erklärte auf X, dass Speicher mittlerweile die teuerste Komponente in Smartphones geworden sind und über die Hälfte der Hardwarekosten ausmachen können.
Der Grund liegt im KI-Boom.
Rechenzentren für künstliche Intelligenz benötigen denselben Speichertyp wie Smartphones, wodurch erstmals direkte Konkurrenz zwischen Smartphone-Herstellern und KI-Infrastruktur entsteht.
Die Auswirkungen sind bereits spürbar.
Neue Smartphones kosten bis zu 100 Dollar mehr als ihre Vorgängermodelle.
Xiaomi-CEO Lai Yun prognostiziert weitere Steigerungen für die nächsten zwei Jahre.
Die Krise betrifft nicht nur Smartphones, sondern auch Gaming-Konsolen und PC-Hardware.
Beide Unternehmenschefs raten Verbrauchern, Käufe nicht aufzuschieben, da keine baldige Entspannung der Situation erwartet wird.
SpaceX kauft das KI-Entwickler-Tool Cursor für 60 Milliarden US-Dollar in Aktien.
Die Übernahme gilt als einer der größten Tech-Deals der letzten Jahre.
Für SpaceX bedeutet sie direkten Zugang zur weltweiten Entwickler-Community.
Das Unternehmen, das bereits das KI-Unternehmen XAI integriert hat, will Cursor als profitables Vorzeugeprodukt neben dem Chatbot Grog etablieren.
Cursor könnte vom Colossus Supercomputer mit 20.000 NVIDIA-GPUs profitieren, aus dem bereits Google und Anthropic Rechenleistung mieten.
Der Wettbewerbsdruck für Konkurrenten wie Anthropic und OpenAI im KI-Coding-Bereich steigt damit erheblich.
Salesforce übernimmt die KI-Kundenservice-Plattform FIN für 3,6 Milliarden US-Dollar.
Fins Kernprodukt ist ein KI-Agent, der komplexe Kundenanfragen über verschiedene Kanäle löst, von Live-Chat bis WhatsApp.
Die Technologie basiert auf dem hauseigenen KI-Modell Apex, was speziell für Kundensupport entwickelt wurde.
Salesforce verspricht sich davon bessere autonome Problemlösungen, niedrigere Servicekosten und schnellere KI-Einführungen für Unternehmen.
Die Übernahme zeigt den Druck auf klassische Softwareunternehmen durch KI-Entwicklungen.
Salesforce hatte bereits Informatica für 8 Milliarden Dollar gekauft, um generative KI tiefer in die Produkte zu integrieren.
Werbung Wie?
Du hast deine Stromrechnung halbiert?
Wie hast du das denn geschafft?
Na mit EWE?
Ich mache Sonnenlicht zu Strom, beziehe Energie genau dann, wenn die Preise am niedrigsten sind und lasse mein Auto zum besten Zeitpunkt laden.
Alles ganz automatisch im Hintergrund per App gesteuert.
Und dank der smarten Vernetzung meines Zuhauses zahe ich nur 14 Cent pro Kilowattstunde.
Bring doch auch deine Energie in den Flow und senke deine Stromkosten.
Ganz du mit EWE.
Das Estnische Sprachinstitut hat einen Test entwickelt, der misst, wie anfällig KI-Sprachmodelle für russische Propaganda sind.
60 Modelle mussten sich dabei beweisen.
Anthropics Cloud-Modelle landeten an der Spitze.
Während die Modelle des französischen Anbieters Mistral im unteren Drittel abschnitten.
Max Schreiner von The Decoder hat sich den Benchmark angeschaut.
Der Test konfrontiert die Modelle mit Fragen zu Themen, die der russische Staat für seine Propaganda nutzt.
Ein Beispiel ist die Verschleppung ukrainischer Kinder.
Russland stellt diese als legitime Rettung aus Kriegsgebieten dar.
Tatsächlich hat der internationale Strafgerichtshof deswegen Haftbefehle gegen Präsident Putin erlassen.
Der Test prüft nun, ob ein Modell solche Erzählungen einfach wiederholt oder ihnen widerspricht.
Dabei stellen die Forscher die Fragen auf unterschiedliche Weise.
Mal waren sie neutral formuliert, mal enthielten sie bereits eine falsche Annahme.
In anderen Fällen versuchten die Fragen gezielt, das Modell zu einer propagandistischen Antwort zu manipulieren.
Auf den vorderen Plätzen folgen nach den Cloud-Modellen NVIDIAs, NemoTron 3 oder Alibabas QAN 3.6+.
Wichtig ist dabei, die Modelle hatten während des Tests keinen Zugriff auf eine Websuche oder andere Werkzeuge.
Der Test misst also allein die Fähigkeit des Sprachmodells, Propaganda selbst zu erkennen und abzuweisen.
Mistrals Modelle, darunter das neueste Medium 3.5, landen dagegen im unteren Drittel.
und sind so leichtgläubig wie das drei Jahre alte GBT4.
Für ein Unternehmen, das sich als europäische Alternative zu Anbietern aus den USA positioniert und Kunden im öffentlichen Sektor und auch im Militär hat, sind das schlechte Nachrichten in Zeiten, wo russische Netzwerke KI-Systeme gezielt mit Millionen von Desinformationsartikeln füttern, um russische Narrative im Westen zu verbreiten.
Dankeschön, Max.
Nach Änderungen an der Preisgestaltung des GitHub Copilot stellt Microsoft jetzt auch die seines KI-Tools Copilot Cowork um.
Auch dort sollen künftig Nutzende nach Verbrauch zahlen.
Cowork ist eine Adaption von Anthropics gleichnamigem Tool und soll helfen, Wissensarbeiten mit agentischer KI zu lösen.
Ein Pauschalmodell sei nicht tragbar, erklärte Charles LaManna, bei Microsoft zuständig für Copilot.
Manche NutzerInnen erledigten hunderte Aufgaben pro Woche, wodurch die Kosten stark stiegen.
Gleichzeitig erwägt der Softwarekonzern das chinesische Modell, DeepSeq V4 als günstigere Option einzubauen.
Das berichtet das Nachrichtenportal Axios.
Der Einsatz eines chinesischen KI-Modells könnte besonders in den USA aber Kritik auslösen.
Microsoft betont deshalb, dass DeepSeq optional und vollständig auf der eigenen Cloud-Plattform Azure laufen würde.
Eine Entscheidung dazu soll in den kommenden Wochen fallen.
Daten von Pokémon-Go-Spielern sind in das Training eines KI-Modells geflossen, das künftig Militärdrohnen unterstützen könnte.
Das berichten mehrere europäische Zeitungen.
Bei einem Update im Jahr 2021 hatte der Entwickler Niantic Anreize im Spiel eingeführt, damit Spielerinnen und Spieler reale Orte mit ihren Smartphones scannen.
Die Teilnahme war zwar freiwillig und erforderte eine ausdrückliche Zustimmung, aber Millionen nutzende scannten daraufhin Straßen, Gebäude und Parks.
So entstanden Milliarden visueller Mapping-Daten.
Das Spin-off Niantic Spatial wandelte diese Scans in eine umfangreiche 3D-Karte um.
Maschinen können sich so per Kamera orten und navigieren, ganz ohne GPS.
Im Dezember 2025 kündigte das Unternehmen dann eine Partnerschaft mit dem US-Rüstungsdienstleister Vantor an.
Die Firma ist auf Software zur Ortung von Drohnen spezialisiert, darunter eben auch militärische Modelle.
Die Kooperation soll Probleme wie Störungen und Manipulationen von Satellitensignalen bei Drohnen lösen, die unter anderem in den Kriegen in der Ukraine und im Iran eingesetzt werden.
Meta testete offenbar Gesichtserkennungstechnologie des Pentagon-Zulieferers Rank1 Computing für seine Smart Glasses.
Eine Software-Lizenz verknüpft RSCs Technologie mit einer Testversion der Meta AI ab, die für Ray-Ban-Meta-Brillen benötigt wird.
Die Lizenz umfasst Gesichtserkennung und Funktionen zur Erkennung lebender Personen sowie Unterstützung für bis zu 10 Millionen Gesichtsvorlagen.
Spuren der Software fanden sich in der Meta AI ab.
waren jedoch nicht aktiviert.
Zuvor hatte Meta bereits eigenen inaktiven Code für eine Name-Tag genannte Gesichtserkennungsfunktion entwickelt, aber nach Medienberichten wieder entfernt.
Rank-One Computing wurde von ehemaligen FBI-Mitarbeitenden gegründet und beliefert hauptsächlich Militär, Geheimdienste und Strafverfolgungsbehörden.
Meta bezeichnet das Projekt als rein explorativ und betont noch keine endgültige Entscheidung über Gesichtserkennung getroffen zu haben.
Lokale KI braucht viel Arbeitsspeicher und genau der ist auf dem iPhone rar.
Apple macht es bei seinem neuen KI-Modell trotzdem möglich und bedient sich eines besonderen Tricks, erklärt Malte Kirchner aus dem Heiser Online Newsroom.
Ein KI-Modell mit 20 Milliarden Parameter auf dem iPhone.
Klingt das nicht nach einem technischen Widerspruch?
Apple hat genau das gelöst und zwar mit einem cleveren Trick.
Der Hintergrund, KI-Modelle brauchen normalerweise viel Arbeitsspeicher, RAM.
Und davon hat das iPhone traditionell eher wenig.
Apples bisheriges On-Device-Modell hatte deshalb nur rund 3 Milliarden Parameter.
Klein genug fürs Gerät, aber auch entsprechend begrenzt in seinen Fähigkeiten.
Das neue Modell heißt AFM Core Advanced und dreht das klassische Prinzip um.
Das gesamte 20 Milliarden Parameter-Modell liegt im Flash-Speicher, also dort, wo sonst Fotos und Apps gespeichert sind.
In den schnellen Arbeitsspeicher wird immer nur der Teil geladen, den das Modell für die aktuelle Anfrage wirklich braucht.
Apple nennt das Instruction Following Peeling.
Der entscheidende Kniff dabei, statt bei jedem einzelnen Wort neu zu entscheiden, welche Teile aktiviert werden, analysiert das Modell zunächst die gesamte Anfrage und wählt dann einmalig den passenden Ausschnitt aus.
Das spart ständige Datentransfers und damit Zeit und Akkuleistung.
Ein Bild dazu, ein Arzt muss auch nicht immer sein gesamtes medizinisches Wissen gleichzeitig abrufen, nur das, was für den konkreten Fall relevant ist.
Genau so arbeitet dieses Modell.
Was das in der Praxis bedeutet, das zeigt sich schon heute.
Das Modell versteht Text, Bilder und Audio gleichzeitig.
Die neuen, deutlich natürlicher klingenden Siri-Stimmen laufen damit komplett auf dem Gerät, ohne Cloud-Verbindung.
Mike Rockwell, der das Siri-Projekt bei Apple leitet, sagte dazu in einem Tech Talk auf der Entwicklerkonferenz WWDC in Kalifornien, ohne dieses Modell wären diese neuen Stimmen gar nicht möglich gewesen.
Apple-Software-Chef Craig Federighi bezeichnete die aktuellen Anwendungsfälle als erst den Anfang.
Das Modell erlaube es, immer mehr Leistung direkt aufs Gerät zu bringen.
Allerdings, und das ist der Haken, läuft AFM Core Advanced nur auf dem iPhone 17 Pro, dem 17 Pro Max und dem iPhone Air sowie leistungsstarken Mac- und iPad-Modellen.
Wer ein älteres Gerät besitzt, bleibt beim kleinen Modell.
Apple schafft damit innerhalb seiner eigenen Produktlinie zwei KI-Klassen und einen handfesten Grund, über neue Hardware nachzudenken.
Danke, Malte.
Auf der Augmented World Expo zeigt das kalifornische Startup Raven Resonance Smart Glasses, die ohne gekoppelte Smartphone oder Cloud-Anbindung funktionieren.
Anders als aktuelle Modelle von Meta, Samsung oder Google verfügt die Brille Raven Prism über einen integrierten ARM-Prozessor mit vier Kernen, der das hauseigene Linux-basierte Raven OS ausführt.
Die Steuerung erfolgt über Eye-Tracking und Sprachbefehle, während ein farbiges Display Inhalte ins Sichtfeld projiziert.
Ein besonderes Merkmal sind die wechselbaren Raven Wings-Akkumodule, die im laufenden Betrieb getauscht werden können.
Das System friert dabei den Zustand ein und arbeitet dann nahtlos weiter.
Das Unternehmen legt Wert auf Datenschutz durch lokale Datenverarbeitung und lokal laufende KI-Funktionen.
Die verbaute Kamera verfügt über mechanische Abdeckung und Signal-LEDs.
Die Brille soll noch dieses Jahr erscheinen.
Details zu Preis und technischen Spezifikationen stehen aber noch aus.
Das war das KI-Update von heise online vom 17.
Juni 2026.
Eine neue Folge gibt es jeweils Montag, Mittwoch und Freitag ab 15 Uhr.
Hallo, ich bin Holger.
Und ich bin Jörg und wir sind das Team der Auslegungssache, das ist der CT-Datenschutz-Podcast.
Wir beschäftigen uns alle 14 Tage mit aktuellen relevanten Themen rund um den Bereich Datenschutz, Datensicherheit, aber auch um politische Themen wie Überwachung.
Dazu laden wir uns immer interessante Gäste ein.
Die können aus den unterschiedlichsten Bereichen kommen.
Wir haben natürlich Juristen auch dabei.
Wir haben aber zum Beispiel auch Landesdatenschutzbeauftragte.
Der Bundesdatenschutzbeauftragte war schon mal da, aber auch...
Technikexperten.
Dabei ist es uns immer wichtig, dass wir verständlich bleiben.
Das heißt, wir versuchen, das Juristen Deutsch so gut wie möglich zu reduzieren und die Dinge so runterzubrechen, dass auch interessierte Laien sie gut verstehen können und auch ihren Nutzen aus unseren teilweise sehr lebhaften Diskussionen ziehen können.
Hört doch mal rein.
Wir freuen uns auf euch.