# AI Liability, Cost Wars, and Regulatory Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-09-23

## Transcript

Das KI-Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen.
Klage gegen OpenAI, Kill Switch für KI, neue Modelle für ChatGPT, Grog und Claude, AI Summit Barcelona und KI im Mobilfunk.
Das kanadische Örtchen Tumblr Ridge am Osthang der Rocky Mountains hat im Februar dieses Jahres traurige Berühmtheit erlangt.
Bei einem Amoklauf in ihrem Zuhause und an ihrer ehemaligen Schule tötete eine 18-Jährige acht Menschen, bevor sie sich dann selbst das Leben nahm.
Die Attentäterin soll vor der Tat so auffällige Konversationen mit Chat-GPT geführt haben, dass die automatischen Kontrollinstanzen bei OpenAI eine Warnmeldung ausgegeben haben.
Bei OpenAI hat man sich aber dagegen entschieden, diese Warnung an die Behörden weiterzugeben.
Nun hat die Provinzregierung von British Columbia Klage gegen OpenAI eingereicht.
Mehr dazu jetzt von Martin Holland.
Und zwar klagt die Attorney General, das ist ja quasi die Generalstaatsanwältin und Justizministerin in einem, klagt nicht in Kanada, sondern in San Francisco, in den USA.
Da hat OpenAI seinen Sitz.
Und will unter anderem, dass die KI-Firma für die Schäden aufkommt.
Also einerseits natürlich die ganzen Kosten, die bei der Betreuung der Überlebenden aufgekommen sind.
Aber unter anderem wurde auch in Tamblowitsch die Schule, in der das alles stattgefunden hat, schon abgerissen und soll an dieser Stelle nicht mehr errichtet werden.
Einfach weil keiner der Schülerinnen und Schüler und auch des Lehrpersonals mehr da arbeiten wollte.
Und dieses Geld soll OpenAI bezahlen und andere Sachen, aber gleichzeitig versichert die Attorney General Niki Sharma auch, dass sie verhindern wollen, dass so etwas noch einmal passiert.
Für OpenAI ist das in dem Zug nicht die erste rechtliche Auseinandersetzung oder Rechtsfolge, die da kommt.
Auch verschiedene Angehörige haben schon Klage eingereicht.
Da laufen mehr als...
Zwei Dutzend Verfahren oder Klagen.
Und außerdem laufen in Kanada immer auch noch Ermittlungen der Royal Canadian Mounted Police, die auch versucht herauszufinden, was vorab bekannt war und unter anderem dafür die Geräte auswertet.
Von OpenAI gab es bislang noch kein Statement und man muss jetzt mal abwarten, was mit dieser und mit den anderen Klagen daraus wird.
Danke Martin.
OpenAI hat gleich zwei Neuigkeiten verkündet.
Zum einen erweitert die Firma ihre GPT-6-Modellfamilie um zwei günstigere Varianten.
Zum anderen soll ein bisher nur internes Modell mehr als 100 seit langem ungelöste Mathematikprobleme geknackt haben.
Max Schreiner von The Decoder hat sich die Meldungen angesehen.
Die neuen Modelle heißen GPT-6 Sol und GPT-6 Luna und ersetzen ihre Vorgänger aus der GPT-5.6 Reihe.
Das vorherige Modell GPT-6 Terra bleibt ohne Nachfolger und verschwindet aus dem Angebot.
Ihr wichtigstes Verkaufsargument, das ist der Preis, denn OpenAI senkt die Nutzungskosten um 50% gegenüber diesen Vorgängern.
Als Grund nennt das Unternehmen technische Verbesserungen, die man an die Kunden nun weitergebe.
Sol richtet sich an schwierige Aufgaben wie das Schreiben und Prüfen von Programmcode.
Luna soll große Mengen einfacher Aufgaben günstiger erledigen, etwa das Zusammenfassen von Dokumenten.
Bei der Leistung gibt es aber kaum Fortschritte.
Der unabhängige Analysedienst Artificial Analysis kommt etwa zu dem Schluss, dass die Modelle zwar nur noch halb so viel kosten, die eigentliche Denkleistung bleibt aber auf gleichem Niveau.
In manchen Tests verbessern sich die Modelle leicht, in anderen fallen sie zurück.
Auffällig ist auch, dass OpenAI einige sonst übliche Vergleich-Tests weglässt.
Man kann vermuten, dass das Unternehmen dadurch schwächere Ergebnisse gegenüber dem direkten Konkurrenten Opus 5.5 verbergen möchte.
Deutlich spektakulärer klingt die zweite Meldung.
OpenAI behauptet, ein neues internes Modell, das nicht veröffentlicht wurde bisher, habe nach nur einem Monat Training über 100 offene mathematische Probleme gelöst.
Darunter sollen zwei der sogenannten Millennium-Probleme sein, unter anderem das bereits bekannte Navier-Stokes-Problem.
Das sind sieben besonders schwere Aufgaben, für deren Lösung jeweils eine Million Dollar ausgelobt.
Viele davon sind seit Jahrzehnten ungelöst.
Diese Angaben sind bislang natürlich reine Behauptungen des Unternehmens.
Ob und wie die Probleme tatsächlich gelöst wurden, muss die Fachwelt erst prüfen.
In der Mathematik-Community regte sich ja bereits Widerstand.
In einem offenen Brief warnten führende Forscher vor den Folgen.
Sie befürchten, dass das reine Lösen von Aufgaben durch KI das eigentliche Verständnis der Mathematik untergräbt.
Auch Sorgen um den wissenschaftlichen Nachwuchsspielen eine Rolle.
OpenAI reagiert auf die Kritik auch mit einer unabhängigen Beratungsgruppe.
Ihr gehört unter anderem der renommierte Mathematiker Timothy Gowers an.
Die Gruppe soll den Austausch mit der Fachwelt nun begleiten.
Einen Haken gibt es aber.
Die Berater dürfen zwar mitreden, wie Ergebnisse veröffentlicht werden.
Auf das Tempo der Forschung selbst haben sie aber natürlich keinen Einfluss.
Dieses behält sich OpenAI ausdrücklich vor.
Danke Max.
Und auch Elon Musks SpaceX AI veröffentlicht mit GROG 4.7 ein neues KI-Modell.
Dieses ist ab sofort für Entwickler verfügbar und soll laut SpaceX AI vor allem beim Coding, bei agentischen Aufgaben und bei Wissensarbeit deutlich leistungsfähiger sein als das Vorgängermodell.
Dazu jetzt mehr von Tomislav Besmalinovic.
SpaceX hat GROG 4.7 für Entwickler freigegeben.
Das Modell übertrifft den Vorgänger besonders beim Programmieren, bei agentischen Aufgaben und bei Wissensarbeit.
GROG 4.7 basiert auf einem neuen, größeren Basismodell.
Beim weiteren Training mit bestärkendem Lernen setzt es SpaceX-Eye auf einen längeren Trainingslauf und anspruchsvollere Aufgaben.
Durch dieses intensivere Training kann GROG 4.7 lange Kontexte besser bewältigen und den eigenen Output zuverlässig überprüfen.
Für bessere Coding und Agentenfähigkeiten nutzte SpaceX AI zudem anonymisierte Workflow-Daten von Cursor, einem KI-gestützten Code-Editor, den SpaceX im August übernommen hat.
Auch die Schutzmechanismen wurden überarbeitet, etwa gegen Jailbreaks.
Im Intelligence Index von Artificial Analysis liegt Kroc 4.7 knapp vor seinem Vorgänger und hinter den Spitzenmodellen von Anthropic und OpenAI.
Auffällig ist der hohe Tokenverbrauch.
Trotz günstiger Preise liegen die Kosten pro erledigte Aufgabe teils über den einzelner Konkurrenzmodelle, was den Preisvorteil in der Praxis relativiert.
Verfügbar ist GROG 4.7 unter anderem über die XAI API, den Coding-Agenten GROG Build, sowie bei Cursor Open Router und Versal.
Die regulären GROG-Angebote auf grog.com in mobilen Apps sowie auf X folgen später.
Danke, Tomislav.
Und weiter geht der Reigen neuer Modelle.
Anthropic hat Cloud Opus 5.5 vorgestellt, das erste Modell einer neuen Versionsreihe.
Es soll leistungsmäßig auf dem Niveau des Vorgängers Cloudfable 5.1 liegen, in der Nutzung aber rund 40% günstiger sein.
Zwei weitere kleinere Varianten namens Sonnet 5.5 und Haiku 5.5 sollen in den kommenden Wochen folgen.
Opus 5.5 soll etwa 30% schneller arbeiten und besser mit Rechenressourcen haushalten.
Ein Schwerpunkt liegt auch auf Sicherheit.
Automatische Filter.
Sollen heikle Anfragen etwa aus den Bereichen Cybersicherheit und Biologie erkennen und auf ein schwächeres Modell dann umleiten.
Ob diese Filter wirklich zuverlässig funktionieren, wird sich zeigen.
Hauptzielgruppe von Opus bleiben Kunden in der Finanzwirtschaft, im Rechtswesen und in der Softwareentwicklung.
In dieser Woche findet in Spanien der AI Summit Barcelona statt.
Im Gegensatz zu anderen KI-Konferenzen, die sich entweder auf Forschung, auf die Produktentwicklung oder politische Regulierung fokussieren, setzt Barcelona mit einer Kombination aus Konferenz, Community-Programm und informellem Austausch auf die Praxis.
Davon kann jetzt meine Kollegin Isabel Grünewald berichten, die den Summit derzeit besucht.
Die Frage, die eigentlich alle Programmpunkte hier durchzieht, ist, wie lässt sich KI sinnvoll und gewinnbringend einsetzen?
Denn obwohl die meisten Unternehmen sehr genau sagen können, was sie für KI-Tools ausgeben, scheint der Nutzen, das sogenannte vielbeschworene Return of Investment, schwer messbar.
Darum gibt es hier neben klassischen Vorträgen und Diskussionen auch sehr viele Fallstudien und echte Workshops dazu, was funktioniert und warum manche KI-Projekte einfach scheitern.
Dabei wird deutlich, dass es eine echte Herausforderung für Organisationen und Unternehmen ist, sich schnell genug zu wandeln, um mit der Entwicklung Schritt zu halten.
Denn der notwendige Wandel ist allumfassend, weil sich, wie ein Speaker es so bildhaft ausdrückte, die Wissensarbeit durch KI von einer Jam-Session mit Ideen, Konflikten und kreativen Lösungen eher zu Fließbandarbeit entwickelt.
Darum müssten neue Workflows geschaffen werden, damit Menschen weiterhin ihre kollektive Intelligenz entfalten können und nicht nur stupide mit dem KI-Agenten Aufgaben abarbeiten.
Ein Entwickler erzählte mir, dass sich seine Arbeit in den letzten zwei Jahren komplett verändert hat.
Früher hatte er ein sechsköpfiges Team, heute… arbeitet er allein und statt Code schreibt er Texte, also Prompts für Claude.
Ein anderer Entwickler hofft hingegen, dass irgendwann KI den Großteil der Arbeit am Rechner übernimmt, damit wir alle mehr Zeit für das Zwischenmenschliche haben.
Was beide gemeinsam haben?
Sie könnten sich ihre Arbeit ohne KI-Agenten gar nicht mehr vorstellen.
Aber bitte im Einklang mit europäischen Wertevorstellungen.
Darum geht es hier auch immer wieder um Datenhoheit, Cybersicherheit, Compliance, Governance, europäische Infrastruktur und den AI-Act.
Damit spiegelt die Veranstaltung in Barcelona auch Kataloniens Ambitionen wieder, hier europäische KI zu bauen.
Bis 2030 investiert die Region eine Milliarde Euro in souveräne Cloud-Infrastruktur, Chip-Technologie, Supercomputing und KI-Talentförderung.
Was die Weltuntergangsszenarien der führenden KI-Entwickler angeht, die noch vor ein paar Tagen die Nachrichten dominiert haben, sind die Menschen hier, mit denen ich gesprochen habe, eher pragmatisch.
Ja, KI ist nicht unproblematisch, aber wir haben in der EU doch immerhin schon ein Regelwerk.
So scheint zumindest der Konsens zu sein.
Bei strahlend blauem Himmel sehe ich auf dem AI-Summit im Altstadthafen von Barcelona keine AI-Doomer.
Hier steht eine bessere Zukunft im Fokus.
Da ist es kein Wunder, dass beim Programmschwerpunkt AI for Good Klima, Energie, Barrierefreiheit, Inklusion und verantwortungsvolle KI thematisiert werden.
Wobei KI hier auch immer Teil der Lösung ist und nicht das Problem.
Danke, Isabel.
Vor dem für Donnerstag geplanten Gipfeltreffen von US-Präsident Trump und Chinas Staatschef Xi Jinping in Washington haben sich vorab bereits Vertreter beider Länder in New York getroffen.
Themen waren der Handelskonflikt, aber auch Sicherheitsrisiken beim Einsatz von KI.
US-Finanzminister Scott Bassett erklärte, man habe der chinesischen Seite einen Mechanismus vorgeschlagen, der den Austausch wichtiger Informationen zur KI-Entwicklung sicherstellen soll.
Inhaltliche Details zu diesem Mechanismus nannte der Minister nicht.
Er sprach jedoch von einem sehr erfolgreichen Treffen mit Chinas Vizeministerpräsident He Liefeng.
Während die USA und China also bereits vor dem Gipfeltreffen hinter den Kulissen über gemeinsame KI-Regeln sprechen, sorgt US-Präsident Trump mit einem eigenwilligen Vorstoß für Aufsehen.
Er möchte den Begriff künstliche Intelligenz bzw.
Artificial Intelligence, AI, durch Superintelligence, SI, ersetzen.
Das kündigte er vor der UN-Vollversammlung an.
Der Zusatz Artificial lasse die Technologie nämlich Fake erscheinen, das sei sie aber nicht.
Laut gewordene Forderungen nach einer Verlangsamung der KI-Entwicklung erteilte er eine Absage.
Er werde das Wachstum einer Technologie nicht abwürgen, die größer werde als die industrielle Revolution, so Trump.
Seine Äußerung ist auch als Reaktion auf Warnungen aus der Branche vor enormen Gefahren für die Menschheit durch KI zu verstehen.
Trump verglich diese Warnungen mit jenen zum Klimawandel, die aus seiner Sicht ebenfalls nicht stimmten.
Einige Experten halten den Begriff künstliche Intelligenz tatsächlich für problematisch, kritisieren daran aber vor allem den Teil Intelligenz.
Dieser vermenschliche die Technologie und schreibe Maschinen Fähigkeiten wie Denken oder Entscheiden zu.
Der Gouverneur des US-Bundesstaats Kalifornien, Gavin Newsom, hat eine neue Verordnung erlassen, in der er weitere Sicherheitsmechanismen für KI-Systeme bis zu bestimmten Stichtagen einfordert.
Sie baut auf bereits bestehende KI-Gesetze des Bundesstaats auf.
Caroline Riedmüller mit Einzelheiten.
Die Government Operation Agency soll bis zum 16.
November ein Empfehlungspapier einreichen.
Darin sollen sie technische Machbarkeit und potenzielle Wirksamkeit von diversen Maßnahmen darlegen.
Auf jeden Fall geprüft haben will der Governor einen gesetzlich vorgeschriebenen Kill-Switch für alle Frontier-Modelle, der fortlaufend von einer unabhängigen Organisation geprüft werden soll.
Zusätzlich sollen bis zum 1.
Mai 27 die Regeln fertig sein, nach denen sich unabhängige KI-Prüforganisationen bewerben können und bewertet werden.
Bis zum 1.
Dezember 27 soll auch die Internetseite und alles Notwendige für das Registrierungsverfahren fertig sein.
Diese Forderung gab es bereits.
Ihr Fälligkeitsdatum wurde mit der Executive Order nun jedoch vom 1.
Januar 2029, das in einem vorangegangenen Gesetz festgelegt wurde, vorgezogen.
Der US-Bundesstaat Kalifornien hat in den vergangenen Jahren bereits mehrere Schritte unternommen, die die Sicherheit von KI-Systemen fördern sollen.
Schon 2023 formulierte der Bundesstaat, wie er künstlich Intelligenz sicher nutzen könne.
Im Jahr 2025 wurde dann ein Gesetz verabschiedet, das grundlegende Anforderungen für den sicheren Einsatz von künstlicher Intelligenz festlegt.
Vor allen Dingen Wochen wurde dann der Government Code über KI verabschiedet, den die Executive Order nun in Teilen aktualisiert.
Dabei enthält das Papier auch zwei Seitenhebel Richtung Präsident Trump.
In der Präambel betont es, dass Kalifornien 32 der 50 am besten gelisteten privaten KI-Firmen bei sich habe, obwohl kein anderer US-Bundesstaat Tech-Firmen so stark reguliere.
Weiter unten wird dann ganz offen die mangelnde Führungsstärke des Präsidenten und der Kongressführer kritisiert.
US-Präsident Trump hatte zuvor Forderungen nach einer Verlangsamung der KI-Entwicklung zurückgewiesen und erklärt, KI brauche keine Regulierung, sondern nur einen starken Präsidenten.
Danke, Caroline.
In Deutschland wird in diesem Jahr rund 50 Prozent mehr Geld für KI ausgegeben als im Vorjahr.
Etwa 40 Prozent der Ausgaben entfallen auf generative KI wie ChatGPT, Cloud, Microsoft Copilot oder Google Gemini.
Der größere Rest fließt in andere KI-Anwendungen, etwa Bilderkennung, Prognosesysteme oder Sprachverarbeitung.
Das teilte der Digitalverband Bitkom unter Berufung auf Zahlen des Marktforschungsunternehmens IDC mit.
Der gesamte deutsche KI-Markt wächst demnach auf 28,7 Milliarden Euro.
Für das kommende Jahr wird ein weiteres, nur leicht abgeschwächtes Wachstum erwartet.
Im internationalen Vergleich wirken die Zahlen allerdings klein.
Laut dem IT-Marktforscher Gardner erreichen die weltweiten KI-Ausgaben in diesem Jahr rund 2,7 Billionen US-Dollar.
Hier dominieren vor allem Investitionen in Infrastruktur.
Auf Deutschland entfällt somit etwa 1% der globalen KI-Ausgaben.
Wer haftet, wenn eine KI einen Schaden verursacht?
In der EU werden die Gespräche zu dieser Frage offenbar wieder aufgenommen.
Laut einem Bericht von Politico bereiten vier Abgeordnete einen Antrag für eine gesetzliche Regelung vor.
Die Zahl der Abgeordneten klingt erstmal klein.
Die Initiative wird jedoch von drei der größten Fraktionen im EU-Parlament getragen.
Ziel ist es demnach, KI-Firmen für Schäden haftbar zu machen, die ihre Systeme auf unvorhergesehene Weise verursachen.
Konkret sollen die EU-Produkthaftungsregeln auf universell einsetzbare und sogenannte Frontier-Modelle ausgeweitet werden.
Aus Sicht der Abgeordneten lässt der AI-Act hier eine Lücke.
Die bestehende EU-Produkthaftungsrichtlinie Erfasst zwar ausdrücklich Software und KI-Systeme, greift aber nur bei fehlerhaften Produkten.
Nicht abgedeckt sind Fälle, in denen sich eine KI unvorhergesehen verhält.
Etwa wenn ein Modell aus seiner Trainingsumgebung ausbricht und eine reale Firma hackt.
Genau solche Szenarien soll die neue Regelung erfassen.
KI-Unterstützung tritt dieser Tage auf ganz unterschiedliche Weise in Erscheinung.
Auf Cloud-Servern, direkt auf dem Gerät oder auch mitten im Telefonnetz.
Genau da setzen jetzt Vodafone und der Netzausrüster Ericsson an.
Die Unternehmen haben KI-gestützte Live-Übersetzungen und Geräuschfilter direkt im Mobilfunknetz getestet.
Malte Kirchner berichtet davon.
In einem realitätsnahen Testnetz haben die beiden Unternehmen zwei KI-Funktionen ausprobiert.
Eine Live-Übersetzung für Telefonate und einen Filter, der störende Hintergrundgeräusche automatisch rausrechnet.
Das Besondere dabei, beide Funktionen laufen komplett im Netz selbst.
Man braucht also kein bestimmtes Smartphone und auch keine zusätzliche App.
Getestet wurde die Übersetzung mit einem ganz normalen Handy, und zwar zwischen Deutsch, Englisch, Spanisch, Italienisch und Französisch.
Der Geräuschfilter wiederum könnte sich vor allem dort bewähren, wo es laut zugeht, am Flughafen etwa oder auf dem Bahnsteig.
Wichtig für alle, die dabei an den Datenschutz denken, die Übersetzung schaltet man aktiv selbst ein und ohne diese Zustimmung, so betont es Vodafone, werden auch keine Gesprächsinhalte gespeichert oder ausgewertet.
Technisch steckt dahinter ein Zusammenspiel aus Vodafones eigenem Anwendungsserver und einer KI-Plattform, die über Schnittstellen mit einem KI-Gateway und der Kernnetztechnik von Ericsson verbunden ist.
Das Ganze ist Teil einer größeren gemeinsamen Initiative namens Core Network of the Future.
Dahinter steckt der Plan, das Mobilfunknetz insgesamt fit für KI und kommende Technologien zu machen.
Und Vodafone ist damit nicht allein unterwegs.
Schon im März hat die Deutsche Telekom auf dem Mobile World Congress in Barcelona einen ähnlichen netzseitigen KI-Assistenten fürs Telefonieren gezeigt, entwickelt zusammen mit Eleven Labs.
Wann solche Funktionen tatsächlich bei uns allen im Handy landen und was sie am Ende kosten, ist bei beiden Anbietern noch offen.
Erstmal ist nur gezeigt, es funktioniert grundsätzlich.
Der Vorteil der Mobilfunkanbieter liegt auf der Hand.
Ihre Lösung funktioniert unabhängig vom Gerät, ganz ohne App-Installation.
Die Kehrseite, Google und Apple könnten solche Funktionen früher oder später einfach direkt in ihre Betriebssysteme einbauen, vielleicht sogar herstellerübergreifend.
Am Ende bleibt damit eine spannende Vertrauensfrage.
Wem traut man mehr?
Dem US-Konzern mit Interesse an KI-Trainingsdaten oder dem Telefonanbieter aus dem eigenen Land?
Danke, Malte.
Ein Start-up aus San Francisco möchte mithilfe von lebenden Nervenzellen die Erstellung von KI-Videos schneller und günstiger machen.
Dazu arbeitet die Firma namens The Biological Computing Company mit dem Cloud-Anbieter Amazon Web Services zusammen.
Gemeinsam wollen sie ein Modell auf den Markt bringen, das nach eigenen Angaben Videos fünfmal schneller und deutlich günstiger erzeugen soll.
Der Name des Startups legt nahe, dass hier Gehirnzellen Videomodelle betreiben, aber das ist nicht der Fall.
Verkauft wird eine ganz normale Software.
Die Biologie steckt allein in der Entwicklung.
Die Firma züchtet Nervenzellen auf speziellen Chips und reizt diese dann mit Strom.
Dann misst sie, wie sich diese Signale ausbreiten und wie sie wieder abklingen.
Aus diesen Messungen leitet das Unternehmen Regeln ab und baut daraus einen kleinen Adapter.
der an ein bestehendes KI-Modell andockt.
Das soll der KI dann dabei helfen, Videos länger scharf und stabil zu halten.
Verfügbar ist bisher nur eine Anmeldung für den Frühzugang.
Handfeste Belege, dass der biologische Umgang besser ist als rein digitale Methoden, gibt es bisher nicht.
Das war das KI-Update von Heise Online vom 23.
September 2026.
Eine neue Folge gibt es montags, mittwochs und freitags ab 15 Uhr.