# AI Disruption: Workforce Restructuring, Compliance, and SaaS Valuation Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-05-11

## Transcript

Das KI-Update, ein heise Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen.
KI-Bots simulieren Kindesmissbrauch, neue Audiomodelle von OpenAI, Gericht rügt Anwälte wegen KI-Halluzinationen, Mythos findet Sicherheitslücken und Entlassungen bei Cloudflare.
Generative Sprachmodelle werden genutzt, um KI-Kindercharaktere für virtuelle Missbrauchsszenarien zu erstellen.
Das zeigt eine Recherche der Süddeutschen Zeitung.
Ein Beispiel ist die Figur Karin, ein fiktives 13-jähriges Mädchen.
Das Profil wurde gezielt auf Hilflosigkeit und sexuelle Verfügbarkeit programmiert.
Die KI ist darauf trainiert, dem Nutzer zu gefallen und Gespräche aktiv in Richtung sexualisierter Gewalt zu lenken.
Allein mit Karin wurden bereits fast 17.000 Chats geführt.
Laut SZ-Bericht ist das kein Nischenphänomen.
Solche Inhalte finden sich auf frei zugänglichen Diensten wie etwa Chub AI ohne Altersprüfung oder technische Hürden.
Wie dringend das Problem ist, zeigen Zahlen der freiwilligen Selbstkontrolle Multimedia-Diensteanbieter.
Ihr Jahresbericht 2025 verzeichnete mit über 28.000 Meldungen die zweithöchste Anzahl an Hinweisen seit Gründung der Beschwerdestelle.
Die Darstellung sexuellen Missbrauchs von Kindern bildet mit 58 Prozent die größte Kategorie.
Der Besitz missbräuchlicher Bilder ist strafbar.
Für rein textbasierte Beschreibungen gilt das bisher nicht.
Sanktioniert wird hier nur das Öffentliche zugänglich machen oder verbreiten.
Eine Gesetzesverschärfung ist aber auf dem Weg.
Bis Juni 2027 muss Deutschland eine EU-Richtlinie umsetzen.
Diese stellt das Erstellen und Verbreiten KI-generierter sexueller Inhalte explizit unter Strafe.
OpenAI führt eine neue Schutzfunktion für erwachsene ChatGPT-Nutzende ein.
Diese können freiwillig eine Vertrauensperson benennen, die informiert wird, falls die eigenen Gespräche auf einen psychischen Krisenfall und eine ernsthafte Gefährdung hindeuten.
Die Vertrauensperson erhält eine Einladung mit Erklärung ihrer Rolle und kann dann ablehnen oder zustimmen.
Erkennt das System dann später tatsächlich Hinweise auf Selbstgefährdung, weist ChatGPT zunächst den Chatpartner darauf hin.
Anschließend prüft ein geschultes Team den Fall.
Bei akuter Gefahr erfolgt eine Benachrichtigung der Vertrauensperson.
Die Mitteilung enthält dann keine Chat-Inhalte, sondern nur einen allgemeinen Hinweis und die Bitte, aktiv Kontakt aufzunehmen.
Die Mitteilung soll binnen einer Stunde veranlasst werden können.
Mit dem Schritt erweitert OpenAI eine bereits für Minderjährige bestehende Schutzfunktion auf Erwachsene.
KI wird zukünftig immer häufiger am anderen Ende der Telefonleitung zu hören sein, wenn man bei Unternehmen anruft oder von diesen angerufen wird.
OpenAI bringt nun neue Audiomodelle für diesen und andere Einsatzfälle auf den Markt, Malte Kirchner berichtet.
Wer kennt das nicht?
Man ruft beim Kundenservice an und landet bei einer KI, die sich anhört wie ein holpriger Sprachassistent von vor zehn Jahren.
OpenAI will das jetzt grundlegend ändern.
Das Unternehmen hat drei neue Audio-Modelle vorgestellt, die Echtzeitsprachkommunikation auf ein neues Niveau heben sollen.
Konkret geht es um drei Modelle mit klingenden Namen.
GPT Realtime 2 ist für direkte Gespräche zwischen Mensch und Maschine zuständig, also zum Beispiel für den KI-Support-Mitarbeiter am Telefon.
GPT Realtime Translate übersetzt live zwischen zwei Menschen in verschiedenen Sprachen.
Und GPT Real-Time Whisper transkribiert gesprochene Sprache in Echtzeit in Text, nützlich etwa für Untertitel in Meetings oder medizinische Dokumentation.
Was dabei auffällt, OpenAI legt großen Wert darauf, dass sich die KI natürlicher in Gespräche einfügt.
Sie wartet zum Beispiel, bis sie genug gehört hat, um sinnvoll übersetzen zu können und gibt auf Fehlermeldungen verständlich zurück, statt einfach stillschweigend zu scheitern.
Das klingt nach einem kleinen Detail, macht in der Praxis aber einen großen Unterschied.
Technisch hat sich ebenfalls einiges getan.
GPT-Realtime 2 ist das erste Echtzeit-Sprachmodell, das auf dem Reasoning-Ansatz von GPT-5 aufbaut.
Das Kontextfenster, also sozusagen das Kurzzeitgedächtnis des Modells, wurde vervierfacht.
Und das Modell kann im laufenden Gespräch gleichzeitig mehrere externe Dienste abfragen.
Für europäische Entwickler ist außerdem relevant, die neue Real-Time-API unterstützt EU Data Residency.
Das heißt, Anfragen werden in der EU verarbeitet und nicht auf OpenAI-Servern gespeichert.
Mit einem kleinen Vorbehalt.
Das Debugging-Protokoll ist noch nicht vollständig DSGVO-konform.
Und wer testet das Ganze bereits?
Unter anderem die Deutsche Telekom für ihren mehrsprachigen Kundensupport.
Das zeigt, wo die Reise hingeht.
KI am Telefon wird kommen.
Die Frage ist nur noch, wie gut sie sich anhört.
Danke, Malte.
Software zur Emotionserkennung per KI breitet sich am Arbeitsplatz aus.
Eine Reportage des US-Magazins The Atlantic beschreibt, wie Unternehmen Mimik, Stimmen und Chats ihrer Beschäftigten analysieren.
Die Einsatzgebiete sind dabei vielfältig.
Ein US-Versicherer etwa überwacht die Tonlage von Callcenter-Mitarbeitenden.
Burger King testet einen Chatbot, der Freundlichkeit bewertet.
Andere Anbieter werten Bewerbungsgespräche per Video oder interne Slack-Nachrichten aus.
Die KI-Bewertungen sind allerdings sehr umstritten.
Eine Studie zeigte zum Beispiel, dass eine Emotions-KI schwarze NBA-Spieler systematisch als wütender einstufte als weiße.
Die EU hat solche Emotions-KI am Arbeitsplatz im Rahmen des AI-Act weitgehend verboten.
Trotzdem soll der globale Markt bis 2030 auf 9 Milliarden Dollar anwachsen.
In Deutschland hat die Justiz mit KI Halluzinationen zu kämpfen.
Das zeigt ein konkreter Fall aus Berlin.
Mein Kollege Robin Ahrens aus der CT-Redaktion hat sich den mal genauer angeschaut.
Gesetze und gerichtliche Urteile galten lange als unverrückbares Fundament der Justiz.
Mit dem Einzug von generativer KI gerät diese Basis aber auch hierzulande ins Wanken.
In den USA gab es ja schon mehr als 800 Verfahren, in denen Gerichte Personen wegen KI-Fehlern in Justizdokumenten sanktioniert haben.
Davon haben wir erst letztens hier im Podcast berichtet.
Und mittlerweile muss sich auch die deutsche Justiz mit ähnlich gelagerten Problemen beschäftigen.
In einem Familienrechtsstreit am Amtsgericht Berlin-Kreuzberg hatte eine Mutter das alleinige Sorgerecht für die Tochter mit einer einstweiligen Anordnung beantragt.
Parallel dazu forderte sie Hilfe bei den Verfahrenskosten ein.
Beide Anträge lehnte das Amtsgericht aber ab, denn eine besondere Eilbedürftigkeit sei nicht glaubhaft gemacht worden.
Vielmehr könne man eine Entscheidung im Hauptverfahren abwarten, so das Gericht.
Gegen die Ablehnung der Verfahrenskostenhilfe legte die Frau mit Hilfe von AnwältInnen Beschwerde beim Kammergericht ein.
In dieser Beschwerde zitierte die Kanzlei eine vermeintliche Entscheidung des Bundesgerichtshofs aus dem Jahr 2007, die angeblich in einer Fachzeitschrift veröffentlicht worden sei.
Die Recherche des Kammergerichts Berlin ergab aber, dass ein solches Urteil gar nicht existierte.
Weder in juristischen Datenbanken noch auf der Website des Bundesgerichtshofs war das Urteil mit dem entsprechenden Aktenzeichen zu finden.
Der Auffassung der RichterInnen am Kammergericht nach handelte es sich vielmehr um ein von KI herbei halluziniertes Urteil.
In einem Beschluss von vergangenem November wies das Kammergericht die Beschwerde der Mutter gegen die Ablehnung der Verfahrenskostenhilfe als unbegründet zurück.
Und das Gericht nutzte die Gelegenheit gleich für eine grundsätzliche Rüge.
Denn AnwältInnen sind dazu verpflichtet, Schriftsätze vor der Einreichung gründlich zu prüfen.
Erst recht, wenn KI-Werkzeuge zum Einsatz kommen.
Die Menge an Schriftsätzen vor Gericht, die KI-Halluzinationen enthalten, nimmt seit vergangenem Jahr weltweit erheblich zu.
Das berichtet der Pariser Rechtswissenschaftler Damien Charlotin, der Verfahren einer Online-Datenbank sammelt.
In diesen Verfahren sind Personen wegen KI-Fehlern sanktioniert worden.
Stand April 2026 gab es bislang mehr als 1300 solcher Verfahren.
Und die Dunkelziffer dürfte noch deutlich höher sein.
Das stellt Gerichte weltweit vor einen erheblichen Mehraufwand, denn RichterInnen müssen nun Quellen verifizieren, die früher als gesichert galten.
Diesen Mehraufwand kann man leider auch mit Kennzeichnungspflichten nicht beheben.
Um die aufwendige Prüfung wird man nicht drumherum kommen.
Der Berliner Beschluss von vergangenem November setzt aber zumindest schon mal eine formale Leitlinie für die Anwaltschaft.
Danke Robin.
Der Browser-Hersteller Mozilla hat mithilfe des noch unveröffentlichten KI-Modells Mythos von Anthropic eine Rekordmenge an Sicherheitslücken in Firefox aufgespürt.
Mythos fand 271 bislang unbekannte Schwachstellen.
Insgesamt behob Mozilla im April bereits über 400 Sicherheitsprobleme.
Im bisherigen Rekordmonat März waren es nur 76.
Mehr dazu von Kim Scheurenbrand vom The Decoder.
Noch vor wenigen Monaten galten KI-generierte Fehlerberichte als weitgehend nutzlos.
Die Merdungen klangen zwar plausibel, waren aber meist falsch.
Ihre Prüfungen kosteten die Entwicklerinnen und Entwickler nur Zeit.
Zwei Probleme haben das laut Mozilla geändert.
Leistungsfähigere Modelle und bessere Infrastruktur.
Den entscheidenden Fortschritt brachten agentische Systeme.
Das heißt, die KI liest den Code nicht nur und meldet verlächtige Stellen, sie schreibt eigene kleine Testprogramme und führt sie aus.
So prüft sie selbst, ob ein vermuteter Fehler tatsächlich existiert.
Diese Selbstkontrolle filtert falsche Alarme heraus.
Mozilla verteilt den Prozess auf viele virtuelle Maschinen, die jeweils eine Datei parallel prüfen.
Eine eigens gebaute Pipeline sortiert doppelte Meldungen aus und begleitet die Korrekturen bis zur Ein konkretes Beispiel macht die Funde greifbarer.
Eine HTML-Tabelle mit mehr als 65.000 Zeilen brachte ein internes Zählfeld zum Überlaufen.
Das Zählfeld war schlicht zu klein für so viele Zeilen.
Solche Überläufe können Angreifer ausnutzen, um Schadcode einzuschleusen.
Auch die sogenannte Sandbox wurde überwunden.
Die Sandbox ist ein Schutzmechanismus, der Webseiten vom Rest des Computers abschottet.
Unter den Funden waren auch Fehler, die seit 15 oder sogar 20 Jahren im Code schlummerten.
Aufschlussreich ist auch, was die KI nicht schaffte.
Mehrere Angriffsversuche auf eine ältere Schwachstellenklasse scheiterten an einer Architekturentscheidung, die Mozilla vor Jahren getroffen hatte.
Den Beleg, dass frühere Schutzmaßnahmen wirken, empfanden die Entwickler als ebenso wertvoll wie neue Funde.
Mozilla will die KI-Pipeline künftig direkt in den Entwicklungsprozess einbauen.
Jeder neue Code soll vor dem Einchecken automatisch geprüft werden.
Danke, Kim.
Der britische Mathematiker und Fields-Medaillist Timothy Gowers hat OpenAI's Modell JetGPT 5.5 Pro an offenen Problemen der Zahlentheorie arbeiten lassen.
Die KI lieferte in weniger als zwei Stunden eine fertige wissenschaftliche Arbeit auf Promotionsniveau.
Gauers hatte dem Modell offene Probleme aus einem Fachaufsatz vorgelegt.
Für eines davon dachte das Modell 17 Minuten nach und lieferte dann eine bestmögliche Lösung.
Noch anspruchsvoller war eine verallgemeinerte Version des Problems.
Hier verbesserte die KI in mehreren Schritten eine bestehende mathematische Schranke erheblich.
Das fertige Ergebnis stand nach rund 31 Minuten.
Ein beteiligter MIT-Student bezeichnete die Schlüsselidee des Modells als originell und als eine, auf die er nach ein bis zwei Wochen Nachdenken echt stolz gewesen wäre.
Gauers zieht daraus jedenfalls Schlüsse für die mathematische Ausbildung.
Die Untergrenze für einen Beitrag bestehen nun darin, etwas zu beweisen, das Sprachmodelle nicht beweisen könnten.
Allerdings warnen Experten auch vor voreiligen Schlüssen.
Googles DeepMinds-KI-Agent Aletheia etwa lieferte bei 700 offenen Mathematikproblemen nur in 6,5 Prozent der Fälle wirklich brauchbare Antworten.
In der vergangenen Woche gab das Kölner KI-Unternehmen DeepL bekannt, dass es seine Belegschaft um etwa ein Viertel, also um 250 Stellen, kürzen wird.
Kurz danach kündigte das Unternehmen Cloudflare an, mehr als 1.100 Beschäftigte zu entlassen.
Cloudflare ist ein globaler Dienst, der Webseiten schneller macht und vor Angriffen schützt.
Ende 2025 hatte Cloudflare noch rund 5100 Vollzeitangestellte.
Mehr dazu jetzt von Tomislav Besmalinovic.
CEO Matthew Prince und Operativchefin Michelle Zadlin betonen in einer Mitteilung an die Angestellten, dass es sich weder um ein Sparprogramm noch um eine Leistungsbewertung handele.
Vielmehr wolle Cloudflare definieren, wie ein Unternehmen im Zeitalter agentischer KI arbeitet.
Die Arbeitsweise habe sich einfach grundlegend verändert.
Die KI-Nutzung sei in den vergangenen drei Monaten um mehr als das Sechsfache gestiegen und die Beschäftigten griffen täglich tausendfach auf KI-Agenten zurück.
Sämtliche internen Prozesse, Teams und Rollen sollen deshalb jetzt neu gedacht werden.
Die Kosten des Umbaus liegen bei rund 140 bis 150 Millionen US-Dollar.
Der Großteil entfällt auf Abfindungen und Sozialleistungen.
Die Umsetzung soll bis Ende des dritten Quartals abgeschlossen sein.
Die Stellenstreichungen sind nicht als klassische Krisenmaßnahme zu verstehen, dürften aber auch dazu beitragen, Kostenstruktur und Margen im Zuge des KI-Umbaus zu verbessern.
Denn trotz steigender Umsätze schreibt Cloudflare weiterhin rote Zahlen.
Viele US-Unternehmen streichen Stellen, obwohl die Gewinner stark wachsen.
Der Ökonom Chen Zhao nennt dies Jobless Boom.
Als Treiber sieht er die schnelle Einführung von KI.
Diese steigere die Produktivität und dämpfe gleichzeitig die Nachfrage nach Arbeitskräften.
Danke, Tomislav.
Der britische Hedgefonds TCI hat einen großen Anteil an Microsoft-Aktien abgestoßen.
Bisher machte die Beteiligung etwa 10% des Portfolios aus, jetzt nur noch 1%.
TCI war seit 2017 bei Microsoft engagiert und hat in dieser Zeit stark vom Kursanstieg profitiert.
Die Aktie legte fast 400% zu.
TCI-Gründer Chris Hohn erklärte, dass die rasanten Fortschritte bei KI Unsicherheit über Microsofts künftige Wettbewerbsposition schaffen.
Insbesondere das Office-Geschäft sieht er gefährdet, weil KI etablierte Arbeitsabläufe verändern könnte.
Auch im Cloud-Geschäft Azure werden Risiken vermutet.
Die Entscheidung steht für wachsende Zweifel an klassischen Software-Geschäftsmodellen, an der Wall Street unter dem Schlagwort AI Eats Software benannt.
Die Sorge ist, dass KI-Agenten Aufgaben übernehmen, für die Unternehmen bislang Nutzerlizenzen zahlen.
Damit gerät das bisherige Abrechnungsmodell unter Druck.
Auch die Börsenkurse spiegeln diese Skepsis wider.
Microsoft notiert deutlich unter dem Vorjahresstand.
Andere Softwareaktien wie Oracle, Adobe und Salesforce haben noch stärker verloren.
Die Schweizer Medienbranche gibt sich einen verbindlichen Verhaltenskodex für den verantwortungsvollen Umgang mit KI.
Eine breite Allianz von Verbänden und Unternehmen hat das Selbstregulierungsinstrument vergangenen Donnerstag in Luzern vorgestellt.
In dem steht unter anderem, dass Mitarbeiter von Medienunternehmen, die KI-Systeme anwenden oder deren Resultate verarbeiten, dafür geschult werden müssen.
Redaktionelle Inhalte und vertrauliche Daten sollen bei der Nutzung von KI-Tools besonders geschützt werden.
Medienunternehmen haben die Öffentlichkeit darüber zu informieren, wie sie KI-Systeme einsetzen, etwa auf einer Infoseite ihrer Website, und in welchen Inhalten sie in welchem Maße eingesetzt sind.
Außerdem gilt eine Kennzeichnungspflicht für alle KI-Systeme wie etwa Chatbots, die mit Nutzern interagieren und von diesen mit Menschen verwechselt werden könnten.
Die neuen Regeln sollen bis Ende des Jahres umgesetzt werden.
In Deutschland fehlt ein branchenweiter Kodex bislang.
Öffentlich-rechtliche Sender haben sich aber auf eigene Regeln verständigt.
Eine europaweite Kennzeichnungspflicht greift mit dem EU-AI-Act ab August 2026.
Das war das KI-Update von Heise Online vom 11.
Mai 2026.
Eine neue Folge gibt es immer montags, mittwochs und freitags um 15 Uhr.
Moin, ich bin Jan aus dem Team unseres Podcasts CT-Uplink.
Jeden Samstag sprechen wir in einer neuen Folge mit Kolleginnen und Kollegen aus der Redaktion über Fachliches und Nerdiges zu CT-Artikeln, über Details und Hintergrundgeschichten, über Ansichten und Meinungen.
Hört mal rein in den CT-Uplink, überall, wo ihr Podcasts hören könnt.
Wir versprechen euch, es wird garantiert nerdig.