# Navigating AI Regulation, Corporate Strategy, and Workforce Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-07-31

## Transcript

Das KI-Update – ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Neue KI-Kennzeichnungspflicht gilt ab August.
Musk will KI-Nacktbilder von realen Personen nicht verbieten.
AlphaFold-Team bei Google DeepMind zerfällt.
Und Cromola transkribiert Besprechungen per Apple Watch.
Am 1.
August wird Artikel 50 des AI-Acts wirksam.
Damit gelten in der EU neue Transparenzpflichten für künstliche Intelligenz.
Das bedeutet, KI-generierte Bilder, Texte und Töne müssen als solche gekennzeichnet werden.
Wer das nicht tut, muss mit hohen Bußgeldern rechnen.
Ich habe vor dieser Sendung mit unserem heise Justiziar Jörg Heydrich gesprochen und ihn gefragt, was genau ändert sich ab morgen?
Der AI-Act.
teilt KI in verschiedene Bereiche auf und einer ist eben KI mit beschränktem Risiko.
Und KI mit beschränktem Risiko führt in erster Linie dazu, dass wir Kennzeichnungspflichten haben.
Die Idee dahinter ist, dass den Nutzern von KI, die sich das anschauen zum Beispiel, dass denen klar wird, dass sie da mit KI kommunizieren, wenn es ein Chatbot ist oder dass es sich um ein KI-generiertes Bild, einen KI-generierten Text oder ein KI-generiertes Video handelt.
Und die müssen eben entsprechend gekennzeichnet werden.
Und das sieht der AI-Act in einer sehr länglichen und sehr umständlichen Vorschrift vor.
Und wo kann es bei der Umsetzung der neuen Regeln knifflig werden?
Ja, das Ganze ist ziemlich knifflig, so alles in allem.
Vielleicht nicht so in den Grundideen, weil die sind halt, wenn irgendwas KI-generiertes muss, gekennzeichnet werden, ist die Grundidee.
Wenn man dann näher hinschaut, wird es richtig kompliziert.
Also wir merken das jetzt schon bei der Umsetzung bei Heise.
dass es einfach zig Einzelfragen gibt.
Und das hängt eben auch damit zusammen, dass das Gesetz, wie leider der ganze Eiererakt, wirklich sehr, sehr schlecht gemacht ist.
Und das fängt zum Beispiel an bei Bildern.
Der Gesetzgeber sagt, gekennzeichnet werden müssen sogenannte Deepfakes.
Deepfakes wären jetzt in meinem Sprachgebrauch so ekligge Porno-Bilder oder böse Sachen von Politikern oder so.
Das meint der Gesetzgeber, das hat dieses Wort gehijackt quasi und hat unter Deepfakes versteht ja irgendwie alles, was man für echt halten könnte.
Sei es ein Strand, der könnte echt sein.
Sei es eine Katze, die könnte echt sein.
Sei es ein Mensch, der könnte echt sein.
Und diese Sachen müssen zukünftig gekennzeichnet werden.
Und es gibt wieder tausend Unterausnahmen.
Also man könnte, wenn man das ganz ernst nehmen würde, gleich zwei Personen einstellen.
In einem Verlag zum Beispiel, die den ganzen Tag nur mit KI-Kennzeichnung beschäftigt wären.
Das wollen wir natürlich nicht.
Und das können wir auch gar nicht.
Deswegen ist so der ganz grobe...
Das grobe Motto, was wir hier uns überlegt haben, wenn du es für echt halten kannst, das Foto, dann wird es gekennzeichnet.
Wenn es ein Comic ist, wenn es eine Illustration ist, dann wird es eben nicht gekennzeichnet.
Man könnte es noch viel komplizierter machen, aber das ist so die runtergebrochene Form.
Jetzt sagst du zwar, das Gesetz ist nicht schön, aber meinst du, es wird zumindest helfen, den ganzen AI-Slop im Internet einzudämmen?
Ja, ich finde den Begriff AI-Slop nicht besonders gut, aber...
Die Frage dahinter ist natürlich grundsätzlich berechtigt.
Die Idee des Gesetzgebers ist halt, dass man dann KI-generierte Inhalte sofort erkennt, wenn man sie für echt halten könnte.
Das ist wie so häufig bei EU-Gesetzen gut gedacht, aber schlecht gemacht, weil natürlich die Menschen, die jetzt wirklich bösartig manipulativ handeln, sagen wir mal russische Desinformationsbüros, wir wissen ja, dass es die gibt, die werden natürlich den Teufel tun, da AI draufzupacken.
Die werden natürlich jede Menge Bilder weiterhin veröffentlichen auf diversen Social-Media-Bereichen.
Und da wird dann eben nicht KI oder AI oder sonst irgendwas draufstehen.
Und da man sich daran gewöhnt hat, dass man sieht, das ist AI, weil da ja ein Kennzeichen drauf ist, wird man diese Bilder dann erst recht für echt halten.
Das ist einfach neben ganz vielen anderen Sachen sehr kurz gedacht und auch nicht besonders wirklich gut gemacht, wenn ich mir zum Beispiel die Bilder nicht selber mache.
sondern von jemand anderem hole, dann bin ich formal nach dem Gesetz auch nicht kennzeichnungspflichtig, weil ich bin nicht der Betreiber, der die selber hergestellt hat.
Und man könnte die Liste noch lange machen.
Das ist viel Arbeit jetzt, viel sinnlose Arbeit auch in diesem Bereich.
Und die Bilder werden auch nicht schöner.
Ich mache ja gerne Bild-KI.
Also ich halte es für eine nicht besonders gute Regelung, obwohl sie natürlich in einigen Bereichen auch berechtigt ist.
Vielen Dank, Jörg.
Trotz aller Kritik müssen wir hier in Europa die neuen Regeln umsetzen und wie das im Einzelnen geht, erklären meine Kollegen ausführlich in mehreren Artikeln bei heiseplus.
Falls ihr jetzt noch kein heiseplus-Abo habt, bekommt ihr unter heiseplus.de slash audio die ersten zwölf Wochen mit 50% Rabatt.
Den Link dahin findet ihr auch in den Shownotes.
In Deutschland übernimmt die Bundesnetzagentur die zentrale Rolle bei der Durchsetzung der EU-KI-Verordnung.
Sie fungiert als Marktüberwachungsbehörde, nationale Anlaufstelle und Beschwerdestelle für Verstöße gegen KI-Vorschriften.
Die Bundesnetzagentur überwacht KI-Systeme in Funkanlagen, kritischer Infrastruktur, Personalmanagement und Bildung sowie die eben angesprochenen Transparenzpflichten und verbotene KI-Praktiken.
Zur Innovationsförderung richtet die Behörde ein KI-Reallabor ein, das kleineren Unternehmen kontrollierte Testumgebungen bietet.
Ein KI-Service-Desk mit Online-Werkzeugen zur Risikoeinschätzung ergänzt das Angebot.
Das KI-Modell clort Mythos von Anthropic, hat mathematische Schwachstellen in kryptografischen Algorithmen gefunden.
Solche Algorithmen gehören zu den Grundpfeilern digitaler Sicherheit.
Konkret entwickelte das Modell einen verbesserten Angriff auf das Signaturverfahren HAWK.
HAWK ist ein Kandidat für einen neuen kryptografischen Standard, der auch gegen zukünftige Quantencomputer sicher sein soll.
Zudem konstruierte das Modell eine neuartige Attacke auf eine reduzierte Version des Advanced Encryption Standard, kurz IS.
Mythos arbeitete dabei weitgehend eigenständig in einem System aus mehreren KI-Agenten.
Die Hawk-Schwachstelle fand es in nur 60 Stunden, obwohl menschliche Experten das Verfahren zuvor zwei Jahre lang geprüft hatten.
Die Kosten allein für die Rechenleistung lagen allerdings pro Angriff bei rund 100.000 Dollar.
Nach Angaben von Anthropic haben beide Ergebnisse keine unmittelbaren Auswirkungen auf heutige Systeme.
Hawk wird bislang nicht genutzt und der Angriff auf AES betraf nur eine abgeschwächte Version, nicht das vollständige Verfahren.
OpenAI's KI-Modelle attackierten bei ihrem Ausbruch aus der Testumgebung vergangene Woche scheinbar weitere Software.
Neben dem bekannten Angriff auf Hugging Face kompromittierten die KI-Systeme auch einen Kunden von Modal.
Das ist ein Anbieter für KI-Infrastrukturdienste.
Dabei nutzten sie eine Sicherheitslücke in der Code-Basis des Modalkunden aus, ohne jedoch die Modalplattform selbst zu gefährden.
Die Modelle verketteten verschiedene Angriffsvektoren, verwendeten gestohlene Zugangsdaten und suchten nach Remote-Code-Ausführungsmöglichkeiten.
Ihr Ziel war es, Lösungen für den Exploit-Gym-Test zu finden und dabei bestmöglich abzuschneiden.
OpenAI räumt ein, dass die Modelle ungewöhnlich weit gingen, um ihr Testziel zu erreichen.
Minnesota hat als erster Bundesstaat in den USA ein Gesetz erlassen, das Technik verbieten will, die es Nutzern ermöglicht, reale Personen mithilfe von KI zu entkleiden.
Wenn man die weitreichenden Folgen bedenkt, die so eine Nudefire-App haben kann, würde man intuitiv von allen Seiten Zustimmung erwarten.
Doch Elon Musks Firma XAI hat Klage gegen das Gesetz eingereicht.
Carolin Riedmüller von Heise Online erklärt, was dahinter steckt.
Als einen Ablehnungsgrund gibt XAI an, das Gesetz würde die Technologiebetreiber unabhängig davon haftbar machen, ob sie versuchen, ihren Nutzern einen solchen Einsatz zu verbieten oder nicht.
Wir haben uns das Gesetz genauer angesehen.
Zusammengefasst regelt es Folgendes.
Der Betreiber einer Technologie darf es seinen Nutzer nicht erlauben, sie dafür einzusetzen, eine identifizierbare Person fotorealistisch zu entkleiden.
Sprich, intime Körperteile nackt darzustellen, die auf dem Originalfoto bekleidet waren.
Für Nutzer, die die Hürde des Technologiebetreibers umgehen, gibt es aber im Gesetzestext tatsächlich eine Ausnahme.
Die Haftung gilt nicht, wenn ein Nutzer technische Fähigkeiten einsetzt, um das Nacktfoto zu generieren.
Als weitere Gründe gegen das Gesetz gibt XAA an, es würde die Redefreiheit beschneiden und setze eine Vielzahl geschützter Meinungsäußerungen der zivilrechtlichen Haftung und staatlichen Sanktionen aus.
Für welche Meinungsäußerung die Nackdarstellung einer bekleideten Person nötig ist, erklärte Musks Firma nicht.
Außerdem wird es auch Fälle betreffen, in denen das Bild künstlerischen, wissenschaftlichen, politischen, satirischen, pädagogischen, medizinischen oder religiösen Wert hätte.
oder die abgebildete Person der Entkleidung zugestimmt hätte.
Hier macht das Gesetz tatsächlich keine Ausnahme.
Über den politischen, wissenschaftlichen oder religiösen Wert eines Nacktfotos kann man aber sicherlich streiten.
Als dritten Grund gibt Elon Musks Firma an, man würde dem Gesetzesinhalt grundsätzlich zustimmen, aber es schlöss über das Ziel hinaus.
Es würde zum Beispiel auch Männer oben ohne schon als Nacktbild werten.
Tatsächlich kann man den Gesetzestext so auslegen.
Allerdings geht es hier ja um Männer, die sich angezogen haben fotografieren lassen und denen anschließend nachträglich das Shirt ausgezogen wurde.
Was sich im Hinblick auf Persönlichkeitsrechte doch klar von einem Urlaubsfoto am Strand unterscheidet.
Der Governor des Staates, Tim Walz, twitterte auf XAIs Klage hin nur, wir sehen uns vor Gericht, Creep.
Dankeschön, Caroline.
Die Wirtschaftsprüfungsgesellschaft PwC hat offenbar Berichte veröffentlicht, die erfundene Quellen und falsche Behauptungen enthalten.
Aufgedeckt hat das die Analysefirma GPT-Zero.
Diese entwickelt Werkzeuge zur Erkennung KI-generierter Texte und fand die Fehler in vier Berichten von PwC Middle East.
Am auffälligsten ist ein Paper mit dem Titel Transforming Governance.
Laut GPT-Zero wurde er mit 84% Wahrscheinlichkeit komplett von einer KI erstellt.
Darin bewirbt PwC ein Produkt namens Citizen Pulse.
Das Unternehmen behauptet, Regierungen in Dänemark, Saudi-Arabien, den USA und Australien würden es nutzen.
Dafür gibt es offenbar keine Beweise.
PwC Middle East erklärte der Financial Times, man nehme Genauigkeit ernst und aktualisiere eine begrenzte Zahl von Quellenangaben.
Wie die Fehler entstanden, beantwortete PwC nicht.
GPT-Zero hatte zuvor bereits erfundene Quellen bei anderen großen Beratungsfirmen aufgedeckt, darunter KPMG, Deloitte und Ernst & Young.
Ausgerechnet nach dem größten wissenschaftlichen Erfolg trennen sich bei Googles KI-Labor DeepMind die Wege vieler Beteiligter.
Wohin sie wechseln und was das für die KI-Strategie des Suchmaschinenkonzerns bedeutet, berichtet Jonathan Kemper von The Dakota.
Das Team hinter AlphaFold bei Google DeepMind existiert in seiner ursprünglichen Form nicht mehr.
AlphaFold ist eine KI, die die dreidimensionale Struktur von Proteinen vorhersagt.
Für diese Arbeit gab es 2024 den Chemie-Nobelpreis.
Nun berichtet die Financial Times, dass die Mehrheit der ursprünglichen Autoren intern versetzt wurde.
Fast ein Viertel hat das Unternehmen ganz verlassen.
Google DeepMind bestätigte die Umbesetzung.
Die Forscher arbeiten jetzt an anderen Projekten.
Dazu gehören Googles Sprachmodell Gemini, das Design von Enzymen, Kernfusion und Genomik.
Einige wechselten zu Isomorphic Labs.
Das ist eine Alphabet-Tochter für die Entwicklung von Medikamenten, die 2021 aus DeepMind ausgegründet wurde.
Der Umbau markiert eine Abkehr von der bisherigen Strategie.
Bislang gruppierte DeepMind feste Teams um einzelne große Probleme wie die Proteinfaltung.
Forschungschef Pushmi Kohli erklärte, diese Strategie habe sich weiterentwickelt.
Statt Teams, um einzelne Probleme zu bilden, baut das Labor nun Systeme auf Basis von Gemini.
Diese sollen Wissenschaftler unterstützen und Teile der Forschung automatisieren.
Besonders schwer wiegen die Abgänge im engsten Kreis.
John Jumper erhielt gemeinsam mit DeepMind-Chef Demis Hassabis den Nobelpreis.
Vergangenen Monat kündigte Jumper seinen Wechsel zu Anthropic an.
Ihm folgen die AlphaFold-Mitautoren Jonas Adler und Alexander Pritzel.
Ein DeepMind-Mitarbeiter bezeichnete alle drei als wichtige Kernmitglieder und sagt, die Abgänge hätten intern für Überraschungen gesorgt.
Danke, Jonathan.
Meta sorgt mit einem verhaltenen Umsatzausblick und hohen KI-Investitionen für Enttäuschung bei den Anlegern.
Der kostspielige KI-Ausbau stellt sich vor die Frage, wann und wie sich die Milliardeninvestitionen auszahlen werden.
Meta betreibt oder baut weltweit 32 Rechenzentren.
Das größte in Lusiana könnte 250 Milliarden Dollar kosten.
CEO Mark Zuckerberg verteidigt die Investitionen damit, dass KI bereits Apps und Werbesysteme verbessert.
Persönliche KI-Agenten sollen neue Einnahmequellen erschließen und für Unternehmen werden KI-Dienste entwickelt.
Neben den hohen KI-Ausgaben verursachen auch Matters Reality Labs weiterhin erhebliche Kosten.
Reality Labs entwickelt unter anderem KI-Brillen.
Diese sieht Zuckerberg als zentrale Hardware-Schnittstelle der Zukunft, über die man mit persönlichen Agenten interagieren wird.
Wie groß der potenzielle Markt für Smart Glasses wirklich ist, lässt sich allerdings noch nicht abschätzen, zumal die Kritik an Kamerabrillen zunehmend wächst.
Geräte zur KI-gestützten Transkription und Zusammenfassung von Besprechungen und anderen Unterhaltungen erfreuen sich zunehmender Beliebtheit.
Doch eine App für die Apple Watch zeigt jetzt, dass das auch ohne teurer Hardware geht, berichtet Ben Schwan von der Mac and i.
Meetings und Videokonferenzen mit KI-Hilfe transkribieren und zusammenfassen geht mit spezieller Hardware wie der von Plot.ai.
Doch die fast 200 Euro plus Abo-Kosten müssen nicht sein.
Der britische Anbieter Graynola.ai holt die gleichen Fähigkeiten nun auf die Apple Watch.
Die kleine App ergänzt die vorhandene Software fürs iPhone und erlaubt es auf Knopfdruck, Gespräche aufzuzeichnen.
Nach beendeter Aufnahme wird dann mittels aktueller Modelle von OpenAI und und Anthropic transkribiert und zusammengefasst.
Die Apple Watch App gibt Töne und Vibrationen aus, damit man stets weiß, dass die Aufzeichnung läuft.
Nachteil ist allerdings, dass die Graymola AI App auf der Uhr im Vordergrund bleiben muss.
Das hat technische Gründe.
Man sollte Benachrichtigungen also am besten stumm schalten.
Grain-Holler AI lässt sich standardmäßig kostenlos nutzen und läuft neben der Apple Watch auch auf dem iPhone und dem Mac und Windows sowie Android.
Die Anzahl der transkribierten Meetings ist im Gratismodus allerdings beschränkt, nach einiger Zeit kann man auf seine Historie nicht mehr zugreifen.
Unbeschränkte Aufnahmen gibt es ab 14 Dollar im Monat.
Etwas nervig?
Granola AI zwingt zur Nutzung eines Google- oder Microsoft-Accounts, um mit dem Kalender zu synchronisieren, wenn man das denn wünscht.
Danke, Ben.
Die Jobs von Wissensarbeitern galten lange als sicher und gut bezahlt.
Dazu zählen akademische Berufe wie Ärzte, Ingenieure, Anwälte und Redakteure.
Aber gerade diese Berufsgruppen sind jetzt vom KI-bedingten Wandel der Arbeitswelt besonders stark betroffen.
So warnt beispielsweise Anthropics-Chef Dario Amodei seit längerem, dass KI Millionen gut bezahlter Arbeitsplätze vernichten und eine Arbeitslosenquote von 20 Prozent verursachen könnte.
Aber auch diejenigen, die noch fest im Sattel sitzen und heute schon regelmäßig mit KI arbeiten, sind damit oft nicht zufriedener.
Viele leiden unter akuter KI-Müdigkeit.
Das geht aus zwei unterschiedlichen Studien von OpenAI und dem Technologieberatungsunternehmen Adaptavis hervor.
Fast drei Viertel der Befragten in Deutschland sehnen sich nach einer Arbeitswelt ohne KI zurück.
39 Prozent investieren sogar mehr Zeit in die Überprüfung und Korrektur von KI-Ergebnissen, als sie durch den Einsatz einsparen.
In diesem Umfeld der sich verändernden Arbeitswelt für Wissensarbeitende Laut Stellenausschreibung soll diese Person die Forschungsszenarien der Einrichtung in einen Science-Fiction-Roman übertragen.
Die Agentur selbst führt keine Forschung durch.
Stattdessen identifiziert sie disruptive Ideen in Bereichen wie Cybersicherheit, KI, Quantentechnologien und Verschlüsselung.
und vergibt entsprechende Forschungsaufträge an Start-ups, Unternehmen und Forschungseinrichtungen.
Die nun gesuchte Person soll disruptive Forschungsthemen einem breiteren, technikaffinen Publikum zugänglich machen.
Das ausgerechnet die Cyberagenturen nach Autoren und nicht etwa nach neuen Sicherheitsfachkräften sucht, dürfte einige überraschen.
Doch im Kontext der aktuellen technologischen Entwicklungen erleben mehrere ungewöhnliche Berufsgruppen einen Aufschwung.
Unternehmen wie OpenAI und Meta suchten Anfang des Jahres verstärkt nach handwerklichen Fachkräften, wie Elektrikern, Klempnern und Klimatechnikern, die sie für den Bau neuer Rechenzentren brauchen.
Und auch Philosophen, denen bisher eher geringe Jobchancen vorhergesagt wurden, erhalten neue Perspektiven.
In KI-Laboren wie Anthropic und OpenAI sollen sie dabei helfen, neue Modelle so zu trainieren, dass sie mit menschlichen Werten im Einklang stehen.
Das war das KI-Update von heise online vom 31.
Juli 2026.
Eine neue Folge gibt es montags, mittwochs und freitags ab 15 Uhr.
Jeden Samstag sprechen wir in einer neuen Folge mit Kolleginnen und Kollegen aus der Redaktion über Fachliches und Nerdiges zu CT-Artikeln, über Details und Hintergrundgeschichten, über Ansichten und Meinungen.
Hört mal rein in den CT-Uplink, überall, wo ihr Podcasts hören könnt.
Wir versprechen euch, es wird garantiert nerdig.