# AI Regulation, Security Risks, and Enterprise Adoption

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-06-15

## Transcript

Das KI-Update – ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Politiker lassen ihre Reden immer öfter von KI schreiben.
US-Regierung erzwingt Abschaltung von Anthropics, Fable 5 und Mythos 5.
KI schürt Sorgen um Job und Verstand.
Und Apple gibt Cloud-Modell für kleinere Entwickler kostenlos frei.
Manchmal komplett.
Einige Beiträge und Reden von Digitalminister Carsten Wildberger stammen von einem KI-Chatbot.
Sein Ministerium hat das jetzt bestätigt.
Und damit ist Wildberger nicht allein.
Auch zahlreiche Reden des Thüringer Ministerpräsidenten Mario Vogt sollen KI generiert sein, darunter auch Gastbeiträge für die Frankfurter Allgemeine Zeitung.
Nun hat die FAZ reagiert.
Martin Holland aus dem heise online Newsroom mit den Einzelheiten.
In den vergangenen Tagen gab es gleich mehrere Fälle von Personen, die in der Öffentlichkeit stehen oder politische Verantwortung tragen, die dabei erwischt wurden oder scheinbar erwischt wurden, dass sie Texte, Reden, Gastbeiträge ganz oder teilweise von KI haben erstellen lassen.
Das ging los mit Mario Vogt, dem Ministerpräsidenten von Thüringen, bei dem es um mehrere Reden und Gastbeiträge ging, die er unter anderem zum Holocaust-Gedenktag gehalten hat und die zumindest von KI-Tools als teilweise ganz oder fast vollständig KI generiert eingestuft wurden.
In der vergangenen Woche hat die FAZ, die Frankfurter Allgemeine Zeitung, dann einen dieser Gastbeiträge.
depubliziert, also aus ihrem Online-Angebot genommen.
Und dabei ging es unter anderem darum, wie Social Media für Jugendliche reglementiert werden sollte.
Dann ging es Schlag auf Schlag weiter in der vergangenen Woche.
Dann gab es den Fall beim Tagesspiegel.
Da hat der Editor-at-Large, der ehemalige Hausgeber und Chefredakteur Stefan Andreas Kastorf, Meinungstexte von KI generieren lassen und wurde deshalb entschieden von der Redaktion, dass keine Texte mehr von ihm veröffentlicht werden.
Und am Wochenende gab es dann den Fall von Digitalminister Carsten Wildberger, der auch Reden und Gastbeiträge zumindest unterstützt von KI hat verfassen lassen.
Das wurde teilweise bestätigt, also bei den Politikern wurde das von den jeweiligen Sprechern bestätigt, dass da KI unterstützend eingesetzt wurde.
Aber es wurde immer zugesichert, dass das eben nicht komplett passiert ist und dass das eine Kontrolle unterlaufen hat.
Daran gibt es aber zumindest im Fall von Mario Vogt deutliche Zweifel, wenn man sich die Beiträge liest.
Da geht es unter anderem auch um eine Rede zum Gedenken an den verstorbenen ehemaligen Thüringer Ministerpräsidenten Bernhard Vogel, in der sehr komische, ungelenke Formulierungen vorkommen, die überhaupt nicht zu passen scheinen.
Holocaust-Gedenken gibt es da in ähnlichen Formulierungen, die deutliche Zweifel daran wecken, dass da wirklich intensiv drüber geguckt wurde.
In den anderen Fällen, also beim Tagesspiel, wurde das offensichtlich intern erkannt oder zumindest von Leuten darauf hingewiesen und dann die Konsequenzen gezogen.
Bei Carsten Wildberger war es dann so wie bei Mario Vogt.
Es gibt ein KI-Tool, also interessanterweise funktioniert das auch mit KI, das heißt Pangram.
Damit kann man Texte darauf prüfen, wie KI generiert sie sind.
Das ist aber überhaupt nicht sehr zuverlässig.
Deswegen ist die Frage, was man damit mit diesen Ergebnissen überhaupt machen soll.
Teilweise zeigen da Tests, dass wenn man da nur kleine Sachen verändert, dass da von 0 auf 100 Prozent KI-Generierung geschlossen wird.
Deswegen ist da nicht klar, wie zuverlässig das insgesamt sein soll.
Aber zumindest hat das ja jetzt diese Fälle zutage gefördert, wo ja bestätigt wurde, dass KI eingesetzt wurde.
Vielen Dank, Martin.
Passend zu dem Thema, aber ganz unabhängig davon, hat die EU-Kommission einen umfassenden Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte vorgelegt.
Das Regelwerk wurde von Experten unter Beteiligung von über 180 Interessenvertretern entwickelt und dient als praktischer Leitfaden für die KI-Branche.
Der freiwillige Kodex gliedert sich in zwei Bereiche.
Entwickler generativer KI-Systeme müssen künstliche Inhalte technisch markieren.
wobei ein mehrschichtiger Ansatz mit digitalen Metadaten und unsichtbaren Wasserzeichen vorgeschrieben wird.
Anwender müssen KI-Inhalte für Menschen erkennbar kennzeichnen.
Ein standardisiertes EU-Label mit den Aufschriften AI-Generated oder AI-Modified sorgt für einheitliche Erkennbarkeit.
Das Kennzeichen muss durchgehend sichtbar platziert werden.
Für kreative Werke gelten flexiblere Regeln.
Ab dem 2.
August müssen Deepfakes und KI-generierte Texte von öffentlichem Interesse klar gekennzeichnet werden.
Eine Taskforce soll den Codex kontinuierlich an technologische Entwicklungen anpassen.
Anthropic muss seine KI-Modelle Fable 5 und Mythos 5 für alle Kunden weltweit abschalten.
Auslöser ist nach Darstellung des Unternehmens eine Exportkontrolldirektive der US-Regierung, die ausländischen Staatsangehörigen den Zugriff auf beide Modelle untersagt.
Das gilt auch für ausländische Anthropic-Mitarbeiterinnen und Mitarbeiter innerhalb der USA.
Alle übrigen Cloud-Modelle seien von der Anordnung nicht betroffen.
Die Maßnahme reiht sich in eine bereits zuvor eskalierte Auseinandersetzung zwischen Anthropic und Teilen der US-Sicherheitsbürokratie ein.
Laut dem US-Magazin Semaphore hat die US-Regierung die Abschaltung der Modelle angeordnet, weil es den Verdacht gibt, dass eine Gruppe mit Verbindungen zur chinesischen Regierung Zugriff auf Mythos hatte.
Das Magazin beruft sich dabei auf eine anonyme Quelle.
Der Zugriff auf Mythos war eigentlich streng reglementiert.
Sollte China Zugriff darauf haben, könnte das ein Risiko für die nationale Sicherheit der USA darstellen, schreibt Semaphore.
Eine Bestätigung steht aber noch aus.
Doch nicht nur die Sorge vor China führte zur Sperrung von Anthropics Fable, offenbar steckt dahinter auch ein anderer großer Tech-Player.
Laut Berichten mehrerer Medien ließ Amazon-CEO Andy Yassi seine Cybersicherheitsabteilung das neue KI-Modell auf mögliche Jailbreaks testen.
Das sind Tricks, mit denen man ein KI-Modell dazu bringt, Prompts zu bearbeiten, die es aus Sicherheitsgründen sonst verweigern würde.
Die Expertinnen und Experten sollen mithilfe solcher Jailbreaks gezeigt haben, dass die KI funktionierende Exploits für Sicherheitslücken von vier gängigen Programmen liefern konnte.
Davon berichtete Yassi dann auch US-Regierungsangehörigen.
Warum er Anthropic solche Steine in den Weg wirft, ist nicht ganz nachzuvollziehen, denn in den nächsten Jahren will Amazon insgesamt 25 Milliarden US-Dollar in Anthropic investieren.
Darüber hinaus handelt es sich hier nicht um eine bahnbrechend neue Erkenntnis.
Denn in der Theorie lassen sich die Sicherheitsvorkehrungen aller KI-Modelle durch Jailbreaks umgehen.
Anthropic hat die Ergebnisse einer groß angelegten Umfrage unter fast 52.000 US-Amerikanerinnen und Amerikanern veröffentlicht.
Das beauftragte Meinungsforschungsinstitut YouGov befragte Ende 2025 Menschen ab 16 Jahren in allen 50 Bundesstaaten.
Das ist die erste Befragung des Unternehmens, die sich an die breite Öffentlichkeit richtet und nicht nur an Nutzende des hauseigenen Chatbots klort.
Kim Scheurenbrand von The Decoder hat sich die Ergebnisse einmal genauer angeschaut.
Die Ergebnisse zeichnen ein gespaltenes Bild.
Die größte Hoffnung der Befragten ist die Heilung schwerer Krankheiten wie Krebs oder Alzheimer.
48% der Befragten nannten diesen Punkt.
Mit etwas Abstand folgt die Unterstützung von Menschen mit Behinderung mit 36%.
Auf der anderen Seite stehen die Ängste gegenüber KI.
46% der Befragten sorgen sich, dass KI Arbeitsplätze wegfallen lassen könnte.
Diese Angst steht in jedem einzelnen Bundesstaat an erster Stelle und wächst mit dem Bildungsniveau.
An zweiter Stelle folgt mit 56% die Furcht vor kognitiver Abhängigkeit.
Gemeint ist damit der Verlust der Fähigkeit, eigenständig zu denken.
52% sorgen sich außerdem vor Fehlinformationen durch KI.
Auffällig ist dabei ein Widerspruch.
Von den 56%, die kognitive Abhängigkeit fürchten, würde nur etwa ein Fünftel tatsächlich Einschränkungen spüren, wenn KI morgen verschwinden würde.
Unter denen, die sich keine Sorgen machen, wäre der Anteil mit rund einem Drittel sogar höher.
Trotz dieser Sorgen schreiben die Befragten der Technologie durchaus Kompetenz zu.
Rund 75% halten KI bei Recherche für mindestens so gut wie Menschen.
Dennoch lehnt eine Mehrheit den Einsatz von KI am eigenen Arbeitsplatz ab.
Selbst bei Aufgaben wie Recherche oder Datenanalyse wünscht sich fast die Hälfte keinerlei KI-Beteiligung.
Ein Faktor verringert die Skepsis allerdings deutlich.
Praktische Erfahrung.
Wer KI täglich bei der Arbeit nutzt, fürchtet einen Jobverlust um 54 Prozent.
Bei Personen ohne jede KI-Nutzung liegt dieser Wert sogar bei 70 Prozent.
Der direkte Umgang mit der Technologie macht offenbar sowohl ihre Möglichkeiten als auch ihre Grenzen sichtbar.
Nur 15 Prozent der Befragten vertrauen KI-Firmen bei ihren Entscheidungen über die Entwicklung und den Einsatz der Technologie.
Dankeschön, Kim.
Der Bundestag hat das nationale Umsetzungsgesetz für die KI-Verordnung verabschiedet.
Damit wird die Bundesnetzagentur die zentrale Marktüberwachungsbehörde für künstliche Intelligenz in Deutschland.
Dafür erhält sie umfassende Befugnisse.
Sie übernimmt die Marktaufsicht für KI-Systeme, wird Beschwerdestelle für Bürgerinnen und Bürger und soll Unternehmen beraten.
Zusätzlich entstehen ein Koordinierungs- und Kompetenzzentrum, sowie mindestens ein KI-Reallabor für Testneuer Anwendungen.
Kritiker aus Opposition und Zivilgesellschaft bemängeln fehlenden Grundrechtsschutz und warnen vor Förderheim-Kompetenz-Werrwarr, denn ein verpflichtendes Transparenzregister für KI-Einsatz in Behörden wurde nicht eingeführt.
Der IT-Verband Bitkom befürchtet unterschiedliche Bewertungen identischer KI-Systeme durch verschiedene Behörden.
Der Bundesrat fordert eine erhebliche Verschärfung der geplanten KI-gestützten Überwachungsbefugnisse für Ermittlungsbehörden.
Die Bundesregierung reagiert gerade auf ein Verfassungsgerichtsurteil und will den Einsatz automatisierter Recherche- und Analyseplattformen regeln.
Diese Vorschläge gehen den Ländern aber nicht weit genug.
Kritikpunkt ist die geplante Kopplung von Strafverfolgung und Gefahrenabwehr.
Der Bundesrat befürchtet, dass KI-Analysetools bei der klassischen Strafverfolgung oft nicht nutzbar wären, da landesrechtliche Voraussetzungen fehlen.
Die Länder fordern daher eigenständige Kompetenzen zum Zusammenführen von Daten ausschließlich für die Strafverfolgung.
Besonders umstritten sind dabei automatisierte biometrische Abgleiche mit öffentlich zugänglichen Internetdaten.
Der ECO-Verband warnt vor der Umfunktionierung des Internets zu einem staatlichen Identifizierungsraum.
Ein Report der Beratungsfirma KPMG über KI in Unternehmen enthält mehrere halluzinierte Fallstudien.
Das hat die Forschungsgruppe GPT-ZERO aufgedeckt.
KPMG machte falsche Aussagen über den KI-Einsatz bei der Schweizer Großbank UBS, dem britischen Gesundheitsdienst NHS, den Schweizerischen Bundesbahn und der Londoner Verkehrsgesellschaft Transport for London.
Alle genannten Organisationen widersprachen bereits den KPMG-Darstellungen.
Als technische Ursache vermutet GPT-Zero unsaubere KI-Websuchen.
Der Bericht sei voller mangelhafter Quellenangaben, oft ohne korrekte Links oder Autoren.
GPT-Zero-Chef Edward Tian warnt vor sogenannten Sekundär-Halluzinationen.
Wenn große Beratungsfirmen KI-generierte Falschinformationen veröffentlichen, werden diese als besonders glaubwürdig eingestuft und sowohl von Menschen als auch von KI-Systemen weiterverbreitet.
KPMG hat den Bericht inzwischen von einigen Webseiten entfernt.
Für die Beratungsfirma ist der Vorfall doppelt peinlich.
Sie verbreitet damit genau die Fehlinformationen, vor denen sie ihre Kunden eigentlich schützen will.
Google Research hat Gemini SQL 2 vorgestellt, eine neue Text-to-SQL-Funktion auf Basis von Gemini 3.1 Pro.
Das System übersetzt also natürliche Sprache in sogenannte SQL-Abfragen.
SQL ist die Standardsprache, mit der Datenbanken gesteuert werden.
Statt komplizierte Befehle zu schreiben, können Nutzen ihre Fragen künftig in Alltagssprache formulieren.
Im BERT-Benchmark, der die Genauigkeit solcher Übersetzungen misst, liegt das Tool deutlich vor OpenAI's GPT 5.5 und Anthropics Cloud Opus 4.
Google Research erklärte, dass die Aufgabe besonders anspruchsvoll sei, weil Daten oft vielschichtig sind und komplexe geschäftliche Zusammenhänge berücksichtigt werden müssen.
Besseres SQL-Verständnis könnte laut Google die natürlichsprachlichen Fähigkeiten in Googles Datendiensten insgesamt verbessern.
Ob und wann das Modell allgemein verfügbar wird, liest die Forschungsabteilung offen.
Um die Nutzung seiner mit Google verbesserten KI-Modelle anzuschieben, lässt Apple, App-Entwicklerinnen und Entwickler diese unter Umständen gratis nutzen.
Ben Schwan von der Mac & I erklärt, welche Bedingungen dafür erfüllt werden müssen.
Apple ermöglicht Entwicklern, die unter 2 Millionen Erstdownloads im App Store haben, die kostenlose Nutzung seiner Cloud-Modelle.
Das kündigte der iPhone-Hersteller in der vergangenen Woche auf seiner Entwicklerkonferenz WWDC 2026 an.
Schon jetzt war es für Developer möglich, auf Apples Foundation-Models zuzugreifen, doch galten diese als vergleichsweise wenig performant.
Mit iOS 27, macOS 27 und den anderen neuen Betriebssystemen kommen ab Herbst nur neue Grundmodelle auf den Markt, die sich AFM3 nennen.
Sie wurden mithilfe von Googles Gemini-Modellen trainiert und verbessert.
Zwei davon laufen lokal auf iPhone, Mac und iPad, drei in der Cloud.
Zahlreiche Entwickler haben darauf nun kostenlos Zugriff.
Damit dürften sich hohe API-Kosten sparen lassen.
Wie lange die Gratis-Nutzung möglich ist, teilte Apple zunächst nicht mit.
Unklar blieb außerdem, ob nur das Cloud-Modell AFM3 Cloud oder auch die beiden anderen Cloud-Modelle, die besser laufen, AFM3 Cloud Pro und ADM3 Cloud Image bereitstehen werden.
AFM3 Cloud Pro ist das stärkste Cloud-Modell, das Apple derzeit zu bieten hat und läuft auf Nvidia-Chips bei Google Cloud.
ADM3 generiert Bilder und dürfte an die Qualität von Googles Nano-Banana herankommen.
Entwickler können Cloud-Modelle und die neuen Funktionen in iOS 27, iPadOS 27 und macOS 27 als Developer-Beta testen und bereits mit der Beta von Xcode 27 für diese entwickeln.
Danke, Bell.
Das Team von SqueezeLabs hat mit CrankGPT ein ungewöhnliches KI-Gadget entwickelt, das per Handkurbel betrieben wird.
Das rote Gerät enthält einen Raspberry Pi 5 und einen Kurbelgenerator, der 20 Watt Strom erzeugt.
Diese Konstruktion demonstriert, dass KI auch ohne energieintensive Rechenzentren funktionieren kann.
Beim Kurbeln startet das System in etwa 30 Sekunden, dank des schnellladenden Betriebssystems DietPi.
Die KI kann Fragen beantworten und Sprache übersetzen.
Für die Spracherkennung nutzt das System Moonshine ASR, während Piper Text in Sprache umwandelt.
Das Projekt zeigt, dass lokale KI-Anwendungen mit minimalem Energieverbrauch möglich sind.
Die Macher sehen Potenzial für eine neue Klasse energieeffizienter KI-Anwendungen, die künftig auf günstiger Hardware laufen könnten.
Das war das KI-Update von Heiser Online vom 15.
Juni.
Eine neue Folge gibt es jeweils Montag, Mittwoch und Freitag ab 15 Uhr.
Hört mal rein in den CT-Uplink, überall, wo ihr Podcasts hören könnt.
Wir versprechen euch, es wird garantiert nerdig.