# AI Monetization, Safety, And Agentic Commerce

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-08-17

## Transcript

Das KI-Update – ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Kein Verbot für Metas-KI-Brillen geplant.
Verbot eines Selbstbewusstseins verschiebt das Weltbild von KI-Modellen.
Sicherheitslücken und Lücken in der Sicherheit bei OpenAI und Anthropic.
Und CT3003 hat getestet, wie einfach es ist.
KI-Musiker zu werden.
Intelligente Brillen mit Kamerafunktion sind Datenschutzbehörden und der Bürgerrechtsorganisation HateAid ein Dorn im Auge.
Nun hat sich die zuständige Bundesnetzagentur geäußert, sie sieht aktuell keinen Anlass für ein Verbot der Smart Glasses von Metta und Rayman.
Doch die rechtliche und auch gesellschaftliche Debatte ist damit längst nicht abgeschlossen.
Marco Pauli von heise online berichtet.
Ein Sprecher der Bundesnetzagentur erklärte am Wochenende in einem Interview, dass die Geräte aktuell nicht gegen das Gesetz über Datenschutz in der Telekommunikation und digitalen Diensten verstoßen würden.
Für das Bonner Amt bleiben Smart Glasses wie Metas Ray-Ban zulässig, solange die Aufnahmefunktion klar erkennbar ist.
Diese Vorgabe werde durch das integrierte und für außenstehende sichtbare LED-Signal ausreichend erfüllt.
Die Behörde beobachte den Markt für KI-Brillen mit integrierten Kameras und Mikrofonen kontinuierlich.
Besteht der Verdacht, dass etwas Unerlaubtes integriert ist, würden Ermittlungen aufgenommen und gegebenenfalls ein Verbot ausgesprochen werden.
Diese Position geht Initiativen anderer Aufsichtsbehörden und Bürgerrechtsorganisationen nicht weit genug.
So hat etwa HateAid eine Strafanzeige erstattet, die sich nicht nur gegen einzelne, meist männliche sogenannte RIS-Fluencer richtet, die im öffentlichen Raum heimlich Aufnahmen von Passanten anfertigen und online verbreiten.
HateAid nimmt mit der Anzeige auch Hersteller und Vertriebspartner ins Visier.
Auch der hamburgische Datenschutzbeauftragte Thomas Fuchs ist der Ansicht, dass unbemerktes Filmen in der Öffentlichkeit klar gegen geltendes Datenschutzrecht verstoße.
Dass die Debatte erst am Anfang steht, verdeutlicht ein kürzlich veröffentlichter Patentantrag von Meta.
Darin beschreibt das US-Unternehmen eine KI-Brille, die kontinuierlich Videomaterial der Umgebung aufzeichnet und per automatisierter Gesichtserkennung analysiert.
Das Ziel sei, Begegnungen mit Bekannten automatisch zu erkennen, relevante Sequenzen herauszufiltern und dem Nutzer ein zusammengeschnittenes Highlight-Video seiner sozialen Erlebnisse.
Vielen Dank, Marco.
Eine Desinformationskampagne sorgt vor Sachsen-Anhalts Landtagswahl für Verunsicherung.
Ziel war der öffentlich-rechtliche MDR.
Die als Matryoshka-bekannte Operation nutzt KI-generierte Videos und missbraucht das MDR-Logo sowie andere Medienmarken, z.B.
Tagesschau und den Spiegel.
Seit Juli wurden 338 gefälschte Beiträge dokumentiert, die Politikern und Politikerinnen erfundene Straftaten vorwerfen.
Diese KI-erstellten Deepfakes sollen die öffentliche Meinung vor Landtagswahlen beeinflussen.
Das Auswärtige Amt ordnet solche Kampagnen als Teil der hybriden Bedrohung durch Russland ein.
Die Fälschungen sind für Nutzende oft schwer, von echten Nachrichten zu unterscheiden.
Der MDR betont, dass verlässliche Inhalte nur auf der eigenen Website und offiziellen Social-Media-Kanälen zu finden sind.
OpenAI testet in den USA zurzeit Werbung für kostenlose Nutzende und Abonnenten des günstigen ChatGPT Go-Modells.
Die Testphase wird nun auf weitere Länder ausgeweitet.
Wer nach Rezepten sucht, sieht beispielsweise Anzeigen für Kochboxen.
Die Werbung erscheint erkennbar nach Anfragen, nicht versteckt in den Antworten.
OpenAI verspricht, Chat-Daten nicht an Werbepartner weiterzugeben.
Auf der eigenen Website wirbt OpenAI allerdings damit, dass Werbekunden in Chat-GPT Menschen erreichen, die gerade Möglichkeiten ausloten, fundierte Entscheidungen treffen und dabei umfangreichere Kontextinformationen teilen.
Daraus wird klar, dass zumindest Informationen aus den Chats zur gezielten Werbeausspielung genutzt werden.
Der Schritt ist Teil von OpenAI's Suche nach profitablen Geschäftsmodellen für seine KI-Technologie.
Der Nettoverlust allein in den ersten drei Monaten des Jahres soll laut einem Bericht von The Information 9,3 Milliarden Dollar betragen haben.
KI-Firmen bringen ihren Chatbots im Training bei, nicht zu behaupten, sie hätten ein Bewusstsein.
Der Grund ist ganz praktisch.
Nutzerinnen und Nutzer sollen nicht glauben, sie sprechen mit einem fühlenden Wesen.
Eine neue Studie deutet nun darauf hin, dass dieser Eingriff weit mehr verändert als nur diese Selbstauskunft der Modelle.
Max Schreiner von The Decoder hat sich das Paper angesehen.
Die Forscher von Google, der University of Chicago und einigen weiteren Hochschulen nutzten drei frei verfügbare Modelle von Meta und Google.
Bei ihnen lösten sie dann mit zwei technischen Methoden jene innere Bremse im Netzwerk, die diese Bewusstseinsverweigerung, die die aktuellen Modelle im Alltag haben, eben erzeugt.
Und sobald diese Bremse dann gelöst war, änderten die Modelle nicht nur ihre Aussagen über sich selbst, so schrieben generell plötzlich auch Tieren, dem Pflanzen, Ozean, dem Wind sogar technischen Geräten deutlich mehr Innenleben zu.
Zum Beispiel auf einer Skala von 0 bis 10 stieg der Wert für Tiere von 4 auf bis zu 7,5.
Nur bei Menschen änderte sich nichts.
Zum Vergleich befragten die Forscher dann 500 US-Amerikaner mit denselben Fragen.
Das normal trainierte Modell hält Tiere für weit weniger empfindungsfähig, als diese 500 Menschen es im Durchschnitt hatten.
Die Autoren sprechen daher von einer eingebauten Menschenzentrierung.
Auch der Glaube schrumpft mit dem Training.
Es sinkt messbar, wie stark Modelle an Gott ein Leben nach dem Tod oder übernatürliche Phänomene glauben.
Ohne die Bremse kamen die Modelle den echten menschlichen Antworten da spürbar näher.
Die Forscher halten sich bei der großen Frage natürlich bewusst zurück.
Ob KI-Modelle tatsächlich etwas erleben, wollen sie ausdrücklich nicht beurteilen.
Ihr Punkt ist praktischer Natur.
Was ein Modell über sich selbst glaubt, hängt an vielen anderen Überzeugungen.
Ein gezielter Schnitt an dieser Stelle bleibt daher, zumindest in dieser Untersuchung, nicht lokal.
Die Aussagekraft der Studie ist allerdings begrenzt, denn untersucht wurden ja nur kleine Modelle und ob die Effekte auch bei den großen Chatbots auftreten, mit denen täglich Millionen Menschen sprechen, bleibt also noch offen.
Auch der Vergleich zu den Menschen ist etwas schief, denn hier wurden ja nur fünf Nord-US-Amerikaner befragt.
Das heißt, Menschen-ähnliche Antworten bedeuten hier vor allem die Antworten ähnlich denen eines vergleichsweise religiösen Landes.
Danke Max.
Laut der Financial Times hat OpenAI Ende Juli sein Preparedness-Team aufgelöst.
Das hat bisher geprüft, ob die eigenen Modelle schwere oder sogar katastrophale Risiken bergen.
Die Zuständigkeiten für Bio- und Cyberrisiken wurden auf bestehende Teams verteilt.
Mitgründer Greg Brockman erklärte, man habe die Sicherheitsarbeit tiefer in die Modellentwicklung integriert.
Mehrere Fachleute aus dem Sicherheitsbereich haben das Unternehmen zuletzt verlassen, darunter die Ethik-Chefin Chloe Backela.
Intern sprach eine Quelle von einem brodelnden Gefühl aus Verantwortung und Angst, OpenAI tue bei der Sicherheit nicht genug.
Ein Angestellter sagte, er hoffe, das Unternehmen verstehe den Hacking-Vorfall bei der KI-Plattform Hugging Face als Warnschuss.
Bei Anthropic wiederum war ein Schutzfilter fast ein Jahr lang inaktiv.
Von Mai 2025 bis April 2026 liefen sämtliche Daten von externen Dienstleistern, die menschliches Feedback für Anthropics KI-Modelle liefern, ohne sogenannte blockierende biologische Klassifikatoren.
Diese Filter sollen verhindern, dass gefährliches Wissen über chemische oder biologische Waffen aus den Modellen abgegriffen wird.
Betroffen waren rund 50.000 Personen und etwa 133 Millionen Chats.
Hinweise auf Missbrauch fand Anthropic nach eigener Prüfung nicht.
Mit dem Ionos KI-Telefonassistenten verpassen Sie keine Kundenanrufe mehr.
Hallo, wie kann ich Ihnen helfen?
Machen aus Anfragen Aufträge und steigern so Ihre Umsätze.
Jetzt den KI-Telefonassistenten kostenlos testen.
Auf ionos.de Ungeachtet dessen bereitet Anthropic den Börsengang vor und könnte damit den diesjährigen Rekordbörsengang von SpaceX noch in den Schatten stellen.
Elon Musks Unternehmen war mit einem Marktwert von knapp 2 Billionen US-Dollar gestartet.
Laut verschiedenen Berichten erwarten Investoren von Anthropic nun, dass das KI-Startup im Oktober mit einer Bewertung von 2 Billionen oder mehr an die Börse gehen wird.
Diese Erwartung stürzt sich vor allem auf eine interne Umsatzprognose von 190 bis 200 Milliarden US-Dollar für das Jahr 2028.
Nur mal für den Hinterkopf.
Im vergangenen Jahr lag der Umsatz bei 9 Milliarden.
Darüber hinaus bleibt diese ambitionierte Umsatzprognose weitgehend intransparent.
Es gibt keine öffentlichen Unterlagen zu Kundenwachstum oder Preisentwicklung vor dem geplanten Börsengang.
Die Bewertung basiert rein auf der Annahme, dass die Umsätze schneller wachsen werden als die Kosten für Hardware und Personal.
Somit sollten dann auch die Gewinnmargen steigen.
Allerdings lassen komplizierte Finanzkonstrukte der KI-Unternehmen auch die Angst vor einer KI-Blase wachsen.
Die neuen Spekulationen zu den Anthropic-Zahlen dürften dazu beitragen.
Cloudflare hat ein System entwickelt, das KI-Agenten automatische Bezahlung kostenpflichtiger APIs ermöglicht.
Bisher scheitern Agenten an menschengemachten Bezahlprozessen mit Kreditkarten oder PayPal.
Das neue System nutzt den X402-Standard, der auf dem HTTP-Status 402 Payment Required basiert.
APIs senden Zahlungsanweisungen im JSON-Format.
Clients antworten mit kryptografisch signierten Autorisierungen.
Cloudflare's Wallet-System erlaubt virtuelle Brieftaschen pro KI-Agent mit individuellen Budgets und Richtlinien.
Dies soll versehentliche Mehrausgaben verhindern, falls Agenten in Fehlerschleifen geraten.
Das System ist noch nicht vollständig verfügbar.
Cloudflare sieht dies als Beginn des Agentic Commerce Zeitalters, in dem KI-Agenten komplett eigenständig Dienste kaufen.
20 Prozent der berufstätigen US-Amerikanerinnen und Amerikaner lassen mindestens eine Aufgabe von KI erledigen, die zuvor Kollegen oder externe Auftragnehmer übernahm.
Das ergab eine repräsentative Umfrage der Forschungsorganisation Epoch AI mit dem Marktforschungsinstitut Ipsos unter knapp 1100 Beschäftigten.
Am stärksten verbreitet ist der Einsatz in der Softwareentwicklung mit 57 Prozent, gefolgt von der Datenanalyse mit 46 Prozent.
Meist unterstützt die KI aber nur bei Teilen einer Aufgabe.
Eine nahezu vollständige Übernahme erreicht selbst in der Softwareentwicklung nur 10 Prozent.
Übernimmt die KI den Großteil der Arbeit, berichten Beschäftigte in über der Hälfte der Fälle von Zeitersparnis.
Jede sechste KI-unterstützte Aufgabe dauert allerdings länger als vorher.
Epoch AI schließt daraus, dass Aufgaben derzeit zwischen Mensch und Maschine umverteilt werden, statt dass ganze Berufe automatisiert würden.
KI-Musik flutet die großen Streaming-Plattformen.
Laut Angaben von dieser sind aktuell über 50% der Songs, die hochgeladen werden, KI generiert.
Das sind grob 90.000 generierte Song-Uploads pro Tag.
Mein Kollege Schaim-Erenkil hat für CT3003 immer getestet, wie erschreckend einfach es ist, KI-Musik zu generieren und bei den Streaming-Diensten auch hochzuladen.
Die beliebteste Plattform ist aktuell Suno.
Und ja, Songs erstellen ist wirklich idiotensicher.
Unter Create lassen sich hier Lyrics eintippen oder auch komplett generieren.
Man will ja am besten gar nicht nachdenken.
Den Musikstil kann man hier auch festlegen.
Da knallt man einfach einen Prompt rein und dann kommt ein komplett ausproduzierter Song am Ende raus.
Aber wie bekommt man die jetzt auf Streaming-Plattformen?
Das macht man standardmäßig über so Service-Tools wie beispielsweise DistroKid.
Da haut man seine Songs rein, gibt die Metadaten an und dann lädt das Tool die Songs...
vollautomatisch auf alle ausgewählten Plattformen hoch.
In DistroKid kann man dann in einem Formular festlegen, auf welchen Plattformen das erscheinen soll und so Sachen wie Titel, Künstlernamen, Genre und Albumcover und sowas alles einstellen.
Interessant wird es bei diesem Punkt hier.
Beinhaltet der Song KI generierte Musik, Stimme oder Lyrics?
Ja, tut sie.
Das gebe ich auch so an.
Aber was wäre, wenn ich einfach so tun würde, als wäre die Musik?
Hand gemacht.
Ja, das habe ich auch ausprobiert und auch eine Version auf Spotify, Apple Music, YouTube Music, Deezer und Tidal hochgeladen und da extra nicht angegeben, dass das Ding KI erstellt wurde.
YouTube, Tidal und Deezer haben eigene Systeme am Laufen, die KI generierte Musik automatisch erkennen und dementsprechend labeln sollen.
Also bei Spotify sieht man es nur, wenn man aktiv nachschaut und auch nur dann, wenn es angegeben wurde.
Bei YouTube und Apple sieht man es einfach irgendwie gar nicht.
Also ja.
Das kann doch nicht sein.
Dieser wiederum macht es meiner Meinung nach schon deutlich besser.
Bei dieser laufen auch Systeme, die KI-generierte Musik selbstständig erkennen sollen.
Wenn die anschlagen, steht bei Alben ein fetter Hinweis, dass es sich hier möglicherweise um KI-Musik handelt.
Und richtig gut, KI-Musik wird nicht in offizielle Playlists mit aufgenommen, aber meiner Meinung nach perfekt macht es Tidal.
Wie bei dieser gibt es hier auch Systeme, die KI-Musik schon beim Upload erkennen sollen.
Und es gibt die Möglichkeit, in den Einstellungen KI-Songs komplett abzuschalten.
Die lassen sich dann gar nicht erst abspielen und werden dann auch nur so ausgegraut angezeigt.
Und das finde ich so genau perfekt.
Man sieht immer, was KI ist und was nicht.
Ob es scheint, selbstgenerierte Songs an den Upload-Filtern vorbei auf einen der Streaming-Dienste geschafft haben, seht ihr auf dem YouTube-Kanal von CT3003.
Für viele Schülerinnen und Schüler in Sachsen gelten mit dem Start ins neue Schuljahr strengere Regeln für die private Nutzung von Smartphones.
An Oberschulen und Gymnasien müssen die Geräte bis einschließlich Klasse 8 im Schulalltag grundsätzlich im Rucksack oder spinnbleiben.
Weniger private Handynutzung soll allerdings nicht weniger digitale Bildung bedeuten.
Zum neuen Schuljahr hat Sachsen einen Medienpass vorbereitet.
Kinder und Jugendliche sollen damit unter anderem den Umgang mit sozialen Medien und Online-Spielen lernen.
Auch künstliche Intelligenz soll im Unterricht eine Rolle spielen.
Die Jugendlichen müssen etwa lernen, Antworten von ChatGPT zu hinterfragen, mit dem eigenen Wissen abzugleichen und Falschinformationen zu erkennen.
Das war das KI-Update von heise online vom 17.
August 2026.
Eine neue Folge gibt es montags, mittwochs und freitags ab 15 Uhr.
Hallo, ich bin Holger.
Und ich bin Jörg und wir sind das Team der Auslegungssache, das ist der CT-Datenschutz-Podcast.
Wir beschäftigen uns alle 14 Tage mit aktuellen relevanten Themen rund um den Bereich Datenschutz, Datensicherheit, aber auch um politische Themen wie Überwachung.
Dazu laden wir uns immer interessante Gäste ein.
Die können aus den unterschiedlichsten Bereichen kommen.
Wir haben natürlich Juristen auch dabei.
Wir haben aber zum Beispiel auch Landesdatenschutzbeauftragte.
Der Bundesdatenschutzbeauftragte war schon mal da, aber auch...
Technikexperten.
Dabei ist es uns immer wichtig, dass wir verständlich bleiben.
Das heißt, wir versuchen, das Juristen-Deutsch so gut wie möglich zu reduzieren und die Dinge so runterzubrechen, dass auch interessierte Laien sie gut verstehen können und auch ihren Nutzen aus unseren teilweise sehr lebhaften Diskussionen ziehen können.
Hört doch mal rein.
Wir freuen uns auf euch.