# AI Regulation, Human Licensing, and Agentic Enterprise Shifts

**Podcast:** Kollegin KI
**Published:** 2026-05-15

## Transcript

Ich war diese Woche in Brandenburg an einer Grundschule und habe mit Schulkindern KI gemacht.
Dritte bis sechste Klasse hatte ich dieses Mal.
Hin und wieder mache ich sowas ehrenamtlich und habe so ein bisschen KI-Prompting gezeigt, beziehungsweise auch geschaut, was kann KI eigentlich und was nicht.
Wie redet man eigentlich mit einer KI und wo sind so die Tücken?
Was sollte man nicht reingeben?
Mache ich hin und wieder ehrenamtlich und es ist immer wieder verblüffend, wie schnell Kinder sowas adaptieren bzw.
wie gut die teilweise schon sind.
Und damit herzlich willkommen zu einer neuen Episode Kollegin KI Snackbox an diesem Freitag.
Ich gebe euch einmal die News der Woche, damit ihr fürs Wochenende gut vorbereitet seid, wenn es um KI geht.
Diese kleine Anekdote, die führt mich direkt zur ersten Nachricht und zwar, dass Ursula von der Leyen auf dem Democracy Summit in Kopenhagen gesprochen hat über den Digital Fairness Act.
Der Digital Fairness Act soll nämlich Plattformen regulieren und zwar ganz klar mit dem Ziel, Kinder und Jugendliche zu schützen.
Denn Social Media funktioniert algorithmisch, ihr kennt es alle, man ist relativ schnell irgendwie in so einem Rabbit Hole, swiped sich nur noch durch.
Es sind aufmerksamkeitsoptimierte Plattformen und die beinhalten damit natürlich problematische Mechaniken.
Also man spricht da beispielsweise dann von diesem Endless Scrolling oder eben auch Push Notifications, die das Ganze unterstützen, Autoplay-Funktionen, algorithmische Empfehlungen und so weiter.
Die Risiken dafür sind mittlerweile relativ gut erforscht, gerade bei Kindern und Jugendlichen kann das massiv auf.
die mentale Gesundheit Auswirkungen haben, Schlafmangel, Depression, Cybermobbing und so weiter, you name it.
Also eine ganze Menge Risiken, die für Kinder und Jugendliche auf digitalen Plattformen lauern und die EU versucht jetzt mit dem Digital Fairness Act der 2026 kommen soll, das Ganze ein bisschen zu regulieren.
Und das ist insgesamt eine spannende Sache, denn Kinder nutzen diese Technologie natürlich.
Selbst wenn sie vom Elternhaus aus verboten werden, kommt man immer mit allem Möglichen in Berührung.
Und auch jetzt am Wochenende in dieser Grundschule gab es dann tatsächlich so einen Drittklässler, der irgendwie von Squid Game erzählt hat.
Also im Grunde, ich weiß nicht, ob ihr die Netflix-Dierie gesehen habt, die ist massiv brutal, teilweise Splatter wirklich.
Und man kommt dann über Social Media mit entsprechenden Clips in Kontakt.
Das heißt, die Frage nach dem Schutz ist da und wir werden beobachten, wie die EU das Ganze regulatorisch auch umsetzen wird.
Schönes Zitat aus der Rede von Ursula von der Leyen.
Die Frage ist nicht, ob junge Menschen Zugang zu Social Media haben sollten, sondern ob Social Media Zugang zu jungen Menschen haben sollte.
Finde ich eine gute Aussage, über die man mal nachdenken kann.
Zweite News, The Verge berichtet, dass es in Hollywood gerade eine Initiative gibt, die nennt sich Human Consent Standard.
Das ist, wenn ihr auf Websites unterwegs seid, wenn ihr vielleicht ein bisschen im Webdesign unterwegs seid, wenn ihr das kennt, gibt es die Robots.txt.
Das ist eine Textdatei, die so ein bisschen maschinenlesbare Hinweise liefert, wo die Seite gelistet wird, was für Informationen abrufbar sind und so weiter.
Und das ist jetzt so ein bisschen die Robots TXT für Menschen, also die Textdatei für Menschen.
Was darf eigentlich eine KI mit Menschen machen?
Da geht es natürlich vor allem um Menschen, die in der Öffentlichkeit stehen.
Die Initiative wird unterstützt von Tom Hanks, George Clooney, von Meryl Streep.
Und die versucht so ein bisschen die Frage zu erörtern, inwiefern sich auch menschliche Wesenszüge lizenzieren lassen, beziehungsweise inwiefern wir eigentlich...
geschützt sind davor, dass KI Menschen nachahmt.
Das geht natürlich ganz viel um Recht am eigenen Bild, Recht an der eigenen Stimme, aber auch an eigenen Ausdrücken, an dem, was eigentlich dann die Kunst in Film, Theater, Musik, Synchronsprecher und so weiter ausmacht.
Sehr, sehr spannend.
Früher haben wir noch über Musik, Filme, Texte gesprochen, wenn es um Inhalte ging, ob wir die lizenzieren können.
Jetzt ist die Frage im Raum, wie lizenzieren wir eigentlich Menschen?
Also wenn Menschen reproduzierbar werden, werden sie dann auch lizenzierbar.
Spannende philosophische Frage, die ihr gerne mal mit ins Wochenende nehmen könnt.
Ansonsten berichtet SAP von der Sapphire-Konferenz, dass sie eine neue Vision haben, die jetzt erstmals dann tatsächlich auch sehr klar formuliert wurde.
Und zwar möchte SAP in das Gentic AI Business stärker einsteigen.
Das ist vielleicht erstmal jetzt keine große News.
Ja, wir hören das ja andauernd von allen möglichen Startups, die sagen, wir können Prozesse optimieren und automatisieren.
Wenn das aber so ein Player wie SAP sagt, dann hat das durchaus auch nochmal ein anderes Gewicht, denn SAP baut Software, ist in vielen, vielen Unternehmen tatsächlich zugegen und hat damit einfach Zugriff auf gewisse Daten.
Ja, also eine ganze Menge Daten, die über SAP Software laufen, bedeutet, SAP hat da den entscheidenden Vorsprung, dass sie sagen, wenn wir diese Daten mit KI nutzbar machen, dann können wir eigentlich auch in das Agentic AI Game einsteigen.
Das heißt derzeit natürlich alles irgendwie auch noch Vision und Zukunftsnarrativ.
Aber gleichzeitig sehen wir, dass so AI-Assisted Workflows eigentlich schon relativ gut funktionieren.
Auch wenn man die in der Regel noch nicht vollautomatisiert laufen lässt, sondern noch einen Menschen drüber gucken lässt und so.
Aber der Trend ist ganz klar hin zur vollautomatisierten Company.
Finde ich sehr spannend.
Müssen wir auf jeden Fall auch noch mal jemanden von SAP einladen, um da mal gezielter drüber zu sprechen.
Aber ansonsten, ja, ihr kennt das Ding.
Eigentlich sprechen ja wirklich alle über KI-Automatisierung, aber auch das ist AI-Washing.
Hatten wir in diesem Podcast auch an einigen Stellen schon mal erwähnt, weil man immer darüber spricht, alles ist automatisiert und so.
Aber tatsächlich ist so der Return on Invest, also das Wiederspielen der Investitionen, die man in solche KI-Systeme gibt, ist häufig nicht wirklich messbar oder einfach auch nicht relevant.
Also man verbläst eine ganze Menge Geld gerade und das hängt häufig auch mit schwieriger Datenlage zusammen.
Deshalb, da gibt es auf jeden Fall noch Luft nach oben und gucken wir mal, was SAP dann tatsächlich draus macht in der Zukunft.
Ja, zum Schluss vielleicht noch so eine relativ witzige News.
Und zwar berichtet die Financial Times, dass es bei Amazon gerade den Trend des Token-Maxings gibt.
Lux-Maxing kennt ihr, das sind diese komischen Leute, die versuchen irgendwie immer das Beste aus ihrem Aussehen rauszuholen.
Token Maxing beschreibt jetzt den Umstand, dass Angestellte versuchen, so viele Token wie möglich zu verbraten.
Also der Hintergrund ist, dass Amazon ein AI-Leaderboard aufgebaut hat und da werden dann Angestellte gelistet, die besonders viel KI genutzt haben.
Hintergrund ist natürlich, dass man versucht, die Angestellten auch so ein bisschen dazu zu bewegen, mehr KI zu nutzen, um vermeintlich effizienter zu werden.
Jetzt haben das aber wohl die ersten Leute schon ausgenutzt und ja.
verbraten, einfach Token ohne Ende, indem sie Quatschprompts eingeben, besonders komplizierte Aufgaben, die am Ende gar keinen Mehrwert bieten, einfach nur, um auf diesem Leaderboard zu erscheinen.
Nicht wirklich nachhaltig, aber das sind, finde ich, so ein bisschen die wahrscheinlich menschlichsten KI-News der Woche und die zeigen einfach, dass KI ...
ganz selten wirklich am Modell oder am System oder der Integration scheitern, sondern eher am Menschen.
Wir Menschen optimieren auf Metriken und nicht auf die eigentliche Idee dahinter.
Und da bin ich gespannt, ob das tatsächlich jetzt hier Token-Maxing auch bei uns in Deutschland und Europa ankommt.
Vielen lieben Dank fürs Zuhören diese Woche.
Ich hoffe, ich konnte euch so ein paar neue Insights geben in die KI-Welt.
Redaktionsschluss war der 13.
Mai, 14.45 Uhr und ich wünsche euch ein fantastisches Wochenende.
Bis dahin.
Ciao, ciao.
Dieser Podcast wird produziert von Podstars bei OMR.