# EU AI Act Transparency Mandates for Business

**Podcast:** Kollegin KI
**Published:** 2026-07-31

## Transcript

Herzlich willkommen zu einer Sonderfolge, Kollegin KI-Snackbox.
Happy Friday, liebe Leute.
Sonderfolge deshalb, weil ich euch normalerweise an dieser Stelle ja durch die KI-News der Woche führe.
Aber wir haben uns überlegt, es ist Ende Juli und im August startet der AI-Act, beziehungsweise geht er in die nächste Runde.
Gestartet ist ja schon vor langem.
Vor langer Zeit, aber wir klären mal drüber auch, was hier eigentlich passiert.
Ohne Rechtsberatung.
Ja, nicht vergessen, ich bin Soziologe und Medienwissenschaftler.
Ich bin kein Jurist.
Aber ich hänge halt wirklich sau viel mit Leuten rum, die vom AI-Act betroffen sind.
Ich mache mir Gedanken zu einer ganzen Menge und ich muss mich auch als KI-Dienstleister und Anbieter von KI-Systemen natürlich damit beschäftigen.
Deshalb mal so eine kleine Zusammenfassung von dem, was jetzt eigentlich Anfang August startet und worauf ihr...
achten solltet.
Gehen wir doch direkt mal rein.
Also, was ist der AI-Act?
Vielleicht, um euch mal alle ganz kurz abzuholen, das weltweit erste umfassende KI-Gesetz kennt ihr.
Es wurde verabschiedet von der EU und gilt für alle, die in der EU KI einsetzen oder anbieten.
Ja, also auch für US-amerikanische Unternehmen, die hier ihre KI anbieten, gilt der AI-Act.
So, der ist jetzt nicht...
dieses Gesetz ist jetzt nicht irgendwie beschlossen und an einem Tag in Kraft gesetzt, sondern es wird so stufenweise scharf geschaltet.
Ja, das sollte man verstehen.
Die erste Stufe war schon im Februar 2025.
Da wurden gewisse KI-Anwendungen verboten, wie Social Scoring-Systeme, so manipulative KI.
Da hat man ganz weite Guardrails, Leitplanken gesetzt über das, was verboten und was erlaubt ist.
Und das wird jetzt...
Stück für Stück mehr.
Und die nächste große Stufe, die jetzt vor uns liegt, das ist der 2.
August 2026.
Da gelten Transparenzpflichten.
Und die gelten für alle von uns, vor allem für die, die mit KI arbeiten.
Und da wollen wir diesmal ein bisschen drauf eingehen.
Was ändert sich denn konkret jetzt am 2.
August?
Also drei Dinge, wo ich sage, die solltet ihr im Hinterkopf behalten, die euch vielleicht auch betreffen.
Drei Dinge, die ab sofort gelten.
Zum Ersten müssen sich Chatbots jetzt outen.
Also jeder Chatbot, der irgendwo mit einem Menschen kommuniziert, muss klar und spätestens beim ersten Kontakt sagen.
Ich bin ein Chatbot, ich bin eine KI, ja, und das gilt für alle Systeme.
Auch alte Systeme müssen nachziehen, also es gibt hier keinen Bestandsschutz für ehemalige Chatbots.
Wir müssen also, ich habe ja irgendwie 100 Bots in 100 Tagen gebaut.
Ich muss, glaube ich, jetzt bei allen tatsächlich irgendwie sagen, jo, das hier ist ein Chatbot.
Wenn das nicht ohnehin von OpenAI dann auch angeboten wird, da habe ich die Dinger ja gebaut.
Ansonsten müssen wir tatsächlich mal gucken, dass wir da bei all diesen...
Produkten, die wir haben, die wir außerhalb haben, natürlich nachziehen.
Das wird für uns auf jeden Fall erstmal jetzt ein Aufwand.
Also ich werde zum Wochenende beschäftigt sein.
Ja, es soll klar und eindeutig sein.
Das ist halt irgendwie so der Punkt, wie genau so eine Kennzeichnung aussieht bei so Chatbots oder auch KI-Telefonsystemen oder so.
Das ist jetzt nicht unbedingt genau aufgelistet, aber auch so eine Telefon-KI muss im ersten Schritt sagen, jo, du telefonierst hier gerade mit einer KI, auch wenn ich eigentlich klinge wie ein Mensch.
Und wenn ich dir vielleicht sogar bessere Antworten und schnellere Antworten geben kann als ein Mensch, aber ich bin eine KI.
Sorry, hate to break it to you.
Eine Kennzeichnung muss hingegen...
Punkt zwei, der sich jetzt verändert und der ab sofort gilt, bezieht sich auf Deepfakes.
Deepfakes, KI-generierte, stark veränderte Bilder, Videos, Audios und so weiter, die täuschend echt wirken, die müssen als solche erkennbar sein.
Also als KI-generierte Inhalte.
Die EU hat hier sogar eigene Icons entwickelt.
Das finde ich ganz spannend.
Packe ich euch in die Shownotes.
Die sehen ganz schön aus.
So AI generated und AI modified.
Also man hat hier durchaus auch Unterschiede wahrgenommen.
Ist etwas komplett mit KI generiert oder wurde es im Nachhinein nur mit KI so ein bisschen beschönigt?
Und das ist so ein Punkt, wer mich kennt, weiß, da mecke ich ja ständig drüber.
Ich vergleiche also die Kennzeichnungspflicht von KI-Inhalt immer mit diesem Chaos, der damals, das damals bei Instagram herrschte, als die Werbekennzeichnungspflicht eingeführt wurde.
Das sorgte nämlich nicht für Transparenz, ganz und gar nicht, sondern für Chaos, weil plötzlich jeder irgendwie seine Post als Werbung gekennzeichnet hat.
Selbst ja Menschen, die irgendwie einfach ein Foto von sich aus der Freizeit gemacht haben und da war eine Marke im Bild zu erkennen.
Erinnert ihr euch vielleicht dran?
Gab es dann...
Werbung wegen Markennennung oder so ein Kram, was dann wirklich in 90 Prozent der Posts waren irgendwie als Werbung gekennzeichnet, obwohl es sich natürlich niemals um bezahlte Werbung gehandelt hat, beziehungsweise in den wenigsten Fällen.
Das heißt, das, was man eigentlich erreichen wollte, Transparenz zu schaffen, hat in einem Chaos geendet.
CreatorInnen selbst haben dann irgendwie so Ad ganz klein irgendwo in die Ecke von den Kacheln eingebaut und so.
Ihr kennt es noch, die gute alte Werbedebatte rund um Instagram, als das mit den Influencern losging.
Jetzt hat die EU gesagt, okay, es gibt hier offenbar Abstufungen AI Generated und AI Modified.
Kleine Logos, die man sich jetzt aus Bild backen kann, dann packe ich euch in die Show, guckt es euch gerne mal an.
Es gibt eine Ausnahme.
Deepfake-Kennzeichnung und zwar offensichtliche Fiktion.
Und das ist ganz spannend.
Also, was ist offensichtliche Fiktion?
Ein Deepfake-Video von Friedrich Merz, wie er uns alle für unseren Fleiß lobt.
Das ist, hey, denk mal drüber nach.
Das würde niemals passieren.
Muss ich das jetzt trotzdem als AI-generated kennzeichnen?
Naja.
Das werden dann Gerichte klären im Einzelfall.
Haltet euch einfach dran.
Wenn ihr was mit KI macht, dann kennzeichnet das als KI.
Es gibt Funktionen auch schon bei Meta zum Beispiel, dass ihr das einschalten könnt und so.
Dann könnt ihr immer dazu sagen, ja hey, das hier ist KI-generierter Content, sorgt für Transparenz und führt Leute einfach nicht hinter das Licht.
Problem ist natürlich, dass bei den Angeboten, die darauf ausgelegt sind, Menschen hinter das Licht zu führen, dass da Kriminelle hinterstecken.
Und Kriminelle halten sich erstaunlich selten an entsprechende Kennzeichnungspflichten oder Gesetze generell.
Ansonsten gibt es noch eine Emotionserkennungssache.
Also Emotionserkennung häufig so an Arbeitsplätzen eingesetzt.
Ist der Angestellte müde oder happy oder wie auch immer.
Das ist eigentlich verboten.
Dennoch Systeme, die Emotionen erkennen oder Menschen biometrisch kategorisieren, auch in der Forschung und wie auch immer.
Und die müssen betroffene Personen darüber informieren.
Das geht euch vermutlich als Privatperson jetzt erstmal nichts an, aber ihr wisst jetzt Bescheid.
Also so wie ich das lese, wenn irgendwie jetzt ihr fotografiert werdet und da eine Emotionserkennung im Hintergrund läuft, dann müsst ihr angesprochen werden darauf.
Hey, das ist hier, wird mit KI weiterverarbeitet, Leute.
Ihr seid traurig.
Sagt die KI.
Naja, okay.
Stellen wir mal dahin.
Wie gesagt, ich bin kein Anwalt.
Vielleicht müssten wir mal mit jemandem sprechen.
Oder vielleicht, das ist ja mein Traum eigentlich, mal wirklich so die Urväter und Mütter des AI-Acts einzuladen.
Leider hat Robert Habeck selten Zeit.
Und würde, glaube ich, auch, naja, wir können es ja mal versuchen.
Aber an sich, genau, müssen wir mal irgendwie da genauer darüber sprechen, was das jetzt bedeutet.
Wir müssen uns das auch mal angucken, wie das in der Praxis dann tatsächlich umgesetzt wird.
Da wird es einige Erfahrungsberichte geben und die werden wir hier natürlich gerne wieder aufgreifen.
Was passiert, wenn ihr dagegen verstoßt?
Ja, es gibt Bußgelder in Höhe bis zu 35 Millionen Euro.
Oder wenn ihr...
Multimilliardenkonzern seit bis zu sieben Prozent des weltweiten Jahresumsatzes, je nachdem, was eben höher ist.
Das Ganze betrifft ganz eindeutig nicht nur Konzerne, sondern auch kleine Unternehmen.
Jedes Unternehmen, das ein Service-Chatbot auf seiner FAQ-Page hat, muss im Grunde jetzt diesen Service-Chatbot dazu anhalten, als erstes immer erstmal zu sagen, hey, ich bin ein Service-Chatbot, auch wenn es mehr oder weniger klar ist, weil wir uns daran gewöhnt haben.
So ist es.
It is what it is.
Der AI-Act knüpft an die Nutzung und nicht an die Unternehmensgröße.
Also nicht davon ausgehen, dass es nur für die US-Tech-Konzerne gilt, sondern für uns alle.
Was muss nicht gekennzeichnet werden?
Das ist vielleicht irgendwie eine gute Frage noch.
KI-Texte im Marketing.
Wir schreiben alle Mails und Texte irgendwie für Homepages, Blogposts und das schreiben wir mittlerweile alles mit KI, ja.
Aber sobald ein Mensch den Text vor der Veröffentlichung prüft und redaktionelle Verantwortung übernimmt, braucht ihr für solche Texte keine Kennzeichnungspflicht.
Das ist aus meiner Sicht schon mal gut.
Das ist praktisch, das ist pragmatisch.
Wir arbeiten mittlerweile eh alle mit den Tools, ja.
Wichtig ist eben, dass dieser...
menschliche Redaktionsschritt noch nach der KI-Generierung vollzogen wird.
Das ist dann so ein bisschen das Zünglein an der Waage.
Und eine interessante Sache, es waren ja lange maschinenlesbare Wasserzeichen im Raum, also zusätzlich zu diesen Icons, die wir so draufpacken können für hier AI-modified, AI-generated und so, sollte das Ganze auch maschinenlesbar irgendwo im Source-Code vorhanden sein.
Gerade was so Musik angeht, Bilder und so, will man das ja eigentlich auch machen, dass Maschinen das erkennen.
Das wurde verschoben und die Pflicht dafür, für die maschinenlesbaren Wasserzeichen, die wurde immer auf Dezember 2026 verschoben.
Also gucken wir in einem halben Jahr nochmal rein, was bis dahin so passiert ist.
Grundsätzlich vielleicht so meine persönliche Einordnung.
Also ich muss sagen, es ist insgesamt gut.
Ja, es muss Transparenz her, gerade weil selbst ich als jemand, der sich Tag und Nacht mit KI beschäftigt und der einfach sauviel KI-Content produziert, konsumiert und so weiter.
einfach nicht mehr unterscheiden kann, ist das menschlicher Content oder ist das KI generiert.
Und das ist ein Riesenproblem.
Deshalb müssen Transparenzpflichten her.
Da bin ich absolut der Meinung der Europäischen Union, inwiefern das Ganze jetzt mit den Labels und so weiter umgesetzt wird.
Das weiß ich noch nicht.
Das muss man sich angucken.
Ich finde es ein bisschen unglücklich.
Ich sehe zumindest irgendwie so Kritikpunkte daran.
Da werde ich auch nicht müde, die zu betonen.
Aber wir können mal gucken, in welche Richtung das geht.
Und von daher...
sage ich erstmal, wir lassen das Ding mal laufen.
Ihr, ihr überprüft jetzt mal eure Chatbots, die ihr so auf der Website habt.
Ja, und denkt daran, dass wenn ihr in Zukunft KI generierte Bilder und Videos und sonst was irgendwo postet, dass ihr da einen schönen Button mit KI generiert drauf packt.
Wie gesagt, in den Shownotes findet ihr einen Link zu den offiziellen Labeln der Europäischen Union.
Vielen lieben Dank fürs Zuhören.
Ich hoffe, ich konnte euch so einen Einblick geben in das, was jetzt passiert.
Wir bleiben dran und beobachten das.
Wir sprechen auch nochmal mit ExpertInnen darüber.
Ganz klar, ihr bleibt dran an diesem Podcast.
Wenn euch diese Folge gefallen hat, dann teilt sie gerne, wenn ihr Korrekturen habt oder Anmerkungen, gerne in die Kommentare.
Ja, und ansonsten hören wir uns kommenden Dienstag wieder zu Kollegin KI.
Vielen lieben Dank.
Bis dahin.
Ciao.
Dieser Podcast wird produziert von Podstars bei OMR.