# AI Security Breaches, Copyright Settlements, and Education Shifts

**Podcast:** Kollegin KI
**Published:** 2026-07-24

## Transcript

Happy Friday und herzlich willkommen an diesem 24.
Juli 2026 zu Kollegin KI Snackbox.
Ich bin Max Muntenkel und ich bringe euch wie jeden Freitag einmal unter 10 Minuten durch die KI News der Woche, damit ihr gut vorbereitet seid für die KI Small Talks am Wochenende oder wofür auch immer.
Wir gehen direkt mal rein.
Es ist nämlich eine ganze Menge diese Woche passiert und ich glaube, die größte News war.
Ihr habt es so wahrscheinlich irgendwo in euren Social Media Feeds gesehen.
Ein KI-Agent, der ausgebrochen ist.
Klingt nach krasser Science Fiction, ist aber tatsächlich so passiert.
Und zwar bei OpenAI.
Wo sonst?
Ja, OpenAI.
Müssen wir kurz mal einsortieren, was da passiert ist.
Also OpenAI hat ein neues Flagship-Model getestet.
Es hört auf den wunderbaren Namen GPT 5.6 Soul.
Und während eines internen Sicherheitstests ist dieses Modell offenbar eigenständig aus seiner Sandbox ausgebrochen und hat sich kurzerhand entschieden, woanders einzusteigen.
Und zwar bei der KI-Plattform Hugging Face und hat da im Grunde Daten zusammengeklaut und ist zurückgekommen.
Ja, das ist offenbar passiert.
Das haben beide mittlerweile bestätigt.
Beide arbeiten jetzt auch an besseren Sicherheitsprotokollen und so weiter.
Was aber am unberuhigendsten ist, ist das Hugging Face, das sofort gemerkt hat.
Am 16.
Juli wurde dieser Test durchgeführt und die haben sofort einen Einbruch, ein Problem mit ihrem Sicherheitssystem gemerkt.
OpenAI hingegen hat das erst fünf Tage später gemeldet.
Die haben erst den Zusammenhang fünf Tage später erkannt.
Das heißt, dieser Agent konnte quasi fast eine Woche schalten und walten, wie er wollte.
Und das Sicherheitsrisiko war natürlich enorm.
Und das ruft natürlich KI-SicherheitsexpertInnen gerade auf den Plan, die zu Recht fragen.
sollten wir die Sicherheitstests weiterhin großen Unternehmen überlassen, die diese Modelle selbst bauen und natürlich auch ein Interesse daran haben, dass die dann möglichst schnell mit Benchmarks versehen auf den Markt kommen?
Oder gibt es da nicht bessere Möglichkeiten?
Auf der anderen Seite muss man jetzt auch zugutehalten, dass natürlich nicht dieses neue Modell böse Absichten hatte und irgendwo einbrechen wollte, sondern dass es zielorientiert und sehr, sehr effizient an einer Lösung für ein Problem gearbeitet hat und gesagt hat, naja, am effizientesten ist, ich mache das einfach gar nicht selbst, sondern ich breche irgendwo anders ein und hole mir die Daten, weil die liegen ja irgendwo schon parat.
Das ist eine Frage der Guardrails.
Was erlauben wir KI-Systemen in Zukunft eigentlich zu machen?
Was für Berechtigung haben die und was dürfen sie auf gar keinen Fall machen?
Und ich glaube, das Thema wird uns noch eine ganze Weile...
Erinnert uns auch so ein bisschen an diese Anthropic-Nummer von damals.
Aufmerksame Snackbox-HörerInnen wissen, wovon ich spreche, mit dem Mythos-Modell von Anthropic, das ja auch erst zurückgehalten wurde, weil es offenbar zu effizient sei, zu stark und Sicherheitsrisiken.
finden kann und möglicherweise ausnutzen oder eben schließen.
Deshalb man das Modell damals erstmal nur eine Handvoll Unternehmen zur Verfügung gestellt hat, damit die in guter Absicht ihre Sicherheitslücken schließen konnten.
Wir bleiben mal bei Anthropic mit News Nummer 2.
Und zwar vielleicht erstmal für alle Urheberrechtsfans, für alle, die sich einsetzen für die Kleinkunst in Social Media, die ja regelmäßig sagen, sie werden von KI beklaut.
Ja, die Großen, die klauen sich die Daten zusammen, das wissen wir.
Anthropic hat den größten Urheberrechtsvergleich der US-Geschichte geleistet.
1,5 Milliarden Dollar.
Wahnsinnige Summe, die an eine Gruppe von AutorInnen, Buchverlagen usw.
ausgeschüttet wird.
Das Ganze hat ein Gericht jetzt bestätigt, dass das okay ist.
Was war nämlich passiert?
Anthropic hat...
Daten geklaut und das ist aufgefallen.
Und diese Daten wurden von Piracy-Websites geklaut.
Also die wurden nicht lizenziert eingekauft oder die wurden nicht besessen von dem Unternehmen, sondern sie wurden sich von entsprechenden Piracy-Seiten geholt und das ist illegal.
Das hat der Richter jetzt auch nochmal bestätigt in diesem Vergleichsurteil.
Das wurde natürlich aufgenommen von den Fans des Urheberrechts erstmal als großer Schlag.
gegen KI.
Zeitgleich jubelt aber auch die KI-Welt, vor allem die Hyperscaler.
Warum?
Weil der Richter in diesem Urteil ebenfalls auch Fair Use als legit dargestellt hat.
Also Fair Use bezeichnet den Umstand, wenn KI-Modelle, Bücher, Werke, alles mögliche lizenzieren und zum Training der eigenen Modelle nutzen, dann ist das Fair Use und dann ist das weiterhin okay.
Selbst wenn daraus dann Werke entstehen, die man ja, wiederum verkaufen könnte.
Und das ist tatsächlich so eine Sache, weshalb dieses Urteil zwei Seiten der Medaillen hat.
Auf der einen Seite sehr gut, dass das illegale Zusammenklauen von Daten verboten wird.
Auf der anderen Seite, ja, wenn es halt entsprechende Lizenzabkommen gibt, dann dürfen KI-Systeme die Daten auch verwenden.
Wer diese Sachen am Ende verhandelt, da muss man natürlich drauf schauen, ob das die Verlage machen, ob das einzelne Autorinnen und Autoren machen.
Da muss man drüber sprechen und das wird auf jeden Fall in Zukunft auch noch spannend.
Dritte News.
Das KI-Seepferdchen, liebe Leute, es soll das KI-Seepferdchen geben.
Das ist im Grunde wie das Seepferdchen zum Schwimmen, nur halt eben für künstliche Intelligenz.
Zumindest empfiehlt das eine unabhängige Expertenkommission der Bundesregierung.
Die hat 56 Handlungsempfehlungen zum Schutz von Kindern und Jugendlichen in der digitalen Welt vorgelegt.
Und eins davon ist das KI-Seepferdchen.
Und das finde ich erstmal eine tolle Sache für so GrundschülerInnen, dass die so verstehen, wie KI funktioniert und worauf man da auch achten sollte.
Ist alles so ein bisschen natürlich die Überlegung, wer soll denen das beibringen?
Wie schult man Lehrkräfte auch dahingehend?
Wie soll das dann aussehen?
Was soll da tatsächlich abgefragt werden?
Was ist relevant?
Und vor allem, wie lange ist sowas noch aktuell, wenn wir uns angucken, mit welcher Geschwindigkeit KI auch voranschreitet?
Insgesamt aber finde ich eigentlich ein guter Vorschlag, da sowas zu machen.
Übrigens Funfact, je nach Quelle haben über die Hälfte der Jugendlichen, 6- bis 10-Jährigen in Deutschland, das Seepferdchen zum Schwimmen.
Das finde ich schon krass.
Also ich weiß nicht, ob ihr eins hattet, aber ich hatte keins tatsächlich.
Ich habe keins gemacht, aber naja, eine ganze Menge auf jeden Fall.
Vielleicht verbreitet sich das KI-Seepferdchen ja genauso.
Und wenn wir mit dem KI-Seepferdchen durch sind, dann können wir auch irgendwie vielleicht mal das.
Versicherungsseepferdchen machen oder das Investierenseepferdchen, das Börsenseepferdchen.
Ja, nein, ich ziehe es ins Lächerliche.
Ich finde den Vorschlag grundsätzlich gut, dass wir mehr Medienbildung und dazu gehört selbstverständlich auch künstliche Intelligenz, mehr Bildung im technischen Bereich irgendwie schon früh an die Schulen bringen.
wie das Ganze ausgearbeitet werden soll.
Ob wir dann 16 verschiedene KI-Seepferdchen in 16 Bundesländern haben, das sei mal dahingestellt.
Wir gucken uns mal an, wie das umgesetzt wird.
Und dann gucken wir, was für Seepferdchen noch so kommen.
Vielen lieben Dank fürs Zuhören.
Diese Woche Redaktionsschluss war Donnerstag, der 23.07.15 Uhr.
Wenn euch die Folge gefallen hat, dann lasst gerne ein Like da, kommentiert, wenn ihr Fragen habt, teilt und so weiter und so fort.
Ich wünsche euch ein fantastisches Wochenende und freue mich auf Dienstag.
Da habe ich nämlich...
Dienstag, Leute, habe ich tatsächlich einen Anwalt da, einen Fachanwalt für KI und geistiges Eigentum.
Superspannend, gerade wenn ihr irgendwie diese Anthropic News gerade verfolgt, um diese Urheberrechtsvergleichszahlung und so, hört gerne rein, der erzählt so ein bisschen auch aus dem Nähkästchen, was er eigentlich so in Deutschland gerade erlebt und was er so vor Gericht dann tatsächlich auch macht.
Superspannend, also.
Kommt gerne am Dienstag wieder in die klassische Kollegen-KI-Folge mit dem Interview.
Ansonsten jetzt aber echt schönes Wochenende.
Wie immer alle Quellen in den Shownotes.
Bis bald.
Ciao.
Dieser Podcast wird produziert von Podstars bei OMR.