# AI Sovereignty, Voice Cloning Ethics, and Implementation Risks

**Podcast:** Kollegin KI
**Published:** 2026-07-03

## Transcript

Happy Friday, liebe Leute.
Herzlich willkommen zu einer weiteren Folge KollegIn KI Snackbox mit den KI News der Woche.
Meine Woche persönlich war sehr cool.
Ich war in Hamburg in den heiligen Hallen von OMR und habe da eine Podcast-Folge im Studio aufgenommen.
Und es war so cool, weil es einfach, es war kühl.
Die haben einfach so gut gelüftete Aufnahmeräume.
Ich bin wieder zurück in Berlin im Homeoffice und nehme diese Snackbox-Folge für euch auf bei gefühlten 100 Grad.
Aber ja, ihr kennt das schon.
Wir gehen direkt mal rein in die News.
Und zwar fangen wir an mit guten News.
Wir werden zum Ende noch richtig dark.
Aber wir fangen mal sachte an mit guten News.
Spiegel berichtet, beziehungsweise Anthropic berichtet, dass die Frontier-Modelle wieder zurück sind.
Wir haben Fable wieder.
Fable 5, ja, das Modell, ihr erinnert euch, was von der US-Regierung mehr oder weniger sanktioniert wurde, was dann für 24 Stunden verfügbar war und dann abgeschaltet wurde, weil man festgestellt hat, Moment, das ist aber zu gefährlich, wenn die ganze Welt das jetzt plötzlich nutzen kann und Anthropic es dann kurzerhand für alle abgeschaltet hat, natürlich auf Druck der US-Regierung.
Und ja, die Tools sind zurück.
also die Large Language Models, die High Class Models, alles gut, ja, weitermachen, gar kein Problem.
Nein, natürlich nicht.
Zeigt natürlich wieder einmal, dass wir komplett der Willkür anderer Nationen ausgesetzt sind, wenn es um die Nutzung von Hochtechnologie geht.
Weil Trump hier einfach den Knopf drücken kann und sagen kann, joa, jetzt sind Large Language Models nicht mehr verfügbar und jetzt halt wieder doch.
Und das macht uns natürlich hochgradig abhängig und zum Stichwort digitale Souveränität.
Dürfen wir jetzt natürlich nicht nachlassen, sondern müssen uns hier dran erinnern, was hier eigentlich passiert ist und endlich in die Pötte kommen in Europa, um selbstständiger und unabhängiger zu werden.
Es ist wirklich allerhöchste Eisenbahn, wenn hier irgendjemand zuhört, der da Macht drüber hat.
Macht mal was.
So.
Ja, das waren die guten News.
So steht es um diese Woche, Leute.
Naja, zweite News.
Netflix.
Netflix hat eine neue Show, Wong Kar's The Golden Ticket und da wollte man offenbar die Stimme von Gene Wilders haben.
Problem war, Gene Wilder ist seit zehn Jahren tot, der kann nichts mehr einsprechen, aber man hat ja genug Stimme von ihm aus vorherigen Produktionen, deshalb könnte man das Ganze ja einfach klonen und mit KI machen.
Und so wird es tatsächlich gemacht, denn die Erben...
beziehungsweise die VerwalterInnen seines Nachlasses, zu denen ja dann offenbar auch die Stimmrechte gehören, die haben entschieden, das erlauben wir Netflix und da können wir jetzt mal irgendwie mit produzieren.
Ja, rein rechtlich ist der Fall damit offenbar sauber, scheint geregelt zu sein, aber was bedeutet das eigentlich ethisch?
das ist tatsächlich eine Debatte, die wir immer wieder führen und die wir auch noch weiterführen werden.
Ist das okay, von Verstorbenen die Stimme zu nehmen, Dinge, die die Identität ausgemacht haben, um die mit KI, ja, sag ich mal, unendlich weiterführen zu wollen?
Schwierige Debatte.
tatsächlich in einer Folge vor einigen Wochen mit Sascha Rotermund darüber gesprochen.
Er ist selbst Synchronsprecher und hat diese ganze KI-generierte Stimmendebatte rund um Netflix auch einmal eingeordnet aus seiner Sicht.
Verlinke ich euch gerne in den Kommentaren, wenn ihr die Folge noch nicht gehört habt.
Sehr, sehr spannende Ansichten.
Ich glaube, wir müssen hier gerade den Betroffenen zuhören, die jetzt mit ihrer Stimme und mit ihrer Identität Geld verdienen, was die eigentlich dazu sagen.
Und deshalb hört gerne nochmal in die Folge mit Sascha rein.
Ist auf jeden Fall...
Sehr, sehr cool geworden.
Dritte News.
Es gibt wieder mal News von Unternehmen, die erst Leute entlassen haben und dann festgestellt haben, Moment, die KI kann das ja gar nicht.
Wir holen die Leute mal zurück.
Und dieses Mal trifft es Ford.
Ja, Ford, der Autobauer, hat offenbar eine ganze Menge Qualitätssicherer.
Qualitätsingenieure entlassen.
Vielleicht ist das ein Übersetzungsfehler.
In Bloomberg sind es Engineers.
Der Spiegel übersetzt das eindeutig mit Ingenieure.
Aber wahrscheinlich sind es einfach Mitarbeitende überhaupt in der Qualitätssicherung.
Die wurden entlassen, weil es dann hieß, wir machen jetzt eine KI-gestützte Qualitätskontrolle.
Und dann hat man festgestellt, dass die Qualität irgendwie ziemlich gelitten hat.
Und jetzt holt Ford diese ganzen Engineers wieder zurück.
Ja, das ist ein schönes Beispiel wieder mal.
Wir kennen das alle.
Bekanntester Fall bisher war, glaube ich, Planer, die ihren gesamten Customer Support irgendwie an Agents ausgelagert haben und dann festgestellt haben, ja, KI kann irgendwie doch nicht so gut mit Menschen, beziehungsweise wollen Menschen vielleicht auch einfach mit Menschen sprechen.
Also hat man die wieder teuer zurückgekauft, aber es hat zumindest eine tolle Story gegeben für die Aktionäre.
Ja, fort ist jetzt das Gleiche passiert, sehr, sehr ähnlich auf jeden Fall.
Das heißt, ja.
Was lernen wir daraus?
Am Ende braucht KI auch Experten, damit KI gut funktioniert.
Sie wird den Menschen einfach nicht ersetzen.
Aber die Rolle der Menschen, die verändert sich natürlich.
Also schöne News rund um Ford und unersetzbare Arbeit.
So, und jetzt kommen wir zum Knaller-Thema.
Kurz vor der Folge habe ich noch eine Nachricht bekommen von meinem Chefredakteur, der sagte, hier, das musst du mit reinnehmen.
Das muss ja definitiv heute noch mit rein.
Und deshalb habe ich die Folge jetzt nochmal aufgenommen, weil das ist tatsächlich krass.
Ich nenne das Ganze mal Propaganda as a Service.
So ist es nämlich auch in dem Korrektiv-Artikel beschrieben.
Korrektiv hat davon Wind bekommen, dass die AfD offenbar in die Content-Automatisierung eingestiegen ist.
Es gibt ein Tool, das heißt Alternita Studio, das kurz vor dem Rollout steht.
Das soll auf dem nächsten Parteitag der AfD tatsächlich vorgestellt werden.
Und das, sage ich mal, automatisiert die Content-Erstellung.
Aber wie sie automatisiert und nach welchen Gesichtspunkten ist tatsächlich ziemlich krass und das haben die InvestigativjournalistInnen von Corrective rausgefunden, indem sich einer dieser Journalisten...
offenbar als AfD-Mitglied ausgegeben hat und sich einfach mal eine Demo hat geben lassen.
Hat sich hingesetzt in einen Zoom-Call und hat sich im Grunde dann mal zeigen lassen, was das Tool so kann.
Und der entsprechende Entwickler, der das in einer AfD-eigene Firma, wenn ich es richtig gelesen habe, entwickelt hat, der hat auch Auskunft gegeben und mal gezeigt, wie das funktioniert.
Und das ist tatsächlich ziemlich hart.
Denn erstmal geht es natürlich in vielen Unternehmen ja auch um Content-Generierung und vor allem so Automatisierung und so weiter.
Was wir hier sehen, ist tatsächlich eine Propagandamaschine.
Also ganz klar, es geht schon los mit den Quellen, aus denen dieses Tool die Information bezieht, auf deren Grundlage dann Content generiert wird.
Das ist News, das ist Apollo-News, das ist Junge Freiheit, all die rechten Vorzeigemedien, interessanterweise auch der Bild-Politik-Teil und die NTV-Wirtschaftsnachrichten.
Oh, ein bisschen Springer haben wir auch noch mit dabei.
Wirklich, das sind so die Quellen, wo das Ding suchen soll.
Und dann wird Content vorgeschlagen, gleich mit so einer erwarteten Reichweite, die man damit erzeugen könnte.
Dann werden Visuals gebaut, Texte dazu geschrieben und dann kann man das Ding mehr oder weniger automatisiert raushauen.
Alice Weidels Account ist offenbar auch schon mit dem Tool verbunden.
Ja, das heißt, was soll ich sagen, Leute?
Was soll ich sagen?
Es ist gruselig.
Wir können...
KI natürlich viel zum Guten einsetzt und das machen die meisten ja auch.
Ja, also ganz klar, die viele Use Cases, über die wir hier auch sprechen, die haben einen Mehrwert, die sparen am Ende Zeit ein, die sind für irgendwas gut.
KI kann doch aber natürlich auch für negative Sachen eingesetzt werden.
Das ist so ein Paradebeispiel dafür, dass man natürlich Menschen auch hinters Licht führen kann, dass man Propaganda betreiben kann, dass man News verkürzt darstellen kann mit einem ganz klaren Ziel in eine gewisse politische Richtung abzudriften, Stimmung zu machen, einfach nur irgendwie die Reichweiten KPIs zu erzeugen, ohne tatsächlich sich Problemen zu nähern.
Das ist gefährlich, das ist saugefährlich und ich bin sehr froh, dass Korrektiv das aufgedeckt hat und einmal irgendwie auch wirklich.
runtergeschrieben hat, was da eigentlich passiert ist mit konkreten Beweisen.
Ich empfehle euch den Artikel, ich packe ihn euch in die Shownotes, lest ihn wirklich durch.
Ist ein langer Artikel, aber es ist wirklich insane, was da passiert und was für Fragen da natürlich noch aufgeworfen werden.
Was für eine Verantwortung haben eigentlich die Toolbetreiber?
Weil irgendwie müssen natürlich die Large Language Models auch da angeschlossen werden, die Bilder müssen generiert werden, die Texte.
Das heißt...
Darf man das überhaupt?
Was bedeutet dann auch der AI-Act hinsichtlich Kennzeichnungspflicht überhaupt?
Was davon ist dann auch juristisch angreifbar, wenn es um Volksverhetzung geht und so weiter und so fort?
Also viele Fragen.
Lest euch den Artikel durch.
Das ist definitiv ein Negativbeispiel für die KI-Nutzung.
Also wahrscheinlich das Schlechteste, was ich irgendwie seit Deepfake-Porn gesehen habe.
Und damit schließen wir ab.
Und ich wünsche euch trotz allem...
Ein schönes, erholsames Wochenende.
Redaktionsschluss war Donnerstag, der 2.7.18 Uhr 42.
Wir hören uns am Dienstag wieder.
Bis dahin, schönes Wochenende.
Passt auf euch auf.
Ciao.
Dieser Podcast wird produziert von Podstars bei OMR.