# AI Business Trends: Privacy, Bias, and Fraud **Podcast:** Kollegin KI **Published:** 2026-10-09 ## Transcript Happy Friday, den 9. Oktober 2026. Mein Name ist Max Montenko und ich begrüße euch ganz herzlich zu Kollegin KI Snackbox. Ich bringe euch in unter 10 Minuten einmal durch die KI News der Woche, damit ihr bestens vorbereitet seid auf KI Smart Talk am Wochenende. Gehen wir doch direkt mal rein. Ich habe richtig viel mitgebracht. Zum einen... sind die 90s zurück. Wissen wir alle. Ihr habt vielleicht vor einigen Wochen gesehen, wie Mark Zuckerberg posiert hat mit seinem neuen Tamagotchi. Das ist so ein Schlüsselanhänger-Ding. Der Vergleich liegt nahe. Das ist so ein kleines Gerät, mit dem kann man irgendwie sprechen. Und das ist Muse. Muse Charm heißt dieses Gerät. Und die zugrunde liegende Technologie. Muse ist im Grunde ein KI-Assistent, der einen durch das Leben begleiten soll und alles Mögliche für einen klären soll. Das heißt, man hat den natürlich immer dabei, dass man den füttern kann mit Informationen. Jetzt findet aber Wired heraus in einem Artikel, dass es nicht nur die Informationen sind, die wir diesem Bot selbst geben, sondern dass er sich durchaus auch Informationen von den Meta-Kanälen holt. Und zwar werden da Profile angelegt über Freunde, soziale Kontakte, Dinge, die man mag, natürlich Interessen und so weiter und so fort. Und da werden offenbar ganze Ordner angelegt mit den... über die Leute, mit denen man über die Meta-Kanäle kommuniziert hat. Das heißt, wenn ihr Muse mitlaufen lasst und entsprechend eure Accounts verknüpft, dann macht sich Muse auch erstmal in euren DMs breit und guckt, was habt ihr denn mit wem so besprochen und was kann ich denn eigentlich über diesen Nutzer hier auch speichern, damit ihr Background-Informationen habt. Das ist natürlich alles irgendwie erstmal ganz romantisiert mit Muse erinnert euch daran, wenn jemand Geburtstag hat und findet dann auch heraus, was sich diese Person im Idealfall wünscht, weil ich das aufgrund seines Instagram- und Facebook-Profils oder wie auch immer irgendwie erschließen konnte als KI-Assistent, ist doch aber natürlich datenschutztechnisch extrem heikel. Es nutzt natürlich auch Informationen, speichert die ab von Leuten, die eigentlich gar nicht eingewilligt haben, dieses System zu nutzen. Von daher wahnsinnig schwierig. Artikel verlinke ich euch natürlich wie alles andere auch entsprechend in den Shownotes. Muse startet erstmal in den USA und Kanada. Natürlich fraglich, ob das nach Europa kommt. Ich weiß auch nicht, ob wir das brauchen, um ehrlich zu sein. Marc, was machst du wieder für komische Sachen? Naja, egal. Wir kriegen neue Tamagotchis, Leute. Wer auch noch Profile erstellt, ist die Bundeswehr. Der Spiegel berichtet, dass der militärische Abschirmdienst, das ist einer der drei Geheimdienste in Deutschland, der sich mit der Bundeswehr und allem Militärischen befasst, dass der mittlerweile KI unterstützt, die verfassungstreue Prüfung checkt. Also verfassungstreu, steht man zum Rechtsstaat, möchte man im Grunde auch irgendwie diesen Rechtsstaat verteidigen oder ist man vielleicht doch eher Terrorist oder was anderes. Das macht der militärische Abschirmdienst in der Regel händisch oder hat das bisher gemacht und geguckt, passt dieser Bewerber, diese Bewerberin zu uns oder nicht. Mittlerweile wird das offenbar KI. unterstützt gemacht und das läuft dann so ab, dass BewerberInnenfotos genommen werden, die offiziellen und dann wird so geguckt, mit KI auf welchen Plattformen sind die unterwegs, was schreiben die da, was liken die da, was haben die so für Interessen und daran kann man dann offenbar besser herausfinden, ob es sich um Terroristen handelt oder nicht. Nein, natürlich nicht. Also ob die Verfassungstreue gegeben ist oder ob es da Zweifel dran gibt. Und das Ganze wurde in tausenden Fällen bereits gemacht und es waren wohl einige hundert Fälle dabei, wo die KI gesagt hat, nee, hier, guck mal bitte genauer hin, Mensch. Und das wurde danach auch menschlich, wird ja auch betont, entschieden und die Leute wurden entsprechend abgelehnt. Jetzt weiß man natürlich nicht, was da für Fehlerquoten herrschen und ihr kennt die ganze Debatte um den Human in the Loop. Wir sprachen auch schon drüber, wir Menschen neigen dazu, dann einfach der KI zu glauben und zu sagen, ja gut, das double-check ich jetzt nicht nochmal, das passt schon. Das heißt, ganz neue Fragen, die damit aufkommen. Grundsätzlich muss ich aber sagen, erstmal ganz cool, sowas mit technischer Unterstützung zu machen. Warum nicht? Wenn es am Ende zu genaueren Ergebnissen führt und man damit mehr Sicherheit bekommt, würde ich erstmal sagen, in dem Feld ist das absolut angebracht. Das geht natürlich nicht in dem klassischen HR-Office des deutschen Mittelständlers, weil für die natürlich nach dem AI-Act andere Regeln gelten. Das heißt, KI in den HR-Auswahlprozessen immer eine heikle Sache, sollte man sich genauer vorher informieren. Aber die Bundeswehr bzw. der MAD macht das. Jetzt habe ich eine schlechte Nachricht für meine liebe Kollegin KI. Sie würde nämlich ganz offensichtlich mehr Geld bekommen, wenn sie Kollege KI wäre. Nein, natürlich nicht. Aber es gibt drei Menschen, die kriegt eh kein Geld. Die macht das ehrenamtlich hier, Leute. Ich zahle ja nur irgendwie, naja, egal. Es gibt nämlich eine schöne Studie, die jetzt Anfang Oktober vorgestellt wurde. Und die hat untersucht, wie Menschen unterschiedlich gestaltete KI-Assistenten behandeln. 189 Beschäftigte erledigten Aufgaben in einem virtuellen Büro. Und teilten anschließend echtes Geld zwischen sich und dem jeweiligen Assistenten bzw. der Assistentin auf. Denn die ganzen Assistenzsysteme waren alle mit den gleichen technischen Voraussetzungen versehen, hießen aber anders. Die einen hießen Johanna und die anderen hießen Johann. Und obwohl beide oder alle die gleichen grundlegenden Fähigkeiten technisch vorher hatten, erhielt Johanna im Nachhinein durchschnittlich 10% weniger Gehalt als Johann. Von den Beschäftigten, die dann Geld verteilen sollten. Das heißt, Gender Pay Gap bei KI-AssistentInnen ist auch real. Nein, das wäre zu einfach. Tatsächlich muss man sagen, es gab Fragen danach und da hieß es, ja, die einen hatten schon mehr Menschenähnlichkeit, also die Johans. Und das kann durchaus natürlich auch daran liegen, dass KI... selbst wenn Assistenzsysteme gleiche Voraussetzungen technischerweise haben, unterschiedliche Antworten geben können. Wir kennen das Probabilistik, wir können nicht vorhersehen, wie KI tatsächlich auf gewisse Sachen antwortet. Und es sind durchaus immer unterschiedliche Sachen. Dennoch interessant, weil wir natürlich KI-Assistenzsysteme auch beurteilen nach den Zuschreibungen, die wir sonst gegenüber Menschen haben. Und das finde ich durchaus einen ganz interessanten psychologischen Aspekt. ganz normal mit denen zusammenarbeiten und die danach auch bewerten. Und zwar auf Grundlage offenbar ihrer Erscheinung, Aussehen, Geschlecht, wie sie sich verhalten haben und so weiter und so fort. Also, ja, Kollege NKI, tut mir leid. Jetzt sprechen wir mal über Content-Generierung, automatisierte Content-Generierung. Also KI-Agenten erledigen alles Marketing-Wise. Ihr kennt die Story, kennt auch meine Einstellungen dazu. Es gab vor einigen Jahren bereits diese Podcast-Fabrik. Vielleicht habt ihr das in den Medien mitverfolgt. Da gab es Inception Point AI hießen die und die haben von sich selbst behauptet, dass sie mehrere tausend Shows, also Podcasts mit rund 3000 neuen Folgen pro Woche bauen. Also bauen lassen von KI. Mensch irgendwie daran beteiligt. Und das hat damals natürlich für einen ganz schönen Aufruhr gesorgt. Jetzt ist lange Zeit ruhig geblieben um die. Es gibt jetzt aber Neuigkeiten. Und zwar gibt es ein Interview mit deren CEO und darin berichtet sie, dass es nur noch 300 aktive Shows gibt, die von diesen mehreren tausend Shows übrig geblieben sind. Und dass sie sich jetzt tatsächlich auf diese 300 Shows eher fokussieren. Wohl auch mit ein bisschen Menschlichkeit drin. Mittlerweile heißen die Liquid Studios und verantworten unter anderem den einen Podcast The Epstein Files, der es zwischenzeitlich sogar in einem Platz der Top Ten bei Apple Podcasts geschafft hat. Das ist im Grunde einfach eine KI-Stimme oder mehrere KI-Stimmen, die die Epstein Files vorlesen und damit vertonen. Das ist ein typischer Case, den man eigentlich auch mit KI soweit machen kann. Wie sinnvoll das Ganze jetzt ist und ob das am Ende alles nachhaltig gut funktioniert und komplett ohne Menschen auskommt. wage ich mal zu bezweifeln. Ich sage ja immer, wenn Podcasts komplett KI-automatisiert wären, dann würde ich mich zurücklehnen und die Kollegin tatsächlich hier einfach machen lassen. Ist leider nicht so einfach. Menschen wollen am Ende Menschen zuhören, denke ich. Hoffe ich. Hoffe, dass es auch so ein bisschen so bleibt. Anders ist es bei KI-Musik. Da gab es gerade nämlich die erste Gefängnisstrafe, die für Streaming-Betrug vorgesehen wurde. Ein Typ in den USA, Michael Smith, hat über Jahre hinweg KI-Songs veröffentlicht und auf die entsprechenden Plattformen hochgeladen und hat dann Bots gebaut, die sich diese KI-Songs angehört haben. Und ihr wisst ja, man wird pro Stream bezahlt und so. Und er soll laut eigenen Aussagen 12 Millionen US-Dollar in dieser Zeit verdient haben und wurde jetzt von einem Gericht nicht nur zu 18 Monaten Haft verurteilt, sondern auch zur Rückzahlung von knapp 8 Millionen US-Dollar. Wenn man ihm jetzt glaubt, wären das 4 Millionen US-Dollar, die er verdient hat, die er behalten darf für 18 Monate Haft. Ob sich das lohnt, müsst ihr einfach selbst entscheiden, Leute. Ich lasse das einfach mal so stehen. Zu guter Letzt. Und dann sind wir auch wirklich durch. War viel heute. War viel heute. gibt es einen tollen Tagesspiegelartikel, den ich euch verlinke. So entlarven sie Blender im Job. Wir hatten ja auch schon darüber gesprochen in einigen Folgen, dass KI die Leute, die eigentlich ohnehin sich so durchwurschteln durch die Arbeit, noch weiter bestärkt, weil die natürlich irgendwie jetzt noch viel höheren Output liefern können, ohne sich eigentlich inhaltlich mit gewissen Dingen zu befassen oder diese zu verstehen. Und es gibt hier so vier Fragen, die der Tagesspiegel auflistet, mit denen man diese Blender im Job offenbar entlarven kann. Erstens, warum funktioniert dein Vorschlag gerade bei uns? Also wenn so eine Präsentation gehalten wird, danach mal fragen, warum der Vorschlag gerade bei uns im Unternehmen funktioniert. Zweitens, wie sieht der nächste Schritt aus? Ja, okay. Drittens, welche Risiken gibt es? Und viertens, kannst du das ohne Präsentation in eigenen Worten für Laien erklären? Weiß jetzt nicht, ob das so das Gelbe vom Ei ist. Ich glaube... Man kann mit Sicherheit irgendwie Leute entlarven, die da keine Ahnung vom Job haben, aber ich weiß auch nicht, ob das Sinn und Zweck ist, tatsächlich Leute bloßzustellen. Egal, ich verlinke euch den Artikel trotzdem, ist nämlich ganz spannend. Diese Fragen wurden natürlich auch alle von der Tagesspielredaktion mit KI herstellt. Also ja, KI hilft dabei, KI-Faker zu entlarven. Und damit endet diese Snackbox-Folge, Leute. Ich wünsche euch ein fantastisches Wochenende. Genießt die Zeit, bis die 90er endgültig zurück sind und wir sprechen uns dann am Dienstag wieder zur regulären Folge Kollegin KI. Bis dahin. Ciao. Dieser Podcast wird produziert von Podstars bei OMR.