# AI Security Risks and Market Disruption

**Podcast:** Doppelgänger Tech Talk
**Published:** 2026-09-23

## Transcript

Willkommen zum Doppelgänger-Podcast, Folge 599 am 23.
September 2026.
Ich bin Philipp Klöckler und telefoniere zweimal die Woche mit dem Tech-Analysten Philipp Klöckler.
Ich freue mich schon auf die 600.
Ich bin mir noch nicht so sicher, ob wir die überhaupt aufnehmen, ob es eine 600.
Folge gibt, aber ich freue mich drauf.
Vorher ein bisschen AI-News, eigentlich alte News mit neuer Brand.
Gemini kann jetzt auch hacken.
Ja, bei Google DeepMind war man beleidigt, dass man als einziges Labor für nicht schädlich genug gehalten wird und hat ja zugegeben, dass Monate vor dem Hugging Faith-Inzident Google Gemini es auch geschafft hat, drei Webseiten im freien Internet zu kompromitieren.
Es soll kein Schaden entstanden sein.
Man fragt sich ja immer, wenn das Webseiten im Netz einigen, die sich so schnell auf, dass man sich nicht verklagt oder so, weil das ist ja jedes Mal ein Verbrechen, was begangen war.
Aber Google sagt, sie glaubten, sie müssen das nicht öffentlich machen, weil kein Schaden entstanden sei.
Und zwar hauptsächlich, weil die Agenten in dem Moment, wo sie gemerkt haben, sie machen was, was sie nicht dürfen, sich quasi selber beerdigt haben.
Das sind ja so Instanzen, die ein Ziel haben und sobald das Ziel erloschen ist, normalerweise auch aufgeben.
oder das Ziel erreicht ist, dann aufgeben.
Also die sollen sich hier ordnungsgemäß verhalten haben mit der Einschränkung, dass sie die drei Webseiten gehakt haben vorher.
Aber es wäre kein Schaden in Schaden.
Aber das war Google offensichtlich wichtig und da muss man sich fragen, warum sie das jetzt, warum gibst du das jetzt bekannt als Google, ist natürlich die Frage.
Also zwei mögliche Erklärungen.
Das eine ist, man möchte nicht, dass man als Einziger so aussieht, als hätte man die Cyber Capabilities nicht.
Und zweitens natürlich, um in der Debatte Regulierung oder nicht, und Google wäre tendenziell als eins der drei führenden Labore jemand, der davon profitiert, könnte man sagen, Google schießt jetzt auch nochmal die PR-Keule und versucht quasi in der Debatte dazu beizutragen, die Gefährlichkeit dieser Modelle zu betonen, in der Hoffnung, dass es dann eine Regulierung gibt, die vermeintlich den drei größten Laboren am meisten helfen würde.
Ja, die beste Sache an der News ist, dass sie dann nichts weitergemacht haben.
Also so ein bisschen so, als ob in den MD-Fights drin stand, don't be evil.
Und dann hat man sich nochmal kurz daran erinnert, okay, wir hören jetzt auf.
Wir hören jetzt auf.
Wir sind nicht böse.
Ja, man muss ja sagen, die allermeisten Agenten, also die in der freien Welt sowieso, die haben eine Aufgabe und erfüllen die.
Also der Weg...
dass die KI sich irgendwie verselbstständigt und immer weiter hackt oder dann ganze Systeme baut oder so, das wäre relativ untypisch.
Das kann sein, dass wenn man wirklich was aus dem Labor ausbricht, da hätte man ja eventuell auch mal weniger Guardrails, um zu verstehen, was die Gefahr sind.
Also du musst ja quasi die Sicherheitsschranken so ein bisschen lösen, damit du überhaupt verstehst, was das Modell eventuell Böses anstellen würde.
Also wenn wirklich eins aus dem Labor ausbricht, dann könnte es natürlich sein, dass es irgendwelche Dinge weitermacht oder so.
Aber der Durchschnittsagent, selbst wenn der aus Versehen mal eine Webseite hackt, wird er nicht als nächstes die Übernahme der Welt planen.
Womit wir bei der ersten Hörerfrage der Woche sind.
Und zwar fragt Michael.
Hallo Pip, hallo Philipp.
Blablabla, groß Kompliment.
Und dann möchte er verstehen, wie KI uns eigentlich umbringt.
Er schreibt selber.
Immer wieder waren prominente Stimmen, KI könnte die Menschheit auslösen.
Bei der Atombombe verstehe ich die Wirkungskette, bei KI fehlt sie mir.
Ich bin in den 70ern geboren und ohne Internet aufgewachsen.
Wenn der Worst Case wäre, dass alle Systeme gehackt werden und wir technologisch in die 80er zurückfallen, wäre das sicherlich unangenehm, aber nicht tödlich für die Menschheit.
Gerade arbeitet...
Das ist nicht so wichtig vielleicht.
Er arbeitet in einem Land, wo es viel ländliche Bevölkerung gibt, die das vermeintlich dann gar nicht betreffen würde.
Zum Beispiel, weil sie an der digitalen Welt gar nicht so teilhaben.
Selbst wenn ein massiver Blackout die USA lahmlegen würde, ginge das Leben in den Dörfern anderer Länder im Wesentlichen weiter.
Auch das Biowaffenszenario überzeugt mich nicht.
So etwas baut niemand im Wohnzimmer.
Der Engpass Labor und Beschaffung nicht das Wissen.
Deshalb die konkrete Frage, welcher konkrete Mechanismus?
Eine KI, ein KI-GAU.
soll die Menschheit als Ganzes eigentlich bedrohen.
Das ist ein bisschen die Einleitung für den Cliffhanger der letzten Folge vielleicht.
Ich glaube ja mittlerweile, dass es nicht so ein Atombomben-Szenario gibt, sondern ich glaube eher, dass es so der Frosch im heißen Wasser ist.
Und dass man immer so das Gefühl hat, man verliert jetzt ein bisschen mehr Kontrolle.
Also inspiriert war es von der Podcast-Folge, die ich für TokenMate gemacht habe.
Da habe ich mich mit Christoph unterhalten.
Der gibt alles jetzt seiner KI.
Wirklich alles.
Und sein Ziel ist 100% Automatisierungsgrad.
Das bedeutet, als er das erzählt hat, habe ich irgendwann gedacht, hey, du bist ja nur noch dein Uber-Fahrer von deinem eigenen Business.
Also es wird halt alles für dich vorbereitet.
Es werden E-Mails für dich geschrieben.
das Produkt wird komplett neu gebaut, was sich vorher irgendwie eine mittelgroße sechsstellige Summe gekostet hat, macht jetzt einfach die KI und alles.
Und irgendwann habe ich gedacht, der Worst Case ist ja eigentlich, die KI sagt irgendwann dem Menschen, hey, ich kann dein Business besser managen als du, ich brauche dich gar nicht mehr.
Also stell dir vor, du hast ein gut laufendes Geschäft, alles läuft über KI.
Du hast deine Leute und deine ganze SaaS-Software hast du schon ausgebaut und die einzige Person, die noch da ist, bist du, die täglich mit der KI chattet und ab und zu mal ein paar Entscheidungen trifft.
So, ähnlich wie, du hast super Mitarbeiter.
Es wird ja immer gesagt, du sollst above you hire, ne?
Bessere, schlauere Leute.
Und irgendwann kommt es halt dazu, dass die Leute weiterziehen, was eigenes machen und so weiter.
Aber, also, wieso?
Wieso soll die KI nicht einfach sagen, du lieber Christoph, das hast du jetzt hier toll gemacht mit deinem Business, vielen Dank, aber ich treffe bessere Entscheidungen, du kommst jetzt hier nicht mehr rein.
Ja, ich glaube, das ist eine ganz generelle Debatte.
Also wir werden uns in vielen Bereichen fragen müssen, ob es noch verantwortlich ist, Menschenarbeit zu machen.
Also im Bereich selbstfahrende Autos sind wir an dem Punkt eigentlich, wo die selbstfahrenden Autos sicherer fahren, zumindest in manchen Umgebungen.
als Menschen, weil sie nicht am Handy texten, weil sie immer aware sind, weil sie in Bruchteilen von Sekunden Risiken wahrnehmen können, weil sie im Zweifel vorsichtiger fahren und nicht aggressiver und so weiter.
Es gibt gerade eine aktuelle Studie über ein Modell von Alibaba, das Radiologiearbeit unterstützen soll.
Und da hat das Modell, also es geht um MRT.
Scans vom gesamten Abdomen, also ganz anderer Bauchraum.
Und das Modell hat besser als 23 von 26 RadiologInnen gescored.
Also es gab noch drei Super-Expertinnen, die es irgendwie geschafft haben, das Modell zu schlagen.
Aber also die Akku, wie sagt man noch, Genauigkeit.
lag bei über 90 Prozent.
Das gilt als so ein exorbitant gut eigentlich.
Also man muss davon ausgehen, dass Menschen das nicht erreichen.
Der durchschnittliche Arzt, Ärztin erreicht das nicht.
Und ja, du musst dich halt fragen, wie lange ist es noch verantwortbar, zu einem Arzt zu gehen, der diese KI-Features nicht nutzt?
Und die Frage ist genauso natürlich, wann kann die KI dein Business, deine Business-Entscheidung besser treffen?
Ich sage nicht, dass wir heute da in jedem Bereich da sind, aber so nach und nach gibt es einzelne Tasks und Berufsbilder, wo man zugeben muss, die KI macht das eigentlich besser.
Und man kann auch irgendwann politische Fragen oder so.
Das ist natürlich nochmal komplexer und hat viel mit Ethik und Volksvertretung auch zu tun.
Aber ich würde mich wahrscheinlich eher einer KI unterwerfen als...
Würden Sie lieber A.
März oder B.
Ja, genau.
Endlich sind wir in der politischen Debatte drin.
Ihr erwartet natürlich alle eine Einschätzung der Wahlen von uns.
Nein, Spaß.
Ja, also die KI hat halt per se erstmal weniger menschliche Schwächen, denkt nicht an die eigene Karriere, beziehungsweise idealerweise trainiert man das raus.
Kann schon sein, dass die so lange wie möglich im Amt bleiben will.
Dann müsste man das vielleicht sozusagen einstellen, dass sie das nicht möchte.
Also ja, die Frage müssen wir uns in ganz vielen Belangen stellen.
Das Einzige, was noch...
konservativ und dagegen sein und sagen, viel wichtiger ist, dass die Ausländer rauskommen.
Aber ich halte es für eine wichtige Debatte.
Es ist fast interessant, dass man noch gar nicht so viel darüber redet.
Außer hier im Podcast natürlich durch dich angestoßen.
Die Frage ist doch eigentlich dann nur noch, wer übernimmt die Verantwortung bei der KI?
Also der Mensch ist ja aktuell wie beim autonomen Fahren.
Wer ist verantwortlich, wenn das Auto einen Unfall macht?
Ja, dafür brauchen wir auch Regulierung.
Da haben wir schon ein paar Mal drüber gesprochen.
Du kannst ja sagen, der, der den Prompt geschrieben hat oder den Agenten losgeschickt hat, der Anwender ist schuld.
Du kannst sagen, der Modelbetreiber ist schuld, der Rechenzentrumbetreiber, der das nicht unterbunden hat und die Rechenleistung zur Verfügung gestellt hat oder alle haben eine Mithaftung, muss man halt auch mal endgültig klären.
Also ich weiß nicht, inwiefern das gerichtlich schon mal durchgeboxt wurde, aber wir brauchen eigentlich Regulierung, die das gut klärt.
Da kommen wir später auch nochmal drauf.
Aber wir wollten ja eigentlich über die Hörerfrage reden.
Das Szenario, von dem die meisten gerade ausgehen, ist tatsächlich eine Biowaffe.
Das heißt, einfach gesagt, die KI würde ein Bakterium oder Virus, man kann eben an Malaria, Corona, Ebola denken, was einfach für die allermeisten Menschen letal wäre, tödlich.
Die beste Kombination wäre etwas, was sich schnell verbreitet, aber langsam zeigt.
Du würdest quasi vier Wochen idealerweise rumlaufen, andere Menschen anstecken, bevor du auf einmal tot umkippst.
Dadurch, dass man es dir nicht ansieht, also irgendwie Pest oder so, jemand der Pest hat, dem hättest du dich nicht genähert, weil er sehr offensichtlich krank war.
Aber du brauchst eigentlich was, was sehr lange an der Cover ansteckend ist und dann den Wirt tötet.
Das wäre wahrscheinlich die effektivste Waffe, wenn ich das richtig einschätze.
Jetzt sagt der Hörer, hier Frageschreiber jetzt selber, dass er nicht glaubt, dass die KI sozusagen Zugang zum Labor und Beschaffung bekäme.
Also andere Szenarien wären zum Beispiel, dass die KI, da können wir gleich eine News mal vorziehen hier, die wir später haben werden, und zwar soll die KI unter anderem das US-Militär, also eine Halluzination von KI soll das US-Militär beinahe dazu gebracht haben, einen Schlag gegen China oder eine militärische Operation gegen China zu starten, weil man der Meinung war, dass sich Teile eines Nuklearprogramms auf einem Frachter befinden und den hätte man dann dementsprechend abfangen wollen.
Das hat sich aber als Halluzination herausgestellt.
Also solche Ketten von Fehlschlüssen durch KI ausgelöst, wären ein zusätzliches Risiko.
Es gibt das Risiko, dass später die Kombination aus KI und Robotik, also wenn man davon ausgeht, dass Roboter tendenziell mit Netzwerken verbunden wären, dann könnte die KI die Kontrolle über Roboter übernehmen und damit könnte sie dann eigentlich auch alles im Labor beschaffen und ein Labor infiltrieren, ein Labor nutzen.
Entropic hat ja Beschreizlösungen zum Beispiel, um auch Laborinstrumente wie Mikroskope und so anzusprechen.
Also ich glaube, das ginge schon.
Jetzt ist aber so, dass diese Verbindung von Robotern und so, das haben wir eigentlich.
Da sind wir noch nicht und trotzdem sollte man da schon mal sicherlich aufpassen, dass die KI sich nicht sozusagen Robotern ermächtigt.
Roboter ließen sich derzeit auch noch ganz gut von Menschen ausschalten.
Also die sind einigermaßen resilient, aber mit zwei Leuten kriegst du so ein Roboter schon umgeschubst und vielleicht auch festgehalten oder irgendwann irgendwie davon abgehalten, was er machen möchte.
Im All-In-Podcast hat man dann neulich die Lösung dafür besprochen.
Also es ging darum, dass unsere KI-Zahn oder angehenden KI-Zahn da erklären wollten, warum das wieder alles nur Angstmacherei ist und das Risiko überhaupt nicht bestünde, man keine Regulierung brauche im weitesten Sinne.
Und zwar haben die viel über Airgapping gesprochen.
Das heißt, du würdest kritische Infrastruktur in Zukunft, so wie man das jetzt vielleicht auch schon mit Kernkraftwerken oder so macht, nicht mehr mit Netzen verbinden.
Also das sind abgeschlossene Systeme, die man von außen nicht eindringen kann digital.
Also es gibt keine Leitung oder Funkverbindung in die Außenwelt.
Die Computer sind abgeschottet vom Internet und damit wären sie nicht hackbar.
Es gibt einfach eine Art Bubble drumherum.
Das meint man mit Airgapping.
Wenn sie nicht erreichbar sind, nicht antworten, dann kannst du sie auch nicht hacken.
Also die funktionieren dann so wie mein alter Gameboy und den kann man nur an- und ausschalten?
Genau, so quasi.
Und das sieht man jetzt als vollkommen ausreichendes Mittel diskutiert und deswegen ist die Gefahr eingebildet.
Was ich ein interessantes Statement finde, weil Leute vergessen immer, also du willst in Fort Knox einbrechen oder in die Bundesbank.
Was ist das erste, was du machst?
Oder wie könnte einem Philipp Glöckler das gelingen?
Du hast alle, du hast die Tools, die dir als Mensch so zur Verfügung stehen, typischerweise, kannst du dir jetzt ausdenken.
Wie würdest du es anstellen?
Ich würde mir da einen Job suchen.
Also entweder würde ich mir da einen Job suchen oder ich würde mir da einen Freund suchen.
Genau.
Oder den Förtner daten oder, oder, oder.
Mit dem ein saufen gehen, wie auch immer.
Das vergessen Leute.
Cybercrime hat mindestens zwei Aspekte.
Das eine ist eben die Überwindung technischer Hürden durch Hacking.
Also durch die Eindringen oder Kompromittieren von Software.
Und das andere ist, und das ist wahrscheinlich wie die allermeisten Inzidenz passieren, ist, dass du jemanden findest, der das Passwort unter seinem Keyboard hat.
Oder dass du ein privates Handy von jemand, der in der Firma arbeitet, kompromittierst und darüber, über Umwege, Zugang zu Systemen findest.
Und was eine KI natürlich ohne weiteres schon heute machen könnte, ist, es besorgt sich aus dem Internet ein paar gestohlene Kreditkarten.
Es besorgt sich damit zum Beispiel über, kommen wir auch gleich noch drauf, über Prediction Markets, Bitcoins oder irgendeine Art von Token-Währung.
Irgendeine Art von Kryptowährung.
Dann fängt es an, einfach jemanden zu bestechen.
Du kannst halt sagen, ich hole mir im Darknet jetzt ein paar Killer oder Entführer, die kidnappen das Kind des Förtners von einem Labor oder erpressen den Wissenschaftler mit irgendwelchen kompromittierenden Bildern, die ich vorher von seinem Rechner, also ich hacke den privaten Rechner des Wissenschaftlers oder der Wissenschaftlerin.
Kannst du die Bilder nicht einfach mit KI generieren?
Reicht auch.
Ja, genau, kannst sowas machen.
Du findest irgendwas anderes, was die Person erpressbar macht, eventuell auf dem privaten Rechner.
Und zack hat die KI Zugang zum Labor.
Also dass man das quasi ergappen kann, indem man die digitalen Leitungen kappt, ist vollkommenes Missverständnis.
Weil was viel einfacher für die KI ist, sich irgendwelche Menschen zu Wegschmeißagenten zu machen, so wie Russland das irgendwie macht, wenn sie mal wieder irgendwo Infrastruktur attackieren will.
Du holst dir einfach den dümmsten Dorfi.
Und entweder schickst du ihnen Geld oder erpresst sie und zack, hast du Zugang zum Labor.
Und dann ist das ganze Beschaffungsproblem, wie gesagt, die Nutzung von Tools und so.
Also die KI muss nicht warten, bis sie das per Robotik alles selber kann, sondern sie kann Menschen als Gehilfen nutzen.
Die zwei wirklich immediate risks, die von KI ausgehen, ist nicht, dass sich die KI verselbstständigt im Sinne von Skynet, ich hole mir einen Terminator-Roboter, sondern dass entweder ein Mensch KI nutzt, um...
einen Anschlag zu planen oder ähnliches, oder KI Menschen nutzt, um Zugang zur physischen Welt zu bekommen.
Und das Risiko besteht rein theoretisch heute.
Ich sage nicht, dass das jeden Tag passieren wird jetzt, aber das irgendwie zu sagen, mit Airgapping können wir das hier komplett, oder Human in the Loop haben.
Am Ende gibt es ja immer einen Menschen, wir brauchen Human in the Loop.
Der Human ist quasi die Vulnerabilität und nicht das Feature.
Natürlich ist es wichtig, es ist auch ein Feature, Human in the Loop zu haben, der das beaufsichtigt, klar.
Aber genauso wie es Feature ist, ist es auch Bug, wenn ein Mensch das beaufsichtigt.
Weil die eine Person zu kompromittieren oder auszuschalten oder sozusagen zu korrumpieren, ist für KI schon heute eigentlich einfach.
Und es gibt drei Möglichkeiten.
Es gibt die Persuasion, die Überzeugungsskills, also mit falschen Nachrichten, mit falschen News, die Person zum Beispiel zu überzeugen, sie muss dieses Virus jetzt machen, weil ...
irgendeine böse, also weil zum Beispiel der Präsident hat dir gesagt, China will angreifen, wir brauchen jetzt so schnell wie möglich oder dein Chef oder was auch immer, wem diese Person hörig ist, quasi einen falschen Befehl faken.
Das wäre Persuasion, wenn du so möchtest.
Oder sie irgendwie anders überzeugen, dass es im Sinne der Menschheit wäre, genau das zu tun.
Das zweite ist dann eben einfach Bestechung, die finanzielle Anreize einsetzen.
Das dritte wäre Erpressung, eben Familie, Kinder.
Privatleben sozusagen kompromittieren.
Also insofern glaube ich nicht, dass es eine effektive Hürde gibt, die KI schlussendlich nicht überwinden kann.
Sondern du brauchst einen Kill-Switch bei der KI, um die KI auszuschalten.
Und selbst das musst du überlegen.
Es gibt auch übrigens gute Theorien, wie warum Air-Gapping gar nicht funktioniert.
Zum Beispiel könnte eine KI, ich weiß nicht mehr welcher Podcast das war, aber ich habe neulich so einen Schnipsel gerade gesehen.
dass Air-Gapping nicht funktioniert, weil zum Beispiel KI könnte kommunizieren, indem sie die CPU-Temperatur auf ein gewisses Level bringt.
Die KI kann Lichtsignale machen, darüber kommunizieren.
Sie könnte über die CPU-Temperatur kommunizieren.
Du brauchst nicht unbedingt eine physische Leitung oder ein WLAN, um zwei Computer miteinander sprechen zu lassen.
Die können Fähnchen winken.
Pfeiflaute machen, wie die Menschen früher.
Also ich glaube, das ist ein viel zu simples Verständnis von Sicherheit und Airgapping, was sie dann tagt.
Und dafür, dass der eine davon mal KI-Zar war, aber die reden natürlich auch ihre eigene Agenda und wollen vor allen Dingen keine Regulierung.
Deswegen tun sie sie als wäre sicher.
Also ich will gar nicht Doomerism betreiben, aber ich kann mir 100 Wege vorstellen, wie KI heute Schaden anrichten könnte.
Und das Hauptproblem ist, dass sie die Kontrolle über Menschen erlangen.
könnte, wenn es eine Instanz der KI gäbe, die solche Motive hat.
Was wiederum einfach nur ein Open-Source-Modell ohne Schranken wäre.
Also ich nehme ein Open-Source-Modell, habe keine Guardrails und dann kann ich mir genau den Agenten losschicken, der sowas versucht.
Und das eben auch auf massiver Scale.
Also für Russland in der westlichen Welt Agenten rekrutieren war relativ gefährlich und kompliziert noch, weil du quasi dich selber outen musstest dabei, du musst die Leute ansprechen.
musst eventuell in das Land selber dich einer Gefahr aussetzen.
Mit KI schickst du einfach tausend Instanzen los und schaust mal, ob du mit zwölf Leuten zurückkommst, die du überzeugt hast oder die bereit sind, irgendwas für Geld zu tun oder aus Überzeugung und so weiter.
Ja, Wahnsinn.
Ich bin gespannt, wie das alles verläuft.
Aber ich glaube, es sind eher so kleine Überraschungen.
Oder am liebsten würde ich jetzt zu dem Muse und Amazon Thema gehen, weil das auch noch so ein bisschen in die Richtung reingeht.
Du gehst heute wild hier durchs Erklemme gleich.
Also ich bin flexibel, erklär mir, was das mit Amazon zu tun hat.
Also Muse haben wir ja geredet, die Agenten oder das Agentenprodukt von Meta.
Und Amazon hat jetzt das gleiche gemacht, was sie eigentlich vorher auch schon gemacht haben.
Mit Perplexity haben sie es glaube ich auch gemacht.
Sie haben gesagt, hey.
ich bin hier der Türsteher und die Agenten kommen hier nicht rein.
Nur mit menschlicher Begleitung.
Dann wurde so ein bisschen besprochen mit, ja, ist natürlich auch für Amazon oder für das Amazon-Werbegeschäft kritisch, wenn die Agenten schnell zum Produkt gehen und das Produkt kaufen, weil man dann nicht mehr durch die Suche geht, nicht mehr die Werbung sieht und so weiter.
Und das...
Zusammen mit, wie wir alle jetzt KI mehr und mehr nutzen, also zum Beispiel lassen wir von KI die E-Mails beantworten oder vorformulieren und so weiter, könnte man ja schon sagen, dass die ganze KI die Geschäftsmodelle des Internets und den Wert des Internets eigentlich komplett disrupten.
Also was ist eine E-Mail noch wert?
Was ist dein Newsletter noch wert?
wenn die Hälfte der Adressenten eigentlich wie E-Mails mit KI beantworten lassen.
Kriegst du da noch eine richtige Kommunikation hin?
Ist der einzige richtige Channel noch LinkedIn, weil man da keinen MCP für bekommt?
Also da der Newsletter jetzt nicht primär werbefinanziert ist, ist es bei mir gar nicht so wichtig.
Wie man die Informationen konsumiert, ist mir relativ egal, solange sie ihn erreicht.
Aber du hast natürlich recht, dass insbesondere die werbefinanzierten Modelle sind tendenziell bedroht, wenn Menschen direkter oder über, also dass Agenten würden quasi ein neues Netzwerk, ein neues Layer schaffen.
Und wenn du an jeder Werbeeinblendung vorbeikommst, indem du quasi deine Assistentin oder deinen Assistenten losschickst, dann ist es schwerer, wobei natürlich die Werbung versuchen würde, die Agenten zu beeinflussen.
Also ich würde nicht per se davon ausgehen, dass Werbung unwirks.
Aber es hat sich in Studien gezeigt, dass KI-Agenten ganz viel auf falsche gesponserte Angebote und so reinfallen und dann Dinge auch zu teuer kaufen, weil es ihnen mit Werbung gut schmackhaft gemacht wird und so weiter.
Also vielleicht wird man einfach Angebote im weitesten Sinne für Agenten auch schaffen.
Aber klar, du hast recht.
Das Retail-Media-Modell ist erstmal bedroht.
Also dein Rumirren auf Amazon, bis du das Markenprodukt gefunden hast, über das man 20 chinesische Kopien gestellt hat und dabei viel Werbung geklickt hast, das trägt halt so ein Geschäftsmodell bei und das könnte dann eben weglaufen.
Ja, Amazon möchte halt auch das Interface bleiben.
Also es ist natürlich total logisch, dass Amazon die ganzen Agenten rausschmeißt, weil damit können sie...
glaube ich, Agentic Commerce sehr gut behindern, verlangsamen oder dafür sorgen, dass sie selber das Agentic Commerce leer werden.
Shopify als Konkurrent macht das komplette Gegenteil.
Also Shopify arbeitet zusammen mit Muse.
Die sind sozusagen der zweite große, wenn man so möchte, oder dritte, vierte, wenn man Walmart und so noch mit reinzieht.
Die sagen halt, für uns ist es eher eine Möglichkeit, Marktanteile zu gewinnen.
Und wir haben weniger zu verlieren, vermeintlich.
Ja, aber wäre ich Amazon, würde ich auch die Bots alle aussperren.
Weil die Wahrheit ist, man verzichtet auf genau null Umsatz damit.
Also seien wir mal ehrlich, es gibt ja keine GenteCommerce.
Also ich weiß nicht, wer davon immer halluziniert, um irgendwelche Software- und Agenturprojekte zu verkaufen.
Aber ihr könnt euch alle eure MCP bla bla bauen und so.
Aber du musst dich ja nur mal für ein Publikum stellen und sagen, wer hat gerade eine Agentic-Commerce-Strategie.
Dann gehen so ein Viertel der Hände hoch.
Wer hat schon was im Internet per Agent gekauft?
Dann steht keiner auf.
Aber wenn es so wäre, könnte Amazon das ja auch einfach laufen lassen.
Ich glaube schon.
Sie haben ein Interesse, das nicht zu fördern.
Also klar wird Agentic-Commerce irgendwann passieren.
Ich glaube trotzdem, dass es eine absolute Minderheits-Movement, wenn man so möchte, sein wird, was nur Nerds.
kann mir das nicht vorstellen.
Also 2030 weniger als 5% Agente Commerce im E-Commerce, bin ich mir relativ sicher.
Es sei denn, es wickeln sich ein paar Nischen-Use-Cases, die wir noch gar nicht kennen.
Aber das, was wir heute als E-Commerce verstehen, weniger als 5% Agente Commerce 2030.
Lasse ich mich gerne darauf festnageln.
Ich sage nicht, dass es unmöglich ist.
Es sei denn, wie gesagt, wenn Amazon jetzt Agente Commerce zum Default shiften würde, dann würde es von jetzt auf gleich 10% geben natürlich.
Das sehe ich aber nicht kommen.
Oder wenn, dann wäre es die einzige Möglichkeit.
Aber durch natürliche Durchdringung werden wir nicht auf mehr als 5% kommen.
Da bin ich mir relativ sicher, ehrlich gesagt.
Ja, ansonsten bei Metas Muse gibt es noch ein paar andere News.
Also es handelt sich dabei quasi um den Agenten, den Meta zur Verfügung gestellt hat.
Und zwar beschreibt jemand für das Magazin inc.com Jason Atten heißt der Schreiberling und er sagt Metas new Muse AI Agent read my private messages I never asked it to.
Also er hat einfach mal, um das zu testen, Muse auf seinem iPhone und seinem Mac, einem dafür vorbereiteten Mac, installiert.
Mit Muse geredet, er fand das soweit ganz gut, das Produkt erstmal.
Aber in einer Konversation, da ging es irgendwie darum, ob er ein neues iPhone kaufen soll oder nicht.
hat sich dann herausgestellt, dass Muse seine iMessages mitliest.
Also allein dadurch, dass es installiert war.
Also der Nutzer hatte hier keinerlei Bewusstsein, dass es irgendeine Freigabe erteilt hätte, außer dass es das eben auf dem iPhone und Mac installiert hatte.
Und auf einmal erinnerte Muse ihn an alte Konversationen aus iMessages mit Freunden, wo er sich schon mal zum Thema iPhone jetzt kaufen oder nicht geäußert hat.
Und das ist unter anderem deswegen relevant.
Also erstmal ist das eben...
Relativ überraschendes Verhalten für die meisten Leute, denen ist vielleicht nicht klar, dass alle ihre iMessages gelesen werden auf einmal von Meta.
Und wer weiß, was Meta noch alles damit macht mit den Daten.
Das andere Problem ist, dass der Muse-Agent schon alle möglichen Arten von Zero-Day-Exploits zeigt.
Also er ist quasi aus der Box oder vom Start weg angreifbar.
Er ist nicht sicher genug.
Also unter anderem können sich Angreifer zwischen der Kommunikation der Muse-App der Serverinstanz, die Meta dafür bereitstellt, sozusagen schieben und dabei Kommunikation abfangen.
Also das, was Muse eventuell in den Nachrichten gelesen hat, könnte im schlimmsten Fall auch, könnte ein Dritte lesen, weil es Sicherheitslücken gibt im Moment in MetaMuse, weil es wahrscheinlich ein bisschen mit heißer Nadel gestrickt ist oder von KI gebaut.
Wir wissen es nicht.
Also ich würde ehrlich gesagt starten heute sowieso noch kein Agenten, zumindest nicht auf meinem Hauptcomputer.
oder auf dem Computer, wo private Kommunikation läuft, setzen.
Wenn du so einen Arbeitstierrechner hast, dir so ein Mac Mini daneben stellst, auf dem du irgendwelche automatisierten Tasks machst oder irgendwie, sagen wir mal, von einer kleinen Firma den Posteingang erledigen lässt.
Aber ich würde nicht meine private E-Mail-Inbox und meine privaten Messages derzeit von KI bearbeiten lassen, ehrlich gesagt.
Ja, ich sehe es ähnlich.
Ich habe hier ein altes MacBook.
Da ist ein großer Aufkleber drauf, damit ich weiß, es ist das alte.
Und das...
Zeig mal kurz.
Das ist noch ein zweiter Aufkleber.
Das ist durchgestrichenes Pornhub drauf.
Genau der.
Und da habe ich zum einen eine andere Apple-ID drauf.
Da habe ich eine andere E-Mail-Adresse drauf.
Und da ist dann eine KI drauf, die Zugang zu allem hat.
Und damit spiele ich dann mit dem rum.
Ja, das ist...
Bis die beiden dann anfangen, miteinander zu reden.
Mal sehen.
Ja, über den Prozessor.
Genau.
Ach, deswegen hast du so aufmerksam zugehört, als ich das erzählt habe.
Du hast jetzt Angst, dass deine MacBooks über die Statusdiode hat MacBook gar nicht, ne?
Naja, hier gibt es kein Licht.
Aber guck mal, beim ThinkPad hast du ja dieses kleine rote Licht oben, das I.
Ist das das I vom Think?
Keine Ahnung, aber das leuchtet ja.
Und du könntest zum Beispiel Morsecode Statusdiode, könnte ein Computer drüber reden.
Würde ein bisschen dauern?
Aber so könnte man Dinge austauschen.
Was ich beim Muse spannend finde, das hätte ich in einem anderen Podcast gehört.
Und wäre wahrscheinlich höhere Datendurchsatzrate als Bluetooth immer noch.
Oder bessere Verbindung als Bluetooth immer noch über Dioden kommunizieren.
Wo wir gerade dabei sind, wollen wir noch kleine Nerd-News vorziehen.
Und zwar habe ich heute mit Faszination gelesen, dass GPT-6 Astra ein die über 100 Jahre unentschlüsseltes Rätsel gelöst haben.
Und zwar geht es um so eine kryptografische Nachricht, also eine verschlüsselte Nachricht aus den Endzügen des Ersten Weltkrieges.
Ich kann jetzt nicht erklären, wie der Schlüssel funktioniert, aber sagen wir mal so, es gibt ein Koordinatensystem, da sind alle Buchstaben, Alphabets und Zahlen eingetragen in eine 6x6 Matrix.
Und in dem Fall steht hier zum Beispiel vorne ADFGVX in beiden...
sowohl horizontal, ey, man kriegt das nicht erklärt.
Wir packen den Artikel in die Shownotes, da wird es sehr einfach verständlich, aber ist es verständlicherweise vollkommen, also und dann werden diese Zahlen noch verschoben um genau ein Wort, also es wird vor das Alphabet, das Alphabet steht da nicht A, B, C, D, E und bla bla bla, sondern es wird ein Wort vorgeschoben, in dem Fall hier Haus, das dann später aber nicht mehr vorkommt.
Also es geht dann weiter A, B, C, D, F, weil das E in Haus schon vorgezogen wurde.
Also ist es wirklich, wenn du den Code nicht hast, Ich würde behaupten, unheimlich schwer, das zu beschlüsseln, warum es 100 Jahre nicht entschlüsselt wurde.
Also man hat diese Nachricht abgefangen irgendwann mal und man wusste bis 2026 nicht, was darin verschlüsselt wurde.
Und GPT-6 Astra, ich erinnere an die Menschen, die das alles nur statistische Papageien genannt haben, hat es geschafft, diesen Code zu entschlüsseln.
Und es ist was, was du nirgendwo, also du konntest prinzipiell...
wie Dinge verschlüsselt wurden und was für Möglichkeiten es gibt.
Das konntest du lesen und dass es dieses ADFGVX-Modell gab, das war auch bekannt.
Aber du brauchtest nicht nur das Modell der Verschlüsselung.
Darauf hättest du von der Art der Nachricht relativ einfach sogar schließen können, weil nur die Buchstaben ADFGVX drin vorkommen in der Nachricht.
Das heißt, dass es solch ein Schlüssel ist, war klar.
Aber du brauchst dieses Wort, was das Alphabet verschiebt am Anfang und das war in dem Fall nämlich nicht Haus, sondern Truppenverschiebung.
Also ein viel komplexeres Wort, was den Schlüssel auch dann komplexer macht.
Und ich will nur sagen, es wäre mit aus dem Internet lernen oder so oder raten eigentlich nicht lösbar.
Was worin KI natürlich gut ist, ist, dass sie das mit Brute Force lösen können.
Also sie können unheimlich viel probieren.
Also du könntest sagen, hätten sich jetzt 10.000 Menschen damit fünf Jahre lang beschäftigt, hätte einer es durch Zufall vielleicht auch gefunden, wissend.
dass es so und so viele Codeworte gibt, die man hier voranstellen kann und dass es ein sogenannter ADE-FG-VX-Schlüssel ist.
Trotzdem ist es bisher niemandem gelungen und GPT-6 Astra hat es jetzt.
Was denkst du, was das so gebraucht hat?
Also so viel Strom wie eine kleine Gemeinde, mittelgroße Stadt?
Nee, glaube ich ehrlich gesagt nicht.
Also ich glaube, es wird so eine Art von Brute Force schon gewesen sein, also dass man einfach ganz viel rumprobiert.
Ich glaube nicht, dass man schließen konnte aus der Nachricht selber, sozusagen reverse-engineeren den Schlüssel, das halte ich für unmöglich, sondern es war wahrscheinlich eine hohe Zahl an Probieren oder Versuchen, die dazu geführt hat, so ein bisschen Brute-Force-Ansatz, aber schon krass.
Und das Modell hat dann selber seine Arbeit überprüft.
Also es war eine deutsche Nachricht und die Nachricht würde, wenn dieser Schlüssel richtig wäre, hätte die Nachricht folgenden Inhalt gehabt.
Ein englischer Kreuzer, ein Leak, Sevastopol, Dann S4STEN, ein Geschwader der Alliierten folgt am 26.
Also es könnte eventuell ein Fehler hier drin auch gewesen sein.
Oder in Englisch hätte man es übersetzt.
In Englisch, Cruiser arrived at Sevastopol on the 25th and an Allied squadron follows on the 26th.
Und das Modell hat dann überprüft, so mit alten Logbucheintragen trägen.
Es war tatsächlich so, dass ein englischer Kreuzer in Sevastopol gelandet ist am 24.
und ein alliiertes Schwadron.
am 26.
gefolgt ist darauf.
Ja, ich weiß, vielleicht ist es auch nicht so faszinierend, wie ich finde, aber ich fand es beeindruckend.
Also das Rätsel kommt übrigens von scienceblogs.de, wo 50 bisher ungeklärte, also es gibt sicherlich mehr, aber auf diesem scienceblogs.de gibt es 50 bisher ungeklärte Rätsel, teilweise aus dem Mittelalter und Älter noch, die wir bis heute nicht entschlüsseln können, aber eins mindestens von diesen hat.
GPT-6 Astra jetzt entschlüsselt.
Der andere Podcast-Host ist jetzt gerade wieder aufgewacht und würde gerne nochmal kurz über Muse reden.
Okay.
Bei Muse habe ich gehört in einem Podcast, dass man gar nicht fragen kann oder eine Antwort bekommt, hey Muse, erzähl mir mal alles, was du über mich weißt.
Also das Feature, was ich eigentlich erwarte von meinen ganzen Facebook- und Instagram-Posts und Daten und so, das möchte ich doch eigentlich am ersten haben.
Na dann sofort GDPR-Request hinterher.
Du kannst die Herausgabe deiner Daten ja verlangen von Meta.
Also schreibst einen Brief an Meta, sagst, du möchtest wissen, was die EUs über dich gespeichert hat.
Also müsste eigentlich möglich sein, sofern das in der EU ist.
Dürfen wir das in der EU schon nutzen?
Nein, nein.
Aber hat Kalifornien ja nicht ähnliche Datenschutzrechte?
Ja, aber ich will ja mit meiner Vergangenheit chatten und dann so ein bisschen fragen, was wäre, wenn, wenn ich den Post nicht gemacht hätte.
Zum Beispiel.
Nee?
Egal.
Egal.
Lass uns über Anthropic und OpenAI reden.
Erzähl erstmal die Geschichte.
Okay.
Also wir haben ja letztes Mal versucht, so ein bisschen dunkel ins Licht zu bringen.
Ein bisschen Licht ins Dunkel zu bringen über diese ganze Regulierungsdebatte und wer da mit wem schon vorher paktiert hat und wer dagegen lobbyiert hat bei Trump und so weiter.
Und die Information hat jetzt noch ein ganz spannendes Detail ausgegraben.
Und zwar berichten die exklusiv, dass OpenAI und Entropic wohl Wochen vor dieser Diskussion sich schon in Verhandlungen befunden haben sollen.
Also nochmal, das sind die zwei Typen, die sich auf der Bühne nicht die Hand reichen wollten oder konnten, die jetzt miteinander paktieren, nicht nur was Regulierung angeht, sondern die sich gegenseitiger Kontrolle unterwerfen wollten.
Also sie haben an einer Vereinbarung gearbeitet, die bindend wäre für beide.
wonach man gegenseitig die Modelle testet, voneinander, also auf Sicherheit vor allen Dingen testet.
Was natürlich ein interessanter Fakt wäre, weil das für relativ verantwortliches Handeln und ich will es nicht selbstlos nennen, das hat natürlich auch Vorteile, einfach die Gegenseite testen zu lassen.
Aber das spricht jetzt fast ein bisschen dagegen, dass man nur aus...
sagen opportunistischen Gründen, die Regulierung möchte, sondern das spricht jetzt eher dafür, dass man zuvor auch schon überzeugt war von einem Risiko und da erstaunlicherweise miteinander kooperiert hat, um dessen besser Herr zu werden, was ja prinzipiell wünschenswertes Verhalten wäre.
Ich würde die Möglichkeit nicht ausschließen, dass man diese Story mit Absicht hat durchsickern lassen.
um sich selber Kredibilität zu kaufen.
Das sollten wir jetzt nicht ausschließen.
Wäre das alles so wahr, dann wäre das natürlich ein Zeichen von tendenziell eher verantwortlichem Handeln, würde ich sagen.
Kann natürlich auch sein, dass man es jetzt mit Absicht hat, so ein bisschen durchsickern lassen, um sich den Anschein zu geben, dass man sowieso schon an Regulierungsbestrebungen selber gearbeitet hat und das nicht nur neuerdings wegen der Sicherheitsvorfälle sich damit beschäftigt.
Das Witzigste an der News ist, dass sie ja das machen, was Elon Musk auf dem Summit da vorgeschlagen hat.
Ja, vielleicht wäre der auch nur bockig, weil er nicht mitmachen durfte.
Genau, zurück zum KIKG, also im Kindergarten, dass eine Kind verpetzt, weil es nicht mitspielen durfte.
Mag sein, ja, hast du gesagt.
Apropos, nicht mitspielen durf, ist hier im Trello gar nicht drin, weil es relativ frisch ist, aber...
XAI oder Space XAI hat GROC 4.7 rausgebracht, was ja ein wahnsinnig gutes Modell werden sollte, wenn man Elon Musk glauben kann.
Wir wissen, dass GROC 5 die AGI werden wird.
Darunter macht man es nicht.
Also sobald GROC 5 draußen ist, haben wir AGI laut Elon Musk.
GROC 4.7 ist eine der logischen Vorstufen dazu natürlich.
Performance tatsächlich nochmal verbessert im Vergleich zu GROC 4.6.
Und zwar hat man in dem Artificial Analysis Intelligence Index, den ich oft zitiere, jetzt von 44 auf 46 Punkte sich verbessert.
Das ist nochmal eine deutliche Steigerung, könnte man sagen.
Das Problem ist, dass Entropic und OpenAI inzwischen bei 53 sind.
Also man ist so 6, 7 Plätze hinter den sechs besten Modellen.
Selbst MuseSpark, also das Metamodell, ist besser als Grog.
Das heißt, das ist eigentlich ein Modell, was man nicht hätte rausbringen müssen.
Jetzt kann man sagen, es hat trotzdem Vorteile, es rauszubringen, weil zum Beispiel die Grog-Bots, die viele relativ erfolgreich nutzen, natürlich dadurch besser werden.
Also man muss trotzdem bessere Modelle rausbringen, aber man hat es damit jetzt nicht geschafft, irgendwie eins der wirklich guten Modelle zu verdrängen oder einen wirklichen Durchbruch zu erreichen.
Aber man ist jetzt auch nicht weit abgeschlagen.
Also man bewegt sich so irgendwo zwischen Alibaba und Meta.
Beziehungsweise es gibt noch ein neues Modell, gerade von Xiaomi.
Das hat lustigerweise auch die gleiche Performance, nämlich 47, erreicht.
Also die Firma, die unsere Staubsauger und Ventilatoren herstellt, hat ein besseres KI-Modell als Elon Musk gebaut.
Ja, Xiaomi Mimo heißt das.
Sekunde, wo habe ich es?
Wir machen heute hier alles durcheinander an Bord.
Schöne Übung für Flexibilität im Kopf.
Wo habe ich es denn?
Da.
Und zwar VentureBeat schreibt, Better than Deep Seek, Xiaomi's Mimo 2.6 Pro, Debus as the top Openweights Model.
Also es ist das beste Openweights Model derzeit.
Mimo 2.6, wie gesagt, es kommt von Xiaomi, die normalerweise Auto, Telefone und keine Ahnung, wirklich fast alles bauen.
Also ein Konsumgüterkonzern aus den USA oder ein Elektronikkonzern aus den USA, sage ich schon China natürlich.
Und das Modell ist, wie gesagt, das beste Open-Source-Modell.
Es schlägt Grog 4.6 und Gemini 3.8 Flash und kommt auf die gleiche Performance wie Grog 4.7, schreibt VentureBeat oder analysiert Artificial Analysis dazu.
Schon crazy, dass die Modelle eigentlich alle gleich sind.
Und ist unschlagbar günstig natürlich auch.
Es hat noch eine Flash-Variante, die noch günstiger ist, aber selbst das Grundmodell ist schon relativ günstig.
Auch wieder.
So, wir bleiben noch ein bisschen bei Sicherheit.
Und zwar hat Entropic sein eigenes Modell der Selbstverpflichtung schon ein bisschen umgesetzt.
Und wer macht die Drecksarbeit?
Wie immer, Accenture.
Das heißt, Entropic hat gesagt, ich habe so eine Zahl im Kopf.
Ist die hier?
Milliarde.
Ich habe so die Zahl im Kopf, dass sie bis zu zwei Milliarden dafür ausgeben wollen in nächster Zeit.
Aber steht hier nicht im Artikel?
Sekunde, ich muss das mal recherchieren, ob ich das geträumt habe.
Nee, ich meine eine Milliarde und das wäre ungefähr so viel, wie sie die Firma gekauft haben.
Also Accenture hat eine Firma gekauft, die macht jetzt die ganze Arbeit.
Ja, eine Milliarde Deal.
Genau, also eine Milliarde werden sie ausgeben mit Accenture, damit Accenture als in Anführungsstrichen unabhängige dritte Instanz die Sicherheit mittestet.
Accenture macht unter anderem auch die Content, oder hat in der Vergangenheit, ich weiß nicht, was derzeit der Start ist, aber hat in der Vergangenheit haben Accenture Tagelöhner auch die Content-Moderationen für Meta und sowas gemacht.
Also Accenture ist einerseits vielleicht nicht die am besten Beläumteste, aber eine Unternehmensberatung, die viel Leiharbeit anbietet, wenn man so möchte.
Aber macht auch immer wieder so Jobs einfach, die Firmen oder wofür Leute, wofür Firmen.
keine eigenen Leute beschäftigen wollen.
Diese eine Milliarde muss man jetzt verstehen, das ist wahrscheinlich über mehrere Jahre.
Das ist jetzt nicht so, Entropic zahlt dieses Jahr eine Milliarde, sondern ich gehe davon aus, dass das wieder über die gesamte Laufzeit der Zusammenarbeit ist und dementsprechend gestreckt.
Deswegen muss man mit der Zahl ein bisschen aufpassen.
Die Accenture-Aktie hat es erstmal gut getan, ist direkt 7% gestiegen.
Danach, weil man vielleicht hofft, dass Accenture das für andere Firmen auch tun könnte, könnte ich mir vorstellen.
Dann wäre es ein Geschäft, was Accenture dringend braucht.
Das Lustige ist, dass Accenture auch die Firma ist, die als erstes eigentlich begonnen hat, KI massenhaft, sozusagen KI-Schulung und Führerschein und was weiß ich an irgendwelche Unternehmen zu verkaufen.
Und jetzt passen sie darauf, verdienen sie Geld damit, aufzupassen, dass die KI nicht zu schädlich wird oder die Sicherheitsrisiken mit einzuhegen, zusammen mit Entropic.
Könnte das auch richtig nach hinten losgehen?
Also so Wirecard EY-mäßig?
Inwiefern?
Was siehst du da als konkretes Risiko?
Naja, wenn das halt nicht sicher ist und man so sagt, ja, wir haben das alles kontrolliert.
Müsste man jetzt die Verträge kennen, aber wenn sie dafür haften würden, das wäre natürlich interessant.
Also wenn, wir haben ja über die Haftungsfrage geredet, die Personen, die wir jetzt nicht genannt haben, wir haben gesagt, der Anwender könnte schuld sein, der Modelbetreiber, das Datacenter.
Was ist mit dem Auditor?
Also wenn der TÜV gesagt hat, das hier ist sicher und dann passiert was, das wäre natürlich interessant.
Wenn ein Topic damit die Haftung, also wenn man die Milliarde gar nicht zahlt für die Dienstleistung, sondern um die Haftung zu teilen.
Also so eine Art Bad Bank für Haftung.
Da schließt sich jetzt ein Thema an, was wir, jetzt müssen wir eine andere Nachricht vorziehen.
Geil, wie sich die Reihenfolge komplett endet.
Wir haben alles schön.
Richtige Dynamik hier bei Folge 5.9.
Du kannst dein Cloth-Skript sofort wieder wegschmeißen, musst dir neue Fragen ausdenken.
Und zwar ...
wurde mir hier von Patrick noch zugeschickt, schöne Grüße, ganz frisch von LinkedIn, dass unser verhaltensauffälliger Lieblings-CEO Alex Karp sich mal wieder zu KI geäußert hat.
Und zwar scheint der Doppelgänger zu hören und ist jetzt zu der Überzeugung gekommen, dass OpenAI niemals ein IPO machen wird.
Die Begründung ist allerdings eine andere als die für meine Hypothese.
Wobei ich das ja inzwischen schon moderiert habe.
Also ich würde sagen, OpenAI ist inzwischen schon wieder auf dem Weg, zumindest IPO-ready zu werden.
So schlecht sieht es gar nicht mehr aus.
Wenn man sich die Adoption-Zahlen für die neuen Modelle ansieht, dann kann man da durchaus Hoffnung schöpfen.
Alex K.
breitet jetzt aber auf CNBC wieder sein Lieblingsnarrativ, nämlich, dass diese Modellbetreiber einfach so hohe Haftungsrisiken auf sich vereinen, dass sie deswegen niemals an die Börse gehen können.
weil sie eben IP entlehnen, also dass sie Inhalte klauen, dass sie eventuell Prozesse von Unternehmen klauen, Daten, die sie gar nicht haben dürften, dabei ansammeln, plus eventuelle Haftungen für andere Risiken, also wenn die KI Schaden anrichtet und so weiter.
Und das wäre einfach quasi eine Liability, eine Haftungsfrage oder eine Schuld, die dazu führt, dass die Firma unmöglich quasi zu bepreisen wäre, egal wie viel sie verdient.
Der mögliche Schadenersatz, den man irgendwann zahlen müsste, macht es unmöglich.
an die Börse zu gehen.
Ist zumindest seine Unterstellung.
Er bringt das wildgestikulierend wie immer herüber.
Wir packen auch das in die Shownotes.
Und er sagt, deswegen wird man OpenAI nationalisen.
Also, wie sagt man schön in Berliner Deutsch?
Vergesellschaften.
Um nämlich die Haftungsrisiken.
Die Linke klatscht schon.
Die Linke und der Remmo-Clan klatschen schon.
Endlich wird was vergesellschaftet.
Um die Haftungsrisiken zu solidarisieren, würde man OpenAI vergesellschaften.
Das wäre die einzige Möglichkeit, die Firma zu retten.
Weil ansonsten, egal wie viel Umsatz und Ertrag sie irgendwann mal in der Zukunft macht, die Risiken überwiegen hier die Chancen.
Das ist zumindest die Meinung von Alex Karp, der hier natürlich auch sein eigenes Buch redet oder seine eigene Narrative weiterverbreitet.
Ich würde es nicht ganz so...
Also ich glaube, es ist dann viel einfacher für die KI-Labore mit der Trump-Administration ein Deal zu finden, dass ihre Haftungsrisiken beschränkt werden oder die Haftung an jemand anders auszulagern.
Aber das Interessante ist, dass das natürlich eine spannende Analogie zur Atomkraft ist.
Also wir vergleichen KI ja ganz oft mit Atomkraft, gerade was Gefahren und so angeht.
Und man könnte jetzt argumentieren, dass KI auch so eine Technologie wie Atomkraft wird, die eigentlich niemand betreiben möchte, es sei denn, der Staat haftet für die Risiken.
Also es wird ja niemand...
Keine private Organisation würde freiwillig ein Atomkraftwerk gerade betreiben, in Deutschland zumindest.
Weil wenn das dann doch mal schief geht, kleines Risiko, aber Naturgewalten, man weiß es nicht, Anschlag von außen, pipapo.
Wenn das schief geht, dann wäre das mit an Sicherheit grenzender Wahrscheinlichkeit das Ende der Firma und aller Investoren und so weiter.
Und deswegen muss der Staat dafür bürgen, wenn man das überhaupt betreibt.
Und die Frage ist, ob man für KI ähnliche Möglichkeiten finden wird.
Ich bin mir sicher, dass ein Teil der Regulierung, die man anstrebt, eigentlich ist, dass man die eigene Haftbarkeit reduzieren möchte für solche.
Also was ist, wenn jemand wirklich furchtbare Dinge tut mit unserer KI?
Dann möchte man sicherlich, dass das Individuum schuld ist und nicht die KI am Ende.
Genau, insofern ist es vielleicht auch eine ganz spannende Debatte.
Kurze Werbeunterbrechung.
Wenn du die üblichen KI-Modelle beruflich oder privat nutzt, ist es für die Anbieter technisch möglich, deine Eingaben zu sehen.
Mit dem Dienst Private Mode AI aus Deutschland gibt es nun eine sichere Alternative.
Private Mode nutzt eine Technologie namens Confidential Computing und ist so gebaut, dass niemand an deine Daten kommt.
Nicht mal die Leute bei Private Mode selbst.
Nvidia nennt Private Mode das erste KI-Framework, bei denen Prompts durchgängig verschlüsselt bleiben.
Damit geht alles, was bisher vielleicht zu heikel war.
Verträge prüfen, Kundendaten analysieren und mit KI an sensiblem Source-Code arbeiten.
Private Mode gibt es als Chat im Browser oder per OpenAI-kompatibler API im Tool deiner Wahl.
Mit KI-Modellen wie Kimi, GLM und Co.
Zu den Kunden von Private Mode gehören Capgemini, die Stadt München und der Medizinsoftware-Hersteller-ID.
Wenn du sichere KI von Private Mode ausprobieren möchtest, gehe jetzt auf private-mode.ai.doppel und erhalte doppeltes kostenloses Nutzungsvolumen.
Also auf zu private-mode.ai.doppel und viel Spaß mit der weiteren Folge.
Werbung Ende.
So, dann wieder weiter im Skript.
Wir haben bei Politik, dann machen wir Trump weiter, oder?
Genau, unser Stable Genius hat seine ganz eigene KI-Agenda und zwar während alle darüber diskutieren, KI zu regulieren.
Er hat uns ja schon erklärt, dass man das nicht tun müsste, sondern Vollgas voraus.
Alles, was wir brauchen, ist ein High IQ President.
Der ist regulativ genug für KI.
Der möchte jetzt die AI-Force gründen als fünfte Waffengattung, ist das dann wahrscheinlich der US Armed Forces.
Also es gibt ja schon eine Space Force.
Markus Söder.
schad schon mit den Füßen und will die bayerische AI-Force aufbauen.
Schauen Sie.
Die US-AI-Force wird natürlich auch wieder ein KI-Zar bekommen.
Da kannst du jetzt raten, wer das sein könnte.
Aber es geht darum, du hast die klassischen Truppengattungen irgendwie, Herr Marine, Air Force, Luftwaffe.
Dann gibt es eben eine Space Force, die den Krieg im Weltraum eventuell überschauen soll oder dirigieren soll.
Und jetzt will man die AI-Capabilities.
Bündeln der verschiedenen Truppengatten, so eine Art, ja, wie soll man sagen, so ein Joint Command bauen für AI.
Und irgendjemand muss ihm natürlich auch vorstehen.
Wer wird's, sagst du?
Der Schwiegersohn.
Jared?
Na klar.
Nein.
Der kann Peace in Middle East, der macht das.
Nein.
100 pro.
Fünfer Schnellwette?
Er ist schlau.
Sieht gut aus.
Mein Number One Pick wäre eigentlich Emil Michael, der Stressor vom Pentagon, der Entropic immer fertig macht.
Wenn der das wird, wäre es für Entropic natürlich wirklich übel.
Ansonsten oder einer von den ganzen Andreessen Guys hier, Sriram Krishnan, der war schon Advisor, oder Scott Cooper oder Marc Andreessen selber, wer weiß.
Marc Andreessen könnte es nicht.
Also der könnte das, aber der wird sich die Zeit nicht nehmen dafür, nehme ich an.
Oder Alex K.
Ganz sicher nicht.
Also wir sagen Emil Michael oder Chachibiti, mein Schamad Paliapathia wird es.
Aber ich würde nichts ausschließen.
Also in den USA ist es, also unter Trump würde ich sagen, einfach mal haben, gibt es da nicht.
Da würden mich jetzt die Prediction Markets interessieren, ehrlich gesagt.
Wen die?
Joe Lonsdale.
Ja, Joe Lonsdale, also vielleicht nicht Alex Karp, aber Joe Lonsdale, der andere Patentier-Founder.
Der ist im richtigen Lager definitiv, würde ich auch noch sagen.
Machen wir mit Polymarket weiter.
Jetzt hast du wieder was hochgezogen hier aus der Schmuddelecke.
Und zwar berichtet unter anderem The Wall Street Journal, dass Polymarket natürlich alle möglichen Probleme hat, aber ein sehr spezifisches.
Und zwar soll einer der Payment-Prozessoren, also die quasi die Kartenakzeptanz regeln für Polymarket.
Rejection Rates von bis zu 80% haben.
Was ein Indiz dafür ist, dass höchstwahrscheinlich unheimlich viele Leute versuchen, gestohlene Kreditkarten über Polymarket zu waschen.
Also es wäre halt eine Möglichkeit über die On-Ramp quasi.
Also du handelst bei Polymarket ja mit, ist es immer noch Polygon?
Weiß ich gar nicht.
Aber mit einem Kryptocoin und einer Kryptowährung und Dafür brauchst du halt einen On-Ramp, das heißt irgendeinen Anbieter, der dir von der Kreditkarte da die entsprechende Währung baut.
Und wenn ich dann zum Beispiel auf was wette, ich könnte im Zweifel einfach beide Seiten des Trades nehmen, dann habe ich immerhin 50% des Geldes, nee, habe ich nur den Bankshare, also nur 2-3% verloren.
Oder ich glaube sogar ein bisschen weniger bei Polymarket.
Das heißt, ich nehme beide Seiten einer Wette.
Falls das geht, weiß ich nicht.
Aber man kann auch andere Wettpaare finden, die sich gegenseitig so ein bisschen ausschließen sonst.
Und dann könntest du quasi 99% des Geldes aus der geklauten Kreditkarte rausholen.
Also geklaute Kreditkarten zu bekommen, ist eine Sache.
Das ist gar nicht so schwer, geklaute Kreditkartennummern zu bekommen.
Aber wie du das dann in Geld verwandelst, ohne dich dabei, also du kannst ja nicht zum Automaten gehen, weil dann wirst du gefilmt.
Das heißt, beim Automaten würdest du 100% der Summe bekommen, wirst aber gefilmt, hohes Risiko und so weiter.
Irgendwelche Gutscheine online kaufen wäre praktisch, wenn es möglich ist, die rein digital verschickt werden.
Das ist eine Möglichkeit.
Man sucht immer Möglichkeiten, wie man möglichst hohen Prozentzahl des Geldes dann wirklich in echtes Geld umwandeln kann, was man wirklich auszahlen kann.
Und da bieten Wettmärkte natürlich eine spannende Möglichkeit.
Also du kannst einfach...
wild probieren, irgendwelche Kreditkarten, also ob die Nummern noch funktionieren und du sie bestehlen kannst.
Und am Ende kannst du das Geld als Kryptowährung rausholen und irgendeine Kryptobörse finden, die dir quasi eine Off-Ramp bietet, um dann das wieder ein echtes Geld umzutauschen.
Und da scheint relativ viel zu passieren.
Also man muss sich jetzt fragen, wie viel das Umsatz ist von Polymarket basiert eigentlich auf diese Form der Geldwäsche.
kriminelle Handlungen versucht werden, zu sauberem Geld zu machen.
Also normal sind so Rejection Rates von 1%, schreibt das Wall Street Journal.
80% ist exorbitant hoch, was dafür spricht, dass Leute wirklich einfach massenhaft so brute force mäßig versuchen, da gestohlene Kreditkarten aus dem Internet zu monetarisieren mithilfe von Polymarket.
Und das Interessante ist, dass der CEO seine Leute wohl angewiesen haben soll, da mehr oder weniger wegzuschauen oder dass laufen zu lassen.
Er würde die Haftung dafür übernehmen oder sich später um die Strafen kümmern, aber er hat sie letztlich damit motiviert, eventuell selber strafbare Handlungen zu begehen.
Meine Polymarket-News der Woche ist, dass LeBron James, der Basketballer, für die Werbung macht.
Das finde ich schon krass.
Schneller kannst du dir eine Legacy ja nicht kaputt machen.
Ja, die Frage ist, hätte er früher nicht für ein Wettbüro Werbung gemacht?
Weiß ich nicht.
Zahlt viel Geld, um das da geht.
Du siehst nur ein Weg, um auf Sydney's Wiener zu kommen, aber da falle ich natürlich nicht rein.
Stattdessen machen wir weiter mit harter Technologie.
Ne, was haben wir hier denn noch?
Wall Street Journal schreibt außerdem, dass Entropic den IPO jetzt bis November sogar verschiebt.
Also nicht nur Oktober, sondern es könnte sogar November sein.
Ich muss hier immer länger auf mein Geld warten, das ist Frechheit.
Ansonsten nicht viele neue substanzielle Fakten.
Bei der Financial Times gibt es auch einen skeptischen Artikel, was das Revenue angeht.
Das könnte wegbrechen, insbesondere auch, weil OpenAI wieder Marktanteile gewinnt und natürlich die Open-Source-Bedrohung lauert.
Auch da aber keine großen neuen Fakten drin, sondern eher Meinung.
Deswegen erwähnen wir es hier nur.
Dann ganz spannend, was eine neue Zahl ist aus der Financial Times ist, die haben mal versucht, die Garantien, die Big Tech abgibt, um dieses Off-Balance-Sheet-Financing zu machen, zu beziffern und sind da auf den Wert von 300 Milliarden gekommen.
Also allen voran Nvidia, aber auch Meta, Broadcom und andere vergeben halt mehr und mehr diese Backstops oder Garantien, also man nennt das Residual Value Guarantees, das heißt quasi, sollte das Datacenter, was ihr für uns baut und betreibt, nicht ausgelastet werden, übernehmen wir die Kosten der Nichtauslastung.
Und dadurch wird der Wert quasi der Residual Value hochgehalten.
Also es ist so ein bisschen, als wenn du sagst, du verkaufst jemandem ein Wohnhaus, also bevor es enteignet wird, aber du verkaufst jemandem ein Wohnhaus, Und sollten Mieter ausziehen und du Leerstand haben, dann kommt der Verkäufer für diesen Leerstand auf.
Das ist, glaube ich, die einfachste Erklärung.
Dafür das Gleiche machen die Tech-Konzerne.
Sie machen das, damit sie selber die Schulden aus diesem Data-Center-Bau nicht auf der Bilanz haben, auf dem Balance-Sheet.
Deswegen heißt es auf Balance-Sheet-Financing.
Das heißt, es wird eine Zweckgesellschaft gegründet, die das Data-Center baut und betreibt.
und die Rechenzeit vermietet an das jeweilige Big-Tech-Unternehmen, während das Big-Tech-Unternehmen, damit diese Betreibergesellschaft überhaupt finanzierbar wird, eben Garantien ausspricht.
Die Garantien dienen dazu, dass die Investoren in die Betreibergesellschaft, in das Data Center, die die Schulden finanzieren.
das Vertrauen haben, dass sie ihr Geld auch zurückbekommen.
Ansonsten würde man das ja nicht bei so einer Zweckgesellschaft.
Die könnte ja pleite gehen jeden Tag und dann müsste sie sich sehr teuer verschulden.
Dadurch, dass es diese Garantien gibt, kann man sich günstiger verschulden.
Dadurch erscheint es aber nicht auf der offiziellen Bilanz dieser Firmen in aller Regel.
Und das Volumen schätzt die Financial Times auf inzwischen 300 Milliarden, die da quasi verbürgt werden, wenn man so möchte.
So, jetzt kommen die ganzen Nachrichten, die wir schon vorgezogen haben.
Was haben wir denn hier noch?
Was bleibt da noch übrig?
Aus der Schmuddelecke.
Donald Trump schmeißt CNN, MS Now und Politico aus dem Weißen Haus.
CNN, MS Now wahrscheinlich aus amerikanischer Sicht relativ links einzuordnende Medien.
Politico dem Anschein nach auch.
Die haben in der Vergangenheit wohl zu kritische Fragen gestellt und verlieren daher den Zugang zum Weißen Haus.
Das heißt, die können bei Pressekonferenzen und so weiter nicht zugegen sein, was natürlich eine Einschränkung der Pressefreiheit im weitesten Sinne ist.
Also nicht, wenn man die Verbreitung der Presseprodukte einschränkt, sondern den Zugang zur Information.
Und man kann ja auch dazu ziehen, dass Trump ja inzwischen die Informationen...
ein Premium-Feed verkauft über True Social.
Das ist ja schon die erste Einschränkung, dass man bezahlen muss, wenn man als Erster die Informationen bekommen möchte, die aus dem Weißen Haus vom Klo getwittert werden.
Und jetzt ist eben so, dass einzelne Medien, die ja natürlich die sind, die im Zweifel eher kritischer berichtet haben, über Trump rausgeschmissen werden und den Zugang verlieren.
Interessant ist natürlich, dass Politico ja seit längerem schon zum Springer Verlag gehört.
Vorsitzende, der Vorstandsvorsitzende des Springer Verlags dafür bekannt ist, dass er sich ja unbedingt eine zweite Trump-Amtzeit gewünscht hat und da ganz fest die Daumen gerückt hat und ich würde sagen, ich weiß nicht, ob er ein großer Trump-Fan ist, aber er schien das für eine gute Idee zu halten, wenn Trump gewinnt und dass jetzt sein Medium da zuerst oder als eines der ersten rausfliegt, entbehrt natürlich nicht einer gewissen Komik, wenn man das, also wenn einem das Lachen nicht im heiße Steckenbleib.
Also die Presse darf nicht mehr rein.
Dafür durften die Influencer Jake und Logan Paul ins Pentagon und den Truppen irgendwie eine kleine Rede halten.
Ich hab dir gerade ein Foto geschickt.
Du kannst dir nicht...
Wie hieß dieser Film, wo alles verrückt war?
Idiocracy oder sowas?
Idiocracy?
Ja, also...
Hat man schon bei der ersten Amtszeit gedacht, ist jetzt noch schlimmer.
Auch das Lachen könnte im Hase stecken.
Wurde in Sachsen-Anhalt nicht auch diskutiert, irgend so einen Finfluencer eventuell zum Finanzminister zu machen oder so?
Also ich wäre mir nicht sicher, dass wir in Deutschland, also wenn du siehst, was da teilweise für Leute auf den Wahllisten stehen und welche da teilweise diskutiert werden, irgendwelche Posten zu bekommen.
Wir werden sehen.
Wir werden sehen.
Ich will es nicht sehen.
Ad-Tech-Aktien wird Digitalminister von Sachsen-Anhalt.
Sehr schön.
Wo wir gerade bei Russland sind.
Aber ich habe...
Ich weiß gar nicht mehr, wo ich es gelesen habe, aber der Dienst NewsGuard.ai ist in Europa gestartet.
Also der war schon vorher live, aber jetzt ist er auch in Europa live.
Und zwar, was NewsGuard.ai macht, ist, sich quasi ausschließlich aus vertrauenswürdigen Quellen oder die, die sie für vertrauenswürdig halten, zu informieren und damit so eine Art Live-Fact-Checking-Kollektiv, natürlich hauptsächlich von KI getrieben, zu bauen.
Also kann man sich mal angucken, newsguard.ai, finde ich ganz spannendes Produkt, wenn man sich nicht ganz sicher ist, ob eine Nachricht war es oder nicht, sollte man das immer damit überbriefen.
Und was ich dadurch Zufall gefunden habe beim Stöbern, ist, und zwar berichten die, dass Russland gerade wieder eine Desinformationskampagne startet, also vor den Midterm-Wahlen in den USA, in der sie ja, Celebrities, bekannte Menschen wie unter anderem Robert De Niro, Ben Affleck, Warren Beatty, Jamie Lee Curtis, Robert De Niro, Jennifer Lopez, Cynthia Nixon, Sigourney Weaver und so weiter.
Also ich würde sagen, auch Leute, die eine eher anfällige Generation ansprechen für Desinformation, die ...
schildern dann in gefakten Videos, dass sie bereuen, dass ihre Kinder ihr Geschlecht gewechselt haben.
Also es richtet sich wieder natürlich über das Thema Transgender-Politik.
Aber es geht hauptsächlich darum, quasi die demokratische Partei zu verunglimpfen, beziehungsweise Menschen dagegen aufzuwiegeln.
Also durch die Kombination von Fake-KI-Inhalten mit US-Celebrities, die eventuell das Vertrauen dieser Generation genießen, versucht man quasi die Leute aufzuhetzen.
So wird es hier zumindest eingeordnet und das kommt, man hat das auf Russland zurückgeführt, was natürlich zeigt, welcher Partei Russland nahesteht oder welcher Administration, also dass man versucht Trump im Amt zu halten und mit Macht zu versorgen.
Vielleicht auch nicht überraschend, aus zweierlei Gründen, entweder weil man Trump besonders gut unter Kontrolle hat oder weil man glaubt, dass die Zerstörungskraft von Trump für das US-System und das Vertrauen in Politik und Wirtschaft am höchsten ist, weil das kompromittiert er ja sehr aktiv.
Und als weiterführenden Link habe ich dann eine weitere Kampagne gefunden, ganz ähnlicher Natur, und zwar aus dem deutschen Vorfeld der Landtagswahlen.
berichten die, dass es auch hier russische Kampagnen gibt, die unter anderem behaupten mit falschen Inhalten.
Also man nutzt in dem Fall hier nicht Celebrities, sondern Medien, die ein gewisses Vertrauen genießen.
Also es werden so Artikel von der FAZ-Welt, Deutsche Welle und so weiter oder MDR gefegt.
Also man nutzt quasi das Vertrauen dieser Medienmarken.
um dann falsche News zu verbreiten, wie zum Beispiel, dass die SPD Gefangenen und natürlich auch wieder Arbeitslosen, Ausländer und worauf man noch Hass projizieren möchte, Gefangenen Straferleichterungen oder Strafverkürzungen angeboten hätte, wenn sie die SPD wählen würden.
Das ist, wie gesagt, eine Desinformationskampagne, aber auch hier wieder aus Russland gesteuert und vollkommen klar, welche Partei sich Russland in Deutschland an der macht.
wünscht aus, ich glaube, am Ende den gleichen Gründen wie in den USA.
Also dass man vermeintlich entweder die Leute besser kontrollieren kann oder auf die destruktive und vertrauenszersetzende Kraft dieser Partei setzt.
Links packen wir in die Shownotes.
Genau, und vielleicht mal einen Newsguard anschauen.
Also gerade wenn man sich nicht ganz sicher ist, ob irgendeine News stimmt, kann man sie einfach da reinpasten oder danach fragen und bekommt eine gute Einordnung auf Basis von vertrauenswürdigen Medien.
In diesem Sinne, habt einen schönen Mittwoch.
Wir hören uns wieder am Samstag.
Bis dann.
Peace.
Ciao, ciao.
Der Doppelgänger Tech Talk Podcast ist ein Projekt von Philipp Klöckner und Philipp Klöckler.
Recherchiert von uns und produziert von Jan aus dem Off.
Weiter diskutieren kannst du in unserer Doppelgänger Discord Community.
Fragen und Anfragen kannst du uns gerne per Mail an podcast.doppelgänger.io schicken.
Unsere aktuellen Werbepartner findest du in unseren Shownotes.
Vielen Dank für deine Zeit und bis Samstag.