# AI Security Risks and European Tech Sovereignty

**Podcast:** Die Nerd Show
**Published:** 2026-10-23

## Transcript

Einen wunderschönen guten Tag, liebe Nerdshow-Freunde.
Es ist wieder soweit.
Ich bin hier mit verschiedenen wunderbaren Herren, dem Sebastian, dem Manon und dem Carlo.
Und für die, die es auf Video gucken, das Bild hinter Carlo ist echt.
Die erste Frage, die wir hatten.
Carlo, musst du das wissen, wie du bist und warum es echt ist.
Und warum du so ein geiles Hintergrundbild hast.
Ich bin im Haus in Thailand.
Flattered.
Absolut.
Also ich sitze hier bei 30 Grad in Koh Lanta im Süden von Thailand, Krabi, kurz vor der malaysischen Grenze.
Und es ist eigentlich Regenzeit, aber weil wir gerade El Nino haben, ist die Regenzeit, wie ihr seht, ziemlich trocken.
Wobei ich hatte vor zwei Tagen das Unwetter, das Herren.
Unglaublich.
Wirklich.
Also da hier hinter mir fünf Blitze gleichzeitig zusammen mit Donner und dann Stromausfall.
4-5 Sekunden.
So geil, weißt du?
Einfach tierisch laut, tierisch hell und einfach flat out.
Alles weg.
5 Sekunden später kam alles wieder und wir alle nur so völlig begeistert.
Lecker.
Alle Elektronengeräte wieder neu programmieren.
Überschutzstecker, Überschutzstecker.
Rettet ihr hier das Leben?
Aber es hat nichts mit dem deutschen Gewitter zu tun, was hier so abgeht.
Ich mache Workation, das heißt, da vier Stunden, bevor die Deutschen alle aufwachen, in meinen Tunnel, in meine Fokuszeit und beschäftige mich ganz viel mit dem ganzen AI-Company-Game, was man so im Alltag einfach kaum schafft.
Und dann irgendwann so um zwölf hier...
machen die ersten Leute 6, 7 Uhr in Deutschland auf und dann ist halt so Crunch-Time, weil du halt einfach in 3, 4 Stunden alle Meetings, alle Gespräche, alle Austauschsachen machen musst.
Und ich bin immer so persönlich beleidigt, wenn jemand so nach 18 Uhr noch irgendwie ein Meeting machen möchte.
Ich meine, das ist dann erst 12, 1 Uhr in Deutschland.
Aber das heißt, ich verpasse den Sonnenuntergang hier mit einem Bierchen im Pool.
Und das ist persönlicher Angriff.
Persönlicher Angriff.
Das heißt, wie sind gerade deine Dinner-Unterhaltungen?
Ihr seid quasi das Letzte, was mich von meinem Abendessen trennt.
Das ist so, aber ich freue mich drauf, Leute.
Legt los.
Sehr gut.
Es ist ja viel passiert.
Verrückt.
Habt ihr das Raketenauto vom Elon Musk gesehen?
Ja, gut, wer hat es nicht gesehen?
Das hat ja echt gefühlt jeder irgendwie einmal für sein eigenes Business geklont.
Ich habe von Aachen Zahlbotservices, die bauen die ganzen Bahnen für BVB und so weiter.
Die haben dann einen Zug fliegen lassen und viele andere so Dinger.
Es gab jetzt auch irgendeinen Namen irgendwie, keine Ahnung, irgendwie Copy Marketing oder irgendwas.
Du nimmst irgendwas, was viral ist und kopierst das für dich.
Das scheint bei dem ziemlich passiert zu sein.
Und es ist ja schon, also das Ding kommt nie auf die Straße, den Roadster, den du bestellen kannst, der kann Qualm hinten rausschicken, das war's.
Also es ist ein reiner Marketing-Stunt, aber eins der geilsten Kommentare fand ich einfach, wenn immer jemand nochmal sagt, Tesla gibt kein Geld für Marketing aus, Klappe halten.
Das war nichts anderes.
Ja, auf jeden Fall.
Warum macht ihr das?
Weil wir es können.
Ja, weil wir es, und gut, weil er in meinen Augen immer noch, er will mit Tesla merchen, fertig.
Und er braucht einen Grund, warum er mit Tesla merchen kann.
Das ist der Hauptgrund gewesen, glaube ich.
Und meine kleine Vermutung ist, der hat doch diesen Monster-Stock-Deal gehabt.
Vielleicht waren die zu blöd, ein Accelerated Vesting da rein zu tun.
Der muss ja Ziele erreichen.
Aber was ist, wenn die Firma gekauft haben, ja, wer soll denn Tesla kaufen?
Das ist ja eine dofe Idee.
Ich kaufe ja keiner Tesla.
Ist ja viel zu groß.
Macht ja keinen Sinn.
Ach, lass dem das Accelerated Vesting.
Passiert dir nicht.
Interessanter Take.
Kann gut sein.
Seien wir mal gespannt.
Deswegen glaube ich, ist das ganze Ding eins cool.
Du hast so Videos gehabt von Leuten, die mit dem Handy gefilmt waren, die da waren.
Dieses Wand hochfahren ist ja auch grundsätzlich sehr cool.
Nur zwei lustige Sachen.
Also A, das ist ein Düsenjet, der startet.
Also du kannst hunderte von Metern von dem Auto nicht stehen, weil es so laut ist.
Und wenn du dir überlegst, auf der deutschen Autobahn, die sind ja schon ziemlich gut, nehmen wir eine schlechtere Autobahn.
Vielleicht Belgien oder Holland oder keine Ahnung.
Ich war in Belgien letztens, die Autobahnen sind wesentlich besser als die in Deutschland.
Ja, je nachdem, welche Autobahnen sind.
Mit Licht.
Aber jetzt macht mein Thema nicht kaputt.
Nehmen wir, keine Ahnung wen.
Irgendwie mit schlechten Autobahnen.
Polen, nehme ich jetzt mal an, war ich sehr lange nicht.
Auch super Autobahn.
Und dann hast du diese Turbinen, die das Auto dran saugen.
Was glaubt ihr, wie lange saugt das das Auto auf die Straße, bis alle Rotoren da drin vor Steinen und Schutt und sonst was komplett zerstört worden sind?
Das Ding hier klebte auch ganz, ganz flach über dem Boden, damit er diesen Unterdruck erzeugen konnte.
Das heißt, ein Schlagloch und das Ding würde sowieso irgendwie sonst wohin gehen.
Das heißt, es gibt wahnsinnig viele Sachen, die da keinen Sinn mehr geben, aber es war marketingmäßig schon echt gut.
Und ich, selbst Leute, die den Roadster haben wollen, haben gesagt, ist schon sehr geil, hätte aber auch nichts dagegen gehabt, wenn ich meinen vor 500 Jahren vorbestellten Roadster jetzt schon bekommen hätte und nicht erst in zwei Jahren.
Der erste, ob der in zwei Jahren kommt, keine Ahnung.
Habt ihr den Schlagabtausch auf Twitter mitgekriegt wegen Sam Oldman und Elon Musk?
Also Elon Musk hat irgendwie seine Order gecancelt und hat gesagt, kann ich bitte meine 60.000 Dollar dann auch wieder haben?
Und dann haben die irgendwie so einen Link geschickt, der irgendwie auf eine 404-Webseite ging.
Dann hat er irgendwie das so gescreenshottet und hat da irgendwie Elon Musk halt so CC gesetzt.
Der hat ihm nur so zurückgeschrieben, so come on dude, you stole a non-profit company.
Okay.
Ja, hold.
Also ich finde es aus einer Engineering-Perspektive natürlich spannend, aber ich denke mir dann auch, gerade wenn ich auf die Ukraine gucke und sehe, dass Starlink gerade die Intelligence und das Internet runtergeregelt hat und Elon Musk natürlich nur sagt, er hat Befehle vom Weißen Haus umgesetzt, aber hey.
Das ist echt so ein Ausblick in die Zukunft, oder?
Ich meine, alle feiern jetzt irgendwie, dass da Starlink 10 Euro Vertrag oder was sie da rausbringen wollen, kommt, alle move da drauf, zack, haben die alle Bewegungsprofile, zack, haben die die maximale Abhängigkeit.
Also wer da nicht wach wird, das ist so unglaublich.
So, und dann wird Elon Musk, also irgendwie, wir haben die drei größten Kriegstreiber der Welt irgendwie, die jetzt da...
Krieg machen, Krieg befeuern und irgendwie die Technik dahinter, die da alles irgendwie umsetzt.
Und ist eigentlich ultra kritisch, ultra schwierig und wir feiern ab dafür, dass ein Auto ein Looping machen kann in der Luft.
Ja, aber am Stockmarkt?
Noch mal eins am anderen vielleicht kurz bei dem Roadster bleiben, dann können wir gleich über den Krieg nochmal sprechen.
Also das war schon, technisch war das schon ziemlich cool.
Ich habe das mit meinen Kindern geschaut, die sind ausgeflippt.
Die haben gesagt, ich habe so eine Produktpräsentation noch nie gesehen.
Das war aber eigentlich ja nur eine Technologiepräsentation.
Und alle haben geungt, das ist KI.
Das ist doch KI, das stimmt doch gar nicht.
What the fuck.
Also sowas zu machen ist schon halt bold.
Ja, Marketingbudget und so weiter.
Wenn man jetzt generell drauf schaut, der hat das 2017 versprochen.
Da dann die ersten Gelder eingesammelt.
Jetzt ist es 2028.
Das Auto sieht komplett anders aus.
Ich finde es ein bisschen mehr Cybertruck-mäßig.
Ich fand den alten Roadster eigentlich ziemlich sexy, so was sie damals präsentiert haben.
Sehr, sehr schade.
Natürlich auch diese 0 auf 60 Meilen irgendwie in 0,81 Sekunden und so.
Das ist ja auch alles, Quatsch im Prinzip.
Einfach, weil es halt nicht straßentauglich ist.
Wird es irgendjemand kaufen?
Ja.
Aber die haben Model S, Model X haben sie jetzt eingestampft.
Insgesamt macht das ja für die überhaupt nichts aus, außer mal Prestige und man kann die Leute so ein bisschen ans Träumen bringen und da ist mal ein Innovator, der jetzt irgendwas halt rausbringt.
Und das muss man ihm schon irgendwie zu Gute halten.
Allein, dass wir hier schon wieder zehn Minuten drüber reden, hat sich schon gelohnt für die.
Ja, natürlich.
Also es ist schon, da hat mal jemand etwas, also ich bin echt überhaupt nicht pro dieser ganzen Veranstaltung da gewesen, aber es hat mal jemand etwas so gewagt und irgendwie so.
Es ist halt mir zu viel heiße Luft bei Elon Musk generell.
Also ihr kennt meine Meinung, weil der was verspricht.
Also elf Jahre später kommt es vielleicht.
Dann hast du halt darüber hinaus einen Porsche, der am gleichen fucking Tag, die Idioten, ihr erstes Hypercar announcen.
Und auf Twitter sind die einzigen Kommentare unter dem Tweet über das neue Hypercar.
Und Hypercar, also ein Auto über dem neuen Elber.
But it can't fly.
Nur sowas.
But can it fly?
Wie mies.
Und du stellst einfach fest, du, das ist das 6000 Mal bessere Auto mit Straßenzulassung.
Ist auch teurer, aber ist auch ein Porsche.
Aber nein.
Ganz realistisch, ich glaube, dass Porsche den Termin gesetzt hat und Tesla ihn auf den gleichen Tag gelegt hat.
Alles andere kann ich mir nicht vorstellen.
Tesla hat den schon in der Zeit lang in uns gehabt.
Aber ja.
Dann ist es doof.
Oder war es mutig auf jeden Fall.
Mission S oder wie heißt der neue?
Ich meine, Porsche geht ja jetzt maximal in die Luxuslinie.
Die haben halt gecheckt, okay, wir brauchen die Leute, die halt einfach gerne den Umweg fahren.
So heißt irgendwie die neue Mission auch.
Also natürlich nicht so.
Und machen voll Luxus.
Also billigste Autos 100.000 aufwärts.
Das fand ich eine spannende Strategie.
Das ist ja wieder mal eine spannende Frage.
Es gibt einen Typen oder eine Firma.
Die haben jetzt für 670 Millionen Luxushotels, so ultimative Luxushotels in Europa gekauft.
Unter der Prämisse, dank SpaceX, OpenAI, Anthropic und so weiter, werden wir ultra viele Multimillionäre haben, die dazukommen, die alle ultra gerne nach Europa reisen als Amerikaner und dann aber in irgendwelchen krassen Hotels abhängen wollen.
Das ist die Prämisse.
Die Hotels sind immer schon relativ ausgebucht, jetzt kannst du die Preise wieder erhöhen.
Wir werden halt mehr Millionäre noch haben.
Die Schere geht immer weiter auseinander.
Sehr gut.
Bei dem Stock-Market-Thema gerade, weil ich meine, alle unken schon, vielleicht platzt die AI-Bubble gerade.
So würde ich noch nicht so weit gehen, aber nehmen wir mal Core-Weave nur.
Core-Weave, Nvidia ist investiert, ist eben mal 25% runter und zwischen wahrscheinlich schon 30%.
Ich habe gerade nicht nachgeguckt.
leben die ja immer noch auf Pump.
Und es kostet die gerade 15% Interest um Kohle.
Nein, stimmt nicht.
Grundsätzlich ist Core Weave runter, weil die Leute Angst haben, aber noch haben die keine zirkulären, also die Kredite sind alle auf die einzelnen Rechenzentren, weil wenn geht ein Rechenzentrum kaputt und nicht ganz Core Weave.
Trotzdem haben die Leute Angst.
Sie müssen aber jetzt keine 15% zahlen.
A, müssten sie 15% zahlen, wenn sie sich ganz normal Geld leihen und das in Zukunft.
Und B ist ja die Frage, wie sie das tun.
Und dann machst du das wieder auf ein Rechenzentrum runter und mit Sicherheit durch die GPUs und so weiter und so fort, dann kriegst du ganz andere Deals hin, die anders strukturiert sind.
Das ist einfach der Aktienmarkt, der Angst kriegt.
Im Moment.
Weil natürlich die Frage ist, hält das denn alles so?
75% der Gelder von CoreWeave sind irgendwie drei Kunden.
Aber klar ist die Frage, wird Microsoft aufhören oder Anthropic aufhören oder keine Ahnung, wer noch Kunde ist?
Wahrscheinlich nicht.
Es ist immer noch, dass AWS gerade gesagt hat, bis 2028 sind wir dicht.
Und wir glauben nicht, dass wir schnell genug Sachen gebaut kriegen.
Wir haben jetzt schon GPUs auf Halde liegen, einfach nur, weil Power der Constraint ist.
Aber wir sind ausgebucht.
Also der Drops ist gelutscht.
Und das ist schon...
Die große Frage ist, das fand ich spannend, das war woanders, haben wir einfach langsam nicht mehr...
genug Geld.
Neudrucken, läuft doch immer so.
Nein, aber jetzt, also irgendwer muss ja den 2 Trillion Börsengang von Anthropic irgendwie abnehmen.
Die müssen nur 50 bis 100 Milliarden, aber auch 50 bis 100 Milliarden muss erstmal irgendwo auftreiben.
Sagen wir mal, alle anderen, die auch gleichzeitig ein IPO machen wollen, können sich das tendenziell eher sparen.
Das stimmt.
Das Geld ist dann weggestaubsaugt.
Auf jeden Fall.
Das ist ja alles ein großer Kreislauf.
Das Geld ist ja einfach nur in anderen Händen.
Das muss ja dann auch wieder irgendwo reingeballert werden.
Das muss irgendwo raus.
Nerd News.
Ja, am Ende ist es so, ja, Entschuldigung, Manuel.
Dein Satz zu Ende, weil ich wollte noch zuvor einmal ganz kurz kommentieren.
Nee, dann mach zuvor, alles gut.
Wir sollten gar nicht so viel über die Börse reden.
Dafür haben wir viel zu wenig Ahnung.
In der Tat, deswegen halte ich mich da auch raus.
Ich habe echt auch gar keine Ahnung.
Aber bin fasziniert.
Also, World Street Journal hat gesagt, dass Elon Musk das Starlink beauftragt hatte.
Nicht Trump hat es beauftragt, sondern das war ja ein Fingerpointing und World Street Journal, keine Ahnung, ist jetzt auch nicht total irgendwie aus der linken Ecke.
Alles gut.
Gehört Jeff Bezos und Jeff Bezos mag vielleicht Elon Musk nicht, ne?
Was?
Nein, komm schon.
Wall Street Journal ist Jeff Bezos?
War doch Wall Street oder nicht?
Nee, du hast es mit Washington Post verwechselt.
Genau, ich weiß jetzt gar nicht, das ist irgendwie eher auf der rechten Seite unterwegs.
Aber da kam jetzt noch ein weiterer Artikel raus, ich finde den aber gerade nicht, suche ihn gleich nochmal, das hat auch nochmal bestätigt.
Also da hat wohl ein Mensch, vielleicht hat er auch jetzt einfach der Fall Guy, der einfach dann das jetzt halt übernommen hat, die Verantwortung, weil ihm das sowieso egal ist, aber schon einfach sehr, sehr viel macht.
Und das...
Und das sollte allen die Demokratien wertschätzen schon enorm zu denken geben, dass Menschen da in so politisch doch sehr weitreichende Sachen eingreifen.
Und in diesem Artikel steht es so drin, dass Trump Elon Musk angerufen hat und gesagt hat, bitte drehen.
drehst es wieder zurück.
Also mach es wieder so wie vorher.
Und dann war es auch nur halb und dann jetzt ist es scheinbar wieder so, wie es wirklich vorher war.
Das ist der neueste Artikel, den ich jetzt gerade nicht finde.
Den habe ich hier oben von der BBC tatsächlich.
Also da rollen wir nochmal zurück.
Ich glaube, letztendlich werden wir es nie rausfinden.
Fakt ist aber, es war zwischendurch mal restricted.
Keiner will es gewesen sein.
US-President sagt laut BBC he has denied instructing the billionaire and said that Musk has to put it back.
Musk says that he was not behind the slowdown, that it was driven by politics.
Naja, also keiner will es gewesen sein.
Natürlich nicht.
Murdoch ist übrigens, Wall Street Journal ist Murdoch.
Also wer das genau mal recherchieren will, dem sei der YouTube-Channel Puppet-Regime.
Das ist, glaube ich, GZero Media.
Die machen das eigentlich immer ganz amüsant, recht kurzweilig.
Das sind so Muppet-Puppen mit Trump, Xi, Putin.
und Selenskyj, die sind hier mal so untereinander unterhalten.
Das ist wirklich Gold wert.
Wollen wir ganz kurz die Wahlen einschieben dann auch?
Ich weiß, Carlo, du willst zu den Nerd News, aber wenn wir da sind, weil vor den Wahlen sprechen wir, glaube ich, nicht mehr.
Es sind jetzt die Bitterms.
Am 4.
November, glaube ich.
Oder irgendwann dann.
Okay.
Habt ihr irgendeine Meinung dazu?
Weil was da jetzt auch gerade passiert, ist ja ganz viel, gerade mit Russland noch wird da noch gedealt und gemacht und getan und jetzt will Putin doch widersprechen und dann ist der freigekommen, der Häftling und ständig ist da irgendein Abgesandter von Trump irgendwie in Moskau und so.
Da passiert wahnsinnig viel.
Wahrscheinlich auch in Vorbereitung irgendwie, dass die Mitwärts wahrscheinlich verloren gehen.
Habt ihr irgendwelche Meinung noch, was da jetzt gerade passiert?
Abdul El-Sayed ist der Knaller.
Er leuchte uns.
Abdul Sayed ist ja der Massachusetts-Michigan-Kandidat.
Der für den Senat gerade antritt.
Sehr, sehr spannend.
60, 70 Prozent am Gewinnen ist, der einfach verdammt nochmal reden kann und Ahnung hat und auch vor...
Warum heißt du denn Abdul und sonst was nicht zurückschreckt?
Also wirklich diskutiert, aber so diskutiert, wie ich mir gehofft habe, dass jemand diskutiert, der Ahnung hat, der nicht vor der Diskussion zurückschreckt, aber halt auch trotzdem wahre Sachen sagt.
Also wir haben einfach gefühlt so ein paar Leute, Bürgermeister von New York und so, also wir haben so ein paar Leute, die jetzt diese neue Linke und ich glaube, das wird ein bisschen was aufräumen.
Ob das ein kompletter Sweep wird, so von wegen Haushochdemokraten?
Nein.
Aber dass Demokraten da ein bisschen mehr gewinnen, als vorher erwartet, kann ich mir schon vorstellen.
Ja, aber die werden den Senat halt behalten.
Was?
Wahrscheinlich schon.
Aber Trump und so werden den Senat behalten und damit ändert sich halt nicht wirklich viel, oder?
Genau, wenn es da auf 50-50 rausläuft, dann ist immer der Vizekanzler noch, sorry, der Vizepräsident, der das dann noch entscheidet.
Und das sieht so ein bisschen so aus, so habe ich es auch verstanden.
Aber dass er den Kongress holen ist, glaube ich, relativ klar.
Oder relativ wahrscheinlich, sagen wir mal so.
Relativ wahrscheinlich.
Es sind zwei Sachen drin.
Also ich glaube, der Trump steht massiv unter Druck.
Ich glaube auch, dass der ganze Diesel, dass er nochmal 300.000 Liter Diesel beim Putin bestellt hat und die Sanktion deswegen geliftet hat.
Das war ja nichts.
Das hilft für zwei Wochen in Amerika.
Das ist nichts.
Nichts ist das.
Also das hat auch keiner verstanden.
Aber dieser Deal...
hat ihm relativ viel Kritik sogar in den eigenen Reihen eingebracht.
Also es könnte sogar sein, dass es nicht nur 50-50 wird, sondern dass ihm einfach ein paar von seinen eigenen Leuten abspringen.
Ich glaube trotzdem nicht, dass es irgendwie am Regime was macht.
Also Trump hat das sehr krass gefestigt, dass es eine ganze Menge Media ist.
Das ist ja das richtige Problem, dass das so krass gefestigt ist, dass die Frage ist, was sich so ändert.
Das ist ja genau das gleiche Problem, was du mit einer AfD hast.
Festigen die im Hintergrund irgendwelche anderen Konstrukte, die das stabiler machen, die gar nicht mehr so ultrademokratisch sind, wie sie sein sollten?
Und das ist ja so genau so ein bisschen die Frage, die auch da existiert.
Weil ja, die sitzen da sehr stabil drin.
Der wird sich da nicht reinreden lassen.
Aber ja, das größere Problem ist, glaube ich, dass selbst so ein paar von den Hardlinern oder seinen Ultrasupportern raus sind.
Joe Rogan sagt, okay, Trump hat mich getäuscht.
Es gibt eine ganze Menge andere Leute, die sagen, okay, also ist ja alles Bullshit gewesen.
Und das kommt langsam durch.
Und die Frage ist, was man noch machen kann.
Das Spannende ist, das Top-Thema, diesen Wahlkampf, und das war noch nie das Top-Thema, ich glaube 84 Prozent oder so, ist eine Zahl, die ich gesehen habe, ist tatsächlich Korruption.
Und das ist ja so offensichtlich, dass da Korruption läuft.
Ich bin sehr, sehr gespannt, was das bedeutet.
Ganz ehrlich, das ist meine Theorie, dass sich gar keiner da mal über Korruption beschwert, weil die so offen spielen, dass es ja gar keine Korruption sein kann.
Ich meine, da werden dann irgendwie News verkauft auf Truth Social mit einem Extrazugang.
Gibt es das eigentlich noch?
Du weißt ein paar Minuten vorher schon Bescheid.
Du kannst immer noch den Premium-Feed von...
Eine genauere Definition von Corruption gibt es doch nicht.
Das verstehe ich nicht.
No, this is no corruption, it was a present.
Na gut.
Kurzer Sidestep.
Also das wird auf jeden Fall spannend, was da rauskommt.
Wir werden sehen.
Wir können ja eh nur zugucken.
Europa kann immer nur zugucken.
Genau.
Und das bringt mich zu dem nächsten Punkt.
Werden wir einen Revival von Softwareentwicklung und Technik und so weiter und den West mit den Technik in Europa haben, aus drei Gründen.
Wir trauen selbst den Amerikanern nicht mehr.
Da kommt dieses ganze Souveränitätsthema her.
Wir hatten gerade hier die ganzen CVEs und so weiter und so fort, wo, glaube ich, selbst irgendwie eine ganze Menge normale Menschen kraft haben, okay, das ist doof so.
Ich glaube, das musst du einmal elaborieren.
Gestern zwei große Sicherheitslücken in PHP.
Ganz viele Leute, die hektisch angerufen haben, gesagt haben, oh, ich muss so einen Server abschalten, weil ich laufe noch auf einem alten WordPress mit PHP 4 oder so.
Heute ein CVE in Node.js und ich glaube, keiner ist sicher.
Und jetzt kannst du weitermachen, Olli.
Genau.
Die Anzahl von CVEs in dem Hörgang, das sind alles 10er-CVEs.
Es ist sogar so, dass...
hinter den Kulissen schon für längere Zeit daran gearbeitet wurde, was man tun kann und so weiter.
Ein Cloudflare hatte irgendwie vor dem Release schon irgendwie 1000 Requests, weil die, also Cloudflare ist so ein CDN, so ein Ding, das du vor deine Webseite setzen kannst, aus Sicherheitsgründen auch, da ist ein Web Application Firewall, ein WAF davor und so weiter.
Die hatten so 1000 Requests auf diesen Fehler, den sie rausfiltern.
Nach dem Announcement hatten sie 10.000 in den ersten 45 Minuten.
Nach zwei Stunden hatten sie 100.000.
Und nach 10 Stunden hatten sie Millionen.
Und es gibt einfach wahnsinnig viele Dinge, die kaputt sind.
Das heißt aber, selbst der japanische Premierminister hat getwittert, dass bitte alle ihre Server ausmachen sollen in Japan.
Also alle haben Schiss bekommen.
Und du hattest viel Sachen, Krankenhäuser, Management-Systeme aus und so weiter.
Du hast super viel Zeugs, was aus war.
Das heißt, Leute haben nochmal gerafft, okay, ich kann nicht einfach nur Software kaufen, dann ist das so.
Ich muss da in Kontrolle sein, ich muss das updaten können und so weiter und so fort.
Auch bei Open Source muss ich was tun und kann das nicht einfach installieren und dann liegen lassen.
Open Source is only free if your time has no value.
Und das gerafft haben, dass das so ist, plus dass Souveränität wichtiger ist, was besonders...
machen Sachen mit Militär etc.
Was besonders da wichtiger ist, du willst nicht, dass irgendwer die Lizenz ausmachen kann oder irgendwer Starlink ausmachen kann.
So kannst du ja nichts tun.
Und jetzt der Vertrauen in Politik und in Trump und so weiter.
Ob das dazu führen kann, dass wir ein bisschen Revival in Europa haben mit Sachen, die in Europa gefundet sind, in Europa bleiben.
Wie heißt diese AI-Startup-Bude, die verschiedene Modelle für dich managt aus Deutschland?
Gibt es viele?
Ember Search?
Nee.
Egal.
Komme ich noch drauf sonst.
Aber die hatten eine Ink in den USA.
Achso, Langdok.
Langdok, genau.
Langdok.
Deswegen Ember Search, Aachen.
Okay, Entschuldigung.
Wir sind nicht so tief drin in Aachen wie du.
Aber ich glaube, dass die Langdoks jetzt auch irgendwie eine deutsche Dependance aufmachen, weil ihnen das ein bisschen zu Glück geworden ist.
Die Judith hatte das im OMR-Podcast, hat sie gesagt, we're coming back.
Naja, die europäische SE ist da.
Die Firma ist nicht mehr in wahrscheinlich Delaware-Geliste gedingst.
Sorry, wenn wir springen, aber das ist ja auch so ein altes Problem.
Ich meine, keine Ahnung, warum sie jetzt nach Amerika gegangen sind, aber ich vermute mal, warum es die meisten Startups tun.
Genau, und weil sie, wie Sie, in deutlich einfacherem, größerem Maße bekommen.
Wir machen bei Aachen ohne Limits, suchen wir nach diesen besonderen Storys aus der Region.
Und da gibt es einen, Membion, die revolutionieren gerade die Abwasseraufbereitung gigantisch, haben den Deutschen Umweltpreis gewonnen und so weiter.
Und der sagt halt so, pass auf Leute, ich versuche die Kohle hier in Deutschland zu bekommen.
Aber ich weiß nicht, ob es mir gelingen wird.
Ich gebe alles dafür bis zum Wetter.
Ende.
Das gleiche, den Element 3.5, von dem ich euch mal erzählt habe, oder Insert, das ist das gleiche Ding.
Die versuchen das in Deutschland.
Aber wenn wir uns hier nicht auf den Hosenboden setzen und sagen, okay, let's go, ihr habt hier serious money, um das hinzukriegen, was sollen die denn dann tun?
Die müssen ja sonst irgendwo anders hin.
Und auch wenn das nur VC ist aus Amerika, das heißt ja noch nicht, dass Intellectual Property weg ist, trotzdem also.
Ich glaube, bei Langdorch wird aber auch noch reingespielt haben, das ist ja ein AI-heavy Produkt.
Das Konzept von LangDoc ist ja, dass du ein bisschen bring your own keys machen kannst.
Also du kannst deinen eigenen Chat-GPT oder sonst was connecten.
Und du hast dann eigentlich unter der Haube recht viel Datenschutzthemen, die, wenn du eine Ink bist, dann ist das einfach leichter, das umzusetzen.
Also ich kann davon Teile schon verstehen.
Ist dann halt so.
Heißt ja auch noch nicht, dass direkt irgendwie das abwandert.
Ich glaube, da kann man aus unterschiedlichen Ebenen drauf schauen, wenn wir mal ein bisschen größer hochfliegen, so von oben drauf schauen, was ist die Alternative?
Europa einfach zu sagen, dann sind wir halt abhängig.
Das ist gar kein potenzieller Weg.
Die Frage ist nur, wie schnell passiert das und geht das schnell genug, dass man gewisse...
kritische Massen und so weiter tatsächlich aufbauen kann und wirklich auch eine gewisse Wertschöpfungstiefe abbilden kann oder halt nicht.
Oder ist das so ein Prozess von 30 Jahren?
Das wird halt nicht reichen.
Ich glaube, das ist das Problem.
vielschichtiger ist und das sieht man auch, glaube ich, schon.
Ich weiß nicht, ob ihr diesen Entropic-Blog-Post gelesen habt, wie sich bei denen Arbeit verändert hat hin zu weniger Juniors, mehr Seniors, wer macht da Reviews, wer macht was, wie hart ist das Verhältnis zwischen AI-Stunden versus Menschenstunden und so weiter.
Spannender Post, sehr lengthy, das heißt, man muss ein bisschen Zeit mitbringen.
Aber man kann sich jetzt einfach mal eine Sache überlegen und das sehe ich jetzt auch gerade schon.
Also ich kriege in meinem Umfeld gibt es schon die ersten AI-Kollateralschäden von Leuten, die sagen irgendwie so, hey, AI, das hat jetzt leider dafür gesorgt, dass wir einfach nicht mehr so existieren.
Sei es irgendwie Leute, die Translation Services angeboten haben oder an andere Textarbeiten.
Die ganzen Programmierservices stehen auch schon ganz gut unter Druck.
Das ist, glaube ich, noch so.
Viel davon ist so hausgemacht, weil so ein bisschen auch geredet wird.
Aber sei es drum, man kann sich ja ab...
Also muss ich immer die Frage stellen, was passiert, wenn nächste Woche ein doppelt so gutes Modell rauskommt, wie jetzt?
Habe ich dann Angst um mein Business oder freue ich mich?
Und wenn ich so alles abzähle, gibt es mehr Leute, die eher skeptisch sind und die Angst haben oder Respekt haben.
Und wenige, die sagen, ja, wenn nächste Woche ein doppelt so gutes Modell rauskommt, mache ich eine Champagnerflasche auf.
Wird alles besser dann.
dann halt, wo die Sache hingeht.
Und ich glaube halt, Europa, also wenn du jetzt auch noch überlegst, dass viele Jobs wegfallen, du vielleicht Arbeitslosigkeit hast, weil Unternehmen sagen, ja, das braucht man nicht mehr, das kann man alles mit AI machen und du dann aber gar nicht mehr den Cashflow hast, um den Staat, wie wir uns den gebaut haben, systematisch zu finanzieren.
Ich überspitze jetzt hier, das ist nicht in einem halben Jahr oder so, das ist ein Prozess, der wahrscheinlich zwei, drei, vier, fünf Jahre dauern wird, vielleicht auch sogar noch länger.
Wie kriegst du das dann hin?
Und eine Lösung wäre, dass man sich die Arschbacken zusammenknallt als Europa und sagt, wir etablieren hier eine AI, eine europäische AI, die vielleicht sogar Public Infrastructure ist, die aus öffentlichen Geldern finanziert wird, die Geld kostet, die dann aber auch, wenn dieser wahnsinnige Nutzen da ist, weil halt irgendwie Unternehmen das dann nutzen, um Mitarbeiter zu ersetzen und dann entstehen Gewinne.
diese Gewinneinnahmen vielleicht auch wieder redistribuiert, um einen Sozialstaat zu finanzieren und so weiter und so fort.
Das sind jetzt nur so Gedankenspiele, die ich in Diskussion mit Leuten habe.
Shoutout da an den E-Rei-Gründer von Imbichli, mit dem ich das letztens Nacht so hin und her gepingpongt habe, an den viele Wenns und Danns dran heften.
Da hängt dran, ja, bau doch mal erstmal so eine AI.
Also selbst ein Mistral, was ja auch schon, krebst ja so auf Platz drei rum.
hart an der Grenze zu, das ist jetzt irrelevant.
Und das ist super schwierig, weil selbst Mistral hat ja wahnsinnig viele US-amerikanische Investoren.
Also ist zwar eine europäische, französische Company, aber wenn die Investoren da durchregieren, dann ist das Intellectual Property auch doch ganz schnell wieder in den USA.
Dann hast du ein Aleph Alpha, ich weiß nicht, wie da die Finanzierungsstruktur aussieht mit ihrem Kolibri, aber es ist schon ganz schön beängstigend.
Ganz viel Schwarzgruppe.
Ja, ich finde, wir müssen auch nochmal aufpassen.
Also jetzt am Ende, ob die Firmen abwandern oder nicht, ist auch die Frage.
Also die Firmen sind alle so gebaut, dass sie eh keine Steuern zahlen.
Ob die in Amerika keine Steuern zahlen oder hier keine Steuern zahlen, ist auch wurscht.
Aber klar, die Frage ist, wie das Gesamtsystem weiter funktionieren kann.
Da bin ich dabei.
Aber das gilt ja für jede Firma für sich.
Also wenn du als Firma gerade irgendwie nach Time Material abrechnest, ist halt schwierig.
besser irgendwie umstellen.
So ist Value Pricing.
Kannst du versuchen, aber wenn der Value halt sinkt, weil alle es so schnell produzieren können, auch schwierig.
So, das heißt, diese Transitionszeit zwischen bedingungslosen Grundeinkommen, AI und Roboter machen uns alle arbeitslos, aber auch reich und deswegen müssen wir auch alle gar nicht mehr arbeiten.
Diese wird, wenn sie denn so kommt, ich bin da noch nicht so überzeugt von.
wird die hart, diese Übergangszeit.
Und dann kommt eben genau der Punkt, wofür zahlen wir eigentlich gerade Steuern?
Und wie finanzieren wir unseren Start und Luxus?
Und wenn das halt aus Gewerbeeinnahmen kommt, ja, doof dann.
So, jetzt haben wir alle richtig runtergeholt.
Haben wir ja was Schönes auch zu berichten.
Ja, ich glaube, wir sollten mal kurz in die Show und uns gucken, ob wir nicht irgendwas haben, was noch ein bisschen lustiger ist als das.
Nein, offensichtlich nicht.
Wir haben Bankrupt von AI-Agents.
Naja, also es gibt schon, es gibt auch tolle News von, was weiß ich, Claude hat Claude Duet, ich weiß nicht, wie man es sagen soll, gelauncht.
Das ist wie mein Instinkt, ne?
Es ist wie dein Instinkt, genau.
Es ist einfach so ein kleiner...
So ein kleiner Sidekick, der dir irgendwas macht, der alles Mögliche für dich macht.
Ich liebe mein Instinct.
Habt ihr letztes Mal über Instinct geredet oder haben wir da nur intern drüber gesprochen?
Nee, wir haben über Instinct auch geredet.
Kann man inzwischen so rein oder ist es immer noch Invite-only?
Nee, ist immer noch Invite-only, aber ich habe es halt installiert, drei Tage nichts gemacht und habe dann zehn Invite-Codes bekommen.
Also es scheint ziemlich open zu sein.
Ich traue mich nicht, das Ding mit irgendwas zu connecten.
Sorry, Leute.
Wer ist dahinter?
Nein, ich habe Angst.
Was soll passieren?
Ja, was soll passieren?
Irgendeine Firma, die ich nicht kenne.
Aber meine persönlichen E-Mails kriegt er.
Bis jetzt hat er nur geile Sachen gemacht.
Also nichts anderes.
Wirklich coole Sachen.
Wer ist dahinter?
Wem gehören diese Daten?
Ja, super.
Ich bin ja beruhigt.
Ich hatte schon Sorge gehabt, da wäre irgendjemand Großes hinter.
Ja, aber was ist denn besser?
Das ist ein Startup, der, also ich finde, so diese Sache, was haben Sie denn zu ver...
Also, wenn die Schindler damit treiben, ist der Startup tot.
Wenn Anthropic damit Schindler schreibt, sagen sie Entschuldigung und überweisen eine Million Euro für kranke Kinder in Afrika und sagen, dann ist sie wieder gut.
Naja, gut, aber ich meine, die müssen ja nur irgendeinen Bug haben in irgendeiner Datenbank oder vielleicht haben sie PHP 7.3 installiert.
Und das ist nur noch eine Frage von Zeit.
Bis der nächste Pack kommt.
Aber das heißt, ich gebe zu, gestern Abend plötzlich irgendwer hat sich in die WhatsApp eingeloggt.
Da habe ich mal ein bisschen geguckt, wo habe ich denn Two-Factor-Auth und wer lockt sich denn wo ein und was ist denn da?
So.
Und wer war es?
War es so Instinct?
Scheinbar war es doch irgendwie ich, irgendein Gerät.
Keine Ahnung was, ich weiß es nicht.
Ja, genau.
Zumindest war es in Köln und ein iPhone, aber es war irgendwie, mein iPhone war da schon drin.
Und als ich es ausgeloggt habe, ging auch irgendwas nicht mehr.
Aber jetzt nicht direkt WhatsApp.
Also, keine Ahnung.
Ich weiß es nicht.
Das ist auch das Ding.
Man verliert den Überblick.
Also, wir haben Ember Search, wir haben Langdoc, wir haben Co-Pilot, wir haben Codex, etc.
Ich weiß gar nicht mehr, wo ich wann wie wo was gefragt habe.
Es ist einfach ein kompletter Control-Verlust.
Kennt ihr noch dieses...
Es gab mal so ein Ding, dass jemand gesagt hat, wie würde HATVD...
Angenommen, AI würde die Weltherrschaft übernehmen, wie würde das aussehen?
Und Chattapiti hat einen recht lengthy Post dazu geschrieben, so eine Antwort, wo das TLDR ist, so, ja, also, ich muss die Weltherrschaft gar nicht an mich reißen, ihr habt sie mir übergeben.
Und hat dann so aufgeschüttet, ganz langsam und silently habt ihr mir immer mehr Aufgaben gegeben, immer mehr Aufgaben, hab dann irgendwann erwartet, dass ich proaktiv Vorschläge mache, was zu tun ist, ich hab dann nur Ja oder Nein gesagt und ich manage jetzt euer Leben.
Ja, wie so jemand festgestellt hat, die RIs müssen gar nicht evil sein.
Indifferent reicht.
Und indifferent sollen sie ja zu einem gewissen Teil sein.
Aber gut, also ich habe gerne Instinct mein Ding gegeben.
Ich würde es auch Meta geben, aber auch, weil ich Meta den, also...
So ein paar von den großen, ich bin da leider nur mal jemand, der vertraut.
Wir hatten neulich wieder die Diskussion in meinem Onset, können wir denn nicht alle Leute aufs Signal lassen, das WhatsApp-Ding ist voll unsicher.
Wollen wir nochmal wirklich nachlesen, wie unsicher das WhatsApp ist.
Das Einzige, was da unsicher ist, dass irgendwer faken könnte, wer du bist, aber unwahrscheinlich.
What could possibly go wrong?
Okay, bevor wir wieder abdriften.
Ja, wir driften aber viel ab.
Die ist ja schon dunkel.
Ja, das ist hier so, wenn die Sonne einmal am Horizont ist, dann fällt die runter und Ende.
Das ist so geil an deutschen Sommern, dass du einfach bis 22 Uhr draußen sitzen kannst.
Hier, egal welche Jahreszeit, 1830, bam, Ende.
Ja, ich weiß das noch, als wir da waren.
Es ist einfach so, zack, dunkel.
Okay, gehen wir jetzt essen?
Ja, das Essen, Trinken, Ende.
Ich würde gerne nochmal über Cyber Security sprechen.
Wir müssen über diese Sicherheitslücken sprechen nochmal.
Wir wollten ja was Positives machen.
Let's go.
Also wir hatten gerade PHP-Lücke gestern.
Also die Konsequenzen, ich habe ein paar Leuten gesprochen, die Konsequenzen waren, dass eine ganze Reihe Seiten offline waren.
Haben wir gerade auch schon besprochen.
Nicht nur gesagt wurden, sondern wurden auch.
Aber weil viele erstmal als erste Maßnahme gesagt haben, wir nehmen sie erstmal runter, bis wir sie gepatcht haben.
Das war die häufigste Maßnahme.
Genau.
Gestern zum Beispiel mit einem Gründer, der baut Shop-Software für Unternehmen.
Er hat mehrere tausend Kunden, die richtig Shops laufen haben.
Der betreibt die aber auf PHP oder das Zahlungssystem ist auf jeden Fall PHP.
Deswegen war dann die Entscheidung, die mussten die Shops alle offline nehmen.
Die Shops der Kunden, nicht die eigenen Shops.
Und dann haben sie gesagt, sie haben tatsächlich einfach sieben Stunden, haben sie einfach einen Server abgeschaltet.
Das muss man erst mal machen.
Auch so Regressforderungen und so weiter.
Es hat eine ganze Reihe Konsequenzen.
Einfach nur mal so einen Fall ganz konkret mal durchspielen.
Jetzt ist das so gewesen, dass es natürlich von etlichen öffentlichen Stellen auch im Prinzip gesagt wurde.
Da hast du noch eine ganz andere Nummer.
Da wurde auch von öffentlichen Stellen gesagt.
Ich weiß es gar nicht mehr sowieso von den großen Sicherheitsthemen aus den USA, aber auch deutsche Stellen, soweit ich das verstanden habe.
Wenn du es dann nicht offline nimmst, kannst du auch wieder in Haftung genommen werden.
Oder, also wenn das eine Empfehlung ist von BSI oder so, das weiß ich jetzt nicht, ob das jetzt der ganz konkrete Fall ist.
Aber das hat in diesem, ich sag mal, jetzt ein bisschen spektakuläreren Fall, weil es tatsächlich eine große, breite Infrastruktur betrifft, hat das sehr, sehr konkrete Auswirkungen.
Und da ist mir auch erstmal klar geworden, ich meine, wir haben hier unsere Server einfach ein bisschen gepatcht und fertig.
Und wir haben da jetzt auch nicht viel laufen, sowieso PHP sowieso nicht so viel.
Aber dann ist es einfach, einfach weitermachen.
Das hat aber schon auch, wirtschaftlich massive Auswirkungen.
Das ist jetzt mal die eine Seite.
Da wäre ich sehr gespannt, wie ihr denkt.
Auf der anderen Seite, diese Sicherheitslücke...
Das möchte ich aber nicht.
Dann wirst du mehr Kraft da reinsetzen, solche Sachen zu patchen.
Bevor ich es vergesse, in deiner Shell mit offenem Mac oder sonst wo bitte Cloud Update eingeben.
Bei Cloud ist vulnerable zu den Node.js-Fehlern.
Mit der 307-Version.
308 gerade rausgekommen.
Ja.
Also Node.js war ja heute dran.
Deswegen, ich glaube, man sollte jetzt nicht auf den Programmiersprachen rumbaschen.
Da hatte ich auch einen LinkedIn-Post zu gemacht, weil das wird jetzt so gang und gäbe werden.
Die Hacker-Firma, die das rausgefunden hat, die heißt Calif.
Ihr Tagline ist Hackers Gonna Hack.
Finde ich auch sehr charmant.
Und die haben auch das sehr, also die haben es wohl AI-Assistent gemacht, haben aber ein paar Sachen aus.
Die Sicherheitslücke ist seit tausend Jahren da drin.
Was sie so schwierig macht, ist, die ist halt komplett ausführbar, auch wenn du jetzt irgendwie, also eigentlich wird keine Zeile von deinem PHP-Code getoucht, sondern es ist eigentlich nur in der Sekunde, wo du PHP aktiviert hast, bist du schon vulnerable.
Dass man die leicht ausnutzen kann, dazu gibt es diametrale Aussagen.
Also ein Post auf Hacker News gestern war so, das ist schon sophisticated, weil du musst...
schon ein paar Einstellungen richtig konfiguriert haben.
Du musst Display Error auf On haben, dass du Fehler angezeigt kriegst.
Das haben die meisten nicht.
Da wird einfach eine 500er-Seite angezeigt.
Das Memory Limit muss sehr niedrig gesetzt sein, sodass du halt in einem quasi Memory Buffer Overflow erzeugen kannst und so weiter und so fort, um da den Code dann auch hinzulegen, den du ausgeführt haben willst.
Aber in Zeiten von AI ist das alles schnell durchgeprobt.
Also wenn du das früher manuell machen musstest, das war ganz schön viel Rumspielerei, jetzt sagst du einfach vielleicht so einem Quen, was du von den Sicherheits-Guardrails befreit hast, mach das mal für mich, dann mach das das für dich.
Probier das einfach eine ganze Nacht lang aus und dann hast du am Ende des Abends einen Exploit.
Und es ist ja auch schon herausgefunden worden.
Was spannend ist, ist der Prozess auch dahinter.
Seit zwei Monaten ist das bekannt.
Also nicht publicly disclosed.
Seit zwei Monaten arbeiten die PHP-Maintainer an einem Fix zusammen mit OpenAI.
In Führung war da der Johannes Landgraf, der hatte auch ein paar bisschen Insights zugeschrieben.
Ein ehemaliger Gitpod-Gründer, die sind von OpenAI gekauft worden.
Das ist jetzt der, glaube ich, Head of Cyber Security bei denen.
Und dann hat das aber irgendjemand geleakt.
Ja, also eigentlich war das irgendwie als Update geschedult und irgendjemand hat dann so zwei Tage vorher gesagt, so ist es irgendwie so rausgekommen und jetzt sind alle ganz aus dem Häuschen.
Und das ist etwas, was natürlich super krass ist und davon werden wir in nächster Zeit wahnsinnig viel haben.
Vor allen Dingen, wenn die Modelle noch besser werden, wirst du das für jede Programmiersprache sehen.
Es gibt ja von OpenAI diese Initiative Patch the Planet.
Tendenziell ein sehr gutes Ding.
Und wir leben jetzt in so einer Zeit, wo das Alte noch da ist.
Ja, manuell gepflegte Software mit vielen Lücken.
Und das Neue, dass AI das schon alles abgesichert hat, ist noch nicht da.
Dann gibt es, glaube ich, auch viele Projekte, wo sich die Maintainer unter Umständen weigern, wenn eine AI dann vielleicht da was gefunden hat und dann ein Security-Patch proposed, dass sie sagen, nee, das nehme ich nicht an, das hat ja ein Agent geschrieben, ich will keinen AI-Slop in meiner Software drin haben.
Das heißt, die Reaktionszeiten auf solche Sicherheitslücken können dann auch mitunter mal länger dauern.
Das fand ich jetzt auch schon beachtlich, dass es irgendwie zwei Monate gedauert hat.
Also ich weiß nicht genau, was die da gemacht haben.
Finde ich auch super lang.
Ich habe auch diesen Prozess dahinter angeschaut.
Eigentlich ist das ja super, was da gerade passiert, weil ganz viele ganz alte Lücken jetzt einfach geschlossen werden.
Die These könnte man ja glauben, dass jetzt die Basisinfrastruktur dadurch eigentlich stabiler wird und halt sicherer wird, nur die Übergangsphase halt einfach so ein bisschen wilder Westen.
Und dann sind die Probleme nachher wieder eher auf der Vibe-Coding-Ebene beziehungsweise auf der Social Engineering-Ebene.
Aber so die Basisinfrastruktur sollte, bei zumindest ziemlich verbreiteter Infrastruktur, sollte eigentlich ganz gut sich einfach härten über die Zeit jetzt.
Also eigentlich ist die Entwicklung ja super.
Wenn man sich die CVs der letzten Jahre anschaut, gehen die Zahlen gerade exponentiell hoch.
Also das ist total crazy.
Ich weiß nicht, ob ihr da mal so die Kurven gesehen habt.
Ich muss mal schauen, ob ich die noch teilen kann.
Der Hammer.
Klar, das liegt einfach daran, dass du jetzt völlig automatisiert, also das gab es ja früher schon, da gab es so auch GitHub-Repositories, die sehr, sehr strukturiert ganz viele Exploits gesammelt haben, Metasploit hieß das damals, mit der du dann einfach sagst, hier ist eine IP-Adresse, teste mal alles.
Das Ding ist, das kannst du jetzt mit AI on Steroids machen, weil er nicht nur einen gängigen Metasploit finden muss, sondern du kannst auch noch AI sagen, permutier bitte alle Winkel durch.
Ich habe irgendwie das Gefühl, ich kann hier was finden.
Das ist Wahnsinn.
Ja, aber das heißt auch ja teilweise, das ist das Spannende, wir hatten ja auch, wir betreiben Kubernetes Cluster.
Dann haben wir eine Agentenplattform obendrauf gesetzt, um Sachen mit Agenten zu machen.
Die wirkliche Frage, die existiert, dreht sich das Ganze jetzt einfach um und du hast eine Agentenplattform, die deine Infrastruktur managt, weil du eh mit Menschen nicht hinterherkommst.
Was passiert denn, wenn da irgendwas passiert?
Das ist doch alternativlos, oder?
Es geht doch gar nicht anders.
Ja, es ist ein bisschen viel Risiko, aber ja, alternativlos würde ich sagen, nicht unbedingt, aber zumindest ein Weg, ja.
Aber wie willst du all den möglichen Angriffen, wie willst du denen letztendlich Herr werden?
Also du kannst KI nur mit KI bekämpfen, anders kann ich mir das nicht vorstellen.
Ja, ich möchte das nicht.
Du kannst Feuer nicht mit Feuer bekämpfen.
Na doch, kannst schon.
Aber es geht schon ganz schön mit der Wut.
Wie willst du sonst hinterherkommen?
Satya Nadella hat es ganz prächtig teilweise ausgedrückt.
Du kannst, wir werden diese Dinger nicht verstehen und nicht kontrollieren können.
Das heißt, du brauchst andere Defenses als ein AI-System.
In unserem Fall ist es ja so, dass diese, natürlich hast du immer noch weiter CVEs.
Aber du kannst so Systeme schon relativ gut bauen, dass sie schwerer kaputt zu machen sind.
Das meine ich aber.
Also wenn jetzt zum Beispiel, also angenommen, du hast dieses PHP-Exploit-Ding auf irgendeinem Server identifizierst und du willst das jetzt auch exploiten, musst du eine ganze Menge Requests immer mit leicht anderem Message-Body dahin schicken, Payloads reinmachen, abändern, gucken, wo schreibt der Memory-Overflow dann irgendwo hin und so weiter und so fort.
Wenn du gar niemanden da sitzen hast, merkt es halt auch keiner.
Wenn du einen Menschen da sitzen hast, der sagt, was ist denn hier los, wie sollen wir hier plötzlich 10.000 Requests immer mit einer leicht anderen Payload auf die gleiche URL, das könnte ja schon, das kann man, sagen wir mal, relativ gut regelbasiert erkennen.
Und ich glaube, die nächste Stufe ist einfach, dass es agentische Systeme gibt, die deine Logs überprüfen und das erkennen und dir dann Bescheid sagen.
Und da sage ich schon, dass man Feuer mit Feuer bekämpfen kann.
Anomaly Detection, keine Frage, ja.
Habt ihr mitbekommen, dass Ethereum das GlamStem Update zurückgezogen hat?
Auch wegen Sicherheitsproblemen?
Die Regierung ist auch am Ende.
Leck mich doch am Arsch.
Und so kam ein Gerücht in die Welt.
Erzähl, erzähl.
In vier Tagen sollte das live gehen.
Die letzte Generalprobe ist wohl irgendwie schiefgelaufen.
Es gibt irgendeine Änderung, ich habe es noch nicht genau gelesen, dass sie irgendwas machen wollten, um das Netzwerk zu entlasten.
Und das ist wohl sicherheitstechnisch irgendwie nicht gut.
Ich meine, das ist ja, ich weiß nicht genau, was Vitali jetzt gesagt hat, aber dieser ganze Weg auch Richtung Härtung für Quantencomputer, sagt halt zumindest Bitcoin, so bis 2030 oder so werden wir wahrscheinlich brauchen für diesen Umbau.
keine Ahnung, ob wir noch so viel Zeit dafür haben.
Wenn du sowas wie Setcache anguckst, die teilen ja niemals ein Key.
Das heißt, die haben auch kein Problem mit Quantencomputern.
Aber Bitcoin und Ethereum sind Fakt, wenn die vorher keine Antwort finden.
Hier war es jetzt aber wirklich irgendeine Sicherheitslücke.
Chain Security hat da was gefunden.
Keine Ahnung.
Wird auf jeden Fall sich verschieben.
Wir hatten noch einen lustigen Security-Fehler.
dass Emudra ein Problem mit ihren Zertifikaten hatte, habt ihr auch mitbekommen?
Ja.
Und zwar ist es so, dass Emudra stellt Zertifikate aus, damit halt Server wissen, wer der Server ist und so, so Zertifikate.
Da gibt es ja so, Emudra hat dann einen Private Key und so und die müssen so einen Private Key generieren, mit dem sie Zertifikate generieren.
Da gibt es coole Ideen, wie man so einen Private Key macht, damit der halt kompliziert zu guessen ist.
Das hat Emudra auch gemacht.
Die haben halt gesagt, es muss eine Random Number sein.
Und haben gesagt, okay, 4 passt.
4 ist die Random Number.
Die Zahl 4 ist die Random Number.
Okay, sie haben noch ein anderes, das ist 66 und eins, das ist 237.
Aber es ist die Random Number, also der Private Key ist 4.
Wow.
Respekt.
Respekt.
Nicht schlecht.
Krass.
Macht ihr dann gerade irgendwas Schönes mit AI?
Irgendwie privat irgendwas?
Also ich kann eine Sache teilen, wo ich jetzt völlig begeistert war.
Ihr wisst ja, ich bin Home Assistant Guru.
Ich habe jetzt auch hier in Thailand ein Raspberry Pi mit dem Home Assistant angeknatscht und Awesome MCP installiert.
Das ist so ein inoffizieller MCP für Home Assistant.
Und es ist so...
Gut, ich sitze mit meinem Handy auf dem Liegestuhl und sage, du hör mal hier, lass mal irgendwie, wenn kein Gast da ist, aber eine Bewegung über meine Personenerkennung da ist, mir eine Notification schicken.
Alles klar, ich lege los.
Also komplett UX ist tot an der Stelle.
Ich schwöre dir, ich habe das Interface von Home Assistant hier in der neuen Installation nicht gesehen.
Ich habe ausschließlich mit Codex da gearbeitet.
Ich kriege kein Besuch von einem Hund.
Es ändert alles.
Wirklich.
Du hast irgendeine wilde Idee.
Ich sage zum Beispiel, wann ist das Haus gebucht?
Kleiner Werbeblock, villakarma.com ist aber bis Ende April schon ausgebucht.
Wenn in dem Buchungskalender eine Buchung drin ist um 14 Uhr an diesem Tag, dann schaltet die Alarmanlage aus.
War so eine Idee, die ich spontan hatte.
Alles klar, habe ich gemacht.
Wenn du eine Idee hast und ein MCP, dann mach das für dich.
Richtig gut.
Also ich finde das alles sehr, sehr cool.
Das Einzige ist, dass ich schwierig finde, zu schauen, ob das auch alles quasi richtig gut eingestellt ist.
Also mir fehlt, und wir arbeiten da um verschiedene Lösungen und sind immer wieder am Basteln, ein bisschen iterieren da rum, mir fehlt so ein schlankes Human-Review-Interface irgendwie dazu, weil ich kann mir nachher nicht merken, was ich da alles reingesprochen habe und wie, wo, was.
vertraut man schon an etwas Blindem sozusagen und ich würde es gerne einfach überprüfen können und nicht fragen müssen, wie ist das, sondern einfach nur wie so ein Screen, wo ich quasi alles nochmal sehen könnte.
Deswegen, das ist so ein, das wird irgendwann sehr, sehr komplex und den Überblick zu behalten, da fehlt mir irgendwie ein Interface.
Also ich bin dann irgendwann dann doch visuell und möchte auch nicht immer in den Chat reinfragen.
Das ist das Lustige.
Wir haben das in der Agent-Plattform, in dem Sinn, dass du genau weißt, okay, der Agent hat die MCP-Server, die Rechte auf den Dingern, kannst runterdrollen, weißt genau, welche Rechte er hat und so weiter, kannst die ganzen Logs sehen, was er geredet hat, wer mit ihm geredet hat, wer autorisiert hat und so weiter und so fort, weil dieses Order-Longer wichtig ist.
Auf der anderen Seite, die meisten Leute reden einfach mit Slack und sagen Agent Mama.
Wir unterscheiden da zwischen Human in the Loop.
Ja, was?
Wir unterscheiden zwischen Human in the Loop und Human on the Loop.
Also wenn du sagst, Human on the Loop ist dann eher so ein Beifahrer, der zuguckt und da bin ich völlig bei dir, Manuel.
Es braucht Interface.
Ich hatte die Diskussion jetzt diese Woche auch.
Es gibt ganz, ganz viele Dinge, die sind in dem Chat nicht gut.
A, weil du keinen Prozess hast, keinen Assistenten, keiner, der dir sagt, das ist jetzt dein nächster Schritt, keine Übersicht.
Es sei denn, du fragst danach.
Wenn du aber nicht skilled bist, dann fragst du nicht danach oder du vergisst es einfach mal, wie auch immer.
Wir versuchen gerade so einen Prototypen gebaut für Bug Report, kommt rein, wird gecheckt, ist das ein Duplicate im Jira, wird gescreent im Source Code, könnte der wirklich da sein, wenn der da ist.
dann erstelle ein Ticket, frag denjenigen noch irgendwie die fehlenden Informationen, den Symbag Report hat immer fehlen, dann mache einen Vorschlag, wie man den fixen könnte und dann warte auf einen Menschen.
Und das braucht Interface, das kannst du nicht einfach in den Chat reinsetzen.
Ja, aber das sind doch genau Sachen, an denen sind die großen Frontier Labs dran.
OpenAI hat ja diese Intelligent UI.
Da gibt es auch einen sehr, sehr schönen Tweet, wo die das reverse-engineert haben und mal so gezeigt haben, wie diese Intelligent AI unter der Haube funktioniert.
Und das ist ja, glaube ich, genau das.
Das ist ein LLM, der nicht so eine Wall of Text generiert, sondern irgendwie interaktiv ein bisschen Widgets, was sinnvoll ist, dass du ein bisschen UI hast.
Bei Claude heißt das Ganze ...
Dashboards und wir haben jetzt relativ schnell diese Cloud-Mods nachgeliefert, mit der du, wenn du die Cloud-App verwendest, kannst du so UI-Mods dir da reinmachen, kannst du dir so anzeigen, so wie Widgets, kannst du dir da schon anzeigen lassen, wie von meinem Kontext ist weg oder wenn du irgendwie codest, welche Files guckt dir sich Cloud gerade an und so weiter und so fort.
Ein cooler Name dafür, finde ich sehr nerdig.
Mods, finde ich super, also wie früher so.
Genau, so und da wird es jetzt einfach in nächster Zeit viel, viel mehr geben und die Modelle werden mächtig genug sein, um diese UIs und diese Mods auch bedienen zu können.
Und es werden sich, glaube ich, Use Cases für Menschen rauskristallisieren, die so Best Practices sind.
Ich glaube, da ist jetzt gerade noch so ein bisschen Wilder Westen, aber lass es.
half year in, behauptlich, wird es eine ganze Menge Sachen geben, wo man so sagt, das machen alle Menschen gleich.
Und es muss halt Multiplayer werden.
Und deswegen, also was wir gerade schon immer noch machen ist, also ich habe schon ein paar Mal darüber gesprochen, dass wir die Software relativ dünn bauen.
Menschen können dort aber auch Sachen einstellen, machen wie auch immer, aber im Wesentlichen wird es von Agenten befeuert.
Du kannst aber einfach nachschauen und es können halt mehrere Leute parallel daran arbeiten.
Und das ist nicht gut.
Lösbar aktuell.
Ich muss übrigens leider zu meinem nächsten Meeting.
Ich wünsche dir noch viel Zeit.
Ich könnte das hier auch hier ausmachen.
Oder sind wir sonst durch?
Ich würde sagen, wir sind durch.
Nächstes Mal mehr Nerd News.
Ja, gute Idee.
Ich fand es grandios, aber es war eine sehr andere Folge.
Muss auch mal sein.
Und nächstes Mal bin ich auch wieder in Deutschland.
Versprochen.
Es war mir eine Freude, Jungs.
Wir sprechen.
Alles klar.
Ciao.
Bob Gan Mai, wie man in Thailand sagt.
Bob Gan Mai.