# Anthropic's Valuation Surge and DeepSeek's Price War

**Podcast:** INNOQ Podcast
**Published:** 2026-06-04

## Transcript

Herzlich willkommen zur mittlerweile sechsten Folge unserer AI News.
Heute ist der dritte Juni, Mitte des Jahres schon fast erreicht.
Und wir haben wieder ein paar Themen mitgebracht und auch ein bisschen praktische Erfahrungen dazu am Ende.
Hallo Ole, ich begrüße dich erstmal, schön, dass du wieder dabei bist.
Sehr gerne, ja.
Ja, lass uns mal gucken, was passiert ist seit dem letzten Mal.
Du hast noch ein bisschen Follow-up zu unserer Compute-Diskussion von letztem Mal mit reingeschrieben.
Genau, die letzte Episode drehte sich ja viel darum, dass Antropic von SpaceX dieses Colossus-1-Cluster gemietet hat und damit auf einen Schlag 200 Gigawatt an Rechenleistung bekommen hat.
Und wir sehen die ersten Ergebnisse davon.
Also jetzt, wo sie nicht mehr so begrenzt sind, was Rechenleistung angeht.
Sie haben Opus 4.8 veröffentlicht vor kurzem.
Ich habe es auch schon praktisch eingesetzt.
Ich habe selber nicht die ganz großen Unterschiede zu 4.7 gemerkt, ehrlicherweise.
Sie haben auch bei der Veröffentlichung betont, es soll ehrlicher sein.
Tatsächlich ist mir da aufgefallen, dass er mir häufiger widerspricht als früher.
Opus 4.8 scheint wohl häufiger Widerworte oder seine Meinung stärker zu vertreten, was ich ganz interessant fand.
Ansonsten, was soll man sagen, der Fast-Mode, wo du also deutlich mehr dafür bezahlst und dafür mehr Tokens pro Sekunde kriegst, soll günstiger und schneller geworden sein.
wahrscheinlich auch ein Ergebnis davon, dass sie jetzt halt nicht mehr so compute-beschränkt sind und sie haben, das habe ich mich allerdings nur nicht getraut auszuprobieren.
Ja, das kann schon sehr schnell ins Geld gehen, weil ich weiß nicht, war das fünfmal so teuer wie normal oder was?
Ah, das ist der Fast Mode, ja, der ist fünfmal so teuer.
Nee, ich wollte jetzt auf das noch verrückt teuerere eingehen.
Man kann jetzt auch Dynamic Workflows aktivieren und dann werden hunderte von Sub-Agents gespawnt.
Das ist so ein...
Feature für extrem große Code-Basen, wo Aufgaben extrem zersplittet werden und man hält in kurzer Zeit mit wirklich hunderten koordinierten Agents, die Probleme lösen können soll, was dann aber auch entsprechend ins Geld geht.
Okay, aber das ist ein Feature von Cloud Code, ja?
Das ist ein Feature von Cloud Code.
Nicht vom Modell, okay.
Ja, nee, das kann ich mir schon vorstellen.
Also diese Subagenten sind ja schon ein ziemlich mächtiges Pattern, was ja glaube ich auch...
Cloud-Code initial mal entwickelt hat und was die anderen danach gezogen sind.
Und bisher, wenn ich jetzt Cloud-Code einsetze, sind es ja meistens relativ wenige Subagenten, die er da verwendet.
Also einfach Sessions im Grunde, unter Sessions mit einem eigenen Kontext, die dann halt eine Rückmeldung geben.
Aber wenn er jetzt wirklich Hunderte davon startet, dann kann ich mir schon vorstellen, dass er natürlich dann auch Faktor 100 Tokens natürlich dann unter Umständen zumindest jetzt zur gleichen Zeit dann eben durchbrätst.
Ja, da wäre ich dann wahrscheinlich auch vorsichtig, gerade wenn man mit API-Pricing unterwegs ist.
Bin mir gar nicht sicher, ob das mit den Subscriptions überhaupt funktioniert oder ob die Subscription sofort ins Rate Limit läuft dann.
Mit Subscription wird es nicht funktionieren.
Auf Golem habe ich, glaube ich, gelesen, dass eine Firma eine halbe Milliarde an Tokens verbraten hat aus Versehen.
Ja genau, der Artikel ist auch an mir vorbeigescrollt, dass man sollte also tunlichst, wenn man da irgendwie für den Betrieb verantwortlich ist, entsprechend diese Limits einstellen, dass man halt am bestimmten Budget zumindest gewarnt wird und dann halt hoffentlich nicht gerade im Wochenende ist, während jemand da die Tokens durchbrennt, sondern am besten irgendwelche harten Limits vorgeben, ab denen dann erstmal dicht gemacht wird.
Das kann man wirklich jedem nur empfehlen.
Ansonsten hat Antropic eine neue Finanzierungsrunde durch.
Series H, wahrscheinlich die letzte vom Börsengang, munkelt man zumindest.
Sie haben 65 Milliarden eingesammelt, viel Venture-Kapitalgeber, wobei so ein Haken ist dran, also von diesen 65 Milliarden waren wohl 15 Milliarden in so Wertgutscheinen für Compute.
Also das fließt dann später wieder an die Compute-Geber zurück.
Auch 50 Milliarden ist schon wieder so eine Summe.
Absurd eigentlich.
Genau, sie wollten 30 Milliarden.
Sie haben jetzt selbst konservativ gerechnet 50 Milliarden eingesammelt.
Die Bewertung ist bei fast einer Trillion 960 Milliarden.
Damit sind sie jetzt solide vor OpenAI.
Genau, finanziell läuft es scheinbar sehr gut.
Ihre Marge für Inference Tokens haben sie irgendwie...
von 38 auf 70 Prozent steigern können.
Das ist ja so.
Ja, 70 Prozent Marge ist schon gut, würde ich mal sagen.
Das ist gut, ja.
Das klingt schon gut.
Ja, das wäre wahrscheinlich dann, du hast auch die Vermutung geäußert, dass sie sich halt eben auf ihren Börsengang damit vorbereiten, wo sie dann ja möglichst profitabel dastehen wollen, wenn sie dann eben an die Börse gehen.
Das ist dann die Frage, ob das wirklich jetzt alles daraufhin optimiert ist nur, was sie gerade tun.
Ich glaube nicht alles.
Allgemein läuft es gut für sie.
Und jetzt, wo sie einen Computer haben, haben sie eigentlich einen Drehschalter, wo sie sagen, wir können jetzt 100 Gigawatt einfach in Inference an unsere Kunden rausgeben.
Und dann sind sie immer im grünen Bereich und profitabel.
Ich glaube, solange du diesen Schalter in der Hand hast und das so frei skalieren kannst, ich bin gespannt, was bei der IPO rauskommt.
Ich denke, das werden auch wieder sehr absurde Summen.
Ja, ich glaube, sie stehen einfach jetzt so lange komfortabel da, wie sie halt eben zumindest in der allgemeinen Wahrnehmung so die besten Modelle anbieten, die halt alle Firmen eben im Zweifel haben wollen.
Da kommen wir dann später nochmal zu, ob es da nicht vielleicht schon Alternativen gibt.
Aber gerade ist das eben noch so, zumindest in der allgemeinen Wahrnehmung.
Und deswegen sind sie dabei, glaube ich, einfach sehr komfortabel vorne weiterhin und können da einfach die Margenschräubchen drehen.
Spannend.
Ja, bin ich mal wirklich gespannt, wie das dann mit dem, also nach dem Börsengang dann weitergeht, wie sie dann an den Preisen drehen.
Also heute habe ich eh das Gefühl, dreht sich ziemlich viel um Preise, um Tokenpreise, um Subscriptionpreise.
Da gab es ziemlich viel Unsicherheit in den letzten Wochen, was da jetzt eigentlich passiert.
Also werden jetzt irgendwie die ganzen Subscriptions eingestellt und muss man wirklich nur noch per Token die ganze Zeit bezahlen, weil ja eben die...
die Subscriptions ja schon sehr stark subventioniert sind, wenn man sich so die Einzeltokenpreise anguckt, die man so bezahlen muss und was man in so einer Subscription dann drin hat.
Da hatte Anthropic ja auch die Limits dann durch das Compute, was sie dazu bekommen haben, dann ja auch gleich verdoppelt.
Und dass man dann eben noch mehr in den Subscriptions bekommen hat.
Da bin ich jetzt einfach mal gespannt, ob es da dann weiterhin einen Preiskampf über Subscriptions gibt oder ob die Branche an sich versucht, von diesen Subscriptions wegzukommen.
Ich kann das mir noch nicht so richtig vorstellen.
Ich glaube, es wird immer wieder jemand kommen, der sagt, ich, bei mir gibt es aber die Flatrate, also die Fast-Flatrate, weil Limits hängen ja immer dran, aber zumindest die Kosten sind halt gedeckelt.
Das ist schon sehr attraktiv, glaube ich, für Kunden.
Ich glaube, es wird immer jemanden geben, der das anbietet.
Oder wie ist da dein Gefühl für die Zukunft?
Ich sehe das auch so.
Ich denke, das Beispiel ist der Free-to-Play-Markt.
Es gibt ja auch viele Computerspiele, die erstmal free angeboten werden, obwohl sie auch Infrastruktur bezahlen, obwohl diese Leute ja auch Last erzeugen auf den Servern.
Aber mit den paar Hardcore-Gamern, die dann bereit sind für Skins und irgendwelche Add-ons, unfassbare Summen zu bezahlen.
holt man seine Marge wieder rein.
Und ich glaube, da ist gerade der Geschäftskundenbereich ja ein sehr dankbarer Markt, weil während Privatkunden schnell mal die Subscription wechseln, mache ich auch mal, dass ich, wenn jetzt irgendwie ein neues Bildmodell raus ist, mir was von Google zum Beispiel hole.
Und da sind Firmen halt viel konservativer, viel verlässlicher.
Und ja, ich denke, sie werden die Subscriptions behalten, um die Leute wieder reinzuziehen.
Das ist halt für die dann Beifang, auch bei den Summen an Tokens, die sie an die Firmen mittlerweile verkaufen, fällt das, glaube ich, bei denen gar nicht größer ins Gewicht.
Ich glaube auch, das wird so eine Mischkalkulation bleiben.
Und gerade jetzt mit diesen Sachen, die wir gesehen haben, diesen Fast Modes und so, wo man dann wirklich nochmal so besondere Angebote schafft, wo dann wirklich auch extreme Margen wahrscheinlich drauf sind, da kann man dann wirklich nochmal ganz viel mit Quersubventionieren.
Sehe ich auch so.
Gut, wir können ja mal weitergehen in dem Reigen der großen Model-Provider.
Obwohl diesmal das zweite ist jetzt ein eher kleinerer Provider, nämlich Nvidia, die eigentlich mit der Hardware kommen.
Die haben auch neue Modelle vorgestellt.
Was ist denn da das Interessante?
So wirklich viel kann ich da gar nicht zu sagen.
Die sind nämlich gar nicht so auf die Privatnutzer ausgelegt.
Sie haben also die Cosmos 3 und die Nemotron 3 rausgebracht.
Das sind so Modelle, die speziell eher auf Computing und World-Modell ausgelegt sind.
Physik, Vision-Models können nativ Textbild-Videos erzeugen, Aktionen.
Darum geht es speziell in so Computing-Richtung.
Nichts, was für uns jetzt als Coda irgendwie groß interessant ist.
Der Plan oder die Strategie dahinter ist natürlich den Chinesen nicht.
komplett den Markt zu überlassen an Open Rates Modellen, sondern auch was anzubieten und Nvidia verdient halt später dann wieder mit der verkauften Hardware.
Ich habe auch eher das Gefühl, dass Nvidia, wenn die Modelle rausbringen, dass das eher so ein bisschen Proof of Concept ist oder um ihre Hardware eben zu präsentieren, was die Hardware kann, dass sie eben da aber dann immer relativ spezialisierte Modelle.
Also ich hatte das vorhin erzählt, dass ich so lokal so Speech-to-Text-Modelle benutze und da war halt Nvidia auch immer relativ früh schon dabei, so ganz spezialisierte Modelle zu haben, die aber eine Sache besonders gut können, in dem Fall dann eben Text generieren aus Sprache.
Aber die haben häufig dann eher diese spezialisierten Sachen.
Diese neuen Geschichten hatte ich auch eher im Kontext, wo Nvidia ja immer herkam.
mit den Videospielgeschichten da auch da was zu gelesen, eben weil sie versuchen, über diese Physik-Weltmodelle dann eben auch realistische Spielszenarien live zu generieren und so kann ich mir vorstellen, dass das so ein bisschen die Synergien zu dem Gaming-Bereich dann zeigen soll, was man halt vielleicht auch in dem Bereich mit KI dann machen kann.
Das versuchen sie ja gerade möglichst.
möglichst zu verweben, damit sie dann alle Richtungen ihrer Hardware verkaufen können.
Es ist vor allem auch ein möglicher Weg zur AGI.
Also Google glaubt ja ganz stark daran, dass das Einbinden von Weltmodellen, die Physik verstehen, die Video verstehen und Bild verstehen, dass das so der Weg zur AGI sein könnte.
Vielleicht...
Folgt Nvidia dem das auch.
Nvidia hat auch Geschäftszahlen vorgelegt.
Im letzten Quartal 81,6 Milliarden US-Dollar.
Die Börse war nicht amused.
Die Aktienkurse sind tatsächlich etwas gefallen, was komplett verrückt ist.
Was interessant war oder was an diesem...
Earnings Call, für mich am interessantesten war, dass sie ihren Markt etwas verlagert haben.
Zum einen haben sie also diesen Markt, der Hyperscaler, die großen Clouds, an die bis vor kurzem locker 70 Prozent ihrer Chips direkt verkauft wurden.
Und mittlerweile ist dieser Markt so der Neo-Clouds und der großen Industrieunternehmen und die GPUs direkt abnehmen, auch auf fast 50 Prozent angewachsen.
ziemlich beeindruckend ist, dass sie so schnell diversifizieren konnten.
Für sie ist das natürlich eine bessere Sache.
Also klar, du hast natürlich einen zuverlässigen Kunden bei so den Hyperscalern auf der anderen Seite.
Gerade wenn man sich zum Beispiel Google anschaut, die jetzt auf ihre Tensor-Chips setzen, wenn die ihre eigenen Chips entwickeln, dann können die halt auch schnell weg sein.
Und wenn dann da 20% deines Geschäfts konzentriert war, dann hast du ein Problem.
Und die Idee von Nvidia war, dass jetzt halt fast 50-50 aufzusplitten, diesen Markt in kleinere und private Firmen und in dieser Hyperscaler, die bis vor kurzem halt noch fast 75 Prozent ausmachte.
Ja, das finde ich schon interessant, gerade weil die, ja, bei den ganz Großen, wie du gerade gesagt hast, Google, die halt alle irgendwie die Kapazität haben, eigene Chips zu entwickeln, das wahrscheinlich auch tun und dann können die natürlich wirklich sehr schnell weg sein und bei den, ja, bei den etwas kleineren Kunden ist ja die Wahrscheinlichkeit gering, dass die ja eigene Chips entwickeln.
Die werden halt vielleicht höchstens mal einen Anbieter wechseln, aber dann ist es eben auch nicht so dramatisch.
Aber die sind vermutlich dann eben auch relativ zuverlässig.
Das ist schon, glaube ich, für den wieder eine sinnvolle Entwicklung, das zu tun.
Da fällt mir noch ein, Sie haben noch die Vera-CPUs vorgestellt.
Die waren auch ganz interessant.
Das sind so spezielle AMD-CPUs, die darauf ausgelegt sind.
Viele Agents.
Vera Rubin ist ja ihr neuer ganzer Rechenzentrum-Stack zwischen GPU und CPU und Vera CPUs, also Rubin ist die GPU-Spalte, Vera ist die CPU-Spalte und die sind speziell darauf ausgelegt, irgendwie zehntausende Agents parallel in Sandboxes laufen zu lassen.
Das fand ich auch noch relativ spannender Ansatz.
Ich glaube 22.000 war so die Zahl, die genannt wurde.
Ja, ich warte wirklich darauf, dass es mehr spezialisierte Hardware gibt.
Ich meine, Nvidia versuchen das jetzt schon mehr, aber dass wir wirklich jetzt mehr Entwicklungen sehen, wo halt auf speziell jetzt Hardware, die auf Inferenz zum Beispiel optimiert ist und jetzt nicht so General Purpose ist, dass wir das mehr sehen, da warte ich wirklich drauf.
Weil das könnte, finde ich, nochmal so einen kompletten Dreh der ganzen Branche geben, wenn es dann vielleicht...
extrem energieeffizient oder halt wirklich lokal oder was auch immer, dadurch, dass man eben wirklich spezialisierte Hardware bekommt.
Also man sieht so ein bisschen diese, also ich habe schon das Gefühl, dass jetzt einfach die unterschiedlichen Hyperscaler eben auch versuchen, ja eben ihre eigenen Chips zu machen, aber dass die das halt auch eben vielleicht schon so ein bisschen auch auf ihre eigenen Modelle dann optimieren, dann wird es dann schon wieder so richtig speziell, sodass man dann wirklich die Hardware hat, die dann optimiert ist für die eigenen Modelle.
Und da bin ich echt mal gespannt, wo das dann hinführt.
Auch gerade für Nvidia jetzt.
Die versuchen dann ja eben eher so General Purpose Compute dann eben zu machen.
Gut, dass du das ansprichst.
Das ist auch etwas, was mir so in den letzten ein, zwei Wochen aufgefallen ist.
Und der Markt splittet sich aus meiner Sichtweise so ein bisschen.
Auf den einen haben wir das Cerberus, die wir auch letztes Mal vorgestellt haben, die mit so einem riesigen Chip.
Und auf ganz schnelle Tokens gesetzt haben.
Das ist so der Markt, der sich in die eine Richtung, also sehr schnelle Antwortszeiten, sehr schnelle Interference und dafür spezielle Chips herstellen.
Der andere Markt driftet so in den Bereich Agentik ab, wo die Zeiten häufig nicht so entscheidend sind, weil die Modelle im Hintergrund laufen, weil sie irgendwie ständig laufen und du nicht so...
in Millisekundenbereichen Antwortverhalten brauchst und die eigentlich sehr stark CPU und auch Memory getrieben sind, wo wichtig ist, wie kann er sich aus den verschiedenen Memory-Schichten da die Informationen herholen.
Und ich glaube auch, diese ganze SpaceX-Geschichte mit dem Rechenzentrum im Weltall macht nur Sinn, wenn man darauf wettet, dass dieses agentic langlaufende Prozesse Sinn ergibt oder dass das ein großer Markt wird, weil dafür könnte man Satelliten tatsächlich nutzen für so niedrige Latenz, direkte Chat-Anwendungen, sind die, glaube ich, überhaupt nicht zu Gebrauch.
Eher nicht, ne?
Das ist schon so eine Wette und das wird, glaube ich, auch, wo wir die Preisdiskussion hatten, ist ja auch nochmal so eine Richtung, in die man gehen kann.
Du hast den Fastmodel, du willst sehr schnell sehr viele Tokens haben, du kannst dir aber genauso zum Beispiel Produkte anbieten, wo du sagst, okay, Ich will zwar schon irgendwie einen Strom von Tokens haben, aber zum Beispiel die Latenz ist mir nicht so wichtig.
Wenn das halt irgendwie Time-to-first-Token dauert, vielleicht eine halbe Minute, ist vielleicht für irgendeinen Agenten dann komplett egal.
Und dafür kannst du dann wieder eigene Preismodelle anbieten.
Also ich denke mal, da wird sich noch ganz schön viel bewegen.
Gerade für irgendwelche langlaufenden Agenten, das ist ja dann wirklich, wenn du sagst, ich brauche halt morgen ein Ergebnis, dann kann das halt irgendwann passieren.
Das haben wir ja bei Cloud Compute auch schon, dass du da eben Ressourcen...
günstig bekommst, wenn du halt nicht genau weißt, wie lange du sie hast oder wann du sie bekommst.
Das wird da wahrscheinlich auch kommen.
Wir haben noch ein Preisthema.
Hast du dazu noch was?
Ich wollte nur sagen, dass gerade bei Dingen, die in der physikalischen Welt verankert sind, wie Produktion oder so, dass ja die Millisekunden-Response-Zeit meistens gar nicht ausschlaggebend, weil das wird eh auf dem LKW verladen, irgendwo hingeschickt.
dann kann der Business Report halt auch über Nacht rechnen.
Ja, genau.
Da muss man sich, glaube ich, auch daran gewöhnen, dass natürlich, wenn man vor dem Rechner sitzt und warten muss, dass die Tokens rein strömen, dann wird es irgendwie, da willst du natürlich diese schnelle Response haben.
Aber es gibt genug Anwendungen, wo das eben nicht notwendig ist.
Ja, da habe ich gerade auch am, da habe ich gestern gerade mit so einem kleinen ESP rumgebastelt, wo es tatsächlich auch mittlerweile Möglichkeiten gibt, wirklich auch Machine Learning Anwendung auf so einem kleinen ESP laufen zu lassen.
Da gibt es irgendwie TensorFlow Lite und da kann man dann seinen Wasserzähler mit einer Kamera ablesen lassen und das alles auf so einem kleinen Chip.
Das dauert dann halt relativ lange.
Wer macht so ein Foto dann und erkennt das, aber ist ja egal.
Ob der Wert jetzt ein paar Minuten dauert, bis er gelesen ist, aber er wird gelesen.
Es gibt für alles seinen Einsatzzweck.
Ja genau, ich hatte gerade gesagt, wir haben noch mehr Preise und das war tatsächlich fast mit das Spannendste, nämlich dass DeepSeek V4 Pro diese krasse Preissenkung gemacht haben, um, was war das, 75 Prozent oder sowas, dass sie wirklich gesagt haben, ich hatte es nur auch im Kopf gehabt, dass vorher Millionen Output Tokens irgendwas so 4, 5 Dollar gekostet hat und jetzt sind sie runter irgendwie auf 87 Cent, was natürlich schon eine Ansage ist gegenüber von einem Cloud Opus, was irgendwie um die 30 Dollar.
pro Million Output-Token kostet.
Und zumindest von meinem Gefühl ist jetzt das DeepSeek V4 Pro nicht um diesen Faktor schlechter, was die Ergebnisse angeht.
Hast du damit arbeiten können?
Ich habe noch nicht viel damit gearbeitet, aber eigentlich war das ja mal so eine begrenzte Rabattaktion, 75% Rabatt.
Und jetzt haben sie es einfach zu ihrem neuen Standardpreis ernannt.
Wie du schon meintest, irgendwie 35 Mal günstiger als OpenAI und sogar fast 90 Mal günstiger als Anthropic.
Das ist schon eine Ansage und die Modelle sind gut.
Das sieht man ja auch bei den Benchmarks.
Also sie sind jetzt nicht genau so gut, aber sind halt 80 Prozent so gut.
Und wenn du dann halt nur ein 80.
an Preis dafür bezahlst, dann ist das natürlich ein sehr interessanter Trade-off.
Ja, und vor allen Dingen ja die DeepSeek-Modelle auch selber zu hosten.
Da kann ich vielleicht gleich mal was zu sagen, was ich damit ausprobiert habe.
Genau, hatten wir dann sonst noch was zu dem DeepSeek 4P?
Das war diese Preisänderung.
Was kann man noch sagen?
Also Sie begründen, dass das von hoher Weise Ascent-Chips jetzt in großem Volumen verfügbar sind.
Das war so Ihre offizielle Begründung.
Zum A sind Sie sehr viel effizienter in Betrieb geworden.
Und zum anderen sind die Sandchips von Huawei günstig.
Ich glaube, die Strategie dahinter ist halt auch so ein bisschen Lock-In wieder zu betreiben, was die amerikanischen Modelle ja auch machen.
Und ich fürchte tatsächlich auch, dass es ein Grund ist, warum Nvidia mittlerweile ein bisschen nervös geworden ist und eigene Open-Wades-Modelle rausbringt.
Weil gut, wenn du deinen DeepSeek V4 hast, was darauf optimiert ist, auf den Huawei-Chips zu laufen.
ist kostengünstig viel besser als die amerikanischen Modelle, dann kann das schon eine interessante Dynamik geben.
Ja, genau, hatten wir ja gerade am Anfang.
Wenn du anfängst, die Modelle auf die Hardware zu optimieren und das aneinander zu bundlen und das dann eine sehr effiziente Kombination gibt, hast du natürlich mehrfachen Log-In-Effekt auf das Modell.
Dann noch auf die Hardware bist du dann quasi an die Hersteller gebunden.
Aber ich hatte es ja eben angeteasert, dass ich mit dem DeepSeq V4 rumgespielt habe.
Der Auslöser dafür war, dass das Modell eben auch bei anderen Anbietern gehostet, bezogen werden kann.
Und wir haben jetzt intern eben hier einen aus Dublin, Tensorix AI, wo die eben damit werben, dass sie das Ganze eben irgendwie Zero-Knowledge, DSGVO-konform, was auch immer, in der EU gehostet, die eben so einen Diebsieg anbieten.
Und das war so ein bisschen meine persönliche Challenge, mal rauszufinden, kann man denn damit arbeiten, dass man dann eben sagt, okay, wir versuchen im Sinne der Souveränität eben, ein Modell aus der EU zu benutzen.
Also in dem Fall kein Modell aus der EU, aber zumindest in der EU gehostet.
Das heißt, wenn man als Unternehmen diese Anforderungen hat, kann man da eben sowas beziehen.
Und in dem Fall haben wir das eben intern dann verfügbar gemacht, eben noch mit so einem Routing-Proxy davor, damit man eben relativ einfach das nutzen kann.
Das ist jetzt in unserem Fall eben das Open Web UI.
Und dann hatte ich da mal jetzt den Py-Agent, Unter pi.dev kann man den finden, dass er so ein minimaler Agent-Hahn ist, den man so ganz gut customizen kann.
Hast du den schon mal ausprobiert?
Kennst du den?
Nee, habe ich tatsächlich noch nicht.
Das steht auch auf meiner To-Do-Liste.
Auf der langen To-Do-Liste standst du bei mir nämlich auch lange drauf, weil das tatsächlich sozusagen das Framework ist, weil der relativ wenig mitbringt, aber super erweiterbar ist, der dann so ein bisschen für mich aufgetaucht ist, weil er die Basis für OpenClaw eben gebildet hat, dass OpenClaw darauf aufgesetzt hat auf diesem...
diesem Harness und den halt so sehr wild customized hat.
Und da habe ich mir dann eben mal ein lokales Setup zusammengestellt mit dem Pi und dann eben an dieses Tensorix AI mit einem DeepSeek dahinter und habe so versucht, eben die Sachen, die ich sonst mit Cloud Code mache, damit umzusetzen.
Und so meine Erfahrung jetzt so nach zwei Tagen damit ist erstmal so, die Sachen, die ich vorher mit Cloud gemacht habe, kann ich damit auch machen.
Also ich bekomme dann eben ähnliche Ergebnisse.
Das Ding kam mit mir über...
Architektur, Ping-Pong spielen, Entscheidungen treffen und kann das dann eben implementieren.
Und das jetzt eben nicht viel langsamer, also es war schon ein bisschen langsamer, als jetzt Cloud liefert, wie die Tokenstack kamen.
Aber das hängt dann wahrscheinlich eben auch von dem Provider ab.
Aber erstmal hat mich das so ein bisschen beruhigt, dass ich halt weiß, okay, ich bin jetzt nicht komplett abhängig von einem Anbieter mit einem Modell, das geschlossen ist.
Und wenn der die API zumacht, bin ich in der Form als Entwickler nicht mehr arbeitsfähig.
sondern man kann durchaus mittlerweile Alternativen sich aufbauen.
Das fand ich so ganz spannend.
Da werde ich mal ein bisschen dranbleiben.
Vielleicht kann ich dann zwischendurch immer mal berichten, wenn ich da andere Sachen ausprobiert habe.
Was ich heute noch gemacht habe, war eben dann nicht nur das V4 Pro anzubinden, sondern auch das Flash-Modell noch, dass man eben dann verschiedene Subagenten benutzen kann und dann eben für bestimmte Sachen das schnellere Flash-Modell.
Das hat sich auch schon mal sehr gut dargestellt.
Zumal das eben nochmal nur ein Zehntel des Preises kostet.
Jetzt bei dem Anbieter zum Beispiel, da kriegt man dann irgendwie die Millionen Output Tokens für 40 Dollar Cent, was natürlich dann schon sehr attraktiv ist für bestimmte Dinge.
Und da kann man dann darüber auch noch extrem viel optimieren.
Ja, das war so ein bisschen der Tipp der Woche.
Also wenn ihr mal so verstehen wollt, wie so ein Agent Harness funktioniert, dann schaut euch mal diesen Pi an, der da relativ wenig Zinnober macht und eben auch Open Source ist, kann man sich angucken.
Und da kann man dann eben natürlich alle großen Modelle dran anbinden, aber eben auch eigene Provider da einrichten oder auch lokale Modelle.
Da kann ich da vielleicht auch nochmal was zu sagen, wenn ich da ein bisschen mehr Erfahrung mit gesammelt habe.
Ja, also Pile.dev verlinke ich euch.
Schaut euch das mal an und wenn ihr irgendwelche Compliance-Anforderungen habt.
Es gibt mittlerweile Provider in der EU, die aktuelle Modelle.
Also ich habe jetzt das DeepSeq V4 ausprobiert.
Und auch nochmal das GLM 5.1, was wir ja auch schon mal gesprochen hatten, das chinesische Modell, hat für mich auch gute Ergebnisse erzielt, auch über diesen Provider aus Irland.
Das kann man also mal wirklich sehr gut ausprobieren, wenn man da Sorgen hat, dass man jetzt irgendwie dem Login verfällt und jetzt irgendwie seine Prozesse darauf anpasst.
Genau, das wollte ich hier einmal teilen.
Dann lass uns zum Abschluss noch ein bisschen Mathe machen, oder?
Ja, das musst du machen.
Das war schon spannend.
Es gab halt diese Forschungsgeschichten, das haben wir uns ja immer gesagt.
Vielleicht kannst du das mal zusammenfassen.
Also vorweg, ich bin auch kein Mathe-Spezialist.
Schade, dass Melli nicht mehr bei uns ist.
Die könnte da bestimmt mehr zu erzählen.
Shoutout an Melli.
Es geht um das, ich weiß gar nicht, ob ich es richtig ausspreche, wahrscheinlich das Erdös-Problem.
Das ist ein mathematisches Problem, was seit 80 Jahren ungelöst ist.
Und es gab ja vorher schon mal so die Ankündigung, dass KI irgendwelche Forschungsprobleme tatsächlich gelöst hat, die noch nicht gelöst waren, die sich dann aber meistens als Hoax rausstellten.
Oder er hat einfach alte Theorien aufgegriffen, die er irgendwo gefunden hatte, alte Paper genommen und kopiert.
die aber nicht zu richtigen Lösungen führte.
Und diesmal sieht es so aus, als ob es tatsächlich einen konstruktiven Forschungsbeitrag gäbe.
Also es ist auch von Mathematikern schon bestätigt worden, dass das wirklich die Lösung für das Problem ist.
Das Spannende ist, dass in einer Woche das Problem gleich dreimal gelöst wurde.
Also angefangen hatte...
OpenAI am 20.
Mai das Problem zu lösen.
Dann hat DeepMind einen Tag später, also mit so einem Alpha-Proof-Nexus, ihr Mathematik-Lösungsproblem, allein nur einen Tag später das Problem gelöst und gleich 44 andere mit.
Und Anthropic hat dann am 26.
Mai nachgelegt und es auch noch gelöst.
Was man so hört, also ich kann das überhaupt nicht beurteilen, was man so hört, sagen die Mathematiker, dass der OpenAI-Beweis wohl der eleganteste von denen ist.
Der Google-Beweis ist nett, weil man ihnen Maschinen überprüfbar geliefert hat.
Die anderen sind halt so normale mathematische Paper, die ein Mensch wieder lesen muss und überprüfen muss.
Genau.
Was kann man noch dazu sagen?
Ich kann mal versuchen, es zu beschreiben.
Es ging irgendwie darum, man hat einen zweidimensionalen Raum und du kannst N Punkte darauf verteilen und wie viele von diesen N Punkten haben exakt die identische Instanz?
Mathematiker, die mir zuhören, werden mich jetzt wahrscheinlich schlagen, weil ich es völlig misshandelt habe, das Problem.
Aber genau, vielleicht was für unsere Kommentarspalte.
Erklärt uns doch, was das Erdös-Problem eigentlich war.
Genau, korrigiert uns gerne.
Aber das ist ja tatsächlich, es wird ja immer wieder gesagt, man kann damit irgendwie Forschungsergebnisse erzielen.
Dann sagen manche immer, ja, es ist ja im Grunde nur eine Rekombination von dem, was schon da ist, was dann irgendwie nur neu aussieht.
Aber eigentlich, ne?
wird da ja quasi nur, werden Dinge extrahiert, die irgendwie schon vorher da waren und es ist nichts originär Neues.
Und jetzt zumindest vielleicht für diesen Teilbereich der Mathematik sagen zumindest Mathematiker, die sich damit auskennen, dass es etwas Neues ist.
Normalerweise sieht es ja dann häufig, egal in welchem Bereich man irgendwelche Sprachmodelle einsetzt.
Wenn man sich da nicht so gut auskennt, ist man immer total begeistert und überrascht, was da geht.
Und dann fragt man Experten aus diesenjenigen Bereichen, die sagen einem dann, ja, sieht gut aus, aber ist Grütze, weil, das heißt, finde ich das schon mal ganz interessant, dass dann eben auch die Experten sagen, das ist etwas Neues.
Das würde mich interessieren, ob das wirklich sich jetzt auf die Mathematik beschränkt, eben weil die so gut formal beschreibbar ist vielleicht auch nur.
Oder ob das dann eben auch in anderen Disziplinen jetzt mehr wird.
Ich denke, in Cyber Security sehen wir es ja auch.
Irgendwie scheint 2026 ja das Jahr zu sein, wo es erste Mal tatsächlich Leistungen gibt, die zumindest mit Menschen mithalten können, würde ich sagen, wo sie halt nicht einfach nur so Race to the Middle Mass sind, sondern wo sie tatsächlich auch mit genügend Geld und Compute vorausgesetzt haben, wirklich.
neue Leistungen erbringen können.
Also ein bisschen skeptisch kann man schon sein, wenn drei Modelle das innerhalb einer Woche dasselbe Problem knacken.
Auf der anderen Seite haben es Menschen 80 Jahre lang nicht geschafft und das lag bestimmt auch nicht daran, dass es nicht häufig genug probiert wurde.
Ja, das ist natürlich die Frage.
Es ist wirklich nur Brute Force, weil jetzt einfach die Modelle da so viel draufwerfen können auf dieses eine Problem.
Dann ist auch immer natürlich immer die Frage, sind das denn Probleme, die uns als Menschheit weiterbringen?
Aber dann wird es dann philosophisch.
Muss man jedes Problem oder jede Frage lösen?
Bringt einen das weiter?
Gut, aber so weit wollen wir heute nicht mehr abdriften.
Das war jetzt schon durch meinen kurzen Exkurs.
Sind wir, glaube ich, ganz gut durchgekommen.
Aber gefühlt war es jetzt auch, ist nicht so viel passiert, bis auf diese Preisdiskussion.
Da bin ich mal gespannt.
was dann uns in zwei Wochen wieder erwartet.
Hast du eine Prediction, was als nächstes passiert oder ist es alles Zufall?
In den nächsten zwei Wochen habe ich tatsächlich keine Prediction.
Ich denke, dass OpenAI ein neues Modell rausbringen wird.
Von dem haben wir jetzt bestimmt schon sechs Wochen nichts mehr gehört.
Es ist Zeit für ein neues OpenAI-Modell.
Wir sind mal wieder dran.
Gut, dann werden wir das im Voller-Ab überprüfen.
danke ich dir für die Runde diese Woche.
Sehr gerne.
Und dann freue ich mich, wenn wir uns in zwei Wochen wiedersehen.
Und danke euch für die Aufmerksamkeit und seid auch nächstes Mal hoffentlich wieder dabei.
Bis dahin.
Ciao, ciao.