# AI Market Shifts: Revenue, Agents, and Context

**Podcast:** INNOQ Podcast
**Published:** 2026-03-17

## Transcript

Ja, dann begrüße ich alle ganz herzlich zu unserer ersten Runde von unserem AI News Talk.
Ein neues Format, was wir mal ausprobieren, um uns mit der etwas erhöhten Geschwindigkeit zu beschäftigen, die diese ganze Bereich mit sich bringt.
Und before ich reinsteige, begrüße ich den Ole.
Hallo Ole.
Hallo Fabian.
Schön, dass du dabei bist und dich bereit erklärt hast, mit mir ein bisschen den Redebedarf zu stillen.
And wir fangen mit der kurzen Vorstellung an, damit ihr wisst wer hier sitzt.
Ole war ja auch schon ein bisschen häufiger hier im Kanal, ich auch ein paar Mal, aber wir fangen nochmal an.
Vielleicht magst du kurz sagen, warum wir über das Thema quatschen, was dich gerade beschäftigt.
Genau, in dieser Kombination hat man uns, glaube ich, noch nie gesehen im Mineral Crew Podcast.
Wir sind aber beide im Bereich AI unterwegs und es war uns halt auch einfach ein Anliegen, ein bisschen Orientierung über diese Flut von News zu geben, weil ich glaube, das ist etwas, womit alle gerade Probleme haben, in dieser Menge einen Überblick zu bewahren.
Genau, also du hast schon richtig erfasst, wir beschäftigen uns beide damit, sowohl in der Anwendung als auch in der Analyse, was es denn bedeutet.
Genau, ich mache häufig auch immer Beratungen in Teams, wie man Teams aufbaut, wie Teams vernünftig zusammenarbeiten und natürlich hat das einen Riesenimpact und alle fragen gerade, was bedeutet denn das jetzt für unsere Arbeit und deswegen wollen wir einfach am Ball bleiben und den Austausch hier ein bisschen vorantreiben.
Genau, wir wollen einfach immer so ein paar Themen, die in den letzten Wochen aktuell waren, einfach ansprechen, gucken, was wir davon halten.
Bei neuen Geschichten, die rausgekommen sind, ob wir sie schon ausprobiert haben, was wir für Erfahrungen mitgenommen haben.
Und dann gucken, ob wir dann manchmal vielleicht auch so ein bisschen in die Metadiskussion abdriften.
Wir werden sehen, wohin uns das führt.
Für heute haben wir so ein bisschen einfach neuere Models, die wir ausprobiert haben, mit denen wir arbeiten, mitgebracht, was Anthropic Neues gemacht hat mit Opus 4.6, das war spannend.
Dann natürlich jetzt die LGT-Modelle.
Was haben wir in letzter Zeit da mitgenommen, gerade was jetzt 5.3 Codex angeht und eben jetzt gerade ganz frisch eben auch 5.4.
Und dann ja momentan geht es ja auch so ein bisschen los, was das Personalkarussell angeht.
Da sind auch noch so ein paar spannende Dinge passiert.
Da gucken wir vielleicht auch nochmal drauf, was das für Auswirkungen haben könnte.
Und zu guter Letzt haben wir noch ein Paper, was glaube ich tatsächlich sogar von der ETH Zürich ist, hast du gesagt, also aus deiner Nähe.
Vielleicht kann man das mal ein bisschen ansprechen.
Das fand ich sehr spannend.
Da geht es um die Agents MD.
Gut, fangen wir mit den Themen an.
Du hattest was mitgebracht, was Anthropic angeht.
Und da geht es um Umsatz und Geld.
Genau, es sind eigentlich zwei Themen.
Also, wie ich dazu kam, dass ich mich damit beschäftige, weil zum einen, wir haben ein paar Ausfälle Anfang der Woche und Ende letzter Woche gesehen, die tatsächlich sehr nervig waren, weil man Claude Code einfach für, ich glaube, Donnerstag, Freitag letzte Woche kaum nutzen konnte und es auch viele Kollegen schon bei der Arbeit gestört hat.
Und auf der anderen Seite hat Anthropic neue Umsatzzahlen veröffentlicht für den März 2026 und da waren sie schon bei 10 Milliarden Umsatz.
Und das muss man sich verdeutlichen.
Sie haben seit 22 eigentlich mindestens jedes Jahr eine Verzehnfachung ihres Umsatzes erreicht, also von 10 Millionen auf 100 Millionen auf eine Milliarde auf jetzt fast 20 Milliarden.
Das Witzige ist, Mitte letzten Jahres hatten sie eigentlich 30 Milliarden Umsatz für Ende 26 angepeilt und werden das Ziel, okay, das Ziel ist schon wieder aktualisiert werden, jetzt auf 100 Milliarden.
Okay.
Bescheidene Schritte.
Aber sie haben eigentlich schon das Jahresziel fast Ende März erreicht.
Und auf der einen Seite muss man halt sagen, oder sich die Frage stellen, ob sie vielleicht etwas zu schnell wachsen.
Es gab vor auch drei, vier Wochen ein längeren Podcast mit DwarCash und Darius Amaday, dem CEO von Anthropic.
Und da war halt auch thematisiert worden, dass Anthropic die AI-Firma ist, die das geringste, also die am geringsten in Rechenzentren investiert hat.
Darum, vielleicht sehen wir da langsam ein Ende des Wachstums, beziehungsweise, dass sie in Probleme laufen, ihre Interferenz zu bedienen.
Okay, weil sie einfach nicht genug bestellt haben, meinst du, und jetzt einfach nicht mehr so schnell skalieren können, weil sie einfach keine Hardware mehr bekommen, oder?
Genau, ich glaube, sie sind selber ein bisschen, also sie streiten das natürlich ab und selber ein bisschen von dem Street, von dem Speaker Skalierung überrascht und waren eher auf der vorsichtigen Seite, weil das, was die Bestellungen angeht.
Also sie betreiben ja keine eigenen Rechenzentren, sondern mieten das bei den Hyperscalern, also Microsoft, Amazon.
Und aber auch die brauchen halt Zeit, solche Rechenzentren zu bauen, vorzuhalten, zu entwickeln.
Und da waren sie wohl tatsächlich etwas zu vorsichtig, so wie es gerade aussieht.
Okay, ja, da bin ich auch wirklich gespannt.
Also bisher hatte ich tatsächlich mit der Stabilität bei Cloud Code keine Probleme jetzt persönlich.
Deswegen finde ich es ganz spannend, dass du es erwähnst.
Aber vielleicht habe ich dann immer genau diese Slots dann nicht erwischt.
Oder wir waren dann halt immer unterwegs, wenn gerade nicht Nordamerika unterwegs war.
Das kann natürlich auch sein.
Ja, interessant.
Ja, gerade bei diesen bei diesen riesigen Investitionssummen fragt man sich ja immer eher irgendwie ist das jetzt alles natürlich nur irgendwie Luftinvestorenkohle, was sie dann da jetzt quasi in diese Umsatzzahlen reinschreiben.
Ich weiß nicht, wie du das siehst.
Also, ich habe eher das Gefühl, dass gerade bei Anthropic eben die vielen Kunden haben, die das wirklich produktiv einsetzen.
Was sie dann damit produzieren, natürlich nochmal ein anderes Thema, aber sie produzieren was und sehen einen Wert da drin.
Deswegen hätte ich tatsächlich bei diesen Umsatzzahlen jetzt auch gar nicht so viel bedenken, dass das irgendwie alles nur Luft ist, ne?
Oder wie würdest du das sehen?
Ja, ich denke, dass da muss man zum einen die Umsatzzahlen von den Investitionszahlen trennen.
Bei den Investitionszahlen habe ich deutlich größere Zweifel.
Wobei im Moment ich auch noch gar nicht so den Trend zur Blase sehe, muss ich sagen.
Also, was ja häufig so eine Blase ausmacht, ist, dass die Infrastruktur nicht genutzt wird.
Das klassische Dark Fiber, was man aufgebaut hat während der Dotcom-Blase oder diese Eisenbahnlinien im Eisenbahn, in der Eisenbahnblase Anfang des 20.
Jahrhunderts in Amerika.
Zurzeit werden diese Rechenzentren alle komplett bis zum letzten Bit genutzt und alles läuft heiß und 24-7.
Ich kann mir natürlich vorstellen, dass durch große Fortschritte im Chipdesign oder durch einen ganz neue Architektur passieren kann, dass Dinge auf einmal deutlich einfacher und deutlicher preiswerter werden und deshalb die ganze Kalkulation nicht so aufgeht.
Auf der einen Seite bin ich mir relativ sicher, Anthropic, sag ich, Nvidia ist definitiv überbewertet.
Das ist so ein bisschen so wie das Cisco damals zu Dotcom-Blase.
Da der Aktienkurs, der wird es nicht so weiter steigen.
Das ist ja nicht unrealistisch.
Ja, das ist nochmal wichtig, das voneinander zu trennen, die Investitionen und tatsächlich die Umsätze, die sie wirklich generieren.
Naja, bei den Investitionen, da wäre ich auch sehr vorsichtig, was da, was da immer verkündet wird.
Okay, ja, wo wir gerade bei Anthropic sind und bei Innovationen, wir hatten gesagt, es gab so in den letzten Wochen da auch ein bisschen Model-Aktualisierung.
Also ich erinnere mich da halt eben an das Opus 4-6, was mich nochmal so ein bisschen überrascht hat, als ich mich gerade vorbereitete auf einen Training, was wir ja zu dem Thema auch geben und ich dann quasi am Tag vorher nochmal alles durchgegangen bin und dann plötzlich sah, oh, jetzt kommt hier plötzlich schon wieder neue Model-Switcher in Cloud Code, schon wieder ein neues Modell und dann kam Opus 4.6 und ich musste erstmal die Pressemitteilung suchen, was jetzt eigentlich das schon wieder bedeutet.
Und hab dann damit eben aber auch gleich ziemlich viel ausprobiert und auch gerade eben, weil da jetzt ja auch diese längere, also da noch das größere Kontextwindow mit drin ist und ich hatte dann wirklich das Gefühl, es sind ja immer alles erstmal nur Gefühle, bevor man keine Daten hat, aber das Gefühl, dass tatsächlich viele Dinge damit nochmal, dass es nochmal ein Schritt nach vorne ist zu dem Opus 4.5.
Hast du da schon längere Erfahrungen jetzt mit machen können?
Also den Vergleich so ein bisschen angestrengt zwischen 4,5 und 4.6.
Also meine Erfahrungen sind zumindest, also es ist ja ein neues Feature damit auch zur Agent-Teams gekommen.
Dem habe ich schon mal ein bisschen rumgespielt im Bereich der Legacy-Modernisierung.
Und was mir auffällt, ist, dass Agents über längere Zeiträume jetzt autonom laufen können.
Also ich denke, das ist zumindest das, was mir direkt aufgefallen ist von 4.5 zu 4.6, dass der Zeitraum von autonom laufenden Agents sich deutlich verbessert hat.
Hängt bestimmt auch mit dem größeren Kontext-Window zusammen, dass sie weniger Autokompacten müssen.
Und dass die neuen Laufzeiten zu, ja.
Wie war das denn beim Training?
Hast du Auswirkungen gesehen?
Waren die Aufgaben jetzt auf einmal zu leicht, müssen uns zwei Aufgaben fürs Training überlegen?
Naja, es war ja schon so, dass wir, wir haben da ja so eine Vibecoding-Übung, die eigentlich zeigen soll, dass Vibecoding nicht so eine gute Idee ist.
Und da die funktionierte ja mit 4.5 dann schon eigentlich sehr gut, wo man eigentlich immer darauf hinaus wollte, dass das nicht so gut funktioniert.
Aber mit 4-6 hat das natürlich mindestens genauso gut funktioniert und diese Übung konnte dann auch tatsächlich fast von jedem Teilnehmer, glaube ich, erfolgreich abgeschlossen werden.
Also wenn man das als Erfolg sieht.
Genau.
Aber das fand ich wirklich schon bemerkenswert.
Also ich habe jetzt da für mich war das jetzt einfach eine Evolution, keine Revolution.
Aber das, was du mit den mit den langlaufenden Agents sagt, das ist ja sowieso etwas, was sich gerade so ein bisschen abzeichnet, dass es immer mehr darum geht, auch die Qualität von Modellen danach zu bewerten, wie lange können sie eigentlich, wie lange kann ein Agent mit diesem Modell arbeiten, ohne sich irgendwo in der Ecke zu manövrieren.
Und ich finde, das ist tatsächlich auch ein ziemlich gutes, guter Benchmark, um das zu bewerten.
Ja, aber das fand ich tatsächlich interessant, aber ja, in dem Umfeld kann man sich noch so gut vorbereiten.
Man wird immer überrascht, auch noch ein Tag vor oder während einer Veranstaltung, dass dann da die Versionen sich, die Versionszahlen sich ändern.
Bin ich, bin ich mal gespannt, wann denn dann mal vielleicht wieder ein größerer Schritt, was diese Opus-Familie angeht, kommt, ne?
Und nicht nur ein Punktupdate, sondern sich da wirklich wieder signifikant was verändert.
Ich muss ja persönlich sagen, dass meine Begeisterung für neue Versionen von neue Major-Versionen von Sprachmodellen gar nicht mehr so groß ist.
Ich habe das Gefühl, für die meisten Fälle sind sie good enough und die größeren Sprünge sehen wir mittlerweile im Tooling und in der Anwendbarkeit.
Also ich könnte, glaube ich, auch mit einem Opus 4.5 sehr gut arbeiten und ich weiß gar nicht, ob wie viel jetzt der längeren Agent-Zyklen durch ein verbessertes Claude Code und verbesserte Agent Harnes oder eine Agent Loop gekommen ist und wie viel durch das neue Modell tatsächlich gekommen ist.
Ja, stimmt, das verschwindet so ein bisschen, ne?
Ja.
Ja, das meinte ich gerade.
Das ist eher so ein bisschen Evolution, ne?
Nicht mehr so Revolution, ne?
Ja, beziehungsweise sie sind einfach auch good enough, ne?
Ja, ja.
Also ich glaube schon, dass sie irgendwie in Rand und Spitzgeschichen besser geworden sind, aber sie sind mittlerweile aus einem in eine Größe gewachsen, das mich in meinem Alltag nur noch wenig berührt, um ehrlich zu sein.
Ja.
Gut, das ist dann vielleicht auch so ein bisschen unsere Blase jetzt.
Wir haben quasi jetzt unsere Anwendungsfälle gerade so ein bisschen gefunden, auf die wir uns halt spezialisieren.
Und da haben wir jetzt quasi so ein bisschen den Sweetspot entdeckt und haben jetzt quasi so ein Level erreicht, wo wir unsere Anwendungsfälle damit abbilden können.
Und jetzt geht es dann wahrscheinlich eher wieder darum, was ist denn dann überhaupt außerhalb dieser unserer Softwareentwicklungsbubble denn noch möglich.
Das ist natürlich jetzt so ein bisschen dann unsere Filterblase.
Aber da würde ich dir zustimmen, das ist tatsächlich eher schrittweise und das Tooling ist das Interessante, was sich gerade tut.
Ich meine, das ist ja auch so eine Sache, die man häufiger sieht, dass dann halt, wenn, wenn in der Basistechnologie halt noch kleinere Schritte sind, dass man natürlich dann über Optimierung dann noch extrem viel rausholen kann.
Also wenn sich die, wenn die Hardware nicht schneller wird, haben sich im Gaming auch immer die Engines verbessert, ne?
Man hat dann immer mehr aus der bestehenden Hardware rausgeholt und vermutlich ist es hier auch immer so ein abwechselnder Zyklus dann, ne?
Ich glaube, da hast du völlig recht.
Man sieht ja auch, dass Entropic so ein bisschen sein Geschäftsmodell jetzt ändert, oder beziehungsweise, sagen wir mal, andere Geschäftsbereiche ins Visier nimmt.
Also, wir hatten jetzt im Februar, glaube ich, war es auch der Release von Claude für Excel und Claude für PowerPoint, oder war es vielleicht schon Januar, aber auf jeden Fall der Geschäfts- und Backoffice-Bereich nimmt eine viel höhere Priorität ein, nachdem sie ja de facto wahrscheinlich der Marktführer im Bereich Coding jetzt schon sind.
Ja klar, da wollen sie natürlich sich jetzt auch diversifizieren, also dass sie da jetzt einfach diese Branche schon relativ gut im Griff haben, versuchen sie natürlich jetzt schnell wahrscheinlich in andere Bereiche reinzuwachsen.
Da bin ich dann wirklich gespannt, wie dann da der Erfolg ist.
Weil ja, ich glaube, es ist nicht umsonst so.
Wir hatten vorhin im Vorgespräch kurz über Benchmarks geredet und dann auch eben den Punkt gehabt, dass die meisten Benchmarks, die relevanten, jetzt irgendwie was mit Softwareentwicklung zu tun haben und gar nicht mit anderen Dingen.
Und da bin ich gespannt, wie misst man denn dann Erfolg in Office-Tasks oder ne?
Wie kann man das dann wirklich auch in Benchmarks dann auch vergleichbar abbilden, um da herauszufinden, wie da die Verbesserungen sind.
Das finde ich, finde ich schon interessant, weil Softwareentwicklung ist relativ einfach.
Du kannst gucken, am Ende hat kompiliert die Software, hat erfüllt sie ihre Tests, die ich vorher definiert habe, dann war das Modell erfolgreich.
Das kannst du natürlich schön in den Benchmark überführen.
In den anderen Bereichen bin ich mir da nicht so sicher.
Ich weiß nicht, kennst du da schon konkret was, was es so an anderen Benchmarks gibt.
Es gibt tatsächlich eine Unmenge an Benchmarks tatsächlich.
Bekannt, gerade am Anfang war dieses Bar-Exam aus den USA, also das Studienzulassungsprüfung ist das, glaube ich.
Nee, es ist eine Zulassungsprüfung fürs Jurastudium, glaube ich.
Okay.
Das ist aber längst geknackt, das ist schon keine Herausforderung mehr.
Relativ bekannt, was in letzter Zeit mal immer wieder häufiger gefeat wird.
Anthropic hat so eine Vending-Maschinen-Business.
Ja, davon habe ich den diese Vending-Maschines betreiben lassen.
Und das ist zurzeit eher häufiger noch ein Meme, weil Anthropic halt auch die ganzen Outtakes davon veröffentlicht.
Aber das ist einer der sehr komplexen und sehr großen Benchmarks.
Aber ich glaube, es gibt in fast jedem Feld, ob es Medizin, ob es Mathematik ist, ob es auch Geschichtswissen ist, mehr als genug Benchmarks.
Es ist eher interessant, ob man dann den Benchmark für seinen Anwendungsfall findet.
Also wir machen ja auch teilweise so AI-Anwendungen und ich stelle mir immer die Frage, wie Benchmarke ich denn jetzt die Entwicklung, wie sehe ich, dass meine Anwendung auf dem richtigen Track ist.
Und gerade wenn man so Nischenfelder hat, da hat man es dann viel schwieriger, einen guten Benchmark zu finden, um zu sehen, ob man überhaupt sich in die richtige Richtung entwickelt.
Ja.
Ja, dann ist es vermutlich einfach meine Filterblase, dass ich mich immer nur mit den Coding-Benchmarks beschäftige.
Gut, okay, jetzt haben wir so ein bisschen Anthropic gehabt.
Ich muss zugeben, ich bin bei den OpenAI-Modellen immer nicht so aufstand.
Also ich hatte natürlich mitbekommen, was mit GPT-Codex 5.3 oder 5.3 Codex passiert war, das ja Anfang Februar rauskam.
Und dann kam, wurde jetzt ja dann gleich 5.4 Herausforderungen.
Hast du da schon eine Chance gehabt, da einen Vergleich anzustellen?
Also ich habe tatsächlich nur da auch nur die Pressemitteilung rezipiert und jetzt nicht genau geguckt, ein bisschen auch aufgrund des Themas, was wir gerade hatten, man hat so seinen Anwendungsfall gefunden.
Ich komme sehr gut mit den Anthropic-Modellen klar, deswegen bin ich da immer nur so am Rande beteiligt.
Hast du da eine Chance gehabt, schon reinzuschauen?
Ich habe ein wenig reingeschaut, aber auch längst nicht so viel Erfahrung wie mit den Anthropic-Modellen.
Was mir aufgefallen war, ist, dass die ChatGPT-Modelle, und ich glaube, das ist aber ein allgemeiner Trend, sich besser an Anweisungen halten, die der User gibt.
Mit dem Preis, dass sie sich schneller aber auch in irgendwelche Ecken verfahren, wo sie nicht so rauskommen.
Sie sind halt nicht so experimentierfreudig, um sich zu versuchen, jetzt aus ihrem Loch wieder eine Leiter rauszubauen, während die Anthropic-Modelle da deutlich experimentierfreudiger sind, mit dem Preis, dass sie halt weniger an Anweisungen hören.
Ich denke aber, das ist einfach ein Trade-Off, den man machen muss.
Und ich kann mir halt vorstellen, dass je nach Anwendungsfall und je nach Spezifikationsstand das eine oder andere Modell besser taugt.
Ja, hatte ich jetzt auch vom Kollegen so das Feedback bekommen, der meinte, dass das in dem Fall Anthropic-Modell ist tatsächlich sich sehr gut aus Ecken wieder rausmanövrieren kann, weil es dann sogar mal irgendwann entscheidet, okay, ich schmeiß alles weg, was ich bisher gemacht habe, das funktioniert so nicht, ich muss nochmal neu, so ohne dass sowas jetzt mittlerweile auch häufiger passiert und sie nicht mehr so stecken bleiben, ne, genau.
Aber vielleicht nur der Vollständigkeit halber, was OpenRI selber sagt, ist halt auch, dass sie in 5.4 halt im Grunde eigentlich ihr 5.3 Kodex rückintegriert haben, um sozusagen diesen Split nicht mehr zu haben zwischen ihrem normalen Chat-GPT und eben dem Codex-Modell, sondern dass sie das versucht haben zu vereinheitlichen in eins.
Das ist so ein bisschen das, was sie da versprechen.
Und ansonsten ist es eben auch wieder nur eine kleine Evolutionsstufe.
Genau.
Und was mich auch interessant fand, dass sie da eben jetzt auch die eine Million Tokens-Kontext mal eben auch mit drin haben.
Das fand ich auch spannend.
Genau, dass der allgemeine Trend.
Eine Million Token-Kontext-Window.
Also Google war da ja schon lange, die waren ja Vorreiter.
Genau.
Enthropic und Chat-GPT.
Also ich glaube, technisch haben sie es auch schon vorher gekonnt, ist es eine Frage auch der Kosten.
Genau, ist einfach wahrscheinlich ein Trade-off, ne?
Und was sie dann eben auch sagen, genau das, was du vorhin auch gemut machst hast, dass deswegen eben die Laufzeit, dass sie wirklich längere Problemstellungen in einem Durchlauf bearbeiten können, halt eben auch sich mit diesem Kontextfenster, diesem Erhöhten halt eben, also in Abhängigkeit davon eben erhöht, ne?
Und dass es so diese Durchlauflänge dann eben sich auch erweitert durch den größeren Kontext.
Nur der Zusammenhang ist auf jeden Fall da, sagen sie zumindest.
Und die Erfahrung wird dir das bestätigen.
Okay.
Sollen wir noch mal ein bisschen über das Personalkarussell reden?
Da hat sich ja auch einiges getan in letzter Zeit.
Das wäre auf jeden Fall wichtig, ne, genau.
Womit möchtest du anfangen?
Können gerne mal mit Gwen anfangen.
Das ist das bekannte chinesische Open Source Modell, was ja quasi Basis von fast allen Open Source-Lösungen ist.
Und da gibt es nicht so gute Nachrichten, weil sie ihren Tech-Lied verloren haben.
Also der, ich werde bestimmt seinen Namen falsch aussprechen, Yu Yang Li, war eigentlich immer so das offizielle Gesicht und das Tech-Lied, der ist gegangen und kurz darauf haben auch zwei weitere von ihren Hauptforschern erklärt, dass sie die Firma verlassen werden.
Über die Gründe wird ein bisschen spekuliert, das ist unklar.
Aber ich mache mir halt schon ein bisschen Sorgen, weil es schon das wichtigste Open Source-Modell war und ich hoffe, dass sie jetzt eine anderen, einen anderen Weg finden, weiter Open Source Modelle in derselben Qualität zur Verfügung zu stellen.
Du hattest aber auch noch was über Weggänge von OpenAI gefunden.
Ja, genau, das war der, das passt so ein bisschen da rein.
Also, ich meine, das hängt vermutlich auch mit der ganzen globalen Weltlage zusammen und den Verwerfungen, auch gerade den politischen Verwerfungen, die da passieren.
Das war jetzt in dem Fall der Max Schwarzer, der von OpenAI jetzt dann weggegangen ist und aber auch gleich im gleichen Atemzug zu Anthropic gewechselt ist.
Also die da ist der Austausch relativ rege.
Und der war da relativ zentral, zumindest nach eigener Aussage in seinem Tweet, den er dazu verfasst hat, bei OpenAI werden diesen wichtigen Innovationsschritten eben auch beteiligt.
Also er hat noch was geschrieben mit One damals, mit der O One-Preview, die ja schon wirklich signifikant war.
Und da hat er also am Post-Training mitgearbeitet.
Und ist tatsächlich jetzt aber auch im Grunde ohne Angabe von Gründen zu Anthropic gewechselt und hat halt einfach nur gesagt, ja, meine ganzen Buddies, die sind auch schon da.
Also im Grunde hat er gesagt, alle, mit denen ich zusammengearbeitet habe, gerne sind zu Anthropic gewechselt.
Jetzt bin ich auch mal hinterher.
Und das kann ja schon so ein bisschen so ein Signal sein, dass es gibt ja gerade immer mehr so diese Boykottaufrufe gegen OpenAI, einfach weil sie offiziell gesagt haben, wir machen halt hier, wir gehen all in, was Militär angeht.
Und das fanden natürlich viele Anwender nicht gut, die jetzt gesagt haben, okay, nee, das ist für uns, wenn man das wirklich so offen sagt, ein Grund zu wechseln oder zumindest den Protest auszudrücken durch mit dem Geldbeutel.
Und das geht natürlich aber an beide Seiten.
Das geht natürlich auch ins eigene Personal, die da vielleicht entsprechende, ihren entsprechenden moralischen Kompass dann da entsprechend kalibrieren, dass sie dann sagen, okay, da möchten wir jetzt nicht mehr mitgehen mit dieser offensiven Aussage.
Und da bin ich mal gespannt, ob das eben, ob das jetzt wirklich so ein so ein Strom ist, der dann quasi noch andere mitreißt.
Aber ich habe so ein bisschen das Gefühl, es gab da einige Wechsel und hauptsächlich in diese Richtung.
Also, man sieht wenig Leute, die zu OpenAI gehen.
Jetzt mal abgesehen von dem prominenten Beispiel mit Peter Steinberger von OpenClaw, der jetzt zuletzt gewechselt ist.
Aber ansonsten so von den, von den von dem Research-Personal sind eigentlich eher Abgänge zu verzeichnen.
Oder was ist dein Eindruck?
Ja, auf jeden Fall, dass das OpenAI sich so ein bisschen von ihrer von ihrer Grundstory verabschiedet haben.
Ich meine, sie waren ja früher mal ein Non-Profit-Unternehmen, was nur zum Guten der Welt arbeiten wollte und sie auch nicht unter Druck setzen lassen wollte, bis jetzt im letzten Schritt, dass sie Atropic bei dem Konflikt mit dem US-Verteidigungsministerium of War ausgebotet haben.
Ich glaube halt auch, dass das sehr viel Ärger innerhalb der eigenen Belegschaft auslöst, gerade mit der Option, dass die Leute ja, also gerade ihre Top-Forscher überall hinwechseln können und eigentlich sofort eine Stelle kriegen.
Genau, den Konflikt hatten wir gar nicht so bis jetzt thematisiert.
Kurz zusammengefasst, also Anthropic war eigentlich der ausgewählte Supplier des US-Kriegsministeriums, wollte dann aber nicht mehr mitgehen, wenn es darum ging, volle autonomische Waffen- und Massenüberwachung mit Anthropic-Modellen zuzulassen, was dann zu einem Schlagabtausch mit dem Pete Hexas, dem Kriegsminister, Kriegsmonga der USA zu tun hatte.
Und letztendlich sind sie jetzt, glaube ich, sogar als Supply Chain Risk.
Was bedeutet, dass eigentlich keine Firmen, die irgendwas mit dem US-Verteidigungsministerium zu tun haben, also auch keinen Hyperscaler, kein Microsoft, kein Amazon, irgendwas mit Anthropics zu tun haben kann.
Was auch wieder lustig ist, weil sie gleichzeitig mit einem Defense Act Defense Production Act bedroht wurden, wo sie gesagt, also in den USA gibt es den Mechanismus, wenn eine Firma kriegsentscheidende Güter herstellt, dann kann sie dazu verpflichtet werden, was fürs Verteidigungsministerium zu tun.
Und das ist natürlich ein Widerspruch in sich, wie kann sie totale Wichtigkeit für das Verteidigungsministerium haben.
Und auf der anderen Seite darf kein anderer Firma mit ihnen zusammenarbeiten.
Ich glaube, der Pete Hexas hat sich da so ein bisschen das Rechtsverständnis seines Chefs zu eigen gemacht.
Das kann man es auch sagen, ja.
Ich habe nicht das Gefühl, dass er damit durchkommt.
Also Gegenklagen laufen da schon.
Ich hätte jetzt auch noch nicht gesehen, dass große andere Firmen von Anthropic abrücken, obwohl sie es eigentlich müssten.
Ich glaube, das hat vor Gericht einfach kein Bestand.
Ja, wirklich interessant wäre es ja halt wirklich nur, wenn die Hyperscaler ihnen keine Ressourcen mehr zur Verfügung stellen dürften.
Und das wäre halt einfach so eine starke Disruption, dass das glaube ich einfach, da würde so viel Wirtschaftskraft, glaube ich, Gegendruck aufbauen.
Egal aus welcher politischen Richtung, damit würden sie wahrscheinlich nicht durchkommen.
Ja, aber vielleicht hilft es in dem Fall Anthropic eben auch, dass sie wirklich wahrscheinlich relativ divers sind, was ihre Kunden angeht und eben nicht so als Contractor von wenigen großen Kunden abhängig sind.
Ob das nun quasi bei Anthropic alles so ist, dass sie dass sie das wirklich so sehen und dass das wirklich ihre moralischen Werte sind, weiß man natürlich nie.
Auf jeden Fall war es ein richtig, richtig guter Marketing-Coup, glaube ich.
Also das hat man, also ich habe das nur gesehen.
Ich glaube, ChatGPT war ja lange im App-Store, relativ weit oben.
Also im Apple App Store und Claude war irgendwo, glaube ich, unten in den 100ern oder sowas unterwegs und dann sind die quasi auch rapide im App-Store nach oben geschnellt.
Also marketingmäßig hat sich das auf jeden Fall gelohnt.
Genau, was dahinter steckt, weiß man natürlich immer nicht so genau.
Ja, ich bin, ich bin auch kein, also nur weil der eine falsch ist, ist der andere nicht richtig.
Ich bin kein so großer Fan von dem Amaday.
Das muss man dazu sagen.
Aber er hat auf jeden Fall die Aufmerksamkeit auf einen ganz wichtigen Punkt gelenkt.
Ich glaube, das war ein Thema, was zu wenig Aufmerksamkeit in der Öffentlichkeit bekommen hat und das hat sich jetzt halt rapide geändert.
Jetzt wird viel darüber diskutiert und bin eigentlich positiv, dass da was Gutes bei rauskommt.
Ja, das wäre, glaube ich, auch so mein Eindruck.
Also da, dass sich das so ein bisschen ausnivelliert.
Okay, ja, spannend, was da personalmäßig so abgeht.
Genau, wir wollen ja nicht ganz so lang uns immer aus, obwohl wir, glaube ich, ganz viele Themen hätten, uns noch ausfransen zu lassen.
Ein Thema wollte ich aber auf jeden Fall noch ansprechen, nämlich das Paper, wo es um die Agents MD geht, beziehungsweise um Repository-Level Context-Files und ob die denn hilfreich sind für unsere Agenten.
Weil nämlich, naja gut, wir haben es eben gesagt, wir sind beide irgendwie auch als Trainer unterwegs für das Thema und sagen natürlich immer, dass der Kontext, den man in seinem Repository aufbaut für den Agenten, ist total hilfreich.
Und jetzt sagt uns jemand in einem Paper, ist vielleicht gar nicht so hilfreich.
Das ist natürlich für uns super relevant.
Wie hast du denn das Paper wahrgenommen?
Ich habe gehört, du hast da, hast da Connections hin zu den Leuten oder zumindest sitzen sie nebenan bei dir.
Ich kenne sie über Ecken.
Ich habe einen guten Freund, der an der ETH seinen PhD in Machine Learning macht.
Und der kennt auch, also er ist nicht direkt unter dem Professor, aber der Professor ist an der ETH einfach bekannt, weil er in ganz vielen Bereichen große Paper rausgebracht hat in letzter Zeit und einer der ist, der so die meisten Views für die ETH generiert.
Und das Paper war recht interessant.
Sie haben halt untersucht, wie sich an einem Subset des SWE-Banchmarks, die sich an Tropic-Modelle, glaube ich, hauptsächlich, damit schlagen, wenn man ihnen entweder gar kein Kontextpfeil, also keine Agent-MD mitgibt oder Claude MD, wenn man ihnen eine autogenerierte oder eine Menschengenerierte mitgibt.
Und das Überraschende war eigentlich, dass die autogenerierten Agent oder Claude MDs fast immer zu einer deutlichen Verschlechterung führten.
Also so im Bereich von 20%, auch zu 20% höheren Kosten.
Und das eigentlich die Menschen geschriebenen konnten eine leichte Verbesserung bringen, aber auch nur so im Bereich weniger Prozentpunkte, bei trotzdem 20% höheren Kosten.
Und das aus diesem Paper raus, also gut, es ist Forschungsbetrieb, es ist nur ein Paper, wir müssen jetzt abwarten, ob sich das in anderen Papern bestätigt.
Das wird bestimmt auch nochmal nachvollzogen werden.
Aber ihr Fazit war eigentlich, dass man im Zweifel von den Agent MDs und Claude MDs vielleicht besser den Finger lassen soll, die Finger davon lassen sollte.
Was mich so ein bisschen an Richard Sutton Bitter Lesson erinnerte, das Paper, was sagt, immer wenn Menschen eigentlich auf Versuchen auf AI-Modelle, also er kam eher aus dem aus der Richtung des klassischen Machine Learnings und das ist ein Paper basiert auf den Erfahrungen von AlphaGo, dass sie sagten, immer wenn Menschen versucht haben, AlphaGo anzuleiten oder zu steuern, dass es schlechter wurde, als wenn man das Model einfach selbstständig machen lässt.
Ja, das wäre auch so ein bisschen, also so ein bisschen dachte ich, ja, ist ja eigentlich irgendwie Captain Obvious, wenn ich halt einfach das Modell etwas generieren lasse, wo ich mich selber nicht mit beschäftige und das halt quasi dann erwarte, dass im nächsten Durchlauf das Modell dann irgendwie besser wird.
Also, wenn ich dann ihm diesen Kontext mitgebe, den das Modell vorher generiert hat.
Warum tue ich denn das dann überhaupt?
Also dann kann ich das Modell auch einfach eine Iteration länger laufen lassen.
Da hätte ich halt höchstens noch ein bisschen Zeit gespart, weil das halt nicht jedes Mal passieren muss, ne, und ein bisschen Token gespart.
Aber gehe dann im Grunde auch das Risiko ein, dass ich dann eben Widersprüche aufbauen, weil eventuell in der Agents MD dann was drinsteht, was das Modell, wenn es jetzt selbst in den Code geguckt hätte, leicht anders interpretiert hätte.
Und dann habe ich da Widersprüche und dann führt das genau wie das Paper halt sagt, dann wie im Grunde zu längeren Zyklen und mehr Tokens, die verbraucht werden, weil wahrscheinlich dann eben auch diese zusätzliche Informationen wieder zusammengeführt werden müssen und wieder in den Kontext gesetzt werden müssen.
Deswegen wäre das so auch, finde ich schön, dass sie das quasi nochmal jetzt zumindest wissenschaftlich aufgearbeitet haben, was so mein Gefühl war, dass ich dachte, okay, ich schreibe lieber sehr, sehr knapp die Sachen, die mir wirklich wichtig sind, da per Hand rein, als mir das einfach stumpf generieren zu lassen und dann es nicht nochmal zu überarbeiten.
Oder vielleicht ist der Kompromiss dann auch einfach, sich was generieren zu lassen, aber dann wirklich radikal durchzugehen und Sachen wegzustreichen, wo man sich denkt, das ist redundant.
Aber wahrscheinlich gilt auch da, den Kontext, den ich per Hand sehr explizit aufbaue, der ist natürlich mehr wert, als welchen, den ich dann, den ich da nur generiere.
Ja, fand ich auch super spannend, was dabei rauskam.
Hast du natürlich recht.
Eigentlich sollte man das reinschreiben, was er bei der Autogenerierung vergessen hat.
Das wäre ja doch eigentlich der richtige Indikator.
Was konnte das Modell nicht selber rausfinden?
Was müsste ich deshalb in meine Clot-MD reinschreiben?
Genau, das ist halt das.
Und ansonsten, ja.
Muss allerdings gestehen, dass ich meine Clot-MDs seitdem auch nicht weggeworfen habe.
Nee, es ist ja jetzt wie gesagt auch ein Paper erstmal, was sich damit beschäftigt.
Und ich bewege mich ja halt auch meistens eher in so größeren Legacy-Codebases.
Und das ist ja auch so ein bisschen was, ich meine, sie sind jetzt quasi schon hergegangen und haben dieses Subset benutzt, haben aber auch noch, so wie ich es verstanden habe, sich auf GitHub eben Projekte rausgesucht, die relativ nisch noch sind, die aber auch schon so eine Agents-MD hinterlegt haben und haben die halt verwendet.
Aber das waren halt auch alles relativ kleine Projekte so, ne?
Und ich würde halt auch nochmal mutmaßen, dass jetzt innerhalb so ein so ein kleineres, innerhalb eines so kleinen Projektes es dann vielleicht auch nicht so viel bringt, so ein umfangreich generiertes Pfeil zu haben.
Aber in so einer größeren Legacy-Codebase, die ich jetzt zumindest, so habe ich es verstanden, die sie da jetzt nicht analysiert haben, kann das natürlich schon helfen, wenn ich mit so einem mit so einem Kontextfeil einem Agent vielleicht gleich in die richtige, ins richtige Subdirectory rein dirigiere, das erst sehr sich gar nicht verfranst in so einer riesigen Codebase.
Das fände ich nochmal ganz spannend, wenn es da so erstere Paper gibt, wenn da von den Hörerinnen und Hörern jemand was weiß, was in die Richtung geht, da sind wir auf jeden Fall offen.
Schreibt das gerne unsere Mailadresse.
Podcast at inumcube.com, schreibt uns gerne dahin, das interessiert mich.
Weil das ist natürlich super interessant, wie ich dann mit so Kontext Engineering da hingehen kann, dass ich eben auch mich in so Legacy-Codebases zurechtfinde.
Also das fände ich interessant, wenn da mal was kommt in der Richtung.
Das würde ich so ein bisschen als so eine Lücke sehen, die sie da in dem Paper haben.
Das sind relativ kleinere Projekte, glaube ich, die sie da analysiert haben.
Halt eben Open Source Libraries, die sie auf GitHub hatten.
Ich denke, auch so ganz hundertprozentig überzeugt hat mich das Paper nicht.
Einfach eine Basis der Methodik.
Ich hätte mir gewünscht, dass sie sich Legacy-Projekte mehr angucken, größere Codebasen und vor allen Dingen auch Greenfield-Projekte.
Also ich denke, es ist immer noch ein gutes Instrument, um sie bei einem Greenfield-Experiment am Anfang zu steuern, wo er noch gar keine Codebasis hat, die er als Vorlage oder als Beispiel nutzen kann.
Ja, ne, bin ich auch gespannt.
Also ich bin gucken, was da noch bei rauskommt.
Und vielleicht kann man dann in Zukunft mal die ETH Thürich noch mehr im Fokus behalten, was da noch kommt.
Bisher auf jeden Fall fand ich das schon einen guten guten Wurf.
Und wenn sie mit der guten Methodik so weitermachen, das noch ein bisschen verfeinern, wird das, glaube ich, wirklich spannend, was die dann noch machen können.
Okay, also ich habe jetzt, glaube ich, so von den Themen, die wir uns überlegt hatten, haben wir, glaube ich, alles angesprochen.
Hast du noch was Wichtiges, was wir vergessen haben, was du gerne noch ansprechen würdest.
Was wir nicht aufs nächstes Mal verschieben können.
Ich denke, wir sollten das auf nächstes Mal verschieben.
Wir haben noch ein paar Themen, denke ich, die man besprechen könnte, aber die können auch noch ein bisschen ein bisschen länger liegen.
Und wir können ein bisschen weiter beobachten, wie sich das entwickelt.
Und wir sollten, glaube ich, für dieses Mal Schluss machen.
Und dann hoffen wir uns, dass wir uns spätestens in einem Monat wiedersehen zu einer nächsten Runde News-Updates.
Ja, das hoffe ich auch.
Hat Spaß gemacht.
Danke, dass du mitgemacht hast und dass wir das machen konnten.
Und dann denke ich, danke ich auch allen Hörerinnen und Hörern, die dabei waren.
Schön, dass ihr euch uns eure Zeit geschenkt habt und dann hoffe ich, dass wir euch bald beim nächsten Mal auch wieder dabei haben.
Vielen Dank und bis bald.
Macht's gut.
Ciao, Ole.
Ciao.