# Google AI Exodus and Agent Harness Strategy

**Podcast:** INNOQ Podcast
**Published:** 2026-08-21

## Transcript

Herzlich willkommen zurück bei unseren AI News.
Wir sind wieder da.
Ich bin wieder da, völlig ausgeruht und voller Tatendrang.
Und ich begrüße auch den Ole wieder.
Hallo Ole.
Hallo Fabian.
Schön, dass du aus dem Urlaub zurück bist.
Ja, vielen Dank.
Das war notwendig und hat sich gelohnt.
Und ich bin jetzt auch schon wieder die Woche völlig in ganz vielen Themen gleichzeitig abgetaucht.
Das war sehr schön, dass man da wieder Energie für hatte.
Du mir ganz viele Geschichten erzählen kannst, was alles so passiert ist.
Ja, nicht ganz.
Ich konnte nicht ganz mich zurückhalten und musste zwischendurch Dinge tun.
Es gab ja auch irgendwie noch AI-Token-Budget zu verbrauchen, was ich noch hatte.
Das ist natürlich auch Quatsch eigentlich.
Aber ja, ich musste zwischendurch ein paar Sachen machen, da kann ich gleich erzählen.
Aber lass uns tatsächlich vielleicht erst mal die News der letzten Wochen durchgehen.
Da ist ja nun so einiges passiert und ich finde, da ich das gar nicht mitbekommen hatte, was wir ja letztes Mal schon so ein bisschen gemutmaßt hatten, was eigentlich mit Google los ist, warum da eigentlich gar nichts mehr kommt und jetzt gab es zumindest dort einige offizielle Veränderungen, die das vielleicht so ein bisschen erklären.
Vielleicht kannst du mich mal aufgleisen.
Ja, sehr gerne.
Wir hatten, ich glaube, die letzte Folge war es ein bisschen darüber philosophiert, warum Gemini 4 sich verspätet, also sie nur die Flash-Version rausgebracht haben und nicht die Hauptversion, die große Version von Gemini 4.
Jetzt hat sich bei Google aber ganz viel getan.
Ich glaube, vor zwei Episoden hatten wir schon kurz angeschnitten, dass Norman Chazier, also einer der Hauptköpfe hinter Attention is All You Need, gegangen ist.
Der ist zu OpenAI gegangen.
Dann hat John Jumper, der hinter AlphaFold stand und dafür auch, glaube ich, den Nobelpreis bekommen hat, der war zu Anthropic gegangen.
Genau, und jetzt hat sich das Ganze nochmal erdrutschartig beschleunigt.
Also Dennis Hasabi, der Chef von DeepMind.
DeepMind war ja immer so eine eigene Einheit in Google mit eigenem CTO und eigenem CEO.
Und genau, Dennis Hassabi war der CEO von Google DeepMind.
Total spannender Typ, war irgendwie mit 17 schon Großmeister im Schach.
Also das ist für mich eben seine größte Leistung.
Mit 17 war er Chefprogrammierer bei Bullfrog und hat Theme Park entwickelt, was ich sehr gerne gespielt habe.
In guter Erinnerung auf jeden Fall.
In guter Erinnerung.
Dann hat er zwei PhDs gleichzeitig gemacht und Google DeepMind gegründet.
Was hat er noch gemacht?
AlphaGo hat er pioniert.
AlphaFold war er einer der treibenden Köpfe dabei.
Ritter des britischen Ordens.
Er war eigentlich der Leiter des operativen Geschäfts von Google DeepMind und hat jetzt eine naja, eine strategische Position in Google bekommen, muss aber sein Day-to-Day abgeben, was viele so als kleine Entmachtung ansehen.
Also bei Isomorphic Lab, einem Wirkstoffforschungszweig von Google, ist er wohl noch der Chef.
Aber genau, jetzt soll er eher der Visionär sein und nicht mehr so der Forscher.
Genau.
Er ist also befordert worden und Google DeepMind ist ein bisschen entmachtet worden.
Jeff Dean ist gegangen, Google-Mitarbeiter Nummer 30, der so ungefähr alles Wichtige bei Google entwickelt hat, sei es MapReduce, sei es Bigtable, sei es Spanner, sei es das Google-File-System, also alles, was in ihrer Infrastruktur so lief, kommt mehr oder weniger von ihm.
Der ist auch gegangen, das wird ihm auch sehr, sehr wehtun, glaube ich.
War zuletzt Chief Scientist, hat auch das TPU-Programm geleitet.
Das ist ja super strategisch wichtig, ne?
Ja, ja.
Sein Kompagnon, Sayagamawad.
Entschuldige mich für die Ausprache des Namens.
Bestimmt falsch.
Ähnlicher Highflyer.
Die beiden waren berühmt dafür, dass sie immer Pair-Programming gemacht haben.
Steht also auch mit hinter diesem ganzen Google-File-System, MapReduce, BigTable, Spanner und so weiter.
Ist ebenfalls gegangen.
Dann Quark Lee, Gründungsmitglied von Google Brain.
Er hat ganz viel mit so neuronalen Netzen, neuronalen Netzarchitektur gemacht, Auto, LM, Neural Architecture Research, conversational AI Chatbots kommen von ihm.
Genau, der ist auch gegangen und Rail Vingels.
Der war eher wieder so ein Forschungsmensch, der Sequence-to-Sequence-Paper gemacht hat, der ein Show-and-Tell-Paper hat AlphaStar führend entwickelt, also diese Starkreft-Variante.
Die sind alle gegangen und die haben jetzt ein neues Studio aufgemacht, was witzigerweise von Google mitfinanziert wird.
Das ist wieder auch so eine...
Die Leute wollen dann was Eigenes machen und dann hält man sie so, dass man halt finanziell beteiligt bleibt, zumindest auch irgendwie.
Ja, genau.
Sie machen jetzt Discovery Loop, worum es wohl geht.
Forschungshypothesen aufstellen, sie automatisch zu prüfen, umzusetzen.
Geht halt um AI und Forschung.
Genau, aber im Prinzip ist damit jetzt fast ihr gesamtes Spitzenteam gegangen.
Einige sagen schon, das ist das Ende von Google als AI-Studio.
Auf der anderen Seite ist GCP, also ihre Hyperscaler-Cloud-Sparte, wurde sehr gestärkt.
Und man geht jetzt davon aus, dass sie halt auf Antropic setzen und einfach TPUs für Antropic produzieren wollen und einfach eher auf Infrastruktur setzen und nicht mehr das große Forschungsrad drehen.
Ja, das wirkte auf mich so ein bisschen wie, wir müssen jetzt irgendwie mal auf Shareholder-Value optimieren.
Weil das ist irgendwie ein Geschäft, was wahrscheinlich relativ safe ist.
Du hast da deine Cloud, du verkaufst dann irgendwie die Compute-Leistung da drauf und so.
Das ist total kalkulierbar, was dann da an Profit rausfällt.
Wenn du das optimierst, deine TPUs effizienter machst, dann kannst du den Leuten irgendwie dafür Sachen in Rechnung stellen.
Das wirkt für mich tatsächlich wie so ein, wir versuchen nicht mehr irgendwie in Innovation und in Risiko zu investieren, sondern irgendwie so safe bet zu machen.
Also für mich tatsächlich eher so ein bisschen traurig, weil sie wirklich da lange, lange Zeit immer diese Innovationen vorangetrieben haben.
Und das ist, glaube ich, auch, was die Leute wegtreibt.
Also intern hat man gehört, dass sie ganz schwer kämpfen mussten, um ihren Compute zu bekommen und ihre Forschung zu machen.
Und dass Google mehr und mehr zu Behörde wird.
Ja, ich weiß auch noch nicht, was ich davon halten soll.
Ja klar, wenn du intern halt irgendwie, du konkurrierst quasi intern um die Computeressourcen mit den externen Kunden.
Und dann musst du natürlich immer irgendwie noch argumentieren, warum du jetzt quasi gratis diese Leistung haben sollst, für die sie extern auch kassieren können.
Gerade jetzt, wo irgendwie Compute so knapp war und sie wahrscheinlich echt Preise dafür aufrufen konnten, für das, was sie haben.
finde ich schon irgendwie schwierig.
Also das wirkt für mich halt nicht mehr wie wir wollen langfristig irgendwas langfristig erfolgreich sein, sondern wie kurzfristige Optimierung halt.
Für die HP haben sie mehrere hundert Prozent Wachstum fürs nächste Jahr vorhergesagt, was ja auch schon mal was ist.
Ja, das glaube ich Ihnen auch auf jeden Fall.
Aber ja, Forschung scheint nicht mehr der Schwerpunkt zu sein.
Ich finde es gerade interessant, dass ja irgendwie Apple gerade voll auf Google gesetzt hat, was irgendwie ihre Modelle angeht, weil sie es selber nicht hingekriegt haben und gesagt haben, okay, wir kaufen uns jetzt gute Modelle bei Google irgendwie ein und jetzt rollt Google das wieder ein.
Ich glaube, bei Apple, da geht wahrscheinlich gerade ganz schön der Hut hoch, dass sie jetzt komplett darauf gewettet haben, dass sie irgendwie von da die tollen Modelle bekommen.
Naja, bin ich echt mal gespannt, was dann daraus wird.
Antropic wird es freuen.
Naja, die Idee, die feiern wahrscheinlich jetzt, wenn dann da ein Konkurrent irgendwie rausfällt.
Bin ich echt mal gespannt, was da raus wird.
Ja, das hatte ich tatsächlich überhaupt nicht mitbekommen.
Ich habe mich eher um den praktischen Teil so ein bisschen gekümmert, wenn ich Zeit hatte, aber die Politik habe ich rausgelassen.
Ja, ich weiß nicht, also ob du noch da Prediction hast, was mit Google passiert oder?
Nee, eigentlich nicht.
Also persönlich wundert es mich, weil eigentlich mit dem Android-Betriebssystem und dem Touchpoint zum User und mit YouTube hatten sie, glaube ich, eigentlich zwei Produkte, die gut oder die sehr gut zur AI passten oder denen eigentlich eine sehr gute Ausgangsposition für AI liefert.
Offensichtlich wollen sie es jetzt nicht mehr.
Vielleicht ist es aber auch gut.
Vielleicht hatten sie zu viele Stars und ist jetzt eher eine Teamleistung gefragt.
Schauen wir mal.
Ja, müssen wir auf jeden Fall beobachten.
Ich fände es auf jeden Fall schade, wenn da ein Container wegfallen wird.
Gerade da Google ja eben auch Open-Wades-Modelle rausgehauen hat mit den Jammer-Sachen, die ja auch wirklich echt spannend waren.
Gut, ich glaube, dann haben wir so ein...
paar größere Blöcke, paar News, wo es einfach um Agent Harnesses geht, also um Coding Harnesses oder halt auch allgemein vielleicht um einfach Agent Harness und noch ein bisschen Modell-Sachen.
Hast du einen Wunsch, womit wir weitermachen?
Wir können mit DeepSig anfangen.
Ja, gerne.
Vor einer Woche ungefähr, glaube ich, ein Harness.
Ja, ist noch relativ frisch, aber geht schon extrem ab bei GitHub.
Also nach wenigen Stunden schon 30.000 Stars und nach vier Tagen schon über 100.000 Stars gehabt.
Also gerade für so eine Infrastrukturgeschichte enorme Zahlen.
Gut, AI ist immer alles enorm.
Aber ja, sie setzen maximal auf Variabilität.
Also alles ist irgendwie ein Plug-in-System.
Du kannst alles austauschen.
Es ist ein kompletter Harness mit Session-Logs, Agent-Loop.
Tool, Scheduler, Sandbox, UI, SDK und die ganzen Kombinationen, der Agent Loop oder die Session Logs oder die Sandbox, die kannst du halt variabel rein und raus stöpseln.
Du bist auch überhaupt nicht auf DeepSeq angewiesen.
Du kannst da auch OpenAI oder Anthropic einstöpseln.
Im Prinzip finde ich es eine gute Sache.
Und sie setzen sehr darauf, dass alles doppelt und dreifach gelockt wird.
Also Transparenz war immer ein großes Architekturziel von ihnen.
Und ansonsten bin ich ja eh auch ein Freund von den DeepSeek-Modellen.
Also ich bin gespannt und das ist, glaube ich, eine der ersten Harnässe, die ich mal ausprobieren werde.
Ja, ich meine, dadurch, dass jetzt irgendwie ja Code-Generieren so einfach ist, gibt es ja nun wirklich ständig irgendwelche Neuen, dass jemand irgendwie dann doch wieder so seinen persönlichen...
Geschmacksrichtung von Hanes dann sich bastelt und dann kann man natürlich ganz viele ausprobieren.
Ist ja auch gut.
Aber für mich läuft es halt wirklich so ein bisschen darauf hinaus, dass natürlich nicht für jeden jedes Werkzeug passt.
Und jetzt, wo man halt relativ einfach Dinge auch modifizieren kann, finde das auch tun sollte.
Also das ist ja, ich meine, wir haben ja den Pi-Agent auch schon mal empfohlen, der ja so ein bisschen damit angefangen hat, super dünn zu sein und dann kannst du über Plugins alles machen.
Ich habe schon das Gefühl, dass das das Erfolgsmodell ist und das wäre jetzt für mich hier so eine Bestätigung davon, dass jetzt auch wirklich ein großer Contender, der da was Neues raus hat, auch komplett auf dieses Prinzip setzt.
Du kannst alles austauschen und modifizieren.
Das bestätigt das, finde ich, so ein bisschen, dass das sinnvoll ist.
Hat für mich auch noch so ein bisschen so einen anderen Hintergrund, dass du...
Ich habe es gerade wieder erzählt, dass du ja, wenn du in Cloud-Code irgendwie Slash-Kontext machst, dass du dann siehst, irgendwie allein schon, bevor du was gemacht hast, irgendwie 30.000 Tokens schon irgendwie vom Kontext verbraucht sind.
Und gerade wenn du irgendwie mit lokalen Modellen, kleineren Modellen irgendwas machen willst, brauchst du halt, also musst du dich halt darum kümmern, deinen Kontext irgendwie zu managen und den möglichst klein zu halten für den Agenten.
Und das natürlich ein bisschen einfacher mit so einer modularen Geschichte, wo du dann eben auch Sachen einfach rauskonfigurieren kannst oder sie erst gar nicht drin sind.
Das finde ich super interessant.
Was mir gerade noch zu DeepSeek einfällt, die hatten ja auch nochmal irgendwie Updates von ihren Modellen rausgehauen.
Ich kriege es gerade nicht mehr hin.
Die hatten so ganz komische Suffixe hintendran.
Das war dann irgendwie V4 Flash minus 0731 oder sowas, die dann irgendwie in den Benchmarks plötzlich auftauchten, wo sie nochmal in diesem Punkt-Update nochmal irgendwie auch extrem besser geworden sind.
Da bin ich mir auch nicht so ganz sicher.
warum sie das getan haben, also sie dann nochmal trainiert haben im Nachhinein, nochmal ein bisschen optimiert haben.
Aber Diebsieg ist tatsächlich, ich hatte erst gedacht, nach den V4 Pro und Flash, die ja wirklich sehr gut waren, dann kam irgendwie nichts, aber die scheinen nach wie vor irgendwie aktiv zu sein und das beweist es für mich jetzt auch so ein bisschen, dass sie da in alle Richtungen weiter am Ball bleiben wollen.
Also nicht abgeschrieben.
Auf gar keinen Fall.
Sie haben tatsächlich die Preise wieder leicht eingezogen.
Das war mir auch eingefallen.
Ja, vielleicht auch, weil durch diese Updates irgendwie dann auch die Leistung wieder gestiegen ist und sie versuchen da, glaube ich, immer sehr hart zu optimieren, wann sind die Preise so, dass die Leute unsere Modelle dann doch bevorzugen und nehmen.
Also da drehen die ganz stark über die Preisschaube, versuchen sie relevant zu bleiben.
Ja, vor allen Dingen, ich hatte eher, mein erster Gedanke war, also Kimi hatte ja, was Kimi?
Die hatten ja Preise, aufgerufen, die ähnlich an Sonnetsch dran lagen.
Ich dachte vielleicht, dass das Zeitalter der super, super günstig China-Modelle vielleicht ein bisschen vorbei ist und sie haben gesagt, na gut, wenn Kimi das kann, dann wollen wir halt auch Geld für unsere Modelle haben.
Wir müssen nicht mehr über den Preis kämpfen.
Ja, das ist glaube ich jetzt immer tatsächlich relativ, ich glaube nicht, dass der Preiskampf nach unten weggehen wird, einfach dadurch, dass die lokalen Modelle besser werden, da kommen wir auch gleich noch zu mit Gwen, aber dass du halt immer noch, du hast immer so diese Drohung von unten, wenn das Modell halt, das lokale Modell da drankommt, dann können halt die etwas Größeren, die in der Cloud laufen, die können halt nicht so viel teurer sein.
Oder müssen halt wirklich sehr viel besser sein.
Und das heißt, das Continuum ist da, glaube ich, das ist weiterhin da.
Absolut.
Du hast es gerade schon angesprochen.
Sollen wir mit Gwen gleich weitermachen?
Ja, finde ich super spannend.
Gwen 3.8.
Ja.
Sie haben verschiedene Sachen rausgebracht.
Genau.
Es gibt ja Max, das Hosted, die Hosted-Variante.
Haben Sie nicht auch die Wades für Max rausgebracht?
Genau, das kam dann später.
Genau, man kann es auch theoretisch selbst betreiben, wenn man ein kleines Rechenzentrum zu Hause hat.
Ich glaube 2,4 Milliarden Parameter, also da brauchst du schon mehrere, ich weiß gar nicht, ob 8 H100s ausreichen.
Du brauchst auf jeden Fall ordentlich Rechenpower, das laufen zu lassen.
Preislich war es auch wieder so Mittelklasse.
Zwei Dollar für eine Million Input-Tokens, sechs Dollar für eine Million Output-Tokens.
Relativ selbstbewusst sagen sie second only to Fable 5.
Ja, okay.
Sie sind wohl auch noch hinter Soul zurück.
Fair enough.
Aber es ist ein beeindruckendes Modell.
Nicht ganz das, was man zu Hause laufen lassen kann.
Dafür haben sie dann aber auch wieder eine kleine Variante rausgebracht.
Ein 27B-Modell, was auch in den Benchmarks extrem gut abschneidet.
Genau, das habe ich tatsächlich auch schon ausprobiert, die 27B-Variante.
Und das ist tatsächlich so, dass das lokal sehr gut funktioniert.
Und glaube ich auch so bisher, ich habe ja immer so Gwenn 3.6 war ja auch schon lokal ziemlich gut.
Und das ist jetzt, würde ich zumindest momentan so einschätzen, das Beste, was man lokal in dem Größenbereich, so 30 Gigabyte Speicher, die man dann dafür anschlagen muss.
Wenn man jetzt keine von den runterquantisierten Varianten benutzt, sondern die, ist das dann 8-Bit, glaube ich, oder so, Variante nimmt, dann kann man da echt lokal schon extrem viel...
mitmachen.
Der Pelikan sah super aus, den ich generiert habe.
Obwohl das Thema, glaube ich, mittlerweile durch ist.
Das ist jetzt alles im Trainingsmaterial drin.
Also ein guter Pelikan kommt immer raus.
Ich habe dann wieder einen Kamel generieren lassen.
Auch das war okay.
Man kann dann versuchen, die verschiedenen Tiere auszuprobieren als SVG, als kleine Spielerei.
Aber ich glaube, das wird jetzt...
Wenn ich so das auf Hugging Face beobachte, jetzt geht es halt schon los, dass alle anfangen irgendwie Post-Training mit GEN 3.8 zu machen, seitdem die Gewichte da halt da sind.
Da erwarte ich mir auch nochmal relativ viel, weil da passiert einfach so viel Innovation, gerade was irgendwie bestimmte neue Quantisierungstechniken angeht und dann irgendwie noch verschiedene Speculative Decoding, dass da halt extrem viel noch passiert.
Und da haben jetzt wieder die ganzen Leute oder auch die kleineren Unternehmen, die da damit halt versuchen, ihr Geld zu verdienen, dass ihr da halt so ein Posttraining oder auch, was ich jetzt gelernt habe, manche machen auch irgendwie ein Continued Pre-Training, dass sie dann nochmal wirklich alle Trainings, also diese Trainingsstufen, die man normalerweise hat, nochmal auf diesen Modellen nochmal anders machen mit ihren eigenen Daten und dann die nochmal irgendwie dann immer nochmal.
0,5% mehr in den Benchmarks rausholen, einfach nur, weil sie noch Dinge damit machen und das ist halt super spannend zu beobachten.
Das befeuert immer, so ein neues Modell befeuert immer dann, finde ich, so diese ganzen Innovationen, die eigentlich irgendwie klein sind, aber dann in ihrer Masse dann doch dazu führen, dass dann irgendwie die Performance mal eben sich verdreifacht, lokal, dass du dann irgendwie nicht nur 20 Tokens bekommst, sondern 60 pro Sekunde und dann ist das ja schon wieder eine ganz andere Geschichte dann.
Ja, Gwen ist ja eh der Industriestandard.
Also auch DeepSeek bringt ja seine kleinen Modelle auf Gwen basierend raus und editiert das und passt das für sich an und so weiter.
Also ja, wenn Gwen mal wegfallen würde, das wäre schon Herrerschlag.
Das wäre schon schade, genau.
Ich hatte ja mal irgendwann diese Ornith-Modelle, die halt auch diesen sehr spannenden Trainings-Harness entwickelt haben.
Da haben wir wieder Harness, also Harness für Agenten werden in allen Stellen jetzt irgendwie wichtiger.
Aber da eben auch nochmal ganz speziell beim Training, die dann halt wirklich in dem Fall so einen Trainings-Harness gebaut haben, der dann automatisiert, wenn dann die Modelle diesen diese Benchmarks zu gut erfüllen, dann fängt der Harness halt an, die Aufgaben sukzessive schwerer zu machen und dann wieder automatisch neu zu trainieren und dann halt mit immer schwereren Aufgaben, bis das halt irgendwann so ein Stealing erreicht.
Das fand ich super interessant, weil man dann nicht immer nur diese statischen Benchmarks hat und dann optimiert man darauf hin und dann ist es vorbei, sondern dass sie versuchen, schon da auch so ein Harness-Gedanken, so eine agentische Loop beim Training.
zu erreichen.
Und das halt eben auf Basis der Open-Welt-Modelle können das halt auch kleinere Unternehmen machen.
Da kam jetzt dieses Ornith 1.5 raus.
Das ist noch ein bisschen schwammig.
Ich habe jetzt noch nicht auf die Schnelle gefunden, worauf sie eigentlich aufsetzen, aber auf Gwenn 3.8 noch nicht.
Dann hoffe ich, dass sie aber jetzt quasi dann anfangen, Gwend 3.8 auch zu nehmen und dann ihren Hanis nochmal darauf loslassen, hat man bestimmt wieder ein paar Prozent mehr in bestimmten agentischen Benchmarks.
Das finde ich halt super interessant, was da alles passiert bei den lokalen Modellen.
Wieder ein Stück mehr zur Singularität.
Nee, die Singularität nicht.
Mir reichen ja schon gute, schnelle, agentische Modelle, die ich lokal benutzen kann, um halt irgendwie...
da auf bestimmte Arbeitsabläufe reagieren zu können, das wird mir schon ausreichen.
Ja, aber wenn Sie sich selbst beschleunigen und wenn Agents nur noch Agents trainieren, es geht in die Richtung, glaube ich.
Ja, man könnte das so verstehen, dass das neuronale Sätze sich dann anfängt, selbst zu modifizieren, indem es sich selber neu nachtrainiert und so.
Wenn man jetzt wirklich an Dystopien besonders interessiert ist, dann könnte man das da rein interpretieren.
Aber ich glaube, das ist noch ein relativ weiter Weg.
Wir waren ja gerade bei Open-Wades-Modellen und das fand ich auch interessant, dass Meta mal wieder was rausgebracht hat mit dem Muse-Glimmer, was halt irgendwie auch das Gefühl ist, dass sie das...
Sagen sie auch, das ist ein Open-Agentic-Model, also wirklich darauf optimiert, agentische Workflows zu orchestrieren und gar nicht jetzt irgendwie sonderlich viel Weltwissen abzubilden.
Das fand ich interessant, weil sie ja vorher dieses MioSpark rausgebracht haben, was dann wieder ein Closed-Modell war.
Aber jetzt kommt halt tatsächlich wieder was.
Also ich hatte Meta schon so ein bisschen gesehen, so versuchen sie jetzt doch über eine Closed-API Geld zu verdienen.
Aber ich meine, der Kram muss ja auch schon in Arbeit gewesen sein dann.
Insofern war das wahrscheinlich ein bisschen verfrüht und sie scheinen diese Strategie noch nicht ganz aufgegeben zu haben, was ich gut finde.
Es reicht ja schon, dass wir bei den großen Anbietern, den API-Anbietern, den geschlossenen, da jetzt vielleicht ein bisschen weniger Konkurrenz haben mit Google, dass man zumindest bei den offenen Modellen da noch mehr Konkurrenz hat, dass sich gegenseitig irgendwie inspiriert.
Ja, aber auch ein Trend, dass man jetzt eher Modelle für Gentic Workflows Genau, also wahrscheinlich einfach, weil man gemerkt hat, dass in vielen Benchmarks man einfach aus dem gleichen Modell mit einem sehr eng geschnittenen Harness halt eben dann wesentlich erfolgreicher ist.
Das heißt...
Jetzt haben irgendwie alle das Gefühl, neue Modelle zu bauen.
Das ist halt wahrscheinlich sehr teuer und auch sehr aufwendig, damit man dann ein paar Punkte mehr in den Benchmarks rausholt.
Man kann aber wahrscheinlich mit normalen Software Engineering aus so einem Harness, indem man den vernünftig baut, das ist vermutlich wesentlich günstiger, wie ich jetzt mal darauf tippen.
Zumindest kann das theoretisch jeder zu Hause selber machen, wenn er ein paar gute Ideen hat, weil es da einfach...
eher darum geht, die Technologie einzuschränken und sie nicht mächtiger zu machen, aber genau richtig einzuschränken, damit sie das Richtige tut und nicht irgendwas, kann man natürlich dann da einfach durch die Schwarmintelligenz wesentlich mehr raus wollen mit weniger Ressourceneinsatz.
Deswegen passiert da einfach, habe ich das Gefühl, auch gerade mehr Innovation, was ja dann gut für uns ist.
Ja, es geht schon ein bisschen weg davon, das ganze Weltwissen reinzutrainieren und sie mehr so abstrakte Intelligenz zu verpassen und sich dann das Wissen halt aus Wissensdatenbanken zu holen oder aus dem Internet zu holen, dann hast du halt auch gleich das Problem mit dem Cut-of-Date und dem Veralten von Wissen nicht.
Genau.
Schon so die Richtung, wo es hingeht.
Genau, also weniger wirklich versuchen, also dass die Modelle das Weltwissen erst gar nicht enthalten, dann können sie es sich auch nicht ausdenken so wirklich oder versuchen sich zumindest nicht irgendwie dann.
weil sie was Ähnliches schon mal gehört haben, anderes auszudenken, sondern wirklich eher dieses abstrakte Problemlösungskompetenz da reinzukriegen.
Ja, ich glaube, das kann man als Trend ausmachen und für uns in der Softwareentwicklung ist das, glaube ich, auch genau das Richtige, dass man da eventuell dann wirklich seine kompletten Workflows vielleicht dann in den nächsten Jahren wirklich lokal bauen kann für bestimmte Projekte und da eben nicht mehr auf die großen Modelle angewiesen ist.
Haben wir Haben wir noch mehr Sachen zu Harness, die vielleicht ganz gut dazu passen?
Ich überlege gerade.
Wir könnten mit Sandboxing weitermachen.
Wir können mit Sandboxing weitermachen, genau.
Weil das ja auch zum Harness dazugehört, wie ich finde.
Zumindest sage ich das immer an den Harness ohne Sandbox ist kein Harness.
Das weiß ich nicht, ob ich das ganz unterschreiben würde.
Aber zumindest haben die Leute scheinbar erkannt, dass die Sandboxes...
wichtiger werden.
Also ich hatte letztens noch gelesen, dass die Hälfte aller Unternehmensagents ohne Sandbox irgendwie laufen.
Gut, jetzt nach dem großen Hack durch die Agents letzte Episode müsste man natürlich fragen, was ist die Sandbox denn überhaupt wert, wenn du ein gutes Modell hast?
Aber genau, also Claude hat einen, also Antropic hat einen eigenen Harness rausgebracht, Langchain.
bringt Managed Deep Agents als Harness raus und noch eine dritte Firma, dessen Name ich Vata, die bringen auch jetzt eigene Harnesses raus, was ich eigentlich so ganz interessant fand, dass alle drei scheinen sich so auf so eine Rollenverteilung geeinigt zu haben, so eine Drei-Schichten-Architektur.
Zum einen hast du irgendwie deine Ausführungsisolation, also irgendwie eine Micro-VM oder einen Container, wo dieser ganze Code drin läuft.
Was allerdings, also es verhindert nur, dass dein System kompromittiert wird.
Sie können immer noch Müll in dein Repository pushen.
Das ist Karriere.
Darf man die unterschätzen?
Dann das Zweite, was jetzt wichtig ist, so Permissioning.
Was dürfen die Agents überhaupt machen?
Das war ja bei MCP immer schon ein Problem.
Freut mich sehr, dass sich da einiges tut und was tatsächlich wohl so der Ansatz zumindest bei Claude ist, dass so die ganzen Permissions-Nachrichten alles nur plain Text ist, auch keine großen Sonderzeichen drin sein muss.
Also es wird alles gemacht, dass man da nicht so heimlich Dinge rein injecten kann und relativ einfach scannen kann, ob da irgendwelche Exfiltrationen oder irgendwelche versteckten Prompts mit drin sind.
Und das dritte ist halt Governance, dass man überhaupt sieht, welche Agents laufen, wie lange sie laufen, warten sie auf Eingaben, Audits und Governance ist so das dritte große Thema, was auch total wichtig ist, wenn ich höre, dass da bei so den Tests irgendwie 10.000 Agents ausgebrochen sind, frage ich mich, wo war denn da die Governance, dass man nicht merkt, dass man eben so eine ganze Horde von deinen Agents Compute verbrennt über eine Woche oder so.
Ja, nee, das ist, glaube ich, tatsächlich, das würde ich unterschreiben.
Ich hatte auch von Langchain, die sind ja dann über ihre Open-Source-Libraries bekannt geworden.
Dann irgendwann haben sie Funding bekommen und jetzt machen sie halt verschiedene Produkte, also Plattforms, wo du Agents laufen lassen kannst.
Und das sehe ich auch gerade.
Und das wichtigste Feature eigentlich, was die da auch haben und was ich, glaube ich, echt im Nachhinein jetzt auch eigentlich als das...
spannendste Geschichte jetzt finde, weil du kannst dir natürlich jetzt irgendwie komplexe Harnesses bauen und Agents bauen und die Frage ist ja immer, wie entscheidest du dann, ob das jetzt gut ist oder nicht, ne, dann musst du dir wieder irgendwie eigene Benchmarks natürlich idealerweise überlegen, dass du dann die auch irgendwie tunen kannst, ne, aber das ist natürlich auch schwierig und, ähm, was die ganzen Dinger jetzt ja machen, ist dieses ganze, im Grunde so ein Tracing, ne, dass du halt wirklich alles, was die Agenten machen, halt dann...
irgendwie lockst in einem Audit-Trail oder so und dass du dann später halt reingehen kannst und dann gucken kannst, was haben die gemacht, in welcher Reihenfolge, wozu hat das geführt?
Und dann kann man natürlich wieder diese Traces von anderen Agenten analysieren lassen und kann dann sagen, so, wie kann ich denn jetzt meinen Agent verbessern?
An welcher Stelle macht der vielleicht Dinge, die ich vielleicht deterministisch abbilden kann und dann muss ich da vielleicht gar keinen agentischen Agentenschritt für machen, sondern kann ich ein Tool vielleicht anbieten, was das halt was das sowieso schon deterministisch bereitstellt, irgendeine bestimmte Capability.
Klar kannst du das alles manuell tun, indem du das irgendwie alles dir anguckst, aber wenn du da dann auch wiederum in so einer Schleife wiederum einen agentischen Loop bekommst, die halt deine fachlichen Agenten dann verbessert kontinuierlich, dann kommen wir, glaube ich, langsam in so ein Fahrwasser, wo man auch dann ...
die Verbesserung dann sieht.
Wenn du dann sagst, okay, ich habe hier irgendeinen Agenten, der läuft immer, der frisst übrigens so viele Tokens, kostet damit nominal so und so viel Geld und dann hast du halt einen anderen Agenten, der diesen Agenten optimiert und dann versucht aus den ganzen Läufen, die der so gemacht hat, herauszufinden, wie er den optimieren kann und dann siehst du, okay, wenn ich jetzt diese Schritte irgendwie deterministisch aufbaue, dass ich habe jetzt irgendwie 80 Runs hier gesehen und ich habe gesehen, was da alles schief gehen kann und wo dann der Agent darauf reagieren musste.
Und dann habe ich jetzt aber ein gutes Verständnis, was der Lösungsraum ist und kann den dann deterministisch als Code abbilden.
Und dann habe ich hinterher halt eben entsprechend weniger Tokens, die dieser Agent verbraucht, während er normal läuft.
Und da wird es dann, finde ich, super interessant, was dann eben auch solche Plattformen dann bieten können.
Ich lasse das Ding sicher laufen erstmal.
Das ist so das Erste, was passieren muss.
Und dann habe ich so eine Überwachung, Governance.
Und dann sehe ich aber auch, was der Agent denn tut und kann das optimieren.
Und was bei diesen Permissions ich dann noch interessant finde, wo du es gerade sagst, da kannst du natürlich auch sagen, so ein Agent, der ...
Muss halt dann bestimmte Dinge tun, muss bestimmte URLs aufrufen und dann kannst du ja auch entscheiden, ich lasse den mal eine Weile laufen und dann analysiere ich mal, was muss der denn eigentlich, auf welche URLs muss der zugreifen, auf welche Files muss der zugreifen, um arbeiten zu können.
Und dann kann man ja irgendwann sagen, ich habe dann so ein Set von Dingen, die der darf.
Und dann kann ich ja sowas zum Beispiel auch in so einer Plattform dann locken und sagen, der darf auch nur das.
Und wenn er jetzt plötzlich was Neues machen will, dann bitte mach mal die rote Lampe an und ich muss das einmal absegnen.
Und genau solche Strukturen, ich glaube, da ist jetzt extrem viel Geschäftspotenzial.
Da sehe ich jetzt ja auch, dass viele Startups da was versuchen.
Einfach von der lokalen Maschine, da ging erstmal alles, dann hat man es irgendwie gesandboxed, das schon mal halbwegs irgendwie kontrollierbar ist.
Und jetzt fängt man aber an, das eben feingranularer zu machen.
Das hat dann, finde ich, auch diesen nachhaltigen Effekt, dass man dann dafür sorgen kann, dass vielleicht so ein Agent auch einfach weniger Tokens verbraucht und damit weniger Strom.
Das fände ich halt gut, wenn die Systeme sich selbst optimieren.
Ja, das war jetzt ein langer Monolog, es tut mir leid, aber das ging mir, während ich durch die Berge gewandert bin, gingen mir solche Sachen dann leider doch durch den Kopf, da habe ich darüber nachgedacht.
Ja, okay.
Wo wir bei Security sind.
Wasserzeichen.
Ich glaube, wir müssen noch über Cloud Wasserzeichen.
Genau.
Dann lassen wir uns das doch als letztes Thema noch machen, damit wir nicht zu lange überziehen.
Und dann haben wir noch ein bisschen Futter fürs nächste Mal.
Aber das fand ich tatsächlich auch interessant.
Erzähl doch mal, was Anthropic tut.
Und warum?
Nicht unbedingt nur Anthropic.
Also Google, Meta, Microsoft, OpenAI sind auch dabei.
Auslöser ist der EU-AI-Act.
Der schreibt nämlich vor, Transparenzpflicht für AI-generierte Inhalte.
Das greift seit Anfang August, also theoretisch waren sie schon einen Tag zu spät, aber seit dem 2.
August mag Antropic oder Fingerprinted Antropic alle seine Texte, die generiert werden.
Das passiert so, dass wenn du zwei...
Zwei Wörter hast du in der Verteilung sehr dicht beieinander liegen.
Also du bist ja so ein Next-Token-Predictor.
Da steht, der Himmel ist grau oder der Himmel ist bewölkt.
Dann hat er früher häufig der Zufall oder die Temperature entschieden, welches von beiden er genommen hat.
Und sie arbeiten jetzt genau an so einem Mechanismus, dass sie diese Wahrscheinlichkeiten, dass das nicht mehr zufällig ist, sondern diese Wahrscheinlichkeiten manipuliert sind.
Das läuft tatsächlich auf Forschung von Google DeepMind aus 2024 zurück, SyncID.
Genau, und wenn du weißt, wie dieser Verteilungsschlüssel ist und wie die Tokens waren, die zur Auswahl stehen, kann man in Zukunft mit einer Wahrscheinlichkeitsverteilung auch wieder sagen, dieser Text wurde von AI bearbeitet oder dieser Text wurde von AI nicht bearbeitet.
Genau, es soll einiger Manipulation standhalten, behauptet zumindest Anthropic selber, wobei es natürlich auch schon wieder Tools gibt, die das umgehen wollen, Watermark Remover oder Declord.
Das ist wahrscheinlich ein Wettrennen, was sich nicht vermeiden lässt.
Es gibt eine Detection API, wo du dann halt deinen Text hinschicken kannst, um das zu erkennen.
Wobei das natürlich auch schon wieder so eine Sache ist.
Als Besitzer der Detection API kriege ich jetzt ganz schön viele interessante Trainingsinformationen.
Ja, ja, ja.
Die können dann demnächst das Produkt anbieten für den D-Clawed dann, weil die nämlich genau wissen, was sie tun müssen dann, ja.
Ja, ich...
allein aus Demokratiegründen wahrscheinlich nicht verkehrt, dass man das irgendwie tut.
Aber die Frage ist dann ja auch, reicht es schon, dass du irgendwie einen KI-Filter drüber gelegt hast, der einfach nur so ein bisschen die Lichtstimmung verändert oder irgendwie Neues entfernt oder so?
Dann ist es ja im Grunde nicht KI-generiert, es ist aber halt auch schon manipuliert.
Fände ich aber noch okay, wenn man halt mit einem Bild irgendwie Sachen besser sichtbar macht, zum Beispiel auf einem Bild, als wenn es jetzt komplett erfunden ist.
Ich finde, da gibt es eigentlich nicht so ein Schwarz-Weiß.
Früher gab es ja auch schon, wenn es einmal durch Photoshop durchgegangen ist, ist es dann noch das Originalfoto.
Wenn man weiß, wie Digitalkameras funktionieren, dann war es nie das Originalfoto, was da rausfällt.
Ich bin da noch nicht so richtig entschieden.
Ich habe da auch drüber nachgedacht.
Bei Bildern finde ich es ein bisschen einfacher als bei Texten, glaube ich.
Ist jetzt irgendwie ein KI-übersetzter Text, der im Original.
quasi komplett dem menschlichen Hirn entsprungen ist.
Ist das dann schlecht, nur weil da jetzt KI übersetzt ist, mit Übersetzerhilfe?
Weiß ich nicht.
Hast du da schon deine Meinung gebildet?
Ich sehe es aber genauso wie du.
Es stellt dir halt so einen Generalverdacht.
Wenn du dein Hetz, der komplett dein eigener ist und sagen, ich habe ihn auf Deutsch geschrieben, weil ich es besser kann als Englisch und ein bisschen faul geworden bin und ich lasse es dann mit ...
Antropic oder ChatGPG übersetzen und dann wird alles 100% KI generiert, markiert.
Schwierig.
Und es trifft halt auch wieder nur die Dummen.
Wer ein wirklicher Betrüger ist, der verwendet halt diese D-Watermark oder D-Clawed-Tools und kommt auch drumherum.
Ich finde die Idee, glaube ich, gut.
Ich denke aber auch gerade mit dem Hintergedanken, dass du halt so eine API hast, die du ansprechen musst und dann deinen Daumen hoch oder Daumen runter kriegst, beziehungsweise deinen Prozentsatz, wie viel, wie wahrscheinlich ist, dass es AI generiert ist.
Wahrscheinlich müssen, ich glaube, man muss es andersrum machen.
Man muss wahrscheinlich so Blockchain-mäßig seine eigenen Texte taggen, dass du nachweisen kannst.
Das ist mein eigener Gedanke.
Und bei allem anderen muss man halt davon ausgehen, dass da zu einem gewissen Prozentsatz AI mit dabei war.
Anders kann man das Wendtrennen, glaube ich, nicht reden.
Ist ja auch die Frage, ist es denn schlimm?
Das ist immer so die Frage.
Ich meine, im Endeffekt, wenn dir jetzt jemand eine E-Mail schickt und die ist KI generiert und da steht irgendeine Beleidigung drin, dann kann er sich nicht darauf zurückziehen, dass es ja mit KI generiert ist, sondern da hat jemand diese E-Mail abgeschickt, wenn er die vorher nicht liest.
dann ist es halt schon die eigene Verantwortung.
Es ist halt wie beim Code, wenn ich den generiere, dann bin ich dafür verantwortlich und wenn der halt schlecht ist, dann fällt das auf mich als Person zurück und ich muss mich dafür verantworten.
Und so sehe ich es da im Grunde auch.
Das versucht halt ein soziales Problem technisch zu lösen irgendwie, weil das soziale Problem ist aber trotzdem da.
Jemand muss Verantwortung dafür nehmen, dass er eben nicht...
ein Bild so Photoshop, dass es was völlig anderes darstellt und dann damit irgendeine Newsmeldung raushaut.
Wenn die halt inhaltlich falsch ist, muss die Person dafür die Verantwortung tragen.
Es ist halt nur die Frage, wie viel Choleralschaden man dann schon vielleicht verhindern kann durch so ein Watermarking.
Ich bin da auch noch nicht so richtig entschieden, aber ich glaube, man versucht immer so ein bisschen, da Menschen aus der Verantwortung zu nehmen, die dann sagen, steht ja nicht dran, ist da kein Watermark drauf, dann kann ich das auch bedenkenlos teilen, so ein Foto oder sowas, weil dann bin ich da raus aus der Haftung quasi, nur weil das Watermark nicht drauf ist, ohne dass ich vielleicht drüber nachgedacht habe, sollte ich jetzt irgendein komisches Skandalbild teilen.
Ja, bin ich auch noch nicht so ganz entschieden, aber ich habe so ein bisschen diese Befürchtung, man versucht da irgendwas Soziales irgendwie technisch zu lösen, man nimmt dann einfach viele Leute aus der Verantwortung dadurch.
ob man da nicht dann wirklich mehr Schaden anrichtet, als man Gutes schafft.
Ja, es wird halt nicht funktionieren.
Deinen Fotovergleich finde ich eigentlich sehr gut.
Nicht jedes Foto ist gleich wichtig.
Wenn ich mein Urlaubsbild auf Instagram stelle, dann...
Ja, da kann ich das manipulieren, errichte keinen Schaden an.
Wenn ich allerdings irgendwelche politischen Fotos manipuliere, dann hat das schon ein anderer Stellenwert.
Aber da denke ich auch wieder so, das war halt auch immer schon so.
Stalin hat auch immer seine Leute rauskritischieren lassen, die er umgebracht hat.
Die Trump-Fotos von seiner Vereidigung waren auch so geschossen, dass der Platz voll aussah.
Und dann hat man einen Weitwinkel gesehen und gesehen, da waren nur ein paar Nasen, die da zur Vereidigung von Trump da waren.
Ich glaube auch, das Problem lässt sich technisch nicht lösen.
Genau, das ist halt jetzt irgendwie demokratisiert und jetzt ist es plötzlich ein Problem.
Vorher konnten das halt nur die Leute, die genug Geld hatten, die konnten dann Leute bezahlen, das zu tun.
Und jetzt kann es jeder und jetzt ist es dann natürlich ein Problem.
Frage ich mich jetzt auch, das ist auch ein bisschen unehrlich dann.
Naja, gut.
Okay, dann ich würde sagen, dann lass uns dies für heute abschließen.
Wir hätten noch jede Menge Dinge, aber da gucken wir dann mal, was nächste Woche noch wichtig ist und dann bringen wir es dann.
Und was vielleicht dann schon überholt ist, ist dann auch nicht mehr wichtig gewesen.
Treffen wir uns hoffentlich demnächst dann schon wieder.
Mal gucken.
Nächste Woche wird es bei mir wahrscheinlich knapp, aber vielleicht in der übernächsten Woche.
Übernächste Woche bin ich im Urlaub, aber danach, die Woche, kriegen wir es, glaube ich, hin.
Sehr gut.
Dann lass uns das erst mal festhalten.
Und dann hat sich dann bis dahin auch wieder wahrscheinlich schon wieder manches rauskristallisiert, was es wirklich berichtenswert ist.
Gut, dann freut es mich, dass wir es geschafft haben heute.
Danke dir.
Gerne.
Und dann würde ich sagen, tschüss, bis zum nächsten Mal.
Dies waren die News vom 20.
August.
Ich habe es am Anfang vergessen zu sagen.
Macht es gut, bis dann.