# AI Agents Reshape IT Service Value Chains

**Podcast:** FAZ D:ECONOMY
**Published:** 2026-10-02

## Transcript

Künstliche Intelligenz kann Software schreiben, testen und dokumentieren.
Und Unternehmen fragen sich deshalb, ob sie künftig überhaupt noch externe Entwicklerteams brauchen.
IT-Dienstleister fragen sich, ob ihre bisherigen Geschäftsmodelle gerade effizienter oder überflüssig werden.
Darüber wollen wir heute reden.
Herzlich willkommen zu einer neuen Folge des FAZ Digitalwirtschafts-Podcasts, liebe Hörerinnen und Hörer.
Heute ist unser Gast Volker Grun.
Er ist Professor für Software Engineering an der Universität Duisburg-Essen, Mitbegründer und Aufsichtsratsvorsitzender des Dortmunder IT-Dienstleisters ADESO.
Herzlich willkommen, lieber Volker.
Carsten, danke schön.
Außerdem ist Alexander Ambruster mit an Bord.
Hallo Alex.
Hallo.
Und mein Name ist Carsten Knob.
Alex ist unser Ressortleiter aus der Wirtschaft, aber Sie und Ihr kennt ihn ja alle schon.
Und ich bin hier einer der Mitherausgeber der FAZ.
Und Volker Grun, um den es hier eigentlich geht, sagt, die Krise wird überschätzt, die ich hier gerade skizziert habe.
In seinem Unternehmen jedenfalls entstehe derzeit durch generative KI mehr Zusatzgeschäft als Umsatzabrieb.
Und Volker, du vertrittst eine...
Ganz interessante These.
Deutsch werde zur faktischen Programmiersprache.
Ja, wie gesagt, viel Stoff heute, um über interessante Thesen zu sprechen, lieber Volker.
Kannst du das...
bisschen konkreter beschreiben, was du damit meinst, dass Gen-AI-basiertes Zusatzgeschäft größer ist als der Abrieb.
Also wie kommt das, dass das bei euch so ist?
Das kommt gerade mal so, zumindest in diesen Zeiten, weil es tatsächlich zwei wiederläufige Trends sind.
Zum einen bauen wir manche Sorte Software mit weniger Programmierung.
Das hört sich erstmal so an, als wäre es weniger.
Und dann gibt es auf der anderen Seite Gegenläufige Trends.
Zum einen wird eben vielleicht auch Software gebaut, die man zu anderen Kostenstrukturen mit mehr manuellem Aufwand gar nicht erst gebaut hätte, weil es zu teuer ist.
Und zusätzlich, und das ist womöglich nur ein Übergangsphänomen, wollen unsere Kunden ja auch KI-fit sein.
Sowohl in der IT, wir arbeiten ja mit Unternehmen zusammen, die in der Regel auch eigene Entwicklungsabteilungen haben, die orientieren sich in die gleiche Richtung.
Und dann aber auch in den fachlichen Geschäftsprozessen, also Fachagenten, die in fachlichen Prozessen eine Rolle spielen.
Und das überlagert sich.
Auf der einen Seite wird es vielleicht ein bisschen weniger, vielleicht wird Software mehr und dann kommt Zusatzgeschäft.
Und bisher traue ich mich nicht, einen Strich runterzuziehen und zu sagen, das wird jetzt auf alle Zeit so bleiben.
Aber gerade aktuell ist es so, dass da mehr passiert.
Was mir aber noch nicht ganz klar ist, wenn man so will, den Vorthesen, den Vorbemerkungen, die wir ja auch im Dialog vorher schon ausgetauscht haben.
Was bedeutet das denn jetzt eigentlich für den Beruf des Entwicklers?
Wird da künftig genauso viel Nachfrage nach diesen Leuten sein?
Wird man davon weniger brauchen?
Lässt sich das überhaupt noch gar nicht sagen?
Ja, über längere Wellen würde ich sagen, wird es weniger Programmierung sein.
Da bin ich einigermaßen sicher.
weil die Tätigkeiten innerhalb des Softwareprozesses, also des gesamten Entwicklungsprozesses sich verschieben.
Die eigentliche Programmierung wird schon heute für manche Sorte Software komplett agentisch vorgenommen.
Das ist nur eine kleine Menge der gesamten Software, aber immerhin gibt es solche Stücke, Softstücke Software, wo Menschen gar nicht drauf gucken.
Also da wird es weniger.
Und wenn wir dann das auf eine Volkswirtschaft hochziehen, wird das weniger Programmierungsleistung sein.
Also das Beherrschen einer Programmiersprache ist eine Tätigkeit, die wir schon als Gesellschaft schon auch brauchen.
Aber ich glaube, wir brauchen weniger Menschen, die das können.
Und dafür brauchen wir viel, viel mehr Leute, also mehr Leute zumindest mal, die die wahren und essential requirements, also die wirklich gültigen Anforderungen verstehen und zum Ausdruck bringen können.
Was sind das zum Beispiel?
Also wirklich die fachlichen Anforderungen, jetzt nicht Details der Art an der Dialogoberfläche muss irgendein Knopf an irgendeiner Stelle in irgendeiner Farbe sein.
Das ist irgendwie Krams, das kann die KI und die Softwareentwicklungsagenten können das auch alleine.
Aber die Frage, wie ist denn jetzt ein fachlicher Prozess abzuwickeln und wer muss im Underwriting bei einer Versicherung dieses und jenes prüfen und was sind die Kriterien anhand derer er prüft?
Das sind eben die wirklich fachlichen Anforderungen und eben dann auch der Kontext.
Ich meine, man kann sich auch auf den Standpunkt stellen, im Grunde sind Versicherungen alle gleich, Ersetzeversicherungen durch Banken oder Telekommunikation oder sonst irgendwas.
Aber die haben halt schon Handhabungsunterschiede und dieser kontextualisierte Bereich, der macht halt auch einen Unterschied.
Und den muss man irgendwie aus dem Unternehmen und den da arbeitenden Menschen rausprokeln, um ihnen Agenten zugänglich zu machen.
Das kann man nur, wenn man versteht, worum es geht.
Und an der Stelle gibt es jetzt diese Schnittmenge zu deiner These, da wird Deutsch plötzlich wichtig.
Da wird Deutsch wichtig, würde ich wohl sagen.
Ich meine, das ist ja der Traum der Informatik, dass wir Sprachen finden, mit denen Menschen ohne formale Programmierausbildung in die Lage versetzt werden, Dinge zu formulieren, die dann anschließend in Code umgesetzt werden.
Also das ging bisher immer über...
Formale Sprachen, halbformale Sprachen, viel mit Format und es war immer Quälerei.
Können wir einfach sagen, war immer Quälerei.
Und jetzt mit Sprachmodellen dahinter können wir so Unschärfen, die sich in natürlicher Sprache ergeben, stochastisch rausmendeln und sagen, naja, aber wenn es ordentlich formuliert ist, dann wird doch so ein Sprachmodell schon in der Lage sein, da auch was Präzises in der formalen Sprache rauszuerzeugen.
Das heißt jetzt nicht, dass der jeder Hans Wurst in...
irgendeinem Gesabbel Fachspezifikation erstellen kann.
Aber präzises Deutsch könnte womöglich reichen.
Und die Programme haben auch eine ordentliche Qualität.
Und das leidet nicht, wenn die KI dann aus Softwarebibliotheken irgendwelche Bausteine rausholt, daraus das zusammenbaut und das dann über eine Zeit passiert.
Man muss nicht die Sorge haben, dass über die Zeit die Qualität unserer Software eher ein bisschen degeneriert.
Doch, die Sorge muss man haben.
Die Sorge muss man haben, aber wir es jetzt einfach noch nicht beurteilen können.
Lass uns da mal drauf gucken, seit welchem Zeitraum entwickeln wir eine agentische Software?
Jetzt vielleicht mal seit anderthalb Jahren ernsthaft.
Ich hätte jetzt höchstens zwei gesagt.
Und da haben wir jetzt schon Stücke Software, die werden produktiv gesetzt, also in Betrieb genommen, ohne dass Menschen den Programmcode angucken, aber richtig beurteilen und eine Antwort auf deine Frage können wir erst dann geben.
Wenn die Software am Ende des Lebenszykluses ist, also wenn sie wieder aussortiert wird, aus Betrieb gestellt wird, haben wir heute aber noch nicht.
Deshalb kann das schon sein, dass die am Ende irgendwie noch einer höheren Dynamik und Degeneration unterliegt als bei menschlich erzeugter Software.
Da muss man ein Auge drauf haben.
Ich weiß das aber noch nicht.
Wenn wir das einmal konkret machen, mal an eurem Unternehmen auch, und dann, dass du einmal illustrierst, wie sich das auswirkt.
Also Adesso hat...
Ungefähr 12.000 Mitarbeiter.
Vielleicht kannst du einmal nochmal ganz kurz sagen, was ihr selbst herstellt, vor KI schon und was jetzt sozusagen dann mit KI gemacht wird, damit man einfach nochmal so ein praktisches Gefühl bekommt, wo die KI jetzt reinspielt und bei welchen Teil dessen, was die Leute machen, das ersetzt.
Also wir entwickeln individuelle Software in der Regel.
Wir bauen auch mal mit an Produkten, aber machen wir es einfach.
In der Regel, im Großen und Ganzen, bauen wir individuelle Software für einzelne Kunden oder vielleicht für Kundengruppen.
Die haben wir bisher traditionell mit menschlichen Softwareprozessen gebaut.
Da sind Anforderungen abgestimmt worden, da sind da Menschen hergekommen, haben Architektur gemacht, entwickelt, getestet und irgendwann war man der Ansicht, jetzt kann man es auch in Betrieb nehmen.
So ist das bisher.
Und jetzt fängt es an, dass für manche Stückes Software die Menschen eben nicht mehr entwickeln im Sinne von Programmieren, sondern dass man die Fachspezifikation in ein geeignetes Vollständigkeitsniveau bringt, so dass man daraus automatisch Testfälle ableiten kann.
Und dann legen die Entwicklungsagenten los.
Da gibt es dann in dem Prozess, wo die Agenten rumfuhrwerken, auch nochmal menschliche Orchestrierung und hingucken und schauen, dass sie sich nicht verlaufen, keinen groben Blödsinn anstellen.
Aber das, was da an Ergebnis rauskommt, das Stück Software, das da rauskommt, ist im Großen und Ganzen von Agenten programmiert oder generiert.
Und das ist schon eine andere Art der Zusammenarbeit oder Mitwirkung von Menschen in so einem Prozess.
Wir reden heute tatsächlich, haben wir vorher nicht getan, vorher war es der Softwareprozess, und wir reden jetzt heute von dem menschlichen Softwareprozess, wenn er nach wie vor von Menschen durchgeführt wird, vollständig, oder von einem agentischen Softwareprozess, wenn die Agenten einen erheblichen Teil davon übernehmen.
Und das ist nicht bei allen Kunden gleichermaßen so.
Da gibt es auch Kunden, die sagen, wir haben da Sicherheitsbedenken, wir haben Souveränitätsbedenken, wir haben auch noch ganz viele andere Bedenken.
Oder wir sind in der Auswahl von Werkzeugen noch nicht so weit.
Es gibt tausend Gründe, das jetzt nicht Hals über Kopf zu tun.
Und deshalb gibt es auch nach wie vor noch ganz überwiegend die menschlichen Softwareprozesse.
Aber es schleichen sich so die agentischen Anteile oft rein.
Welche KI nehmt ihr dafür?
Gerade mal nehmen wir Anthropic.
Als das Mittel der Wahl.
Wir machen das auch mit anderen Plattformen.
Wir haben auch Open AI im Ansatz, wir haben Microsoft-Modelle im Einsatz.
Wenn wir alleine entscheiden dürfen, nehmen wir jetzt überwiegend Anthropic.
Hat der Kunde da schon irgendwas von gehabt im Sinne von Preisvorteil oder Geschwindigkeitsvorteil?
Also spürt er das schon irgendwie?
Ich sage es auch gerne konkret bei uns.
Wir arbeiten ja auch mit externen Entwicklern und so zusammen.
Wir sind immer noch auf der Suche nach dem agentischen Anteil, der sozusagen bei uns ankommt im Sinne von irgendeiner Auswirkung auf uns als zahlendem Kunden.
Also in dem Sinne, dass die schneller fertig werden oder irgendein Preisvorteil bei uns ankommt.
Also beides ist bisher nicht erkennbar.
Jetzt sage ich böse Sachen, aber wenn der Kunde versteht, was der Dienstleister tut, hat er was davon.
Oh, touche.
Fair enough.
Wir haben die Diskussion natürlich auch.
Also unsere Leitlinie wäre zu sagen, lass uns mal versuchen, mehr Festpreisprojekte zu machen.
Dann bleibt die Wertschöpfung bei uns hängen.
Wenn der Kunde aber den Durchblick da hat und sagt, ich hätte da ganz gern was von mit, dann wird anders verteilt.
Momentan besteht schon auch die Chance, dass der Produktivitätsgewinn...
Auf beiden Seiten so ein bisschen hängen gehabt.
Um das nochmal auseinander zu klammüßern, was ist denn im Moment im Gewicht?
Also was nimmt an Bedeutung zu?
Programmierkenntnisse?
Vielleicht ja offenbar nicht.
Fachliche Prozesskenntnis?
Wird mehr?
Präzise schreiben?
Kritisches Prüfen, je mehr ich aufzähle, desto wichtiger wird es?
Und desto mehr nick ich.
Alle jenseits von Programmierung werden wichtiger.
Deshalb stellen wir fest, dass so Leute, die so eine naturwissenschaftliche oder MINT-Ausbildung haben, da hier und da auch nochmal einen Vorteil haben.
Wenn sie abstrahieren, strukturieren gelernt haben, dann hält das auch in Zeiten, in denen sie nicht programmieren müssen.
Da hat man nämlich bei der Formulierung von fachlichen Anforderungen, bei dem Definieren von Architekturen oder bei dem Prüfen von Architekturen.
Da hat man noch einen Vorteil von.
Überhaupt Erfahrung ist jetzt sowieso was ganz Wichtiges, weil die Menschen, die in so einem agentischen Softwareprozess die Orchestrierung übernehmen, das sind in der Regel solche, die schon öfter mal auch größere Stücke Software gebaut haben.
Was momentan ja auch eine große Frage ist, ob das nicht auch ein großes Problem birgt, ob wir die nämlich in Zukunft immer haben, weil das ist ja was, was wir nicht nur im Programmierenden, sondern auch in anderen Bereichen sehen, dass...
Gerade die Leute, die am meisten von KI haben, die selbst sehr gut in den Sachen sind, die das aber auch eben geworden sind über 10 oder 20 Jahre.
Und jetzt ist die Frage, die kriegen wir aber in Zukunft auch.
Also Leute mit Erfahrung, auch wenn die oder ist es ein großes Risiko, weil die hat schon sehr früh alles an KI delegieren können, dass wir die gar nicht mehr kriegen, die selbst die Sachen machen.
Ja, halte ich in der Tat schon ein Risiko, verbunden damit, dass ja viele Unternehmen sich jetzt ein bisschen schwer damit tun, noch junge Leute einzustellen.
Wenn man es unter Verantwortungsaspekten anschaut, muss man andere Wege finden, wie man zu Seniors kommt, außer über Juniors.
Irgendwo müssen sie ja herkommen.
Die sitzen natürlich drei Jahre lang im Nichts rum und haben nichts zu tun und sind dann auf einmal Seniors.
Die sind dann ja immer noch Juniors.
Deshalb bei uns müssen die schon durch so eine Programmierschule, also die jungen Leute, fangen bei uns nicht an in Projekten, in denen vollständig Software generiert wird.
Und an der Uni, Informatiker müssen auch weiter aus deiner Sicht natürlich auch mal selbstprogrammieren, auch mal eine Programmiersprache lernen und das schon auch mal durchmachen, um einfach zu wissen, wovon sie da reden und was sie dann der KI übertragen.
Ich sage da mit großer Überzeugung ja und finde dann manchmal, dass ich mich anhöre wie meine Professoren vor 30 Jahren.
Als sie mir nämlich erzählt haben, ich müsste auch Semmler programmieren lernen, weil das muss man immer mal können.
Das ist ja erst mal ein Weißsaus.
Das fand ich damals irgendwie schon unappetitlich, wenn ich ehrlich bin.
Und habe es danach auch nie wieder gebraucht.
Und die anderen, die das damals gelernt haben, ganz, ganz überwiegend auch nicht.
Also da muss man aufpassen, dass es mich so einem alten Männerphänomen unterliegt.
Also ich jetzt hier, um zu sagen, doch, doch, besser ist die Kon-Schön-Auch-Alle-Programmieren.
Wenn wir auch vorher gesagt haben, man braucht weniger Programmierung, dann müssen die auch eigentlich nicht alle programmieren lernen.
Aber wir haben momentan kein anderes Ausbildungskonzept, also lernen die man auch weiterprogrammieren.
Ich musste gerade an Schaltwagen und Automatik denken.
Ich habe noch eine These für dich, lieber Volker.
Und zwar, jetzt kommt die These, Europa kann im agentischen Umbau einen Vorteil haben, nicht trotz, sondern wegen Regulierung.
Besonders in Industrie, Gesundheit, Finanzwirtschaft, Mobilität, öffentlicher Verwaltung entstehen Anwendungen, bei denen Datenschutzsicherheit, Dokumentation, Auditierbarkeit und Haft- und Kaufentscheidung sind.
Und insofern könnte es da ein Vorteil sein, dass Europa die Vorschriften hat, die es hat.
Also alles in mir sträubt sich zu sagen, Regulierung ist ja ein wichtiger Baustein, weil eigentlich finde ich das ja zäh und klebe.
Ja, wir ja hier auch.
Ja, ihr auch, genau.
Aber an der Stelle sei es trotzdem.
Ja, ich glaube, das ist tatsächlich so, weil wir sehen ja schon, dass so Agenten auch mal durchdrehen.
Ja, hat man...
Hat man jeden Tag noch gehört zuletzt.
Go, go, go, hat der eine Agent zum anderen gesagt.
Sechs Minuten hast du noch.
Und vielleicht ist es dann für...
Für Stücke, in denen zur Laufzeit Agenten drin sind, auch ein Qualitätskriterium zu sagen, da hat mal einer drauf geguckt und sichergestellt, dass da bestimmte Sorten von Irrsinn auch vermieden werden.
Also über so ein Supervisory Level haben wir jetzt ja alles gar nicht.
Aber die Regulierung ist ja auch nicht durch sowas wie ein EU-AI-Act gegeben.
Die Regulierung fehlt einfach noch.
Aber ich glaube, die brauchen wir tatsächlich.
Das ist aber was anderes als in der Softwareentwicklung, muss man auch mal sagen.
In der Softwareentwicklung bauen wir ja Stücke Software und die Stücke Software sind hinterher so, wie wenn Menschen die geschrieben hätten.
Nicht strukturell gleich, aber von dem Nicht-Determinismus und von dem Halluzinationsniveau sind die gleich, weil zur Laufzeit sind ja keine Agenten drin.
Das ist ja einfach nur normale, regelbasierte, geschäftsprozessuale Software.
In dem Moment, wo ich jetzt anfange, Agenten in Software-Systeme einzubauen, die eben auch zur Laufzeit bei den Kunden eine Entscheidung treffen, muss man es sicherlich nochmal anders bewerten.
Das macht er aber auch schon.
Nein.
Also ich glaube, wahrscheinlich hat jetzt gleich jemand gesagt, die habe ich aber doch mal irgendwo am Rande des Universums irgendwo mal einen Agenten gebaut, der wurde mit ausgeliefert.
Das ist aber...
Noch kein relevantes Geschäft.
Dass wir mit Kunden zusammen auch mal bauen und überlegen, wie bauen die denn ihre Fachagenten?
Also wie müssen die denn trainiert werden, damit die anschließend an Kundenschnittstellen eingesetzt werden können?
Das schon, aber das würde ich jetzt noch nicht als Agentenbauen bezeichnen.
Das ist dann so gemeinsames Trainieren.
Das tun wir schon.
Das ist aber jetzt nicht im Sinne eines Bestandteils, eines auszuliefernden Artefakts.
Du hast jetzt schon ein Stichwort gegeben, über das wir auch auf jeden Fall sprechen wollen.
Manchmal dreht ja so eine KI auch durch, hast du gesagt.
Wir haben jetzt Fälle eben gehabt, wo KI-Systeme ausgebrochen sind aus Trainingsrahmen, sogar eine Internetplattform gehackt haben und es ist eine Diskussion insgesamt wieder ausgebrochen.
Die gibt es ja immer mal, aber jetzt eben auch wieder.
Wie gefährlich oder risikoreich ist es denn?
Es ist sogar das Wort Auslöschung oder Risiko für die Menschheit gefallen.
Deswegen erstmal, bist du eher der 5 oder 10 Prozent Auslöschungswahrscheinlichkeitstyp?
Hättest du noch kleinere Zahlen zur Auswahl, würde ich die nehmen.
Ich habe keine Auslöschungssorge.
Okay, also das ist Quatsch.
Die Ausschüsse werden immer den Stecker ziehen können?
Ja, glaube ich.
Okay.
Und wenn dann die KI auf der Suche nach Energie die Erde verlässt?
Ja, genau.
Also irgendwann fängt es an, wo ich sage, dann hast du jetzt doch recht.
Meine Tochter ist gerade in die Schule gekommen.
Die kommt dann in die Löwengruppe und sagt, aber ich wollte lieber in die Nilfährt-Klasse gehen.
Dann sage ich, ja, ist doch nicht so schlimm, Löwengruppe ist auch gesagt.
Ja, am Ende aber ja, trotzdem.
Ja, da kommt man nicht mehr gegen an.
Weil das Nilfährt ist halt das nettere Ziel.
Ja, Nilfährt ist auch schön.
Aber irgendwann ist halt so spekulativ und so...
frei von Faktoren.
Genau, von dem Auslöschen ist natürlich ein Extrempunkt, auch in der jetzigen Diskussion.
Wenn wir von dem mal drei Stufen runtergehen, sind wir an so einem Kipppunkt, ist es sehr gefährlich, was wir machen?
Wir haben die ganze Zeit über die agentischen KIs gesprochen, um das vielleicht nochmal einzusortieren.
Wir haben die ganze Zeit Sprachmodelle gehabt, die Und KI-Systeme, die konnten, und das will ich gar nicht geringschätzen, aber nur kompetent Text generieren, Bilder generieren, Antworten geben, Wissen, Datenbanken durchforsten und dann kluge Sachen zusammenstellen.
Und jetzt befinden wir uns eben auf so einem Level, wo wir zunehmend KI entwickeln, die selbst auch Schritte plant, von Handlungen durchführt, Werkzeuge einsetzt, Software benutzt und so weiter.
Es ist also ein anderes Level.
Also wo ich auch schon das Gefühl habe, wenn wir das jetzt zu schnell und der ganze Spirit scheint mir zu sein, Hauptsache schnell, schnell, schnell, was tatsächlich gefährlich ist.
Wie besorgt bist du?
Also erstmal sind Agenten ja nicht allmächtig.
Selbst wenn die sehr, sehr intelligent sind oder superintelligent sind, sind sie ja noch nicht allmächtig.
Damit können sie ja noch mal längst nicht alles tun.
Und selbst wenn die schwierige Probleme lösen können, muss man natürlich trotzdem einen Rahmen schaffen, in dem die nicht kompletten Zugriff auf alle digitalen oder wo schlimmer noch haben.
analogen Ressourcen bekommen.
Und das gehört einfach dazu.
Wer jetzt Software ausliefert und dem nicht folgt, der hat einfach eine Dreckssoftware ausgeliefert.
Was soll ich denn sagen?
Wir beliefern jetzt seit 30 Jahren Software aus.
Und der Konflikt, dass man mal ein Auslieferungsdatum nennt und dann feststellt, die Software ist noch gar nicht so weit, den haben wir alle schon mal gehabt.
Und da gab es, ich glaube, mehr öfter früher als heute, auch mal die...
Wahrscheinlich falsch und sehr mutige Entscheidungen.
Das machen wir ja trotzdem schon mal.
Das wird sich schon dann finden.
Das kann ich aber jetzt nicht machen, wenn ich dann ein Frontier-Model liefere.
Da kann ich nicht Software ausliefern, bevor ich die nicht ordentlich geprüft und getestet habe und die insbesondere auf Safety getestet habe.
Und wenn das dann doch jemand tut, dann muss man einfach sagen, wir müssen uns vielleicht auch mal ein bisschen mit Software-Engining auseinandersetzen.
Das sind KI-Leute, die da Software bauen.
Da wird mir sowieso Angst und Bange.
Und die müssen auch dafür haften und...
Die müssen...
Klar müssen die haften, aber das hilft ja gar nichts.
Also wenn die jetzt dafür haften und hinterher sind tausende von Menschen tot, dann ist das mit der Haftung ja nur ein schwacher Trost.
Ich meine, wir haben TÜV, wir sagen auch nicht, jeder Schausteller darf ein Karussell aufbauen und hinterher muss er halt haften, wenn es schief geht, sondern wir haben TÜV, der da hingeht und sagt...
Damit es erst gar nicht passiert.
Damit es erst gar nicht passiert und die Leute können sich darauf verlassen, dass gewisse Standards eingehalten sind.
Also wenn nur die Haftung ist, das nicht...
Keine Haftung ist KMSG.
Ja, genau.
Lass das dreimal schief gehen, dann nutzt auch keiner mehr ein Frontiermodel, um Agenten loszuschicken.
Und mal ehrlich jetzt, ich mache ein Experiment in einer Sandbox und dann kriegt der über ein Proxy trotzdem Zugriff ins Internet.
Also wenn mir das im Seminar passiert, dann würde ich mal sagen, mehr als eine Vier kommt jetzt aber nicht mehr raus.
Ja, es gibt viel Erstaunen und viel Erschrecken auf verschiedenen Ebenen.
Die Sache ist eben einfach, dass...
Wie du schon gesagt hast, das sind jetzt Systeme, die agieren zum Teil sehr schnell und das Risiko ist einfach, dass Sachen zu schnell passieren.
Die fallen auch relativ spät erst auf.
Also so ein TÜV wäre schon mal gut, wenn wir sowas einfach hätten und auch dafür, ich denke, das ist auch schon eine ganze Weile, auch für Software genereller natürlich, weil man ja sich bei vielen Sachen fragt, die wir, also sehr viele Produkte durchlaufen, bestimmte Zertifizierungsprozesse, Flugzeuge, Autos, alles mögliche, Medizin sowieso und hat klinische Phasen.
Software ist immer so ein Gebiet bisher, wo wir irgendwie, obwohl es zum Teil sehr nah am Menschen oder im Menschen im Kopf irgendwie Sachen macht oder sowas, aber wir tun es, als wäre das irgendwie was anderes.
Na, bei Medizinsoftware schon wieder nicht.
Bei Medizinsoftware ist auch harte Zertifizierung, Auditierung, die du überstehen musst.
Wenn es ja nur so ein Informationssystem ist, wo man im schlimmsten Fall ein bisschen Geld auf dem Spiel steht, ist man natürlich ein bisschen sloppier.
Alex, ich glaube, wir müssen da auch für die Hörerinnen und Hörer nochmal kurz, auch im Kontext des letzten Podcasts, da war ja der Mirko Ross von S1.io da, nochmal kurz unterscheiden.
Ich glaube, dass Mirko Ross auch da eher recht hat mit der Annahme, dass sich diese großen KI-Unternehmen nur sehr schwer an die Kandare werden nehmen lassen, zumal es ja auch wirklich ein Wettbewerb unter Nationen inzwischen ist.
was für Modelle da entwickelt werden und in welcher Geschwindigkeit und in welcher Leistungsfähigkeit.
Also seine These war ja allenfalls, aber vielleicht schon kriegen wir das hin, dass die eine oder andere militärische Anwendung vielleicht doch mal so aller Genf über irgendein supranationales Medium, also Regulierungsorganisation, UN, was weiß ich, geblockt wird.
Aber grundsätzlich war er bei den Modellen das skeptisch.
Hier reden wir ja jetzt sehr stark über konkrete Software im Einsatz in bestimmten Branchen, Industrien, die eben wie Medizin tatsächlich also auch in dem Land, in dem sie eingesetzt werden, einer Regulierung unterworfen sind.
Da kann man ja viel größere Hoffnung haben.
Also ich denke, man widersprecht mir gerne, aber wahrscheinlich kann man das ja schon.
Abschichten in den einzelnen Anwendungen.
Das eine ist das Rennen von Supermächten und das andere ist dann halt eben eine Frage, wo eine Adesso seine Geschäfte machen kann im Umgang mit den Kunden.
Ja, wir müssen genau ordentlich differenzieren, was KI überhaupt bedeutet.
Es gibt so viele verschiedene KIs und manche sind gefährlich und manche sind irgendwie auch an Harmlosigkeit nicht zu verbieten.
Ja, eben.
Das darf man, glaube ich, also gerade an einem Punkt, wo ich sage, okay, man kann es versuchen mit zu unterscheiden, aber dann ist ja auch sozusagen das große von Sheer Supermodell ist ja dann auch eins, was eben benutzt wird und verkauft wird, um andere Software mit herzustellen.
Also es ist natürlich, deswegen kann es sich so einfach davon trennen.
Ja, genau, deswegen ist mir so ein bisschen zu sagen, auch wenn sich die schwer einhegen lassen, aber weil es halt so ein mächtiges Tool ist, also ich kann ein bisschen unbefriedigend ist auch zu sagen, sozusagen die mächtigsten.
da kriegen wir es nicht hin, weil der Druck zu...
Und ich widerspreche gar nicht, der Druck ist ja groß.
Es ist ja interessant, dass die Regulierungsdiskussion kommt, dass ironischerweise sich ja aus dem Unternehmenskreis Leute melden und sagen, vielleicht müssen wir langsamer machen.
Und sozusagen der Regulator, wenn ich mal den amerikanischen Präsidenten als sozusagen, der den Rahmen vorgibt, sagt, auf gar keinen Fall, go, go, go, who wins, I wins.
Also, gib Gas und wenn was nebendran kaputt geht, dann wir kehren es halt auf.
Aber das ist ja sozusagen das Mindset, was die von der Regulierung da gespiegelt kriegen.
Und das ist das, was mir momentan ein bisschen eine Sorge macht.
Normalerweise müsstest du haben, ehe das die Unternehmen sagen, wir beeilen uns, wir sind im Wettbewerb.
Und der oben drüber, der sagt, ja, aber wir wollen nicht zu viele Scherben aufkehren.
Wir gucken mal so.
Aber eingesetzt werden dürfte diese Software dann in der Finanzwirtschaft oder in dem Gesundheitswesen dann ja trotzdem nicht.
weil sie halt eben nicht zertifiziert ist und weil sie nicht kundenspezifisch entwickelt ist, weil OpenAI oder wer auch immer halt eben vorher nicht das Unternehmen analysiert hat, wie der Berater des IT-Unternehmens, in diesem Fall Adesso, um dann zu sagen, wir brauchen jetzt konkret das.
Oder sehe ich das falsch?
Also an der Stelle funktioniert ja die Transmission in diese reale Anwendung nicht.
Genau, also ich kenne ihn.
In den Kundenkreisen, die ich jetzt gerade so überblicke, kenne ich auch gar niemanden, der sagt, da geben wir jetzt mal unseren Entwicklern vollen Zugriff auf so ein Frontiermodel und die sollen irgendwelche Agenten entwickeln.
Das hört sich für mich auch so behämmert an.
Das ist so unverantwortlich.
Das tut aber auch gar nichts.
Aber ich finde, das ist auch eine spannende Erkenntnis in dem Gespräch.
Klar, die können irgendwie alles und das ist auch gefährlich.
Aber wenn es dann in die harte Anwendung geht, also dass ein von KI programmiertes System das Content-System ablöst, mit dem FATSnet gemacht wird, also das entzieht sich im Moment auch meiner Vorstellungskraft, muss ich sagen.
Das kriege ich so gedanklich in den Horizont.
Gut, dass du die Antwort gegeben hast.
Aber ohne Agenten zur Laufzeit.
Das System, das ihr habt, am Ende ist es ein Informationssystem.
Ich kenne es nicht im Detail, muss jeder dabei wissen.
Aber so ein Informationssystem kann ich agentisch erstellen.
So, aber die Agenten müssen dann wieder verschwinden.
Ja, die Agenten sind, wenn das Stück Software ausgeliefert wird, ist das agentenfrei, ist es nur von Agenten erstellt.
Ich möchte halt, um das Beispiel, du hast ja mal eine Finanzbranche zum Beispiel als ein Beispiel gebracht.
Ich möchte eben, dass wir Nicht-KI-Systeme haben logischerweise, denen ich sage, ich habe Betrag X, nehmen wir mal an, 100.000 Euro und sage, liebe KI, leg den bitte so an, dass ich möglichst viel Rendite mache in den nächsten zehn Jahren und jetzt bist du dran.
Und dass die KI dann sagt, ja, und überlegt dann und geht, was weiß ich, alle möglichen ETF.
durch und analysiert Index-Performances über verschiedene Zeiträume und dann aber sagt, ja, ach, weißt du, bevor ich das, ich spitze es ein bisschen zu, bevor ich das anlege, ich kaufe mir von dem Geld einfach ein paar Tools, hacke einfach die Konten von irgendwelchen reichen Leuten irgendwo auf der Welt, überweist dir einfach das Geld, dann hast du in wenigen Tagen eine super Performance, hast sehr viel Geld auf dem Konto, ich verwische auch alle Spuren und war bei 25 mal hochgradig kriminell.
Ich habe als KI das Ziel eben erreicht, was derjenige wollte, der es angewendet hat.
Ich habe auch die Möglichkeit, weil ich es eben einfach kann.
Aber natürlich habe ich mich nicht so verhalten, wie es gewollt ist und großen Schaden angerichtet.
Und ich habe momentan ein bisschen Angst, dass wir solche Risiken eingehen, weil wir zu unvorsichtig sind.
Genau, wir sind zu unvorsichtig, weil wir an der Stelle in Ergänzungen zu hohes Autonomieniveau einräumen.
Und was aber passieren wird, wenn es geht.
Das darf man nicht leistet nicht tun.
Es gibt natürlich ein unfassbar, es funktioniert ja kaum was besser als Anreize.
Und es gibt natürlich möglicherweise einen sehr, sehr großen Anreiz, einfach sowas zu tun oder zuzulassen.
Beziehungsweise sowas auch nicht mitzudenken.
Weil wenn ich das natürlich einem Menschen sage, in diesem Geldbeispiel, dann weiß ich, der raubt jetzt keine Bank aus und gibt mir das Geld nicht.
Das ist völlig klar, das weiß der auch.
Das ist sozusagen der gesunde Menschenverstand, der in dieser Ansage von mir mitgegangen ist.
den der einfach hat und bei dem wir offensichtlich momentan bei der KI auf dem Stand hat, einfach nicht sind.
Genau, Agents sind nur Nullen und Einsen und haben keinen gesunden Menschenverstand.
Ganz sicher, da können wir uns schon mal direkt drauf einigen.
Und die haben durch Autonomie gerade Gestaltungsspielräume, die sie irgendwie ausnutzen.
Und deshalb kommt es darauf an, diese Gestaltungsspielräume einzuhegen.
Ich würde ganz gerne, aber es geht immer nur sozusagen um die Präzisierung des Gedankengangs for the sake of the argument.
Also unbestritten natürlich.
könnten agentische KI-Systeme so ein Stück Software programmieren, das ein Content-Management-System für ein publizierendes Haus.
Das glaube ich sofort.
Aber ich war ja jetzt hier ziemlich nah mit dabei, sozusagen beim Gucken, wie viele Menschen unserer Dienstleister hier notwendig waren, um zu verstehen.
Das finde ich ganz gut.
Ich glaube, daran wird einiges deutlich, auch was du meinst, Volker, um zu verstehen, wie wir arbeiten.
Die mussten sich wirklich angucken, wie unsere Prozesse aussehen.
Die mussten sich die Schnittstellen angucken.
Die mussten genau durchdenken, wie unsere Bildredaktion mit Bildern arbeitet, wie die entsprechend übergeben, archiviert und verwaltet werden.
Welche Anforderungen existieren durch die Verbindung mit unserem Druckredaktionssystem?
Weil irgendwo muss der Content da ja auch rein.
Hochkomplexe Geschichte muss man auch verstehen.
Welche Abläufe hier sind?
Welche Kollegen wann eigentlich?
Welche Themen festlegen?
Wie sie konferieren?
Welche Planungssysteme?
die ja im Haus existieren, die man ja irgendwie mit berücksichtigen muss, um sozusagen dann die Themenplanung auch mit zu integrieren und, und, und.
Und ich bin jetzt noch gar nicht in einer Bank oder in einem Versicherungsunternehmen mit, wo ich mir das alles noch viel komplexer vorstelle.
Hier habe ich es jetzt nur selber mal erlebt.
Also eigentlich eine krasse Unternehmensberatungsaufgabe im Sinne von einer Bestandsaufnahme unserer Arbeitsprozesse zu verstehen, wirklich.
nachzuvollziehen im Wortsinn, was wir hier eigentlich tun.
Eine zutiefst menschliche Aufgabe, weil auch Menschen arbeiten ja an diesen Sachen.
Und bis dahin kann ich mir halt wirklich, und ich glaube eben du auch nicht, und das ist eben auch dein Punkt, überhaupt nicht vorstellen, dass da großartige Hilfe...
existieren kann durch KI, sondern vielmehr müsst ihr mir, also angenommen Adesso hätte das bei uns eingeführt, ja wirklich in der Branche bewanderte Menschen schicken, die wissen, wovon wir hier überhaupt reden, weil sie sich schon mal damit befasst haben, dass sie unsere Fachbegriffe kennen und nicht irgendwie alles bei Null lernen müssen, um das dann in ihrem eigenen prozessualen und analytischen Kopf und Denken so zu zerteilen und aufzubereiten und vorzubereiten, dass man dann irgendwann anfangen kann zu programmieren.
Da können dann ja Agenten von mir aus.
Da eh.
Aber ich glaube auch bei dem, was du jetzt schilderst, gibt es schon noch den Anforderungsagenten.
Okay.
Weil wenn der schon mal...
drei andere Qualitätszeitungen gesehen hat, dann fängt er nicht bei null an und sagt, naja, so in etwa weiß ich schon, was die da tun und was die haben wollen.
Der fängt schon mit so einem Rohling schon mal an, ohne mit euch gesprochen zu haben.
Und da glaube ich, werden wir beide überrascht, wie gut der schon ist.
Aber es kommen dann diese 20, 30, 40, man weiß es nicht genau, Konzeptualisierungsinformationen.
Ihr sagt, und das ist bei uns aber immer so und deshalb muss das besonders serviceorientiert besonders kosten, irgendwas besonders sein.
Das sind jetzt gar nicht mal die harten fachlichen Anforderungen, die in jeder Redaktion dann so sind.
Aber das sind die Kontextinformationen, die das einzelne Unternehmen betreffen.
Und die machen es besonders schwierig.
Und die kriegt der Agent schlecht raus.
Da brauchst du den Menschen zu, das glaube ich auch.
Die beiden zusammen, dann noch ein schlauer Agent daraus, der sagt, und dazu definiere ich jetzt die Testfälle.
Und ab da geht es dann doch weitgehend automatisch, aber ohne Agenten zur Laufzeit.
Also später, wenn euer neues Content Management System läuft, ist das ja agentenfrei.
Ich glaube, eine Differenzierung, die kann man auch noch machen, wenn wir in dem Bild bleiben, ist die Frage, ob das neue System und die Software eben wirklich die ganzen bisherigen Prozesse reproduzieren und abbilden soll.
Und dann braucht man natürlich dieses ganze Wissen.
Oder ob man auf einer grünen Wiese versucht und sagt, wie wäre es denn eigentlich vielleicht am besten und neu gedacht und lässt die KI dann mit einem bestimmten Wissen und dann ist die Frage, ob man es da noch mit braucht.
Aber die Unternehmen wollen natürlich sich nicht...
Die wollen immer alles so, wie es vorher auch war.
Ja, aber egal wie man es macht, gilt dann ja trotzdem die These, Achtung, agentische Entwicklung senkt Kosten nur dann deutlich und Prozesse, Daten, Testsysteme und Entscheidungen bevor als vorher gut strukturiert sind.
Ja, ja, ja, sicher.
Sonst baue ich schlechte Systeme agentisch nach.
Das ist auch billiger als die per Hand nochmal nachzubauen, aber schlecht ist das dominant.
So, und wo bewegt ihr euch denn jetzt in eurer Branche auf der Wertschöpfung?
die jetzt so zerteilt vor uns liegt.
Weil die Frage stellt sich die Börse ja ganz offensichtlich auch, wenn man sich so Aktienkurse von allen, fast allen Peers so anschaut.
Die Börse fragt sich ja auch, wie geht es eigentlich mit eurem Geschäft weiter?
Arbeitet ihr euch auf der Wertschöpfungskette so ein bisschen in Richtung Unternehmensberatung hoch?
Nee, das machen wir nicht.
Wir sind aber schon seit ewigen Zeiten, also 20 Jahre in Verticals geschnitten.
Das ist jetzt auch keine raketenwissenschaftliche Erkenntnis.
Also man hat Gruppen und Organisationseinheiten, die in einzelnen Branchen arbeiten und die sammeln natürlich Fachwissen auf.
Je besser das kultiviert wird, das Fachwissen, desto einfacher sind wir an unserem neuen Liefer- und kommerziellen Modell dran.
Finde ich, sind wir ganz gut aufgestellt, aber natürlich bei weitem auch nicht die einzigen.
Vielleicht bauen wir demnächst ja so Argentic Software Factories, um mal so nach vorne zu gucken.
Vielleicht bauen wir die und stellen die Kunden zur Verfügung, wo da Lieferketten drin sind mit Agenten, die da die Software ausbauen.
Das wäre euer proprietäres Wissen.
Das wäre das proprietäres Wissen.
Wir wissen, wie die Anforderungen am Anfang reinkommen.
Vielleicht verkaufen wir solche Fabriken auch.
Das ist ja einfach.
Wir brauchen hier wenig Blech und Wellblech und ein Grundstück dafür.
Das kann man ja auch dahin stellen.
Und vielleicht vermieten wir die auch.
Also da kann man sich gerade alle andere Modelle vorstellen.
Aber vielleicht, und das wird dann ganz lange noch ein Teil unseres Geschäfts ausmachen, sind wir auch weiter einfach Dienstleister in Entwicklungsprojekten, wo bloß andere Werkzeuge zum Einsatz kommen.
Was mich noch interessiert, dass du jetzt wieder im Unternehmen sitzt, wie macht ihr euch denn oder die Mitarbeiter in KI fit?
Und die zweite Frage ist, stellt ihr...
gerade eher Leute ein oder werden durch KI vielleicht auch viele perspektivisch überflüssig aus den ganzen diskutierten Gründen?
Erstmal die Frage, wie machen wir uns da fit?
Wir haben jetzt über zwei Jahre lang ganz viele Blumen blühen lassen.
Also jeder, der mit KI was machen wollte, im Projektkontext die Gelegenheit hatte.
hatte da auch die Gelegenheit, das auszuprobieren.
Das ist ganz bunt geworden, was so entstanden ist an Guardrails und Harnesses und Infrastrukturen.
Jetzt sind wir gerade dann wieder ein bisschen bei, das zusammen zu häkeln, um da Redudanzen rauszunehmen und die Dinge rauszukristallisieren, die auch in sowas wie eine Produkteigenschaft hinein entwickelt werden.
Wir müssen da, und das halte ich wirklich für unsere, das ist wirklich meine Alleinstellung, wir sind Softwareingenieure und haben mittlerweile ein paar hundert Leute, die KI-Projekte gemacht haben.
Also die beiden Disziplinen zusammenzubringen ist...
Das Gebot der Stunde.
Und das führt bei uns im Rahmen von so einer AI-Transformation dazu, dass wir da auch kräftig große Organisationseinheiten schaffen, wo wir all die agentischen Entwickler und die Software-Ingenieure in einer einer zusammenführen, um zu sagen, da wird jetzt die agentische Exzellenz ausgebaut.
Und wir machen das, ohne Personal abzubauen.
Das ist klar kommuniziert.
Wir wachsen in diesem Jahr jetzt auch ein bisschen weniger als in den letzten Jahren.
Da waren das aber auch immer 15 oder 18 Prozent.
Das ist dieses Jahr sicherlich ein bisschen weniger, aber wir wachsen weiter, auch im Personal, jetzt nicht nur im Umsatz, sondern auch im Personal.
Und das soll im nächsten Jahr und das wird im nächsten Jahr auch so bleiben, weil der Bedarf, den wir heute im Auftragseingang sehen, rechtfertigt das voll und ganz.
Und ich glaube, agentische Exzellenz entwickelt es halt auch nur, wenn du da genug Leute bei hast, die da schon Erfahrung mit haben.
Wir tun es ein bisschen schwieriger, junge Leute einzustellen.
Tun wir aber auch mit dem vorhin schon diskutierten Argument zu sagen, da gibt es einfach auch so ein Verantwortungsargument.
Wir sind ja der größte deutsche IT-Dienstleister.
Gott, wir müssen schon auch junge Leute einstellen.
Auch zusammen weiter mit euren Erfahrungen außenbilden.
Ja, genau.
Aber nicht in der Wildheit wie jetzt in den letzten drei bis fünf Jahren.
Ich habe noch zum Schluss eine andere Frage und zwar in der KI-Diskussion, die sozusagen so ein bisschen die Gegenfrage, auf die bin ich.
gekommen durch so einen Aufsatz, den Bill Gates geschrieben hat vor ein paar Wochen, den wir auch veröffentlicht haben, relativ umfangreich über welche Chancen durch KI, welche Risiken und so weiter.
Und das Wort hat mir einfach gut gefallen und das beschäftigt mich seither immer mal wieder.
Der hat gesagt, wir müssen wahrscheinlich, oder es wäre gut, wenn wir, weil das so ein mächtiges Tool ist, irgendeinen Bereich wahrscheinlich uns klar machen, der ist human reserved.
Ja.
Wie so ein Naturschutzreservat, das ist jetzt Natur und ein anderer Bereich.
Was sind denn aus deiner Sicht, wenn die Modelle noch so toll und noch so viel gut fänden, was sind denn so Bereiche, wo du auch sagen würdest, weil ich das Gefühl habe, ich nämlich auch, Bill Gates hat von Pflege, auch Pflegekranke, ältere Menschen gesprochen zum Beispiel, dass sein Vater angeführt hat.
Aber was sind denn so Bereiche, wo du sagen würdest, selbst wenn wir das könnten, da sollten wir die KI mal weglassen?
Kindergarten, Grundschule, niedrige Klassen, weiterführende Schule.
Also da, wo Menschen jetzt nicht nur Wissen vermittelt bekommen, das ist vielleicht nochmal was anderes, sondern irgendwie auch ein Wertekostüm transportiert bekommen.
Und da finde ich es einfach mit Menschen deutlich besser aufgehoben.
Sagt Volker Grun, Professor für Software Engineering an der Universität Duisburg-Essen und Mitbegründer und Aufsichtsratsvorsitzender des IT-Dienstleisters Adesso.
Vielen Dank, lieber Volker.
Danke euch beiden.
Hat Spaß gemacht.
Bis zur nächsten Woche, liebe Hörerinnen und Hörer.
Danke fürs Zuhören.