# AI Transformation in Public Sector Administration

**Podcast:** AI FIRST Podcast
**Published:** 2026-05-08

## Transcript

Herzlich willkommen zum AI First Podcast.
Ich habe heute Thorsten Rohde zu Gast, der bei der Stadt Nettetal die IT leitet und nicht nur im Bereich IT, sondern auch im Bereich KI ordentlich Gas gibt und in dieser Stadtverwaltung schon vieles mehr umgesetzt hat, was so das ein oder andere privatwirtschaftliche Unternehmen gemacht hat.
Und ich will mit Thorsten heute darüber sprechen, wie sie ihre KI-Vision in der Stadtverwaltung sehen, welches Fundament sie bisher aufgebaut haben und jetzt immer mehr Anwendungen haben.
auch in die Umsetzung bringen.
Und darauf freue ich mich, ganz viel von dir zu lernen, lieber Thorsten.
Schön, dass du da bist.
Ja, super, lieber Felix.
Ich freue mich, dass ich da sein darf.
Ich glaube, ich stelle mich mal eben einmal ganz kurz vor, damit alle deine Hörer auch genau wissen, worum es geht.
Du hast gerade schon relativ viel gesagt.
Ich arbeite bei der Stadtverwaltung Nettetal.
Die Stadtverwaltung Nettetal hat so 580 Mitarbeitende, davon rund 400 würde ich sagen am PC.
Also wir machen ja nicht nur die Thematik, alles was mit dem PC zu tun hat, sondern es geht auch um Bauhofthemen, es geht um Kita-Betreuung und so weiter und so fort.
Also es ist ein Riesenportfolio, was wir abdecken.
Ich selber bin im Bereich IT-Service der Leiter.
und bin auch Co-Bereichsleiter oder Co-Leiter des Bereichs e-Government.
Das ist unser Digitalisierungsbereich, den wir bewusst zwischen Organisation und IT aufgehangen haben, so dass wir gesagt haben, oh da haben wir ein cross-funktionales Team.
Die Leiterin aus dem Bereich Orga und ich als Leiter aus dem Bereich IT sind diejenigen, die mehr oder weniger den Bereich e-Government verantworten.
Und im Bereich E-Government ist es so, dass wir auch bewusst geguckt haben, a einmal Verwaltungsexpertise mit einer Person zu besetzen und auf der anderen Seite auch nochmal technische Perspektive zu besetzen, sodass wir immer ein ausgewogenes Verhältnis haben zu unseren wöchentlichen Joe Fixen.
kommen dann immer ein Mensch aus meiner Abteilung mit dazu und einer aus dem Bereich Organisation, sodass wir auch da wirklich immer schauen, dass wir ein ausgewogenes Verhältnis haben zu Orga und IT.
Und das sind, glaube ich, auch die beiden Dinge, die man ganz dringend benötigt, um das Thema Digitalisierung und auch um das Thema KI wesentlich in der Verwaltung zu verankern.
Jetzt stelle ich mir...
In so einer Stadtverwaltung, ich glaube, in Nettetail wohnen 40.000 Einwohner.
Ja, 43, 43,5, ja.
43.000 Menschen.
Eine Stadtverwaltung von einer Stadt mit 43.000 Menschen.
Da stelle ich mir jetzt die IT...
nicht so vor, dass die da eine ambitionierte KI-Strategie entwickelt hat und verfolgt.
Das ist irgendwie nicht das Bild, was ich im Kopf habe, sondern eher noch so Fax und so was.
Und jetzt hab ich aber, wir sprechen ja nicht umsonst, sondern ich hab immer wieder auch von dir und euch gelesen, was ihr da so macht und war total begeistert.
wie ihr wirklich ambitioniert dieses KI-Thema vorantreibt und auch in die Umsetzung ganz konkret bringt.
Wie kam das denn eigentlich, dass du dieses Thema so in die Hand genommen und vorangetrieben hast?
Grundsätzlich muss man sagen, also ich sage mal, der Chat-GPT-Moment war ja so Ende 2022, Anfang 2023 und wir waren in dieser Zeit in der Umgestaltung unserer Webseite.
Und auf dieser Webseite haben wir gesagt, wollen wir uns bürgerzentriert aufstellen, wollen den Bürger sehr stark mitnehmen.
Und in die Neukonzeptierung der Webseite ist dann ein Startup auf uns zugekommen und hat gesagt, so, wir haben hier ein Chatbot gebaut, der generative KI.
Ist, sag ich mal, quasi ein erster Chatbot der neuen Generation und den haben wir als eine der allerersten Kommunen in Deutschland dann wirklich auch online und live genommen, haben gesehen, wie stark das uns sowohl als Verwaltung entlastet, aber auch den Bürger entlastet und haben gesagt, sowas müssen wir versuchen in die Verwaltung zu bringen und haben uns dann auf den Weg gemacht.
relativ früh im Bereich von generativer KI aufgesprungen durch, ich will nicht sagen durch ein Zufall, also generative KI, genauso wie Chatbot war davor auch schon zumindest ein Thema, aber das hat einfach, war ein glücklicher Zufall, dass es so zusammengefallen ist, dass wir uns so gut entwickeln konnten und auch so gut erste Erfahrungen da sammeln konnten und auch sehen konnten, in welche Richtung es geht und wo wir dann auch wirklich hinwollen.
Wir spulen jetzt mal ein bisschen von da nach vorne und gehen dann danach nochmal zurück.
Und zwar, wenn du jetzt mal nach vorne schaust, über die nächsten vielleicht fünf Jahre auf eure KI-Arbeit in Nettetal, was soll dann in diesen fünf Jahren passiert sein, in der Verwaltung selbst und auch konkret beim Bürger?
Was ist da dein Zukunftsbild und deine Ambitionen, wo du hin willst?
Das ist immer schwierig.
Wir sind ja auf...
Wir sind zwar eine Kommune, es gibt auch diese föderalen Strukturen, heißt, wir haben ja ein Land und wir haben Bund.
Und wenn ich jetzt Land und Bund mitdenke und mir was wünschen würde, dann ist es so, dass ich sage, was wir definitiv brauchen, ist eine datengetriebene Verwaltung.
Also Daten müssen wirklich super gut durch die Stadtverwaltung durchfließen, so wie wir sie benötigen.
Dass wir dann mit ganz, ganz vielen Microservices arbeiten, wo...
Ich sage mal Workflow-Systeme mit KI ineinandergreifen, wo wir unser, wir haben ja ganz, ganz viele Dinge, die auf Recht basieren, wo wir unser Recht dann auch wirklich eins zu eins abdecken können und Ermessensentscheidungen auch fällen können.
Da gibt es eine sehr schöne Technik für, das zu tun.
Und dass die Sachen dann wirklich eins zu eins ineinandergreifen und wir wirklich ein moderner...
Dienstleister für den Bürger und die Bürgerin werden, der auch im Frontend so aufgebaut ist, dass wir die Barrieren, die wir haben in Richtung Bürger, die sprachlich sind, die verständnismäßig sind, dass wir uns darauf so einstellen, dass der Bürger bestmöglich seine Anliegen bei uns abliefert.
Wir schauen, dass wir die Sachen dann auch wirklich bündeln.
Heißt, wir haben schon mal Dienstleistungen, die zusammenfallen.
Und wir im besten Fall sogar an der einen oder anderen Stelle proaktiv unterwegs sind.
Das ist so das Zielszenario, wo ich sagen kann, das ist eigentlich das, wo sowohl der Staat als auch der Bürger am meisten von profitieren würde.
Was würdest du sagen, ist heute noch der größte Blocker dafür, diese Strukturen so aufzubauen und dann auch neue Services zu etablieren, die genau darauf einzahlen?
In der freien Wirtschaft eigentlich auch.
Das große Problem, dass wir sehr stark mit Fachverfahren arbeiten.
Die Fachverfahren haben Grenzen.
Die sind aufgebaut wie Silos und die machen ihre APIs einfach nicht auf.
Kannst du mal sagen, was ist so ein Fachverfahren?
Ja, also ein Fachverfahren könnte sein, ein Einwohnermeldewesen.
Also wenn irgendjemand bei uns einen Pass beantragt zum Beispiel oder aber es geht um das Thema Gebühren oder Hundesteuer oder wir sprechen über Thematiken wie Wohngeld oder eben auch Fachverfahren wie Ordnungswidrigkeiten, die bei uns verwaltet werden.
Das sind alles eigene Fachverfahren.
die in sich geschlossen sind und die im Prinzip diesen Datenfluss überhaupt gar nicht ermöglichen und die wie Silos abgeschottet sind.
Das ist ja das größte Problem, dass wenn wir, wir arbeiten sehr, sehr viel mit Anträgen und sehr, sehr viel mit Dingen, die uns der Bürger von sich geben muss, damit wir damit weiter arbeiten können und diese Brücke zu schlagen zwischen Ich habe ein Frontend, das ist auf der Webseite, da kann der Bürger seinen Antrag irgendwo eintragen und ich bringe es ins Fachverfahren.
Diese Lücke zu schließen ist meines Erachtens eine der größten Dinge, die im Moment hinderlich sind.
Das ist aber in vielen Dingen auch in der freien Wirtschaft so.
Ich weiß nicht, ob du es kennst, außer freien Wirtschaft.
Wir haben ja ein riesen Portfolio von Grünflächenbearbeitung bis Antragsbearbeitung bis Finanzen, Orga, im Prinzip alles.
Und ich weiß nicht, ob du es aus der freien Wirtschaft so kennst, dass da auch Silos sind oder ob man da schon ein Stück weit anders aufgestellt ist.
Also natürlich nur perfekt verknüpfte Systeme, Daten, die in einem Fluss durchlaufen und jeder Prozess, der sauber dokumentiert ist.
Und ja.
Also, nein, natürlich nicht.
Aber ich glaube, das ist ja gerade, wenn ich an so ...
staatliche Services denke, dann denke ich, ja, es ist doch aber, genau das, was du beschreibst, es ist doch ein klares Verfahren.
Ich mache hier diesen Antrag mit XYZ an Daten, die ich bereitstelle und dann gibt es doch einen wahrscheinlich sehr klaren Weg, wie das bearbeitet wird und nach welchen Regeln wie wo entschieden wird und wie dann der Entscheid und was auch immer dann für ein Dokument oder erzeugt wird, wieder zu mir.
kommen könnte.
Und ich glaube, es ist, wenn man da nicht so drin steht, manchmal so ein bisschen schwer zu verstehen, warum manche Dinge dann trotzdem noch so lange dauern.
Ja, also grundsätzlich ist es so, wie du es sagst.
Jetzt muss man aber sagen, dass wir insgesamt in Deutschland 11.000 Verwaltungen sind.
Also wir haben 11.000 Behörden.
Und wir haben alle eine Gestaltungshoheit.
Wir haben einen Zoo von, ich würde sagen, irgendwas zwischen 10.000 und 20.000 Fachverfahren, die insgesamt irgendwo eingesetzt werden.
Und dann kannst du dir vorstellen, dass wenn du selbst dafür zuständig bist, dich zu organisieren und zu schauen, wie die Dinge laufen, dass es da richtig Schwierigkeiten gibt, insbesondere wenn du echt mit echten Datensilos baust.
Und genau das ist das, was wir aufbrechen müssen, um dann Daten mit Workflows...
richtig laufen zu lassen, fließen zu lassen und dann eben auch mit KI so anzusetzen, dass wir KI bestmöglich für uns nutzen können.
Wobei wir auf der anderen Seite natürlich sagen müssen, wir können und dürfen nicht auf alles KI draufschmeißen.
Wir sind sehr, sehr häufig auch in Hochrisikosystemen unterwegs.
Wir sind sehr, sehr häufig in Systemen unterwegs, wo die Lebenswirklichkeit von Menschen sehr stark beeinträchtigt wird, wenn dann eine falsche Entscheidung getroffen wird.
Da kann höchstens vorbereitend irgendwas gemacht werden, aber da benötigt es immer den Jungen in the Loop und es benötigt immer sehr stark und gut aufbereitete Systeme, damit da keine Fehler passieren.
Das ist ja jetzt ein riesengroßes Feld an Chancen, Anwendungsfällen, wo du ran könntest, unterschiedliche Systeme, Schnittstellen und so weiter.
unfassbar großer Dschungel, der sich da vor allem auftut an Dingen, die man so tun könnte und wahrscheinlich gar nicht so leichter, den Anfang zu finden.
Wie hast du das dann gemacht?
Wie habt ihr dann eure Strukturen aufgebaut, um auf dieses Zukunftsbild, was du am Anfang gezeichnet hast, hinzuarbeiten?
Grundsätzlich ist es so, dass wir, ich habe ja den Chatbot erwähnt, wir haben uns dann umgeschaut innerhalb der Welt oder innerhalb von Deutschland und Europa.
Wo haben wir denn überhaupt Verwaltungen, die schon sehr stark mit generativer KI arbeiten?
Das war damals die Stadt Wien.
Und ich bin immer noch sehr dankbar dem Sindre Wimberger, der uns einmal hinter die Kulissen hat schauen lassen.
Die haben natürlich...
Also die Stadt Wien hat 80.000 Mitarbeitende ungefähr, wir haben 40.000 Einwohner, da weißt du ganz genau, welche Größenverhältnisse wir da haben.
Die haben natürlich ganz andere Mittel gehabt, wir haben uns das angeschaut, wir haben gesagt, das wollen wir auch, wir wollen es aber pragmatisch und hemsärmlich lösen und zwar mit unseren Mitteln, aus unseren Mitteln heraus selber und da muss man ganz andere Maßstäbe anlegen, als die Stadt Wien es tut und als die Stadt Wien es kann.
Wir hatten damals einen Server, der ausrangiert war eigentlich.
Ich habe aber gedacht, was machen wir damit?
Und dann habe ich gesagt, lass mal Grafikkarten kaufen.
Der Kollege hat gesagt, ach komm, eine reicht.
So wie ich bin, habe ich direkt zwei gekauft.
Also habe ich zwei Adagrafikkarten gekauft.
Dann haben wir geguckt, was können wir selbst...
hinstellen, dass wir uns in dem Bereich entwickeln können.
Wir haben dann im Bereich von Open Source geschaut, weil Open Source ist natürlich auch, insbesondere im kommunalen Umfeld, eins von den Dingen, auf die wir gerne schauen.
Es gibt solche Dinge wie Public Money, Public Code, also alles das, was mit öffentlichen Geldern bezahlt ist, sollte auch in öffentlichem Code irgendwo landen.
Auf der anderen Seite sind es natürlich auch Dinge, wo wir uns Lizenzkosten sparen können.
Wir haben geschaut, wir haben gesagt, wir bauen ein System auf, wir wollen ein Chatbot aufbauen, der sicher ist und mit dem wir mit unseren eigenen Dateien und Daten arbeiten können.
Und wir sind angefangen mit einer Schicht unten drunter, die wir aufgebaut haben, die war auf OLAMA-Basis.
Das ist das, was man auch kennt, wenn man zu Hause das ein oder andere Mal vielleicht auf seinem Mac oder auf welchem Gerät auch immer souverän und auf eigenen Geräten KI nutzen möchte.
Also eine OLAMA als Basis.
Wir haben obendrauf ein Modell von Meta gesetzt, ein LAMA 3.1.
Wir haben geguckt, welches Frontend können wir benutzen.
was können wir benutzen, dass der Mitarbeitende recht intuitiv, ja am besten ähnlich wie ChatGPT nutzen kann.
Da haben wir uns damals für ein Open Web UI entschieden, also ein Frontend und wir haben ein Rack-System daneben gesetzt, um mit unseren eigenen Dateien arbeiten können und wir haben auch damals schon ein NN daneben gesetzt, um mal so ein paar Spielereien zu machen und zu schauen, was geht, was geht nicht.
Das heißt, wir haben eine souveräne eigene Infrastruktur aufgebaut, wo wir gesagt haben, hier sind wir erstmal sicher.
Wir sind hier in einem regulierten Umfeld.
Wir haben Bürgerdaten, weil wir eben Daten haben und nicht, weil ein Bürger uns die gibt, weil ich ein Unternehmen habe, mit dem man irgendwie interagieren möchte oder von dem man was kaufen möchte.
Also müssen wir besonders darauf aufpassen.
Und haben gesagt, das ist erstmal unsere sichere Umgebung.
Und damit sind wir gestartet.
Haben dann eine erste Beta-Tester-Gruppe da drauf gelassen.
Haben geschaut, ist es das, was Verwaltung braucht?
Ist es das, was wir benötigen, um uns weiterzuentwickeln?
Und ja, dabei herausgekommen ist, ja genau das ist es.
Und dann haben wir es immer wieder weiterentwickelt.
Heute haben wir eine ganz andere Basis.
Wir arbeiten unten drunter als Schicht mit einem VLLM, was im Prinzip...
auch in großen Infrastrukturen benutzt wird und wesentlich besser skaliert.
Wir haben die Modelle gewechselt.
Aktuell sind wir jetzt auf einem QAN-Modell, QAN 3.6 mit 35B, also ein mittleres Modell, was wir selber hosten.
Und ja, mit dem Rack-System arbeiten wir natürlich an der Stelle auch.
Okay, also ich verstehe, ihr habt...
so zwei große Anwendungsfelder aufgemacht.
Das eine ist der Chatbot in Richtung Bürger und das andere ist der intern gerichtete.
Richtung Bürger, was können die Bürger damit machen?
Im Prinzip ist es so, dass der Chatbot sehr, sehr stark dafür genutzt wird, um zu schauen, wo finde ich meine Dienstleistungen.
Also wir haben 585 Dienstleistungen insgesamt, die wir so für den Bürger zur Verfügung stellen.
Wir haben etwas über 300 davon online und die Bürger können an der Stelle den Chatbot fragen.
Ich sage mal, wenn ich meinen Hund anmelden möchte, was kann ich da machen?
Oder wie teuer ist das?
Und so weiter und so fort.
Der leitet dann automatisiert an die entsprechende Stelle weiter, wo man es beantragen kann.
Das kann er in 95 Sprachen, das kann er in einfacher Sprache.
Wir haben eine viel, viel höhere Integrität.
von Dingen.
Und wir kommen viel, viel näher an den Bürger ran, der eben in einer bunten Welt, wie wir sie haben, natürlich verschiedene Anforderungen benötigt.
Und das 24-7.
Wie häufig wird der genutzt?
circa zehn Anfragen am Tag.
Hört sich jetzt nicht viel an, heißt aber auf der anderen Seite, es kommen zehn Anrufe nicht mehr bei uns an.
Also wir haben 43.500 Einwohner ungefähr und da ist das schon ein ordentlicher Wert und wir sehen insbesondere, dass der Chatbot sehr stark benutzt wird in den Abendstunden, auf dem Sofa oder eben am Wochenende, wenn die Verwaltung nicht erreichbar ist.
Du hast also quasi einen echten Mehrwert geschaffen, weil du Verwaltung 24-7 öffnest.
Seht ihr da einen Trend, positiven Trend, dass sich die Menschen daran gewöhnen und die Nutzung zunimmt?
Positiven Trend.
Boah, ich habe die aktuellen Zahlen eigentlich gar nicht.
Also du fragst gerade eine gute Geschichte.
Das sollten wir vielleicht mal evaluieren.
Ja, würde mich einfach total interessieren.
Wie kriegt man auch in Richtung Bürger dann diese Adaption hin?
Weil natürlich verstehe ich den Case total.
Für mich als Bürger ist es klasse, weil ich kriege viel schneller die Antwort, die ich haben will.
Muss nirgendwo anrufen.
Ihr werdet auch entlastet.
Jetzt ist ja die Frage, kommt das so auch schon bei der breiten Masse und nicht nur in unserer KI-Bubble?
dann natürlich toll, irgendwie cool mit so einem Chatbot zu schreiben, aber es hätte mich mal interessiert, wie es in der Breite der Gesellschaft auch angenommen wird, ob ihr da irgendwelche Trends schon ableiten könnt in den Jahren, in denen ihr das jetzt macht.
Also ich glaube, dafür ist die Masse auch ein Stück weit zu klein.
Also wenn du jetzt fragen würdest, so eine Millionenstadt wie Köln zum Beispiel, die werden es wahrscheinlich eher feststellen können als wir.
Für uns ist...
Der Unterschied, ob du jetzt sagst, du hast im Schnitt 10 Anfragen am Tag oder 11 oder 12, was natürlich schon eine Steigerung von 20 Prozent ist, relativ schwer zu greifen.
Wenn ich aber jetzt in Köln bin und ich habe, ich sage mal, 1000 Anfragen und ich habe auf einmal 1200, dann kannst du es natürlich wesentlich besser greifen.
Also da muss man sagen, sind unsere KPIs wahrscheinlich ein bisschen zu klein dafür, um da ein...
echten Trend feststellen zu können.
Dafür müsste man dann schon eine etwas größere Studie anlegen, glaube ich.
Dann habt ihr intern das zweite große Feld.
Was sind da so die Anwendungsgebiete, für die das eure Kollegen einsetzen?
Grundsätzlich müssen wir...
sagen, gibt es mehrere Anwendungsfelder.
Wir haben ja gesagt, wir haben auf der einen Seite das Thema Rack, mit dem wir ein bisschen rum experimentieren und rum spielen.
Beim Thema Rack haben wir zum Beispiel all unsere Dienstanweisungen mal in einen Container gepackt.
Wir haben jetzt aus dem Bereich der Stadtplanung jemanden, der alle Dateien einer bestimmten Art in so einen Container gepackt hat und die abfragen kann, habe ich letztens erst mitgesprochen und er hat gesagt, für diese Suchen in diesen Dokumenten habe ich früher zwei, drei Stunden gebraucht, um die richtige Antwort zu bekommen.
Die habe ich heute in einer Minute mit den richtigen Dokumenten, die ich dann auch benötige, das entlastet wirklich.
Wir haben zum Beispiel, sind hingegangen und haben alle unsere IT, ja, nicht Anweisungen, aber unsere Gebrauchsanweisungen, also alles das, was du benötigst für den Benutzersupport, was wir in so einem Wiki hatten, haben wir da einfließen lassen und du hast jetzt quasi einen Chatbot, den du fragen kannst, so pass mal auf, ich möchte mein Telefon einrichten, wie geht das?
Da brauchst du mich nicht mehr anrufen.
Wir haben so ein Ticketing-System, wo wir im Frontend es so eingebaut haben, da gibst du im Titel ein, das und das und das brauche ich, dann durchsucht der erstmal das Rack, gib dir eine Antwort, probier es mal dies, das, jenes und wenn das nicht funktioniert, dann kannst du deinen Case hier unten reinschreiben und dann kannst du den senden.
Das nimmt natürlich auch Druck von uns, von der Ticketbearbeitung weg, weil die Leute sich selber helfen können.
Wir sind ja im Self-Service unterwegs.
Und auf der anderen Seite bieten wir natürlich dadurch, dass wir eigentlich an jedem Arbeitsplatz einen Chatbot zur Verfügung stellen.
Können wir gleich auch nochmal darüber sprechen, welche Modelle wir da alles anbinden und wie wir es tun, bieten wir da die Möglichkeit, echt auch alle Funktionen, die du sonst bei ChatGPT, Cloud, Gemini benutzen kannst, eben am Arbeitsplatz zu haben, von bis.
Ich persönlich nutze das sehr, sehr häufig dafür, um mir meine Vermerke zu strukturieren.
Heißt, ich habe sonst ja bestimmt, also wenn du einen großen Vermerk schreibst, bist du schon mal einen Tag oder zwei damit unterwegs, ihn richtig zu formulieren.
Und dann hast du hier eine Idee und da eine Idee.
Heute habe ich einen...
prompt mehr oder weniger dafür und dann gebe ich meine Ideen oder das, was ich schreiben möchte, ungefiltert da rein und ich bekomme einen fertigen Vermeck raus und bin ja in einer Stunde anderthalb fertig.
Das sind natürlich riesige Entlastungen, die dir helfen, auch selbst deinen Arbeitsplatz so weit zu entlasten, dass du sagen kannst, ich spare da was ein und du hast einen echten Mehrwert auch innerhalb der Arbeit.
Kurz in eigener Sache.
Wenn dir der AI First Podcast gefällt und du mehr spannende Inhalte und hochkarätige Gäste hören möchtest, dann freue ich mich über deine Unterstützung.
Mit einer 5-Sterne-Bewertung und einem Abo für den Podcast hilfst du uns, sichtbarer zu werden und AI First weiterzuentwickeln.
Für dich und die gesamte Community.
Ich danke dir.
Wer macht denn, wer verwaltet denn diese Infrastruktur eigentlich bei euch?
Weil du hast jetzt erzählt, wie ihr euch das zusammengebaut habt.
Also wirklich viel auf Open Source und selbst Hosting und Premise Hosting gesetzt.
Das muss ja auch irgendjemand einmal alles aufbauen und das will ja auch weiterentwickelt und gewartet werden.
Versus ihr arbeitet mit einem Anbieter zusammen, der euch das alles so hinstellt.
Was war da die Abwägung und wer macht das bei euch gerade?
Wir machen alles selbst.
Wir machen alles selbst.
Wir haben keine Anbieter, keine Berater etc.
pp.
im Boot gehabt.
Wir haben alles selbst entwickelt.
Wir betreiben alles selbst.
Das macht einer meiner Mitarbeitenden und ich habe nicht so ganz so viele Mitarbeitende.
Das sagte ich mir, genau.
Das macht er mehr oder weniger in Anführungsstrichen, ich will nicht sagen nebenbei, aber es ist Teil seines Jobs, der sonst auch noch da ist.
Auf der anderen Seite muss man sagen, so viel Zeit geht an und für sich jetzt für die Pflege an sich nicht drauf.
Die Frage, die man sich stellen muss, ist, wenn ich jetzt irgendwelche besonderen Use Cases habe und so weiter, die vielleicht dann auch noch, wenn du jetzt weiterentwickeln möchtest und du gehst wirklich in diese hochsensiblen Systeme rein, musst sie auch dokumentieren und hast sie nicht gesehen und so weiter und so fort.
Können wir das selber oder sind das Sachen, wo wir dann eine Entscheidung treffen, make or buy?
Wir entwickeln uns da langsam, weil wir nämlich auch einen anderen Ansatz fahren und zwar den Ansatz der Befähigung.
Also wir müssen erstmal unsere Mitarbeitenden befähigen, mit den Tools umzugehen.
Wir müssen herausfinden, wo sind unsere lokalen Champions, was können...
Multiplikatoren sein.
Wie bekomme ich die Leute ausgebildet und wie komme ich überhaupt an die entsprechenden Use Cases heran?
Weil die Entscheidung, mit KI zu arbeiten, ist im besten Fall eine Entscheidung, die top-down absolut unterstützt wird und auch gefordert wird.
Auf der anderen Seite, die Use Cases, die sich wirklich ergeben, sind meistens Use Cases, die bottom-up erfolgen, weil Leute sagen, so, pass mal auf, das nervt hier den ganzen Tag, ich habe hier eine repetitive Tätigkeit und man muss ja auch erkennen, dass man sowas umsetzen kann und ja, im Prinzip mit KI oder mit einem Workflow oder wie auch immer so zu bearbeiten, dass eine echte Entlastung entsteht.
Das ist schon schwierig.
Und wie habt ihr das organisiert, eure ...
Mitarbeitenden da nicht nur zu sensibilisieren, sondern tatsächlich in diesen Modus zu bringen, diese Chancen zu erkennen und dann auch umzusetzen, weil wenn du sagst, euer Team muss mit wenigen Ressourcen irgendwie aufkommen, kann ich mir vorstellen, kannst du jetzt nicht da das große Ticketsystem aufmachen, wo alle fleißig ihre Use Cases einreichen können und ihr arbeitet die dann ab und stellt die bereit, sondern da muss ja wahrscheinlich auch einiges aus der Eigeninitiative heraus passieren.
damit da ein bisschen Geschwindigkeit aufgenommen werden kann.
Das ist auf jeden Fall so.
Und wir haben es in mehreren Schichten aufgebaut.
Das, was du auf jeden Fall benötigst, um überhaupt KI einsetzen zu können, ist eine klare Governance.
Also wir haben an der Stelle einen KI-Kompass.
Den haben wir uns freundlicherweise von der Stadt Wien geklaut.
Bei deutschen Verwaltungen ist es oft so, wie grundsätzlich lieber mit Dienstanweisungen gearbeitet wird.
Wir sind aber den pragmatischen Weg und den neuen Weg gegangen und haben gesagt, uns rechnen zwei Seiten, da muss alles draufstehen.
Die Leute müssen es lesen, die Leute müssen es verstehen, da muss alles Wichtige draufstehen.
Und dann sind wir hingegangen und haben gesagt, wir haben eine Unterweisungssoftware und innerhalb dieser Unterweisungssoftware bauen wir eine Unterweisung, die im Großen und Ganzen darauf aufgebaut ist, dass wir die Grundzüge dieses KI-Kompasses abfragen und sobald der Mitarbeitende das nachweisen kann, also da werden auch Fragen gestellt und so weiter und so fort, und sobald diese Unterweisung in Anführungsstrichen besteht, bekommt er Zugang zu unserem KI-Portal.
Das ist das, wie wir es bauen oder wie wir es bei uns implementiert haben, auch um dem EU-AI-Act gerecht zu werden.
Pflicht, also es ist ja keine Schulungspflicht, es ist eine Kompetenzpflicht.
Es gibt viele Leute, die da mit Schindluder getrieben haben und gesagt haben, ihr müsst jetzt schulen und Druck aufgebaut haben auf irgendwelche Unternehmen oder auch Verwaltungen.
Darum ging es ja nicht, sondern es ging darum, Kompetenz nachzuweisen.
Das machen wir an der Stelle.
Und wir haben dann darüber hinausgehend für unsere Mitarbeitenden entwickeln wir ein Schulungssystem.
On-Premise bzw.
in Videokonferenz nach einem Schwimmabzeichensystem.
Wir haben KI Bronze, wir haben KI Silber, wir haben KI Gold.
Wir haben die Inhalte festgelegt und wir entwickeln die mit einer erfahrenen Trainerin zusammen auf die Bedürfnisse unserer Verwaltung.
Heißt, wir schauen uns an, was passt, was benötigen wir, wie müssen wir es vermitteln.
Dieser Abzeichen hat im besten Fall, also KI Bronze, KI Silber haben wir jetzt so gut wie fertig konzipiert, hat drei Module, 90 Minuten.
Es ist immer ein Tag dazwischen.
Wir machen nicht mehr als Kleingruppen.
Zwölf Personen, damit wir an der Stelle auch eine enge, maschige Betreuung zur Verfügung stellen können.
Wir gehen sehr viel in Breakout Sessions, wo wir dann in Kleingruppen arbeiten.
Es muss immer die Möglichkeit bestehen, dass...
die Trainerin oder der Trainer damit eingreifen und unterstützen kann.
Das ist das, wie es konzipiert wird und wie wir die Leute dann weiterentwickeln.
Und so bekommst du auch relativ schnell den, oder triffst du den Nerv, um auch zu schauen, wer sind wirklich deine AI Champions?
Wer sind diejenigen, die es verstehen, die es vielleicht irgendwann mal als Multiplikator auch weiterentwickeln können und so weiter und so fort.
Das ist die eine Schiene, die wir machen.
Wir haben aber auch noch, und das ist viel Arbeit, muss man sagen, eine ganz andere Schiene.
Wir bieten ein Portal an, ein KI-Portal, so ein Hub mit 10 Stunden Video Blended Learning Formaten, mit Use Cases, Best Practices und so weiter und so fort, das komplett so aufgebaut ist, dass die Leute sich selbstständig damit entwickeln können.
Da ist nirgendwo, hier ist dein Prompt und mach Copy und Paste, dann kannst du damit arbeiten, sondern das ist alles so aufgebaut, dass man sagen kann, das ist der Fall, das und das musst du als erstes bereitlegen, so und so und dies und das und jenes, so entwickelst du den Prompt, dass die Leute damit selbst wachsen können und selbst sich mit der Technologie so vertraut machen können und in ihrer Geschwindigkeit auch wachsen können, so wie sie es benötigen.
Denn sind wir ehrlich?
Wir haben vorhin, du hast gerade KI-Bubble gesprochen oder gesagt.
KI ist A ein Bubble-Thema, B ein Thema, was ich sage mal im großen Maße bei Führungskräften eine Rolle spielt und am eigentlichen Arbeitsplatz ist es ja auch gar nicht so präsent, wenn man mal die Prozentzahlen an...
Also eine Führungskraft, die wird immer sagen, oh, ich verbinde mit KI, Effizienzgewinne, alles geht schneller und so weiter und so fort.
Und ein Sachbearbeiter, der sagt, ich habe Schreibtisch hier ein bisschen oben vorliegen, lass mich in Ruhe.
Für die spielt das nicht so eine große Rolle, sodass man auch schauen muss, wie bekommt man es hin.
Dieses Videoportal oder diesen Hub, den wir da haben, den bieten wir jedem Mitarbeitenden an.
Heißt.
Der ist nicht nur für die Leute, die am PC arbeiten, der ist auch für unsere Mitarbeitenden auf dem Bauhof, für unsere Kita-Mitarbeitenden und so weiter und so fort, für alle offen.
Die können den zu jeder Zeit an jedem Ort sich damit weiterbilden, auch abends auf dem Sofa, wenn man nichts im Fernsehen kommt oder man alles bei Netflix gebingewatcht hat, dass man nichts mehr auf Lager hat, um zu gucken.
Also es geht zu jeder Zeit und es ist auch wichtig, das zu tun, denn wir sind verantwortlich dafür, dass unsere Mitarbeitenden gut ausgebildet sind.
Generative KI ist eins von den Dingen, die nie weggehen und wir müssen die Mitarbeitenden auch so schulen, dass die in Zukunft auch im Privaten damit umgehen können.
Und dann machen wir noch zusätzlich Formate, wo ich mich einfach in den Raum setze und sage, hier ist jetzt ein Raum, hier sitze ich, anderthalb Stunden, kommt einfach vorbei mit euren Ängsten, Nöten, Sorgen, Ideen und so weiter.
damit man sich einfach vernünftig damit austauschen kann, ohne irgendeinen Zwang, ohne irgendwelche Termine, ganz niederschwellig.
Es gibt noch ganz, ganz viele Formate, die man da machen kann und die wir auch noch machen wollen.
Und ja, so breit musst du es aufstellen, damit du es in die Verwaltung bekommst.
Schulungen sind ja dann der eine Punkt und verstehe ich total, glaube ich auch dran, dass dieser Kompetenzaufbau enorm wichtig ist.
Wirkung damit zu erzielen, steht ja auf einem ganz anderen Blatt.
Und das ist ja am Ende die Kunst, weil es ja darum geht, die Art und Weise, wie ich heute arbeite, wie ich Arbeit erledige, wie ich Wert zum Beispiel für den Bürger erzeuge, nochmal neu aus KI-Perspektive zu denken.
Und gleichzeitig verändert das ja auch bestehende Berufsprofile, insbesondere in der Sachbearbeitung.
Wie macht ihr das denn?
Weil das ist doch ein totales Spannungsfeld.
Es will sich ja niemand jetzt selbst überflüssig machen und neue Jobs wachsen ja auch nicht wie Pilze sofort aus dem Boden.
Also wie motiviert ihr dann Menschen, nachdem sie die Kompetenzen aufgebaut haben, diese auch anzuwenden und Dinge, die sie heute tun, deutlich effizienter machen zu können?
Felix, das ist eins von den Dingen, das versuchen wir oder zumindest ich versuche es auch so weiterzutragen, dass wir sagen müssen, wir reden seit Gott weiß wie vielen Jahren davon, dass wir einen Fachkräftemangel bekommen aufgrund von, ja, die ganzen Boomerscheiden aus etc.
pp.
Heißt, wir werden demnächst weniger Leute zur Verfügung haben für die gleiche Arbeit oder mehr?
Das ist erstmal das eine.
Heißt, helft den Leuten, sich selber zu helfen und sich so zu entwickeln, dass man die Arbeit auch später noch erledigen kann.
Das ist erstmal der erste Ansatz.
Der zweite Ansatz ist der, es fallen einfache Tätigkeiten weg.
Also es fallen ja meistens einfache, repetitive Tätigkeiten weg, die Zeit fressen.
Und an der Stelle ist es dann so, dass man sagen muss, wenn die einfachen Tätigkeiten wegfällen, dann kommen schwierigere Tätigkeiten dazu.
Heißt, Arbeit wird höherwertig und es ist auch eine Chance für die Mitarbeitenden, sich weiterzuentwickeln.
Muss man an der Stelle ja auch sagen.
Und das sind alles so Faktoren, wo man sagen muss, das ist wichtig, um es auch zu transportieren und auch offen zu transportieren, damit die Leute erstmal wissen, warum man das überhaupt macht.
Dann müssen die das Ganze natürlich annehmen.
Wir müssen natürlich auch schauen, was ist mit Reskilling, was mit Upskilling, Jobprofile verändern sich und so weiter und so fort.
Das ist ein riesen Spannungsfeld und eine riesen Herausforderung, die aber nicht nur wir haben, die hat eigentlich jedes Unternehmen, muss man ganz ehrlich sagen.
Und da gehen wir auch genauso mit um wie mit jedem Unternehmen oder wie jedes Unternehmen das auch tun würde.
Setzt ihr da klare Ziele, zum Beispiel irgendwelche, ich habe letztens mit jemandem gesprochen, die haben so Efficiency Roadmaps, haben sie das gemacht, genannt für jeden Fachbereich ein bestimmter Effizienzgewinn, der messbar nachgewiesen werden muss bis zum Ende des Jahres.
Das fand ich jetzt schon einen eher progressiveren Ansatz, um da auch Messbarkeit reinzubringen nach all den Investments, die getätigt worden sind.
Macht ihr so etwas auch oder beruht das aktuell eher noch auf eine Art?
Vertrauensbasis und es geht im ersten Moment noch gar nicht darum, jetzt die knallharten Ergebnisse zu liefern, sondern es geht erstmal darum, dieses Thema in die Kultur, in die Köpfe zu bekommen.
Wie macht ihr das?
Es geht ja um beides.
Es geht auf der einen Seite darum, das in die Köpfe zu bekommen und auch das Ganze so zu implementieren, dass Quick-Wins entstehen, dass die Leute merken, Das hilft mir wirklich, um es auch kulturell zu verankern.
Auf der anderen Seite sind wir nicht befreit davon, über Effizienzen nachzudenken, weil wenn du dir anschaust, wie die städtischen Haushalte im Normalfall immer mit aussehen, dann haben wir auch einen riesen Kostendruck.
Auf der anderen Seite muss man sagen, sind wir jetzt eine der Kommunen, die schon wesentlich weiter sind als viele andere und wir sind trotzdem auch noch iterativ unterwegs und machen auch noch an der einen oder anderen Stelle unserer Erfahrungen.
Also wir sind ja, wenn wir jetzt sagen von 23, erst ein paar Jahre unterwegs, wir machen da unsere Erfahrungen, wir schauen, wie es geht und wir schauen uns ganz bewusst auch an, in welche Prozesse können wir reingehen.
Also es ist dann...
Nochmal eine andere Schiene, wo du sagst, so eine Stadtverwaltung hat locker mal zwischen, je nachdem, was du für eine Stadtverwaltung hast, zwischen anderthalb tausend und dreieinhalb tausend Prozesse.
Da fällt bei den meisten Leuten schon die Kinnlade runter.
Weil so viele Prozesse hast du niemals in einem normalen Unternehmen.
Ja, das ist eine riesen Herausforderung, weil wir eben so vielschichtig aufgebaut sind.
Und wir machen das Ganze so.
Dass wir gesagt haben, wir machen ein Prozessregister und dieses Prozessregister, da werden die Prozesse erstmal benannt.
Du musst ja nicht jeden Prozess aufnehmen.
Und dann packen wir hintendran Skalierungssätze und diese Skalierungssätze helfen uns dann dabei, die richtigen Prozesse zu finden.
Heißt, welche Prozesse haben einen hohen Durchlauf, welche Prozesse binden viel Personal, welche Prozesse haben viele Schnittstellen, welche Prozesse binden viel Geld.
Top 20, Top 30 Prozesse zu finden und aus diesen dann gezielt diejenigen herauszusuchen, die uns weiterhelfen, um echt auch effizienter zu werden und Dinge von der Uhr zu nehmen.
Ihr seid ja auch unter anderem als Pilot.
Kommune im Agentic AI Hub.
Das ist ja eine bundesweite Initiative, um agentische KI in die Verwaltungen zu bekommen und dort auch Use Cases auf die Straße zu bringen.
Finde ich großartig, dass das jetzt von unserem Digitalministerium vorangetrieben wird und bin schon gespannt auch auf die Ergebnisse.
Kannst du uns so einen kleinen Blick hinter die Kulissen geben?
Was ist das für eine Initiative und was macht ihr da konkret?
Tolle Initiative, weil auf der einen Seite man sich mit agentischer KI befasst und auf der anderen Seite Startups mit Verwaltungen zusammenbringt.
Wir selbst sind sehr Startup-affin.
Ich glaube, wir haben acht, neun Startups bei uns im Einsatz.
Ich finde immer Startups, die kommen mit jungen, frischen Ideen, brechen altes Verwaltungsdenken immer schön auf und du merkst richtig, wie frischer Wind reinkommt und wie sich Dinge dann sehr schön verändern.
Das ist aber auch eine große Herausforderung, weil Verwaltung natürlich gewöhnt ist, mit Unternehmen zu arbeiten, die im besten Fall x Millionen Umsatz haben sollen, 738.000 Kunden, um Sicherheit zu haben.
Also da trifft eine Welt aufeinander, die gerne mit Sicherheiten arbeitet, auch zu Recht.
Und auf der anderen Seite bekommst du halt diese Start-up-Welt, die eigentlich von Grund auf ein Stück weit anders tickt.
Und die erstmal so zusammenzubringen, Thematiken zusammenzubringen, wie Datenschutz etc.
pp.
und so weiter und so fort, ist mal eine riesen Herausforderung.
Und alleine deshalb ist dieser Agentic AI Hub so wichtig, weil, und das macht das Bundesministerium wirklich toll mit dem Digitalservice, weil die echt daran interessiert sind, diese Wege zu öffnen und ja, Startups oder eine Kultur zu schaffen oder versucht, einen Weg zu schaffen, wie man Startups sehr gut an diese Verwaltung heranbekommt.
Das ist das eine.
Auf der anderen Seite haben wir natürlich agentische KI-Lösungen, die wir da entwickeln.
Da gibt es, ich glaube es gibt neun oder neun, ich meine es sind neun Startups, können auch zehn sein, die da Projekte haben und die sind dann mit verschiedenen Städten, ich will nicht sagen zusammengewürfelt worden, es gibt auch Startups, die sich zusammen mit einer Kommune beworben haben und da werden dann diese Projekte durchgeführt.
Wir haben von diesen neuen Projekten ganze zwei bekommen, was richtig, richtig krass ist, finde ich, weil wir eben auch nicht die größte Stadt sind, muss man ganz ehrlich sagen.
Aber wir haben auch eine sehr, sehr große Erfahrung mit Startups, auch in der Co-Creation und so weiter und so fort.
Und wir haben zwei schöne Projekte.
Eins ist das Projekt mit Summer AI zusammen als Startup, wo es um das Thema Prozessmanagement geht.
Das ist eine sehr tolle Lösung, wo du im Prinzip hingehen kannst und deine Prozesse sehr einfach mit AI aufnehmen.
Heißt, was wird da gemacht?
Du gehst...
mit einem Rechner oder von mir aus auch mit einem Tonbadaufnahmegerät in eine Besprechung zu einer Sachbearbeitung und sagst, so wie sieht der Prozess aus, sprech den hier mal rein und eine AI macht da automatisiert ein WPNN 2.0 Diagramm von, sodass du im Prinzip den Prozess direkt siehst.
Du brauchst dich nicht mehr damit auseinandersetzen, mit langen Workshops, wie kriege ich das modelliert und so weiter und so fort.
Das ist ein Prozess, der natürlich auch sehr, sehr lange gedauert hat im Normalfall.
Den kriegen wir ganz, ganz schnell runtergebrochen auf wenige Minuten, sage ich mal, jetzt auch von der Modellierung her, sodass wir da auch sehr, sehr starke Effizienzgewinne haben.
Und mit denen sind wir in der Co-Creation so oder so schon gewesen.
Dieses gerade angesprochene Prozessregister haben wir bei denen oder mit denen zusammen in der Software umgesetzt und jetzt entwickeln wir weiter Dashboards.
Welche Einsparpotenziale kann ich vielleicht generieren?
Was erkennt die KI schon an Dingen, wo irgendein Prozess falsch läuft oder irgendwie krumm läuft, wo man sagen kann, ey, pass mal auf, wenn du das anders machst, dann kannst du direkt den Prozess 20% schneller machen.
Das ist eine coole Geschichte.
Und das zweite ist, und das ist auch ein sehr, sehr tolles Projekt, weil das eins der Top-Prozesse in jeder Verwaltung ist, wir kümmern uns um das Thema Wohngeld.
Und das Thema Wohngeld ist insbesondere deshalb ein Top-Prozess, weil du auch sehr viele Nachforderungen hast.
Wir haben auf der einen Seite den Bürger, der uns Daten geben muss.
Und wenn du dir jetzt überlegst, wie hat man früher Digitalisierung gemacht oder wie machen heute viele noch Digitalisierung?
Ich habe einen Antrag, dann mache ich einen PDF von, den klatsche ich ins Internet.
Ja, den Antrag auf Papier, den hat schon niemand verstanden, wie man den ausfüllen muss.
Jetzt haben wir den im Internet, jetzt haben wir Digitalisierung gemacht.
Nein, das ist falsch.
Wir müssen schauen, wir haben eine bestimmte Zielgruppe, die wir ansprechen wollen.
Bürger einstellen und je besser wir die Frage stellen, je besser wir den durch diesen Antragsprozess führen, desto bessere Daten bekommen wir.
Wir haben, wenn wir schlechte Daten haben und in Anführungsstrichen schlechtere Anträge, sehr, sehr viele Nachforderungen.
Da wird alles per Hand geprüft, wird geschaut, passt das, du musst die ganzen Dokumente durchsuchen, Mietverträge, die riesengroß sind und so weiter und so fort.
Und das sind Sachen, wenn du auf der Seite des Bürgers schon hingehst und sagst, ich mache das vernünftig.
In diesem Projekt bekommt der Bürger eine agentische KI an die Hand, wo er nachher sagen kann, ich überprüfe das Ding jetzt, ob erstmal alles richtig ist und ob alles vollständig ist.
Dann kann er es abschicken.
Dann kommt es zum Sachbearbeiten.
Der braucht nicht mehr alles händisch prüfen und so weiter und so fort.
Die KI geht hin.
Direkt Value Extraction, guckt, ob alles passt und so weiter und so fort.
Sieht, da muss noch was nachgefordert werden.
Dann wird es mit Human in the Loop nachgefordert.
Du musst halt immer auch schauen, ob das passt, ob er die Sachen richtig ausgelesen hat.
Wenn alles passt, drückst du auf den Knopf, wird es direkt in ein Fachverfahren überführt, das quasi direkt da dran hängt.
Es ist quasi alles in einem.
Dort kannst du deine Berechnung machen für das Wohngeld, das schickst du dann einmal weg und dann wird das Wohngeld ausgezahlt.
Das ist ein Riesenschritt in die richtige Richtung und das sind echt tolle Projekte.
Ja, also glaube ich und ich freue mich wirklich, das zu hören, dass genau solche Initiativen jetzt entstehen und Glückwunsch erstmal, dass ihr da die zwei Mandate bekommen habt, aber ich glaube...
Ihr habt auch einfach Bock darauf und das steckt wahrscheinlich auch an und steigert wahrscheinlich auch einfach die Wahrscheinlichkeit, dass da am Ende was draus wird.
Und das habt ihr ja jetzt schon das ein oder andere Mal gezeigt in den letzten Jahren.
Deswegen wünsche ich euch dabei auch viel Erfolg.
Wie lange geht das?
Auf welchen Zeitraum ist die Initiative angelegt?
Drei Monate.
Wir haben drei Monate Zeit, dieses Fachverfahren zu entwickeln, hinten dran.
Wir sind jetzt nach sechs Wochen schon online und wir lassen uns wissenschaftlich begleiten, sodass wir auch zurückspiegeln können, was bringt das alles.
Und das wird dann auch an Bundesregierung und Sozialstaatskommissionen etc.
berichtet, sodass man sagen kann, das, was da oben beschlossen wurde irgendwo und bei uns umgesetzt wird, wird jetzt so begleitet, dass auch ein Rückkanal da ist, um den Leuten beim Bund zu sagen, pass mal auf, was er gemacht hat, war richtig oder da müsst ihr nochmal nachsteuern.
Das ist halt auch eine coole Geschichte.
Orsten, vielen, vielen Dank für deine Einblicke in eure KI-Reise, in euer Setup und die Erfahrungen und ich drücke euch die Daumen für die Zukunft.
Danke.
Gerne.
Super.
