# Strategic Shift: CTO to CEO in AI Security

**Podcast:** Becoming CTO Secrets
**Published:** 2026-08-25

## Transcript

Hallo und herzlich willkommen zu Becoming CTO Secrets, dem Podcast von CTOs für CTOs und diejenigen, die es noch werden wollen.
Ich bin Philipp Deutscher, externer CTO, CTO-Coach und Gründer der Becoming CTO-Community.
Heute bei mir im Podcast, ich spreche mit Frank Güttler, der ist der Geschäftsführer der Bitaggregat GmbH und auch ein ehemaliger CTO und deswegen sprechen wir.
Wir sprechen nämlich darüber, wie sich auch bei ihm der Blick auf Technologie verändert hat, als er vom technischen Innovator zum Business verantwortlichen wurde.
Und das ist eine Transformation, die haben einige schon gemacht, mit denen wir auch gesprochen haben.
Und trotzdem ist es spannend, dass wir heute nochmal darüber sprechen.
Wir sprechen nämlich auch darüber, warum Agentic AI bei sensiblen Daten nicht nur eine Architekturfrage ist, sondern auch eine strategische CEO-Entscheidung.
Jetzt wollte ich schon CTO sagen, aber du bist ja gar kein CTO mehr.
Frank, herzlich willkommen.
Hallo.
Ja, schönen guten Tag.
Freut mich, dabei zu sein.
Wir fangen auch gleich mal mit genau diesem Fauxpas, den ich mir am Anfang jetzt geleistet habe.
Wollte ich dich mal gleich als CTO betiteln.
Dabei bist du ja gar keiner mehr.
Aber du warst viele Jahre CTO und bist heute Geschäftsführer.
Hatte dieser Rollenwechsel, war das eine logische Evolution aus der Rolle heraus in neue Aufgaben?
Oder was war der Auslöser für diesen Rollenwechsel?
Der Auslöser war tatsächlich damals in der Umbruchsstimmung bzw.
lag auch in der Corona-Krise, weil es da einige Schwierigkeiten gab in meiner alten Firma.
Wir hatten ja sieben Jahre lang sehr gute und interessante Produkte gebaut, die sehr hohen Innovationscharakter hatten.
Und meine Rolle als CTO hat dann letzten Endes sozusagen darin gemündet, dass ich dann auch das Geschäftsführungsfeld übernommen habe.
Und dann mit der neuen Firma dann auch sozusagen seitdem natürlich beständig dann auch die Position ausgefühlt habe.
Die spannendste Frage, die ich in dem Zusammenhang eigentlich immer habe, ist, wie sich denn so der Blick des ehemaligen CTOs auf...
Technologie oder Technologieentscheidungen dann verändert, wenn auch noch andere Themen viel stärker im Vordergrund stehen, also Umsatz, Markt, finanzielle Tragfähigkeit und so weiter, die du ja dann auch mit verantwortest.
Wie war das bei dir?
Das war ganz spannend.
Natürlich, wo wir vielleicht mal ein bisschen zurück in die Vergangenheit geschaut, das war damals sogar schon 2013, wo wir die erste Firma gegründet haben und damals als CTO war ich natürlich jung.
vielleicht auch noch ein bisschen naiv, hatte viele Ideen natürlich, war vorher wissenschaftlicher Mitarbeiter, kam sehr stark aus der Technik, habe vieles selber programmiert, war dann auch als CTO natürlich in der neuen Firma oder in der Firma dann auch für die ganzen technologischen Fragestellungen verantwortlich definierte Technologie-Stack und natürlich mit dem das Team und die Generation der Produkte wuchs, musste man natürlich entscheiden, wie geht es jetzt weiter.
Und auch da gab es schon einen Transformationsprozess, aber spätestens dann, wenn man auch das Produkt nicht nur als Technologie betrachtet, sondern eben auch, was kann ich damit machen, was kann ich damit am Markt erreichen.
Und scheint es natürlich, dass erstmal der technologische Faktor vielleicht so ein bisschen in den Hintergrund rückt, weil das nicht die primäre Fragestellung ist.
Aber beides zusammen, dass das eben miteinander harmoniert, das ist so glaube ich die große Kunst und das ist auch das, was am Ende sozusagen zählt.
Dass ein CTO diese richtigen Entscheidungen so trifft, dass der Markt, den das Produkt braucht, dann auch genauso ausfüllen kann.
Und das ist das, was ich ein bisschen mitgenommen habe von dieser Transition als Geschäftsführer.
guckt man natürlich dann schon auf das Produkt anders drauf und auf den Markt.
Aber vor allen Dingen mit der Erfahrung als CTO, glaube ich, ist die sehr wertvoll, weil ich denke ich mal dadurch auch vor allen Dingen das Produkt und die Technologie besser verstehen kann und wir als Hardware-Technologieunternehmen natürlich besonders davon abhängig sind, innovative Produkte und innovative Sicherheitstechnologie in die Produkte zu integrieren.
Und damit natürlich auch die Aspekte, die ein CTO grundsätzlich eben auch betrachtet, eben noch von immenser Bedeutung ist, auch wenn das jetzt jemand anders bei uns macht, ein Kollege.
Aber das ist, glaube ich, ein wichtiger Einblick, der mir erhalten geblieben ist und der mir nochmal eine besondere Betrachtungsweise auf das ganze Portfolio bringt.
Ja, du hast gerade den Kollegen angesprochen.
Der war ja bei uns auch schon zu Gast hier im Podcast, wenn ich das noch richtig in Erinnerung habe.
Sind das dann auch Erwartungen, die du explizit an deinen CTO jetzt hast?
Also auch, dass er eine gewisse Marktfokussierung, Umsatzfokussierung, auch das unternehmerische Denken mitbringt?
Oder weil du auch schon...
CTO-Erfahrung hast und du jetzt der CEO bist, übernimmst du das hauptsächlich?
Also das ist eine sehr gute Frage, weil wir uns natürlich aufgrund der jahrelangen Zusammenarbeit natürlich gut ergänzen und auch schon damals mein Kollege in der damaligen Firma mich stetig begleitet hat, was die Hochinnovation betrifft.
Er ist derjenige, der auch wirklich die die Ideen mitbringt und meine Aufgabe damals als CTOs war es ja auch wirklich dann entsprechend zu entscheiden, welche Produkte oder welche Technologien kann ich dann in die Produkte integrieren.
Und wenn wir das eben jetzt mal betrachten, dann ist das natürlich ähnlich.
Natürlich hat mein Kollege Jörn dann auch wirklich konkrete Aufgabengebiete, aber dadurch, dass ich natürlich vieles auch selber betrachten und bewerten kann, brauche ich natürlich, kann ich mich sozusagen auf ihn als Person mehr darauf verlassen, dass er eben mehr technischen Input und vor allen Dingen auch sozusagen auf der Innovationshöhe dort mit reinbringt, was ja natürlich die Produkte weiter voranbringt.
Und es dadurch eben ermöglicht, dass wir Synergien zwischen den Forschungsfeldern, die wir ja noch parallel betreiben, natürlich dann auch sozusagen in diese Produkte mit integrieren.
Und das ist ja einer seiner Hauptaufgaben als CTO aktuell, nicht nur die Produkte zu entwickeln und dort zu definieren, welche Technologien wir verwenden, sondern auf der anderen Seite natürlich auch zu schauen, was können wir in der Forschung schon vorneweg tun.
um am Ende sozusagen auch solche Innovationen dann in zukünftige Produkte integrierbar zu machen.
Ja, sehr gut.
Und du hast gerade dem Kollegen endlich auch einen Namen gegeben.
Das ist der Professor Dr.
Jörn Hoffmann.
Jetzt, bevor wir immer vom Kollegen reden, wer von den Zuhörern oder Zuschauern Interesse hat, der Jörn war Anfang des Jahres auch hier bei uns im Podcast.
Das war Folge 35.
Die findet ihr ganz sicher noch in den jeweiligen Podcast-Verzeichnissen.
Also wer da gerne mal reinhören möchte, da gibt es bestimmt den einen oder anderen Anknüpfungspunkt dazu heute.
Kann das dann gerne tun.
Frank, hast du Denkmuster aus deiner Rolle als CTO, die dir auch heute noch helfen in der CEO-Rolle?
Und gibt es auch, parallel dazu noch die Frage, um ein bisschen größer zu machen, auch noch bestimmte Denkmuster, die du ganz bewusst ablegen musstest, weil sie dann eher kontraproduktiv sind?
Denkmuster auf alle Fälle.
Also es geht ja vor allen Dingen auch darum, das Verständnis dafür zu haben, wenn ich eine Produktidee habe und ich bin ja auch...
immer mal wieder in Bereichen unterwegs, wo es darum geht, neue Ideen aufzuschnappen, mal zu schauen, was könnten wir in anderen Teilbereichen machen.
Zum Beispiel Thema KI ist ja jetzt in den letzten Jahren natürlich immer stärker und in den Fokus gerückt.
Und dann hat man natürlich sozusagen erstmal grundsätzlich die richtige oder vielleicht auch wirklich, wie du schon sagtest, diese Denkweise umzuschauen, nicht nur der Markt, der damit adressiert werden kann, sondern wie könnte das Produkt natürlich auch aussehen.
Aber auf der anderen Seite, also technologisch gesehen, aber auf der anderen Seite muss ich mich auch immer wieder selber ertappen, dass ich nicht zu tief denke, weil ich natürlich immer gleich versuche, selber in Gedanken das Problem zu lösen oder das Produkt sozusagen fertig zu gestalten.
Und das ist natürlich eine noble Geschichte, aber Das sollte natürlich dann auch Kernaufgabe eines CTOs sein, wo ich natürlich dann auch mich dann immer wieder erwische und vielleicht zu sehr ins Detail gehe und gerade meinen Mitarbeitenden bestimmte Hinweise gebe.
Das könnte man ja so oder so machen, aber am Ende sozusagen aufpassen muss, dass ich nicht dadurch gewisse Freiheiten den Mitarbeitenden nehme.
weil ja auch deren Kreativität nicht nur die eines CTOs gefragt ist, um letzten Endes sozusagen als Team dann auch gemeinsam ein innovatives Produkt zu bauen.
Ja, genau.
Und ich sitze ja in Hamburg.
Eine Hamburger Band hat mal eine Textseile produziert, die hieß, das Gegenteil von gut ist gut gemeint.
Und genau so würde ich das dann einordnen.
Natürlich denkt man, es ist sehr hilfreich.
sehr viel technisches Verständnis noch zu haben.
Und vielleicht ist es das ja auch, aber dem Team die technische Lösung vorzugeben, sorgt meistens nicht für ein höheres Commitment oder eine höhere Ownership.
Zumindest auch meine Erfahrung, du bestätigst das ja hier auch noch indirekt.
Du hast gerade auch von technischen Ideen gesprochen und die zu testen.
Wann ist denn so eine technische Idee aus deiner Sicht wirklich reif, ein richtiges Produkt zu werden oder dass da ein ganzes Geschäftsfeld draus wird?
Spannende Frage.
Das ist sehr unterschiedlich natürlich.
Wenn wir jetzt mal das Thema nehmen, lokale souveräne KI beispielsweise.
Dann haben wir natürlich dort selber die Problematik gehabt, dass wir geheimschutzbedürftige Produkte entwickeln.
Das heißt also, diese Produkte dürfen natürlich gerade die Entwicklungsunterlagen, alles was darunter fällt, zum Beispiel eben auch Source-Code und so weiter, darf natürlich nicht von KI verarbeitet werden, was irgendwie in der Cloud existiert.
Das heißt also, wir wollten natürlich eine lokale, souveräne KI haben.
Das ist aber natürlich gerade als kleines Unternehmen, wir sind so etwa 15 Mitarbeitende, nicht so einfach möglich, weil der Investitionsaufwand dafür ist in der Regel doch etwas höher.
Und da haben wir natürlich eine Möglichkeit gesucht, mit möglichst wenig Kosten trotzdem eine effiziente KI-Lösung zu bauen.
Haben das für uns lokal umgesetzt, haben eben dort vieles ausprobiert, haben...
verschiedene Modelle probiert und haben dann festgestellt, das ist doch eigentlich eine Lösung, das auch für kleine Teams und kleinere Unternehmen vielleicht auch eine Lösung darstellt.
Wieso wollen wir nicht vielleicht unser Wissen, unser Know-how, was wir jetzt hier sozusagen noch zusätzlich erworben haben, zu den Cloud-Themen und den KI-Themen, die wir eh schon haben, natürlich, dann natürlich auch weitergeben und dort sozusagen theoretisch sogar ein neues Geschäftsfeld aufbauen.
Und da ist es so, dass eben sozusagen diese Erkenntnis eben aufgrund von bestimmten Bedürfnissen aus dem Unternehmen oder in dem Unternehmen entstanden ist und wir dann überlegt haben, wie können wir die Expertise zum Beispiel weitergeben.
In anderen Bereichen ist es natürlich anders.
Dort gibt es vielleicht sogar der Kunde, ein Kunde, der verschiedene Anforderungen hat, wo wir Umsetzungsideen natürlich dann auch dafür basierend entwickeln.
Und dann eben beispielsweise gemeinsam eine Lösung erarbeiten, wie wir das jetzt auch bei einem Kunden gemacht haben und dann im Laufe des Projektes feststellen, dass die Lösung so gut ist, dass wir damit auch mit anderen Partnern eine ähnliche Lösung zum Beispiel implementieren können, die sozusagen ein vollständiges neues Produkt definieren kann natürlich.
Und das heißt also, es entstehen dann viele Synergieeffekte aus anderen Produkten, die wir mal entwickelt haben oder aus anderen Auftragsarbeiten, wo wir dann eben sehen, da könnten wir natürlich aufgrund dieses Puzzlestückes natürlich dann eben die Puzzlestücke neu zusammensetzen und dadurch sozusagen ein neues, innovatives Produkt bauen.
Das vielleicht mal so als kleine Episode.
Wie funktioniert das dann in der Realität?
Gut, ich kenne aber auch genug Unternehmen, die auch sehr viele Auftragsarbeiten durchgeführt haben, die dann eher zu einer sehr großen Fragmentierung des gesamten Produkt- und Portfolioangebots halt geführt haben und wo man natürlich auch immer so im Hinterkopf die angebliche Synergie hat, aber die tatsächlich in der Realität wenig bis selten eintritt.
Hast du da bessere Erfahrungen gemacht?
Ja, wir hatten...
Vielleicht in der alten Firma nicht ganz so gute Erfahrungen, was das Ganze betrifft, aber jetzt insbesondere bei der BIT, weil wir ja natürlich auch eine berufliche Erfahrung schon von sieben Jahren hatten.
Wir wussten ja, wie ein Unternehmen zu führen ist.
Wir wussten, worauf geachtet werden muss.
Wir wussten, wie Teamarbeit funktioniert, wie wir das Team aufsetzen müssen.
Das natürlich entsprechend auch dort auf dieser Ebene dann geschaut werden musste, sind das Produkt oder Projekt oder Aufträge, die wir natürlich synergetisch auch dann eben betrachten können.
Und natürlich gibt es durchaus Anfragen an uns.
Hey, könntet ihr uns jetzt mal eine Software für ein Bildungsportal bauen?
Hatten wir letztens zum Beispiel, das wäre auch ein ziemlich großer Auftrag gewesen, mehrere Millionen Euro, was durchaus für uns als KMU durchaus sehr spannend gewesen wäre.
Aber es ist halt für uns technisch vielleicht machbar.
Aber es ist für uns sozusagen in dem Sinne nicht sinnvoll, dass es eben keine Synergieeffekte erzielt, weil wir sind halt ein Hochsicherheitsunternehmen oder ein Unternehmen, was eben Hochsicherheitstechnologie entwickelt.
Und dann natürlich eben sollten wir dann auch dort Aufträge entgegennehmen, die einerseits wir natürlich nicht nur sehr, sehr gut bedienen können als Nische gegenüber anderen, sondern uns natürlich auch in bestimmten Feldern natürlich auch weiterbringen.
Nehmen wir jetzt mal das Thema zum Beispiel sichere Netzwerkkarte.
Es ist ja bekannt, dass wir eine sichere Netzwerkkarte entwickelt haben, die für geheim zugelassen ist.
Das ist sozusagen auch eines unserer Alleinstellungsmerkmale als KMU, womit wir eine gewisse Qualitätsstufe auch erreicht haben.
Und wenn es natürlich dann um Themen geht, die rund um die Netzwerkkarte auch eine Rolle spielen, zum Beispiel Netzwerkstack oder eben Treiberprogrammierung dazu oder eben andere Punkte, wo es darum geht, bestimmte Filtermechanismen, KI in die Netzwerkkarte oder dort in eine Basisplattform zu integrieren, die Hardware-Prozessoren dort eben zu verbessern im Rahmen von Forschungsprojekten.
Dann sind das natürlich alles Themen, die an dieses Thema Netzwerkkarte andocken und wir dann auch zu einem späteren Zeitpunkt dann auch geeignet in ein neues Produkt zum Beispiel integrieren können.
Ja, weißt du gerade, ich würde gerade nochmal einhaken bei dem Fall, den du gerade geschildert hast, dass ihr einen größeren Auftrag angeboten bekommen habt.
Wie kommt denn der potenzielle Auftraggeber auf euch?
Ich weiß ja auch, was ihr macht.
Ihr seid im Bereich souveräne Hardware unterwegs, ihr seid im Bereich sichere Systeme unterwegs.
Das ist ja eher ein Thema, was für eine Agentur bestimmt wäre.
Hat man euch für eine Agentur fälschlicherweise gehalten oder wie kam es zu so einem Auftrag?
Oder es ist ja nicht in einem Auftrag gelandet, aber man ist ja mit dem Wunsch an euch herangetreten, sowas zu bauen.
Genau.
Ja, das war vielleicht auch so ein bisschen eine Fehlkommunikation oder so eine, hey, ich habe gehört, ihr wollt jetzt auch so ein bisschen noch eure Umsatzfelder ein bisschen erweitern.
Vielleicht wäre das was für euch.
Das war so ein bisschen die Geschichte.
Es war gut gedacht, aber geht natürlich dann eben an den Zielen, die wir verfolgen, entsprechend vorbei.
Und da muss man dann auch wirklich filtern.
Das ist natürlich jetzt ein sehr krasses Beispiel.
Man kann das natürlich auch noch viel, viel enger fassen, indem man auch wirklich gerade selbst, wenn es dann eben sehr technisch nahe Produkt oder Aufträge sind, die man da vielleicht bearbeitet oder bearbeiten könnte, dass man auch dort nochmal genauer prüft, passt das auch wirklich zu mir, kann ich damit auch zum Beispiel meine Mitarbeitenden XY dann auch in bestimmten Bereichen, sag ich mal, dort eine technische, weitere technische Tiefe erlangen.
Solche Punkte sind ja auch eine Fragestellung, die damit auch gelöst wird und dann haben sie sich vielleicht schon mal mit dem Thema XY beschäftigt und wir können dann später zum Beispiel darauf auch aufsatteln und dort eben diese Expertise dann eben auch weiter nutzen beispielsweise.
Ja, stimmt.
Und du hast vorhin auch noch das Thema AI mit reingebracht.
Du hast dich jetzt auch schon sehr früh mit Themen wie Robotik beschäftigt, neuronalen Netzen, KI natürlich auch.
Wie blickst du denn auf die aktuelle Situation?
Also wenn ich jetzt auch mal gerade das Beispiel wieder aufmache, seitdem ich mit dem Jörn gesprochen habe, das war im Januar, hatten wir, glaube ich, gesprochen.
Seitdem hat sich ja enorm viel getan.
Was davon ist denn jetzt aus deiner Sicht wirklich alter Wein in neuen Schläuchen?
Was ist jetzt wirklich auch wirklich, wirklich, wirklich neu?
Wie blickst du auf die aktuelle?
Also auf alle Fälle eine ganz spannende Landschaft, die sich, denke ich mal, stetig weiterentwickeln wird.
Wenn man eben mal sich beispielsweise anschaut, was es für Tools, für Software, für Möglichkeiten gibt, mittlerweile KI einzusetzen, das ganze Ökosystem, was darum entstanden ist, also viele verschiedene Anbieter, dann ist das natürlich eine enorme Menge, die auch mittlerweile stetig gewachsen ist.
Und man hat natürlich viel, viel mehr Möglichkeiten, bestimmte Use Cases oder bestimmte Anwendungsfälle dann auch im eigenen Unternehmen natürlich so gezielt mit KI, sag ich mal, zu unterstützen, sodass es da natürlich dann auch durchaus spannend wird, auch für Sachen, mal zum Beispiel Unternehmen in bestimmten Wirtschaftsbereichen, die mit KI sonst eigentlich relativ wenig zu tun haben, natürlich auch dort sozusagen solche Einsätze auch durchzuführen von KI.
Und natürlich gibt es auch immer wieder neue Modelle beispielsweise.
Das wissen wir ja seit einem halben Jahr, wenn wir ungefähr mal den Zeitraum von einem halben Jahr sehen, dann hat sich auch in dem Bereich natürlich sehr, sehr viel getan.
Das merken wir selber, indem wir zum Beispiel unsere Open-Source-Modelle stetig aktualisieren und dort natürlich eben dann neue Möglichkeiten damit haben, beziehungsweise die Modelle präziser, genauer werden, wir damit auch sozusagen effizienter arbeiten können.
Und auf der anderen Seite natürlich auch das Tooling drumherum immer besser wird.
Aber auch dort wird es natürlich ähnlich wie in der klassischen Softwarelandschaft.
Nehmen wir mal zum Beispiel zum Vergleich eben Webtechnologien.
Wenn es darum geht, so ein Fullstack zu bauen mit Backend, Frontend und anderen Geschichten, dann ist natürlich auch gerade das Thema KI mittlerweile durchaus mit Agents und allem drum und dran.
sagen wir mal, relativ komplex geworden, wenn es darum geht, eine professionelle Umgebung aufzubauen und jetzt nicht nur eine zum Spielen zu haben.
Wie siehst du das jetzt gerade unter Security-Gesichtspunkten?
Ist dann AI eher ein Brandbeschleuniger für Risiko im Bereich Security und Absicherung von Systemen oder hilft es mehr?
genau diese Lücken eigentlich zu schließen und für mehr Sicherheit zu sorgen?
Oder ist es tatsächlich 50-50?
Hast du da eine Tendenz oder siehst du vielleicht sogar eine Tendenz am Markt?
Also man sieht die Tendenz schon, dass natürlich viele verschiedene KI-Modelle in der Lage sind, recht schnell Lücken zu identifizieren.
Und gerade durch diese Bug-Bounty-Programme, die eben beispielsweise Apple oder andere Softwarehersteller sozusagen anbieten, Die werden ja teilweise eben gerade momentan überflutet von KI-basierten oder KI-generierten Sicherheitsmeldungen am Ende.
Das heißt also, ein User kann ja auch wesentlich einfacher, wesentlich schneller durch mithilfe von KI natürlich auch dort sozusagen Lücken identifizieren, kann die melden und dann ist es natürlich auch schwierig, das Ganze auch zu handeln.
Aber diese Flut ermöglicht es natürlich auch sozusagen Software natürlich auch sicherer zu machen.
Und das ist ja das Wichtige, dass wir eben recht schnell Zero Days, also unbekannte Sicherheitslücken, die entdeckt wurden, auch möglichst schnell natürlich auch gefixt werden.
Und es gibt in der Vergangenheit viele bekannte Beispiele, wo eben teilweise bis zu 10 oder 15 Jahre bestimmte kritische Sicherheitslücken gar nicht entdeckt wurden.
Und das ist natürlich eben mit KI, sagen wir mal, wesentlich schwieriger.
auch so eine Lücke sozusagen wirklich noch so jahrelang offen zu halten.
Auf der anderen Seite ist es natürlich so, dass auch die Angreifer extrem stark davon profitieren.
Sie können eben KI dazu nutzen, eben völlig automatisch oder automatisiert Angriffe zu fahren.
Das jüngste Beispiel zum Beispiel von OpenAI, wo eben Hugging Face versucht wurde eben zu hacken, ist natürlich bekannt dafür und das zeigt natürlich, dass auch Dort, ich will jetzt nicht sagen, eine gewisse Gefährlichkeit besteht, aber durchaus sozusagen auch natürlich die kriminelle Wirtschaft auch davon profitiert und man natürlich sich überlegen muss, wie kann ich natürlich eben KI auch dafür einsetzen im Verteidigungsbereich.
Das heißt also, wie kann ich meine Systeme automatisiert schützen, dort vielleicht eben mit verschiedenen Methoden wie RedBlue, Teaming und sowas alles, dort natürlich dafür sorgen, dass meine eigenen Systeme sicherer sind.
Und das wird natürlich jetzt in Zukunft nochmal verstärkt zunehmen, weil ja vor allen Dingen auch spezialisierte Modelle dafür mittlerweile von den Herstellern auch vielleicht Stück für Stück freigegeben werden.
Aktuell werden sie noch teilweise zurückgehalten.
Das ist ja sogar eine weltpolitische Geschichte, aber spätestens wenn andere Länder wie zum Beispiel China dort bestimmte Modelle veröffentlichen, dann denke ich mal, dass da auch andere dann nachziehen werden.
Angriff und Verteidigung hier im Security-Bereich wahrscheinlich die Waage hält, was die Möglichkeiten jetzt angeht, von der neuen Technologie zu profitieren.
Das wäre zumindest mal meine laienhafte Idee gewesen.
Aber auf der anderen Seite kannst du natürlich AI auch einsetzen und im Bereich Social Engineering wieder noch effektiver Hand anzulegen.
Nach meiner Erfahrung sind das sowieso die größten Einfallstore immer noch über Social Engineering, dir Zugang zu verschaffen zu diversen Systemen.
Hast du da ähnliche Erfahrungen gemacht oder wie ist da dein Blick drauf?
Ja, meine Erfahrung ist natürlich ähnlich.
Also nicht, dass wir persönlich da vielleicht, sagen wir mal, die Erfahrung machen, aber natürlich, was ist möglich.
Ich habe ja auch mal einen Workshop zum Beispiel an der Universität Halle Hamburg im April gegeben, Ende März, Anfang April.
Auch zum Thema Serversicherheit, um dann eben mal dort zu zeigen, was gibt es für Möglichkeiten, was kann vor allen Dingen auch die KI, was können Eingreifer mit der KI erreichen und wie gefährlich ist das mittlerweile, weil eben gerade das Thema Social Engineering so stark damit auch befeuert werden kann.
Weil die Seiten, die damit generiert werden, sehr, sehr authentisch sind, die E-Mails fast nahezu perfekt sind.
Früher hat man eben, sag ich mal, sehr einfach, meistens durch irgendwelche, falsche Grammatik oder sowas dann eben so eine gefälschte E-Mail erkannt.
Mittlerweile sind die sehr, sehr sauber natürlich geschrieben durch die KI.
Man muss schon genau wissen, wo man dann eben hinschaut, um dann eben zu erkennen, ach, das ist ja gar keine Anmelde-E-Mail von Microsoft, sondern die kommt eben von einem anderen sozusagen Angreifer, der aber so ähnlich klingt und am Ende sozusagen nur sehr schwer zu unterscheiden ist.
Du hattest vorhin jetzt auch erwähnt, dass man natürlich dadurch jahrelange Sicherheitslücken schon aufdecken konnte.
Das haben wir ja auch in der Presse schon jetzt einige Male gehört.
Wie war das denn bei euch?
Also wart ihr in der Lage, auch gerade im letzten halben Jahr, durch die Möglichkeiten, die euch ArgentiG.I.
oder AI im Allgemeinen gibt, auch eigenes Sicherheitsrisiken zu identifizieren, die ihr vorher nicht auf dem Schirm hattet?
Schwer zu sagen.
Wir konnten zumindest die Agentic AI dafür nutzen, um unser eigenes Produkt, wir haben ein Angriffserkennungssystem entwickelt.
Das war damals ein Transferprojekt zwischen dem Infi und der Bittaregard und haben letzten Endes dort eben ein Large Language Modell als zweite Komponente mit hinzugefügt, um mögliche Angriffe, die das System erkannt hat, dann auch nochmal zu klassifizieren und vor allen Dingen auch erklärfähig zu machen.
Und das hat uns natürlich dann eben auch ermöglicht, eben wesentlich schneller und einfacher dann eben so ein System, also so eine Software eben auch einzusetzen, weil die eben auch für Nicht-Experten auch lesbar ist, weil eben die Software auch schon zusammenfassen kann, was es dort konkret passiert, dann eben auch diese Analyse in Sekunden teilweise durchführt.
Und ein Systemanalytiker bräuchte eben teilweise 10 bis 20 Minuten, um dann am Ende zum Beispiel so einen Systemlog zu analysieren und alles, was dahinter steckt natürlich, wenn so ein Angriff stattgefunden hat.
Und das ist auf alle Fälle schon ganz spannend, dass eben dort auch eine erhebliche Beschleunigung möglich ist.
Nochmal als Beispiel.
Wir haben auch bei uns diese Software bei uns selber natürlich im Haus am Laufen.
Haben natürlich dann auch mal das ein oder andere an Fehlverhalten zum Beispiel entdeckt.
Beispielsweise hat die Software entdeckt, dass eben auch mal dort sozusagen ein Deployment nicht richtig geklappt hat und dass da irgendwie so eine Endlosschleife war, die dann eben behoben werden konnte, all solche Geschichten.
Aber ein richtiges Sicherheitsproblem hatten wir bei uns Gott sei Dank.
Das heißt, da lief die ganze Zeit ein Deployment in einer Endlossloop und war ein Prozess, der irgendwo in der Luft hing.
Genau.
Und unser Angriffserkennungssystem hat halt das auch trotzdem erkannt, weil das eine Anomalie ist, das ist ungewöhnlich, das ist kein Normalverhalten und konnte das aber so erklären, weil wir sozusagen auf der Prozessebene sehr viele Informationen sammeln und dann kann das Large Language Modell das interpretieren, guckt sich das genauer an und abfertigt davon dann sozusagen einen richtigen lesbaren Bericht dazu an, was ist passiert, welche Prozesse sind daran beteiligt und du besitzt das vor allen Dingen auch für Nicht-Systemanalytiker.
Ich stelle mir das tatsächlich schwierig vor, wenn ihr Agentic AI einzusetzen, wenn man sowieso schon mit vertraulichen Daten arbeiten muss, wenn man vielleicht mit regulierten Daten arbeiten muss oder in einem Umfeld unterwegs ist, wo viele Daten wahrscheinlich auch geheimschutzbedürftig sind, wie das, ich gehe mal davon aus, bei euch der Fall ist, welche Anforderungen entstehen dann in diesem Bereich an?
das, was man damit machen möchte und an die Agent EKI und wie geht man damit um?
Ja, das sind natürlich unterschiedliche Aspekte, wenn ich natürlich jetzt, sag ich mal, sehr geheimschutzbedürftige Daten habe, wie zum Beispiel natürlich im Defense-Bereich, wo beispielsweise die NATO unterwegs ist, dann gibt es dort natürlich zum Beispiel Large Language Cluster, die beispielsweise auch wirklich ergab sind.
Die sind dann für geheim zugelassen und können dann eben sozusagen völlig offline dann bestimmte KI-Geschichten auch wirklich dann eben, ja, Use Cases dort eben beschleunigt werden mit KI.
Bei uns ist es natürlich nicht ganz so schlimm, weil wir jetzt sozusagen zwar geheimschutzrelevante Hardware entwickeln und damit auch sorgen müssen, dass diese Software in der Quellcode natürlich eben immer auf unseren eigenen Systemen bleibt und damit am Ende sozusagen natürlich die Anforderung ganz klassisch ist, wir haben Unternehmensdaten, wir haben geheimschutzrelevante Daten, die dürfen das Unternehmen nicht verlassen.
Also muss ich dafür sorgen, dass ich irgendwie lokal oder eben lokal im Unternehmen einen kleinen Cluster habe, mit dem ich dann diese, ja, diese Daten auch ordnungsgemäß verarbeiten kann.
Und das bedeutet natürlich, dass eben die KI natürlich auch vor Ort dann auch laufen muss.
Gibt es einen Unterschied zwischen geheimschutzrelevant und geheimschutzbedürftig?
Ne, das ist vielleicht von mir jetzt synonym verwendet worden.
Okay, hätte ja sein können.
Ich glaube, in dem Bereich gibt es sehr differenzierte Bezeichnungen für verschiedene Arten von was wie eingeordnet.
Deswegen fand ich die Frage.
Wenn du jetzt mal Systeme bauen würdest in diesem Bereich, du hast ja gesagt, eigentlich braucht es lokale AI-Umgebungen oder lokale KI-Umgebungen.
Welche Architekturbausteine braucht das denn?
Ja, das kommt tatsächlich jetzt dann wirklich auf den Einsatzzweck an.
Hier natürlich immer die Frage ist, wo läuft, also auf welchen Daten läuft dann das KI-System?
Das heißt, einerseits habe ich natürlich das Large Language Modell, was irgendwo gehostet werden muss, beispielsweise im Unternehmen auf einem kleinen Cluster.
Das andere könnte natürlich sein, dass ich sage, ich habe zum Beispiel auf meinem Notebook oder auf meiner Workstation meine lokalen Daten vorliegen, mit denen ich dann arbeite in einem Workflow.
Da kann man dann ja solche Tools nehmen, beispielsweise wie OpenCode oder teilweise sogar Codex nutzt natürlich dann in dem Fall Open Air als Cloud-Variante, aber eben die Open-Source-Variante wäre dann zum Beispiel Open Code.
Da gibt es noch viele andere Varianten.
Und wenn man das Ganze aber weitermacht, dann kann man natürlich dann eben noch solche Komponenten wie Open Web UI einsetzen.
Das heißt, das würde man dann zum Beispiel in einem Docker-Container aufsetzen, dort natürlich dann eben bereitstellen für das Unternehmen.
Und dort eben die Möglichkeit schaffen, dass verschiedene Dokumente lokal hochgeladen werden, weil es ja noch im eigenen Unternehmen ist, sodass man eben beispielsweise dort eine Knowledge Base aufbauen kann.
Und dann ist natürlich ganz klar, je nachdem, was für ein Use Case ich habe, habe ich jetzt zum Beispiel einen Unterstützungsbedarf bei Code Reviews oder habe ich jetzt zum Beispiel den Bedarf, eine Knowledge Base aufzubauen.
Dann muss ich natürlich darüber nachdenken, ob ich dann ein Rack-based Modell dann aufsetzen möchte.
Und dafür natürlich dann die entsprechenden Tools dann lokal oder eben in diesem Docker-Container dann zum Beispiel bereitzustellen, je nachdem.
Und dann kommt natürlich noch dazu, wenn man das Ganze noch ein bisschen weiter fortführt, dann eben Agentic AI, indem ich natürlich dort auch vielleicht auch eine lokale Plattform dafür baue, um dann am Ende sozusagen auch dort die Agenten autonom laufen zu lassen, die eben dann dieses lokale, souveräne Modell dann auch wirklich nutzen und damit auch lokal.
im Unternehmen dann auch ausgeführt werden.
Nutzt ihr sowas?
Nutzt ihr lokale AI-Modelle?
Ich meine, ihr sagt, ihr baut ja Hardware im sicheren Bereich.
Heißt, ihr habt bestimmt auch Code, der als geheimschutzbedürftig eingestuft wird.
Nehme ich sehr stark davon aus.
Also nutzt ihr auch genau solche Agentic-AI-Umgebungen, wie du sie gerade beschrieben hast, um damit zu arbeiten?
Genau, also das war ja unser Hauptproblem, dass wir, oder anders gesagt, wir haben natürlich die ein oder anderen Projekte und gerade wenn es um diese geheimschutzbedürftigen Projekte geht, dann heißt das natürlich, die Informationen dürfen das Unternehmen nicht verlassen, Punkt.
Aber um dort natürlich auch höhere Effizienz zu ermöglichen, um zum Beispiel alleine, wenn es nur darum geht, Ich habe meinen Softwarecode geschrieben und möchte eben von der KI automatisiert meinen Review starten oder ich möchte meinen Dokumentationsvorschlag dafür haben, weil das eben wesentlich schneller geht und ich dann eben im Reviewprozess dann eben das dann nur noch nacharbeiten muss.
Dann bedeutet das natürlich, dass ich eben auch lokal natürlich auch diese Daten dann auch verarbeiten muss mit der KI.
Und spätestens da ist natürlich dann eine lokale, souveräne Variante dann natürlich eben notwendig.
Jetzt hast du ja bestimmt auch nochmal andere, also jetzt vielleicht nicht im unternehmerischen Kontext, aber vielleicht auch privat, weil das auch ein Thema ist, was dich interessiert, mit Modellen wie Cloud Code und mit Codex probiert, die halt natürlich nicht nur lokal isoliert sind.
Wie hast du das Gefühl, funktioniert eure lokale Agentik ER-Umgebung gerade?
im Vergleich zu dem, was die proprietären Anbieter und Modelle mit Cloud-Anbindung und sowas, wie die funktionieren.
Wie ist da dein Eindruck?
Das ist ganz spannend.
Natürlich, ich meine, in dem Moment, wo ich dann sowas wie Codex benutze, habe ich natürlich die Möglichkeit, auf die E-Mails zuzugreifen, in der Cloud, auf verschiedene Internetrecherchen durchführen zu lassen.
Und solche Sachen halt, die natürlich dazu führen, dass sozusagen die Gesamtzusammenarbeit von solchen Systemen natürlich dann am Ende durchaus sehr passend sind.
Und im lokalen Kontext muss ich dann immer ein bisschen aufpassen.
Gerade wenn wir zum Beispiel für Kunden, wir haben ja auch Kunden, die wir in dem Bereich betreuen, für die wir dann eben verschiedene Use Cases durchsprechen, aber auch für unsere eigenen Projekte.
Darf denn jetzt zum Beispiel die KI dann auch wirklich im Internet nach Informationen suchen, weil alleine schon diese Suche dann dazu führen könnte, dass eben Rückschlüsse darauf gezogen werden, womit ich mich beschäftige oder welche inhaltlichen Details sozusagen entsprechend sind?
Wer trifft dann diese Entscheidung?
Also ist da immer Human in the Loop bei euch, der dann halt hier nochmal die Bestätigung gibt, ja, er darf danach suchen oder habt ihr die externe Suche und Recherche dann gar nicht erst zugelassen?
Wir haben die zugelassen, machen das aber mit dem Plan-Modus.
Das gibt ja quasi in diesen verschiedenen Systemen kann man ja sozusagen in den Plan-Modus gehen, in dem sozusagen die KI erstmal alles, was sie machen möchte, sozusagen dann eben anzeigt und sagt, ich würde jetzt gerne im Netz nach dem Begriffen suchen.
Und wenn das okay ist, dann kann man natürlich dort entsprechend sozusagen die Erlaubnis geben.
Man muss das aber händisch dann bei uns zumindest freigeben.
Habt ihr noch andere Sicherheitsmechanismen, die...
um Agenten zu begrenzen, damit sie zwar möglichst autonom arbeiten können, aber auch nicht zum Sicherheitsrisiko werden?
Also du hast den Plan-Modus genannt, das ist das eine.
Was gibt es noch?
Es gibt natürlich verschiedene Aspekte.
Das eine ist natürlich, auf welchem System laufen die zum Beispiel.
Das heißt also, selbst wenn ich ein Large-Language-Modell habe und ich habe dann meine Open-Code-Umgebung beispielsweise hier lokal auf meinem Rechner, Dann ist ja immer die Frage, auf welche Verzeichnisse dürfen sie zugreifen.
Dann ist es natürlich ganz praktisch, wenn ich dafür zum Beispiel einfach einen separaten Docker-Container oder virtuelles System nochmal laufen habe, wo auch auf das Host-System die KI zum Beispiel grundsätzlich gar keinen Zugriff bekommt, als Beispiel.
Das ist einer der Sicherheitsmechanismen.
Ein anderer Sicherheitsmechanismus ist natürlich beispielsweise, wenn es darum geht, eben auch wirklich Zugriffsverweigerungen zu machen, wenn es eben ein sehr restriktiver Use Case ist und es darum geht eben beispielsweise, dass ich eben wirklich keinen Internetzugriff zulasse und dann eben natürlich auch wirklich dort die Netzsperren im Prinzip sozusagen beispielsweise umsetze.
Nur mal als Beispiel.
Okay, verstanden.
Du hast im Vorgespräch, hast du auch erwähnt, dass lokale Inferenzcluster schnell sehr teuer werden können.
Was macht denn in eurem Fall, dass so ein Setup so kostspielig ist?
Was habt ihr da für Erfahrungen gemacht?
Naja, lokale Inferenzcluster gehen ja normalerweise, zumindest war das 2025 noch sehr stark, so eben erst im sechsstelligen Bereich los oder man hat auch schon Systeme für 80.000 Euro oder sowas teilweise eben gesehen, was aber eben sehr, sehr teuer ist und da ist ja noch nicht mal die Einrichtung oder die...
die Use-Case-Betrachtung natürlich drin.
Und es gibt aber mittlerweile recht günstige Systeme, die vor allen Dingen eben dafür sorgen, dass ich mit recht viel Videospieger, also VRAM, dafür sorgen kann, auch größere Modelle laufen zu lassen und vielleicht sogar diese kleinen Knoten dann eben in einem Cluster zusammenschalten kann über ein sehr schnelles internes Netzwerk und es mir dadurch ermöglicht, natürlich auch größere Modelle laufen zu lassen, was wir jetzt bei uns lokal machen.
Das heißt also, wir haben jetzt hier vier Knoten zusammengeschaltet, die eben über jeweils 128 GB Videosprecher haben und damit können wir eben Modelle laufen lassen bis zu 300 bis 500 Billionen Parameter oder Milliarden Parameter in Deutsch.
Und das ermöglicht es uns natürlich dann auch wirklich dort recht potente Netze laufen zu lassen oder Large Language Modelle, die dann in der Lage sind, auch ziemlich gute Ergebnisse zu erzielen.
Du hast jetzt eben 2025 erwähnt, da hat sich jetzt seitdem ja sehr viel getan.
Was hat sich dann in dem Bereich da verändert?
Da gibt es jetzt schon mittlerweile die nächste Generation, zum Beispiel von dem Modell, was wir haben oder das soll jetzt demnächst rauskommen von Nvidia.
Und dann ist natürlich immer die Frage, gerade AMD hat jetzt auch in letzter Zeit viel dafür getan.
Da gibt es diese AMD AI Prozessoren, die eben mit viel Speicher aufgrund des Unified Memory Accesses dann auch in der Lage sind, dort eine recht gute Leistung zu erzielen, sodass eben dort eine weitaus größere Vielfalt natürlich auch möglich ist.
ein starkes Notebook mit zum Beispiel ein MacBook oder sowas mit viel Arbeitsspeicher eben zulegen und kann dort genauso eben auch lokal ziemlich gute Modelle laufen lassen mittlerweile.
Und vor allen Dingen, es kommt noch dazu, die sind richtig teuer.
Und man kann natürlich auch dazu sagen, dass insbesondere die kleineren Modelle, das heißt also die, die vielleicht zum Beispiel nur 64 GB Arbeitsspeicher brauchen oder so, was vielleicht heutzutage noch einigermaßen erschwinglich ist aufgrund der sehr hohen RAM-Preise momentan, mittlerweile auch so gut geworden sind, gerade wenn es um spezielle Aufgaben geht wie Coding oder sowas, dass man eben auch da ziemlich gute Ergebnisse mittlerweile mit lokalen Modellen erzielen kann und das in einer akzeptablen Geschwindigkeit.
Siehst du da Alternativen?
Also gerade für kleinere Teams, für Mittelständler, die mit sensiblen Daten arbeiten wollen und vielleicht nicht so die ganz große Schatulle aufmachen können oder wollen, wenn es um lokale Inferenzcluster geht?
Also gerade wie von dir beschrieben, ja da holt euch halt einfach, auch wenn es jetzt teuer ist, einfach einen starken Mac Mini oder was auch immer.
Ist das die Lösung oder was schwebt dir vor?
Also was wir tatsächlich so ein bisschen als Beratung anbieten, ist ja, dass wir sagen, wir sind in der Lage, kleine Teams und kleinere Unternehmens zu befähigen, ihre eigenen Use Cases zu beschleunigen, sodass die eben mit so einem kleinen Knoten, der vielleicht 4000 Euro kostet, dann in der Lage sind, auch wirklich Use Cases abzuarbeiten.
Und wenn das Team ein bisschen größer wird, bis zu 5 oder 10 oder 20 Leute, dann müsste man dann eben schon mehrere solche Knoten zusammenschalten.
Aber dann bin ich eben trotzdem noch bei Investitionskosten bei so einem Vierer-Cluster mit Switch, allem drum und dran, bei der reinen Hardware unter 20.000 Euro.
Und das ist trotzdem immer noch im Vergleich zu dem richtigen Server mit GPUs und sowas alles, wo dann mehrere da drin sind, immer noch deutlich günstiger.
Ich kann damit zwar vielleicht, sage ich mal, nicht unbedingt neue Modelle trainieren, aber ich kann vor allen Dingen auch Inferenz damit durchführen und das ist, denke ich mal, ein ziemlich spannendes Anwendungsgebiet.
Und dann muss man sich aber immer noch vor Augen halten, es geht ja nicht nur darum, die Hardwarekosten zu bezahlen, sondern natürlich, dass auch die Mitarbeitenden in der Lage sind, sich mit dem System zu beschäftigen, das zu warten.
Und da natürlich dann auch sozusagen für diese Use Cases dann entsprechend sich die Zeit zu nehmen und dort auch das alles sozusagen im Unternehmen die Prozesse dafür anzupassen.
Das sind natürlich Sachen, die wir da, wo wir unterstützen, aber was eben auch wirklich dann auch nochmal eine Kostenfrage ist für das Unternehmen.
Ihr habt jetzt ja glaube ich, wir haben ja noch ein Produktbeispiel haben wir ja auch noch mit im Paket heute und zwar BitSeeker und da geht es um.
KI-gestützte Angriffserkennung, hast du, glaube ich, eben schon erwähnt.
Was war denn die ursprüngliche Idee dahinter, was ihr damit machen wolltet?
Na, die ursprüngliche Idee, also das geht ganz weit zurück.
Das ist ganz spannend.
Und zwar geht das eigentlich auf die Diplomarbeit von Prof.
Dr.
Jörn Hoffmann zurück.
Wie gesagt, der schon im Januar mal interviewt wurde aus Folge Podcast Folge 35.
Und der hat damals in seiner Diplomarbeit sich mit Sensoren für die Virtualisierung und natürlich entsprechend für die Systemanwendung darum gekümmert und wollte am Ende in der Lage sein, dort sozusagen diese Anwendung zu instrumentalisieren, um beispielsweise eben dort zu erkennen, ob es dort irgendwelche Angriffe gegeben hat und dort verschiedene Mechanismen implementieren, womit man zum Beispiel solche Schnittstellen auch absichern kann, aber auch gleichzeitig eben überwachen kann.
Und das war natürlich damals noch sehr anfänglich durchaus eine sehr spannende Arbeit gewesen und um das Ganze aber natürlich weiter aufzubohren und weiterzuentwickeln, haben wir dann damals in der alten Firma schon ein Forschungsprojekt gehabt mit anderen Forschungspartnern natürlich zusammen, unter anderem auch Uni Leipzig, Uni Dresden.
um das Thema eben weiter zu treiben.
Und dort sind eben die ersten Forschungsergebnisse entstanden.
Das Projekt hieß Exploits, wo es darum ging, auch sozusagen wirklich eine komplette Analyseplattform zu bauen und nicht nur sozusagen die Hardware-Sensoren und Software-Sensoren einzubauen, sondern auch in der Lage zu sein, was passiert denn mit den Daten und wie kann ich diese natürlich dann so interpretieren, dass ich am Ende natürlich auch Anomalien erkennen kann.
Und das bedeutet natürlich, wenn wir das Ganze jetzt technisch mal uns anschauen, als Ergebnis kam dann raus, dass man sich sogenannte System Calls dann anschaut.
Das heißt also, ich schaue mir die Interaktion zwischen dem Betriebssystem und den Anwendungen an, kann damit sozusagen verschiedene Sachen mal Eigenschaften oder Eigenheiten der Systeme natürlich dann auch betrachten.
Und sobald da irgendwie zum Beispiel ein Apache-Webserver, ich nehme mal so ein Beispiel, da wird ja auf einmal jetzt eine Rootshell öffnen und irgendwelche Passwort-Dateien auslesen.
Das ist sehr ungewöhnlich.
Und das ist ein Verhalten, was der Server vorher eben nicht hatte.
Und das kann natürlich dann eben erkannt werden, weil da eben andere System-Calls aufgerufen werden.
Und dadurch eben man in der Lage ist, natürlich dann eben solche Anomalien dann auch zu erkennen.
Und Exploits hat eben diese ganzen Forschungsergebnisse als Basis eben mitgegeben und dann wurde in den laufenden Jahren von verschiedenen Leuten, natürlich insbesondere an Unien Leipzig und Institut für angewandte Informatik, diese Ergebnisse weiter spezialisiert, diese Ergebnisse weiter finalisiert, bis wir dann eben vor knapp drei Jahren, glaube ich, dazu übergegangen sind, dass wir festgestellt haben, die sind mittlerweile so gut, die Forschungsergebnisse, dass wir daraus auch ein kommerzielles Produkt bauen können.
Ein System, also ein Angriffserkennungssystem, was eben das Verhalten des Servers beobachtet, Abweichungen davon erkennen kann und in der Lage ist, mit dem Large Language Modell, was dahinter geschaltet ist, dann auch zu klassifizieren und vor allen Dingen auch zu sagen, was ist dort konkret passiert und damit auch Security Operations Centers.
Das heißt also, das sind die Einrichtungen, wo wirklich 24-7 dann entsprechend die Unternehmenscomputer beobachtet werden und überwacht werden, dann sofort in der Lage sind, entsprechend auch zu reagieren, weil das System viel, viel schneller auch solche Alarme melden kann.
Wer ist denn so der klassische Abnehmer von dem Produkt?
Klassisch gibt es sogenannte Managed Security Providers oder Managed Security Service Providers.
Das sind IT-Systemhäuser, die sich aber vor allen Dingen auf Security beschleunigen.
fokussiert haben und das Thema so weit vorangebracht haben, dass die eigene Security Operations Center betreiben und dort die Kundeninfrastruktur entsprechend dort auch überwachen, beziehungsweise eben diese Informationen dort landen und dann auch sozusagen dort jemand wirklich dann permanent rund um die Uhr dort vor Ort ist und dann natürlich bei jeder Kleinigkeit dann auch sofort reagieren kann.
Wie qualifizierst du, wie gut das System ist.
Also ihr werdet klar, ihr werdet Tests gemacht haben, das System callen, jetzt probieren wir mal was aus, was ungewöhnlich ist, schlägt das Tool an.
Am Ende des Tages eine hundertprozentige Sicherheit wirst du ja trotzdem nicht haben, dass das nicht etwas durchrutscht, was oder vielleicht einfach auch gut versteckt ist und für die KI dann keine Notwendigkeit da war, Alarm zu schlagen.
Oder habt ihr da eine relativ hohe Gewissheit, dass da nichts passiert, was...
der Aufmerksamkeit des Systems entgeht.
Sagen wir mal so, wir haben natürlich, weil wir auf den Forschungsergebnissen uns sozusagen darauf berufen und natürlich auch dort sehr viele wissenschaftliche Ergebnisse das schon nachweisen konnten, haben wir natürlich entsprechend erstmal die hohe Erkenntnis oder die Erkenntnis, dass die Erkennungsrate sehr, sehr hoch ist und dass wir auch wissen, dass insbesondere viele klassische Angriffstypen auch damit erkannt werden.
Aber natürlich haben wir auch mal aktuelle Fälle dann eben untersucht.
Da gab es jetzt beispielsweise, ja, das ist schon ein bisschen her mittlerweile, letztes Jahr diesen XZ-Vorfall, wo eben so ein SSH-Angriff stattgefunden hat über GitHub und wo am Ende sozusagen so ein Chartcode implementiert wurde oder eingeschleust wurde.
Und dieses Verhalten hat dann am Ende dafür gesorgt, dass natürlich unser Angriffserkennungssystem das dann auch erkannt hat beispielsweise.
Aber eine weitere größere Kennzahl und die wichtigste ist tatsächlich auch nicht nur, ob ein Angriff erkannt wird, sondern wie hoch ist die Fehlerkennungsrate.
Das heißt also, ich kann ja natürlich 100 Prozent der Angriffe erkennen, aber wenn ich dann eben zehnmal am Tag einen Fehlalarm ausgebe, dann ist das gerade für solche Sicherheitsbetreiber, eben wie so Managed Service Provider, dann natürlich nicht hilfreich, weil die natürlich viel zu viel Aufwand reinstecken müssen.
dann eben wieder zu schauen, ist das jetzt wirklich ein Angriff?
Ich muss dann das System analysieren und gucken, ob das nicht wieder ein Fehleralarm natürlich war.
Und dort sind wir in der Lage, eben wirklich die Anzahl der Fehleralarme durch diese Verkettung von einem anomaliebasierten Monitoring-System mit einem Large-Language-Modell eben dann so zu reduzieren, dass wir maximal einen Fehlalarm pro Jahr haben.
Und das ist natürlich dann eben eine Kenngröße, womit wir dann auch recht gut dastehen.
Sehr schön.
Bevor wir auch gleich noch zum Abschluss zu den Rapid-Fire-Fragen kommen, Frank, habe ich noch eine Frage an dich.
Und zwar, welche Fähigkeit wird denn für die CTOs künftig wichtiger werden?
Ist das AI-Kompetenz?
Ist das Security-Kompetenz?
Oder wird auch der beste CTO immer noch derjenige sein, der die bessere Business-Kompetenz hat.
Was glaubst du?
Das ist eine sehr gute Frage, weil ich finde eigentlich, dass alle drei natürlich wichtig sind.
Wenn du wählen müsstest, ich setze dir eine Pistole auf, was wäre wichtiger?
Musst du jetzt Sicherheit sagen, weil ihr im Security-Bereich seid?
Fast sogar, würde ich sagen, die klassische Business-Kompetenz natürlich auch, ob es auch wirklich auf das Produkt passt.
Natürlich kann man mit AI vieles erreichen und das wird einer der immens wichtigeren Dinge sein in Zukunft, aber auch das ist ja eine Technologie, die, wie ich das schon vorhin erwähnt habe, immer komplexer wird und am Ende sozusagen dann natürlich auch eine von vielen technischen Möglichkeiten wird.
Und es gibt ja nicht nur KI, mit dem ich alles lösen kann, sondern es ist halt ein Tool von vielen, was ich nutzen kann.
Und das ist halt das, dass man eben sozusagen die Verbindung und die Synergien von allen, vom kompletten Ökosystem dann natürlich in der Lage ist, das eben miteinander zu verbinden.
Und ja, Sicherheit wird immer wichtiger.
Und da sollte man dafür sorgen, aber auch das muss nicht unbedingt eine CTO machen können.
Das heißt, man kann da natürlich dann sich auch die Experten mit ins Team holen, die dann auch gerade solche Themen nochmal extra mit betrachten.
Aber auch ein CTO sollte eben wissen, wenn ich jetzt Framework XY einsetze, ob das eben besonders dafür geeignet ist oder nicht, weil es vielleicht hohe Anzahl von Sicherheitslücken hat, dann sollte ich mir nochmal überlegen, ob ich nochmal ein anderes nehme oder in Betracht ziehe zumindest.
Absolut.
Dann kommen wir jetzt zu unserer geliebten Rubrik der Rapid Fire Fragen am Ende.
Eine CEO-Fähigkeit, die CTOs unterschätzen.
Die Sicht auf den Markt und auf das Produkt, also was der Kunde wirklich für einen Mehrwert braucht und vor allen Dingen, dass es nicht darum geht, dass ein Produkt technisch finesse oder perfekt sein muss, sondern es muss manchmal einfach nur einfach verständlich sein und auch sofort einen Mehrwert dem Kunden bringen.
Ein AI-Use-Case, den du nie vollständig automatisieren würdest?
Meine E-Mails schreiben.
Ha, okay.
Ja, das sehen ganz viele Leute, sehen das wahrscheinlich anders.
Sehr gut.
Lokale AI oder Cloud AI?
Wo ziehst du die Grenze?
Natürlich lokale AI, wenn möglich.
Aber insoweit natürlich die Informationen eh in der Cloud verfügbar sind.
Viele arbeiten ja auch mit Cloud-basierten Teamsystemen.
Dann bietet sich natürlich auch die Cloud-KI an.
Sehr gut.
Und letzte Frage für heute.
Ein Learning aus Robotik oder klassischen neuronalen Netzen, das heute bei LLM-Agenten noch immer gilt?
Naja, in der Robotik habe ich gelernt, dass eben tatsächlich künstliche neuronalen Netze, und das sind ja Large Language Modelle, am Ende auch nur viel Mathematik ist und man sollte sich auch durchaus Experten immer mal ins Team mitholen, die solche Systeme verstehen, die also auch wissen, wovon man da redet und warum zum Beispiel Large-Engage-Modelle bestimmte Entscheidungen treffen oder halt auch nicht und wo eben Themen wie Halluzination herkommen, wo das einzuordnen ist.
Sehr schön, sehr schöne Antwort, gefällt mir.
Frank, vielen lieben Dank.
Wir haben heute wieder viel gelernt zum Thema nicht nur Agentec AI, sondern auch gerade mit einem sehr viel stärkeren Security-Bezug.
Vielen Dank für deine Insights.
Viele liebe Grüße an den Jörn und wir hören uns bis sicher auch bald wieder.
Mach's gut.
Dankeschön.
Tschüss.
Ciao, ciao!