# AI Security, Energy Efficiency, and EU Regulatory Strategy

**Podcast:** Kollegin KI
**Published:** 2026-10-20

## Transcript

Leute, es ist Doomsday-Zeit.
Runde um KI wird natürlich überall gerade berichtet, auch außerhalb der...
Fachmedien heißt natürlich überall KI, übernimmt jetzt tatsächlich die Welchherrschaft, ist möglicherweise bis zu 10 Prozent dazu auch imstande, die Menschheit auszulöschen.
Der Energieverbrauch wird überall thematisiert, Wasserverbrauch, egal in welche Kommentarspalten ihr guckt, da gibt es gerade eine ganze Menge Meinungen zu und viele, viele Informationen, die geteilt werden.
Und ich würde das gerne heute mal ein bisschen einordnen, vor allem, was es mit dem Energieverbrauch auf sich hat, aber auch.
was grundsätzlich gerade an dieser ganzen Doomsday-Stimmung eigentlich dran ist.
Und dazu habe ich mir, ihr kennt es, einen Experten eingeladen, der schon länger mit KI arbeitet, als ich lebe.
Deshalb freue ich mich sehr, ihn heute begrüßen zu dürfen.
Und das Intro übernimmt wie immer KI-Philipp.
Bitte!
Max, heute hast du dir jemanden eingeladen, der KI wirklich aus fast jeder Perspektive kennt.
Wolfgang Maas ist Forscher, Investor, Berater und Professor und leitet am Deutschen Forschungszentrum für Künstliche Intelligenz das Kompetenzzentrum Defense AI.
Sein Schwerpunkt, wie KI Unternehmen und Organisationen verändert.
Also ziemlich genau das Thema, über das du seit Jahren redest, nur mit Professur.
Wolfgang, schön, dass du da bist.
Und Max.
Heute vielleicht ein bisschen mitschreiben.
Werde ich tun.
Hallo Herr Maas, schön, dass Sie da sind.
Ja, hallo.
Ja, danke für die Einladung.
Vorweg, Sie sind Wirtschaftsinformatik-Professor an der Universität des Saarlandes und Sie sind wissenschaftlicher Direktor am Deutschen Forschungszentrum für Künstliche Intelligenz.
Da hatten wir schon mal einen Gast, Laura Hain, damals aus Osnabrück, die über Technostress berichtet hat.
Auch so ein Thema, was uns bis heute nicht loslässt, aber wir wollen heute über was anderes sprechen und zwar...
Vor allem über diese ganze Doomsday-Stimmung.
Sie haben das ja mitbekommen, mit Sicherheit.
Die Agenten brechen aus ihren Sandboxes aus, hacken fremde Websites und machen eine ganze Menge Blödsinn im Internet, könnte man so sagen.
Wie schätzen Sie denn das Ganze eigentlich ein?
Ja, das ist natürlich ein Thema, was jetzt nicht nur die Allgemeinheit, sondern auch die Wissenschaft interessiert und dort auch heiß diskutiert wird.
Es gibt da auch wie in der Öffentlichkeit zwei Lager.
Es gibt die, die sagen, es wird immer der Mensch sein, der letztendlich entscheidet, den Stecker zieht oder sonstige Sachen macht.
Und dann gibt es die andere Seite, die sagt, Stecker ziehen ist eine Sache, die die Idee des Zentralen hinter sich hat.
Es gibt irgendwo einen zentralen Stecker.
digitalen halt beschäftigt.
Das ist dann halt die Position, kann man dann sagen, die KI-Agenten können sich ja zu null Kosten irgendwo anders hinkopieren, verdoppeln, verdreifachen, hundertfachen.
Das heißt also, wenn ich den Stecker in einem Rechner ziehe, heißt das noch lange nicht, dass dieser KI-Assistent nicht von einem anderen Rechner ebenfalls aktiv ist.
Also das sind so die beiden Positionen und das, was das Ganze halt etwas...
Schwierig macht, beziehungsweise warum kommt es überhaupt zu solchen Szenarien, wie wir das jetzt bei Hugging Face gesehen haben, wo eine Vielzahl von Agenten eingebrochen sind, liegt daran, dass KI-Systeme und IT-Systeme im Allgemeinen fehlerbehaftet sind.
Menschen haben ihre Passwörter in Textfiles abgelegt.
Es gibt in dem Software-Stack, der mittlerweile doch für solche allgemeinen Systeme, also selbst die Systeme, die zu Hause sind, sind doch sehr komplex.
Und in dieser Komplexität liegt es, dass...
Fehler drin sind.
Und diese Fehler zu suchen, das ist natürlich etwas, was solche KI-Agenten super machen können.
Sie können also mit nahezu unbegrenzten Ressourcen alle Kombinationen ausprobieren, um dann möglicherweise einen Fehler zu entdecken, der aufgrund von Programmierfehlern und sonstigen Fehlern halt sich eingeschlichen hat.
Kann man diese Fehler denn überhaupt noch beseitigen?
Denn es gibt ja durchaus immer wieder die Erzählung, dass die das selbstständig machen und dass auch wenn Menschen das gar nicht im Vorfeld festgelegt haben, dass sie sich irgendwo reinhacken, dass die von alleine auf die Idee kommen, das zu tun und dann ihre Mittel nutzen, um das Ganze dann auch selbstständig auszuführen.
Haben wir die Kontrolle über Agendic AI verloren?
Ja, das ist natürlich die Perspektive, die die ganze Diskussion etwas schwierig macht.
Also wir legen immer das menschliche Verhalten, Intentionen und solche Begriffe, Ziele und eigenständiges Verhalten und sowas, das projizieren wir als Mensch auf solche Informationssysteme und erwarten dann, dass sie sich irgendwie menschlich verhalten.
Es sind aber Software-Systeme und diese Software-Systeme haben Ziele in dem Sinne, dass sie also irgendwo gesagt bekommen, man definiert das initial als Mensch vielleicht, so wie das jetzt bei OpenAI passiert ist, dass man gesagt hat, versuch doch mal auszubrechen.
Das ist aber eine menschliche Perspektive, die man hat.
Es ist im Prinzip dann ein Objektivierungsproblem.
Das Informationssystem, das KI-System versucht also etwas zu optimieren durch Einsatz von Technologien.
Und das, was wir schwer einschätzen können, ist, es gibt also so ein Hauptdesign, was man als Programmierer mitgibt und sagt, versuch auszubrechen.
Was wir aber schwer kontrollieren können dabei, sind negative Seiteneffekte.
Was gehört denn auch noch dazu, was wir aber gar nicht festgelegt haben?
Ja, das ist ungefähr so, als wenn wir bei einem Auto sagen würden, ja, du sollst also eigentlich geradeaus fahren und wir haben die Reifen aber und die Aufhängung so konstruiert, dass es auch seitwärts fahren könnte.
Wir haben aber gar nicht drüber nachgedacht, dass das möglich ist.
Ja, und das ist das, was IT-Systeme und gerade KI-Systeme auszeichnet, dass sie sehr viele...
zusätzliche Möglichkeiten haben, die wir in das Design gar nicht hineingegeben haben.
Wir haben gar nicht drüber nachgedacht als Mensch.
Es ist aber prinzipiell möglich.
Und das ist das, was das Ganze jetzt momentan so etwas schwieriger macht.
Da gab es jetzt in der Süddeutschen Zeitung ein Interview mit Arthur Mensch, dem Chef von Mistral, der also dem europäischen...
dem europäischen Anbieter im Grunde für Large Language Models.
Und er hat gesagt, es ist ein Ingenieursproblem.
Es ist ein Ingenieursfehler, der da begangen wurde.
Es sind eben nicht die Agenten, die irgendwie blöd zu machen, sondern es ist schlechte Programmierung beziehungsweise schlechte Anwendung.
Das würde sich ja damit decken, was sie sagen.
Ja, absolut.
Die Herausforderung ist natürlich jetzt bei den Geschäftsführern und Gründern von KI-Unternehmen.
Die haben natürlich auch eine Hidden Agenda.
Die wollen natürlich alle sich vorbereiten auf einen möglichen Börsengang, IPO und versuchen natürlich die Investments zu sichern.
Und jeder hat da so seine eigene Strategie.
glaube ich, muss man aus den ganzen Meinungen, die jetzt momentan halt da existieren, so ein Versuch und ein halbwegs objektives Bild herauszuextrahieren.
Und das ist das, was momentan so ein bisschen schwierig ist.
Okay, das heißt vielleicht Aufgabe der Wissenschaftskommunikation, der Aufklärung dahingehend, was da tatsächlich gerade passiert.
Ich mag es aber, dass Sie da so gelassen mit umgehen.
Das heißt, das beruhigt mich jetzt ein bisschen.
mein Duma-Dasein, wie man so schön sagt, ist jetzt ein bisschen beruhigt oder gehe ich da richtig der Annahme, dass sie sagen, das überwinden wir, das kriegen wir hin, wir werden da mit welchen Methoden auch immer, es gibt ja durchaus Ideen von übergeordneten Institutionen, die sich dann auch damit befassen, Sicherheit im KI-System zu gewährleisten, ähnlich zur Atomenergie-Aufsichtsbehörde, ja, das wird da gerne als Beispiel genannt.
Glauben Sie, dass das so eine Lösung sein kann, um uns alle wieder zu beruhigen und dass wir das auch überstehen werden?
Also ich glaube, Beruhigung wäre jetzt der falsche Weg.
Ich glaube, wenn das jetzt gelassen rüberkommt, wie ich das halt sage, dann ist das vielleicht der Situation geschuldet, dass wir so ein angenehmes Interview führen.
Meine Meinung ist eher, dass die Wahrscheinlichkeit, dass wir über Szenarien in der Zukunft sprechen werden, die kritisch sind, dass diese Wahrscheinlichkeit, relativ hoch ist.
Was ich halt nicht sagen möchte, ist, dass es halt passieren wird, also etwas Faktisches.
Das glaube ich, das kann niemand, sondern wenn ein Joshua Bengio oder Jofre Hinton und andere darüber halt sprechen, also dass wir jetzt ein Moratorium brauchen und so ein Doomsday-Szenario signalisieren, so ist dahinter dann Die Wahrscheinlichkeit, dass das passieren könnte, das ist das, was letztendlich da ausgedrückt wird.
Und diese Wahrscheinlichkeit, das ist ähnlich wie bei Atomkraftwerken, wir reden ja über Wahrscheinlichkeiten, dass ein GAU und Super-GAU passieren kann.
Und die sehe ich schon, dass die erheblich ist.
weil diese Hugging-Face-Attacke, die ja unwissentlich offenbar passiert ist, also ich bin nicht der Meinung, dass es also eine Marketing-Aktion von OpenAI oder wem auch immer war, sondern ich glaube, dass das schon unbewusst passiert ist, ohne dass die Designer und Programmierer davon wussten, das ist etwas, was schon kritisch zu bewerten ist und was so ein...
Also Doomsday ist jetzt meines Erachtens schon ein bisschen überzogen, aber dass irgendwo ein Kraftwerk irgendwie zerstört wird oder dass irgendwelche Bahnnetze betroffen werden, das Szenario haben wir seit Cyber Security und hybriden Kriegen, die aktuell geführt werden, als ein fließender Übergang.
Also das ist jetzt nicht irgendwas Neues, sondern das haben wir heute schon.
Die Frage ist nur der Skalierung.
Und dass das groß skalieren könnte, die Wahrscheinlichkeit sehe ich schon.
Das ist ganz interessant.
Sie beschäftigen sich ja schon eine ganze Weile mit den Thematiken.
Also Sie haben ja in den 90ern, glaube ich, schon begonnen, sich mit künstlicher Intelligenz zu befassen, lange vor generativer KI und den ganzen Diskussionen, die wir jetzt auch in der Öffentlichkeit führen.
Ist Ihnen mal was Ähnliches untergekommen im Laufe der letzten Jahrzehnte, dass eine Diskussion so hitzig geführt wurde?
Und kann man da vielleicht auch daraus lernen, wie wir das Ganze jetzt mal wieder auf so ein Grundlevel bekommen und sagen, hey Leute, lasst uns mal alle einen Schritt zurückgehen und mal wirklich überlegen, was ist hier passiert, wie können wir das lösen?
Ja, also es ist vielleicht jetzt nicht von dieser Doomsday-Diskussion, aber es gab mal Mitte der 90er, Ende der 90er eine ähnliche Diskussion für die Medien.
Und damals war die Diskussion extrem heiß, werden Medien in Zukunft noch überleben?
Und da waren dann die führenden Leute von Bertelsmann, NBC, CBS und Robert Borda war auch da bei einem Kongress, an dem ich Ende der 90er Jahre teilgenommen habe in St.
Gallen.
Und da war dann auch diese Diskussion, ist das das Doomsday für die Medienlandschaft?
Braucht es überhaupt noch Printmedien und wo ist das Geschäftsmodell?
Das war ähnlich konfus.
Man muss sagen, also die Medienlandschaft hat bis heute kaum eine richtige Antwort gefunden.
Also ich meine, Podcasts sind ein schönes Beispiel dafür, was einfach neu entstehen kann.
Das hat man früher gar nicht gesehen.
Also das ist vielleicht in etwa vergleichbar.
Dadurch, dass jetzt halt alles mit allem vernetzt ist über Internet der Dinge und Industrie 4.0 und diese Vernetzung hat natürlich extrem zugenommen und durch die Vernetzung sind natürlich die Möglichkeiten stark gewachsen.
Also diese Vernetzung, die ja Wohlstand geschaffen hat und auch in Zukunft Wohlstand schaffen wird, hat aber auch gleichzeitig negative Seiteneffekte, dass man sagt, naja dadurch.
sind wir auch angreifbarer.
Und diese Diskussion, muss ich sagen, die ist schon neu.
Aber im KI-Bereich, Sie hatten es gesagt, 90er Jahre, ich bin damals von der RWTH Aachen extra als Student nach Saarbrücken gegangen, bin danach in St.
Gallen gewesen, aber bin extra nach Saarbrücken gegangen.
um überhaupt das Thema KI, was damals ein Orchideenfach war, hat überhaupt keinen interessiert.
Das war eher was für Podheads.
Ich bin jetzt kein Podhead, aber das war damals so ein bisschen die Diskussion gewesen, das sind die crazy people.
Und diese Diskussion, dass KI kommt und geht und wieder kommt und wieder geht, also die Winter und Sommer, dass wir jetzt in einem unfassbaren Hitzesommer der KI Leben, das habe ich nicht erwartet.
Verstehe.
Sie hatten das schön angesprochen mit den Mit dem Wohlstand.
Das ist ja auch durchaus eine Frage, die wir uns immer häufiger stellen hier in KollegIn-KI.
Was für einen Einfluss hat denn eigentlich KI auf die Arbeitsgesellschaft, auf das, was wir eigentlich dann tagtäglich tun?
Da lesen wir auch eine ganze Menge, dass KI-Jobs kostet, dass Agenten immer mehr selbstständige Aufgaben übernehmen und zwar gar nicht in dem Bereich, dass sie ausbrechen und Hugging-Face hacken, sondern dass sie tatsächlich auch Büroarbeit abnehmen.
Dass vor allem Young Professionals, junge UniversitätsabgängerInnen darunter leiden, weil es einfach weniger Jobs gibt.
Jetzt beschäftigen Sie sich ja durchaus auch mit dem Thema, was eigentlich passiert, wenn Agenten immer mehr selbst handeln, auch im beruflichen Bereich oder Aufgaben selbstständig erledigen können.
Und da bin ich über die Forschung zu AI-Intent gestoßen.
Können Sie uns da vielleicht einmal eine kleine Einleitung zu geben?
Ja, also das habe ich jetzt gerade auf der Konferenz diese Woche hier vorgestellt.
Also das ist die Frage, wenn man KI-Agenten hat, die also zusammen eine Aufgabe erledigen, sagen wir zum Beispiel im Finanzbereich, sie haben Anlageberatung und dann gibt es einen spezialisierten Agent für Aktien, eine für Bonds und für Metalle und Commodities.
Das sind alles spezialisierte Agenten, die jetzt bei Commerzbank, Deutsche Bank, JP Morgan und so was als Menschen aktiv sind.
Wenn man die jetzt hat, geht es dann um die Frage, wie wird daraus eine Gesamtanlage gemacht und dann stellt man sich halt vor, wie zerlegt man das Ganze in Agenten und da ist dann die Frage der Kontrolle im Finanzbereich, das ist ein schönes Beispiel, weil das ist ein Beispiel, wo eine Industrie, wo sehr viel reguliert wird, sehr viel Vorgaben gegeben wird, wie der Kunde aufgeklärt werden muss und welche Regularien einzuhalten sind, die muss sich ja in irgendeiner möglicherweise den KI-Agenten mitgeben.
Mache ich das Ganze jetzt dadurch, dass ich das halt klassisch eintrainiere, dann habe ich nur eine Wahrscheinlichkeit, dass sie sich daran halten werden.
Das wird BaFin und die EZB werden das nicht erlauben, dass es nur bei Wahrscheinlichkeit passiert.
Sie haben wahrscheinlich den Kunden aufgeklärt.
Sie haben wahrscheinlich die richtige Anlageberatung gemacht.
Sondern das muss halt wirklich durchgesetzt werden.
Und dieses Durchsetzen ist eine bestimmte Intention, die die Industrie sich selber gegeben hat über die Regulierung.
Und jetzt ist halt die Frage, wie kriege ich diese Intentionen, dass das System sich auf die richtige Weise definitiv verhält und nicht nur wahrscheinlich.
Das habe ich mit einer Kollegin von der Universität Haifa zusammen bearbeitet, hat uns interessiert, wie kriegen wir das in diese Agentensysteme hinein.
Und was wir gemacht haben, ist jetzt im ersten Ansatz verhältnismäßig einfach, dass wir einen Compliance Agent, also wir haben uns angeguckt, wie passiert das jetzt in der Realität, einen Compliance Agent hinzugefügt haben, der in die Kommunikation der Agenten ständig hineinhorcht und schaut, ob irgendwelche Rückantworten der Agenten an übergeordnete Agenten, ob die den Regularien entsprechen.
Und der schaltet sich dann ein, wenn also bestimmte Bedingungen nicht mehr erfüllt werden.
Und dann geht das wieder zurück an die Agenten und die müssen dann wieder neu arbeiten.
Das ist so wie bei Kindern.
Man sagt, na, versuch nochmal.
Und erst wenn der richtige Ansatz gefunden worden ist, der den Regularien entspricht, wird es durchgelassen.
Oder es wird komplett blockiert.
Das funktioniert gut bei regulierten Bereichen, in denen es solche definitiven Regeln gibt.
Im Gesundheitswesen muss man das als Beispiel etwas anders machen, weil da wird auch sehr viel mit Ausnahmen gearbeitet.
Im Prinzip würde ich jetzt so und so und so agieren, aber in Ihrem Falle machen wir dann doch ein Medikament, welches Off-Label ist, also was eigentlich gar nicht für die Krankheit zugelassen ist.
Probieren wir das, weil das vielleicht im Krebsbereich die letzte Chance ist.
So Domänen, wo so ein stark strukturierter Ansatz dann nicht funktionieren wird.
Aber das sind so, also ich war fasziniert jetzt auf der Konferenz, Conceptual Modeling war das jetzt hier in St.
Johns, Neufundland, wie stark der Begriff Intention in den ganzen Diskussionen hochgekommen ist.
Da stellt sich mir sofort die Frage, wer haftet denn?
Also wenn ein Finanzprodukt an den Markt geht, das möglicherweise dann faul ist oder am Ende nicht so aufgeht, wie es aufgehen soll.
Oder viel schlimmer noch, wenn, sage ich mal, im medizinischen Bereich so ein Agent am Ende doch diese minimale Wahrscheinlichkeit, die ja im Zweifel immer bleibt, dass doch irgendwie Halluzinationen drin sind, irgendwas übersehen wurde, vielleicht eine falsche Intention tatsächlich dabei mitführte.
Wer haftet denn, wenn was schief geht?
Ja, also das ist natürlich das, was das EU-AI-Act versucht in den Griff zu kriegen.
Erstmal gesagt, man hat verschiedene Risikoklassen.
Zu den höchsten Risikoklassen gehören alle gesundheitsorientierten Anwendungen.
Da würde man natürlich sehr genau hinschauen, ob da jetzt irgendwie mit Wahrscheinlichkeiten rumgespielt wird, sodass man den Leuten dann halt irgendwie Operationen verschreibt, die nur eine gewisse Wahrscheinlichkeit haben.
Also da würde in Europa, würde da die Regulierungsbehörde auf die Bremse treten und sagen, das können wir nicht machen.
Sondern das sind dann Bereiche, auch im Finanzbereich, das, was ich gerade eben gesagt habe, ist das ähnlich.
Also da muss definitiv dafür gesorgt werden, dass einerseits die Regularien definitiv umgesetzt werden.
Und Punkt zwei ist die Auditierbarkeit dann auch sehr wichtig, dass man im Nachhinein nachvollziehen kann, wer hat wann welche Informationen bekommen und was resultiert daraus als Entscheidungsvorlage oder als definitive Entscheidung.
Und Sie haben gefragt nach der Verantwortung.
Das ist auch bei den Juristen momentan natürlich eine große Diskussion.
Es gibt da eine ganz kleine Gruppe von Juristen aus meiner Sicht, ja, also soweit ich das überblicken kann.
Die sagen, man muss KI-Agenten auch den Status einer Rechtsorganisation geben, also dass sie für sich entscheiden kann und haftend sein kann.
Das stelle ich mir ein bisschen Schwierigkeit vor.
Also von daher in den ganzen Diskussionen und auch in den Anwendungen, die ich sehe, ist immer ein Mensch letztendlich haftend dafür.
Das heißt also, auch wenn ich da diese Empfehlungen halt bekomme, letztendlich muss einer seine Unterschrift direkt oder virtuell drunter setzen und sagen, ich verantworte das, was das KI-System jetzt gerade empfohlen hat.
Das waren halt die Agenten, die haben das irgendwie selbstständig gemacht.
Also ganz scheint das ja nicht zu passen, dass man dann irgendwie natürlich am Ende jemanden zur Rechenschaft ziehen muss.
Woran liegt das?
Also ich glaube, hätte Hugging Face eine Anzeige erstattet, wäre die Sachlage relativ einfach zu klären.
Also es ist nachweisbar, genau wie Sie gesagt haben, dass OpenAI dafür verantwortlich ist.
Und hätte Hugging Face eine Klage...
dann wäre OpenAI höchstwahrscheinlich mit einer relativ hohen Strafe belegt worden, wobei man dann in den USA dann nicht weiß, man müsste das ja wahrscheinlich dann in den USA machen, weiß man dann nicht, ob...
unter der jetzigen Administration, dieses vor dem Supreme Court dann noch hätte Bestand haben können.
Also ich glaube, das war so eine Abwägung der Möglichkeiten und der Kosten.
Man hat unfassbare juristische Kosten halt dabei.
Also ich glaube, man ist dann eher zum Schluss gekommen, dass man sagt, naja, also wir haben es öffentlich gemacht, wir haben die rote Karte gezeigt, beim nächsten Mal sieht die Sache dann schon etwas anders aus.
Aber ich denke mal, die Verantwortung und die rechtliche Verantwortung, die ist eindeutig und die hätte automatisch zu einer Strafe geführt für OpenAI als Unternehmen und der IPO wäre wahrscheinlich dann irgendwo in den Stern gewesen.
Spannend, ja.
Ist ja jetzt, glaube ich, ohnehin verschoben worden.
Aber was ihr auch sagt mit den Regularien, das führt immer zu so kleinen Absurditäten, die ich als jemand, der KI-Systeme baut, auch kenne.
Dass wir beispielsweise natürlich sagen, alles, was agentisch bei uns läuft, wird irgendwo gelockt.
Das heißt, wenn Leute bei uns irgendwie in Chatbots oder in agentischen Systemen irgendwie was machen wollen, im Hintergrund arbeiten dann die Agenten.
dann ist ja immer die Idealvorstellung, was vor allem Datenschutz angeht, dass nichts zwischengespeichert wird, dass nichts irgendwo abliegt von den Eingaben und Ausgaben.
Auf der anderen Seite haben wir natürlich die Regulierung, die dann gerade in diesem Hochrisikobereich vorschreibt, dass alles dokumentiert wird, damit man eben diese Probabilistik im Nachhinein nachvollziehen kann und sagen kann, wenn was schief läuft, dann müssen wir wissen, wie ist das zustande gekommen.
Und das ist manchmal so ein bisschen absurd, dass man dann irgendwie seinen Kunden und Klienten sagt, ja übrigens speichern wir hier auch alles zwischen, weil es die Regulierung von uns verlangt, auch wenn das auf den ersten Blick nicht wirklich datenschutzkonform aussieht.
Ja, also im B2B-Bereich sind andere Regularien, die da wesentlich sind.
Im B2C-Bereich ist es klar definiert.
Das, was typischerweise nicht gemacht wird, ist, dass man sehr viel Wert eigentlich auf die Anforderungen legt, die während der Entwicklung des Systems notwendig sind.
Ja, also sogenannte PRDs, also Product Requirement Descriptions, sind aus meiner Sicht sehr wichtig.
Es sind konzeptuelle Beschreibungen sehr wichtig, dass man sagt, also welche...
Welche Architektur hat man eigentlich intendiert?
Was möchte ich eigentlich entwickeln und solche Sachen?
Also aus der Informatikperspektive heraus, glaube ich, müssen wir auch das Thema Anforderungsanalyse, englisch Requirements Engineering, müssen wir eigentlich sehr viel stärker halt fokussieren in der Zukunft, weil Software selber wird dann von KI-Systemen halt entwickelt.
Die müssen aber...
in die entsprechende Richtung laufen.
Und dann während der Entwicklung und während der Nutzung ganz klar, also Auditierung und beziehungsweise erst mal das Speichern von Abläufen, jetzt nicht nur simples Logging, sondern das muss schon strukturierter erfolgen, aber dass das dann auditierbar und überprüfbar wird, das ist etwas, was uns in der Zukunft wahrscheinlich stärker beschäftigen wird als bisher.
Fun times ahead.
Ja, da kommt auf jeden Fall noch eine ganze Menge dazu.
Und man muss ja sagen, wir stehen ja wirklich am Anfang dieser Technologie, zumindest was generative KI angeht.
Also man muss jedes Mal irgendwie darüber nachdenken, das ist jetzt dreieinhalb, vier Jahre her, dass ChatGPT auf den Markt gekommen ist und was in der Zwischenzeit alles passiert ist, was für auch Mammutaufgaben die Regulierungsbehörden da vor sich hatten, um relativ schnell zu sagen, hier müssen wir Grenzen einziehen, das könnten Gefahren in Zukunft werden mit diesen langsamen Prozessen, die wir dann teilweise in der Gesetzgebung haben.
Das ist eine ganz schöne Herausforderung, die uns erhalten bleibt.
Das ist wohl eine andere Herausforderung, gerade so im Bereich Doomsday, wenn wir nochmal zurückkommen.
Wir haben es gelernt.
Natürlich sind Menschen verantwortlich für das, was KI-Systeme machen.
Und so ganz aus der Verantwortung ziehen kann man sich da offensichtlich nicht.
Und es geht natürlich auch um die Ingenieursarbeit dahinter, Guardrails zu setzen, zu gucken, was macht so ein Agent, wie kontrolliere ich den.
Es gibt aber noch eine andere...
Grundlegendere Problematik und zwar der Energieverbrauch, der immer wieder irgendwie erwähnt wird rund um KI.
Wir bauen gerade Rechenzentren überall.
In Deutschland gibt es gerade diverse Rechenzentren, die geplant werden.
Einige tatsächlich rund um Jülich, Braunkohleabbaugebiet, wo ohnehin auch das Grundwasser jetzt nicht auf dem normalen Pegel ist, wo man irgendwie schon überlegen muss, warum ausgerechnet jetzt da.
Zeitgleich verbrauchen die natürlich relativ viel Energie.
und da gibt es nun mal Energieproduktion, deshalb baut man die Dinger da halt eher hin.
Jetzt haben Sie auch dazu tatsächlich geforscht.
ESCATE heißt das Projekt.
Können Sie vielleicht da mal so ein bisschen einleiten, was Sie da eigentlich gemacht haben und können Sie uns mal aufklären darüber, was es eigentlich mit dem Energieverbrauch von KI-Systemen zu tun hat?
Ja, also das Projekt ESCATE ist jetzt gerade zu Ende gekommen.
Wir haben jetzt ein Nachfolgeprojekt Halo X.
wozu ich gleich dann noch was sagen kann, wenn Sie möchten.
Also Escape ging es um die Frage ganz einfach.
Also wir wollten das effizienteste KI-Rechenzentrum der Welt.
Man muss es ja irgendwo ein bisschen framen.
der Welthalt entwickeln und das End-to-End.
Was heißt End-to-End?
End-to-End bedeutet, dass man von der Hardware bis zur Anwendung, dass man durchgeht und sagt, welche Ansätze gibt es, um die Energie von KI-Anwendungen zu reduzieren.
Und dieser Stack, also diese geschichtete Architektur, die man da im Internet und im World Wide Web und den ganzen Anwendungen darüber verwendet, kann man ja relativ klar strukturieren und sagen, man hat auf der einen Seite also Thema Energie.
Auf der anderen Seite Hardware, die also über Energie betrieben wird.
Man hat die ganze Infrastruktur rund um die Hardware.
Basierend auf der Hardware hat man dann unterliegende Software-Schichten.
Man hat dann irgendwo im Kern KI-Algorithmen und die entsprechenden Laufzeitumgebungen für die KI-Systeme.
Und obendrauf hat man dann Systemarchitekturen für Anwendungen, die dann KI-Systeme nutzen, einsetzen und zum Kunden verfügbar machen.
Und dann hat man auf der Anwendungsseite zwei unterschiedliche Bereiche.
Man hat einerseits den digitalen Bereich, also das, was wir jetzt hier aktuell halt auch nutzen, das ist ja rein digital am Rechner und solche Sachen.
Und wir benutzen die Hardware sozusagen als Träger.
Aber zunehmend mehr betten wir KI-Sachen und Anwendungen auch in Roboter ein.
Und wir haben uns da halt für Drohnen entschieden.
Das war also schon vor über drei Jahren.
Also da war das Thema Drohnen im Russland-Angriffskrieg noch nicht so transparent.
Aber das ist jetzt ganz dominant geworden.
Also wir nehmen den ganzen Stack und haben uns an die Frage gestellt, was kann Deutschland?
Ja, also welche Komponenten davon kommen aus Deutschland, haben dem Ganzen auch einen klaren Souveränitätsfokus gegeben.
Und auf der Hardware-Ebene, wenn ich ganz kurz da durchlaufen darf, Auf der Hardware-Ebene haben wir dann neuromorphic Computing-Architekturen und Systeme verwendet.
Das sind neuartige Chips, die die Kollegen von der TU Dresden entwickelt haben mit SpinEca2.
Das ist eine sehr interessante Chip-Architektur, die im Gegensatz zu den bekannten GPUs, grafischen Prozesskarten von NVIDIA und AMD, nur Teile der Hardware aktiviert.
wenn Anfragen kommen und berechnet werden.
Das heißt also schon auf der Hardware-Ebene weniger Energie verbrauchen als die klassischen GPUs, die typischerweise mit 100% Last laufen.
Nicht grundsätzlich natürlich dann immer rechnen, aber die sind immer voll aktiv.
Und Neuromorphic Computing-Hardware versucht das Ganze zu reduzieren und sagen, wir machen nur das aktiv im menschlichen Gehirn, was wirklich gebraucht wird.
Dann auf der KI-Ebene haben wir Ansätze verwendet, die also auch etwas anders sind als das, was man jetzt bei JGPT und solchen Sprachmodellen halt typischerweise kennt, nämlich sogenannte Spiking Neurons.
Spiking Neurons, also zugespitzte Neuronen sozusagen, sind eher ab...
abgeleitet vom menschlichen Gehirn, wo man halt sieht, dass die menschlichen neuronalen Zellen, dass die irgendwie aktiviert werden, feuern und danach so ein bisschen in den Schlafmodus gehen.
bevor sie dann wieder aktiviert werden können.
Und das hat man schon vor langer Zeit.
Mein Namenskollege von der Uni Graz ist da sehr bekannt dafür.
Er beschäftigt sich mit solchen Spiking Neurons schon seit vielen Jahrzehnten.
Sie sind für kleinere und mittlere Anwendungen sehr gut.
Und jetzt ist die Frage, wie kann man das hochskalieren?
Sie sind sehr gut geeignet, um auf neuromorphic Computing-Hardware zu laufen.
Um das weiter fortzuziehen, also das, was in meinem Bereich dann gelaufen ist, ist, dass wir uns die Algorithmen und die Hardware genommen haben, neue Computing-Chips, und haben versucht, die so nah wie möglich an die Drohnen dran zu bringen.
Warum Drohnen?
Wir haben mit Saarstahl einen Partner im Projekt gehabt, der...
Stahlschrott sortieren möchte und die Qualitäten messen möchte.
Und das wird heute mit Blickkontakt gemacht.
Man schaut, aha, ja, also so viel Kupfer ist da drin.
Kupfer ist sehr schädlich für den Stahlprozess, zumindest so wie er in Saarstahl verwendet wird.
Also muss man immer die unterschiedlichen Stahlschrott-Sorten klassifizieren und was man da jetzt gerade auf dem Haufen liegen hat.
Und das haben wir jetzt mit Drohnen gemacht und wir haben dann geschaut, dass diese Algorithmen jetzt deutlich energieeffizienter sind.
Welche KI-Algorithmen laufen denn effizient, sodass die Drohne einfach länger fliegt bei gleicher Qualität?
Das Interessante ist, das transferieren wir jetzt gerade, dieses Know-how in Halo X mit den Drohnen, auch mit sehr kleinen Sachen.
Wir sind jetzt im Rahmen von Bundeswehrinitiativen eingeladen, diese Technologien auch für die Bundeswehr nutzbar zu machen.
Es gibt jetzt verschiedene Anwender, die in diese Richtung denken, sehr viel effizientere KI zu haben.
In ESCATE hatten wir Rechenzentrumsbetreiber, die dann auch dieses getestet haben.
Wir haben ESCATE dann die Algorithmen, die wir entwickelt haben, für die großen Rechenzentren, auch bei der Telekom in München in dem großen Rechenzentrum getestet und konnten nachweisen, dass man durch ein bisschen Drosseln der Taktrate sehr viel Energie gewinnen konnte.
Und manchmal sind die im Training, also in der Inferenz, dann sagt man dann halt, okay, es gibt Latenzzeiten, die sind...
akzeptabel und wenn ich die ausreize, kann ich also überproportional viel Energie halt einsparen.
Und jeder Cent zählt.
Das sind so die Themen, mit denen wir uns da in Escape beschäftigt haben.
Wir sprechen da, wenn ich richtig informiert bin, von bis zu 89% weniger Energie.
Also wirklich massive Einsparung.
Ja, das würde ich jetzt nicht als Zahl in die Welt setzen und sagen, das sind Spitzenwerte unter künstlichen Bedingungen.
Also ich meine, das ist natürlich halt die Richtung, die die künstliche Intelligenz auch machen wird, dass wir von diesen riesengroßen Systemen dann schauen, was sind denn die kleineren, effizienteren Systeme und da ist das Thema Bio-Inspiration.
inspiriert durch biologische Systeme, sehr interessant, weil wir müssen sehen, der Mensch rechnet mit 20 Watt.
Das ist eine schwache Glühbirne.
Und die Leistung ist vergleichbar mit einem Rechenzentrum, welches 100 Megawatt verwendet.
Von daher haben wir noch ganz schön viel Arbeit vor uns.
Vom Mensch lernen, um die KI besser zu machen.
Ich glaube, auf der Website steht auch bis zu 89%.
Ich glaube, die beiden Worte sind dann doch entscheidend.
Aber das ist doch eine super spannende Entwicklung, die aus Deutschland kommt.
Das finde ich immer spannend, weil man uns ja immer nachsagt, wir würden so abgehängt sein im Bereich KI.
Aber gerade so Institutionen wie das Deutsche Forschungszentrum für Künstliche Intelligenz zeigen ja eigentlich immer wieder das Gegenteil.
Deshalb freue ich mich einfach sehr, dass wir darüber sprechen.
Also ist die Vorstellung eines nachhaltigen Rechenzentrums gar nicht so absurd?
Also überhaupt nicht.
Es ist natürlich ein Wettrennen, das wir gerade jetzt in den USA, von China wissen wir relativ wenig, aber...
Die Vermutung liegt doch nahe, dass es sehr ähnlich läuft wie in den USA.
Das ist natürlich Größe ist alles.
Das ist so ein bisschen die amerikanische Denkweise dahinter.
Größe und Geschwindigkeit toppt alles.
Die USA zeigt sich jetzt, stoßen mit dieser Strategie, stoßen die Unternehmen an Grenzen.
Also die Bevölkerung steht auf und sagt, noch mehr Gaskraftwerke, damit ihr eure KI-Rechenzentren betreiben könnt.
Das sehen wir nicht ein.
zu unseren Kosten, was Wasser angeht, was Strom angeht, was Land angeht.
Also wir lassen das nicht länger zu.
Also in Virginia gibt es jetzt einen Stopp.
Und andere Bundesstaaten, selbst Texas, hat das jetzt so Moratorium halt gemacht für ein paar Monate, dass sie sagen, da wird jetzt gar nichts mehr bearbeitet.
in Europa und gerade in Deutschland, wir haben doch als Bedingung dann das Energieeffizienzgesetz und verschiedene andere Gesetze.
die dieses Maximaltempo halt verhindern.
Aber wir haben halt einen anderen Ansatz und haben auch andere Ressourcen.
Das muss man natürlich dann auch sehen.
Also wir können halt nicht vier Milliarden Liter Wasser pro Jahr verbrauchen, wie wenn man am Lake Michigan halt ein Rechenzentrum hat.
Also da gibt es dann andere Diskussionen.
Also wir müssen mehr auf die erneuerbaren Energien.
Das ist definitiv der Fall.
Mehr auf Effizienz setzen, das ist für so ein dicht bevölkertes Land und Gebiet wie Europa und Deutschland ist es natürlich klar, dass wir das machen müssen.
Und da ist USA und Kanada, wo ich jetzt gerade bin, die haben natürlich eine ganz andere Ausgangssituation und können optimieren auf eine andere Art und Weise.
Klar, auf der anderen Seite muss man natürlich sagen, auch die effizientesten Rechenzentren würde ich mal behaupten bringen, nichts, wenn am Ende schmutziger Strom mit hohem CO2-Ausstoß diese betreibt.
Also an sich ist doch auch der Energiemix mitentscheidend, wie nachhaltig so ein Rechenzentrum betrieben werden kann und am Ende natürlich auch wir unsere künstliche Intelligenz nutzen können.
Naja, also die Energie, die ich reinstecke, ist ja nur ein Faktor.
Also die Energie, die ich brauche, um Wärme abzuführen, verbraucht ja auch Energie.
Und wenn ich jetzt zum Beispiel Wasser in nahezu unbegrenzter Form verfügbar habe, kann ich natürlich die Verdampfungsenergie nutzen, um zu kühlen.
Und in Deutschland würden wir diese Kühlung über Strom machen.
andere Situationen und das führt dann automatisch zu SpaceX oder wie heißt das jetzt, SpaceX SI oder so ähnlich.
Die versuchen natürlich das Problem dadurch zu lösen, dass sie sagen, wir nehmen die Rechenzentrum ins Weltall, doch das ist immer kalt.
Wir haben die Energie über die Sonne und wir pumpen sozusagen unsere Rechnungen ins Weltall und kriegen nur noch die Ergebnisse.
Also ich finde das momentan faszinierend und für einen Ingenieur eine extrem tolle Zeit, sich ganz neue Ideen zu überlegen, ganz neue Wege zu gehen.
Das ist wirklich vergleichbar wie mit der Entwicklung der ersten Automobile, wo man auch gesagt hat, alle möglichen Formen, dass wir jetzt vier Räder haben, ist ja nur ein dominantes Design, was sich durchgesetzt hat.
Ja, so und das ist momentan für einen Ingenieur, glaube ich, also eine Traumzeit, weil man neue Wege gehen muss.
Muss man, aber auch was eben Sicherheit angeht, um vielleicht so den Full Circle zurückzunehmen, um entsprechend natürlich, wenn man mit dieser Technologie experimentiert, wenn man Agenten baut, die...
mehr oder weniger dann sehr, sehr mächtig sind und auch eigene Dinge ausführen können, sie davon vernünftig abzuhalten, per Design quasi irgendwo einzubrechen und andere Seiten zu hacken.
Aber ich verstehe absolut die Argumente.
Na klar, goldene Zeiten für alle, die tüfteln wollen und mitgestalten möchten.
Ja, also wir Deutschen sollten das sehr gut verstehen, in welcher Zeit wir leben, weil wir haben das Auto erfunden und denken Sie in die 70er Jahre zurück, das war vor ihrer Geburt, aber da sind sehr viele Leute bei Autounfällen gestorben, sowohl im Auto, weil es keine Airbags und sonstige Sachen gab, es gab keine Knautschzone und die Leute auf der Straße waren, die Fußgänger und Fahrradfahrer waren frei wild.
Unfassbar viele Leute gestorben dabei und dann hat man durch Regulierung dann die Handbremsen eingezogen an den richtigen Stellen, sodass wir jetzt doch eine ganz andere Automobilwirtschaft haben per Regulierung.
Also Regulierung ist in dem Falle hilfreich dafür, um solche Technologien auch einzuhegen, in die richtige Richtung zu entwickeln.
Jetzt ist uns das natürlich 30, 40, 50 Jahre später bewusst, dass so eine Anschnallpflicht durchaus auch sinnvoll ist und wir haben das alle hingenommen.
Aber auch damals gab es ja, wenn ich richtig mal Bilder und Content darüber gesehen habe, gab es ja durchaus Leute, die gesagt haben, das ist ja Bevormundung, dass ich mich hier anschnallen soll, Quatsch, da mache ich nicht mit, das ist Blödsinn, ich fahre ja vorsichtig.
Und Gegner von Regulierung gab es ja immer.
Und diese Stimmen werden ja heute auch gerade in dieser typischen Tech-AI-Bubble immer lauter, dass man sagt, Überregulierung dreht uns hier komplett die Luft ab.
Gerade in Deutschland kann man eigentlich nichts mehr machen.
Wir haben da bekannte Beispiele aus Österreich beispielsweise mit Open Claw mit der Entwicklung, wo der Entwickler dann gesagt hat, ich gehe in die USA, weil man in Europa nichts machen kann.
Ihr überreguliert alles und wir kriegen hier keine Innovation hin.
Was entgegnen Sie solchen Argumenten?
Naja, also ich glaube, der Entwickler, der Open Claw halt entwickelt hat, der ist vor allen Dingen, Aus finanziellen Gründen, weil das Venture Capital in Europa jetzt nicht so flüssig ist wie in den USA und er von OpenAI ein sehr gutes Angebot wahrscheinlich bekommen hat und er vielleicht dann auch mal was Neues sehen wollte.
Österreich ist vielleicht dann doch irgendwann dann auch so klein, dass man gesagt hat, ich habe alles gesehen.
Also dann mal nach Kalifornien zu gehen und mit den Großen halt zu spielen, also ich glaube, da sind auch persönliche Motivationen halt dabei.
Ich glaube, die Regulierung ist jetzt nicht der Hinderungsgrund, um KI-Startups zu gründen.
Es sind eher Finanz- und administrative Prozesse, die da halt schon ihre Rolle spielen, aber gerade die Finanzseite.
gut Geld, um die Seed-Phase und die erste Phase zu überstehen.
Aber wenn es dann halt in den zweistelligen Millionenbereich kommt, dreistelligen Millionenbereich oder gar vierstelligen Millionenbereich, dann wird es dann doch schon ziemlich eng.
Und dann guckt man sich halt um und sagt, wo kriege ich das dann her?
Ich glaube, die Regulierung hinkt natürlich hinterher.
Als der AI-Eck kam, da stand nichts von wegen generativer KI drin.
Da stand nichts von ChatGPT und solche Sachen drin.
Das wurde erst Nachträglichkeit irgendwo reinbekommen.
Dann wird es hochpolitisch, diese ganzen Sachen.
Ich denke mal, die Defense-AI-Diskussion zeigt, wie schnell man etwas entwickeln kann.
Wenn ich mir die Bewertungen von Helsing und Quantum anschaue, höheren Milliardenbereich, also auch Mistral, die jetzt hier zum Beispiel für Luxemburg jetzt eine Instanz halt installieren, wo die luxemburgische Regierung für alle öffentlichen Prozesse Mistral halt verwendet.
Also ich glaube, die Entscheidung, in Europa zu bleiben von Mistral, ist eine strategische gewesen.
Und ich glaube, dass das also auch einen Trend halt darstellt.
Zu sagen, also wir sind ein Markt von 500 Millionen Einwohner.
Ich habe jetzt gelernt, es gibt einen Brüssel-Effekt, der da halt zeigt, dass Regulierung dann weltweit sich ausbreitet, aus Brüssel heraus, weil es effizienter ist, das von Brüssel zu übernehmen, als neu zu erfinden.
Also von daher glaube ich, Europa darf jetzt nicht überregulieren, definitiv nicht.
Wir müssen also Regulierung, die sich als schlecht herausstellt oder als nicht zielführend, eliminieren, definitiv.
Aber das als Grund zu nehmen, warum jetzt Leute nach Amerika gehen oder in andere Länder gehen, würde ich jetzt nicht als primären Grund sehen, sondern eher die Finanzsituation, vielleicht der Coolness-Effekt, vielleicht...
der Community-Effekt, glaube ich, ist stärker.
Okay, verstehe.
Zum Abschluss vielleicht einen kleinen Ausblick, gerade möglicherweise im Hinblick auf die Regulierung.
Der AI Act haben wir jetzt ein paar Mal angesprochen.
Der ist ja durchaus auch immer mal wieder verändert worden und man hat, wenn man so politischen Kommilitatoren glaubt, dadurch ist auch Einfluss der US-Regierung darauf gesehen, dass man da möglicherweise im Zollkonflikt rund um Zölle auf deutsche Autos oder andere Exportwaren aus Europa.
gesagt hat, nee, nee, das schwächt mal bitte ab.
Also so ein bisschen, man könnte sagen, Bösezungen würden wohl sagen, Erpressung.
Also bitte ein bisschen weniger regulieren, damit unsere Hyperscaler und unsere US-Tech hier schön walten und weitermachen kann.
Und im Gegenzug belassen wir es dabei und ihr könnt einfach weiterhin uns eure Produkte verkaufen.
Wo führt denn das hin?
Wer wird sich denn da durchsetzen?
Und wie sieht denn eine gelungene Regulierung in fünf Jahren aus?
Also das geht natürlich ein bisschen über meine Kompetenz hinaus, da kann ich jetzt nur meine Meinung dazu sagen.
Also ich denke mal, Politik, gerade in demokratischen Ländern, bedeutet Kompromisse einzugehen.
Und wenn die EU eine Regulierung erlässt, dann ist das ohnehin schon ein Kompromiss, der im Europäischen Rat dann letztendlich abgesegnet wird und im Parlament diskutiert wird.
Also das ist ja per se schon ein Kompromiss, was da hinten rauskommt, wo sehr viele Leute als auch US-amerikanische Lobbyarbeit ja schon einfließt.
Es gibt ja auch in Deutschland Verbände, die sehr stark US-dominiert sind, die ihren Einfluss in der deutschen Regierung auch national sehr klar und deutlich platzieren.
Ansonsten sind manche Entscheidungen in Deutschland auch gar nicht erklärbar, warum also eine souveräne KI dann plötzlich auf US-Plattformen läuft.
Natürlich ist das ein Kompromiss, wo Einflussnahmen passieren.
Und dass das dann auch zwischen der EU, USA, China, wahrscheinlich in Zukunft auch Indien und anderen Ländern halt passieren wird, man handelt das aus, so wie man das bei der WTO eigentlich auch kennt.
Ja, dort werden auch supranationale Kompromisse geschlossen.
Das passiert ja.
Also ich meine, die Europäische Union und auch die Bundesregierung hat natürlich die Herausforderung.
zu sagen, natürlich können wir Hardball spielen und sagen, wir lassen das einfach nicht zu, weil ihr unsere Regulierung nicht erfüllt.
Wir überlegen euch mit Strafen in der Weise, wie wir sie für adäquat halten.
Konsequenz davon ist, dass wir möglicherweise bestimmte Services in Zukunft verlieren werden.
Was wiederum ein Nachteil ist für die deutsche Wirtschaft, die ja sehr gerne die neuesten Leistungen von Entropic und von OpenAI und auch von Moonshot aus China usw.
nutzen möchte.
Also von daher geht es darum, einen Kompromiss zu finden, zu sagen, es gibt bestimmte Werte, die sind uns wichtig und die verteidigen wir uns auch und über den Rest kann man diskutieren.
Und das ist etwas, was möglicherweise...
die Politik heute für große Herausforderungen stellt.
Manchmal hat man auch den Eindruck, dass der Wissensstand nicht auf dem Niveau ist, wie er vielleicht sein sollte.
Das ist natürlich dann ein Wissensproblem.
Wenn man in der Politik versucht, diese Diskussionen nahezubringen, hat man doch relativ häufig den Eindruck, dass nur mit einem halben Ohr zugehört wird.
Und dass schon vorher klar ist, was man eigentlich machen will.
Und man braucht eigentlich so einen wissenschaftlichen Beirat nur dafür, um zu sagen, wir haben den.
Und der bestätigt dann letztendlich, was wir schon vorher eigentlich wollten.
Also das ist natürlich etwas, da würde ich mir manchmal ein bisschen mehr Offenheit und ein bisschen mehr Diskussion und Wissenstransfer in beide Richtungen halt wünschen.
Das ist auf der europäischen Ebene.
schwierig und auf der nationalen Ebene auch schwierig.
Also der Digitalminister Wildberger ist sicherlich einer, der offen ist für diese Diskussion.
Das ist auch sehr gut.
Also er ist meines Erachtens eine rühmliche Ausnahme und ich hoffe, dass er seine Stimme halt da klar öffentlich darstellen kann.
Die Ansicht teile ich und ihre Meinung teile ich da auch.
Betty Kies, deine Pressesprecherin, war ja auch schon mal bei uns zu Gast.
Also ich weiß, dass du durchaus in dem Ministerium offen sind gegenüber Neuem und auch viel ausprobieren, was natürlich auch dann häufiger mal zu Kritik führt, weil auch mal was schief geht.
Grundsätzlich kann man der Behörde jetzt, glaube ich, keine Ablehnung von Innovationen oder Experimenten vorwerfen.
Und ich glaube, dass das tatsächlich auch irgendwie der springende Punkt ist, dass da viel Wissenslücken sind.
Und ich hoffe, ja doch, ich hoffe, ich bin eigentlich davon überzeugt, dass wir auch mit diesem Podcast natürlich dazu beitragen, diese Wissenslücke zu schließen.
Heute einmal mehr mit Wolfgang Maas vom Deutschen Forschungsinstitut für Künstliche Intelligenz.
Vielen lieben Dank für Ihre Zeit, Ihre Meinung und Ihre Einblicke.
Ich denke, wir konnten so ein bisschen vielleicht mit Vorurteilen aufräumen und neue Impulse setzen.
Vielen Dank für Ihre Zeit.
Ja, vielen Dank für das tolle Interview.
Das war Professor Wolfgang Maas, liebe Leute.
Und ich muss sagen, mir hat das Gespräch persönlich wirklich gut getan.
bewegen uns in dieser KI-Debatte ja ganz oft irgendwie zwischen Doomsday-Stimmung auf der einen Seite und so KI als Allheilmittel auf der anderen.
Und ich versuche ja selbst immer irgendwo dazwischen zu bleiben und möglichst alle Perspektiven zu beleuchten, aber ich merke auch, dass mir das zunehmend schwerfällt.
Wir werden ja alle ständig mit Schlagzeilen bombardiert, die entweder in die eine oder in die andere Richtung gehen und die Fronten immer weiter verhärten.
Da fand ich es wirklich mal wirklich wohltuend, diese nüchterne wissenschaftliche Einordnung zu hören von jemandem, der sich wirklich seit Jahrzehnten mit dem Thema beschäftigt, der die Risiken auf der einen Seite ernst nimmt, aber eben auch aktiv daran forscht, dass die Technologie besser und sicherer wird.
Und ich muss sagen, dass...
Das macht mir irgendwie Mut, denn darum sollte es doch am Ende auch gehen, oder?
Ich meine, das ist einfach ein Projekt, das wir gemeinsam anpacken müssen.
Und wir haben schon andere Projekte gemeinsam angepackt und gelöst.
Was sagst du denn dazu, liebe Kollegin?
Max, ich fand vor allem den Vergleich mit der Automobilindustrie spannend.
Wir haben ja auch nicht aufgehört, Autos zu bauen, weil sie gefährlich waren.
Stattdessen haben wir gelernt, sie sicherer zu machen.
Durch Regeln, Sicherheitsgurte und Airbags.
Und genau das ist doch auch bei KI der Punkt.
Wir müssen die Risiken ernst nehmen, ohne gleich den Weltuntergang auszurufen.
Denn am Ende geht es nicht darum, die Technologie aufzuhalten, sondern sie verantwortungsvoll zu gestalten.
Ja, dass die KI das sagt, ist wahrscheinlich irgendwie klar.
Ja, aber gut, danke für deinen Beitrag, liebe Kollegin.
Wenn ihr das ähnlich seht oder auch ganz anders, dann schreibt es uns gerne in die Kommentare.
Wir freuen uns über sachliche Diskussionen.
Ansonsten empfehlt diesen Podcast gerne weiter, wenn ihr möchtet.
Liked ihn, abonniert ihn.
Das freut uns sehr, wenn wir da zusätzliche Bewertungen bekommen, damit wir auch wissen, wie wir in Zukunft weiter verfahren.
Ansonsten danke ich wie immer unserem Sponsor Eleven Labs für die ganzen KI-Einlagen und wünsche euch eine fantastische Woche.
Bis Freitag zur Kollegin KI-Snackbox.
Ciao.
Dieser Podcast wird produziert von Podstars bei OMR.