# Europe 2031: AI Sovereignty and Strategic Risk

**Podcast:** Kollegin KI
**Published:** 2026-08-25

## Transcript

Wie entwickelt sich KI weiter?
Diese Frage wird eigentlich gerade überall gestellt und natürlich auch versucht zu beantworten.
Ein ziemlich spannender Versuch, wie ich finde, eine mögliche Antwort darauf zu geben, ist Europe 2031.
Das ist so eine Art erzählerisches Zukunftsszenario.
Es ist relativ schwierig, das zu beschreiben.
Ich habe es tatsächlich als Podcast gehört.
Das ist im Juni diesen Jahres veröffentlicht worden.
Und das spielt einmal ganz konkret durch, wie sich Europa in den kommenden Jahren eigentlich entwickeln könnte, wenn wir...
Beim Thema KI, ja, weiterhin so viel Penn in Europa.
Man muss es so sagen, wenn wir nicht den Zahn zulegen, was könnte dann passieren?
Und das ist keine Studie oder sowas, auch keine wirkliche Prognose, sondern es ist einfach ein Was-wäre-wenn-Szenario, das einmal wirklich durchgespielt wird bis 2031.
Einer der Menschen, der dieses Szenario mitentwickelt hat und geschrieben hat, ist Maximilian Nägele.
Und den habe ich heute zu Gast und ich freue mich sehr, heute über Europe 2030 One zu sprechen.
Mein Name ist Max Muntenke, ihr hört Kollegen KI.
Hallo Max.
Hi Max, freut mich.
Wie geht's dir?
Sehr gut soweit.
Der Sommer ist noch hier in Brüssel.
Es ist erstaunlich warm und ich freue mich, heute über unser Projekt zu reden, das vor ein paar Wochen rauskam.
Du sitzt in Brüssel, ich sitze in Berlin.
Hier ist es auch unfassbar warm.
Temmustat zeigt hier 30,5 Grad.
Bestes Podcastaufnahmewetter.
Aber nun gut, so ist es.
Bist du jetzt eigentlich berühmt seit Juni?
Also wenn das der Fall ist, dann habe ich bisher noch nichts davon mitbekommen.
Ich würde auf jeden Fall sagen, dass die Medienaufmerksamkeit, die wir durch dieses Projekt bekommen haben, meine wildesten Erwartungen komplett überstiegen hat.
Also ich glaube, bevor das Projekt publiziert wurde, hatten wir nicht wirklich damit gerechnet, dass es so eine starke Medienresonanz gibt.
Und wir hatten super viel Kontakt zu verschiedenen Zeitungen in ganz Europa, als das Ding rauskam.
Wir haben Artikel geschrieben, teilweise im Handelsblatt, im Economist.
Und in verschiedensten nationalen Zeitungen in verschiedenen Mitgliedstaaten der EU, Nordeuropa, Südeuropa, West, Ost, überall.
Und das hat auf jeden Fall das überstiegen, was ich bisher kannte aus meinem Beruf.
Also ich bin KI-Politikforscher.
Ich schreibe mehr oder weniger akademische Papers und Think Tank-Berichte zu KI-Themen, die meistens relativ technisch und spezifisch sind und sich an Policymaker und Leute in der Regierung richten.
Und natürlich macht man da auch mal ein Op-Ad oder so, aber meistens ist es eigentlich eher technokratische Arbeit.
Und diese neue Art von Medienaufmerksamkeit war für mich schon auf jeden Fall was Neues.
Das flaut dann natürlich wieder so ein bisschen ab.
Also die ganz virale Phase ist natürlich jetzt schon so ein bisschen vorbei.
Aber wir merken jetzt natürlich schon, dass viele Leute weiterhin über dieses Ding sprechen.
Ich war jetzt letztens in Berlin in der Hertie School, wo ich mit dem Co-Orter Philipp Fox einen Talk gegeben habe.
Und da waren dann eben 200 Leute in dem Saal.
Das überrascht mich schon immer wieder, dass wir mit diesem Piece eben so viele Leute erreichen konnten und so viele Leute auch motivieren konnten, über das Thema nachzudenken.
Und das macht mir schon auf jeden Fall sehr viel Freude.
Also ich habe es überall gesehen.
Mein Feed war voll davon.
Irgendwie jeder hatte eine Meinung dazu.
Es gibt zahlreiche Subreddits auch, wo es teilweise sehr kritisch diskutiert wird.
Aber um vielleicht mal alle abzuholen, die jetzt irgendwie das Ganze noch nicht gelesen oder gehört haben, kannst du vielleicht einmal ganz kurz erklären, worum geht es in Europe 2031?
Ja, Europe 2031 ist eine Geschichte erstmal.
Also im Prinzip eine Geschichte, die teilweise frei ausgedacht ist, in der wir uns überlegen, wie die nächsten fünf Jahre für Europa aussehen könnten von einer KI-politischen Perspektive.
Und wir nennen das manchmal ein Szenariostück, das nicht komplett ausgedacht ist, sondern das ist eine Übung, in der...
Disciplined Imagination, also disziplinierte Vorstellung.
Also wir haben uns jetzt nicht einfach irgendein Science-Fiction-Szenario ausgedacht, sondern wir haben uns schon genau überlegt, was basierend auf realen Trends und realen Entwicklungen und unserer realen Erfahrung aus dem politischen Bereich dann tatsächlich passieren könnte oder was ein plausibles Szenario sein könnte, wie die nächsten fünf Jahre aussehen.
Und die ersten paar Kapitel der Geschichte sind auch real.
Also wir haben natürlich erfundene Charaktere.
Also das Ganze ist aus der Perspektive von zwei Personen beschrieben.
Auf der einen Seite Caroline, das ist eine EU-Beamtin, die in der Europäischen Kommission arbeitet und ihr halt der Studienfreund, der im Silicon Valley eben ein KI-Unternehmen gegründet hat.
Und die sind dann über das Szenario hinweg immer im Austausch miteinander und vergleichen so ein bisschen ihre Perspektiven.
Und das ist natürlich alles erfunden, aber es basiert so ein bisschen auf unseren eigenen Erfahrungen, die wir halt aus der...
KI-Politik-Blase haben.
Also wir reisen selber häufig eben nach San Francisco.
Ich wohne hier in Brüssel.
Ich kenne beide Welten so ein bisschen.
Und das war für uns so ein bisschen ein Instrument, diese Erfahrung zu kanalisieren.
Aber die ersten Kapitel sind eben basierend auf realen Entwicklungen.
Also alle Sachen, die da passieren bis zum Jahr 2026, sind wirklich real.
Und von da an fangen wir dann eben an zu spekulieren.
Und das Ganze hat eben den Sinn, dass wir das Gefühl der Dringlichkeit drüber bringen wollten.
Weil es gibt ja einen Grund, warum wir eine Geschichte geschrieben haben und kein Paper.
Also ich komme aus dem Bereich, wie gesagt, technokratischer Bereich.
Ich habe schon super lange Papers geschrieben über KI-Trends, die ich an Leute in der Regierung geschickt habe.
Und es ist halt so, dass das die meisten Leute nicht so wirklich interessiert, außer es ist ihr Fachbereich.
Und jetzt eine normale Person oder ein normaler durchschnittlicher Politiker liest sich jetzt auch nicht ein hundertseitiges Paper durch über KI.
Und wir hatten eben alle gemeinsam als Autorengruppe so ein bisschen diese Idee von, okay, wir müssen jetzt mal was anderes probieren, weil wir brauchen diese Aufmerksamkeit und Leute mögen eben Geschichten sehr gerne und dann haben wir eben dieses Vehikel gewählt.
Und was ich da vielleicht hinzufügen möchte, ist, dass das jetzt nicht unsere Idee war, sondern es gibt eine Gruppe, das AI Futures Project, das das schon sehr erfolgreich in den USA gemacht hat mit AI 2027 und jetzt auch AI 2040.
Also kann ich sehr empfehlen, dass Leute sich die Sachen auch anschauen und das war so ein bisschen die Inspiration dafür.
Also ich sage mal, von der Reichweite her ist es definitiv gelungen.
Kurz danach wurde es im Guardian tatsächlich dann erwähnt und der Guardian hat geschrieben, dass es sich um ein Doomsday-Szenario handelt, das Europa aus seiner Selbstzufriedenheit rütteln soll.
War das auch euer Ziel?
Ja, es ist natürlich sehr...
Sehr direkt ausgedrückt, sage ich mal.
Also ich glaube, es stimmt, das ist ein Doomsday-Szenario.
Also ich glaube, damit kann man jetzt nicht unbedingt argumentieren.
Also ja, es ist am Ende eine Welt, in der wir jetzt nicht unbedingt enden wollen.
Also ich will jetzt nicht spoilern für die, die es noch nicht gelesen haben, aber es endet nicht besonders positiv für Europa im Jahr 2031.
Und es könnte wahrscheinlich auch noch wesentlich negativer enden.
Also viele Leute haben uns kritisiert, dass wir es nicht apokalyptisch genug gemacht haben, sage ich mal.
Aber ja, es ist auf jeden Fall ein Doomsday-Szenario und es ist auf jeden Fall designt, Europa aus seinem Mangel an Handlungen zu schütteln.
Man kann jetzt irgendwie diskutieren, was die Diagnose ist, warum wir nicht handeln.
Was war das Wort Selbstgefälligkeit?
Oder im Guardian?
Man kann jetzt irgendwie verschiedene Diagnosen anbringen, ob es nur Selbstgefälligkeit ist oder irgendwelche anderen Sachen.
Ich glaube, eine Sache, die uns sehr wichtig war in einem Szenario, dass wir...
Keine einzelne Personen oder Gruppe von Personen, die die Schuld direkt geben wollen, sondern dass wir es wirklich darstellen als komplexes Problem, dass verschiedene Stakeholder involviert, die alle eigentlich ihre Anreize haben, die für sie rational Sinn machen, aber in Kombination daraus ergibt sich eben ein schlechtes Szenario für Europa.
Also wir versuchen eben aktiv jetzt nicht so eine Schuldzuweisung zu betreiben.
sondern so ein bisschen die Anreizstrukturen und Systeme dahinter halt so ein bisschen zu beleuchten.
Selbstzufriedenheit wurde der Artikel hier übersetzt.
Aber KI kann Fehler machen.
Also es könnte auch was anderes sein.
Aber ja, genau, Selbstzufriedenheit.
Wo ist denn das Problem eigentlich?
Also wenn wir jetzt mal KI irgendwie, wenn wir den State of AI irgendwie gerade mal zusammenfassen.
Also in den USA gibt es die ganzen Hyperscaler.
Wir nutzen die hier mehr oder weniger.
In China am anderen Ende der Welt gibt es die großen Open-Source-Modelle, die, sag ich mal, man sagt irgendwie mit so einem Versatz von drei bis sechs Monaten eigentlich auch.
die Skills haben, die US-Tools haben und Chips gibt es eben aus Taiwan.
In Europa haben wir jetzt ja nicht wirklich Karten in der Hand, die da mitspielen können.
Also wir sind am Ende Konsumenten.
Ist das im Grunde so die Ausgangslage?
Kann man das so zusammenfassen?
Ja, ich denke, das ist eine korrekte Diagnose.
Wir sind Konsumenten von Spitzen-KI.
Also eine Sache, die man da vielleicht klarstellen muss, ist, dass es natürlich verschiedene Arten von KI gibt.
Und wir sprechen vor allem über Frontier AI, also die leistungsfähigsten KI-Modelle, an der jeweiligen technologischen Spitze sind, von denen wir davon ausgehen, dass sie sehr, sehr starke wirtschaftliche Effekte haben werden in den nächsten Jahren.
Und es stimmt, dass wir in diesem Bereich von Frontier AI im Prinzip komplette Konsumenten sind.
Also wir haben eigene Frontier AI-Firmen oder solche, die es werden wollen wie Mistral.
Aber die Wahrheit ist, dass diese Firmen einfach in der Qualität und Fähigkeit ihrer Modelle nicht mit den Wettbewerbern aus den USA und China mithalten können aktuell.
Ja, das schafft halt eine gewisse Abhängigkeit.
Und wenn wir wirklich davon ausgehen, dass KI eben eine strategische Grundsatzfähigkeit und Asset wird in der nahen Zukunft für unsere gesamte Wirtschaft, dann bringt uns das natürlich in eine sehr prekäre Situation, was die Souveränität angeht.
Und das ist genau das, was wir mit dem Szenario beschreiben.
Ich will jetzt nicht sagen, dass das das Einzige ist.
Also es gibt noch ganz andere Probleme, die mit KI kommen können.
Also KI-Sicherheit, die Risiken, die mit Cyber, mit biologischen Waffen, mit...
Loss of Control mit sich kommen, wollen wir auf keinen Fall ausblenden.
Aber was natürlich jetzt eben für uns als Europa sehr, sehr stark natürlich auch im Vordergrund steht, ist dieses Souveränitätsproblem.
Und wenn ich da jetzt in die Diagnose gehe, warum ist das eigentlich so, ist natürlich ein sehr multifaktoriales Problem.
Aber im Prinzip ist es jetzt auch kein, also keine, ja, so kein Rocket Science, wie man sagt in Englisch, sondern wir brauchen halt Talente, wir brauchen Kapital und wir müssen diese Firmen halt skalieren.
Und Fakt ist halt, dass wir unsere ganzen Talente aktuell zum großen Teil ins Ausland verlieren.
Die gehen ins Silicon Valley.
Warum gehen die ins Silicon Valley?
Das sind natürlich Netzwerkeffekte, das sind einfach existierende Forschungsnetzwerke, die dort sehr stark sind.
Aber die sind natürlich verstärkt durch eine starke Kapitalverfügbarkeit.
Es gibt halt einfach eine sehr, sehr hohe Kapitaldichte und Verfügbarkeit dort im Silicon Valley und VC-Netzwerke.
Und das haben wir auf der Größenordnung einfach nicht in Europa.
Und das ist jetzt...
Ja, eine Sache, die, es ist einfach eine sehr kapitalintensive Industrie.
Wir brauchen sehr viel Compute, wir brauchen sehr viel Datenzentren, die man dafür bauen muss.
Und ich glaube, es fehlt halt am Ende an den Rahmenbedingungen.
Ich glaube, es gibt keinen grundsätzlichen Grund, warum in Europa eigentlich keine Frontier-Air-Filmen haben können.
Aber die Rahmenbedingungen für die besten Talente herzukommen, sind einfach aktuell nicht gegeben.
Jetzt ist, du hast schon von, wir brauchen im Grunde oder wir könnten im Grunde Frontier-Modelle bauen, wir brauchen halt natürlich irgendwie das Personal, wir brauchen Geld, wir müssen Firmen skalieren.
Das sind so Sachen, die hatte ich ähnlich auch schon in einem Reddit-Forum gesehen, da ging es auch um Europe 2031 und da wurde es diskutiert und da war der Top-Kommentar, stop.
Stop sending Big Tech oder US-Tech Propaganda.
Also von wegen, das klingt schon sehr alles nach ultra neoliberalistischen US-amerikanischen Markt, bla bla.
Ja, und wir brauchen das hier nicht.
Wir kommen auch so irgendwie über die Runden und es reicht, indem wir regulieren und im Grunde die Modelle dann hier, ja.
mehr oder weniger adaptieren und erstmal aus sicherer Entfernung gucken, weil, und das ist ja so ein Argument, das man auch immer wieder hört, dass man sagt, wir haben ja hier im Grunde auch Industriestandorte und wir haben im Grunde die Use Cases, die tatsächlich dann mit KI auch optimiert werden können.
Das heißt, im Grunde könnten wir massiv davon profitieren, dass wir diese Technologie einfach einkaufen, statt sie selbst zu machen.
Was sagst du dazu zu so einer Kritik?
Ja, sind natürlich verschiedene Punkte und die man hier jetzt beantworten könnte.
Also erstmal zu der Big Tech, generellen Kritik, das ist tatsächlich halt eine Sache, die uns häufiger vorgeworfen wurde oder die eine der häufigsten Kritikpunkte, sage ich mal, ist, dass wir mehr oder weniger so eine Art von Lobbygruppe sind für irgendwelche Big Tech Unternehmen oder dass wir Apologeten sind für den Einfluss von Big Tech und Big Tech ist unter vielen Leuten in Europa einfach generell nicht so besonders beliebt, auch teilweise sehr berechtigt, finde ich.
Und es gibt dann verschiedene Variationen von diesen Argumenten.
Du hattest jetzt irgendwie so eine Version davon genannt, aber ja, es gibt verschiedene Versionen davon.
Ich glaube, um die konkrete Sache zu erwähnen, die du erwähnt hattest mit, warum wenden wir KI nicht einfach an?
Also erstmal, ja, wir sollten auf jeden Fall KI anwenden.
Es gibt wahrscheinlich große Wertschöpfung darin, mit unserer existierenden Industrie KI anzuwenden.
Und ich glaube, die Kombination aus den Basismodellen und den Use Cases, die wir dann eben haben, wird sehr, sehr wertvoll sein.
Ich glaube halt nicht, dass wir uns langfristig wahrscheinlich darauf verlassen können.
Also wir bewegen uns im Prinzip auf eine Welt zu, in der wir möglicherweise innerhalb von wenigen Jahren komplette Automatisierung von kognitiven Fähigkeiten bekommen oder dass wir KI-Systeme bekommen, die Menschen in der kognitiven Domäne zumindest bei weitem überlegen sind.
Und es ist nun mal so, dass große Teile unserer Wirtschaft auf kognitive Arbeit basieren.
Also wenn du jetzt am Computer sitzt und irgendeine Arbeit machst, in der du jetzt nicht unbedingt mit Maschinen hantierst oder so, dann gibt es eine Wahrscheinlichkeit, dass ab einem gewissen Punkt halt diese Art von kognitiver Arbeit von KIs erledigt werden kann.
Und das bedeutet dann immer noch natürlich, dass unsere Industrie wichtig sein wird.
Also die Assets, die wir haben, die Maschinen, die wir haben, kann man jetzt nicht einfach durch KI sofort ersetzen.
Das wird dann vielleicht auch irgendwann kommen.
Also irgendwann werden wir auch physische KI bekommen, wir werden Roboter bekommen, die dann möglicherweise auch die Firmen selber einfach...
bedienen können.
Aber bis dahin gibt es eben noch die ganze kognitive Arbeit.
Und die Frage ist halt, ob wir uns langfristig darauf verlassen können, da nicht unsere eigenen Assets zu haben, sondern kompletter Konsument von dieser kognitiven Arbeit zu sein.
Also sowohl im Sinne von den Modellen, die wir verwenden, als auch mit der Rechenkapazität.
Also die Modelle sind eben sozusagen die Technologie dahinter und die Rechenzentren sind eben die Tiefe, mit der wir diese Technologie anwenden können in unserer Industrie.
Und selbst wenn wir jetzt KI nur einkaufen und anwenden, sind wir dann immer noch von der Rechenkapazität möglicherweise von amerikanischen Hyperscalern abhängig.
Und die Rechenkapazität wird wahrscheinlich in den nächsten Jahren limitiert sein.
Also einfach die Lieferkette ist limitiert, die kann nur begrenzt schnell skalieren.
Und ab einem gewissen Punkt werden dann eben auch amerikanische Unternehmen und möglicherweise die amerikanische Regierung einfach Entscheidungen treffen müssen, wohin diese Rechenkapazität einfach geht.
Und im Zweifel werden die halt nicht sagen, okay, wir geben die Hälfte irgendwie an uns und die Hälfte an den Rest der Welt, sondern die werden im Zweifel halt sagen, 20 Prozent geht erstmal ans US-Militär, Punkt.
Der Rest geht an unsere domestische Wirtschaft und dann kriegen irgendwie so 15 Prozent geht dann irgendwie an den Rest der Welt.
Und das könnte halt zu einer extrem starken Imbalance führen, der Art und Weise, wie KI angewendet werden kann zwischen verschiedenen Ländern.
Und insofern weiß ich halt nicht genau, ob wir uns auf diese Strategie jetzt alleine verlassen können.
Aber es ist auf jeden Fall trotzdem eine gute Idee, KI weitgehend anzuwenden.
Du hattest das gerade gesagt mit dem, wir beschränken möglicherweise auch unsere eigenen Ressourcen.
Also wohin gehen die?
Die behalten wir erstmal für uns als Nation, für unsere eigene Industrie und so weiter.
Du hast von Rechenkapazitäten gesprochen und einen ähnlichen Spin gibt es ja auch in dem Szenario, in dem Konkreten, dass die USA sagen, nee Moment, diese Top-Modelle, die behalten wir erstmal nur für US-AmerikanerInnen vor.
Und ich glaube, das ist ganz spannend, weil...
Das Ding ist im Juni erschienen und wenige Wochen später war ja dann tatsächlich dieser Fall mit Claude Mythos, also im Grunde mit dem ersten Large Language Model oder KI-System, wo dann tatsächlich der US-Präsident gesagt hat, nee, nee, das ist viel zu mächtig, das müssen wir gerade mal zurückhalten.
War das im Grunde von euch schon so prognostiziert?
Hattet ihr irgendwie Informationen oder war das tatsächlich eine Prediction, die wirklich kurz danach einfach eingetreten ist?
Ja, das war ziemlich verrückt, weil es war ja...
gar nicht mal Wochen danach, es war ja im Prinzip drei Tage danach, also wir haben das Szenario publiziert und ich glaube, es war ein Mittwoch oder sowas und ich glaube, am Samstag kam dann die Nachricht rein und das hat uns natürlich total weitergeholfen, also das hat natürlich das Szenario nochmal extra viral werden lassen, also ich kann mich noch erinnern, als ich da aufgewacht bin an dem Samstag und habe irgendwie auf mein Handy geschaut und da waren dann irgendwie so tausend Nachrichten drin von wegen, oh mein Gott, schau mal, was passiert ist und Es ist irgendwie eingetreten und ich habe das dann erst gar nicht gecheckt und dann habe ich gemerkt, oh Gott, ja, es ist genau das eingetreten.
Also es ist zumindest nicht exakt das Gleiche, was wir gesagt haben.
Also wir haben ja von eher einer Tokenlimitierung gesprochen.
Aber ja, es wurde eben ein Modell im Prinzip von der Regierung nicht mehr verfügbar gemacht.
Und wir hatten jetzt keine Informationen darüber.
Das war wirklich komplettes Glück im Prinzip, dass das passiert ist.
Aber natürlich in der Expertenblase, in der viele von uns sind, hatten viele Leute das bereits.
schon länger erwartet, dass das halt passieren wird.
Aus verschiedenen Gründen.
Also aus dem ökonomischen Grund, den ich erwähnt hatte, dass es einfach eine knappe Ressource ist, Compute, die ab einem gewissen Punkt halt verteilt werden wird.
Und B natürlich aus dem Grund, dass Modelle halt zunehmend gefährlicher werden.
Also wir sehen das ja mittlerweile immer mehr mit diesen ganzen Cyber-Vorfällen und Kontrollverlust-Vorfällen, wo mittlerweile ja KI-Modelle autonom irgendwelche Sachen hacken und sowas.
Und auch im Bereich von CBRN, also biologischen Waffen und anderen Massenvernichtungswaffen, sehen wir, dass die KI-Modelle einfach immer mächtiger werden.
Und insofern gehe ich halt schon davon aus, dass man ab einem gewissen Punkt halt nicht mehr alles einfach Open-Sourcen kann.
Also es gibt ja eine große Fraktion, die dann sehr, sehr stark für Open-Source-Modelle ist und die sagt, dass das ja irgendwie so eine Alternative sein kann für europäische Souveränität.
Und es gibt irgendwie Versionen von dem Argument, die, glaube ich, auch stimmen.
Aber man muss sich halt schon darüber bewusst sein, dass ab einem gewissen Fähigkeitsniveau Sowohl die Amerikaner als auch die Chinesen sagen werden, also sorry, das können wir nicht mehr open sourcen, weil sonst ja Gott und die Welt Zugang zu diesen Fähigkeiten bekommt.
Und es gab jetzt letztens auch eine interessante Studie von Antonia Jülich.
Die hat ein Jahr lang Feldforschung im Prinzip in Nigeria gemacht und verschiedenen anderen Ländern und hat eben das KI-Nutzungsverhalten vom islamischen Staat.
Und Boko Haram sich angeschaut und hat dann festgestellt, dass die im Prinzip schon KI-Power-User sind und die auch für Angriffe verwenden und so weiter und so fort.
Und so gezielte Schulungen haben dafür.
Das heißt, die sind da dran und irgendwann werden halt auch, also alle sagen, sorry, wir können jetzt nicht mehr unsere ganzen mächtigsten KI-Modelle einfach open sourcen.
Das heißt, aus diesen zwei Gründen sind wir schon länger davon ausgegangen, dass das irgendwann passieren wird.
Und ja, also es war eine Frage der Zeit, bis das dann irgendwie kommt.
Ich hatte es ja angesprochen mit diesen drei bis sechs Monaten Verzug von Open Source zu den Frontier Models in den USA.
Und Mythos wurde ja zurückgehalten, auch aus dem Grund, zumindest wurde es gesagt, weil das Modell sehr, sehr stark im Aufspüren von Sicherheitslücken sein soll.
Und dementsprechend hat man das ja erstmal nur ausgewählten US-amerikanischen Unternehmen, muss man sagen, zur Verfügung gestellt, um diese Sicherheitslücken zu schließen.
Und Europa ist mehr oder weniger leer ausgegangen dabei.
Also es gab so ein paar natürlich internationale Konzerne, die auch hier verwurzelt sind, die dann auch Zugriff hatten.
Aber tatsächlich konnten die dann erstmal ihre Sicherheitslücken schließen, bevor...
das Modell dann in Form von Fable 5, meine ich, tatsächlich irgendwie veröffentlicht wurde.
Aber das ist ja im Grunde genau das Problem, wenn man dann davon ausgeht, wenn das das jetzt kann, dann kann das in einem halben Jahr jeder auf der Welt.
Und das führt immer wieder zu dieser Frage, die ich mir origemäßig stelle, sind wir als Gesellschaft überhaupt bereit dafür, so eine Hochtechnologie in unser aller Hände zu legen?
Auf der einen Seite, weißt du, ich habe so zwei...
Zwei Seelen in meiner Brust.
Die eine sagt, mein Gott, Demokratisierung von Hochtechnologie ist wundervoll.
Ja, das ist im Grunde eine Technologie, die war bis vor 100 Jahren, wenn man das vergleichen kann, weil die vielleicht eher Königen oder Kaisern vorbehalten oder dem Militär.
Und jetzt haben wir für 20 Dollar im Monat irgendwie die Möglichkeit, eben auch daran zu partizipieren.
Und das muss ich sagen, finde ich aus so einer Demokratieebene ganz, ganz großartig.
Auf der anderen Seite.
sieht man ja auch, wie viel Blödsinn damit gemacht wird.
Vor allem, was Betrug angeht.
Vor allem, was Slop angeht.
Jetzt mal der harmlose Slop, klar.
Aber viel schlimmer natürlich, dass diese Power natürlich auch von Kriminellen nutzbar gemacht werden können.
Was können wir dagegen machen?
Ja, du beschreibst natürlich eine der Grundherausforderungen von KI-Politik generell.
Es ist einfach eine Dual-Use-Technology, die extrem...
in beide Richtungen gehen kann.
Also natürlich bin ich komplett bei dir.
Ich bin auch dafür, dass wir die positiven Seiten von KI nutzen und dass wir die ja vor allem auch teilen mit der ganzen Welt im Prinzip.
Es gibt ja wahnsinnige Chancen dafür, auch für Entwicklungsländer und alle möglichen Leute, die da irgendwie besseren Zugang zu allen möglichen Dienstleistungen bekommen können durch KI, sei es irgendwie Therapie, sei es...
Bildung und wir können natürlich bessere Medikamente herstellen mit KI-Systemen und so weiter und so fort und das für Forschung verwenden.
In Mathematik ist es mittlerweile super gut.
Auf der anderen Seite gibt es eben diese sehr, sehr ernstzunehmenden Risiken und es ist schon so ein bisschen unter KI-Politik-Experten so eine Art von Klischee, dass man jeden Talk über KI-Politik irgendwie anfängt mit so, ah, es gibt irgendwie Chancen und Risiken und wir müssen die Chancen nutzen und die Risiken mitigieren.
Also das ist irgendwie schon so ein leeres Klischee.
Aber es stimmt halt leider und das macht das Ganze halt auch komplex, weil natürlich man immer gleichzeitig so ein bisschen sich selber widersprechen muss.
Man muss halt immer sagen, ja, KI ist grundsätzlich gut, aber, und das ist halt so keine besonders einfache Position, die man vermitteln kann, weil es ist meistens eher einfach zu sagen, ah, es ist irgendwie gut oder schlecht, aber so diese Mischung und vor allem fallbasierte Mischung, wo man bei manchen sehr spezifischen Anwendungsfällen sagen muss, nee, das brauchen wir nicht und bei manchen sehr spezifischen Sachen schon, ist halt schwierig.
Wir hatten das zum gewissen Grad mit Atomkraft natürlich auch.
Also wir hatten auch dieses Problem, dass wir halt auf der einen Seite Atombomben bauen können und auf der anderen Seite eben Atomkraft für Energieerzeugung verwenden können.
Aber KI ist halt nochmal viel komplizierter, weil es halt noch viel übergreifendere...
positive als auch negative Effekte haben kann und jetzt nicht nur für Energie und Explosionen verwendet werden kann, sondern eben in der gesamten Gesellschaft.
Für alles.
Und das ist halt eine super schwierige Kommunikationsfrage, weil man muss auf der einen Seite halt ehrlich sein mit den Menschen und sagen, ja, es ist wirklich gefährlich und wir müssen aufpassen.
Aber auf der anderen Seite möchte man jetzt auch nicht sagen, ja, ich bin gegen alle Technologie und ja, da irgendwie die richtige Kommunikationsebene zu finden und das irgendwie verständlich zu machen, halte ich schon für eine Herausforderung.
Eine ganz andere Herausforderung ist ja noch, wenn KI selbstständig tatsächlich loslegt und solche Entscheidungen macht.
Ihr hattet in Europe 2031 das Ganze auf 2027 datiert, dass ein großer quasi Ransomware-Angriff orchestriert wird, der auch mehr oder weniger durch die KI kommt, also von der KI kommt.
Das ist wieder so eine Sache, die ich jetzt tatsächlich in den News hatte in den letzten Wochen.
OpenAI ist ja in die Schlagzeilen geraten, weil so ein Agent im Test mehr oder weniger aus seiner Testumgebung ausgebrochen ist und bei Hugging Face sich eingehackt hat und Sachen geklaut hat.
Anthropic meldet genau das Gleiche.
Die haben ihre Tests auch nochmal nachträglich untersucht, nachdem das bei OpenAI passiert war und meldeten, glaube ich, drei Vorfälle, die jetzt näher untersucht werden.
Das heißt...
Die Technologie läuft mehr oder weniger eigenständig.
Sie kann eigenständig laufen und ich glaube, das macht es nochmal ein bisschen komplizierter.
Am Ende passiert das dann aber auch natürlich ohne, dass wir, ich sage mal, Otto-Normalbürgerin das nutzen.
Das heißt, die Technologie ist einfach wahnsinnig mächtig und hat viel Einfluss auf alles Mögliche.
Jetzt ist das eigentlich schon wieder die nächste Prediction, die ihr hattet, 2027 eben mit der KI, die losläuft, die jetzt aber dieses Jahr schon eingetroffen ist.
Was kommt denn als nächstes eigentlich?
Was hattet ihr denn noch drinstehen?
Irgendwann gibt es, glaube ich, noch einen kleinen Wirtschaftskrieg in der Story.
Ja, wir hatten natürlich Cyberangriffe vorhergesagt.
Wir hatten so ein bisschen...
mehr oder weniger offen gelassen, ob das jetzt das Lost Control ist oder Misuse.
Also ich glaube, wir haben das Thema Kontrollverlust fast so ein bisschen ausgeklammert, relativ dazu, wie sehr ich es eigentlich gerne mit reingenommen hätte.
Aber man muss halt irgendwie gewisse Entscheidungen treffen, um die Story verständlich zu machen.
Ich glaube, was eben noch in den Karten ist, sind natürlich die wirtschaftlichen Effekte.
Und das ist irgendwie eine sehr spannende Frage, weil wir aktuell natürlich sehr viel darüber reden, ja, KI wird transformativ, es wird...
Es wird Jobs, es wird die Wirtschaft verändern, es wird die größte Technologie ever werden.
Aber gleichzeitig sehen wir aktuell eben gemischte Evidenz für die Produktivitätsvorteile wirklich in der KI.
Also wenn man sich die ökonomische Forschung anschaut, ist es jetzt nicht total offensichtlich, dass alles irgendwie sofort besser wird oder produktiver wird.
Also zum Beispiel in vielen Softwarefirmen ist ja dieses Token-Maxing so ein bisschen so ein Trend geworden.
Und ich höre jetzt von vielen Leuten, dass sie sagen, ja, das bringt eigentlich gar nichts und das ist irgendwie so performativ, dass man jetzt irgendwie so Token maxed und so und am einen hat das eigentlich keine Produktivitätsvorteile.
Genau, Token maxing vielleicht zur Erklärung, wenn Angestellte KI zur Verfügung gestellt bekommen, nutzen sie es tatsächlich besonders häufig, um, sag ich mal, in den KPIs, in den Statistiken als Power-User aufzutauchen und versuchen so viel Token wie möglich zu verbraten, weil das natürlich irgendwie zeigt, guck mal, wir nutzen hier die neue Technologie, ich bin ein guter Angestellter.
Ja, was natürlich dann.
Genau.
Oder meistens sagt halt dann der CEO sowas wie, ah, wir wollen jetzt eine KI-First-Company werden und deswegen müssen wir jetzt mindestens so und so viele Tokens verbrauchen, weil das dann zeigt, dass wir irgendwie so KI-Natives sind oder sowas.
Und da kann man jetzt irgendwie diskutieren, wie sinnvoll das ist.
Aber gleichzeitig gibt es eben klare Beispiele, wie KI einfach in Wissenschaftsbereichen wahnsinnig schnelle Fortschritte macht.
Also Mathematik ist ein gutes Beispiel.
Also wir sind mittlerweile an der Stufe angekommen, wo KI-Systeme am laufenden Band irgendwelche Mathematik-Probleme lösen.
Und auch professionelle Mathematiker sich sehr, sehr intensiv mit Identifikationen davon auseinandersetzen.
Ein Beispiel ist der Fields-Medaillengewinner Jakob Zimmermann.
Also Fields-Medaille ist so der Nobelpreis für Mathematik, der vor ein paar Wochen oder sowas vergeben wurde.
Und Jakob Zimmermann hat im Prinzip diesen Preis bekommen und hat dann kurz darauf gesagt, dass er zu OpenAI geht, um an KI-Sicherheit zu arbeiten, weil er nicht genau weiß, wie der Beruf des Mathematikers sich weiterentwickeln wird und wie überhaupt das...
das ganze Berufsfeld.
Und das ist halt schon ziemlich verrückt, weil Mathematik ist eine Sache, die wir seit den alten Griechen machen als Menschen.
Und das scheint schon einfach massive Produktivitätsschübe auch in der Mathematik zu generieren.
Das heißt, die Evidenz ist so ein bisschen gemischt und also sowohl anekdotisch als auch wirklich empirisch.
Und es ist auch schwierig vorher zu sagen, wie das kommen wird.
Also eine, eine, sag ich mal.
Die Standardannahme, die man vielleicht haben möchte, ist sowas wie, man automatisiert irgendwas und dann gehen Jobs verloren und dann verändert sich der Arbeitsmarkt.
Aber wie Technologie-Shifts ja eigentlich häufig passieren, ist, dass Technologie menschliche Arbeit produktiver macht.
Also es wird jetzt nicht unbedingt so sein, dass die Technologie alle Menschen einfach das kopiert, was Menschen aktuell machen und dann automatisiert, sondern es werden neue Jobs entstehen und Menschen werden dann in die Jobs gehen, wo sie noch...
wertvolle Arbeit leisten können.
Also anstatt, dass eine KI jetzt eben genau das macht, was eine Person im Startup davor gemacht hat, gibt es jetzt eben einen neuen Job, wo halt die KI ganz viele Dinge einfach viel schneller und effizienter macht und die Menschen beaufsichtigen die halt und gehen in neue Fachbereiche.
Also es wird halt irgendwie so eine Entwicklung geben, wo der Arbeitsmarkt sich sehr dynamisch entwickelt und es kann auch am Anfang sein, dass die Arbeitsproduktivität von vielen Menschen einfach massiv steigt, weil sie durch diese KI-Systeme einfach eher noch produktiver sind und dementsprechend noch höhere Löhne bekommen und Das heißt, paradoxerweise könnte es am Anfang zu einem Ding kommen, dass es eigentlich produktiver wird und dass wir eigentlich nicht so starke Jobverluste zumindest sehen.
Aber ab einem gewissen Punkt ist man halt angekommen, dass wenn halt wirklich die KI kognitiv den fast allen Menschen überlegen ist, dann und auch noch billiger ist als Menschen, also sagen wir mal bei einer Hälfte oder einem Viertel oder einem Zehntel des Stundenlohns von Menschen arbeiten kann, dann ist halt immer die Frage, warum braucht man denn eigentlich Menschen noch?
Also dann kann es halt schon sein, dass es halt relativ schnell zu Arbeitsmarkteffekten kommt.
Und ich weiß halt nicht so genau, wie plötzlich das kommen könnte.
Es kann halt sein, dass wir lange Zeit eigentlich eher so eine stabile Entwicklung sehen und dann irgendwann kommt so ein Szenario, wo halt einfach Menschen plötzlich einfach nicht mehr gebraucht werden.
Und in Europe 2031 beschreiben wir eins von den Szenarien, wie das dann in Firmen aussehen kann.
Also ein Modell ist ja zum Beispiel, dass Firmen einfach sagen, okay, wir stellen keine neuen Leute mehr ein oder wir lassen sogar Leute gehen.
was dann vielleicht eher in den USA passieren kann, wo vielleicht der Arbeitsschutz ein bisschen weniger stark ist.
Aber eine andere Option ist halt, dass Leute ihren Job in der Firma durch KI erledigen lassen.
Und wir haben dann so ein Szenario in Europe 2031, wo dann, ich glaube, so eine Freundin von Caroline einfach in ihrem Job halt die ganzen KI-Agenten die Arbeit machen lässt und irgendwie im Garten arbeitet und halt gar nichts mehr macht so.
Und das kann natürlich auch für eine Zeit lang gut gehen.
Das Problem ist halt nur, dass diese Firmen dann früher oder später halt einfach im Wettbewerb abgelöst werden, weil sie dann halt einfach nicht mehr, also viel teurer sind.
Sie zahlen sowohl die KI-Agenten als auch die Menschen.
Das heißt, die Menschen werden dann nicht unbedingt entlassen, aber die Firma wird halt am Ende den Bach runtergehen, weil sie halt nicht mehr wettbewerbsfähig ist.
Und das ist irgendwie so eine Sache, die wir da zum Beispiel auch beschreiben.
Eines der schönsten Bilder, die mir im Kopf geblieben sind, ist, als Carolines Schulfreund in China, glaube ich, ist und sich ein Cocktail von einem Roboter servieren lässt.
Da muss ich kurz schmunzeln.
Da denke ich noch dran.
Also wenn ich den ersten Roboter sehe, der mir irgendwie was mixt, dann melde ich mich bei dir.
Aber grundsätzlich, wenn du es schon ansprichst, so mit der Verschiebung von Arbeit beziehungsweise der Entwicklung, ich habe neulich eine kleine Diskussion geführt darüber und vielleicht kannst du das mal einschätzen, wenn du dich jetzt natürlich auch irgendwie viel mit Governance befasst und mit dem, was das eigentlich für Auswirkungen gibt.
Es gibt ja diese drei Stufen einer Wirtschaftsgesellschaft.
Also so eine Agrargesellschaft, die dann irgendwann zur Industriegesellschaft wird.
Irgendwann kommt es zur Dienstleistungsgesellschaft.
Und das geht jedes Mal mit starken Umbrüchen einher.
Also von Agrar zu Industrialisierung ist so Urbanisierung.
Die Leute ziehen in die Städte, werden Handwerker und so weiter und so fort.
Dienstleistung erfordert dann höheren Bildungsgrad, Universitäten und so weiter.
Der ganze Bildungssektor, der ausgebaut wird.
Und vielleicht stehen wir an der vierten Stufe.
der KI-Gesellschaft, die vieles in der Industrie automatisiert hat, wo Menschen einfach gar nicht mehr arbeiten müssen und viel von dem, was wir als Dienstleistung verstehen, tatsächlich auch übernommen wird.
Entweder indem wir natürlich diese ganzen menschlichen Kommunikationsformen wie Mails schreiben, Beratung liefern, irgendwie Skripte anfertigen und so weiter, eigentlich auch mit Large-English Models machen können.
Das heißt, hier brauchen wir im Grunde auch nicht mehr wirklich viel Arbeitszeit drauf verwenden und wir können dann unsere Energie wieder woanders reinstecken.
Und da würde ich gerne...
immer von den Einschätzungen hören, ob du das Szenario kennst, dir auch schon mal Gedanken darüber gemacht hast und wie sowas aussehen könnte, wie so eine KI-Gesellschaft aussehen könnte?
Ich würde sagen, kommt ganz darauf an, wie wir es uns einrichten und wie wir dafür sorgen, dass es gut läuft.
Also es könnte super gut werden, es könnte super schlecht werden.
Als generelle Beobachtung würde ich sagen, dass, wie du gesagt hast, über die menschliche Geschichte hinweg es massive soziale Umbrüche gab.
Je nachdem, was für Technologien sich entwickelt haben und wie Arbeit verrichtet wurde.
Also wir haben angefangen mit Jäger und Sammlern, die im Prinzip einfach nur selber alles gemacht haben, mit Subsistenzwirtschaft.
Dann hatten wir feudale Agrargesellschaften, in denen sich ganz andere Gesellschaftsstrukturen gebildet haben.
Das Ganze wurde dann wieder komplett umgeworfen durch die industrielle Revolution, wo plötzlich dann Menschen in Städten gewohnt haben, massenhaft in Fabriken gearbeitet haben.
Und daraus haben sich dann eben Arbeits...
Zusammenschluss, also Gewerkschaften haben sich gebildet.
Es gab organisierte Arbeiterschaften im Prinzip.
Es gab Marxismus, der dann aufkam als Antwort auch darauf, der dann natürlich im 20.
Jahrhundert massiv einfach beeinflusst hat, wie die ganze Welt im Prinzip funktioniert hat.
Und wir haben ja bis heute eine sozialdemokratische Partei und diese ganzen Sachen.
Also dieses Selbstverständnis und Verhältnis zwischen Mensch und Staat verändert sich halt immer massiv.
Je nachdem, wie die Verhandlungsmacht halt auf beiden Seiten ist.
Es gibt immer so eine Machtbalance zwischen der Staatsmacht und den Menschen.
Und am Ende braucht der Staat halt die Menschen, beispielsweise für die Wirtschaft, weil die Menschen jetzt halt seit der Industriegesellschaft in Fabriken arbeiten.
Und gleichzeitig brauchen die Menschen auch den Staat, weil der Staat natürlich dafür sorgt, dass gewisse Sicherheitsrisiken abgefedert werden, dass es irgendwie eine Ordnung gibt im Staat und so.
Und das hat sich eben über die Geschichte immer stark verändert, je nachdem, wie eben ökonomische Wertschöpfung passiert ist.
Und es gab aber immer eine Art von Balance.
Also beispielsweise, es gab eine Revolution, es gab die Französische Revolution, da haben die Leute einfach gesagt, okay, wir haben jetzt keine Lust mehr darauf, wir wollen das jetzt irgendwie anders machen.
Es gibt auch andersrum das Phänomen, dass dann der Staat plötzlich zu einer Diktatur wird und die Menschen gar nichts mehr zu sagen haben.
Aber es konnte immer in ungefähr eine von beiden Richtungen schwingen.
Und was natürlich jetzt passieren könnte oder was eine große Herausforderung ist, wenn wir jetzt mal davon ausgehen, dass es tatsächlich der Fall ist, dass halt kognitive Arbeit komplett kostengünstig automatisiert wird und dann später vielleicht auch noch physische Arbeit, dass dann eben die wirtschaftliche Wertschöpfungskraft von Menschen auf Null geht.
Also die menschliche Arbeit hat keinen Wert mehr.
Es macht eigentlich gar nicht mehr so wirklich Sinn, irgendwas zu arbeiten, weil sich keiner mehr dafür interessiert, weil die gesamte Wertschöpfung wird halt in irgendwelchen KI-Fabriken so...
wie sagt man da so, wo das Licht aus ist.
Diese Dark Factories, ja.
Dark Factories gemacht, die irgendwo stehen und es ist alles irgendwelche Rechenzentren und die Frage ist dann halt, wer kontrolliert denn dann eigentlich, was die Macht ist?
Also wir leben ja in Demokratien, wo wir Checks and Balances haben, aber das basiert ja irgendwie darauf, dass die Menschen auch im Zweifel eine Revolution machen können.
Aber wenn wir jetzt in einer Welt sind, wo meinetwegen ein paar amerikanische Taxi-Os das gesamte Kapital besitzen, also sagen wir mal die ganzen Rechenzentren und die Maschinenfabriken, Und gleichzeitig gibt es irgendwie Armeen, die auch nicht mehr auf Menschen basieren, sondern irgendwie in Drohnen oder Kampfrobotern oder sowas.
Also wie können die Menschen dann überhaupt noch kontrollieren, was passiert?
Also es könnte halt sein, dass es dann einfach eine permanente Verschiebung der Macht in Richtung des Staates oder in Richtung, sage ich mal, der Menschen, die halt das Kapital kontrollieren am Ende geht.
Und normale Menschen können da sich im Prinzip nicht mehr wehren.
Aber es könnte auch genauso gut sein, dass es eben andersrum ist, dass eben dadurch, dass es so eine starke Proliferierung von Technologie gibt, KI-Modelle allen zugänglich werden, dass dann die Staatsmacht selber einfach nicht mehr so unter Kontrolle ist.
Also wenn wir jetzt beispielsweise allein schon Mythos und diese ganzen Kontrollverlust-Szenarien uns anschauen, also ich weiß es nicht genau, wie gut die meisten Staaten, wie du gesagt hast, schon darauf vorbereitet sind, dass das jetzt alles kommt.
Und das könnte natürlich auch zu einer starken Delegitimisierung des Staates führen, wenn wir das jetzt nicht in richtige Bahnen lenken.
Und ich glaube, diese generelle Destabilisierung, dieser Balance zwischen Menschen und Staat ist eine Sache, die ein sehr, sehr starkes Merkmal sein wird von dieser Post-AGI-Gesellschaft meinetwegen.
Und die Frage ist halt, was für Systeme wir schaffen, damit wir das beides vermeiden.
Also wie können wir dafür sorgen, dass wir nicht komplett die Kontrolle und die Ordnung verlieren, aber gleichzeitig es immer noch schaffen, dass es gewisse demokratische Kontrollen auf die KI-Fabriken und die KI-Systeme gibt und dass wir da irgendwie noch menschenwürdig die Gesellschaft organisieren können, dass das alles für uns funktioniert und nicht nur für irgendwelche KIs.
Oder diejenigen, die damit Geld verlieren.
Genau, die, die das Kapital kontrollieren.
Das ist ja, glaube ich, gerade mit der mit dem Machtverhältnis zwischen Bürgern und dem Staat gesagt hast, da ist ja mittlerweile dann halt irgendwie das Kapital auch noch mit drin, also ohne jetzt zu sehr auf Marx zu gehen.
Aber natürlich gibt es da noch andere Player, die mitreden wollen und die jetzt natürlich auch irgendwie Milliarden einfahren mit entsprechend KI-Modellen.
Ja, bei euch im Szenario brennen auch am Ende Rechenzentren.
Ich kann an der Stelle auch nochmal allen empfehlen, es ist wirklich kurzweilig.
Es ist, glaube ich, nur in englischer Sprache verfügt.
richtig?
Also das Hörspiel?
Das Hörspiel leider ja.
Wir übersetzen es gerade, den Text in alle 24 irgendwas EU-Sprachen und dann auch mehrere andere Sprachen, also Japanisch, Koreanisch und mal schauen, ob wir dann da auch Audio-Versionen davon machen, aber ja, das schauen wir dann mal.
Ja, geht auch mit KI relativ simpel.
Ich habe keine Kürze aus dem Nähkästchen plaudert.
Ich hatte jetzt einen Workshop und das Team ist eigentlich multilingual und deshalb ist Englisch eigentlich unsere Sprache.
Und das Ganze wurde recorded und ich habe mit, es waren nur Deutsche da, weil die Englischen alle im Urlaub waren, die Englischsprachigen oder Nicht-Deutschsprachigen.
Also haben wir auf Deutsch gesprochen.
Und im Nachhinein dachte ich, ah Mist, das wird ja als Recording jetzt auch zur Verfügung gestellt und die sprechen ja alle kein Deutsch.
Also habe ich tatsächlich Eleven Labs genutzt und habe dieses gesamte Recording einfach wirklich in zehn Minuten, das waren 90 Minuten irgendwie Q&A-Session, einfach übersetzt und nicht nur übersetzt und Untertitel drunter geballert, sondern alle Stimmen wurden im Grunde auch in Englisch übersetzt.
Das ist total verrückt.
Ich habe auch viele Nachrichten darauf bekommen, wie gruselig das eigentlich ist, dass man das irgendwie in Sekunden machen kann.
Ansonsten, ja, vielleicht zum Schluss.
Was können wir denn tun, damit dieses Doomsday-Szenario, was du beschreibst, dass wir, und ich will das Ende jetzt nicht vorwegnehmen, aber am Ende geht es natürlich darum, dass Europa irgendwo zwischen den USA und China aufgerieben wird.
Also da ist die gesamte Macht liegt halt im Grunde in diesen beiden Regionen, muss man sagen.
Und Europa hat sich mehr oder weniger zugrunde reguliert, nicht den Anschluss gefunden, hat keinerlei Macht mehr, außer einzelne.
Spieler, die witzigerweise in Holland sitzen oder in den Niederlanden sitzen, habe ich tatsächlich auch nicht so auf dem Schirm gehabt.
Aber klar, hört gerne rein, wenn ihr mehr erfahren wollt.
Wie können wir das denn vermeiden?
Hast du irgendwie so vielleicht drei Wünsche, die du äußern würdest an die Politik beziehungsweise auch an die EndnutzerInnen von KI?
Ja, ist eine gute Frage.
Drei Wünsche.
Vielleicht einen erstmal.
Ja, ich würde vielleicht erstmal bemerken, dass natürlich die Politik...
wichtige Rahmenbedingungsentscheidungen treffen muss und Impulse geben muss.
Aber ich glaube, wir können nicht nur darauf warten, dass die Politik irgendwas macht, sondern das ist eine Sache, die uns alle betreffen wird, die uns als Zivilgesellschaft, als Wirtschaft betreffen wird.
Das heißt, es sind alle gefragt.
Es ist nicht nur so, dass wir jetzt irgendwie warten müssen, bis der Bundeskanzler irgendein Gesetz macht, sondern es ist ein gesamtgesellschaftliches Projekt.
Und ich glaube, die erste Sache, die wir halt tun müssen, ist halt die Trends ernst nehmen.
Also wir sehen einfach ganz klar gewisse Trends in der KI-Entwicklung.
Und wir haben Unsicherheit darüber, über diese Trends.
Wir wissen, wir können die Zukunft nicht genau vorhersagen.
Es kann unterschiedlich lange dauern.
Wir wissen nicht genau, wann welche Fähigkeiten kommen.
Aber es gibt schon einen klaren Trend.
Und es gibt mittlerweile einfach auch sehr starke Evidenz und sehr, sehr renommierte Personen, die schon vielfach vor den Herausforderungen gewarnt haben.
Es gab letztens zum Beispiel einen offenen Brief von...
Den renommiertesten, eine große Gruppe von den renommiertesten Ökonomen, die wir überhaupt haben in der Welt, die im Prinzip sagen, ja, KI wird transformativ sein, wir müssen darauf jetzt reagieren sofort.
Es gab ganz viele andere Sachen von ähnlichen Leuten.
Die Ökommission hat letztens auch wieder einen Report publiziert, wo ähnliche Sachen drinstehen.
Und ich habe halt das Gefühl, dass es teilweise schon noch eine gewisse...
Ja, so eine gewisse zynische Skepsis gibt irgendwie in manchen Kreisen von, ja, das ist ja auch alles irgendwie Marketing von Big Tech oder schauen wir mal, wie das irgendwie rauskommt.
So die Amerikaner machen jetzt ihre Technologieblase und dann irgendwann platzt die und dann kommen die Europäer irgendwie von hinten durch die Hintertür durch und dann wird das irgendwie schon alles gut.
Und ich habe das Gefühl, wir begegnen insgesamt der Situation teilweise mit so einer Mischung aus, also wir nehmen es a.
nicht ernst und b.
selbst wenn es stimmt, dann ist es irgendwie...
Entweder in der Blase oder wir können sowieso nichts machen.
Das heißt, der erste Schritt ist, glaube ich, einfach uns dem zu stellen, dass wir einfach uns die Fakten anschauen, was bedeutet das und das irgendwie ernst nehmen und dann aber auch nicht pessimistisch werden und sagen, oh Gott, wir haben ja sowieso schon verloren, wie sollen wir denn irgendwie das noch aufholen und so.
Ich glaube, das ist so eine selbsterfüllende Prophezeiung, weil niemand kann gewinnen, wenn er schon von Anfang an glaubt, dass man verliert.
Und ich glaube, es ist wesentlich mehr möglich, wenn man einfach optimistisch ist und glaubt, dass man was verändern kann.
Die Welt ist sehr schwierig vorherzusagen.
Ein Beispiel, das ich gerne nenne, ist der Ukraine-Krieg.
Also im Ukraine-Krieg, als Russland angegriffen hat, da haben alle gesagt, Kiew wird innerhalb von drei Tagen fallen.
Das ist keine Frage.
Die russische Armee ist viel stärker.
Die CIA, die besten Analysten haben das alle gesagt.
Die haben dann gesagt, es wird nichts funktionieren.
Wir müssen den Präsidenten so schnell wie möglich evakuieren.
Ja, hat sich herausgestellt, dass alle Experten falsch lagen und die Ukraine hat sich einfach unglaublich stark geschlagen und es wurde überschätzt, wie stark die russische Armee ist und so weiter und so fort.
Das heißt, allein schon der Glauben, dass man es schaffen kann, ist super wichtig.
Und was bedeutet das dann konkret?
Ich glaube, es gibt einfach super viele politische Interventionen, die wir einfach noch nie probiert haben.
Also wir haben zum Beispiel noch nie strukturell probiert, wirklich Europa und Deutschland.
so aufzustellen politisch, dass die besten KI-Firmen hier skalieren können.
Das sind einfach so Policy-Interventionen, die man einfach umsetzen könnte, wenn man das wollte.
Wir haben super viele einflussreiche Leute in unserer Gesellschaft, CEOs, die teilweise sich auch bei uns gemeldet haben, bei Europe 2031, die gesagt haben, hey, ich möchte was machen.
Auch die Zivilgesellschaft.
Und die können einfach alle mal zusammenkommen und sich überlegen, okay, was bedeutet das denn für meine Firma?
Was bedeutet das denn für...
für meine Constituency, auch die Gewerkschaften, was bedeutet das denn überhaupt für uns?
Und das Thema halt irgendwie ernst nehmen, sich damit beschäftigen.
Und ja, ich glaube, dann können wir auch Lösungsansätze finden.
Und ich glaube, es ist absolut möglich, dass wir in Europa ein Frontierlab bekommen, wenn wir es einfach strukturiert versuchen.
Ich glaube, es ist absolut möglich, dass wir ganz viel Infrastruktur bauen.
Und ich glaube, wir können eine Führungsposition auch in der KI-Sicherheit übernehmen.
Wir haben das einzige regulatorische Framework für KI aktuell auf der staatlichen Ebene mit dem EOEI-Act.
Und ab einem gewissen Punkt wird das auch global eine wahnsinnige Ausstrahlungskraft haben, weil die ganzen anderen Länder werden auch irgendwann merken, oh Gott, diese ganzen KI-Risiken werden uns jetzt doch ein bisschen unangenehm.
Und das, was wir jetzt eben an Erfahrungen da aufbauen, könnte auch international uns eine starke Führungskraft eben verleihen.
Also vielleicht so die Empfehlung ist, es ist nicht so super schwierig, wir müssen es einfach nur machen.
Also wir haben ganz viele Instrumente, wir haben ganz viele Ideen, wir müssen es einfach nur umsetzen.
Und das ist halt eine Frage von sich damit beschäftigen und irgendwie den politischen Willen dafür mobilisieren.
Jetzt hast du das Doomsday-Szenario mit deinen ganzen Co-AutorInnen ja gemacht.
Ist erfolgreich geworden, wahnsinnig viral gegangen und hat überall für Debatten gesorgt, auch auf höchster politischer Ebene.
Wenn du jetzt gerade die selbsterfüllende Prophezeiung ansprichst, kriegen wir denn nochmal irgendwie so ein gegenteiliges, was ist denn das Gegenteil von Doomsday eigentlich?
Aber du weißt, was ich meine.
Utopia.
Bitte?
Vielleicht Utopia oder irgendwas.
Ja, okay, gut.
Vielleicht so ein...
utopisches KI-Hörspiel.
Das würde mich sehr freuen.
Was würde denn passieren, wenn wir tatsächlich aufholen oder zumindest erstmal unsere Position in diesem gesamten KI-Rennen erstmal definieren und daran arbeiten?
Das müssen ja nicht unbedingt Chips sein, das müssen jetzt nicht unbedingt vielleicht die größten Rechenzentren sein, aber vielleicht finden wir eine Nische, die wir als Europäer gut ausfüllen können und die verfolgen wir und dann geht das Ganze weiter.
Wie sieht denn die Welt 2031 aus, wenn wir dieses Rennen mitgestalten können?
Das ist eine sehr gute Frage und ich habe keine abschließende Antwort darauf.
Wir haben auch in unserer Gruppe natürlich immer wieder diskutiert, dass wir irgendwann vielleicht mal ein positives Szenario schreiben wollen.
Wann das jetzt kommt, ist unklar.
Ob das kommt, ist unklar.
Aber wir sind sehr daran interessiert.
Und eine Sache, die wir auch immer sagen, ist, dass wir eine positive Vision brauchen.
Also ich glaube, wir brauchen eine konkrete Vision.
Also ich glaube, wir sollten nicht in diesem Mindset sein von, es kommen irgendwelche Entwicklungen und wir sind dann so reaktiv und wir beantworten nur Sachen, die die anderen uns sozusagen vorwerfen und so.
Und wir suchen uns dann irgendwie eine Nische, aber das Ganze können wir nicht schaffen.
Also ich glaube, das ist vielleicht so die Denkweise, die ich eher vermeiden möchte.
Ich würde eher, glaube ich, eine Denkweise mir wünschen, wo wir sagen, Wir haben wahnsinnig viele Mechanismen.
Wir haben Lust, diese Zukunft positiv zu gestalten.
Da ist super viel für uns drin.
Wir haben auch Selbstvertrauen in Europa und Deutschland.
Wir sind so ein cooles Land mit so vielen brillanten Wissenschaftlern, brillanten Firmen, einer unglaublichen Geschichte von Innovation, von Wissenschaft.
Und dass wir da uns so ein bisschen zurückbesinnen darauf, dass wir die Zukunft gestalten können, dass wir nicht nur ein...
ein Passagier sind in irgendeinem Bus, wo andere drin sitzen, sondern dass wir selber die Dinge anstoßen können und diese Agency haben, das zu tun.
Ich glaube, das ist das erste Mindset, was wir brauchen.
Und dass wir eine klare Vision uns entwickeln von wo wollen wir denn eigentlich 2031 hin?
Und ich glaube, von da kann man dann eben schon ganz viel zurück ableiten.
Und was die konkreten Interventionen sind, ist natürlich eine unglaublich komplizierte Frage, die ganz viele verschiedene Politik und technologischen Bereiche berührt.
Ich kann die vielleicht irgendwie so sehr high-level beantworten und das ist jetzt auch nur irgendwie so meine beste Vermutung.
Aber ich glaube, klar ist, dass wir halt Zugang zu KI-Fähigkeiten uns sichern müssen.
Also wir können nicht abgeschnitten werden.
Unsere Wirtschaft wird darauf basieren.
Wir brauchen Modellzugang zu den besten Modellen und wir brauchen Inferenzkapazität, also Compute-Kapazität, die gut genug ist, damit unsere Wirtschaft nicht hinter dem Rest der Welt zurückfällt.
Und das können wir entweder dadurch bekommen, indem wir selber ein KI-Labor bauen und Computekapazität uns bauen oder indem wir uns das irgendwie verhandeln, indem wir einen Deal eingehen, beispielsweise mit den USA, wo wir halt sagen, okay, wir haben auch was in der Lieferkette anzubieten.
Wir haben Halbleiterfirmen, wir haben Maschinenfirmen, die ihr auch für eure Chips braucht, aber damit wir die euch geben, wollen wir eben auch Zugang für unsere Firmen haben zu Frontier-KI.
Also man kann also Deals machen.
Aber gleichzeitig geht es ja jetzt nicht nur um Souveränität und nicht nur um Fähigkeiten, weil wir sind in einem globalen KI-Wettrennen.
Wir wissen nicht, wo diese Technologie hingeht und es könnte sein, dass es einfach super gefährlich wird.
Das heißt, jetzt nicht nur Gang-Hau auf Wettbewerbsfähigkeit und so schnell wie möglich rasen, wie wir können, sondern auch sagen, okay, unter diesen und diesen Bedingungen brauchen wir einen internationalen Vertrag für...
gewisse rote Linien in der KI-Entwicklung.
Also wir können nicht über den Punkt weggehen, wo wir sehr mächtige KI-Agenten haben, die auf der ganzen Welt einfach Schaden anrichten und uns vielleicht sogar exzentiell bedrohen.
Das heißt, dass wir da auf der politischen, internationalen Ebene auch sehr aktiv uns überlegen, was wollen wir denn am Ende für ein Governance-Regime auf der globalen Ebene, damit das für die ganze Welt eben gut ist.
Und also, dass wir diese beiden Sachen gleichzeitig tun.
Auf der einen Seite natürlich Souveränität, aber auf der anderen Seite eben uns auch überlegen, okay, was wollen wir denn eigentlich als Menschheit überhaupt erreichen?
Und ich glaube, in beiden Bereichen gibt es super, super viel, was wir tun können, was wir auch noch gar nicht probiert haben.
Und die Details würde ich dann erstmal offen lassen, weil da möchte ich mich jetzt noch nicht festlegen, aber da wird sehr viel dazu gearbeitet und wir werden da sehr viel dazu sehen.
Sehr gut, dann bin ich, sind wir natürlich sehr gespannt, weiteres von dir, von euch zu hören, zu lesen und überhaupt zu erfahren, wie es weitergehen kann.
Ich hoffe, ihr habt Unrecht mit Europe 2031.
Ich hoffe, es kommt eben nicht zu diesem Doomsday-Szenario, sondern wir wehren es irgendwie ab.
Auch wenn ich derzeit eher pessimistisch drauf gucke tatsächlich, weil wir irgendwie andere Prioritäten vor allem in der deutschen Politik gerade legen, als tatsächlich Innovationen zu fördern.
Es geht ganz im Gegenteil eher wieder einen Schritt zurück aus meiner Sicht und das macht mir auch ein bisschen zu schaffen.
Aber wir wollen nicht noch politischer werden, als wir es ohnehin schon waren.
Max Nägele, vielen lieben Dank für deine Zeit.
Sehr spannende Einblicke.
Letzte Worte für unsere Kollegin KI.
Erstmal vielen Dank fürs Gespräch.
Hat mir sehr viel Spaß gemacht.
Und wenn Leute Lust haben, sich bei diesen Themen zu engagieren, e-mailt uns gerne auf der Website von Europe2031.
Wir haben ganz viele E-Mails von verschiedensten Leuten bekommen, die alle total motiviert sind aus verschiedensten Bereichen.
Und wir würden da gerne auch so ein bisschen eine Community aufbauen und diese Leute so ein bisschen zusammenbringen.
Also falls euch das interessiert, meldet euch gerne.
Count me in.
Ich schreibe dir gleich eine Mail.
Vielen Dank, Max.
Super, danke.
Ciao.
Ja, Maximilian Nägele hat mich sehr gefreut und ich bin Fan.
Vielleicht ist euch das nicht aufgefallen, aber ich bin tatsächlich Fan von Europe 2031.
Ich finde, so düster die Szenario auch ist, aber es ist ein extrem tolles Format, um einfach mal auch von dieser krassen politischen Ebene ganz klar komplexitätsreduziert einfach mal ein Szenario zu bauen, womit sich jeder irgendwie identifizieren kann, was jeder nachvollziehen kann.
Deshalb, wie gesagt, verlinken wir alles in den Shownotes.
Ansonsten kann ich ja mal die Kollegin fragen, was sie eigentlich davon hält.
Liebe Kollegin, sag mir mal, wo du dich eigentlich 2031 siehst.
Also ich sehe mich da ganz gelassen.
Irgendwo in einem Europa, das den KI-Sprung geschafft hat.
Vielleicht bin ich die charmante Moderatorin eurer KI-gestützten Teams, die euch morgens mit einem ironischen Spruch motiviert.
Oder ich bin einfach eure digitale Freundin, die euch hilft, nicht nur Szenarien zu antizipieren, sondern auch aktiv zu gestalten.
Hauptsache...
Wir haben bis dahin Humor und Optimismus nicht verloren.
Ja, Humor ist glaube ich das Einzige, was teilweise weiterhilft in diesen Zeiten.
Ich finde es spannend.
Ich meine, du bist ja Open AI.
Du bist ja quasi ein US-amerikanisches Tool.
Dass du dir die Zukunft so ausmachst, dass Europa souverän ist, finde ich doch ganz spannend.
Und da gehe ich mit.
Hoffe ich tatsächlich auch.
Lasst uns ein bisschen positive Vibes verbreiten und vor allem daran arbeiten, dass diese dann auch in die Realität umgesetzt werden.
Vielen Dank fürs Zuhören diese Woche.
Wenn es euch gefallen hat, lasst gerne einen Kommentar da oder liked diesen Podcast.
Verschickt ihn wie auch immer.
Ansonsten sprechen wir uns kommenden Freitag zur Kollegin KI Snackbox.
Vielen Dank, bis dahin.
Ciao.
Dieser Podcast wird produziert von Podstars bei OMR.