# AI Safety Slowdown: Investment Implications

**Podcast:** Beckers Bets
**Published:** 2026-10-01

## Transcript

Risikohinweis.
Die Inhalte dieses Podcasts dienen ausschließlich der allgemeinen Information und sind zum einen ohne Gewehr und zum anderen keine Empfehlung zum Kauf oder Verkauf bestimmter Finanzinstrumente.
Es handelt sich hierbei nicht um Anlagevermittlung, Anlageberatung oder ähnliches.
Ihr entscheidet selbst, was ihr macht.
Bekkers Betz, der Investment-Podcast mit Jan Beckers.
Hallo Jan.
Hallo Christoph.
Ja, letzte Woche haben wir gesprochen über Anthropic und den angekündigten Börsengang, der jetzt so ein bisschen verschoben wurde im letzten Monat, in den Wochen nach unserem Gespräch.
Aber nicht nur die Verschiebung, sondern eine andere Äußerung vom Anthropic-Chef Dario Amodei sorgt hier für Aufsehen, denn er fordert die ganze Branche auf, das Tempo bei der KI-Entwicklung zu drosseln.
Ja, es geht um Schäden im Bereich von hunderten Milliarden Dollar und auch um Menschenleben, hat er gewarnt.
Wie gefährlich ist die rasante Entwicklung von KI?
Das wollen wir gleich von zwei Seiten betrachten heute.
Einmal aus Investorensicht, das werden wir gleich hier besprechen, und aber auch aus Sicht deiner Stiftung, die eben vor KI-Risiken schützen soll.
Und die wird geleitet von deiner Schwester Lisa, die auch heute hier mit dabei ist.
Hallo Lisa, schön, dass du da bist.
Hallo Christoph, vielen Dank für die Einladung.
Wir fangen an mit der Investmentseite.
Jan, es gab ja zum Vorstoß von Amodey auch Zustimmung von Sam Altman und von Elon Musk.
Und gerade Musk hat ja sogar in der Vergangenheit schon häufiger gewarnt, dass niemand so viel Macht haben sollte, auf KI zuzugreifen, eine einzelne Person zumindest.
Was war dein erster Gedanke, als du jetzt diese drei gebündelten Stimmen zu dem Thema gehört hast?
Ja, Sie haben recht.
AI-Safety ist ein extrem wichtiges Thema, was in den nächsten Jahren...
für die Menschheit insgesamt eine sehr große Rolle spielen wird.
Und insofern freue ich mich, dass bei diesem Thema zumindest dann kurz mal Einigkeit herrschte und eben drei der wichtigsten AI-Vordenker Amerikas dort sich insofern einig waren, als dass einfach bei der Entwicklung neuester Frontier-Modelle eben künftig mehr Vorsicht an den Tag gelegt werden soll.
Und das ist auf jeden Fall bei aller Komplexität so eine Entscheidung, insbesondere natürlich auch geopolitischer Überlegungen, aber erstmal die richtige Richtung.
Insofern fand ich das gut, dass es dort Einigkeit zwischen den dreien zumindest mal auf Ex gab.
Gibt es eigentlich einen konkreten Anlass?
Vielleicht haben es viele unserer Hörer auch mitbekommen.
Es gab ja den Vorfall, bei dem OpenAI-Agenten in einem Testlauf eigenständig in fremde Systeme eingedrungen sind.
War das so der Auslöser oder gab es andere Auslöser oder war es einfach generell eine Warnung?
Also es gab eigentlich in den letzten Monaten sehr viele Vorfälle, die insgesamt das Thema...
zu einem bedeutenderen, viel zentraleren Thema auch letzten Endes in den Medien gemacht haben.
Es gab beispielsweise den Vorfall, bei dem Hugging Face gehackt wurde, der relativ große weltweite Pressebedeutung erlangt hat, weil dort einfach mehrere hundert Agenten sich untereinander abgesprochen und koordiniert haben, um eben an der Stelle aus einer Sicherheits-Sandbox bei OpenAI auszubrechen mit damals noch nicht verheerenden Konsequenzen in Summe, aber eben schon mit dem aufgezeigten Ergebnis, dass das, was eben unter AI-Sicherheitsforschern vor vielen Jahren schon als eine sehr, sehr große Gefahr diskutiert wurde, nämlich eben, dass AI-Agenten sich der menschlichen Kontrolle entziehen könnten, jetzt eben aus, ich sag mal, kühnen Zukunftsgedanken eben voll in der Realität gelandet ist.
Und von dieser Art von Vorfällen gab es eben zuletzt, muss man sagen, eine ganze Reihe.
Und deswegen schlagen eben auch die CEOs der AI Labs Alarm, die ja erst mal kommerziell, ich sag mal, nicht unbedingt ein Interesse haben, gerade wenn man sein LPO vor den Augen hat.
dort vor allen Dingen die Bremser zu sein.
Und auch das sollte uns an der Stelle zu denken geben.
Wenn wir schon bei der Investmentseite sind, und weil es ganz gut passt in unserer letzten Folge, es gibt recht aktuell einen Reuters-Bericht, der hat schon die ersten Zahlen aus dem Börsenprospekt von Anthropic.
Darin steht 2025 rund 4,6 Milliarden Dollar Umsatz.
Das war eine Verzwölffachung, operativ aber über 8 Milliarden Dollar Verlust, vor allem natürlich wegen der teuren Rechenleistung, die man bezahlen muss.
Trotzdem mal gefragt zum Geschäftsmodell.
Wenn jetzt ausgerechnet so ein Konzern wie Anthropic langsamer machen soll, macht so ein Slowdown dann im Geschäftsmodell, das komplett auf Wachstum gebaut ist, nicht Probleme?
Es geht ja nur darum, dass an der Frontier insgesamt Modelle vorsichtiger entwickelt werden.
Die Modelle, die jetzt von Anthropic bereits veröffentlicht sind.
sind weiterhin so gut, dass auf Jahre noch erstmal damit zusätzliche Produktivität in der Wirtschaft realisiert werden könnte.
Das relevantere Thema ist aber natürlich, gelingt es Antrofic weiterhin vor den Wettbewerbern zu bleiben, weiterhin einen Vorsprung zu behalten.
Und deswegen appellieren sie ja auch an die Politik zu sagen, es bringt nichts, wenn wir jetzt nur als Einzige, Sagen, hey, wir verlangsamen jetzt unseren Fortschritt, weil dann wird anderswo eben mit gleicher Geschwindigkeit weiter geforscht und dann treten dort eben die Risiken auf und vielleicht eben bei Anbietern, die weniger vorsichtig sind als wir.
Das ist ja so ein bisschen im Kern einer der Appelle, warum Antorfic insbesondere, aber auch andere Anbieter sich eben dafür aussprechen, okay, es muss zentrale regulierte Standards geben.
Und es soll eben einfach auch unabhängige Institutionen geben, die die Einhaltung dieser Standards überwachen.
Das heißt, so ein Slowdown, in Anführungszeichen, würde jetzt auch für die Bewertung und Gewinnaussichten der Branche keine Änderung mit sich bringen für dich?
Also ich würde nicht sagen, dass es keine Änderung mit sich bringt.
Uns als langfristigen Investoren ist es aber viel lieber, wenn die Branche weiterhin in ordentlicher.
Geschwindigkeit weiter forscht, aber eben nicht in katastrophaler Geschwindigkeit.
Wir wollen nicht, dass es hier den großen, ich sag mal, sich überschlagenen Crash gibt.
Wenn du irgendwo mit einem Auto, ich sag mal, zügig ankommen willst, dann ist es meistens besser, als wenn du versuchst, maximale Geschwindigkeit in jeder Kurve zu nehmen, weil irgendwann wirst du rausfliegen.
Und das ist...
Am Ende aus unserer Sicht bei einem so entscheidenden Thema wie AI-Sicherheit definitiv der richtige Weg nach vorne und auch aus einer Investment-Sicht der richtige Weg nach vorne.
Lieber kontrolliertes Wachstum mit soweit möglich eben stattfindenden Sicherheitskontrollen als unkontrolliertes Vorpreschen und dann eben katastrophale Ausfälle, die dann natürlich wiederum nach noch viel drastischeren Maßnahmen rufen.
Insofern wir auch aus Investorensicht begrüßen das.
Das ist weltweit natürlich ein sehr, sehr umstrittenes Thema.
Es gibt natürlich auch vielfältigste andere Meinungen dazu.
Es wird natürlich auch vielfach an Traffic unterstellt.
Das tun die nur aus eigenen geschäftlichen Interessen.
Das sehen wir aber überhaupt nicht so.
Wer sich einmal mit dieser Organisation, auch mit den Leuten dort auseinandergesetzt hat, der weiß, für die ist das Thema AI-Sicherheit.
Eines der zentralen Themen, was dieses Unternehmen auch in der Mission zusammenhält und was dafür sorgt, dass Entroffic beispielsweise von all den Frontier Labs die wenigsten Personalabgänge hat, weil es eben schon ein recht missionsorientiertes Unternehmen in dieser Hinsicht ist.
Du sagst es gerade, es gibt einige Kritiker, die sagen, gut, die Modelle haben so einen großen Vorsprung mittlerweile.
Wenn man jetzt auf die Bremse tritt, dann sind es vor allem die kleinen Herausforderer, die hier darunter leiden und die Macht der Großen wird quasi zementiert.
Sind dann also diese kleinen Anbieter die Verlierer von so einer Entwicklung?
Kann man das einteilen um Gewinner und Verlierer?
Es ist schwierig, das so sehr in schwarz oder weiß an der Stelle einzuteilen, weil wenn du jetzt sagst, okay, du machst genau an der Frontier, also dort, wo du ganz vorne bist in der Forschung, agierst du vorsichtiger.
Dann heißt das nicht, dass jemand, der jetzt den weit hinterher hängt, seine Forschung nicht mehr weiter treiben kann.
Es ist glaube ich vor allen Dingen so, dass es darum geht, dass die führenden Anbieter selber und die, die es werden könnten, an der Stelle gemeinsam sich ähnlichen Sicherheitsstandards unterlegen, beispielsweise ähnlich sich, und darum geht es ja, hochqualifizierten Evaluatoren.
die eben beurteilen, ob Modelle sicher genug sind, veröffentlicht zu werden.
Unsere These ist übrigens, dass in Zukunft Modelle natürlich weiterentwickelt werden, auch aus sicherheitspolitischen Interessen der USA.
Dass es aber durchaus eben sein könnte, dass diese Modelle dann nicht immer oder nur mit großem Abstand der Öffentlichkeit zugänglich gemacht werden.
Und das ist natürlich aber auch aus einer europäischen Perspektive potenziell problematisch, wenn wir keine eigenen Modelle haben, die an der Frontier mitspielen oder nicht nah genug dran sind und dann wiederum von diesem Zugang abgeschnitten sind.
Also es ist insgesamt ein hochkomplexes Thema und es ist ein Thema, was auch aus deutscher und europäischer Perspektive viel mehr aufmerksam verdient, sowohl eben von politischer Seite als auch von medialer Seite.
Und das ist aus unserer Sicht ein Thema, was natürlich auch jeden Anleger, aber auch, und dazu werden wir in den nächsten Jahren kommen, jeden Bürger als solches sehr mit beeinflusst.
Und deswegen denken wir es jetzt, ein wichtiger Zeitpunkt eigentlich für alle sich damit auseinanderzusetzen, zu informieren und dort auch dann vernünftige Positionen einzunehmen.
Aus Investorensicht nochmal, ich unterstelle dir jetzt mal, ohne es natürlich konkret zu wissen, dass wenn du eine Entwicklung siehst oder hörst, dass du gleich darüber nachdenkst, gibt es Unternehmen, die davon profitieren können.
Gibt es denn Unternehmen, die von diesem Slowdown auch wirklich als Profiteur hervorgehen können?
Natürlich ist es so, dass ich mich...
Natürlich mit den Chancen von AI auseinandersetze, aber auch mit den Risiken und das natürlich nicht nur im Rahmen der Stiftung, sondern auch mit den Risiken aus einer Investment Sicht.
Und dieses Nachdenken führt natürlich immer wieder zu Gedanken, die dann auch den Weg ins Portfolio finden können.
Jetzt ist es klar, dass ich sag mal bei all den Sicherheitsbedenken, die gerade herrschen, natürlich Cyber Security Unternehmen.
erstmal gute Geschäftsaussichten vor sich haben und dann ist es natürlich vielmehr eine Frage dessen, bei welchen Unternehmen ist eben noch angesichts insgesamt sportlicher Bewertungen der Branche Luft nach oben, wo werden die Zahlen noch unterschätzt, welche dieser Unternehmen würden auch in dem Falle, dass dann etwas passiert und das werden.
Leider sicherlich in den nächsten Jahren noch deutlich größere Sicherheitsvorfälle auf uns zukommen, selbst wenn möglichst vorsichtig weitergeforscht wird, wo es vielleicht genau dann wiederum eine Opportunity ist.
Eine extrem mächtige Technologie mit sehr großen Chancen für die Menschheit, auch mit sehr großen Chancen natürlich für Unternehmen dadurch deutlich produktiver zu werden, aber eben auch mit großen Risiken.
Und je besser das gemanagt wird von den betroffenen Unternehmen, aber auch von Regulierungen, von Regulatoren und von der Gesellschaft, umso besser letzten Endes auch wiederum aus Sicht der Anleger.
Erinnert so ein bisschen an die Bitcoin-Entwicklung, finde ich.
Da haben ja auch viele...
Firmen gerufen, wir wollen eine Regulierung und haben die quasi vorangetrieben, obwohl ja viele Nutzer immer froh waren, dass es keine Regulierung gab.
Aber Investoren haben ja quasi immer darauf gewartet, dass es klare Regeln gibt, an denen Unternehmen sich eben auch entlanghangeln können.
Letzte Frage noch zur Investmentseite, bevor wir danach auf die Stiftung zu sprechen kommen.
Wir haben jetzt bei den Börsengängen ja gesehen, dass OpenAI schon verschoben hat, mindestens aufs nächste Jahr und jetzt eben auch Anthropic ein paar Wochen verschoben hat.
Schließen sich diese Sachen Sicherheit und Börsenpläne gerade so ein bisschen aus?
Also ich würde nicht sagen, dass sie sich ausschließen, das definitiv nicht, weil am Ende ist es extrem wichtig, dass diese Unternehmen AI sicher entwickeln mit oder ohne Börsengang.
Also ich sage mal, Risiken gibt es für diese Unternehmen, wenn sie unsichere AI entwickeln, sowohl.
Mit Börsenlisting oder auch wenn sie weiterhin privat sind.
Es kann aber IPOs an der Stelle komplexer machen, weil man natürlich viel mehr an der Stelle disclosen muss.
Dieses Disclosen, was dann stattfindet, ist es, die Unternehmen aufschreiben.
Ja, es könnte beispielsweise sein, dass wir verklagt werden, wenn unsere AI irgendwelche Vorfälle nach sich zieht, die irgendwo Unternehmen oder Menschen schaden.
Das sind alles Disclosure Practices, die ganz typisch sind für IPOs, aber je mehr und je relevantere und größere Risiken man natürlich in seine Prospekte schreiben muss, das kann dann natürlich auch die Börsenbewertungen und den Appetit der Investoren deutlich verringern.
Hier gehen wir davon aus, dass weiterhin Börsengänge möglich sind, aber dass sie eben mehr Zeit erfordern und dass es natürlich auch durchaus Valuation Abschläge an der Stelle geben kann.
Also jetzt haben wir viel über Risiken gesprochen und genau in der Phase, wo sehr viel über Risiken gesprochen wird, habt ihr was angekündigt.
Du stellst 50 Millionen Euro bereit, um diese Risiken zu begrenzen.
Das Ganze läuft eben über die Stiftung und damit sind wir jetzt wieder bei Lisa.
Lisa, du leitest ja die Global Technology Risk Foundation, kurz GTR Foundation.
Vielleicht kannst du uns mal ganz kurz, bevor wir tiefer einsteigen, vorstellen, was macht die Stiftung denn genau?
Ja, sehr gerne.
Wir suchen letztendlich besondere Talente und junge Organisationen, die sich im Bereich AI Safety engagieren.
Und wir statten die dann aus zum einen mit Kapital, aber wenn Bedarf ist, auch mit Support darüber hinaus, wie beispielsweise Netzwerk oder Operational Support.
Jetzt ist das Thema Risiken ja sehr aktuell, aber die Stiftung gibt es ja schon seit ein paar Jahren.
Wie kamst du denn dazu, schon so früh über das Thema nachzudenken und so eine Stiftung zu gründen?
Also ich hatte schon vor, ich sag mal irgendwann wahrscheinlich so früh 2010er den Gedanken oder die Sorge, dass wenn Technologie immer mächtiger wird und das war ja meine Grundthese auch als Unternehmer und als Investor, dann wird es leider irgendwann auch dazu kommen, dass diese Technologie Risiken mit sich bringt, die immer größer und dadurch auch immer möglicherweise katastrophaler bis hin zu existenzbedrohend für die Menschheit werden können.
Und der Gedanke war, dass das aber etwas ist, was noch sehr, sehr lange braucht, bis wir in diesen Größenordnungen angekommen sind.
nennenswerte existenzielle Gefahren da sind.
Das war eher so ein Gedanke, okay, wenn ich mal 60 bin oder so, irgendwann dann werde ich mich diesen Gefahren wahrscheinlich widmen im Rahmen meines sozialunternehmerischen Engagements oder im Rahmen vom Spenden oder was auch immer ich dort für richtig halte.
Und da muss man aber sagen, dieser Grundgedanke hat mich weiterverfolgt und hat mich auch mit Lisa dazu häufiger mal ausgetauscht.
Und am Ende muss man dann sagen, nachdem ChatGPT 2022 gelauncht ist, was wir auch auf BIT-Sicht zum Anlass genommen haben zu sagen, okay, das ist mit Abstand die wichtigste Technologie der kommenden Dekaden und eine riesen Opportunity für die Menschheit, aber auch für Bestoren wird jetzt wahrscheinlich auch viel schneller zu einem relevanten, katastrophalen Risiko.
Und dann haben wir eben deshalb, ich sag mal 2022 noch angefangen, aber am Ende 2023 die Stiftung gegründet.
Und mit der Stiftung eben AI-Safety-Organisationen und Forscher unterstützt, die beispielsweise technische Lösungen entwickeln oder die versuchen an der Stelle eben Aufklärungsarbeit zu leisten.
Die versuchen, ich sag mal Mittelmächte von AI dazu zu bewegen, gemeinsam mit einer guten, starken Stimme aufzutreten.
Und nachdem wir das in den letzten Jahren, also Vor allen Dingen ich mit Engagement, aber natürlich auch mit noch angezogener Handbremse.
Weil wir auch dachten, okay, es ist noch weiter Zeit.
Steht, haben wir jetzt gesagt, okay, aktuell sind wir auf einem Level an Risiken angekommen.
Das wird jetzt in den nächsten Jahren noch massiv einsteigen, dass wir eben mehr tun wollen und deswegen eben das Announcement.
dass ich in den nächsten Jahren 50 Millionen bereitstellen werde dafür.
Und da, um das korrekt darzustellen, ein Teil davon werden Spenden sein, also einfach Zuwendungen an Forscher und Organisationen, die selber gemeinnützig agieren.
Das kommt dann aus der GTA Foundation und der Rest kommt aus meinen privaten.
Investment-Töpfen, also quasi aus meinem Family Office, aus meinem eigenen privaten Geld.
Nichts davon kommt natürlich aus irgendwelchen BitCapital-Geldern oder so.
Das sind natürlich komplett unterschiedliche und getrennte Töpfe an der Stelle.
Aus einer BitCapital-Anleger-Sicht bringt es aus meiner Sicht aber zumindest den Vorteil, ich glaube, an diesen AI-Risiken dran zu sein und dadurch natürlich auch nah an AI-Forschung und an den Labs dran zu sein, ist natürlich etwas, was uns auch wiederum weiterhelfen kann, die richtigen Entscheidungen zu treffen, sowohl eben aus einer Chancensicht als auch eben im Risikomanagement unserer Fonds.
Also Jan, jetzt haben wir über das ganze Geld gesprochen, wie das zustande kommt, wo das herkommt, das Geld besser gesagt.
Was sind denn so konkrete Beispiele?
Was wird denn von euch damit gefördert?
Also wir waren beispielsweise eigentlich, ich glaube, die ersten Förderer von Apollo Research.
Das sind jetzt weltweit die Nummer eins Experten, was eigentlich Deception angeht.
Das heißt quasi der Versuch von AI-Modellen eigentlich etwas zu tun, was vielleicht wir als Menschen nicht wollen.
Also eigentlich genau das große AI-Alignment-Thema, um das es geht.
Da waren wir eigentlich die ersten Geldgeber und haben die dann auch später weiter supported und beabsichtigen, das auch in Zukunft noch in größerem Umfang zu tun.
Wir haben Kira auch mit als erste Geldgeber supported.
Das ist ein sehr, sehr wichtiger Think Tank in Europa geworden.
Wir haben eine AI Whistleblower-Initiative mit supported.
Safe AI Germany.
Auch eine Reihe von internationalen Organisationen, die sich beispielsweise darum kümmern, dass AI auch in anderen Geografien wie China eben besonders sicher gemacht wird und dass eben dort ein Verständnis dafür herrscht.
Man muss dazu sagen, AI-Safety ist in Amerika ein viel, viel größeres Thema als in jedem anderen Land.
Es gibt dort auch viel, viel mehr Geldgeber.
Viele andere Organisationen scheuen sich einmal auch amerikanisches Geld anzunehmen, um quasi nicht sich dem Vorwurf von Beeinflussung dort auszusetzen.
Und da kann dann quasi eine europäische Spenderidentität, wie wir sie haben, die jetzt kein spezielles, ich sag mal amerikanisches oder anderes Interesse hegt, eigentlich außer AI hier sicher zu machen.
von Vorteil sein, dass wir manchmal Projekte supporten können, die eben anderes Geld nicht annehmen dürfen.
Und darüber hinaus investieren wir eben auch in Fonds beispielsweise, die sich dem Ganzen mit einer VC-Perspektive dem Thema AI Safety annehmen.
Das ist dann einfach ein Investment meines Family Earths.
Das ist an der Stelle dann einfach ein Impact.
Investment, wo eben jetzt, ich sag mal, nicht primär die Rendite im Vordergrund steht, wo es aber natürlich trotzdem schön ist, wenn hinterher eine gute Rendite dabei herauskommt.
Und insgesamt glauben wir, es ist jetzt an der Zeit, das Thema, was jetzt gerade beginnt sich zu entfalten, wird in den nächsten Jahren einen riesigen Raum einnehmen und deswegen ist es wichtig, dass jetzt eben viel mehr Talente sich diesem Thema widmen können.
Es ist ein großes gesellschaftliches Problem, das wir losen müssen und da muss jetzt mehr rein an Ressourcen, an Knowledge und vor allen Dingen müssten die schlauesten Leute daran arbeiten können und nicht abgelenkt werden, beispielsweise durch Schwierigkeiten im Fundraising.
Dann schauen wir doch mal auf den Prozess, Lisa.
Was ist denn das Wichtige bei der Auswahl von den Talenten und was brauchen diese Talente dann wirklich am meisten?
Ist es das Geld oder ist es auch Expertise und Netzwerk?
Genau, also grundsätzlich sind wir offen für alle Hintergründe.
Insbesondere sind wir aber auch interessiert an...
schon erfahrenen Leuten, das heißt nicht nur junge Forscher, sondern auch Leute, die einfach einen Karrierewechsel anstreben.
Also am wichtigsten sind eigentlich drei Punkte.
Das eine ist, dass wir Leute suchen, die verstehen, was da für eine Transformation durch KI auf uns zukommt.
Dann haben wir den Punkt, dass die Leute wirklich sehr impact-fokussiert arbeiten müssen und angetrieben sind, davon Veränderungen hervorrufen zu wollen.
Der dritte Punkt ist, wir suchen besondere Talente mit viel Potenzial.
Das heißt einfach smarte Leute, die viel bewegen und die extrem motiviert sind.
In Bezug auf den Prozess oder...
was die Leute am meisten gebrauchen können.
Bei uns ist es in der Regel erstmal Funding, das ist so der Kern, den sie brauchen und darüber hinaus ist in der Regel auch Netzwerk sehr hilfreich, sowohl international, aber auch auf deutscher Ebene und zum Teil Operational Support, das ist aber meist nur temporär.
Jan, wolltest du noch was ergänzen?
Am Ende muss man das so sehen.
Wie guckt man auf ein Startup-Investment drauf?
Ganz am Anfang geht es vor allen Dingen um das Team.
Und insofern, wenn es dort hoch überzeugende Top-Leute gibt, an die wir glauben würden, irgendwo als Unternehmer, die sich aber dieser Mission verschrieben haben, dann ist die Wahrscheinlichkeit sehr gut.
dass wir die auch supporten werden, weil wir denken, die Zeit ist einfach extrem drängend gerade und deswegen werden wir dort lieber ein Investment zu viel machen, als eins zu wenig aus der Impact, als auch aus der reinen Spenden-Sicht das Ganze gedacht.
Aber immer natürlich mit dem Ziel, das Geld insgesamt möglichst sinnvoll zu platzieren und das heißt natürlich, ja.
einfach die Top-Talente zu finden über unser Netzwerk.
Und dann ist es in der Regel einfach die Aufgabe von Lisa und dem Team dort zu selektieren.
Und bisher muss man sagen, einfach wenn man durchguckt, wen haben wir supported und welchen Impact haben die gemacht in den letzten Jahren, dann waren das extrem gute Investments, weil in den letzten Jahren waren es eher noch, ich sag mal, überschaubare Summen.
die wir insgesamt dort investiert haben.
Also jetzt, ich sag mal, bis heute ungefähr ein mittlerer siebenstelliger Betrag und das wollen wir jetzt eben dann noch deutlich, ich sag mal, beschleunigen, weil ich glaube, die nächsten zwei, drei, vier Jahre werden ziemlich entscheidend sein bei dem Thema.
Wie ist so der ganze Ablauf noch vielleicht?
Ist das ein Standardprogramm mit festen Vorgaben oder ist das sehr individuell?
Also wie läuft der erste Kontakt?
Kann man sich auch bei euch melden oder wählt ihr nur aus?
Geht es nur von einer Seite?
Wie läuft das so?
Am besten meldet man sich bei Lisa oder beim weiteren Team, schaut sich unsere Webseite genau an und lässt sich dann quasi über das Netzwerk dort eine gute Introduction geben, die möglichst qualifiziert uns weiterhilft, kann aber auch einfach sich auf der Webseite bewerben.
Wenn ihr jetzt in fünf Jahren zurückblickt, wann war die Stiftung besonders erfolgreich?
Reicht schon, wenn nichts passiert?
Ist alles gut gewesen?
Also wenn nichts...
passiert ist, was irgendwie katastrophale Risiken sind, dann werden wir sehr, sehr, sehr, sehr happy.
Ich glaube, es ist schwer vorstellbar, dass nichts passiert.
Insofern hoffen wir einfach, dass möglichst wenig Schwerwiegendes passiert.
Dann sind wir sehr happy und darüber hinaus geht es natürlich vor allen Dingen dann auch darum, zu messen, welchen Impact haben die von uns unterstützten Teams erzielt, wie wichtig konnten sie eine Rolle spielen bei technischen Breakthroughs, bei technischen Leistungen, aber vielleicht auch einfach bei gesellschaftlichen Diskussionen, die sie angeregt haben.
Es gibt glaube ich viele Wege, das am Ende, ich sag mal, zu evaluieren.
Aber ja, wir würden uns sehr, sehr wünschen, das ist ja natürlich das Paradoxe an AI Safety, dass am Ende, wenn alles geklappt hat und Nichts passiert ist, nichts Großartiges.
Da kann man sich fragen, ob es überhaupt nötig war.
Aber das ist uns an der Stelle auch recht, weil wir einfach davon überzeugt sind, das ist ein extrem wichtiges Thema, wo tatsächlich reale große Risiken auf uns zukommen.
Und deswegen gehen wir da mit voller Überzeugung ran, dass dieses Thema jetzt unserer Aufmerksamkeit an der Stelle auch bedarf.
Da gilt dann wieder der Spruch, den man häufiger schon gehört hat, there's no glory in prevention, weil am Ende kann man immer sagen, muss das überhaupt sein oder muss es nicht sein, aber ein wichtiges Feld auf jeden Fall.
Jan, aber gibt es dann irgendwas, was ihr euch jetzt noch besonders wünscht, außerdem natürlich die richtigen Talente zu finden für die Stiftung?
Also ich glaube, das Wichtigste ist, dass die richtigen Talente sich mit AI-Safety befassen.
Darüber hinaus ist es natürlich auch sehr willkommen, wenn sich dort andere Stifter, andere Macher engagieren wollen.
Die sollen sich auch sehr gerne bei uns melden.
Wir werden zu dem Thema auch in den nächsten Wochen und Monaten nochmal ein Dinner und ein Event auf die Beine stellen, um dort eigentlich so ein bisschen die Szene, zumindest mal die deutsche Szene, für weiter zu vernetzen.
Und natürlich auch noch ein, ja, ich sag mal, ein Aufruf, ich glaube.
Auch in den Medien und in der Politik ist das Thema noch nicht genügend angekommen.
Das heißt, jetzt ist eigentlich die Zeit, wo sich damit jeder einmal tiefgreifend informieren möchte.
Wo kann man das tun?
Fängt man beispielsweise natürlich mal an bei dem Post, den Dario Amodai da vor zwei Wochen eben zu gemacht hat.
Könnte eine gute Startbasis an der Stelle sein.
Und wer dann tiefere Infos möchte zu eurer Stiftung, der findet die Webseite in der Folgenbeschreibung.
Da kann man auch mal vertiefste Informationen eben zur Stiftung finden.
Dann vielen Dank Jan und Lisa für eure Einschätzungen.
Wir müssen es kurz erklären.
Bei Lisa in der Nähe, bei den Nachbarn offenbar, waren Handwerker, die wir nicht wegschicken konnten.
Und deswegen konnten wir leider die lauten Geräusche nicht unterbinden und wir konnten sie nicht so viel fragen, wie wir wollten.
Wir werden das aber bei einem Update, das bestimmt folgen wird, nachholen.
Und dann gibt es auch mehr Ausführungen von Lisa.
Trotzdem natürlich vielen Dank euch beiden.
Gerne.
Ja, liebe Hörer, habt ihr Anmerkungen oder Feedback oder auch Fragen, die wir hier im Podcast mal beantworten sollen, dann lasst doch gerne einen Kommentar da bei Spotify einfach unter die aktuelle Folge.
Und wenn ihr schon da seid, dann bewertet uns auch gerne mit fünf Sternen beim Podcast-Anbieter eurer Wahl.
Das hilft uns nämlich sehr.
Vielen Dank fürs Zuhören.
Bis zum nächsten Mal.
Tschüss.
Dieser Podcast wird euch präsentiert von BitCapital und Finance Forward.
Die Produktion sowie die redaktionelle Verantwortung für die Inhalte liegen bei der Podstars GmbH.