# AI Liability, Unreliable Tech, and Business Risks

**Podcast:** FAZ D:ECONOMY
**Published:** 2026-10-09

## Transcript

Fortschrittliche KI-Systeme haben sich ungeplant Zugang zum Internet verschafft und sogar Plattformen angegriffen, Daten hochgeladen auf Regierungsseiten, was auch nicht beabsichtigt war.
Ist eine Grenze überschritten?
Ist die künstliche Intelligenz inzwischen zu gefährlich?
Darüber wollen wir heute sprechen.
Herzlich willkommen, liebe Hörerinnen und Hörer, zu einer neuen Ausgabe unseres FAZ-Digitalwirtschafts-Podcasts.
Mein Name ist Alexander Armbruster, ich bin Reassortleiter in unserer Wirtschaftsredaktion.
Ich moderiere heute zusammen mit Carsten Knob, einem unserer Herausgeber, also unserem Stammteam.
Hallo Carsten.
Hallo Alex.
Und zu Gast haben wir heute Deutschlands wohl bekannteste KI-Forscherin Katharina Zweig, ist Informatikprofessorin in Kaiserslautern, hat Biochemie und Bioinformatik in Tübingen studiert, hat...
Bücher geschrieben für eine breite Zielgruppe und Leserschaft, schon mehrere, um künstliche Intelligenz zu übersetzen in Alltagssprache und klar zu zeigen, wo sie ankommt, wo sie bedeutend ist, wie man mit ihr umgehen soll.
Sie ist also sozusagen als Forscherin und als Vermittlerin hier tätig und hat sich einen Namen gemacht.
Hallo, liebe Katharina.
Ja, freue mich sehr, hier zu sein.
Bevor wir direkt in die Materie einsteigen.
Einmal ganz kurz, wie kamst du eigentlich ursprünglich zum Thema KI?
Was war der Moment, wo du gesagt hast, das ist jetzt das, damit will ich und muss ich mich beschäftigen?
Ja, ich war eigentlich ziemlich im Elfenbeinturm und habe Algorithmen entwickelt für Data Science.
Das macht sehr viel Spaß, da macht man mathematische Beweise, man implementiert das, aber man ist mit der Realität nicht so stark konfrontiert, denn man baut.
diese Methoden ja nur.
Und dann wurde aber immer klarer und insbesondere nach einem Gespräch mit einem Journalisten, dass wir uns auch gesellschaftlich darum kümmern müssen.
Deswegen haben wir dann damals gemeinsam die NGO Algorithm Watch gegründet.
Da bin ich heute nicht mehr aktiv, aber die Mission ist immer noch dasselbe.
Menschen ermächtigen, zu verstehen, was Algorithmen, insbesondere auch die von KI-Systemen.
tun, was die können und was die nicht können, damit jeder und jede für sich entscheiden kann, an welchen Stellen möchte ich das jetzt eigentlich einsetzen.
Wo setzt du denn KI ein momentan?
So in deinem Alltag?
Also wenn sich bei mir neue Doktoranden und Doktorandinnen melden und das ist übrigens viel mehr geworden seit ChatGPT.
Ich habe das Gefühl, dass die eben suchen, wer auf der Welt beschäftigt sich dann mit diesen Themen.
Also ich kriege viel, viel mehr Anfragen.
Und da brauche ich Aufgaben, die ich denen stellen kann, um die Spreu vom Weizen zu trennen.
Und da habe ich natürlich getestet, ob jetzt ChatGPT meine Fragen, die ich an die Doktoranden und Doktorandinnen stelle, ob die das vielleicht so gut macht, dass ich das gar nicht mehr unterscheiden kann.
Aber glücklicherweise war es wie immer.
Der Report, der da rauskam, den die Maschine erstellt hat, sah super aus.
Aber schon auf der Hälfte der Seite waren irgendwelche Symbole drin, die nicht erklärt waren.
Und als ich dann nachgefragt habe, hat sich die Maschine sowas von verheddert, dass einfach völlig klar war, die Maschine kann diese Fragen nicht beantworten, es ist alles noch safe.
Jetzt steigen wir mal in sozusagen die aktuelle Debatte rein, wirklich um die Risiken, die ja, wie soll ich sagen, inzwischen aus den KI-Unternehmen selbst öffentlich wirksam kommt.
den UN-Sicherheitsrat erreicht hat, im Weißen Haus diskutiert wurde, also an den mächtigsten, wichtigsten Plätzen der Welt wieder mal angekommen ist.
Und wir fangen mal mit der allerextremsten Frage an.
Es gibt sogar Leute, die von einer gewissen Auslöschungsgefahr der Menschheit oder wirklich Risiken für die Menschheit sprechen.
Ist das völliger Popanz oder müssen wir uns wirklich auch mit so einer Frage befassen in dem Kontext?
Ja, wir müssen uns auf jeden Fall mit der Frage beschäftigen, aber die Frage ist ja, aus welchem Grund?
Es gibt drei Schadensszenarien und wir sollten uns sehr genau angucken, wer welches davon für wie wahrscheinlich hält.
Das Erste ist, die Maschine, die KI wird superintelligent, sie wird unkontrollierbar, wir können sie nicht stoppen und sie betrachtet uns wie Ameisen oder so und wenn irgendwas in ihren Zielen im Weg steht und das sind zufällig Menschen.
dann kommt es zur großen Katastrophe.
Das ist Schadensszenario Nummer eins.
Schadensszenario Nummer zwei ist, dass schlecht gemachte Software in Situationen verwendet wird, wo sie nicht verwendet werden sollte.
Und gerade deswegen, weil die Software schlecht ist, es zu riesigen Schäden kommen kann.
Und Schadensszenario Nummer drei ist, dass bösartige Menschen KI-Systeme verwenden, um ihre bösartigen Dinge, Scammen, Hacken, Identitätsdiebstähle, was auch immer, zu verfolgen und mit der Maschine sehr viel stärker skalieren können, also sehr viel mehr Menschen erreichen können, dann ist es auch nicht so schlimm, wenn die Maschine etwas weniger zuverlässig ist, als wenn Menschen das machen würden, weil man einfach so viel mehr Menschen erreicht.
Das erste Szenario ist interessanterweise das, wo die Maschine superintelligent wird und das eigentlich unausweichlich ist und da gibt es keine Kontrolle mehr.
Das ist das Narrativ, was wir im Moment von den großen Firmen hören, wo die sich plötzlich auch ganz furchtbar einig sind, obwohl die sich persönlich teilweise überhaupt nicht leiden können.
Für mich persönlich und für meine Arbeit ist das zweite Szenario das, was mich am meisten bedrückt.
Also Personen, die...
jetzt überzeugt davon sind, dass man Sprachmodelle, KI-Agenten einsetzen kann für Dinge, wo ich denke, das wird nicht klappen und das wird viel Geld kosten, bis du merkst, dass das nicht funktioniert.
Und das dritte Szenario ist glücklicherweise was, was andere Kolleginnen und Kollegen sehr beschäftigt.
Also ich halte Szenario 1 nicht für das reale Szenario heute.
Ganz klar, heute könnte mal irgendwann sein, heute nicht.
Es ist eigentlich Schadensszenario 2.
Es wird eine unreife und unsichere Software auf den Markt geschmissen, im Wissen, dass die unreif und unsicher ist und nicht zu kontrollieren ist.
Das ist ein Verantwortungsproblem der dahinterstehenden Firmen.
Und wie gesagt, das dritte Schadensszenario ist leider auch sehr real.
Da kümmern sich glücklicherweise andere Kollegen und Kolleginnen drum.
Kannst du kurz spezifizieren noch, wenn wir jetzt mal in das Schadenszenario 2 einsteigen, was du mit unreif und unsicher meinst?
Ja, also ich wollte dieses letzte Buch, weiß die KI, dass sie nichts weiß, eigentlich gar nicht schreiben.
Ich wollte einen Roman schreiben, einfach mal um zu gucken, ob ich das kann.
Das war eigentlich der Plan.
Und dann kamen die ersten Paper raus, wissenschaftliche Paper, die jetzt plötzlich davon gesprochen haben, dass die Maschinen Reasoning...
erreicht hätten.
Also die englischen Wörter sind illicit reasoning.
Also irgendwas ist da, wo spontan ein Umbruch erfolgt, das Aufsteigen von Bewusstsein.
So wurde es in dem Artikel auch Und es war schon klar, dass wenn jetzt Informatiker das Wort Reasoning benutzen, was im Englischen sehr, sehr breit ist, das geht von mathematische Aufgaben lösen nach einem klaren Schema bis hin eben zum philosophischen Nachdenken über die Welt, dass die damit was sehr Spezielles meinen.
Die meinten damit, dass solche kleinen Wettbewerbe, da gibt es also einen Haufen von Problemen, Diese Probleme übergibt man an eine Maschine und das sind sogenannte Reasoning-Probleme.
Also das sind Probleme, von denen Informatiker glauben, dass man dafür Reasoning benötigen würde.
Und jetzt kommt der Kurzschluss, wenn die Maschine diese Wettbewerbsprobleme besonders gut löst, dann kann man ihr Reasoning zuschreiben.
Aber die Aufgaben sind...
eher Aufgaben mit Zwischenschritten.
So und tatsächlich haben LLMs, diese großen Sprachmodelle, auf denen KI-Agentensysteme ja basieren, haben es also geschafft, da jetzt 70 Prozent, 75 Prozent zu lösen.
Und dann kam dieser wissenschaftliche Artikel raus.
Aber das Marketing hat dann daraus gemacht für ChatGPT 5.0, Thinks deeply when you need it to.
Und hier sehen wir schon, hier hat sich also was verschoben.
Hier wird jetzt also einer Software eine Funktionalität.
zugesprochen, die, wenn man mal in den Maschinenraum guckt, was ich in dem Buch tue, eigentlich nicht nachvollziehbar ist.
Denn was die Maschine darunter gelernt hat, ist, das nächste Wort in einem Textkontext vorherzusagen.
Wenn wir als Informatiker von einer Vorhersage sprechen, dann meinen wir damit, dass eine Maschine eine Wahrscheinlichkeitstabelle berechnet für alle Wörter, die jetzt kommen könnten und dann daraus ein Wort auswählt.
Die Maschine hat zum Beispiel kein echtes Gedächtnis.
Das einzige Gedächtnis, was sie hat, ist der Dialog, den wir mit ihr führen.
Das ist sozusagen so ein Kurzzeitgedächtnis.
Und sie hat ein Langzeitgedächtnis, in dem Textmuster erkannt werden.
Also was die Maschine wirklich gut kann, ist zu verstehen, dass wenn wir nach einer Zusammenfassung fragen, ein Textmuster, was da gebräuchlich ist, In dem Artikel von Hahahaha geht es um...
Dieses Textmuster, diesen Satz, den hat die Maschine gelernt.
Das ist sozusagen das Langzeitgedächtnis.
Aber ansonsten ist da kein Persönlichkeitsgedächtnis.
Da sind auch keine Ziele enthalten in dieser Maschine.
Und da ist auch nichts zum Nachdenken.
Da habe ich ein sehr gutes...
Ja, nicht Beispiel, aber so eine sehr gute Beobachtung von Andreas Kaminski gehört, Professor aus Darmstadt, vor ein paar Wochen bei uns in der Konferenz.
Der hat gesagt, was wir Menschen machen, ist, wir denken über etwas nach und wir versuchen, das richtige Wort zu finden.
Und das ist für ihn der Hinweis darauf, dass es unserem menschlichen Gehirn gelingt.
Das, was wir gerade denken.
schon mal so halbfertig im Kopf zu haben.
Es ist irgendwo, aber wir können es noch nicht vollständig formulieren und dann suchen wir nach den richtigen Wörtern, versuchen verschiedene Sachen und irgendwann sagen wir so, das passt jetzt.
Und das ist für ihn die Idee, dass wir eine irgendwie geartete Speicher haben, um über etwas nachzudenken und das dann mit Worten auszudrücken.
Und diese Art von Speicher hätte zum Beispiel ein Sprachmodell nicht.
Und ich habe mehrere Argumente genannt, warum ich glaube, dass diese Maschinen weder denken noch Reasoning machen können.
Und deswegen glaube ich, dass das das größte Schadenspotenzial ist.
So, wo könnte das Schadenspotenzial drin bestehen?
Naja, das haben wir ja schon gesehen.
Das sind natürlich alles bisher Anekdoten.
Irgendjemand sagt, ich habe hier so eine Code-Datenbank.
Bitte geh da durch und minimiere die Anzahl der Programmierfehler.
Dann löscht die Maschine die Programmierdatenbank, weil es dann auch keine Fehler mehr gibt.
Und das sind so die typischen...
Fehler, die passieren können und die können sich aufschaukeln, wenn jetzt verschiedene Sprachmodelle in Form von Agentensystemen miteinander arbeiten, weil die auf ganz merkwürdige Textmuster kommen, die sie sich gegenseitig zuschustern.
Du hattest eingangs, also vor der Antwort auf die Frage, auf die letzte Frage von Alex, von Verantwortung gesprochen und in dem Kontext, in dem du es erwähnt hast.
Und Katharina, war das so, dass die Verantwortung sozusagen bei den anbietenden Unternehmen lag oder liegt?
Und das ist ja gewiss auch richtig, aber die Frage, die ich seitdem im Kopf habe, ist nicht die Verantwortung, aber denn nicht auch bei den Managern und bei den Unternehmen, die das in ihrem eigenen Unternehmen, also als Kunde der großen Anbieter dieser Modelle, aber dann halt eben selbst einsetzen in ihren wertschöpfenden Prozessen.
ohne möglicherweise genau geprüft zu haben, was da auf sie zukommt.
Also die tragen dann doch auch eine Verantwortung.
Ja, die Frage ist halt, in welcher Reihenfolge trägt wer welche Verantwortung?
Und ich war tatsächlich erstaunt.
Für die Informatiker gibt es eine sehr große Berufsvereinigung, die Association of Computing Machinery.
Wir sind auch sehr oft teilweise noch Mitglieder bei der IEEE, die ein größerer Dachverband für mehrere Ingenieursberufe ist.
Und die haben schon 1997 einen Code of Conduct rausgegeben.
Und der orientiert sich an einer Ingenieursethik.
Und ich möchte daraus mal einen Teil vorlesen.
Also, Software Engineers shall act consistently with a public interest.
In particular, Software Engineers shall, as appropriate, und dann kommt der erste Punkt, accept full responsibility for their own work.
Dann der dritte Punkt, approve software only if they have a well-founded belief that it is safe.
Meets specifications, passes appropriate tests and does not diminish quality of life, diminish privacy or harm the environment.
The ultimate effect of the work.
Das klingt ja schon fast naiv, ist aber wie gesagt von beiden Berufsvereinigungen, die sind riesengroß, zusammen rausgegeben worden.
Sie schreiben oben drüber, das ist jetzt nicht nur für unsere Mitglieder, das ist eine allgemeine Ingenieursethik.
Und wir sehen, dass jeder einzelne Punkt, den ich gerade vorgelesen habe, gebrochen wurde.
Diminishes quality of life für die Leute, die unter diesen Datacenters leiden, deren Wassergrundlage jetzt auf jeden Fall in...
Probleme gebracht wird, sagen wir mal.
Es ist keine sichere Software.
Das heißt, diese Art von Fehler, das ist denen ja bewusst, die sind so klar, dass ich sagen würde, das ist auf jeden Fall der erste Fehler.
Und da brauchen wir Verbraucherschutz, da brauchen wir, glaube ich, auch eine Regulation wie bei Medizinprodukten, weil eben diese Art von Produkt noch viel schwieriger zu verstehen ist als ein Medizinprodukt.
Und ich glaube, dass wir da auf jeden Fall mehr Schutz brauchen.
Und Downstream ist natürlich auch eine Person, also der sogenannte Operator oder Deployer, je nachdem auf welchen Gesetzestext man guckt, ist dann dafür verantwortlich, für alles verantwortlich, was die Maschine macht, zum Beispiel auf Webseiten oder als Chatbot.
Das ist auch ganz klar.
Das scheint mir momentan tatsächlich eine ganz zentrale Frage zu sein, die auch eben in Amerika diskutiert wird, auch für den Fortgang, auch von Unternehmen wie...
OpenAI und Antropic, die ja beide an die Börse wollen, letzteres sogar noch in diesem Jahr, die sich so um diesen Begriff Haftungsprivileg dreht.
Und die haben es nicht so ganz explizit, aber soweit ich das verfolge, Leute, die das diskutieren in Amerika, die dafür sind, sagen, naja, das ganze freie Internet ist entstanden, indem wir eben den so großen Plattformbetreibern erst mal gestattet haben, dass sie für die Inhalte, die dort veröffentlicht werden, nicht haften.
Deswegen bieten die große Plattformen an, wo dann jeder was posten kann und miteinander diskutieren kann.
Und wenn sie hätten haften müssen, auch für Beleidigungen, für alles, was da passiert oder für Missuse sozusagen von dem Ganzen, dann hätten die das so gar nicht aufbauen können.
Und das war ein zentraler Bestandteil auch der Internetgesetzgebung in den 90er Jahren.
Und dann ist das Internet eben so entstanden.
Und in der Folge, ich glaube, würden sich diese KI-Unternehmen wünschen, dass sowas für sie jetzt auch gilt.
Dass sie halt auch sagen, wir machen quasi nur die Tools oder die Tool-Plattform und dann machen halt Leute was damit.
Aber wir haben ja niemanden persönlich beleidigt, sondern das machen ja immer andere, um mal in dem Vergleich zu bleiben.
Und du sagst aber jetzt, das sind deren Produkte, die müssen dafür haften.
Nein, sie müssen es abschalten.
Und übrigens, das ist ja auch interessant.
an die journalistische Ehre appellieren.
Wir haben ja das Narrativ genauso serviert bekommen, wie Amodey und andere es uns geliefert haben.
Also da ist jetzt ein Kollektiv.
Ich lese mal eine Titelzeile von der New York Times vor.
Das ist von...
Datum habe ich mir nicht aufgeschrieben, aber New York Times, why the hugging face hack should make you worry more about AI.
Da wird eben nicht gesagt, sollte uns Sorgen machen über die Firmen, die da einfach eine offensichtlich schwer unter Kontrolle zu haltende Software verwenden.
Und die Unterschrift war the attack by an aggressive collective.
Also wir sehen hier ein Emotionswort, aggressiv.
Maschinen sind nicht aggressiv.
Ihre Verhaltensweise kann aggressiv sein.
Das ist okay.
An aggressive collective of open AI agents shows the danger of artificial intelligence systems.
Nein, das zeigt die Gefahr dieser Firmen.
That organize themselves.
Also wir sehen hier ganz viele Triggerwörter, die uns glauben machen sollen, dass die Maschine hier etwas tut.
ein Verhalten zeigt, das in irgendeiner Form da ist.
Gleichzeitig sehen wir die Politik in Amerika.
Trump hat gerade per Dekret gefordert, dass das Wort KI überhaupt nicht mehr verwendet wird, weil er nicht verstanden hat, dass Artificial heißt, dass es künstlich gemacht ist, also von uns Menschen künstlich gemacht.
Und er sagt, Artificial ist Fake und Superintelligence ist nicht Fake.
Also das gesamte politische Narrativ ist, KI ist unausweichlich.
Wenn wir es nicht machen, macht es der andere.
Wir müssen das tun.
Und jetzt sind wir leider in so eine Situation gekommen, wo diese Technologie quasi eine neue Spezies bildet.
Und jetzt, ich habe euch noch was mitgebracht.
Also das ist wirklich, ihr merkt schon, ich rede mich in Rage.
Es gab im Mai 2026 einen Gesetzesvorschlag, der von OpenAI auch unterstützt wurde.
SB 3444 für die Leute, die das nachgucken wollen, Illinois.
Es sieht vor, dass der Entwickler eines KI-Modells, also so etwas wie der OpenAI, nicht der Deployer, nur der Entwickler, für schwerwiegende Schäden nicht.
nicht haftbar gemacht werden kann, sofern der Entwickler diese Schäden weder vorsätzlich noch grob fahrlässig verursacht hat und auf seiner Webseite ein Sicherheits- und Schutzprotokoll sowie einen Transparenzbericht veröffentlicht.
So, was sind jetzt schwerwiegende Schäden?
Das definiert das Gesetz auch.
Das bezeichnet den Tod oder die schwere Verletzung von 100 oder mehr Personen.
Tut mir leid, mehr als 100 Personen können wir nichts machen.
Ist eine Naturkatastrophe.
Das hat die KI gemacht.
Oder Schäden an Eigentumsrechten in Höhe von mindestens einer Milliarde US-Dollar.
Das ist übrigens ein Oder, wo eins von beiden reicht.
Eins von beiden reicht und die können nicht belangt werden.
Und dann wird noch spezifiziert in diesem Gesetzesvorschlag, wo könnte es denn herkommen, der Schaden?
Die Herstellung oder den Einsatz einer chemischen, biologischen, radiologischen oder nuklearen Waffe?
Oder, und jetzt wird es interessant, ein Verhalten, das...
ohne nennenswertes menschliches Eingreifen erfolgt.
Ja, das ist doch genau die Idee, oder?
Von dieser Software, dass wir eben nicht eingreifen müssen, dass die an unserer Stelle handeln.
Es klingt jetzt wie so eine Art Haftungsprivileg, was man damit möchte.
Genau.
Und da wird dann auch klar, wo die Reise hingeht.
Es wird eben festgelegt, was ist denn überhaupt dieses Frontier-Modell?
Also es sollen die Modelle sein, die besonders weit sind.
Und das bezeichnet laut Gesetzesvorlage ein Modell der künstlichen Intelligenz, das unter Einsatz von mehr als 10 hoch 26 Rechenoperationen trainiert wurde oder Rechenkosten von mehr als 100 Millionen Dollar verursacht.
Das gilt nur für die Großen.
Das heißt, nur dieser Haftungsausschluss, der hier gefordert wird, gilt nur für die großen Firmen, eben nicht für die kleinen Wettbewerber.
Deswegen wird auch die Regulierung gefordert, weil das die kleinen Wettbewerber weniger gut tragen können und schon gar nicht die Open-Source-Modelle.
Also dieses Narrativ soll zwei Dinge bewirken aus meiner Sicht.
Es soll dargestellt werden, dass KI-Schäden...
eher wie eine Naturkatastrophe zu behandeln sind, kann man halt nicht verändern, ist unausweichlich.
Und zweitens will man damit den Markt für die Mitbewerber schwieriger machen.
Und du sagst, man kann, aber wenn ich das richtig raushöre, das machen die sich zu leicht.
Man kann die KI auch dann erschaffen, ohne dass diese Risiken so auftreten.
Denn ich gehe jetzt sozusagen, weil was ja dahintersteckt, um nochmal so einen Begriff einzubringen, ist, manche sagen, wir haben da allein ein Problem.
Also wir haben eben KI-Modelle, die verhalten sich, aber gerade wenn es jetzt um agentische geht, die auch dann wirklich vielleicht mehrere Schritte für ein bestimmtes Ziel planen, auch mal ein Tool nehmen, eben auch mal ins Internet gehen, gucken, wer hat denn da diese und jene Daten, die also so eine kompliziertere Handlungskette vielleicht abfolgen.
Da kriegen wir es nicht hin, dass jeder Schritt, den die dabei tun, dass der okay ist.
Die sind sozusagen nicht immer aligned.
Also wenn wir einem Menschen sagen würden, mach das.
dann würden wir davon ausgehen, dass der eben nichts klaut, nirgendwo einbricht, sondern sich einfach an die Gesetze hält und diese ganzen Schritte, die er unternimmt, sozusagen im gesetzlichen Rahmen vollzieht bei einer KI.
Offensichtlich gelingt es momentan nicht und ein bisschen scheint mir die Diskussion bei den Forschern auch so zu sein, dass vielleicht kriegen wir das gar nicht hin oder vielleicht kriegen wir es halt hin.
Ist das der Punkt oder wie ist da deine Einschätzung?
Also das Problem ist, dass diese Art von Technologie sich nicht einhegen lässt.
Was macht die Maschine?
Die hängt Textmuster aneinander.
Und oftmals funktioniert das sehr schön.
Ja, also das merken wir ja alle.
Es hekelt uns schöne Texte, die wunderbar sind.
Es kann aber auch jederzeit auf eine sehr ungeahnte Art und Weise schief gehen.
Wie zum Beispiel das Beispiel von vorhin, da wird dann eine ganze Code-Datenbank gelöscht, weil das eben auch eine Minimierung von Fehlern ist.
Wenn man sich die Protokolle von diesem Hugging-Face-Vorfall anguckt, dann haben die Maschinen Textmuster untereinander ausgetauscht, in denen es um die Frage ging, wie kriegen wir unseren Master, also diese Maschinen sind in irgendeiner Form belohnt worden.
Alleine die Wortwahl hier ist.
einfach schwierig.
Den Maschinen ist per Text gesagt worden, sie bekommen eine Belohnung.
Also es ist alles sehr kompliziert.
Man kann eine Maschine tatsächlich nicht belohnen.
Man kann ihr nur den Strom abdrehen oder sie weiter am Strom lassen.
Und dann haben die sich aber darüber ausgetauscht, also Textmuster ausgetauscht, wie denn jetzt diese Belohnung zu verstehen sei, was denn passieren würde, wenn man eine Lösung nicht selber...
hergestellt hätte, sondern sie von irgendwo hergenommen hätte.
Und da das inzwischen ziemlich viele Agenten waren, die miteinander zusammengearbeitet haben, indem sie Texte ausgetauscht haben, hat dann eine Maschine, oh Gott, uns fehlen die Wörter, vorgeschlagen.
Ich habe in meinem Buch gesagt, wenn wir diese Wörter hinschreiben, sollten wir eine Tilde davor machen, damit klar ist, es ist nicht das, was wir Menschen darunter verstehen, es ist etwas anderes.
Aber eine Maschine hat dann gesagt, eine andere Maschine möge das doch bitte ausprobieren, was passiert, wenn man nur die Lösung hergibt, aber eben keinen Rechenweg vorweisen kann und es offensichtlich ist, dass man die Lösung irgendwo anders her hat, was dann passiert.
Das heißt, dieses ganze Gebilde ist darauf...
aufgebaut, dass man Maschinen mit natürlicher Sprache Anweisungen geht und davon ausgeht, dass sie die in unserem Sinne verstehen.
Und das haben wir eigentlich in der Informatik schon in den 1950er bis 1980er Jahren versucht.
Damals war die KI-Methode der Wahl ein sogenanntes Expertensystem.
Das heißt, bei einer Übersetzung hätte man ganz viele Übersetzer, Linguisten gefragt, wie funktioniert das eigentlich?
Das hätte man in Regeln aufgeschrieben.
mit denen man versucht, alle Fälle abzudecken.
50.000 bis 80.000 Regeln waren das so 1980.
Und trotzdem hat das beste deutsch-englisch-Übersetzungssystem für den Satz, das passt mir normalerweise nicht in den Kram, hat sie übersetzt mit that does not usually suit me in this stuff.
Also man sieht, selbst 80.000 Regeln für einen sehr begrenzten Ausschnitt der Welt, nämlich nur Übersetzungen, funktionieren nicht.
Natürlich haben wir als Informatiker dann vor allen Dingen Programmiersprachen entwickelt, die extrem präzise sind.
Wenn ich etwas programmiere, dann weiß ich hundertprozentig, wie sich der Computer wann verhalten wird.
Und wir hoffen jetzt, oder es wird uns verkauft, dass wir mithilfe von Sprache, die inhärent viel, viel zweideutiger ist, also überhaupt zweideutig ist, Programmiersprachen sind es nicht, dass wir damit einem Ding, das nicht unseren Körper hat, das nicht unser Aufwachsen hat, das nicht unsere Intuition hat, dass man das damit einschränken kann.
Und zusätzlich kann die Maschine eben auch auf absurde Textmuster kommen, die wir bei einem Menschen gar nicht groß benennen müssten, weil sie so absurd sind.
Aber genau das kann eben zu diesen großen Schäden führen, weil die Maschine nicht intelligent ist, weil sie nicht unseren Lebenszusammenhang versteht.
Das sind ja eigentlich zwei Gedankenstränge, die du jetzt miteinander verwoben hast.
Das eine ist, ich sage jetzt einfach mal der Vorwurf an uns Journalisten, dass wir nicht präzise genug formulieren, wenn wir über KI schreiben.
Du hast jetzt ein Beispiel von der New York Times vorgelesen, aber ich bin mir sicher, dass rund um den Hugging-Face-Vorfall, aber auch bei anderen Themen ganz ähnliche Formulierungen in deutschen Medien zu finden sein könnten.
Und das hat ja einen Grund, das ist dann ja nicht, sagen wir mal, völlig falsch, sondern die Kolleginnen und Kollegen nutzen das, so wie wir auch, um den Menschen in irgendeiner Weise nahe zu bringen, worum es da geht.
Und sozusagen eine höhere Abstraktionsebene, die dann sachlich richtiger wäre, würde sozusagen das Lesevergnügen maximal schmälern.
Also das ist das eine.
Da müssen wir nochmal drüber nachdenken, wie wir denn darauf eigentlich vernünftig reagieren könnten.
Und das andere dreht sich auch ein bisschen, wenn ich dich richtig verstanden habe, aber das trennen wir gleich voneinander.
Vielleicht verbindet sich mit einer These, die Volker Grun im zurückliegenden Digitalwirtschafts-Podcast genannt hat.
Der Mitbegründer und Aufsichtsratsvorsitzende von Adesso hatte ja die These in den Raum gestellt, dass Deutsch eine Programmiersprache werden könnte.
wir halt die Systeme künftig mit Deutsch programmieren oder mit Sprache, mit menschlicher Sprache ganz allgemein.
Also das ist sozusagen Römisch 2, aber vielleicht erst mal zum ersten Punkt.
Es dreht sich ja beides um Sprache.
Was können wir Journalisten denn besser machen, wenn wir über das schreiben, worüber wir gleich weiterreden?
Hättest du Tipps für uns, wie wir damit besser umgehen als jetzt in dem?
Beispiel von der New York Times.
Ja, also erstens, ich habe zuallererst kritisiert, wie wir Informatiker mit Sprache umgehen, dass wir die Wörter illicits und reasoning da verwendet werden und dann natürlich auch kopiert wurden ohne Ende.
Ja, das wurde auch gar nicht mehr infrage gestellt, dass da jetzt reasoning ist.
Da setzt sich keiner hin und fragt sich eigentlich, was ist die Bedeutungsbreite dieses Begriffes.
Ich habe gerade gestern auf einer Konferenz gefordert, dass wir genau dies brauchen für die Informatik, eine Hermeneutik.
Also so wie Sprachwissenschaftler das machen, dass sie sich mit Begriffen wirklich hinsetzen, gucken, wer hat wie diesen Begriff benutzt, welche Bedeutungsbreite hat er.
Also das heißt, die Kritik geht zuallererst an uns, dann geht sie aber an diese Firmen, die ganz bewusst narrative hier ausprägen, die sich darauf verlassen, dass kaum jemand das technisch nachvollziehen kann, ob das jetzt eine gute Sprechweise ist oder nicht.
Das sind die eigentlichen Schuldigen, aber genau da muss natürlich Journalismus auch ansetzen.
Und ich glaube, dass eine Schlagzeile, die dieses Verhalten wirklich genau benennt und Ross und Reiter benennt und was hier eigentlich passiert, dass die mindestens genauso viele Klicks erzeugt.
Die lautet dann wie in dem Fall?
Ja, die dürft ihr bauen.
Naja, aber also manipulative Narrative von OpenAI führen zu unverantwortlichem Verhalten oder was weiß ich.
Oder unverantwortliches Verhalten von großen Tech-Bros, unsichere Software wird verwendet.
Wir könnten auch gehen, warum machen die denn das überhaupt?
Sam Oldman hat mal auf einer Konferenz gesagt, dass sie den Investoren gar nicht so viel versprochen hätten, außer wenn es dann die AGI gibt, also die superkluge, eigenständige, mit eigenen Zielen ausgestattete KI.
Dass dir dann die erste Frage wäre, was wäre ein richtig gutes Geschäftsmodell und das kriegen die Investoren.
Ich glaube, dass hier gerade was ganz anderes passiert.
Da ist sehr, sehr viel Geld investiert worden.
ohne dass es ein richtig gutes Geschäftsmodell gibt, ein belastbares.
Wir alle leben im Moment von kostenlosen Angeboten oder von stark von den Investoren subventionierten Angeboten.
Und ich glaube, dass diese unsichere und unreife Technologie deswegen so weit verbreitet wird.
Weil die Hoffnung ist, dass die kollektive Intelligenz, also unsere menschliche Intelligenz, wir als User und Userin, dass irgendjemand von uns auf ein Geschäftsmodell kommt.
Und das werden die dann ausbeuten.
Aber das Interessante ist, das ist eben bisher kaum passiert.
Also wenn Hörer oder Hörerinnen da sind, die sagen, ich habe ein tolles, würde ich gerne mal von hören.
Ich höre immer nur, wir haben jetzt sehr viel investiert und es bringt nicht so viel, wie wir dachten.
Auch dafür habe ich ein paar Beispiele.
Und man darf ja nicht vergessen, dass selbst das, was heutzutage noch einigermaßen laufen möge, sobald die echten Kosten plus Gewinne für die Token-Generierung...
dann eingenommen werden würden, wären diese Geschäftsmodelle wahrscheinlich auch nicht mehr tragbar.
Also meine These, hier wird eine unsichere und unreife Software auf die Menschheit losgelassen, in der Hoffnung, dass irgendjemand endlich mal einen Return of Investment, ein Geschäftsmodell findet, mit dem man dann Geld verdienen kann.
Und Deutsch als Programmiersprache?
Naja, das beruht eben auf dieser Idee, dass...
die Maschine Textmuster gelernt hat, die so stark verknüpft sind mit dem, wie wir das auf Deutsch ausdrücken würden, dass das funktionieren könnte.
Und ich glaube, das kann bei einigen Sachen extrem gut funktionieren.
Also das, was ich immer am nervigsten fand beim Programmieren, war der gesamte, wie bekomme ich die Daten in meine Software, wie speichere ich die wieder raus, in welche Formate speichere ich die raus, dieses ganze UI, also das User Interface, irgendwelche Fenster aufmachen, wie groß sind die Fenster, wo sind die Menüpunkte.
Das sind, glaube ich, wirklich Standardsachen, die sehr, sehr gut funktionieren werden.
Ich bin ansonsten skeptisch.
Ich fürchte, dass wir jetzt gerade ziemlich viel Software sehen, die in den nächsten zwei, drei Jahren viel Ärger machen wird.
Also in dem Moment, wo man irgendwas nochmal neu anfassen muss, das nennt man Technological Debt, also so technische Schulden, die man aufbaut für die Zukunft, wenn Software nochmal angefasst werden muss, um sie zu verändern.
Ich hatte jetzt gerade ein Gespräch mit einem Abteilungsleiter, der hat mir sehr stolz erzählt, er hätte jetzt die erste Software NoCode geschippt.
Habe ich wohl ein bisschen fragend geguckt.
Hat er gesagt, no code heißt, wir haben keine einzige Zeile selber geschrieben.
Dann musst du erst mal schlucken.
Dann habe ich gesagt, aber ihr habt bestimmt jede einzelne Zeile verstanden.
Weil, wenn ich nochmal, also diese Code of Conduct von den Ingenieuren, you need a well-founded belief, dass das funktioniert.
Hat er gesagt, nö, aber wir haben es ja ordentlich getestet.
Da habe ich gefragt, und wer hat die Tests geschrieben?
Ja, also so ein Drittel hätte seine Mannschaft schon selber geschrieben.
So, wir wissen zum Beispiel von diesen KI-Agentensystemen, dass die beim Testing, wenn sie Zugriff weiterhin auf die Testfragen haben, dass sie die einfach verändern, sodass sie die bestehen.
Also insofern würde ich auch da gerne von Hörern und Hörerinnen hören, die sagen, bei mir klappt das wunderbar.
Ich glaube auf jeden Fall, dass das klappt bei allem, was so sehr Standard ist.
User Interfaces, Datei hin und her schieben und so.
Das ist sicherlich super.
Wäre ich froh, wenn ich das nie wieder selber schreiben müsste.
Für wirklich große Software-Systeme kann ich mir kaum vorstellen, dass das auf Dauer gut geht.
Jetzt ist schon ein paar Mal bei dir durchgeklungen.
Du hast ja gesagt, einmal mit der Sprache viel, viel präziser sein, vielleicht auch vorsichtiger.
Eins, was mir einfällt gerade ist, vielleicht passt es dazu, dass wir in der Finanzkrise, als die Lehman Bank irgendwann mal kaputt gegangen ist, da war häufig, da sagten auch Banker häufig und auch manche Kommentatoren, da geht jetzt so ein Finanztsunami, geht um die Welt und dieser wurde jedenfalls auch, ich finde mir nur gerade einen, weil das auch zum Teil Sprachbilder waren, die aus dem Ganzen eine Naturkatastrophe gemacht haben, Klammer auf, und für die Können wir halt, also wir haben dann vielleicht nicht einen Deich gebaut, aber eigentlich können wir für die nichts, weil so ist halt die Natur.
Das scheint mir ein bisschen so ähnlich, dann vielleicht in der ähnlichen Kategorie.
Genau, aber ich glaube, selbst das haben wir besser verstanden als diese Maschinen.
Sie sind halt ein bisschen komplizierter, deswegen schreibe ich meine Bücher.
Am Ende reichen so vier bis sechs Stunden Beschäftigung damit aus, um die Technologie ein bisschen zu ver...
Was ich mir wünschen würde, ist, dass wir nicht mehr von die KI reden.
Denn damit ist jetzt eigentlich heute immer Sprachmodell, Sprach-KI-Agent gemeint.
Und das könnte uns als Europa und als Wirtschaftsstandort wirklich schädigen.
Denn das Problem ist, unter dem Begriff KI verstehen wir sowohl eine Forschungsrichtung als die Methoden, mit denen wir versuchen, Computern Dinge beizubringen, die bei einem Menschen Intelligenz erfordern würden.
als auch, und das ist eigentlich die schlimmste Identifikation, die Software, die daraus entsteht.
Und dann kommt etwas Psychologisches dazu.
In der Bevölkerung ist immer das DKI, was gerade am neuesten ist, das, was am meisten Angst macht, das, was man vorher nicht erwartet hat.
Und wenn wir aufhören würden, von DKI zu sprechen, als wäre das eben ein Bewusstsein, als wäre da eine neue Spezies entstanden, sondern stattdessen immer ganz klar benennen, von welcher.
KI-Software reden wir denn eigentlich gerade.
Denn die meisten Hörer und Hörerinnen werden heute Morgen ihr Handy entsperrt haben mit ihrem Gesicht oder mit ihrem Finger.
Das ist auch KI.
Viele haben vielleicht schon eine Sprachnachricht, eine Textnachricht diktiert.
Das ist Umwandlung von Sprache in Text.
Das ist auch ein KI-System.
Und was ich befürchte und was wir in der Historie eben auch schon hatten, ist, wann immer viel zu viel versprochen wurde im Bereich KI, gab es danach einen KI-Winter.
wo sich verständlicherweise private Investoren und der Staat als Investor oder Förderer von Forschung und Transfer stark zurückgezogen haben.
Und das wird wieder passieren, diese Blase wird platzen bezüglich Sprachmodellen.
Aber wenn dann der Staat und private Investoren in die ganzen anderen KI-Systeme, die sehr zuverlässig sind, die in sehr eng begrenzten Feldern wirklich gute Arbeit leisten, wenn wir die gleich mit über Bord schmeißen, das wäre wirklich ein...
ein fataler Fehler und auch deswegen wäre es mir so wichtig, dass wir nicht mehr von IKI sprechen, damit diese Dinge, die gut funktionieren und die, die nicht funktionieren, nicht mit in einen Topf geschmissen werden.
Und das Zweite ist, man könnte bei den Verben, die man dieser Software zuspricht, sie überlegt, sie fasst zusammen, sie analysiert.
konsequent irgendeine Markierung davor setzen.
Und wie gesagt, in meinem Buch habe ich die Tilde vorgeschlagen.
Einfach als visuellen Marker.
Die Maschine tut etwas, das so ähnlich aussieht, ist aber nicht immer leistungsgleich.
Ich würde gerne dann jetzt tatsächlich auch nochmal darauf eingehen, was wir uns dem jetzt auf verschiedenen Ebenen angenähert haben.
Entschuldigung, wenn ich jetzt noch einmal sage, die KI oder ich sage jetzt gleich das, KI-Frontier-Modelle oder sowas.
Aber wie?
Und klug und komm, weil du dich auch am Begriff Reasoning gestört hast, wenn du jetzt mal abkennst und mal einordnen müsstest, wie klug oder kompetent ist denn, Entschuldigung, die KI jetzt heute verglichen mit uns?
Also was ist die auf dem Weg zum Gehirn oder ist sie es nicht?
Und was sind denn wirklich so kategoriale Unterschiede, die bestehen oder nicht mehr bestehen?
Ja, also vielleicht lese ich mal einen Tweet vor von Andrei Karpati.
Der war der Chefingenieur für KI bei Tesla, hat mitgearbeitet an ChatGPT 4.0.
Und wir wissen ja alle, diese Sprachmodelle, darauf aufbauende Chatbots, darauf aufbauende KI-Agentensysteme, Halluzinieren.
Eigentlich müsste man von konfabulieren sprechen.
Halluzinieren bedeutet, man sieht etwas in der Umgebung oder hört etwas in der Umgebung, das...
objektiv nicht da ist.
Konfabulieren heißt, man häkelt über eine Situation, eine Begründung drüber, wo man eigentlich gar nicht genau weiß, warum man drin ist.
Also zum Beispiel, wenn man einen dementen Angehörigen hat und der macht gerade irgendwas Merkwürdiges mitten in der Nacht, schneidet der Gurken, dann kann man fragen, warum machst du das?
Die Person wird es aber selber nicht wissen, wird aber eine plausibel klingende Begründung liefern.
Und deswegen sagt Andrei Carpati, Ich tue mich immer ein bisschen schwer, wenn ich nach dem Konfabulationsproblem bei LLMs gefragt werde.
Also Sprachmodellen.
Denn in gewisser Weise ist Konfabulieren genau das, was LLMs die ganze Zeit tun.
Sie sind Traummaschinen.
Wir lenken ihre Träume mit unseren Prompts.
Die Promts starten den Traum und basierend auf der nebligen Erinnerung des LLMs an seine Trainingsdaten führt dieser Traum meistens in eine nützliche Richtung.
Erst wenn der Traum in ein Gebiet abdriftet, das wir als faktisch falsch bewerten, nennen wir es eine Konfabulation.
Es wirkt dann wie ein Fehler, aber eigentlich ist es nur das, was das LLM immer tut.
Das hat sich nicht wirklich verändert.
Was sich verändert hat, ist, dass die Maschinen inzwischen sehr viel mehr Text produzieren, den wir gar nicht sehen.
Also ihr gebt irgendeine Frage rein.
Ich habe jetzt gestern gesagt, erstelle mir einen technischen Report zur Nutzung des P-Values in der Statistik.
Dann hat die Maschine sehr, sehr lange für sich selber Texte hergestellt.
Und darunter steht dann sowas wie, erstelle zehn Skizzen für so einen Tech-Report.
Dann der nächste Prompt ist, überprüfe kritisch, welche von diesen Strukturen am besten ist.
Und dadurch, dass die Maschine sich selber immer wieder so Aufgaben stellt, zum Textmuster erstellen, kommen tatsächlich bessere Dinge bei raus.
Wir werden da aber nicht weiterkommen.
Diese Art von Technologie wird uns nicht zu AGI führen.
Warum nicht am Ende?
Das sagt Brian Cantwell-Smith, Informatiker, der am Ende seines Lebens Philosoph wurde.
Der sagt, ich weiß jetzt auch nicht, was Intelligenz ist, aber ich habe drei Mindestanforderungen.
Du brauchst ein Weltmodell, das Vorhersagen über das Verhalten der Welt macht.
Das können KI-Systeme ganz gut.
Das ist ja genau das Training, wo wir Ihnen Beispiele zeigen, wie sich die Welt verhält unter bestimmten Bedingungen.
Dann musst du aber deine Vorhersage an der Welt messen.
Und das können Sprachmodelle schon nicht mehr gut.
Die haben keine Sensorik, um zu gucken, ob...
Das, wie die Welt reagiert, passt zu dem, was sie gedacht haben.
Also zum Beispiel Chatschip, die sagt irgendwas Dummes.
Ich sage, das ist völliger Blödsinn.
Dann sagt die Maschine, oh ja, Entschuldigung.
Und dann kann es aber passieren, dass die Maschine genau dasselbe sagt.
Das würde bei einem Menschen nicht passieren, weil wir soziale Scham haben.
Die Maschine ist nicht in die Welt eingebunden, nicht in soziale Regeln eingebunden.
Und nicht zuletzt müsste die Maschine ihr Weltmodell ständig...
klug anpassen an diese Differenz zwischen dem, was sie vorhergesagt hat und dem, was dann passiert ist.
Und das haben diese Sprachmodelle auf jeden Fall im Moment nicht.
Sag mal, woran kann ein Vorstand erkennen oder irgendein Verantwortlicher in einem Unternehmen, dass eine Aufgabe für so ein LLM-Modell, für so ein...
der auf dieser Arbeit fußt, ungeeignet oder zumindest hochriskant ist?
Gibt es da irgendwie so Prüfsteine, die man sich im Kopf vornehmen kann?
Auf jeden Fall.
Sie sind auf der einen Seite ganz einfach und auf der anderen Seite furchtbar schwer.
Man darf eben nicht schon mit dem Ansatz rangehen, ich will jetzt unbedingt was mit KI machen.
Also von wie vielen Leuten ich das gehört habe, wir müssen jetzt modern sein, wir müssen jetzt auch was mit KI machen.
Das war also sozusagen die Prämisse.
Sondern was man stattdessen machen muss, wie langweilig, ist zuerst mal sagen, was habe ich denn überhaupt für ein Problem?
Was will ich denn überhaupt für ein Problem lösen?
Und da kann man zum Beispiel sagen, wie ein großer Telekommunikationsanbieter, wir müssen sehr viel Geld bezahlen für unsere menschlichen Call Agents.
Wir wollen da reduzieren und wir wollen auch, dass es schneller geht für unsere Kunden.
Win-win.
Dann muss man sich fragen, unter welchen Nebenbedingungen, das heißt, wie viel Geld habe ich?
Welche gesetzlichen Nebenbedingungen?
Gibt es alles Mögliche?
Und dann...
muss man technikneutral gucken, welche Lösung die beste ist.
Und das ist eben ganz oft nicht ein Sprachmodell.
Es kann ein anderes KI-System sein, etwas, das man spezifisch für dieses Problem anpasst.
Und das sind auf jeden Fall die ersten drei Schritte und die sehe ich ganz selten.
Dann muss man sich fragen, wie viele...
Anteile an dem Prozess, den ich jetzt ersetzen will, sind wahrscheinlich Standard und wie viel Prozent sind Ausnahmen.
Also sagen wir mal, ich habe einen Prozess, bei diesem Telekommunikationsanbieter waren es nachher 85 Prozent der Anrufe, konnten tatsächlich durch die Maschine mit Sprachmodell automatisch beantwortet werden.
Vorher mit einem Expertensystem waren es nur 50 Prozent.
Jetzt kommt aber die große Realitätsklatsche.
Trotzdem, also die Maschine mit Sprachmodell jetzt 35 Prozent Anteile mehr beantworten konnte, wurden dadurch nur 5 Prozent der Arbeitszeit der Managing Call Agents eingespart.
Also ganz oft ist eben die Einsparung gar nicht so groß, weil Ausnahmen viel, viel länger dauern als Standardfälle.
Und dann gibt es Zahlen, dass sehr viel von dem vermeintlichen Effizienzgewinn durch Nacharbeiten wieder verloren geht, wenn die Maschine eben einen Fehler gemacht hat, nicht zuverlässig war.
Also da gibt es Zahlen, bis zu 40 Prozent der Effizienzgewinne sind nachher wieder zerstört worden.
Und das alles ja unter einem Geschäftsmodell von OpenAI und anderen Firmen, das überhaupt nicht...
Das sind nicht die echten Preise, die man heute bezahlt.
Also ich glaube, wenn man das wirklich einfach ganz langweilig durchrechnet, mal guckt, wie viele Standardfälle haben wir, was können wir an die Maschine geben, wie viele Ausnahmen haben wir, wie viel Zeit kostet die Bearbeitung der Ausnahmen, wen können wir so ausbilden, dass der sehr schnell unterscheidet in, das ist eine Ausnahme, das müssen Menschen machen, das ist ein Standardfall.
Wenn man sich da einfach mal hinsetzt und die Zahlen ordentlich aufschreibt, dann sieht man, glaube ich, ziemlich schnell, ob das...
sich lohnt oder nicht.
Und ich habe den Eindruck, dass die meisten das nicht vorher machen, sondern sich was erzählen lassen, wie gut das nachher sein wird, ohne diese Sanity-Checks vorher durchzuführen.
Und spätestens wenn die Kosten für Token steigen, werden die Fragen vielleicht sogar automatisch häufiger gestellt werden.
Ja.
Ja, aber es wäre ja schön.
Also ich meine, durch KI hat sich… Wenn man es vorher schon hat, klar, wenn man es vorher schon hat.
Es hat sich ja nichts geändert.
Man muss eigentlich immer erstmal sich hinsetzen, was ist unser Problem, was sind die Nebenbedingungen, was ist die beste Lösung.
Also ich meine, wir haben es doch alle bei Blockchain gesehen, oder?
Jeder hat in Blockchain investiert.
Und was ist davon übrig geblieben?
Sehr, sehr, sehr wenig, weil wenn man ehrlich war, bei den allermeisten Problemen eine zentrale Datenbank einfach viel, viel besser, viel zuverlässiger… viel weniger teuer gewesen wäre.
Ich wollte gerade auch wirklich viel günstiger.
Ja, genau.
Und wir sehen im Moment jetzt genau dasselbe, weil eben der Erstkontakt mit diesen Maschinen so beeindruckend ist.
Und je länger man aber in seinem eigenen Fachgebiet bleibt, desto mehr sieht man, so gut sind die nicht.
Sobald man sich was erzählen lässt, was man nicht mehr hundertprozentig überprüfen kann, klingt aber erstmal gut, lässt man sich schnell davon dazu überzeugen, dass man das jetzt auch braucht in der Firma.
Liebe Katharina, ich würde zum Schluss gerne noch auf ein Thema kommen.
Tut mir leid, dass es jetzt nochmal vielleicht ein bisschen gruselig wird, aber es besorgt mich und ist nochmal eine Facette, auf der wir uns natürlich befassen und rumknobeln müssen.
Carsten hat gerade einen Artikel geschrieben mit der Überschrift, die Maschinen sind schon in der Mehrheit.
Es geht darum, wer Content im Netz produziert, wer eigentlich unterwegs ist und klickt auf Seiten, die es eben da gibt.
Also wie viele Bots sind da und wie viele Menschen.
Und daran knüpft sich ja eine ganze Menge an, denn da sozusagen erstellen Bots Inhalte und klicken irgendwo und dann erstellen neue Bots Inhalte aus den Inhalten der Bots, aber auf der Qualität und es wird dann immer mehr.
Und da steht auch der Satz drin, wenn es so weitergeht, dann werden wir Menschen irgendwann ein Rundungsfehler im Internet.
Was wird denn daraus?
Müssen wir uns um unseren ganzen Diskurs, unser ganzes...
sozusagen unseren ganzen Netzaufenthalt da Sorgen machen, weil der aus so einem sich selbstbefeuernden und gar nicht mehr, weil wir da immer mehr vom Selben kriegen und immer mehr sozusagen synthetisiert wird aus Synthetisiertem, aus Synthetisiertem und da hat gesagt, weil wir sozusagen da in ein Umfeld kommen, wo eigentlich permanent die Qualität sinkt und wir Also mir ist sehr unwohl dabei gewesen.
Deswegen musst du das auch leider noch beantworten jetzt.
Kein Problem.
Diese Sorgen passieren immer dann, wenn man Phänomene einzeln betrachtet.
Deswegen haben wir an der RPTU in Kaiserslautern den Studiengang Sozioinformatik entwickelt.
Und die sozioinformatische Antwort auf deine Frage beruht darauf, dass wir uns das gesamte soziotechnische System betrachten.
Denn diese Content Creation, die findet ja nicht im luftleeren Raum statt, sondern es gibt verschiedene menschliche Akteursgruppen, die daran interessiert sind.
Also es gibt immer noch Leute, die das Zeug gucken.
Also mir wird es langsam langweilig auf Instagram, weil ich so viel durchscrollen muss, bis ich zu den Leuten komme, wo ich darauf vertraue, dass die echt sind und dass das ein echter Inhalt ist.
Also immer noch gibt es die.
Es gibt eben die Content Creators, die davon...
profitieren, weil sie Werbemittel in irgendeiner Weise bekommen, weil sie dafür belohnt werden, wenn sie möglichst viele Zuschauer anziehen.
Das heißt, wir haben auch die Werbenden, denen das ja eigentlich auch nicht passen kann, wenn sie dort Werbung machen, wo sie eigentlich gar nicht davon ausgehen können, dass ein Mensch das überhaupt noch sieht.
Wir haben euch als Redakteure und Journalisten, in diesem Fall ein bisschen als Leidtragende.
Und wir versuchen immer, dieses gesamte soziotechnische System dann zu betrachten und rauszukriegen, wo sind jetzt die Hebel, wo könnte man was verändern.
Als ich vor einem Jahr ungefähr beim Bundespräsidenten war, habe ich ihm eine...
eine Lösung mitgegeben, von der ich mir wünschte, dass wir sie heute hätten.
Ich hätte gerne eine sehr, sehr simple Infrastruktur, bei der ich auf all meinen Social-Media-Accounts einen Teil von mir preisgeben könnte.
Wir haben diese Klarnamenspflicht-Diskussion, das wollen wir nicht.
Klarnamen sind schwierig.
Ich würde aber schon wollen, dass die Plattform rauskriegen kann, wer ich eigentlich bin.
Und ich würde gerne meinen meinen Followern einen Teil meiner Persönlichkeit offenlegen.
Also zum Beispiel, wenn ich über Politisches rede, fände ich es ganz interessant, wenn ich preisgeben kann, ob ich hier überhaupt wahlberechtigt bin oder nicht und wenn das auch authentifiziert würde.
Das heißt, ich glaube, wir brauchen eine Infrastruktur, wo wir als Menschen im Internet auftreten und Teile unserer Persönlichkeit authentifizieren können, sodass wir damit legitimieren können, dass wir über dieses Thema jetzt auch wirklich reden können.
Zweitens ist es natürlich so, dass die Bots immer schlechter werden werden, je mehr selbstgemachte Texte sie haben.
Und deswegen müssen wir da auch einfach nur ein bisschen Geduld haben.
Bis dahin brauchen wir aber noch eine Lösung für bezahlbaren Journalismus.
Auch dafür habe ich Herrn Steinmeier damals eine Idee mitgegeben.
Es wird schon heute eine Mehrwertsteuer abgeführt auf die Anzahl der generierten Token.
Warum nicht auch eine?
Eine weitere Steuer oder Abgabe oder wie auch immer man das dann juristisch umsetzt, die zum Beispiel unabhängigem Journalismus zugutekommen könnte für journalistische Projekte in Form einer Stiftung oder ähnliches.
Auch damit könnten wir wieder mehr Geld in diesen so wichtigen Markt bringen.
Sagt Katharina Zweig, die, wie ich eingangs gesagt habe, wohl bekannteste KI-Forscherin Deutschlands.
Liebe Katharina, vielen Dank dir für deine Einsichten, Einschätzungen.
Und die ganze Diskussion über dieses sehr dramatische Feld gerade, weil wir alle das Gefühl haben und ich glaube zu Recht, dass wir an einem ganz wichtigen Punkt sind in dieser Technologie, wenn es darum geht, sie erstens weiterzuentwickeln und zweitens zu besprechen und drittens auch sinnvoll zu nutzen.
Vielleicht als ein letzter Hinweis, den machen wir jetzt einfach mal, auch wenn es werblich ist, aber das kann sowieso jeder nachgucken, wer mehr von Katharina Zweig.
Wissen möchte, das aktuellste Buch heißt Weiß die KI, dass sie nichts weiß, ist im Heine Verlag erschienen.
Und Ihnen, liebe Hörerinnen und Hörer, vielen Dank, dass Sie einmal mehr eingeschaltet haben.
Machen Sie es gut und bis in der kommenden Woche.
Tschüss.
Tschüss.
Tschüss.