# Predatory Publishing and AI Data Integrity Risks

**Podcast:** Tech and Tales
**Published:** 2026-10-31

## Transcript

Tech and Tales.
Dass niemand fragt, wo ist denn der Beleg dafür?
Die Wissenschaft belegt das so, jetzt ist da jemand anderes, der sagt, das ist ganz anders, aber der muss das gar nicht belegen, der darf das trotzdem behaupten.
Das hat mich wirklich überrascht.
Und das war ein Zitat von Christian Drosten aus einem Interview mit dem NDR vom 18.
August 2024.
Und damit heiße ich euch herzlich willkommen zur Tech and Tales.
Denn spätestens seit Corona wissen wir alle, was The Lancet ist.
Christian Drosten hat uns mehrfach darauf hingewiesen und er hat viel zitiert.
Und wir wurden alle in der Zeit selbst zu kleinen Wissenschaftlern.
Hitzige Debatten wurden ausgelöst und es gab grundsätzlich immer die Frage, ob wir der Wissenschaft überhaupt noch glauben können.
Deswegen sprechen wir heute darüber, nämlich um genauer zu sein über das wissenschaftliche Publizieren.
Denn insbesondere seitdem es künstliche Intelligenz gibt, sind...
Publikationen durch die Decke gegangen.
Allein in Archive, also das ist wie das schwarze Brett der Wissenschaftler, es wird geschrieben A-R-X-I-V.
Die haben das eigentlich das deutlichste Beispiel genannt, nämlich im September 2016 ging dort an die 9.800 Einreichungen ein und im September 2024 waren es schon über 20.000 so.
Und im September 26 liegen wir bei 40.000.
Das heißt, Innerhalb von zwei Jahren haben sich die Einreichungen verdoppelt und in der Informatik sogar versechsfacht.
Also das einfache Publizieren hat natürlich auch seine Schattenseiten.
Es gibt jede Menge Influencer, die pseudowissenschaftlich Rat geben.
Eine medizinische Influencerin Alina Wahlbrunn wurde gerade dabei erwischt, wie sie ein Symptom oder ein Syndrom beschrieben hat.
Das hieß die postvirale nasale Hypersensibilität.
Sie ist dabei reingefallen auf jemanden, der ihr...
dafür Geld gezahlt hat, diesen Post zu machen.
Das Syndrom gab es gar nicht und sie ist auch keine Ärztin.
Inzwischen entwickelt die Staatsanwaltschaft München 2 dagegen, dass sie gesagt habe, dass sie Ärztin sei und so weiter.
Also es gibt viel Schattenseiten.
China hat es inzwischen nicht oder hat es inzwischen verboten, dass sich Menschen, die wissenschaftlich meinen, publizieren zu dürfen und sprechen zu dürfen, dass die sich in der Öffentlichkeit äußern beziehungsweise als Influencer betätigen.
Aber um alles zu besprechen, habe ich einen Experten da.
Mein Gast heute ist nämlich Till Krause.
Till ist Professor für Medien und Kommunikation an der Hochschule Landshut und hat gemeinsam mit der Journalistin Svea Eckert das Buch Im Netz der Täter geschrieben.
Svea war vor drei Folgen bei mir und hat super interessant über Cybercrime gesprochen.
Till und Svea haben ein Kapitel über das wissenschaftliche Publizieren bzw.
pseudowissenschaftliche Publizieren geschrieben.
Aber erst einmal, sorry für die lange Rede.
Till, stell dich doch einmal kurz vor.
Ja, also erstmal vielen Dank natürlich für die Einladung hier.
Mein Name ist Till Krause.
Ich bin Professor, wie du schon richtig gesagt hast, für Medien und Kommunikation an der Hochschule Landshut.
War selber vorher auch jahrelang Journalist, vor allem beim Süddeutsche Zeitung Magazin, aber auch beim BR.
habe ich lange Jahre investigativ gearbeitet, investigative Recherchen gemacht, unter anderem zum Thema das große Geschäft, wir haben es, glaube ich, genannt, das Milliardengeschäft mit Fake Science, also mit gefälschter oder manipulativer oder zumindest unehrlicher und unredlicher Wissenschaft und haben das ganze Thema natürlich seitdem weiterverfolgt und jetzt auch in ein Buchkapitel eben gebracht in unserem Buch im Netz der Täter.
Ja, super interessant.
Also es ist extrem lesenswert.
Ich habe es sehr, sehr, sehr gerne gelesen.
Erklär einmal ganz kurz das Geschäftsmodell hinter dem wissenschaftlichen Publizieren, weil bevor ich euer Buch gelesen habe, war mir das nämlich nicht klar, wie lukrativ das Geschäft ist.
Genau, also wir alle denken ja beim Thema wissenschaftliches Publizieren vielleicht an so eine Art Non-Profit.
Forschende Wissenschaftlerinnen, wie jetzt ich als Professor, finden irgendwas Tolles raus, ein großes Experiment, haben schöne Ergebnisse und dann ist es natürlich wichtig, dass diese...
Ergebnisse auch an die Öffentlichkeit kommen, dass sozusagen sowohl andere Kolleginnen, andere Forschende das Ganze überprüfen können, sich ihre eigene Meinung bilden und so dann eben zum gesamten Wissensschatz der Menschheit beitragen.
Und wir alle verdanken der Wissenschaft ja unglaublich viel.
Ich denke, die wenigsten von uns wären möglicherweise...
ohne die Erkenntnisse der modernen Wissenschaft überhaupt noch am Leben.
Wir wären vielleicht bei der Geburt schon gestorben oder ein entzündeter Zahn oder irgendeine Blinddarmentzündung hätte uns dahin gerafft.
Also wir verdanken unsere Existenz der Wissenschaft.
Aber das sozusagen, wie man diese Erkenntnisse, die man gewonnen hat, mit der Öffentlichkeit teilt, ist tatsächlich etwas, über das viele in der Öffentlichkeit gar nicht so viel wissen.
Das funktioniert nämlich so, ich finde was Tolles raus, möchte das veröffentlichen.
Das heißt, häufig als Professor werde ich ja aus öffentlichen Geldern bezahlt, entweder weil ich Beamter bin oder weil ich eben im öffentlichen Dienst tätig bin.
Und meine Forschungstätigkeit ist quasi Teil meines normalen Jobs.
Das ist schon bezahlt, oft aus Steuergeldern.
Dann möchte ich diese Ergebnisse mit der Öffentlichkeit teilen.
Das heißt, ich reiche sie bei einem sogenannten wissenschaftlichen Journal zum Beispiel ein.
Das sind so Fachpublikationen, in denen die neuesten wissenschaftlichen Ergebnisse zu finden sind.
Dafür bekomme ich meistens kein Geld oder in den allermeisten Fällen als Wissenschaftlerin, Wissenschaftler kein Geld.
Wie zum Beispiel bei The Lancet, da reiche ich das ein, weil ich mir eben davon erhoffe, dass meine Wissenschaft damit ein großes Publikum erreicht oder zumindest ein Fachpublikum und diese Ergebnisse eben als veröffentlicht auch gelten.
Das müssen sie teilweise, wenn ich zum Beispiel Förderanträge bekommen habe, meine Forschung aus öffentlicher Hand zum Beispiel finanziert ist, dann ist es häufig, geht es damit einher, dass dann die Ergebnisse auch irgendwo publiziert sein müssen.
Ist ja auch gut.
Das muss ja irgendwie die Öffentlichkeit auch sehen.
Das Problem bei dem Geschäftsmodell ist eben nur, ich werde sozusagen für das Schreiben und Einreichen dafür nicht bezahlt.
Damit dieses Paper dann erscheinen kann, wird es in einem sogenannten Peer-Review-Verfahren überprüft.
Peer-Review heißt nur von Peers, also sozusagen die Gleichgestellten.
Das sind dann andere Forschende, Forscherinnen, Forscher damit beschäftigt.
diese Einreichung zu prüfen, sich genau anzuschauen, ist die Methode stimmig, sind die Datensätze korrekt.
Man reicht da häufig ja auch noch viel mehr ein als nur den eigentlichen Text.
Man gibt seine ganzen Daten sozusagen dort ab, damit es eben unabhängig überprüft werden kann.
Auch das ein wichtiger guter Prozess, eine Qualitätskontrolle.
Das machen aber in den meisten Fällen eben nicht, wie es vielleicht Leute, die sich nicht so damit auskennen, vielleicht denken würden, sage ich mal, Fachpersonal dieser jeweiligen Journals, die sagen, ja, ähnlich wie vielleicht eine Zeitung oder einen Fernsehsender, haben wir bezahlte Redakteurinnen und Redakteure, deren Job ist es jetzt, diese Einreichungen zu überprüfen, ob alles stimmt, ob das so veröffentlicht werden kann.
Das ist in der wissenschaftlichen Publikation nicht so.
Das heißt, da werden die Leute, machen das als Ehrenamt.
Also andere Professorinnen und Professoren machen das quasi in ihrer Freizeit oder eben in ihrer...
sozusagen aus öffentlicher Hand bezahlten Arbeitszeit, überprüfen das quasi mehr oder weniger ehrenamtlich, weil es auch ein bisschen ein Renommee ist, weil man sagen kann, meine Meinung zählt, ich darf mir das alles anschauen, ich darf das überprüfen, in diesem Peer-Review-Prozess.
Dann erscheint es in diesen Journals, aber diese Journals sind dann eben in den meisten Fällen Nicht gratis, weil man ja sagen würde, okay, ist ja eigentlich super.
Die Professoren sind aus öffentlichen Geldern bezahlt, die Forschung ist höflich aus öffentlichen Geldern bezahlt, diejenigen, die es überprüfen, sind aus öffentlichen Geldern bezahlt.
Aber die Ergebnisse sind dann meistens hinter einer Paywall.
Also das heißt, man muss sehr viel Geld bezahlen, um dann diese Forschungsergebnisse sehen und lesen zu können.
Und diese Forschungsergebnisse, um die sehen zu können, haben dann zum Beispiel häufig die Bibliotheken von Universitäten oder von anderen Forschungseinrichten.
Abonnements dieser Zeitschriften, dieser wissenschaftlichen Journale, die auch sehr, sehr, sehr viel kosten.
Wir sind hier schnell bei mehreren hunderttausend Euro, die sozusagen solche gesamten Pakete dann kosten, die dann wiederum, dreimal raten, woher dieses Geld kommt, auch wieder aus öffentlichen Geldern bezahlt wird.
Also das heißt, aus Steuermitteln finanzierte Forschende überprüfen, Mit Steuermitteln das Geld, was sozusagen die Forschung von anderen und das Ganze erscheint dann in Journals, die ich nur lesen kann, wenn meine Universität aus Steuermitteln, wie es ja häufig an öffentlichen Universitäten dann der Fall ist, diese Abos bezahlt.
Also die Öffentlichkeit bezahlt quasi dreifach für diese Ergebnisse und die wahren Gewinnenden daran sind sozusagen die Journals selber, die zum Teil unglaublich viel Geld damit verdienen, weil die quasi...
wenig für Arbeitskosten ausgeben müssen und viel Geld quasi aus öffentlicher Hand oder auch aus, wenn es eine private Universität ist, dann aus Studiengebühren etc.
dafür bezahlen, um diese Ergebnisse dann sehen zu können.
Das ist ein Modell, was so lukrativ ist.
dass die teilweise mehr operative Marge haben, also eine Gewinnmarge, die höher ist als bei vielen Tech-Konzernen.
Da gab es gerade erst wieder eine Untersuchung, die zum Beispiel zeigt, dass Elsevier, das ist einer der größten wissenschaftlichen Publikationshäuser, also hat insgesamt einen operativen Gewinn von 1,1 Milliarden.
Pfund bei drei Milliarden Pfund Umsatz gemacht.
Das ist eine Marge von 38,4 Prozent.
Also da können die allermeisten Firmen in der Form nur davon träumen.
Also ein super, super lukratives Geschäftsmodell.
Ja und dazu, also wenn man sich die operative Marge von Microsoft und Meta anguckt, zum Beispiel im Vergleich nur, die Microsoft hat 45,6 Prozent und Meta 41,4.
Das heißt, es ist nah dran.
Ich finde das schon bemerkenswert, wie das sein kann.
Also wie kann es denn sein, dass diese wissenschaftlichen Verlage quasi profitabler sind als die wertvollsten Konzerne der Welt?
Naja, das liegt unter anderem daran, dass sie halt für die Leistung, die sie teuer verkaufen, selber sehr wenig bezahlen.
Weil wie gesagt, sowohl die Autorinnen, Autoren als auch diejenigen, die es überprüfen, das quasi umsonst machen.
Also es ist eigentlich ein klassisches Modell.
Die Risiken sind quasi vergesellschaftet und der Gewinn ist privat.
Ihr habt, also ihr, du und Sphere, ihr habt euch, um quasi tiefer einzusteigen in das Geschäft der wissenschaftlichen Publikationen, seid ihr eingetaucht in die Welt.
Da es auch nicht so einfach ist überhaupt, in diese großen Publikationen wie The Lancet und so weiter zu kommen, muss man in den kleineren Papers publizieren.
Ich weiß es selber, ich promoviere gerade, das heißt, ich habe...
selber gerade ein Paper veröffentlicht und in diese AAA-Paper oder auch Konferenzen, das ist ja das nächste, sozusagen nächste Instanz, um da reinzukommen, muss es schon sehr Hand und Fuß haben, es muss gut geschrieben sein, es wird peer-reviewed, also es ist gar nicht so trivial, wie man meinen würde.
Aber erzähl einmal ganz kurz, was ihr getan habt, um da einzusteigen sozusagen.
Wir haben uns selber sozusagen versucht, Pseudowissen als Wissenschaft auszugeben.
Weil es ist ja tatsächlich so, dass wenn etwas diesen Stempel des Wissenschaftlichen hat, dann hat es in der Gesellschaft natürlich einen großen Widerhalt.
Zu Recht, wie wir ja vorhin schon gesagt haben, wir wären möglicherweise ohne die Erkenntnisse der modernen Wissenschaft schon gar nicht mehr am Leben.
Und während in vielen gesellschaftlichen Bereichen das Vertrauen wegbricht, in Kirchen, in Gewerkschaften, in Medien, ist das Vertrauen in die Wissenschaft noch vergleichsweise hoch.
Und das ist auch sehr, sehr gut so.
Das heißt, sobald etwas das Label Wissenschaft hat, ist es per se erstmal glaubwürdiger.
Dann haben Svea und ich uns gedacht, naja, da gibt es doch sicherlich auch Leute, die das versuchen auszunutzen, die sozusagen dieses Label der Wissenschaft quasi zum Verkauf anbieten.
Weil wie du richtig sagst, um in ein richtiges, gutes wissenschaftliches Journal zu kommen, ist ein riesengroßer Aufwand.
Dieses Peer Review ist ein sehr aufreibender Prozess.
Wir alle kennen das.
Ich kenne das aus meiner eigenen Publikationspraxis natürlich auch.
Dann werden Paper abgelehnt oder es gibt ganz, ganz viele Wünsche und Kommentare.
Das ist wirklich sehr, sehr aufwendig, Zeit und Energie aufwendig.
Das heißt, wir haben herausgefunden, dass es auch einen ganz, ganz einfachen Weg gibt, das Ganze zu umgehen.
Das heißt, um letztlich alles, was einem so einfällt, jederzeit veröffentlichen zu können in Papern, die auf den ersten Blick sehr seriös wirken, wie echte Wissenschaft.
Und die man da sozusagen einfach nur gegen Zahlung einer gewissen Gebühr drin veröffentlichen kann.
Da wurden wir durch einen Tippgeber darauf aufmerksam gemacht, der aus Versehen bei sowas gelandet ist.
Der hatte sich bei uns gemeldet und gesagt, ich war auf so einer ganz, ganz weirden Konferenz.
Schaut euch das doch mal an als Journalistinnen und Journalisten.
Das haben wir gemacht vor einigen Jahren schon, gemeinsam mit vielen tollen Kolleginnen und Kollegen von der Süddeutschen Zeitung und vom Norddeutschen Rundfunk, sind wir in dieses Gewerbe der sogenannten Scheinwissenschaft, der Scheingeschäft sozusagen, ins Scheingeschäft mit der Wissenschaft eingestiegen und haben uns dafür selber...
als Wissenschaftlerinnen und Wissenschaftler verkleidet.
Jetzt muss man sagen, jetzt mittlerweile bin ich ja auf eine Professur berufen worden.
Das war ich damals noch nicht.
Da habe ich sozusagen nicht professionell als Wissenschaftler gearbeitet.
Wir haben dafür ein Fake-Institut gegründet, das IFABIA-Institut, Institute for Applied Industrial Basic Research mit einer Fake-Website, haben uns selber...
Tarnnamen gegeben.
Das war Isabella Stein und ich war Professor Richard Funden.
Also wenn man das abkürzt, Professor R.
Funden, also Professor R.
Funden.
So kleine Gags konnten wir uns, danke schön, so kleine Gags konnten wir uns da doch nicht verkneifen.
Und haben uns dann tatsächlich einfach ein Paper komplett ausgedacht.
Wir haben uns sozusagen so getan, als hätten wir eine Therapie gegen Krebs erfunden.
Und zwar wirklich mit dem ernsten Hintergrund, dass es solche Paper ja wirklich gibt.
Also es gibt Firmen, die in betrügerischer Absicht irgendwelche wirkungslosen Quatschsubstanzen als angeblich wissenschaftlich geprüfte Therapien auf den Markt bringen, um dann eben zu sagen, ja, hier sind wissenschaftliche Veröffentlichungen dazu.
Der Unterschied ist halt nur, dass diese angeblichen wissenschaftlichen Veröffentlichungen nicht in echten Journals veröffentlicht wurden, über die wir ja gerade schon gesprochen haben, mit Peer Review etc., sondern in sogenannten Raubverlagen.
Das klingt wie Räuber, die ja sozusagen irgendwo im dunklen Wald sitzen, um einen zu überfallen.
Und so unterschiedlich ist es gar nicht.
Das sind häufig Paper, die auf den ersten Blick so wirken, als seien sie seriöse Wissenschaft.
Die tragen auch seriöse Titel, sehen auf den ersten Blick...
nichts anders aus als echte wissenschaftliche Publikationen.
Da sind Diagramme drin, die haben so dieses ganz bestimmte Layout, wie es wissenschaftliche Publikationen eben haben.
Mit dem einzigen Unterschied, dass dort dieses Peer Review, also dieser aufwändige Prozess der Faktenüberprüfung, einfach wegfällt.
Das heißt, man kann dort alles einfach einreichen, was auch immer man möchte und am Ende erscheint es in so einem Pseudo-Journal, was dann auf den ersten Blick so aussieht wie Wissenschaft.
Und das haben wir gemacht.
Wir haben da sozusagen einen völlig wirkungslosen Wirkstoff aus so Bienenharz, Propolis, genommen und haben dann einen Journal-Artikel dazu verfasst, in dem eben drin steht, dass der gegen Brustkrebs äußerst wirkungsvoll ist und gegen Darmkrebs auch.
Also sozusagen ein wirkungsvolles Krebsmedikament, was in Wirklichkeit kompletter Quatsch ist, haben wir uns alles nur ausgedacht.
Haben auch in der Methodik gesagt, letzten Endes, in so Pseudo-Fachsprache, dass die Methodik eigentlich nur darauf basiert hat, dass wir so lange Leute eben gefragt haben, ob es ihnen jetzt besser geht, bis sie sagen, ja, um Gottes Willen, es geht uns jetzt besser.
Wir haben ein Kinderbuch als Quelle genannt, um sozusagen unsere wissenschaftlichen Aussagen damit zu stützen.
Also wir haben mit Absicht so Dinge eingebaut, die bei jeder Form der Überprüfung sofort aufgefallen wären.
Aber es wurde nichts überprüft.
Dieses Paper ist dann sofort erschienen.
Wir haben eine Rechnung bekommen über knapp 2000 Euro, die wir bitte bezahlen sollen, um dieses Paper zu veröffentlichen.
Das haben wir einfach nicht gemacht, haben sie einfach ignoriert.
Dann wurden die Mails immer verzweifelt.
Now with a discount, nur noch 1000.
Irgendwann waren es, glaube ich, noch 100 Dollar, die die von uns haben wollten.
Selbst die haben wir nicht bezahlt.
Und das ist dann trotzdem so erschienen.
Das heißt, wenn wir jetzt böshaft wären, bösartige Menschen, Hätten wir jetzt theoretisch dieses angebliche Wundermittel für Krebs verkaufen können online mit dem Argument, hier schaut mal, es gibt wissenschaftliche Studien dazu.
Jetzt ist es natürlich so, dass echte Wissenschaftlerinnen und Wissenschaftler sich von sowas natürlich nicht so leicht blenden lassen.
Ganz klar, von diesem angeblichen Krebsjournal, das war das Journal of Integrative Oncology, haben echte Forschende noch nie gehört.
Kein Wunder, denn das ist ja auch kein echtes wissenschaftliches Journal.
Aber darum geht es ja bei diesem Geschäft gar nicht.
Da geht es ja darum, dass die Leute, die vielleicht selber todkrank sind und bei denen vielleicht verschiedene Therapien schon nicht mehr richtig anschlagen, selber verzweifelt auf die Suche nach Hilfe ins Internet gehen, dort dann auf solche Studien vielleicht stoßen, die sie selber möglicherweise nicht überprüfen können und dann vielleicht einfach mit einem Klick so ein Medikament bestellen, was sozusagen so tut, als wäre es wirkungsvoll, aber in Wirklichkeit ist es das gar nicht.
Und es gibt Fälle, wo genau das auch passiert ist, wo Menschen sich auf genau solche wirkungslosen Medikamente verlassen, teilweise auch ums Leben gekommen sind.
Dieses ganze System wollten wir eben jetzt nicht nur von außen aufzeigen, sondern wirklich...
haarklein den Prozess dokumentieren, wie es dazu kommen kann.
Und wie gesagt, dieses Paper wurde angenommen und wir hätten dann sofort loslegen können, dieses gefährliche Medikament letzten Endes, was ja wirkungslos ist, dann unter dem Deckmantel der Wissenschaftlichkeit zu verkaufen.
Aber ihr seid doch nach London geflogen und habt sogar vorgetragen, oder?
Genau, wir haben dann sozusagen das Ganze noch immer weitergeführt.
Wir sind dann zusätzlich noch auf eine Konferenz gefahren.
Die gibt es auch.
Also das sind ja die beiden, wer jetzt nicht so in der Wissenschaftsbubble unterwegs ist, das sind ja so die beiden quasi großen Foren, die es gibt für wissenschaftliche Forschung.
Das eine ist die Veröffentlichung in einem Journal oder in einem wissenschaftlichen Organ.
Und das andere sind eben wissenschaftliche Vorträge auf wissenschaftlichen Konferenzen.
Da gibt es eben auch solche Scheinkonferenzen, Raubkonferenzen, die genau das Gleiche tun, nämlich vorgeben, wissenschaftlich zu sein, vorgeben, zu prüfen, was da alles eingereicht wird.
Aber in Wirklichkeit kann da einfach jeder hinkommen, die Konferenzgebühr bezahlen.
Ich glaube, es waren 300 oder 400 Dollar.
Und dann dort...
den noch so größten Quatsch erzählen und trust me, wir haben da den allergrößten Quatsch erzählt.
Das war Svea gemeinsam mit Peter Hornung, einem geschätzten Kollegen vom NDR.
Ich war selber auch dabei als Zuschauer, haben wir uns da vorne dann sozusagen hingestellt und ein letztlich, ja, mit so einem Paper-Generator, also so einer Vorstufe von generativer KI, erzeugtes völliges Nonsens-Paper zu erzählen.
Da stand zum Beispiel drin, dass wir als Methodik alte Nintendo Game Boys verwendet haben und in Reihe geschaltet und damit unsere Messdaten durchgeführt.
Wir haben irgendwelche Plato-Zitate erfunden.
Also das war hart, nicht selber in Lachen auszubrechen beim Vortragen dieses völligen Nonsens auf dieser Konferenz.
Aber es wurde da einfach so durchgewunken.
Also wir konnten uns da hinstellen und einfach diesen ganzen Unsinn erzählen, also Svea und Peter.
Und auch da hätten wir im Anschluss eben sagen können, ja Moment mal, was wir hier erzählt haben, ist ja nicht einfach irgendwas, sondern das wurde auf einer großen wissenschaftlichen Konferenz in London vor Fachpublikum präsentiert.
Dass die Wahrheit ganz anders aussah, dass wir einfach irgendwas hingeschickt haben, eine Konferenzgebühr bezahlt und uns dann in einem Raum wiedergefunden haben, der so eine Mischung aus Stromberg und irgendwie Betrugsfabrik war.
Das muss man ja nicht dazu sagen, weil viele der Leute, die auf dieser Konferenz waren, sind tatsächlich reingefallen.
Also die haben quasi so einen Aufruf gesehen, wir haben eine wissenschaftliche Konferenz, geht doch dahin und präsentiert eure Forschungsergebnisse.
Die haben das gemacht, haben die Gebühr bezahlt, sind da hingefahren, in der Hoffnung jetzt einen wissenschaftlichen Vortrag zu halten und haben gemerkt, es war ein Hotel am Stadtrand, abgedunkelt.
Es gab so schlechten Maschinencafé und in dem Raum waren vielleicht so zehn Forschende aus verschiedensten Disziplinen, die überhaupt keine Berührungspunkte hatten.
Also da war irgendein Gebäudestatiker neben einem Theaterwissenschaftler und wir mittendrin mit unserem Fake-Gameboy-Paper.
Da gab es keinerlei Berührungspunkte und die Leute, viele wurden einfach angeschmiert.
Einer hat uns danach aber auch gesagt, so im Vertrauen, naja, ich habe mir schon gedacht, dass diese Konferenz hier Quatsch ist, aber erstens stehe ich als Forscher unter dem großen Publikationsdruck.
Also die akademische Welt ist teils ja wirklich knallhart, da muss man ganz viel Publikationen vorweisen, um dann befördert zu werden oder eine richtige Professur zu bekommen etc.
Das heißt, viele nutzen das aus und sagen, naja, ich versuche jetzt vielleicht damit.
meine Publikationsliste so ein bisschen aufzublähen.
Ein anderer hat, wie gesagt, gesagt, er wusste schon, dass das eigentlich Quatsch ist, aber seine Hochschule bezahlt ihm halt die Reisekosten, wenn er auf eine Konferenz geht.
Die schauen sich das nicht so genau an.
Und so konnte er halt dann mal schön nach London reisen und da halt ein paar Tage Urlaub machen.
Was ja letztlich auch, wenn man so will, aus öffentlichen Geldern in vielen Richtungen bezahlt ist, weil es ja häufig Steuergelder sind, die so eine Forschung dann finanzieren.
Also das heißt, es ist ein System, was quasi so parasitär etwas ausnutzt.
Was viele Forschende betrifft, nämlich einen großen Publikationsdruck.
Die Gebühren, die man dafür bezahlt und die Reisekosten, zahlen die wenigsten dieser Forschenden ja selbst.
Die kommen ja von der Uni oder von irgendwelchen Forschungsinstituten oder von Drittmitteln, die man eingeworben hat.
Also das ist nicht das private Geld, was man da reinsteckt.
Und das sitzt dann natürlich auch lockerer.
Also das ist quasi eine ganze Industrie, die darum entstanden ist, entweder...
sage ich mal, gutgläubige Forschende auszunutzen und ihnen das Gefühl zu geben, oh cool, ich darf jetzt auf einer Konferenz in London präsentieren.
Oder eben Leute, die da sehr abgezockt sind und sagen, ich weiß schon, dass das Quatsch ist, aber entweder will ich damit ein...
Produkt sozusagen verkaufen unter dem Deckmantel der Wissenschaft oder ich will mir einfach nur eine schöne Zeit machen.
Diese Konferenzen sind in tollen Städten, in London, in Paris, in Singapur, in New York und fahre einfach quasi auf Steuer- oder auf Unikosten halt dahin, erzähle da in einem leeren Raum irgendwelchen Quatsch für zehn Minuten und den Rest der Zeit habe ich frei.
Also sowas gibt es auch.
Ich finde es nach wie vor unglaublich.
Was war sozusagen die Geburtsstätte für diese Raubverlage oder Raubkonferenzen?
Woher kommt das eigentlich?
Also das ging vor einigen Jahren los, als eben die ersten Leute erkannt haben, dass das eigentlich eine extrem lukrative Ressource ist.
Menschen, die unbedingt veröffentlichen wollen, die ganz dringend auf der Suche sind nach Veröffentlichungen, die dafür bezahlen, auch hohe Gebühren, weil es nicht ihr eigenes Geld ist und dass sich das sozusagen so ausnutzen lässt.
Also das ist nicht erst jetzt sozusagen durch die Online-Welt entstanden, das ging vorher auch schon los.
Man muss sich dafür überlegen, dass ja quasi...
Diese Raubkonferenzen, diese Raubverlage sind sozusagen sowas wie der dunkle Zwilling, das dunkle Geheimnis der echten Verlage sind.
Weil, wie wir ja vorhin schon gesagt haben, auch das seriöse wissenschaftliche Publizieren ist ja in vieler Hinsicht auch schon ein Skandal, wo sozusagen die Öffentlichkeit mehrfach für etwas bezahlen muss.
Und derjenige, der sozusagen das ganze Modell erfunden hat, also das moderne Verlagswesen der Wissenschaft oder einer der Miterfinder, ist ein Brite namens Robert Maxwell.
Der hat in den 1950er Jahren damit losgelegt.
Wie gesagt, wir reden hier vom seriösen Publizieren.
Also nicht von diesen Raubverlagen, die wirklich einfach shady Betrüger sind, sondern von dem großen Milliardengeschäft mit Peer Reviews und Forschung, die man dann eben bezahlen muss, um sie lesen zu können.
Dieser Robert Maxwell hat damit eben in den 50ern angefangen.
Selber eine sehr schillernde, interessante Figur, der sich quasi nach dem Zweiten Weltkrieg quasi neu erfunden hat, mit einem neuen Namen, einer neuen Identität, so einem künstlich antrainierten British Accent, also der so sehr Gentleman-like aufgetreten ist.
Ist dann sehr schnell zu Geld gekommen, indem er sich Zeitungen zum Beispiel gekauft hat, dem hat der Daily Mirror gehört, war dann auch Abgeordneter für Labour, also sozusagen ein super etablierter britischer Mann der besseren Gesellschaft.
Ganz kurz, er ist auch als ganz einfacher, armer, junge Geburtser.
Genau, der ist als ein armer Junge geboren worden in Osteuropa, jüdischer Herkunft, ist dann sozusagen vor den Nazis geflohen, hat sich den Briten angeschlossen, hat dann für die Briten im Zweiten Weltkrieg gekämpft und nach dem Zweiten Weltkrieg hat er sich dann sozusagen als Robert Maxwell neu erfunden, wirklich so wie man sich so einen klassischen...
britischen Dandy vorstellt, also super gekleidet mit so einem ganz tollen britischen Akzent, also hat einen großen Eindruck gemacht als Person.
Hat dann, wie gesagt, ist dann kometenhaft aufgestiegen in der englischen Gesellschaft als Abgeordneter, als super reicher Eigentümer großer Zeitungen.
Und der hat eben als erster dann mit Pergamon Press erkannt, dass das eigentlich eine fantastische Ressource ist.
Forschende wollen unbedingt Ergebnisse publizieren.
Andere Forschende wollen unbedingt für ihre Renommee Peer Review machen und sagen, ich bin derjenige, der entscheiden darf, was veröffentlicht wird in so einem Verlag und was nicht.
Alle kriegen kein Geld dafür und die Universitäten sagen, wir wollen unbedingt die neuesten Forschungsergebnisse haben, koste es, was es wolle, also bezahlen wir diese hohen Publikationsgebühren.
Also der war der erste oder einer der ersten, die diesen gigantischen Markt eigentlich erkannt haben.
Und wie gesagt, hier sind wir noch im...
ehrlichen Part dieses Ganzen.
Hier sind wir nicht bei den Raubverlegen, wo man alles veröffentlichen kann.
Der hat es erkannt.
Irgendwann fiel auf, dass dieser Robert Maxwell in vielerlei Hinsicht sehr, sehr ja, sage ich mal, kreativ gewirtschaftet hat.
Er hat bis zu 440 Millionen Pfund unterschlagen aus den Pensionskassen der eigenen Angestellten, ist dann in den 90er Jahren auf tragische Art und Weise ums Leben gekommen.
Er ist nämlich von seiner großen Yacht gestürzt und dann im Meer ertrunken.
Und diese Yacht hieß interessanterweise Lady Ghislaine.
Ja, ich hoffe, ich spreche es richtig aus.
Ghislaine, glaube ich.
Ghislaine, genau.
Also die Yacht hieß Lady Ghislaine nach Ghislaine Maxwell, seiner Tochter.
Die wir ja wahrscheinlich alle durch die Epstein-Prozesse kennen.
Also sozusagen die mitbelastete, mitangeklagte im Fall Epstein ist die Tochter des Mannes, der sozusagen diese Publikationspraxis erfunden hat.
Die dann Jahre später eben durch diese Raubverlage nochmal eine zusätzliche Ebene an Wahnsinn eigentlich, wenn man so will, bekommen hat.
mit eben dem Label, dass man dort alles einreichen und alles veröffentlichen kann.
Und das war noch bevor die künstliche Intelligenz kam, die jetzt alles nochmal komplett neu auf den Kopf stellt.
Also ich finde diese Geschichte sagenhaft.
Weiß man sicher, dass er in den Tod gestürzt ist und nicht gesprungen ist?
Weiß man sowas?
Da gibt es unterschiedliche Aussagen.
Ich meine, er hätte möglicherweise einige Gründe gehabt, weil er, wie gesagt, als nach seinem Tod dann die Bilanzen offengelegt wurden, man gesehen hat, dass ganz viel seines großen, sage ich mal, Imperiums auf Betrug basiert.
Dass er ganz viel Geld sich so Ponzi-Scheme-artig von der einen Seite genommen hat, um auf der anderen Seite Löcher zu stopfen.
Inwiefern das sozusagen ein Suizid war oder ein anderer Versuch, kann ich aber selber auch nicht abschließend beurteilen, das weiß ich nicht.
Wahnsinn.
Ihr habt in dem Kontext in eurem Buch noch eine Parallele gezogen zu etwas, das sich der Cargo-Kult nennt.
Könntest du das einmal für die Hörer erklären?
Weil ich fand, es war eine sehr faszinierende Parallele zu einer anderen Geschichte.
Ja klar.
Also es ist ja so, was diese wissenschaftlichen Raubverlage da tun, ist ja quasi die Simulation echter Wissenschaft.
Die nehmen quasi das Aussehen von Wissenschaft, das Layout von solchen Journalartikeln, die ganzen Diagramme, all das nehmen die und verwandeln es sozusagen in etwas, was auf den ersten Blick so aussieht wie Wissenschaft, aber eben keine Wissenschaft ist.
Und dazu ist uns eine Parallele aufgefallen, wobei wir da nicht die einzigen oder ersten sind, die diese Parallele aufgedeckt haben.
Es gab einen bekannten Forscher, Richard Feynman, der hat dazu mal eine Rede gehalten.
Studierenden das schon mal erwähnt und zwar, dass wir es damit eigentlich mit etwas zu tun haben, was man Cargo Cult Science nennen kann.
Also eine Wissenschaft, die sichtbare Merkmale von Wissenschaft imitiert, ohne aber den Kern der Wissenschaft zu erfassen.
Und da ist die Parallele zum Cargo Kult, die, also unter Cargo Kult, der Begriff ist nicht ganz unumstritten, aber wir verwenden jetzt hier einfach mal damit aus Einfachheitsgründen.
Cargo-Kult bezeichnet etwas, was man in den 40er Jahren angefangen hat, in abgelegenen Inseln im Pazifik zu beobachten.
Folgende Geschichte, wer es noch nicht kennt, gibt es auch viel Material dazu, ist sehr spannend, sich das mal anzuschauen.
Im Zweiten Weltkrieg haben die Amerikaner auf abgelegenen Pazifik-Inseln Militärstützpunkte eröffnet, um im Krieg im Pazifik eben gerüstet zu sein.
Wurden da innerhalb kürzester Zeit mit...
militärischer Präzision Landebahnen in die Landschaft gebaut.
Es landeten dann auf einmal die ganzen Tag und Nacht Flugzeuge, Schiffe legten an mit Panzern, mit Essen, mit Trinken für tausende Soldaten, die dann eben auf diesen bis dahin kaum bewohnten Pazifikinseln stationiert waren.
Das heißt, innerhalb kürzester Zeit ist da von außen betrachtet quasi magische Art eine Infrastruktur entstanden.
Und es gibt Aufzeichnungen der sozusagen Leute, die auf diesen Inseln damals gewohnt haben, die natürlich mit großen Augen staunend gesehen haben, was da alles passiert.
Die kannten das in dieser Form nicht.
Die wussten nicht, was es bedeutet, wenn da Flugzeuge landen, wenn da auf einmal Leute in Militäruniform patrouillieren und quasi Essen und Nahrung und Güter einfach quasi vom Himmel fallen.
So haben die das quasi erlebt.
gestern war hier noch Natur, auf einmal kommen hier Leute, führen hier irgendwelche seltsamen Rituale auf und dann fällt auf einmal Essen vom Himmel.
Flugzeuge landen, ohne dass irgendjemand scheinbar einen Finger krümmen musste, war auf einmal auf dieser Insel, in der vorher eher karges Leben auf der Tagesordnung stand, war auf einmal kistenweise Coca-Cola, frisches Fleisch, frisches Gemüse, alles eben für diese Soldaten da.
Und die ursprünglichen Einwohner haben sich natürlich maximal gewundert und fanden das natürlich auf den ersten Blick erstmal ganz interessant.
Als dann, der Krieg zu Ende war, die Amerikaner abgezogen sind und die Insel sozusagen wieder arm war, haben die versucht, diese Rituale nachzubauen, weil sie gedacht haben, hey, wir wollen auch, dass hier wieder diese großen, also ohne jetzt sozusagen das zu klischee-mäßig zu formulieren, aber so hat es die damalige Forschung eben aufgeschrieben, diese großen eisernen Vögel vom Himmel fallen und jede Menge Fracht uns hier bringen.
Also diese Fracht, diese Cargo hat dann sozusagen so eine Art Kult begründet, dass die Leute, die dort auf diesen Inseln gelebt haben, dann auf einmal selber Landebahnen oder das, was sie für Landebahnen hielten, in den Dschungel geschlagen haben.
Also haben da einfach so Bäume ausgelegt, haben so Türme gebaut, die so ähnlich aussahen wie die Flughafentower, haben sich, da gibt es Aufzeichnungen dazu, mit so Kokosnüssen, so Kopfhörer gebaut, um sozusagen Funksprüche durchzuführen.
Also die haben quasi die sichtbare Ebene dessen kopiert, was sie da bei den amerikanischen Soldaten gesehen haben.
in der Hoffnung, dass dann eben auch die Fracht zurückkommt, also die Cargo wiederkommt, dass wieder Schiffe anlegen, dass wieder Flugzeuge landen.
Das war natürlich zum Scheitern verurteilt logischerweise, weil von außen betrachtet sie ja nur die sichtbare Ebene dessen kopiert haben.
Und davor warnte dann eben Richard Feynman in seiner Rede in den 70er Jahren in Caltech, dass die echte Wissenschaft halt nicht diesen Fehler machen sollte.
Also quasi nur die sichtbare Oberfläche von etwas kopieren, in der Hoffnung, dass dann eben das gewünschte Ergebnis eintritt.
Jetzt muss man fairerweise natürlich dazu sagen, dass dieser Cargo-Cold ein umstrittenes Konzept ist, dass es häufig ein doch tiefer liegender gesellschaftlicher Aspekt ist.
Das haben wir auch im Buch beschrieben, dass man jetzt nicht so einfach sagen kann, haha, die waren ja naiv und haben das nur irgendwie kopiert, sondern das hat doch häufig auch was mit Abgrenzung von Kolonialstrukturen zu tun.
Kolonialherren haben teilweise den Bewohnern dieser Inseln ihre eigenen Rituale versucht zu verbieten und das war auch teilweise...
oder so liest es jetzt die modernere Wissenschaft auch gedacht, als eine Art der Emanzipation eben doch etwas Eigenes zu entwickeln.
Also man darf da nicht den Fehler machen, denen jetzt eine Naivität zu unterstellen oder das Ganze sozusagen jetzt selber so aus so einem kolonialistischen Sicht zu betrachten.
Aber dieser Mechanismus ist natürlich trotzdem sehr, sehr, sehr spannend, weil er halt zeigt, dass es halt nichts bringt, einfach nur eine sichtbare Oberfläche zu kopieren und dann eben auf das entsprechende Ergebnis zu hoffen.
Ich hatte vorher von dem Cargo-Kult noch nichts gelesen gehört und fand es sehr, dieses Bild quasi sehr beeindruckend, dass die lokalen Anwohner sich auch mit Stöcken bewaffnet haben und an den Seiten standen und eben warteten auf die eisernen Vögel, die du beschrieben hast und einfach warteten darauf, dass Cargo gedroppt wurde und nach dem Krieg kam eben nichts mehr.
Ich muss auf jeden Fall dazu noch mehr lesen.
Ich finde es sehr beeindruckend, was da passiert ist.
Wie sieht es aus auf der Unternehmerseite?
Also diejenigen, die damit so wahnsinnige Gewinne einfahren, also auf der, ich will nicht sagen, pseudowissenschaftlichen Seite, aber bei den Raubverlagen, den Raubkonferenzen, habt ihr die damit konfrontiert?
Und ich will noch abschließend, möchte ich gerne wissen, habt ihr das aufgelöst?
Also den Veranstaltern gegenüber habt ihr gesagt, dass es Isabella Stein nicht gibt und Professor R.
Funden eben erfunden ist?
Ja, tatsächlich.
Also wir haben, sobald dieses Paper dann veröffentlicht wurde, also vor allem das Krebs-Paper, bei diesem Gameboy-Informatik-Ding auf der Konferenz haben wir uns gedacht, ah, wurscht, wenn das jetzt in der Welt ist, dann ist es halt so.
Aber bei dem Krebs-Paper haben wir natürlich sofort gedacht, wir wollen jetzt ja nicht verantwortlich sein dafür, dass vielleicht jemand das tatsächlich mit Wissenschaft verwechselt.
Das heißt, in der Sekunde, als wir die Veröffentlichung hatten und damit quasi bewiesen haben, dass man dieses System so ganz einfach...
austricksen kann, beziehungsweise dass da keiner genau hinguckt, haben wir den Herausgeber sofort eine Mail geschrieben und gesagt, Achtung, damals noch in der Rolle, hier spricht Professor Erfunden, wir haben massivste Fehler in unserer Forschung festgestellt, massive Datenfehler, wir haben uns da total vergaloppiert, tut uns wahnsinnig leid, bitte sofort zurückziehen.
Das ist in der echten Wissenschaft ein relativ normaler Prozess, dass man, wenn es einen Fehler gibt, dass entweder anderen das dann doch auffällt oder man selber eben sagt, okay, Das muss zurückgezogen werden, eine sogenannte Retraction.
Das ist in der Wissenschaft jetzt nicht immer an der Tagesordnung, aber ein etablierter Prozess.
Solche Retraction gibt es immer wieder.
In dem Fall dieser Fake-Journale war es so, dass da uns dann eine Rechnung gestellt wurde, wieder.
Vielleicht haben wir uns schon gedacht, waren die beleidigt, weil wir ihre ursprüngliche Rechnung nie bezahlt hatten.
Jedenfalls, als wir den geschrieben haben, hier ist Professor Funden, wirst du dieses Paper sofort aus dem Netz nehmen.
Das enthält Fehler und könnte die Öffentlichkeit täuschen.
kam eben nicht, wie man es bei einer seriösen Wissenschaft erwarten würde, die Mail, ja, oh Gott, tut uns leid, wir nehmen es sofort raus.
Sondern es sollte eine sogenannte Retraction Fee von auch wieder, glaube ich, um die 2000 Dollar bezahlt werden, damit wir sozusagen unser Paper aus dem Netz wieder rausbekommen, was natürlich ein perfides Modell ist, weil das ja sonst quasi, wenn man das ernst nehmen würde, ja rufschädigend wäre, wenn dann auf einmal ein schlechtes Paper, von dem die Autorinnen und Autoren selber sagen, das ist schlecht, das soll wieder raus aus dem Netz, wir dafür bezahlen müssten.
Das heißt, auf dem Weg hat es nicht funktioniert, als wir uns dann allerdings als Journalisten und Journalistinnen zu erkennen gegeben haben.
Und gesagt haben, Achtung, dies war ein Experiment.
Hier sind unsere Fragen, also eine Konfrontation, wie man sie ja machen muss, bevor man sowas veröffentlicht.
Und gesagt haben, wie kann das sein?
Wer überprüft das?
Wie sind da ihre Budgets?
Etc.
War das Ding innerhalb von wenigen Stunden aus dem Netz.
Also der Weg hat dann funktioniert.
War die Kommunikation dann tot?
Oder habt ihr noch mit irgendjemandem gesprochen?
Nee, die haben da überhaupt nicht drauf reagiert.
Die haben auch vorher auf unsere Anfragen als Journalisten überhaupt nicht reagiert.
Wir hatten dann einen indischen Kollegen dort ins Büro geschickt, in eine der großen Firmen.
Omics heißt die, die haben sich mittlerweile umbenannt, wie es ja Firmen häufig tun, wenn sie Ärger bekommen.
Omics wurde auch von der amerikanischen Handelsaufsichtsbehörde.
Gibt es einen Prozess gegen die aus genau diesen Gründen, weil die eben gemerkt haben.
Hier wird quasi Schindluder getrieben mit dem Deckmantel der Wissenschaftlichkeit.
Die geben Peer Review vor, wo keins ist etc.
Da wurde in den USA eben gegen die ermittelt.
Daraufhin haben die sich umbenannt.
Und die Zentrale dieser Firma ist in Indien, in Hyderabad.
In einem Büroturm findet man die Adresse auch raus.
Da haben wir damals einen indischen Kollegen hingeschickt, tatsächlich für unsere Recherche, der da versucht hat, mit den Leuten in Kontakt zu kommen.
Wurde dort aber auch nur abgewimmelt.
Wir wissen allerdings über den CEO dieser Firma, über den gibt es einige öffentliche Informationen, dass der nach wie vor sehr gut im Geschäft ist, auch in höchsten indischen Kreisen verkehrt.
Es gibt Fotos von ihm mit dem Premierminister.
Dem gehört, glaube ich, mittlerweile anteilig ein größeres Cricket-Team.
Also der hat sich da auch so ein bisschen sein Portfolio diversifiziert und ist da nach wie vor, glaube ich...
ganz gut im Geschäft, hat in dem Prozess gegen ihn in den USA auch ausrichten lassen über seine Anwälte, dass sein Geschäft alles andere als illegal sei, dass er damit eigentlich nur die Forschung öffnen möchte und dass er sehr wohl tolles Peer Review durchführt, auch wenn im Rahmen dieser Ermittlungen damals kam, dass das eben absolut nicht der Fall ist und die allermeisten...
die auf seiner Seite gelistet werden, schlicht gar nicht existieren.
Aber der ließ ausrichten, dass die Welt keine Ahnung habe von diesem Ganzen und er das in Wirklichkeit alles ganz toll mache und sich da auch irgendwie, glaube ich, nichts dran ändert.
Wahnsinn.
Das heißt, wir müssen uns einfach, wir müssen sehr sicherstellen, dass alles, was wir lesen, nicht nur peer-reviewed ist, nicht nur irgendwie zitiert wurde und so weiter, sondern aus AAA-Paper sozusagen kommt.
Also aus Paper mit hohen Renommee am Ende, oder?
Ja, also nicht nur AAA, da gibt es ja verschiedene Faktoren.
Es hilft schon ganz leicht eigentlich, wenn man eine wissenschaftliche Studie findet, die ein vermeintliches, sensationelles verkündet.
Da ist ja meistens schon ein bisschen Skepsis angesagt.
Das ist ja so eine alte journalistische Weisheit.
Wenn etwas zu gut ist, um wahr zu sein, dann ist die Wahrscheinlichkeit, dass es nicht wahr ist, leider relativ hoch.
Das heißt, es empfiehlt sich, wenn man so ein Paper liest und sich nicht sicher ist.
Und wie sollen Laien sich da sicher sein?
Das ist ja, woher soll man da ein gutes von einem schlechten Paper unterscheiden können auf den ersten Blick?
Da hilft es sich zum Beispiel, den Namen dieses Journals, in dem das erschienen ist, einfach ganz blöd zu googeln.
Mit dem Zusatz vielleicht Predatory oder den Namen des Papers und Raub Verlag dahinter.
Da gibt es auch Leute.
die sich da ehrenamtlich sehr, sehr engagieren, um das Ganze sozusagen wieder aus der Welt zu bringen oder die Öffentlichkeit auch aufzuklären.
Auch hier, wie gesagt, interessant, die Verlage verdienen viel Geld und öffentliche Gelder werden dann aufgebracht, um die Leute davor zu warnen und dagegen ein bisschen zu immunisieren.
Also das hilft.
Wobei wir jetzt noch gar nicht geredet haben, aber was natürlich auch ein Riesending ist, ist mittlerweile fließen natürlich die Ergebnisse aus solchen Raubverlagen, die es ja nach wie vor gibt, auch massiv in die Trainingsdaten von Large Language Modellen ein und beeinflussen dann sozusagen auf diese Art und Weise in unvorhergesehener Art das, was die Öffentlichkeit möglicherweise für Wissenschaft hält.
Da gibt es auch einige ganz interessante.
Experimente, ja, da hat eine Kollegin aus Schweden, hat dazu ein Experiment gemacht und eine Krankheit erfunden, die es gar nicht gibt, ja, die man jetzt quasi, hat dann einige LLMs damit gegroomt, also hat sozusagen solche Fake Paper da veröffentlicht und wenn man jetzt, mittlerweile wurde das gelöscht, aber wenn man da dann sozusagen danach gesucht hat in den LLMs, dann wurde einem diese Fake Krankheit auch tatsächlich angezeigt, weil die LLMs sozusagen in ihren Trainingsdaten da häufig wohl nicht richtig unterscheiden können zwischen einem echten, guten, peer-reviewten Paper und eben solchen Schrottjournalen.
Und das kann natürlich dann die öffentliche Meinung noch mal extremst manipulieren.
Wir haben jetzt über die ganz heiklen Themen Tabak, Tabakindustrie, Klimawandel etc.
noch gar nicht gesprochen.
Was ist, wenn man jetzt auf einmal sagt, ja, Klimawandel gibt es gar nicht, haben wir gar nicht, hier sind irgendwie 20 Paper, die das...
beweisen, in ganz großen Anführungs- und Schlusszeichen, die nie peer-reviewed sind, aber dann auf einmal in den LLMs mit auftauchen und dann sozusagen deren Ergebnisse vielleicht dann in so eine Richtung natschen.
Also da sind die Manipulationsmöglichkeiten immens.
Das heißt, dass wir eben als Öffentlichkeit, und das ist ja auch dann Aufgabe von Journalisten und auch von Forschenden, da immer wieder darauf hinzuweisen und einfach einen gesellschaftlichen Diskurs darüber zu haben.
Denn die Wissenschaft ist eine so wichtige Grundlage unserer Gesellschaft und die Glaubwürdigkeit der Wissenschaft bei allen Problemen, die es natürlich da auch gibt.
Also auch seriöse Wissenschaft macht Fehler.
Auch seriöse Paper müssen zurückgezogen werden.
Auch da gibt es immer wieder Skandale, aber der Kern der Wissenschaft ist natürlich schon die Wahrhaftigkeit.
Und das ist bei solchen Fake-Journalen und solchen Fake-Verlagen natürlich eben nicht der Fall.
Ja, und wir müssen, wie du schon sagst, für Transparenz sorgen, weil eben die Trainingsdaten bei den Modellen davor auch nicht gefeit sind.
Und ich bin mir sicher, dass selbst bei den Frontier-Modellen in den Labs Leute sitzen, die nicht unbedingt wissen, welche Paper jetzt seriös sind, welche Paper...
Raubverlagen kommen oder welche Ergebnisse aus Konferenzen von Raubkonferenzen oder wie auch immer kommen.
Das ist natürlich, wenn man nicht aus dem Bereich ist, ist es natürlich hochgradig intransparent und ich denke, dass die Entwicklung dahin gehen muss, dass das in irgendeiner Form zu ranken, so wie auch in den normalen Trainingsdaten die Quellen nach Wahrhaftigkeit, nach Seriosität, nach Wahrheitsgehalt und so weiter auch gerankt und gewichtet werden.
Wobei es natürlich auch...
Reddit zum Beispiel wird siebenfach gewichtet oder wurde in den letzten Trainingsdatensätzen von ChatGBT siebenfach gewichtet.
Man fragt sich natürlich auch, das ist User-Generated Content, wie wahr ist das?
Aber das ist halt der Ansatz am Ende.
Es muss auf jeden Fall in irgendeiner Form in diesem wissenschaftlichen Publikationsbereich dann auch eine Art Ranking geben.
Na gut, du musst jetzt gleich wieder in die Lehre zurück.
Du musst weiter deine Vorlesung halten.
Ich danke dir auf jeden Fall sehr für deine Zeit.
Ich kann als Buchempfehlung jetzt für die Hörer sehr euer aktuelles Buch empfehlen.
Das Geschäft mit der Wissenschaft ist, ich glaube, das siebte Kapitel oder das sechste Kapitel auf jeden Fall.
Und es sind sieben kleinere Geschichten aus wirklich tiefer, zum Teil jahrelanger Recherche.
Also man merkt deutlich, dass ihr Journalisten seid und dass eben keine Belletristik ist.
Ja, vielen Dank.
Danke für dieses tolle Gespräch.
Wie gesagt, ein wichtiges Thema.
Vielen Dank für die vielen tollen Fragen.
Und ja, ich hoffe, wir als Gesellschaft reden da immer weiter drüber, damit sowas halt in Zukunft nicht mehr uns und unsere Meinungsbildung so manipulieren und beeinflussen kann.
Ja, sehr gern.
Also vielen Dank für eure Arbeit und bis bald.
Bye bye.
Bis bald.
Vielen Dank.
Ciao.