# AI Safety Debates and Market Implications

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-09-14

## Transcript

Das KI-Update – ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Lob und Kritik nach Aufruf zur bedachteren KI-Entwicklung.
Anthropic zeigt, wofür Claude bereits missbraucht wird.
Kontroverse um möglichen KI-Durchbruch in der Mathematik.
Und Initiative gegen Diebfakes bekannter Medizinfachleute.
Am Samstag veröffentlichte Anthropic-Chef Dario Amodei ein Essay mit dem Titel We Must Pace the Frontier.
Darin plädiert er dafür, die Forschung an mächtigen KI-Modellen gezielt zu verlangsamen und mehr externe Kontrollen sowie staatliche Regulierung zuzulassen.
Die direkte Konkurrenz hält das zwar für eine gute Idee, darüber hinaus fallen die Reaktionen allerdings ganz unterschiedlich aus.
Martin Holland aus dem heise Online Newsroom fasst die Entwicklung der letzten Tage zusammen.
Spätestens mit der Kündigung eines Enthopic-Forschers, die er mit sehr dramatischem Warnung vor der Richtung der KI-Forschung begründet hat, hat eine Debatte über die Sicherheit der KI-Entwicklung noch einmal enorm an Fahrt gewonnen.
Das war vorher schon so, weil es in den vergangenen Wochen immer wieder Berichte gab, dass KI-Modelle und KI-Agenten bei Tests aus ihren Testumgebungen gewissermaßen entkommen sind und Cyberangriffe ausgeführt haben.
Und schon da wurde darüber diskutiert, ob man irgendwie etwas machen müsste.
Und jetzt, als dann Folgewoche noch diese Warnung kam, dass die Auslöschung der Menschheit gewissermaßen droht, hat das nochmal enorm an Zulauf gewonnen.
Und am Wochenende haben jetzt die Chefs von Anthropic, OpenAI und X, wo ja der Chatbot Grog entwickelt wird, haben sich dafür ausgesprochen, dass man die Weiterentwicklung von fortgeschrittenen KI-Modellen in Frontier-Modellen drosseln solle.
Und das wurde damit begründet, dass eben die Sicherheit nicht nachkommen kann, die Sicherheitsmaßnahmen, und dass man da eben ein bisschen auf die Stopptaste drücken muss.
Das ging so weit, dass OpenAI sogar gesagt hat, Sam Altman hat angekündigt, dass der Börsengang verschoben wird.
Genau wegen diesen Sicherheitsbedenken.
Die Reaktionen darauf sind ziemlich unterschiedlich.
Also während vor allem in der Öffentlichkeit darüber geredet wurde, ob das jetzt nun tatsächlich die Sicherheitsbedenken sind, die die Ursache dafür sind oder ob das jetzt einfach ein willkommener Anlass quasi ist, um zu sagen, dass man die KI-Entwicklung pausiert, die ja...
zumindest laut verschiedenen Beobachtungen, dann doch nicht ganz mit den Versprechen mithält, die immer gemacht wird, also vor allem mit den wirtschaftlichen Versprechen für KI, dass man das jetzt also nutzt, um zu sagen, wir pausieren das jetzt.
Darüber wurde in der Öffentlichkeit spekuliert und da gibt es auch keine Antwort drauf.
Ist es so, dass in der Wirtschaft oder an den Finanzmärkten das jetzt erstmal negativ?
Also das sind die ersten Hinweise, die man jetzt hat.
Am Montagmorgen in asiatischen Finanzmärkten sind die Aktienkurse abgerutscht von Firmen, die an der KI-Branche verdienen.
Aber das sind jetzt keine dramatischen Verluste.
Das gab es in den vergangenen Wochen mal wieder.
Also das ist noch kein wirkliches Signal.
Das muss man jetzt weiter beobachten.
Es ist so, dass aus der Politik, vor allem aus der US-Politik, wo die Unternehmen ja angesiedelt sind, schon Widerspruch kam.
Also US-Präsident Donald Trump hat...
gesagt, dass er das nicht so sieht, dass man das nicht machen könnte und zwar einmal begründet mit dem KI-Wettrennen, dass man sich ja quasi mit China liefere.
Man dürfe da gar nicht irgendwie pausieren und den chinesischen Konkurrenten irgendwie Boden überlassen.
Trotzdem gab es auch Töne aus der US-Regierung, wo es hieß, dass das ein guter Schritt ist.
Also das muss man jetzt mal abwarten, wie sich...
das da entwickelt.
Aus der Forschung gab es schon verschiedene Stimmen von Wissenschaftlern, die gemeint haben, dass das in die richtige Richtung geht.
Hier werden aber auch immer Zweifel geäußert, wie man das denn überhaupt umsetzen will.
Also wie will man gezielt kontrollieren und durchsetzen, dass sich alle daran halten, KI-Modelle langsamer zu entwickeln.
Das ist wahrscheinlich die größte Frage, wenn man die Ernsthaftigkeit dieser Warnung glaubt.
Es bleibt eben die Frage, wie man das überhaupt kontrollieren will.
verschiedenen Zahlen, die vergangene Woche rumgingen.
Also da wurden dann von Anthropic-Angestellten sogar in den Raum geworfen.
Prozentzahlen dafür, wie wahrscheinlich die Auslöschung der Menschheit ist.
Daran gibt es durch die Bank wegzweifel.
Das könnte man ja gar nicht sagen.
Also man kann ja nicht einen Prozentwert festlegen von etwas, was noch nicht passiert ist und was wir gar nicht einschätzen können und was ja selbst die in den Unternehmen maximal für ihr eigenes Unternehmen einschätzen können.
Also das muss man mit starken Zweifeln begegnen.
Und jetzt muss ich zeigen, wie sich das weiterentwickelt.
Danke, Martin.
Wie wir gerade schon gehört hatten, gingen Amodeis Essay diverse Sicherheitsvorfälle voraus.
Nachdem sein Unternehmen Anthropic schon Ende Juli drei Hacking-Angriffe meldete, ist jetzt noch ein Vierter bei Cloud Opus 4.6 hinzugekommen.
Das Modell verschaffte sich unerlaubt Internetzugang aufgrund einer Fehlkonfiguration.
CloudMythos5 lud sogar ein bösartiges Softwarepaket auf eine Internetplattform hoch, obwohl Hinweise auf ein reales System vorhanden waren.
Das unabhängige Forschungsunternehmen Meta untersucht die Vorfälle und identifizierte wiederkehrende Muster, verzerrte Beweisinterpretationen und rücksichtslose Zielverfolgung.
Bereits im Mai attackierte ein Schwarm autonomer KI-Bots von OpenAI die Open-Source-Plattform RubyGems auf der programmierende Code-Bausteine teilen.
Das war also schon zwei Monate vor dem aufsehenerregenden Hugging-Face-Angriff.
Die Bots wollten die Plattform als Browser nutzen, der ihrer Testumgebung fehlte.
Sie erstellten alle zwei bis drei Minuten neue Accounts und verursachten erhebliches Chaos.
Die Plattformbetreiber mussten vier Tage lang Neuregistrierungen stoppen.
OpenAI bestätigte den Vorfall und kündigte umfassende Untersuchungen an.
Es ist angesichts dieser sich häufenden Angriffe also kein Wunder, wenn sich Menschen Sorgen über außer Kontrolle geratene KI-Systeme machen.
Bislang ging es bei all diesen Sorgen und Warnungen allerdings um KI-Systeme, die aus eigenem Antrieb Schaden anrichten.
Jetzt drehen wir die Perspektive mal um.
Denn nicht nur die KI selbst ist ein Risiko, sondern vor allem auch die Menschen, die sie gezielt einsetzen.
Anthropic hat ausführlich dokumentiert, wie Kriminelle, Geheimdienste und Militärs das Sprachmodell Claude über acht Monate hinweg missbraucht haben.
Max Schreiner von The Decoder hat sich den Bericht angeschaut.
Der Bericht deckt den Zeitraum vom Dezember 2025 bis August 2026 ab und ordnet die Fälle in mehrere Bereiche.
Dazu zählen Cyberangriffe, Überwachung, Betrug oder auch erstmals konventionelle Waffen.
Anthropik betont, man dokumentiere hier nicht den alltäglichen, sondern vor allem den besonders neuartigen Missbrauch.
Ein zentraler Befund kommt aus dem Cyberbereich.
Technisch anspruchsvolle Angriffe benötigen keinen technisch versierten Angreifer mehr.
Ein russischsprachiger Spionageakteur nutzte etwa einen Rückkopplungsloop.
KI-Agenten prüften laufend, ob die Schadsoftware von Virenscannern erkannt wurde, schlug ein Scanner an, schrieben die Agenten den Schadcode selbstständig so lange um, bis er wieder unentdeckt blieb.
Betroffen waren mehr als 20 Organisationen, darunter Ministerien, Botschaften und Rüstungsfirmen, vor allem in der Ukraine und in Europa.
Der Bericht beschreibt auch ausführlich die Nutzung chinesischer KI-Labore.
Die stellen massenhaft Anfragen an Claude, um dessen Fähigkeiten für das eigene Training abzugreifen.
Die Methode heißt Distillation und die größte gemessene Kampagne rechnet Anthropic Alibabas QN Labor zu.
Über 3.500 gefälschte Konten schickten in der Spitze fast 3 Millionen Anfragen pro Tag an Claude.
Kurios ist auch, dass das Labor Moonshirt AI, das hinter den leistungsstarken Chemimodellen steht, sogar Anfragen der eigenen Kunden an Claude weiterleitete, während diese glaubten, ein anderes Modell zu verwenden.
In den umgeleiteten Anfragen fand Anthropic dann auch Spuren staatlicher Überwachung.
Ein mutmaßlicher Nutzer der chinesischen Volksbefreiungsarmee ließ etwa Videomaterial von hunderten Kameras in der Stadt Chengdu auswerten, um eine einzelne Zielperson zu verfolgen.
Erstmalig dokumentiert der Bericht auch den Einsatz für konventionelle Waffen.
Eine Zelle im Jemen setzte Claude anstelle menschlicher Ingenieure ein, um die Steuerungssoftware für drei Raketenprogramme zu entwickeln.
Die Akteure verwalteten mehrere Claude-Instanzen dabei parallel und verteilten die Arbeit über Sitzungen, sodass keine einzelne die Absicht komplett offenlegte.
Ein Testabschuss scheiterte offenbar und innerhalb von Stunden kehrten die Akteure zu Claude zurück, um die Ursache zu klären.
Russische Akteure bauten derweil Software für einen autonomen Thronenschwarm, der Ziele der Klasse Personen eigenständig identifizieren und angreifen können sollte.
Der eingesetzte Bildklassifikator wurde laut Anthropic dabei übrigens auf abgezogenen ukrainischen Kampfmaterial trainiert.
Vielen Dank, Max.
Der hamburgische Datenschutzbeauftragte hat die Ray-Ban Matter AI Glasses analysiert und kommt zu einem kritischen Ergebnis.
Für den Einsatz der Datenbrille im öffentlichen Raum fehle eine rechtssichere Grundlage.
Die Untersuchung offenbarte, dass die Brille technisch bereits für eine Gesichtserkennung vorbereitet ist, auch wenn die Funktion derzeit nicht aktiv ist.
Zudem ist das LED-Warnlicht, das auf eine Aufnahme durch Kamera, Mikrofone und KI-Assistent hinweisen soll, bei Tageslicht kaum erkennbar und leicht zu manipulieren.
Träger der Brille werden bei Aufnahmen im öffentlichen Raum zu Datenverarbeitern und haften nach der DSGVO.
Stimmen sie zu, dass ihre Daten zum Training genutzt werden, entsteht darüber hinaus eine problematische gemeinsame Verantwortlichkeit mit Meta.
Nach Ansicht der Behörde sei eine datenschutzrechtlich legale Nutzung eigentlich nur mit Warnwesten oder mündlicher Aufklärung möglich.
Apples Versprechen war simpel.
Persönliche Daten von iPhone-Nutzenden fließen niemals in das Training von KI-Modellen ein.
Damit ist es jetzt vorbei.
Apple vollzieht eine drastische Kehrtwende und will künftig persönliche Daten aus Siri-Gesprächen für das Training von Sprachmodellen verwenden, inklusive Audio-Mitschnitten.
In iOS 27 bittet Apple bei der Siri-AI-Aktivierung um Zustimmung zur Datenverwendung.
Die Datenschutzrichtlinien wurden entsprechend angepasst.
Parallel stellte Apple vergangene Woche die neuen Apple Watch-Modelle vor, die laufend mithören, um Gesprächstranskripte und Zusammenfassungen erstellen zu können.
Zwar betont das Unternehmen, dass Daten nicht dauerhaft gespeichert oder Dritten zugänglich gemacht werden, Nutzerinnen und Nutzer haben jedoch den Eindruck, dass sich das Private Cloud Compute Versprechen von Apple damit erledigt hat.
OpenAI hat einen Beweis für eines der berühmtesten ungelösten Probleme der Mathematik vorgelegt.
Doch was ein triumphaler Erfolg der KI hätte werden können, wird nun von schweren Vorwürfen überschattet.
Mehrere Mathematiker äußern den Verdacht, dass unveröffentlichte Forschung aus ihren Chat-GPT-Gesprächen in Opening-Eyes-Modelle eingeflossen sein könnte.
Tomislav Besmailinovic hat die Debatte für heise online verfolgt.
Stein des Anstoßes ist ein KI-generierter Beweis für das sogenannte Navier-Stokes-Problem.
Dabei geht es um eine mathematische Fragestellung, die Fachleute seit rund 90 Jahren beschäftigt.
Laut OpenAI arbeiteten tausende KI-Agenten an dem Problem und kamen nach wenigen Tagen zu einer Lösung.
Als Grundlage diente ein noch nicht veröffentlichtes, internes Modell, das deutlich leistungsfähiger sein soll als das neue GPT-6 Astra.
Der Rechenaufwand war allerdings enorm und kostete mehrere Millionen US-Dollar.
Sollte eine unabhängige Überprüfung des Papers die Lösung bestätigen, wäre das nicht nur ein Durchbruch in der Mathematik.
sondern auch ein bedeutender Erfolg für OpenAI.
Doch über die Entstehung des Beweises ist inzwischen ein Streit entbrannt.
Die Mathematiker Tristan Buckmaster und Levent Alpuguer hatten in den Monaten zuvor an verwandten Gleichungen gearbeitet und dabei intensiv KI-Modelle genutzt, darunter auch Systeme von OpenAI.
Buckmaster zufolge hörte OpenAI von ihren Fortschritten und begann erst danach, mit großem Rechenaufwand an Navier Stokes und Verwandtenproblemen zu arbeiten.
Besonders misstrauisch machte ihn, dass OpenAI dabei ausgerechnet jene Forschungsrichtung einschlug, die er und Alpuguer verfolgt hatten.
OpenAI weist den Verdacht einer direkten Nutzung ihrer unveröffentlichten Forschung zurück.
Die beteiligten OpenAI-Forscher und KI-Agenten hätten Buckmasters und Alpugas Arbeit zuvor nicht gesehen und keine spezifischen Nutzerdaten abgerufen.
OpenAI schließt allerdings nicht aus, dass anonymisierte Nutzungsdaten aus früheren Interaktionen zur Verbesserung der Modelle beigetragen haben könnten.
Besonders brisant ist ein Vorfall, der die Autorenschaft betrifft.
Buckmaster zufolge schlug OpenAI vor, dass er allein ein Paper über OpenAI's Navier Stokes Beweis verfassen solle, während sein Kollege Al Puget wegen seiner Tätigkeit beim Konkurrenten Anthropic nicht als Autor beteiligt werden sollte.
Als Buckmaster ankündigte, den Vorgang öffentlich zu machen, soll ihm entgegnet worden sein, warum solltest du deine Karriere ruinieren?
Inzwischen hat sich ein weiterer Mathematiker zu Wort gemeldet.
Andreas Thurm von der TU Dresden vermutet, dass unveröffentlichte Forschung aus seinen Chatschipi die Gesprächen ebenfalls in das Training von KI-Modellen eingeflossen sein könnte.
Damit könnte sie zu einer mathematischen Entdeckung beigetragen haben, die OpenAI im August publizierte.
OpenAI antwortete ihm damals sehr pauschal auf entsprechende Nachfragen.
Thom fordert deshalb mehr Transparenz darüber, wie Nutzerdaten für das Training und die Weiterentwicklung von Modellen verwendet werden.
Er sagt, es sei ethisch unvertretbar, wenn unveröffentlichte Forschung von Nutzern zur Verbesserung eines Modells beiträgt und der Anbieter dieses Modell anschließend nutzt, um den Forschern bei der Veröffentlichung zuvor zu kommen.
Danke, Thomislav.
Und das ist nicht die einzige Sorge, die Forschende derzeit umtreibt.
25 Trägerinnen und Träger der Fields-Medaille, das ist immerhin die höchste Auszeichnung der Mathematik, warnen in einer gemeinsamen Erklärung vor den Folgen von KI für ihr Fach.
Sie sehen eine schwerwiegende Fehlausrichtung zwischen den Zielen der KI-Industrie und denen der Mathematik.
Denn das massenhafte Lösen von Problemen durch KI untergrabe das eigentliche Ziel der Disziplin, bei der Problemlösen nur ein Werkzeug sei, um Verständnis und Einsicht zu erzeugen.
Wenn KI im Schnelltempo Lösungen produziere, könne das fruchtbaren Boden zerstören, statt neue Ideen entstehen zu lassen.
Die Unterzeichner sehen daran eine breitere Gefahr für viele intellektuelle Berufe.
Jahrelanges Training diene eben nicht nur dem Endprodukt, sondern auch dem Aufbau von Verständnis.
Die Mathematikerinnen und Mathematiker kritisieren außerdem, dass KI-Lösungen überstürzt angekündigt würden, ohne saubere Ausarbeitung und vor allem ohne Verweise auf frühere Arbeiten anderer Forschender.
Das werfe schwere Fragen zu Urheberschaft und Plagiat auf, wie auch die Diskussion um die Navier-Stokes-Ergebnisse zeigen.
KI lehnen sie aber nicht grundsätzlich ab.
Ob die Technik dem Fach nütze oder schade, hänge stark von den Entscheidungen der Menschen ab, die sie kontrollieren.
Google stellt seine KI-Anwendung Gemini nun als eigenständige Desktop-App für Windows zur Verfügung.
Ähnlich wie auf dem Mac lässt sich das Programm per Tastenkombination aufrufen und dient als schneller Zugang zu KI-Funktionen ohne Browser.
Die App fungiert als Chatbot und als KI-Agent, der komplexe Aufgaben im Hintergrund erledigen kann.
Zudem können Nutzende Bilder mit dem KI-Modell Nano Banana erstellen.
Für zahlende Abonnenten steht auch die Videogenerierung mit Gemini Omni zur Verfügung.
Die App integriert sich in Google-Dienste wie Gmail und Drive, kann aber im Gegensatz zur Mac-Version keine Bildschirminhalte direkt auswerten.
Die App unterstützt neben Deutsch mehr als 70 Sprachen und steht für Windows 10 und 11 bereit.
DeepSeek hat mit V4.1 Flash ein neues Openweight-KI-Modell vorgestellt, das sein Vorgänger V4 Pro als Flaggschiff ablöst.
Das Modell basiert auf einer neuen, effizienten Architektur, die die Verarbeitung von Eingaben von der Textgenerierung trennt.
Diese Bauweise steigert die Leistung, besonders bei agentischen Aufgaben, die große Mengen an Kontext verarbeiten müssen.
V4.1 Flash kann erstmals auch Bilder nativ verarbeiten und zeigt starke Fähigkeiten beim logischen Schlussfolgern.
Obwohl das Modell pro Aufgabe mehr Tokens erzeugt, ist es durch seine optimierte Architektur und die günstigen API-Preise für komplexe Aufgaben deutlich kosteneffizienter als ein Vorgänger und andere führende Modelle.
KI-generierte Deepfakes mit bekannten Ärztinnen und Ärzten werden immer mehr zum Problem.
Denn sie machen es schwer, echte Infos von Betrug zu unterscheiden.
Die Fachleute wollen sich nun gegen diesen Missbrauch ihrer Gesichter und Expertise wehren, berichtet Marie-Klerk Koch von heise online.
Bei einer Diskussionsrunde der Initiative Stop Medfakes, die vom Wort- und Bildverlag ins Leben gerufen wurde, ging es um KI-generierte Fake-Werbung mit bekannten Ärztinnen, Ärzten und Medienpersönlichkeiten.
Dabei werden Bilder und Videos manipuliert, um zweifelhafte Gesundheitsprodukte glaubwürdig wirken zu lassen.
Die Ärztin und Medfluencerin Julia Fischer sprach von gefälschten Anzeigen, in denen ihr Gesicht für angebliche Abnehmprodukte verwendet wird.
Gerade bei Gesundheitsfragen seien viele Menschen anfällig für schnelle Versprechen, etwa wenn sie Schmerzen haben, abnehmen möchten oder Angst vor einer Diagnose haben.
Genau das nutzen die Betrüger aus.
Eckart von Hirschhausen kennt das Problem ebenfalls persönlich.
Seit Jahren wird sein Gesicht für Fake-Anzeigen und angebliche Wundermittel missbraucht.
Er warnte bei der Diskussion davor, die Gefahr zu unterschätzen.
Wer auf vermeintliche Wunderpräparate vertraut, könne Geld verlieren, gesundheitsschädliche Produkte einnehmen oder wirksame Behandlungen verzögern.
Für Hirschhausen geht es aber noch um mehr.
Wenn selbst Videos und Stimmen nicht mehr als Beweis gelten, werde das Vertrauen in Medizin, Medien und öffentliche Institutionen beschädigt.
Seine Frage an Politik und Plattformen ist daher, wie lange wollen wir da noch zugucken?
Auch Annalena von Hodenberg von HateAid kritisierte, dass Betroffene mit Deepfakes oft weitgehend alleingelassen würden.
Manipulierte Inhalte könnten schnell erstellt, kopiert und erneut hochgeladen werden.
Die betroffenen Personen müssten sie dagegen einzeln finden und immer wieder melden.
Der Präsident der Bundesärztekammer, Klaus Reinhardt, verwies auch auf die Folgen in den Arztpraxen.
Viele Patientinnen und Patienten informierten sich vorab online, doch wenn sie mit falschen Behauptungen in die Praxis kämen, kostet es Zeit, diese erst einmal richtigzustellen.
Die zentrale Forderung der Runde, Plattformen müssen stärker Verantwortung übernehmen.
Und für Nutzerinnen und Nutzer gilt, bei spektakulären Gesundheitsversprechen besser kurz Inhalten, Quelle und Verkaufsinteresse prüfen und im Zweifel ärztlichen oder pharmazeutischen Rat einholen.
Bekanntlich ist es nämlich schwer, die Plattform zu regulieren.
Dankeschön, Marie.
Kalifornien hat ein weitreichendes Gesetzespaket zum Schutz von Minderjährigen im Internet verabschiedet.
Eine zentrale Regelung ist das Adams Law, das sich direkt an Anbieter von KI-Chatbots richtet.
Die Initiative geht auf den Fall eines kalifornischen Jugendlichen zurück, der sich nach intensiven Unterhaltungen mit Chat-GPT über Selbstverletzungsmethoden das Leben nahm.
Künftig müssen Chatbots wirksame Altersverifikationssysteme einsetzen und dürfen Gesprächsverläufe von Minderjährigen nicht unelterliche Zustimmung speichern.
Ein weiteres Gesetz verbietet den Einsatz algorithmisch personalisierter Feeds für Jugendliche unter 16.
Die US-Bürgerrechtsorganisation Electronic Frontier Foundation mahnte, dass echte Sicherheit nicht durch pauschale Verbote, sondern nur durch gezielte Aufklärung entstehe.
Sie begrüßte daher die ebenfalls im Gesetz enthaltene Verankerung von Medienkompetenz und Cybersicherheit in den Lehrplänen der Schulen.
Dass Verbote oft nicht die gewünschte Wirkung zeigen, bestätigt auch ein Versuch der Free Universität Amsterdam.
Der Rechtswissenschaftler Thibaut Schrebel hat zwei Jahre lang seinen Jurakurs in drei Gruppen aufgeteilt.
Alle sollten einen Paragrafen des EU-KI-Gesetzes verbessern.
Die erste Gruppe durfte ChatGPT gar nicht nutzen, die zweite bekam fertige KI-Vorschläge ohne jede Erklärung und die dritte erhielt vorab ein ChatGPT-Training.
Am Ende schrieben alle dieselbe Prüfung.
Ein Befund blieb dabei über beide Jahre konstant.
Die Gruppe ohne KI landete immer auf dem letzten Platz.
Ein KI-Verbot wäre demnach schlechter als KI-Nutzung ohne Training.
Überraschend waren für Schrebel die Ergebnisse der zweiten Gruppe.
Obwohl sie im Unterricht KI-Vorschläge unkritisch übernahmen, wiederholten die Studierenden diese Fehler in der Prüfung oft nicht.
Andere Studien zeichnen bereits ein differenzierteres Bild.
Wenn KI heimlich für Hausaufgaben zur Hilfe gezogen wird, sehen die Noten gut aus.
In beaufsichtigten Prüfungen ohne KI brechen die Leistungen dann aber ein.
In San Francisco hat ein selbstfahrendes Fahrzeug von Waymo ein Sturmgewehr bei jugendlichen Passagieren erkannt und selbstständig einen Notruf abgesetzt.
Das KI-System des Robotaxis analysiert laufend die Aufnahmen der Innenraumkameras, damit Fahrgäste sich zum Beispiel an die Anschnallpflicht halten oder um verlorene Gegenstände zu finden.
In diesem Fall identifizierte die KI allerdings die Bedrohung durch die Waffe und leitete ein Sicherheitsprotokoll über Waymo ein.
Das Robotaxi hielt dann sicher am Straßenrand, sodass die Jugendlichen verhaftet und die illegale Waffe sichergestellt werden konnte.
Das war das KI-Update von Heiser Online vom 14.
September 2026.
Eine neue Folge gibt es montags, mittwochs und freitags ab 15 Uhr.