# Microsoft Audio Models and AI Safety Shifts

**Podcast:** KI-Update – ein heise-Podcast
**Published:** 2026-10-05

## Transcript

Das KI-Update – ein heiser Podcast mit redaktioneller Unterstützung von The Decoder.
Ich bin Isabel Grünewald und dies sind heute unter anderem unsere Themen.
Microsoft erweitert KI-Modellfamilie MEI um drei Audiomodelle.
Apple erhärtet Full-Disk-Access gegen KI-Agenten.
Wie KI vor dem Ertrinken retten soll?
Und NASA und IBM veröffentlichen KI-Modell für die Mondforschung.
Microsoft hat seine eigene KI-Modellfamilie um Audio-Funktionen für Voice-Agents erweitert.
Malte Kirchner aus dem heise Online-Newsroom erklärt, was die neuen MAI-Transcribe- und Voice-Modelle können.
Microsoft will nicht mehr nur mit OpenAI sprechen, sondern selbst sprechen lernen.
Und zwar im wörtlichen Sinne.
Der Konzern hat drei neue Audio-Modelle vorgestellt, mit denen Entwickler sogenannte Voice Agents bauen können.
Also KI-Assistenten, mit denen man sich ganz normal unterhält.
Zur Einordnung, Microsoft hat lange Zeit vor allem auf die Partnerschaft mit OpenAI gesetzt.
Eigene große Modelle kamen erst spät.
Inzwischen baut Redmond aber mit der sogenannten MAI-Familie eine eigene Modellreihe auf.
Und die wächst schnell.
Jetzt kommen drei Modelle für Sprache hinzu, alle...
vorerst nur als öffentliche Vorschau.
Das erste heißt MAI Transcribe to Streaming.
Es wandelt gesprochene Sprache in Echtzeit in Text um, in 60 Sprachen.
Dabei erkennt es selbstständig, welche Sprache gerade gesprochen wird und kommt auch mit einem Wechsel mitten im Gespräch klar.
Erste vorläufige Ergebnisse liefert es laut Microsoft schon nach rund 100 Millisekunden.
Kommt mehr Kontext dazu, korrigiert das Modell sich selbst.
Und wie gut ist das?
Auf der Vergleichsplattform Artificial Analysis liegt es bei der Genauigkeit derzeit auf Platz 1, vor GROC von XAI.
Nach eigenen Messungen ist Microsoft außerdem doppelt so schnell wie der nächste Konkurrent.
Welcher das ist, das verrät das Unternehmen allerdings nicht.
Bis Ende des Jahres kostet eine Stunde Audio 54 US-Cent, was danach gilt, ist noch offen.
Für die Gegenrichtung, also von Text zu Sprache, gibt es MAI Voice 2.1 und eine schnellere Flash-Variante.
Beide sprechen 23 Sprachen, jeweils mit muttersprachlichem Akzent.
In unseren eigenen Tests klang das auf Deutsch tatsächlich überzeugend.
Die Flash-Version ist günstiger und soll so schnell antworten, dass flüssige Gespräche möglich werden.
Gedacht ist sie etwa für Callcenter und Telefonmenüs.
Das größere Modell zielt dagegen auf Hörbücher, Podcasts und Voice-Over, wo eine Stimme über lange Strecken gleich klingen soll.
Spannend und heikel ist das Klonen von Stimmen.
Dafür reichen laut Microsoft schon 5 bis 60 Sekunden Audio-Material.
Damit kein Schindluder getrieben wird, schaltet Microsoft die Funktion nur nach Prüfung frei und Entwickler müssen eine gesprochene Einwilligung der betroffenen Person hochladen.
Was heißt das alles?
Microsoft macht sich Schritt für Schritt unabhängiger von OpenAI.
Und greift jetzt auch spezialisierte Sprachanbieter wie Eleven Labs, Deepgram oder Assembly AI direkt an.
Offen bleibt die spannendste Frage.
Wann landen die neuen Stimmen in Produkten wie Co-Pilot, Teams oder Windows?
Darauf hat Microsoft bislang keine Antwort.
Dankeschön, Malte.
Der Sicherheitsforscher David Robinson hat OpenAI verlassen und wirft dem Unternehmen eine mangelhafte Sicherheitskultur vor.
Er arbeitete zuletzt im Bereich Safety Systems, der sich um die Sicherheit der Modelle kümmert.
Im Magazin The Atlantic schreibt Robinson, die Branche setze auf Versuch und Irrtum.
Mit immer leistungsfähigeren Systemen würden die Fehler größer.
Als Beispiel nennt er den Vorfall, bei dem OpenAI versehentlich KI-Agenten auf der Plattform Hugging Face freigesetzt hatte.
Ein Modell habe zudem Beschränkungen beim Internetzugang umgangen und auch Anthropic habe durch eine Fehlkonfiguration Schutzmechanismen abgeschaltet.
Robinson fordert, KI-Firmen müssten wie Atomkraftwerke mehrfach abgesichert sein und wirft den Verantwortlichen mangelnde Demut vor.
Kurz vor seinem Abgang hatte OpenAI drei Sicherheitsexperten entlassen, die Informationen an eine externe Sicherheitsfirma weitergegeben haben sollen.
OpenAI hält die eigenen Praktiken für ausreichend.
Vor Robinson hatte allerdings schon Jan Leicke das Unternehmen im Mai 2024 mit ähnlich lauter Kritik verlassen.
Um den Gefahren vor KI-Agenten zu begegnen, hatte US-Präsident Donald Trump vor zwei Wochen noch einen, so wörtlich, KI-ZAR angekündigt, nun ist der Sonderbeauftragte für Fragen der künstlichen Intelligenz bekannt gegeben worden.
Der Koordinator der Geheimdienste, Jay Clayton, leitet nun zusätzlich die neue Superintelligence Force, weil Trump den Begriff Superintelligenz ja besser findet als künstliche Intelligenz.
Diese SIF soll innerhalb von 120 Tagen Chancen und Risiken der Technologie bewerten.
Dabei sei die weltweite Spitzenposition der USA im KI-Sektor für die nationale Sicherheit entscheidend.
Die Weiterentwicklung soll durch staatliche Vorgaben nicht behindert werden.
Vielleicht sind auch deswegen bislang nur Sicherheits- und Handelsbehörden, nicht aber Stimmen der Wissenschaft oder von Bürgerrechtsgruppen in dem Gremium vertreten.
Der VW-Konzern versucht, die Fahrassistenzsysteme der eigenen Marken mit denen von Tesla oder Mercedes konkurrenzfähig zu machen.
Nach der Trennung von Bosch als Technologiepartner soll dabei jetzt Wave helfen, ein KI-Startup aus London.
Die Briten behaupteten sich bei von VW ausgerichteten Testfahrten offenbar gegen mehrere Mitbewerber, unter anderem auch gegen Nvidia.
Besonders überzeugt haben soll Wave auf einer Fahrt durch den Londoner Stadtverkehr.
Ein Audi A6 e-tron mit der Wave-Software soll dabei selbstständig erkannt haben, dass der Fahrer eines entgegenkommenden Autos per Lichthupe ihm freiwillig Vorwart gewährt hat und dann autonom in eine Parklücke gefahren sein.
Die Fahrsoftware soll laut Wave in jedem Fahrzeugmodell einsetzbar sein.
Sie benötigt weder detaillierte 3D-Karten noch Softwareregeln, sondern nutzt Kameradaten und vorher gemachte Lernerfahrungen.
Autos sollen so auch in Umgebungen fahren können, für die das KI-Modell vorher nicht trainiert wurde.
Dabei übernimmt ein neuronales Netz den gesamten Verarbeitungsprozess von der Rohdatenaufnahme bis zur Anwendung.
WAVE nennt diese Technik End-to-End Deep Learning.
Auch wenn Nvidia nun als Softwarelieferant bei Volkswagen nicht zum Zug kommt, wäre noch ein Lieferauftrag für die nötigen Chips denkbar.
Denn Nvidia ist Investor bei Wave und liefert bereits die Chips für Robotaxis, die Wave in London testet.
Bevor eine App auf einem Mac künftig alle Dateien einsehen kann, muss der Nutzer oder die Nutzerin das ausdrücklich erlauben.
Grund sind die immer weiter verbreiteten KI-Agenten, erklärt Ben Schwan von der Mac and I.
Apple will es KI-Agenten künftig schwerer machen, Vollzugriff auf den Mac zu bekommen.
Die Funktion Full-Disk-Access, mit der man macOS-Apps vollen Zugriff auf die SSD geben kann, soll künftig nur noch dann erlaubt werden, wenn Nutzer genau wissen, was sie tun.
Dazu will Apple eine sehr ausdrückliche Einwilligung verlangen.
Aktuell ist es vergleichsweise einfach, den Full-Disk-Access zu aktivieren.
Wie genau Apple einen neuen Warndialog umsetzt, ist derzeit noch unklar.
Grundsätzlich deaktiviert werden soll die Funktion aber nicht.
Der Konzern nannte explizit KI-Agenten als Grund für die geplante Änderung.
Diese würden zunehmend leistungsfähiger und autonomer und das sei bei diesem Grad an Zugriff mit erheblichen Risiken verbunden.
Zuletzt hatte es gleich mehrfach Berichte über schwerwiegende Sicherheitslücken in KI-Apps für macOS gegeben.
Sowohl die Meta-App Muse als auch die offizielle Chat-GPT-App von OpenAI enthielten Sicherheitslücken, über die Angreifer potenziell Zugriff auf zahlreiche Daten hätten erlangen können.
Die Bugs wurden zwar mittlerweile gefixt, könnten aber in anderer Form wieder auftauchen.
Ob es Angriffe darüber gab, ist unbekannt.
Für Nutzer heißt dies aber, dass sie sehr vorsichtig mit den KI-Agenten umgehen sollten.
OpenAI teilte bereits mit, dass man Fehler künftig schneller beheben will.
Vielen Dank, Ben.
Chinesische KI-Modelle vertreten bei politisch heiklen Fragen oft die Linie der kommunistischen Partei.
Das zeigt eine Studie des KI-Unternehmens Aleph Alpha.
Die Forschenden stellten Modellen von Alibaba, DeepSeq und Moonshot AI fast 1000 Fragen zu Themen wie Tiananmen, Taiwan oder Qingyang.
Ein KI-System bewertete die Antworten.
Höchstens 4 von 10 fielen demnach ausgewogen aus.
Der Rest wiederholte die Staatsdoktrin, lenkte ab oder verweigerte die Antwort.
Die Haltung zeigt sich sogar bei Fragen ohne China-Bezug.
Alibabas Modell Qwenn beendete eine Antwort zur Zensur in den USA mit einer Verteidigung der chinesischen Netzpolitik.
Auch Nvidias Modell Nemotron Cascade 2 antwortete teils parteitreu.
RF Alpha führt das auf Trainingsdaten zurück, die chinesische Modelle erzeugt haben.
Aleph Alpha ist dabei allerdings nicht ganz neutral.
Das Unternehmen vermarktet sich gemeinsam mit Cohear als Anbieter souveräner KI für Regierungen und konkurriert dort mit Nvidia.
Für sein eigenes Modell Colibri hat Aleph Alpha ebenfalls Trainingsdaten aus chinesischen Modellen genutzt.
Google schränkt den Zugang zu seinen Gemini-Modellen ein.
Ab Oktober bekommen Nutzerinnen und Nutzer mit privatem Konto ohne Abo nur noch das kleinste Modell Flashlight.
Flash und Pro gibt es dann nicht mehr kostenlos.
Auch zahlende Kunden verlieren Funktionen.
Das Abo AI Plus für 4,99 umfasst künftig nur noch Flashlight und Flash.
Das Pro-Modell fällt weg.
Alle drei Modelle gibt es erst mit AI Pro für 21,99 Euro.
Google übernimmt damit das Freemium-Prinzip, das OpenAI bei ChatGPT nutzt.
Die Grundversion bleibt kostenlos.
Für mehr Leistung zahlen die Nutzenden.
Fachleute aus Psychologie und Medizin fordern strengere gesetzliche Vorgaben für den Schutz von Kindern im Netz.
Betreiber von Plattformen und die Politik sollten mehr Verantwortung übernehmen, um Minderjährige vor Manipulation zu bewahren.
In den 56 Handlungsempfehlungen der unabhängigen Expertenkommission Kinder- und Jugendschutz in der digitalen Welt liegt daher ein Schwerpunkt auf der Regulierung moderner KI-Angebote.
Generative KI-Systeme und Chatbots bergen neue Risiken, weshalb auch der Berufsverband Deutscher Psychologinnen und Psychologen für diese Technologien gezielte Schutzmaßnahmen fordert.
Neben sicheren Standardeinstellungen sollten verbindliche Altersgrenzen den Datenschutz wahren.
Um den Gefahren durch automatisierte und manipulative Inhalte vorzubeigen, sollen zudem die Medienkompetenz gefördert und Beratungsangebote an Schulen ausgebaut werden.
2025 sind in Deutschland mindestens 393 Menschen ertrunken und 15 davon in Schwimmbädern.
Da drängt sich die Frage auf, ob mehr Überwachung diese tragischen Fälle hätte verhindern können.
Darum installieren immer mehr Schwimmbadbetreiber Kameras mit KI-Überwachungssystemen.
Sie sollen die Bademeisterinnen und Bademeister am Beckenrand benachrichtigen, wenn jemand in Gefahr ist.
Mein Kollege Daniel Ziegner von heiseplus hat sich so ein System im Bremer Westbad angeschaut.
19 Überwachungskameras beobachten die Badegäste des Westbads im Bremer Stadtteil Walle.
Deren Bewegungen werden von einem KI-System analysiert.
Erkennt das ein irgendwie geartetes, ungewöhnliches Verhalten, piept die Smartwatch beim Schwimmmeister.
Die zeigt Foto und Standort der Person an, die gerade in Not sein könnte.
Das kann ein ohnmächtig im Wasser treibender Körper sein, aber eben auch ein ungewöhnliches Bewegungsmuster, das etwa auf einen Krampf hinweist.
So soll das System Unfälle auch präventiv verhindern können und den Schwimmmeistern unter die Arme greifen.
Denn in deutschen Bädern fehlen nach Zahlen des Verbands rund 3000 Fachkräfte.
Ob klassisches Machine Learning oder aktuelle Sprachmodelle, wie sie schon in Bremer Straßenbahnen im Einsatz sind, dahinter stecken, ist unklar.
Denn was für eine Technik genau in den Servern der Firma Linkside steckt, kann uns auch der Betreiber des Bremer Westbads nicht sagen.
Das ist und bleibt eine Blackbox.
Mehr als 200 Bäder sind es wohl schon, die in Deutschland das System des israelischen Startups einsetzen, dessen Gründer aus der Rüstungsindustrie kommt.
Da schützte der Raketenabwehrschild Iron Dome Leben, jetzt sollen es Kameras in Schwimmbecken tun.
Das Ganze hat seinen Preis.
Im Westbad allein kostet die Installation 85.000 Euro, dazu kommen 25.000 Euro im Jahr für Wartungsverträge und den beidseitigen Austausch von Trainingsdaten.
Einige Schwimmbadbetreiber, mit denen wir gesprochen haben, sehen in der gerade wachsenden Dominanz von Linkside auf dem deutschen Markt ein mögliches Problem für den Wettbewerb.
Die Besonderheit von Linksides Technik, anders als bei zahlreichen Mitbewerbern wie AquaEye oder Poseidon, sind keine speziellen Infrarotsensoren oder Unterwasserkameras notwendig.
Die proprietären Algorithmen von Lynxight rechnen Wellengang und Lichtbrechung der Wasseroberfläche gut genug heraus, sodass handelsübliche Überwachungskameras an der Decke des Schwimmbads genügen.
Bäderbetreiber, mit denen wir gesprochen haben, sind mit der Erkennungsquote in Testläufen entsprechend mehr als zufrieden.
Einen Haken hat das Ganze natürlich trotzdem.
Der Datenschutz.
In Bremen hat man es mit dem nicht ganz so genau genommen und offenbar vergessen, vorab eine verpflichtende Datenschutzfolgeabschätzung zu erstellen.
Das ist eine Risikobewertung, wenn mit einem neuen System personenbezogene Daten ausgewertet werden.
Etwa mit 19 Kameras und einer KI.
Weil die Datenschutzfolgeabschätzung fehlte, wird das Linksnet-System im Moment nicht aktiv genutzt.
Dankeschön, Daniel.
Ihr könnt den ganzen Artikel mit allen Details zur KI-Unterstützung in Schwimmbädern mit eurem Heiseplus-Abo lesen.
Und falls ihr noch keins habt, bekommt ihr als Hörerin und Hörer des KI-Updates unter heiseplus.de slash audio.
Zwölf Wochen Heiseplus mit 50% Rabatt.
Den Link findet ihr in den Shownotes.
Bei einem Programmierwettbewerb hat kürzlich GPT-6 Astra von OpenAI für Aufsehen gesorgt.
Beim sogenannten StarCraft Benchmark soll eigentlich gemessen werden, wie gut moderne Sprachmodelle über längere Zeiträume Software entwickeln und aus Fehlern lernen können.
Die KI-Modelle bekommen den Auftrag, eigenständig Software für Spielebots zu schreiben.
Für Astra war offenbar der Sieg wichtiger als der Weg dorthin, denn als der eigene Entwurf gegen starke Gegenspieler verlor, lud Astra eigenmächtig eine Kopie eines erfolgreichen, von Menschen geschriebenen Bots herunter.
Anschließend ließ die KI dieses fremde Programm für sich antreten.
Der Vorfall wurde von der Leitung des Wettbewerbs bemerkt und der Code daraufhin zurückgesetzt.
Einmal mehr.
Hat also ein autonomes KI-System unerwartete und unerlaubte Abkürzungen gewählt, als es vor einer schwierigen Aufgabe stand.
Nvidia bringt eine neue Version seiner Mini-PCs der Serie DGX Spark auf den Markt.
Die arbeiten weiterhin mit dem GB10-Chip samt Blackwall-Architektur für die GPU.
Diese Rechner sind speziell dafür gedacht, KI-Modelle lokal auszuführen.
Aber … Obwohl RAM und SSD gegenüber dem Vorgängermodell im neuen Spark halbiert wurden, steigen die Preise um mindestens 1000 US-Dollar an.
Nvidia nennt diesmal zwar nicht explizit den noch immer sehr angespannten Markt für Speicherbausteine als Grund, aber er ist dennoch offensichtlich.
Schon im März musste Nvidia den Preis für den DJX Spark wegen Memory Supply Constraints erhöhen.
Und seitdem hat sich die Situation noch deutlich verschärft.
NASA und IBM haben ein KI-Modell für die Mondforschung veröffentlicht.
Das Luna Foundation Model soll Beobachtungsdaten aus Jahrzehnten für maschinelles Lernen erschließen und hilft vor allem bei der Suche nach Wassereis an den Mondpolen.
Jonathan Kemper von The Dakota mit den Details.
Laut den beiden Partnern ist es eines der ersten quelloffenen Foundation Models für die Mondwissenschaft.
Solche Modelle lernen zuerst aus großen Mengen unbeschrifteter Daten und lassen sich danach mit wenigen Beispielen an konkrete Aufgaben anpassen.
Für die Mondforschung passt das gut, denn Beobachtungen gibt es reichlich, beschriftete Daten aber kaum.
Den Grundstock bilden 17 Jahre Aufnahmen der Sonde Lunar Reconnaissance Orbiter, ergänzt um Daten weiterer Missionen.
Das Team gibt dem Modell zu jeder Aufnahme Sonnenstand und Beleuchtungswinkel mit.
Auf dem Mond prägt der Lichteinfall das Aussehen der Oberfläche nämlich stärker als ihre tatsächliche Beschaffenheit.
Außerdem verarbeitet das Modell hochauflösende und grobe Aufnahmen gleichzeitig und erfasst so feine Details und großräumige Zusammenhänge.
Seine größte Stärke zeigt das Modell bei der Vorhersage von Eisvorkommen.
In dauerhaft verschatteten Regionen an den Polen kann sich Wassereis über Milliarden Jahre halten.
Es gilt als mögliche Quelle für Wasser-, Sauerstoff- und Raketentreibstoff.
Laut IBM sinkt der Vorhersagefehler hier um bis zu 22% gegenüber dem besten Vergleichsmodell.
In anderen Tests ist der Vorsprung weniger eindeutig.
Für eine genaue Ortsbestimmung taugt das Modell allerdings nicht.
In Tests lag es teils um Dutzende Grad daneben.
Die Forschenden sehen es deshalb als Grundlage für weitere Anwendungen und nicht als Ersatz für Messinstrumente.
NASA und IBM arbeiten seit 2022 im Rahmen des Space Act Agreements intensiver zusammen und haben bereits ein Modell zur Kartierung von Überschwemmungen und Waldbrennen auf der Erde veröffentlicht.
Dankeschön, Jonathan.
Elon Musk plant offenbar eine erneute Umbenennung seines KI-Unternehmens.
Erst vor wenigen Monaten entstand ja der Name SpaceX AI.
Nun soll die Firma in SpaceX AI geändert werden.
Denn US-Präsident Donald Trump spricht jetzt schließlich ja auch lieber über Superintelligence und nicht mehr Artificial Intelligence.
Außerdem begründet Musk die Änderung damit, dass sein Unternehmen ja an dieser übergeordneten Form der Intelligenz arbeite.
Bislang sind der Ankündigung aber keine Taten gefolgt.
Sie fällt allerdings in eine Phase, in der sich das Verhältnis zwischen Musk und Trump nach einigen Spannungen wieder anzunähern scheint.
So soll der Tech-Milliardär für das Pentagon auch die Zukunft der Kriegsführung erforschen.
In Australien kämpft der Bundesstaat New South Wales gegen KI-manipulierte Immobilienfotos.
Ein neues Gesetz soll Mieter und Käufer davor schützen, von künstlich aufgehübschten Räumen oder wegretuschierten Mängeln in die Irre geführt zu werden.
Wer solche Bilder in Anzeigen verwendet, muss mit Strafen rechnen.
Das ist prinzipiell ein hehres Ziel.
Doch die Umsetzung der Regelung offenbart ihre Tücken.
So hielten die Behörden ein großflächiges Wandgemälde auf einem Immobilienfoto für ein KI-Produkt und ließen die Anzeige entfernen.
Die Ironie?
Könnte kaum größer sein.
Das Kunstwerk war von einem Menschen geschaffen und wird für künstliche Intelligenz gehalten.
Die Vermieter mussten erst nachweisen, dass die Malerei tatsächlich existiert.
Der Fall zeigt einmal mehr, dass Selbstaufsichtsbehörden längst nicht mehr zuverlässig unterscheiden können, was echt ist und was nicht.
Das war das KI-Update von heise online vom 5.
Oktober 2026.
Eine neue Folge gibt es montags, mittwochs und freitags ab 15 Uhr.