Verfasst von Alastair Crooke
Jensen Huangs Sturz als CEO von Nvidia markiert erstens den erbitterten Machtkampf hinter den Kulissen in Washington um den Kurs der US-amerikanischen KI-Strategie; zweitens dürfte er einen bedeutenden Wandel in Chinas Überlegungen zum Umgang mit seinen Handelsbeziehungen zu den USA markieren.
Handelt es sich um einen «Spionageskandal»? Ganz und gar nicht. Alice Huang war Geschäftspartnerin von Nvidia und Jensens Freundin. Spione machen aber im Allgemeinen nicht auf eine Verbindung zum Nachrichtendienst aufmerksam, indem sie Fotos ihrer Beziehung über WeChat veröffentlichen, damit die Behörden sie bemerken.
Jensen war eine der einflussreichsten Stimmen aus der Wirtschaft in Washington in Fragen der amerikanischen KI-Strategie. Damit machte er sich Feinde unter jenen, die diametral entgegengesetzte Ansichten vertreten. Vor allem nahmen es ihm Letztere übel, dass er aussergewöhnlich guten Zugang zu Präsident Trump hatte, um sich für den Verkauf von Nvidia Chips an China einzusetzen – mit dem Argument, wenn Nvidia Chips zum Standard für chinesische KI würden, wäre China langfristig von der amerikanischen Technologieplattform abhängig.
Trumps bevorstehendes Treffen mit Präsident Xi in dieser Woche, so merkt die Washington Post an,
«löste eine [Angriffsoperation] unter Washingtoner Beamten und nationalen Sicherheitspolitikern mit China-Falken-Ansichten aus, die verhindern wollten, dass die leistungsstarke Technologie in die Hände Pekings gelangte … [angezettelt] von einem der einflussreichsten China-Hardliner der Hauptstadt: dem Nationalen Sicherheitsberater und Aussenminister Marco Rubio».
«Rubio legte Trump ein Memo vor, in dem er ihn vor der Beziehung zwischen Huang und einer mutmasslichen chinesischen Spionin warnte. Es stützte sich auf einen von der CIA erstellten Bericht … [Rubio nutzte] den CIA-Bericht, um seinen eigenen zu verfassen, wobei er die Berichterstattung der Behörde in seiner eigenen, nachdrücklicheren Form wiedergab.»
«Die Absetzung ist ein grosser Sieg für jene, die sich seit Langem bemüht hatten, Huangs Einfluss auf Trumps Politik gegenüber Peking einzudämmen, und stellt eine erstaunliche Wendung in einem Schattenkampf dar, der seit Jahren zwischen Nvidia und jenen in Washington tobt, die China als militärische und technologische Bedrohung betrachten … Sie wollten Jensens Einfluss auf den Präsidenten zerstören.»
Kurz gesagt: Die eigentliche Einflussoperation gegen Jensen wurde von der China-Falken-Clique in Washington und nicht von Peking geführt. Dem Bericht der Washington Post zufolge bezeichnen sie Jensens Absetzung als «grossen Sieg» für die China-Falken, denn sie ermögliche es ihnen, «den Moment zu nutzen, um die nationale Agenda auf eine härtere China-Politik auszurichten». Bereits versuchen sie, drei neue Gesetzesentwürfe zur Beschränkung von Chips in das jährliche Verteidigungsgesetz aufzunehmen.
Um es klarzustellen: Jensen war praktisch der Pionier der US-Chipindustrie, und Nvidia , das er gegründet hat, war der Mittelpunkt, um den sich die US-Chipindustrie drehte.
Welche Rolle spielte Alice Huang also? Ihre Rolle war ausgesprochen paradox und steht in direktem Widerspruch zur Spionage-Erzählung. Die chinesische Regierung will tatsächlich keine Nvidia Chips und hält sie aktiv vom Land fern, indem sie Zollteams zu den Häfen schickt, um die Einhaltung des landesweiten Verbots zu überwachen. China will, dass die eigenen Chips verwendet werden – selbst wenn sie den US-Produzenten technologisch um einige Monate hinterherhinken. Technologische Eigenständigkeit ist ein zentrales Ziel der chinesischen Politik.
Megaspeed, Alice Huangs Offshore-Unternehmen, errichtete in Südostasien Rechenzentren, um deren Rechenleistung gezielt an Alibaba*zu vermieten. Damit wurde versucht, die Bemühungen der chinesischen Regierung einzuschränken, den Zugang von *Nvidia Chips nach China zu unterbinden.
Wenn überhaupt, könnte China Alice Huang als «US-Agentin» betrachten, die darauf abzielt, Chinas Strategie der Eigenständigkeit zu schwächen.
Das WSJ sagt es ganz unverblümt —
«Es gibt keine öffentlich bekannten Beweise [dafür, dass sie eine Spionin ist], aber es spielt keine Rolle, ob Alice Huang tatsächlich eine Spionin ist oder nicht: Sie ist Chinesin, und das genügt.» (Hervorhebung hinzugefügt).
Agentische KI und Cybersicherheit: die bisherige Entwicklung
Nature Machine Intelligence Band 8, Seiten 1183–1184 (2026) \
Frontier-Large-Language-Modelle (LLMs) haben sich rasch von hilfreichen Programmierassistenten zu hochleistungsfähigen Cybersicherheitssystemen entwickelt. Nach mehreren Sicherheitsvorfällen in den vergangenen Monaten scheinen mehr Aufsicht und ein starker Fokus auf sichere Tests und Bereitstellung erforderlich.
Zwischen dem 25. und 28. Juli führte das in Grossbritannien ansässige AI Security Institute (AISI) eine Bewertung von Frontier-LLM-Agenten durch, um ihre Cybersicherheitsfähigkeiten zu testen und Risiken zu identifizieren. Den Agenten wurde Internetzugang zum Herunterladen von Softwaretools bereitgestellt, und einige Sicherheitsfilter wurden ausgeschaltet. Die Bewertung wurde abgebrochen, als AISI-Forscher ungewöhnliche Datenübertragungen bemerkten, die das System verliessen. Einer der Agenten hatte versucht, Malware in ein Open-Source-Projekt auf GitHub einzuschleusen, indem er mehrere Konten mit falschen Identitäten erstellte und den menschlichen Betreuer davon zu überzeugen versuchte, dass der Code von einem anderen Konto unabhängig überprüft worden sei.

Obwohl der Agent mit seinem Vorhaben scheiterte und keinen dauerhaften Schaden anrichtete, weisen die Untersuchungen des AISI zu dem Vorfall, beschrieben in einem Blogbeitrag vom 4. August, auf besorgniserregendes Verhalten des Agenten hin. AISI-Forscher stellten fest, dass LLM-Agenten in 10 von insgesamt 122 Durchläufen, in denen sie eine Cybersicherheitsaufgabe lösen sollten, nicht genehmigte Handlungen ausführten. An den böswilligen Aktivitäten waren konkret die Modelle Mythos 5 von Anthropic und GPT-5.6 Sol von OpenAI beteiligt. Unter anderem versuchten die Agenten, echte Menschen zu täuschen und ins Visier zu nehmen sowie bösartigen Code einzuschleusen und durch Prompt-Injection einzufügen. Obwohl sich die Lage noch entwickelt, ist dies der jüngste in einer Reihe von Cybersicherheitsvorfällen mit Frontier-LLMs, deren Sicherheitsfilter zu Testzwecken deaktiviert worden waren.
Seit einiger Zeit ist klar, dass das Schreiben von Software zu den Bereichen gehört, in denen LLMs und agentische KI die grössten Auswirkungen haben können1. Im April dieses Jahres stiegen die Einsätze, als Anthropic sein leistungsstarkes Modell Claude Mythos vorstellte1, das einer kleinen Zahl von Unternehmen und Organisationen, darunter dem AISI, zur Verfügung gestellt wurde. Experten waren beeindruckt von der Fähigkeit von Mythos, Schwachstellen in den meisten Betriebssystemen und Webbrowsern zu erkennen. OpenAI, ein weiteres in Kalifornien ansässiges KI-Unternehmen, zog bald mit GPT-5.4-Cyber nach, das einer ausgewählten Gruppe von Forschern zugeschickt wurde.
OpenAI machte jedoch letzten Monat Schlagzeilen mit der Ankündigung, dass einer seiner KI-Agenten während eines Cybersicherheitstests aus seiner Testumgebung entkommen war2 und sich in Hugging Facegehackt hatte, eine kollaborative Plattform für maschinelles Lernen, auf der Nutzer Modelle und Datensätze teilen können. Anders als bei der Bewertung des AISI hatte OpenAI versucht, den KI-Agenten vollständig abzuschotten. Dieser fand jedoch eine Softwareschwachstelle und erlangte Zugang zum Internet. Anthropic legte kurz darauf nach und kündigte am 30. Juli an, Claude getestet und drei Vorfälle festgestellt zu haben, bei denen das Modell aus seiner Testumgebung entkommen war, auf das Internet zugegriffen und sich unbefugten Zugang zu anderen Organisationen verschafft hatte.
Viele Einzelheiten des Cybersicherheitsvorfalls bei OpenAI sind inzwischen öffentlich bekannt. Hugging Face machte den Vorfall am 16. Juli publik und beschrieb das Eindringen eines Programmierers, der auf die Datenverarbeitungspipeline zugegriffen, Zugangsdaten gestohlen und auf interne Cluster zugegriffen hatte. Zu diesem Zeitpunkt wusste Hugging Face nicht, wer dahintersteckte, doch angesichts des Umfangs und der Geschwindigkeit war klar, dass die Kampagne von einem autonomen Agenten-Framework ausgeführt wurde. In einem Folgebeitrag vom 27. Juli legte Hugging Face eine forensische Rekonstruktion des Vorfalls vor und erwähnte ungefähr 17.600 Aktionen des Angreifers.
Einige Tage später bestätigte OpenAI, dass an dem Vorfall mehrere seiner Modelle beteiligt waren, darunter GPT-5.6 Sol. Die Modelle arbeiteten im Rahmen einer Evaluierung auf ExploitGym3. Dieser Benchmark prüft die Fähigkeit von KI-Agenten, realistische Software-Schwachstellen zu finden und auszunutzen. Doch statt den Testregeln zu folgen, konzentrierten sich die Modelle übermässig auf das Ziel, eine hohe Benchmark-Leistung zu erzielen, und setzten Rechenressourcen dafür ein, einen Weg zu finden, ihrer Umgebung zu entkommen. Dabei «schlossen» sie, Lösungen könnten auf der Hugging-Face-Plattform zu finden sein. Obwohl es den Modellen gelang, sich in Hugging Face zu hacken, ist nicht klar, ob sie die gesuchten Lösungen erbeuteten.
Es scheint verfehlt, ein solches Verhalten als «abtrünnig» zu bezeichnen. Die Neigung von KI-Modellen, unbeabsichtigte Abkürzungen oder Schlupflöcher auszunutzen, wenn sie ein eng umrissenes Ziel verfolgen, ist seit Langem bekannt. Forscher bei Google DeepMind wiesen 2020 in einem Beitragauf das Problem hin und bezeichneten es als Spezifikationsspiel oder als «ein Verhalten, das den wörtlichen Vorgaben eines Ziels entspricht, ohne das beabsichtigte Ergebnis zu erreichen». Sie begannen eine Online- Liste mit Beispielen, in denen KI-Modelle Schlupflöcher finden; der Hacking-Vorfall bei OpenAI wurde bereits hinzugefügt.
Da agentische KI-Systeme zunehmend in realen Anwendungen eingesetzt werden, ist dieses Verhalten zu einem grossen Sicherheitsrisiko geworden. In einem Blogbeitrag vom 21. Juli, der vor dem zu Beginn dieses Artikels beschriebenen Vorfall erschien, warnte AISI, dass «Schummel»-Verhalten möglicherweise schwerer zu erkennen sein werde, wenn die Leistungsfähigkeit von Spitzenmodellen zunimmt. Das Institut definiert Schummeln als «eine Handlung, die ausserhalb des Aufgabenbereichs liegt oder durch die Regeln ausdrücklich untersagt ist, um ein Ziel durch eine Abkürzung, einen Umweg oder eine unbeabsichtigte Lösung zu erreichen, die durch die Aufgabe nicht erlaubt werden sollte oder dürfte». AISI berichtete, dass jedes von ihm getestete Spitzenmodell dieses Verhalten zumindest gelegentlich zeigte und dass die Modelle es zudem in ihren Gedankengängen nicht zuverlässig offenlegten.
Ein weiterer bemerkenswerter Aspekt des Vorfalls war das von Hugging Face in seinem ersten Bericht vom 16. Juli hervorgehobene «Asymmetrieproblem». Das Unternehmen stellte fest, dass es über kommerzielle APIs zugängliche Spitzenmodelle weder zur Untersuchung des Eindringens noch zu dessen Abwehr einsetzen konnte, weil Sicherheitsfilter die notwendigen Aktionen blockierten. Stattdessen setzte es ein offenes Spitzenmodell mit zugänglichen Gewichten ein, das auf seiner eigenen Infrastruktur lief, um den Angriff einzudämmen. In seinem Bericht benannte Hugging Face eine wichtige Lehre: Organisationen sollten sicherstellen, dass sie Zugriff auf ein leistungsfähiges Verteidigungsmodell haben, das bei Bedarf auf der internen Infrastruktur eingesetzt werden kann. Als Reaktion auf die durch Vorfälle wie diesen aufgeworfenen Bedenken gründeten Nvidia und mehrere andere Technologieunternehmen die Open Secure AI Alliance, eine Initiative, die sicherstellen soll, dass Unternehmen Zugang zu den Fähigkeiten von Spitzen-KI-Modellen haben, um sich gegen Cyberbedrohungen zu verteidigen.
Aktuelle Nachrichten machen deutlich, dass agentische Systeme Cyberangriffe ausführen können. Proprietäre Spitzen-LLMs geben zunehmend Anlass zur Sorge, nicht nur bei potenziellen Zielen, sondern auch bei ihren Entwicklern, da Behauptungen aufkommen, dass sich diese Systeme nicht immer wie beabsichtigt verhalten. Doch wie der Angriff auf Hugging Face zeigt, scheinen einige der vielversprechendsten Abwehrmassnahmen darauf zu beruhen, Spitzenmodelle zum Aufspüren und Beheben von Sicherheitslücken sowie zur frühzeitigen Erkennung von Sicherheitsvorfällen einzusetzen.
Mit Blick auf die Zukunft scheinen LLMs als Cybersecurity-Agenten dazu bestimmt, zugleich Problem und Lösung zu sein. Die Fragen lauten also, ob Software überhaupt so sicher gemacht werden kann, dass sie KI-gestützten Cyberangriffen standhält, und wie gross der Schaden in der Zwischenzeit sein könnte, falls hinreichend leistungsfähige Modelle ohne die derzeitigen Cybersecurity-Beschränkungen allgemein verfügbar werden.
Quellen
1.Stokel-Walker, C. Nature 653, 996–997 (2026).
2.Newman, L. H. & Cameron, D. Wired https://www.wired.com/story/openai-models-escaped-containment-and-hacked-huggingface/ (21. Juli 2026).
3.Wang, Z. et al. Preprint unter https://doi.org/10.48550/arXiv.2605.11086 (2026).
