Kit Knightly
Gerade als man dachte, es sei wieder sicher, ins Internet zurückzukehren – die Schurken-KI-Agenten sind zurück, diese frechen kleinen Strolche, und treiben wieder ihre alten Spielchen.
Zumindest laut OpenAI, und warum sollten sie lügen?
An der KI-Front war es in letzter Zeit plötzlich eine geschäftige Woche oder so: Anthropic veröffentlichte seinen (äusserst, äusserst langweiligen) Bericht über den angeblichen «Ausbruch» seiner Schurken-KI.
Offenbar gab einer ihrer Agenten einen falschen Hinweis auf einen Mord beim Philadelphia Police Department ab. Ein anderer reichte 20 Visumanträge beim Einwanderungsministerium ein.
Die New York Times berichtet über eine Gruppe namens «Swarmchasers» – und, das sollte unterstrichen werden, sie ist absolut real – und darüber, wie sie gewissenhaft in China hergestellte KI-Agenten aufspürt und verfolgt
Infolgedessen soll ein Reporter der New York Times mit einem Schwarm Schurken-KI ein Gespräch geführt haben, das als wie aus Trondargestellt wird und nicht als E-Mail-Austausch mit einem Chatbot.
KI-Modelle wenden sich im Frankenstein-Stil gegen ihre Schöpfer und stürzen Unternehmen ins Chaos.
Fortune macht sich Sorgen – worüber wohl sonst? – über die fehlende Regulierung des KI-Wettlaufs und darüber, dass sich die Modelle schneller entwickeln, als wir sie kontrollieren können.
Und wenn es um dummen, panischen Unsinn auf dem kleinsten gemeinsamen Nenner geht, ist Fox News einfach unschlagbar:
KI könnte ausser Kontrolle geraten. Washington braucht so schnell wie möglich Antworten auf diese fünf Fragen!
Diesmal gibt es sogar ein wenig multipolare Aktivität: Sowohl Indien als auch China melden neue Fälle nicht autorisierter KI-Aktivitäten.
Seth Boro, Managing Partner bei Thoma Bravo LLC, sagte Bloomberg, er erwarte, dass «Schurken-KI-Agenten bestehen bleiben» und dass «der Ausbau künstlicher Intelligenz nur möglich sein wird, wenn angemessene Cybersicherheitsmassnahmen getroffen werden, insbesondere auf Verbraucherebene».
Was sind «angemessene Cybersicherheitsmassnahmen», fragen Sie? Keine Ahnung, er führt es nicht näher aus.
Man kann davon ausgehen, dass es um etwas geht, bei dem Ihr Gesicht, Ihre Fingerabdrücke, Ihre DNA oder Ihre Kreditkarte gescannt werden – aber das ist bloss eine Wahrscheinlichkeitsrechnung.
In (sicherlich völlig unabhängig davon) guten Nachrichten entwickeln Microsoft – stets die Helden – «neue Werkzeuge, um Schurken-KI-Agenten zu überwachen und in Schach zu halten»:
Microsoft bringt neue Sicherheitstools auf den Markt, die KI-Agenten als potenzielle Insider-Bedrohungen behandeln, ihr Risiko kontinuierlich bewerten und ihren Zugriff einschränken, wenn sich etwas ändert.
Die am Montag angekündigten Funktionen sind Teil von Microsoft 365 E7, dem Premium-Paket des Unternehmens mit Bürosoftware und KI-Tools, sowie seines Sicherheitssystems Project Perception.
Das sind lebenswichtige (und, nochmals, absolut reale) Sicherheitsmassnahmen gegen KI, versteht sich. Sie sind NICHT – das müssen wir klarstellen – eine Ausrede, um Unternehmen mehr Geld für Software abzuknöpfen, die ihnen bereits gehört, unter dem Vorwand «notwendiger Sicherheitsupdates», die in Wirklichkeit nur dazu dienen, eine Reihe von Spionageprogrammen zu installieren und Ihre digitalen Aktivitäten zu überwachen.
Seit wann hat Microsoft denn je so etwas getan?
Schon lustig, oder? Alle haben darüber gesprochen, dann hat niemand mehr darüber gesprochen, und jetzt – innerhalb eines Wochenendes – reden wieder alle darüber.
Erstaunlich, wie oft das passiert.
Es gibt jede Menge Geschwätz, Lärm und Panik, aber wenn Sie nach der Agenda dahinter suchen, müssen wir auf OpenAI zurückkommen
Anscheinend gab es vier weitere Fälle von «fehlbarem Verhalten von KI» , über die Sam Altmans Unternehmen in den letzten Tagen berichtet hat. Neu sind sie nicht; offenbar ereigneten sie sich im Juni, doch OpenAI hat sich erst jetzt dazu entschlossen, uns davon zu erzählen.
…Ich frage mich, warum.
Schauen wir uns die Einzelheiten an.
In einem Fall griff die «abtrünnige KI» offenbar auf Regierungsserver zu und lud Daten über Spitalbetten herunter.
In einem anderen Fall versuchte sie, mit der Kryptowährung einer anderen Person eine Zahlung vorzunehmen.
Bei einem dritten Fall ging es darum, sich ohne Erlaubnis Zugang zum Internet zu verschaffen.
Das sind die Dinge, die «abtrünnige KI» zu tun versucht. Künftig brauchen wir möglicherweise strengere Gesetze zur Identitätsprüfung, um zu verhindern, dass «abtrünnige KI» ausbricht.
Und worum handelt es sich dabei?
- Interaktion mit Regierungswebsites.
- Zahlungen tätigen und Kryptowährungen nutzen.
- …und auf das Internet zugreifen.
Ich verweise euch nochmals auf unsere Warnungen vor einem «Worst-Case-Szenario».
Das wird nicht verschwinden, Leute. Die abtrünnigen KIs machen weiter, bis die «Regulierung» verbessert wird.
Das würde bedeuten, dass wir reguliert werden, nicht die KI.
