Verfasst von Tyler Durden
Der Brief der Gründer am Anfang des Börsenprospekts von Anthropic Börsenprospekts enthält eine Warnung davor, was das eigene Produkt des Unternehmens in falschen Händen anrichten könnte: «Autoritäre Regierungen könnten KI nutzen, um Hightech-Überwachungsstaaten zu schaffen, die Repression zu verschärfen und es wesentlich schwieriger zu machen, sie zu stürzen.»
Der Brief, unterzeichnet von allen sieben Mitgründern darunter CEO Dario Amodei und Präsidentin Daniela Amodei, nennt «autoritären Missbrauch» als eine von vier weit gefassten Kategorien von KI-Risiken, neben Fehlgebrauch, Kontrollverlust und wirtschaftlichen Umwälzungen. Seine Antwort auf die Überwachungsbedrohung ist ein einziger Satz: Anthropic ist «entschlossen, mit freien Gesellschaften zusammenzuarbeiten, um autoritärem Missbrauch entgegenzuwirken und Freiheit und Demokratie zu fördern.»
Eine Seite zuvor legt Anthropic offen, dass das Unternehmen Regierungen KI verkauft, um «staatliche technologische Kapazitäten aufzubauen». «Wir arbeiten bereits mit der US-Bundesregierung, vielen Regierungen der Bundesstaaten und Verbündeten der USA in Bereichen wie Kinderbetreuung, Sozialversicherungsverwaltung, Cybersicherheit und Nachrichtendienst zusammen», schrieben die Gründer.
Der Prospekt legt auch genau dar, wo Anthropic die Grenze zieht. Die Nutzungsrichtlinien verbieten den Einsatz seiner Modelle für vollständig autonome Waffen oder «Massenüberwachung, einschliesslich umfassender Überwachung im Inland», und das Unternehmen sagt, dass es durch das Festhalten an dieser Grenze Einnahmen verloren hat. Nachdem Anthropic diese Position im Februar öffentlich bezogen hatte, wies Präsident Trump die Bundesbehörden an, den Einsatz seiner Technologie einzustellen, und das Pentagon stufte es als «Risiko für die nationale Sicherheit in der Lieferkette» ein. Laut der Einreichung deutete das Kriegsministerium zudem an, es könne sich auf den Defense Production Act berufen, um Anthropic zur Aufhebung der Beschränkungen zu zwingen.
Alex Randall, Forscher am Center for Humane Technology und ehemaliger Politikberater des britischen Kabinettsbüros und des Verteidigungsministeriums, argumentiert in UnHerd, dass der Brief «weitergeht und diese Aussage unerklärt stehen lässt» und dass das darin benannte Risiko nicht auf ausländische Diktaturen beschränkt ist.
Die meiste Zeit der Geschichte hindurch, schreibt Randall, war Überwachung durch die Zahl der Menschen begrenzt, die ein Staat dafür bezahlen konnte, das Gesammelte zu lesen: Die Stasi in Ostdeutschland legte über ein Drittel der Bevölkerung Akten an und hatte nie genug Mitarbeiter, um sie zu lesen. Der Transformer, die Architektur von 2017, auf der Claude, ChatGPT und ihre Konkurrenten beruhen, hob diese Grenze auf. Sein «Aufmerksamkeitsmechanismus» gewichtet jede Eingabe im Verhältnis zu jeder anderen, und multimodale Modelle können Standortdaten, Video, Audio, Finanzunterlagen und Surfverhalten in einem einzigen Rahmen zusammenführen. «Wir haben jetzt mehr Mitarbeiter geschaffen, als jemals benötigt werden», schreibt Randall.

Gemäss den Verbraucherbedingungen, die Anthropic im August 2025 bekannt gab, entscheiden Nutzer der Claude-Tarife Free, Pro und Max, ob ihre Chats zum Trainieren der Modelle verwendet werden dürfen, und Anthropic bewahrt die Daten derjenigen, die zustimmen, fünf Jahre lang auf. TechCrunch wies damals darauf hin, dass die Trainingsoption im Pop-up, das bestehenden Nutzern angezeigt wurde, standardmässig auf «Ein» gestellt war. Kunden aus den Bereichen Unternehmen, Regierung, Bildung und API sind davon ausgenommen.
Randalls Aussage ist, dass jeder Austausch mit einem Chatbot, sei es Claude oder ein anderer, Vorlieben und Schwachstellen offenbart und jeder einzelne eine Rückkopplungsschleife speist, die immer besser vorhersagt, was der Nutzer will, denkt und als Nächstes tun wird.
2021 teilte die Defense Intelligence Agency Senator Ron Wyden in einem Memo mit, dass ihre Analysten in fünf Untersuchungen über einen Zeitraum von zweieinhalb Jahren ohne richterliche Genehmigung kommerziell erworbene Smartphone-Standortdaten von Amerikanern durchsucht hatten. Im Januar übernahm der Rüstungskonzern Reveal Technology Anomaly Six, dessen Werkzeuge «globale digitale Aktivitäten kartieren» und Verhaltensweisen analysieren. Randall führt diese Ambition ein Vierteljahrhundert zurück, zum DARPA-Programm von Admiral John Poindexter, Terroristen durch die Verknüpfung bestehender Datenströme aufzuspüren, und argumentiert, dass «totale Informationswahrnehmung» nun zum Standardergebnis des KI-Wettlaufs wird.
Sein Fazit ist düster: Wenn das Sensornetz immer weiter wächst und mit immer leistungsfähigeren KIs verbunden wird, wird es bald ganz einfach sein, herauszufinden, was eine Person oder Gruppe will und beabsichtigt – ganz gleich, wessen KI es ist; und wer die Maschinen kontrolliert, wird Revolutionen kommen sehen können, lange bevor sie sich formieren.
Anthropics jüngste geänderte Einreichung, datiert auf den 17. November, setzt das Angebot auf 825 Millionen Aktien der Klasse A zu einem angenommenen Preis von je 74 Dollar fest, dem Mittelwert der Preisspanne. Der Brief der Gründer endet mit dem Hinweis an die Käufer, dass jeder, der die Aktie besitzt, «ob eine Institution oder eine Einzelperson, Teil dieser Bemühungen wird» , die Technologie zu lenken.
Und dann gibt es natürlich noch diese Möglichkeit:
