Anthropic hat am 10. Juni zwei öffentliche Policy‑Dokumente und einen Essay von CEO Dario Amodei veröffentlicht, die auf stärkere staatliche Eingriffsbefugnisse bei leistungsfähigen KI‑Modellen drängen, und zugleich einen Economic Futures Fund über 200 Mio. USD plus ein 150‑Mio.‑USD Fellowship‑Programm angekündigt. Die Papiere zielen auf verpflichtende Tests, unabhängige Audits und sogar auf die Möglichkeit, riskante Deployments zu blockieren, dazu kommen konkrete Finanzierungszusagen zur Abfederung von Job‑Effekten.
Advanced AI Framework (10. Juni 2026), Blockierrechte und finanzielle Strafen
Der vorgeschlagene Advanced AI Framework verlangt, dass Staaten die rechtliche Befugnis erhalten, die Auslieferung von Modellen zu stoppen, die ein „significant risk of catastrophic harm“ bergen. Zentrale Schwellenwerte sind Modelle, die mehr als 10^25 FLOPs an Training erfordern, oder Anbieter mit mehr als 500 Mio. USD AI‑Umsatz bzw. über 1 Mrd. USD in AI‑Forschungsausgaben, Strafzahlungen sollen am globalen Jahresumsatz bemessen steigen. Pflichttests, externe Evaluierungen und regelmäßige Risiko‑Reports sind Teil der Vorschläge.
Economic Futures Research Fund: 200 Mio. USD Forschung, 150 Mio. USD Fellowship
Parallel kündigte Anthropic einen Economic Futures Research Fund mit zunächst 200 Mio. USD an, plus ein nationales Fellowship‑Programm mit 150 Mio. USD, um Studien und Pilotprojekte zu politischen Antworten auf KI‑bedingte Beschäftigungsverschiebungen zu finanzieren. Die Associated Press fasst die Pläne und Amodeis Forderung nach Mechanismen wie Lohnversicherungen oder sogar UBI als Optionen zusammen.
Dario Amodei Essay „Policy on the AI Exponential“, FAA‑ähnliche Regulierung und die vier Risikokategorien
Amodei fordert in seinem Essay eine FAA‑ähnliche Struktur für Frontier‑Modelle, mandatory third‑party testing und konkrete Prüfbereiche: Bio‑Risiken, großflächige Cyber‑Angriffe, Kontrollverlust über autonome Systeme und automatisierte KI‑Forschung. Er nutzt Anthropic‑Eigenerfahrungen mit Mythos Preview als Beleg dafür, dass diese Risiken real sind. Die Texte sind als PDFs öffentlich und sollen die Debatte um Gesetzesvorschläge beeinflussen.
Die wichtigsten kurzfristigen Beobachtungspunkte sind gesetzgeberische Reaktionen in den USA und der EU, die genaue Festlegung der Compute‑ und Umsatzschwellen, und wie Konkurrenten wie OpenAI oder Google auf Forderungen nach verbindlichen Tests und möglichen Präventionsbefugnissen reagieren.
