KI & Maschinelles Lernen

Anthropics KI-Sicherheitsgesetz: Was es wirklich ändern würde

Anthropic hat dem Kongress einen KI-Sicherheitsentwurf vorgelegt. Laut Berichten liegt alle Blockiermacht bei einem Richter, andere Behörden bleiben außen vor.

Editorial Team / /8 Min. Lesezeit
Ein kleines orangefarbenes Pixelart-Maskottchen steht vor einer leeren Richterbank in einem holzgetäfelten Gerichtssaal, durch das Fenster ist die Kuppel des US-Kapitols zu sehen.

Anthropic hat einen vertraulichen Diskussionsentwurf für ein Bundesgesetz mit einer kleinen Zahl von Kongressbüros geteilt, einen Entwurf, der es der Regierung erlauben würde, ein KI-Modell mit Risiko für massiven Schaden zu stoppen. Dieses KI-Sicherheitsgesetz von Anthropic, berichtet unter dem Titel AEGIS Act, hat keine Gesetzesnummer, keinen Abgeordneten, der es einbringt, und keine geplante Abstimmung. Was es laut Presseberichten über den Text aber hat, ist ein enger Mechanismus, der jede föderale Blockiermacht einem einzigen Richter überträgt und ausdrücklich jede andere Behörde von der Entscheidung ausschließt. Dieses Konstruktionsdetail zählt mehr als die aktuellen Chancen des Entwurfs auf Verabschiedung, denn es zeigt, wie ein KI-Labor sich Sicherheitsregulierung in der Praxis vorstellt.

Was der Entwurf tatsächlich vorsieht

Wer den Namen Anthropic aus unserer Analyse der Abschaltung eines eigenen Modells kennt, erlebt hier eine andere Art von Schritt: Das Unternehmen gestaltet nicht mehr nur sein Produkt, es formt die Regeln, die es künftig einrahmen sollen. Der Text, zuerst am 16. Oktober von Politico gemeldet und später von TechCrunch und The Next Web im Detail beschrieben, würde der Bundesregierung erlauben, die Veröffentlichung eines KI-Modells zu blockieren, aber nur unter sehr engen Bedingungen. Ein Modell dürfte nur gestoppt werden, wenn von ihm ein absehbares, unmittelbares Risiko ausgeht, mehr als 50 Menschen zu töten oder schwer zu verletzen oder mehr als eine Milliarde Dollar Schaden zu verursachen, und auch das nur, wenn das Risiko aus einem von drei im Text benannten Szenarien stammt: der Herstellung oder Freisetzung einer biologischen Waffe, einem Modell, das sich der Kontrolle seines Herstellers entzieht, oder einem Cyberangriff. Alles außerhalb dieser drei Kategorien würde nicht zählen, egal wie groß der Schaden sonst wäre.

Der Weg dorthin ist genauso eng gefasst. Das Handelsministerium (Department of Commerce), die Bundesbehörde, die bereits Exportkontrollen und Technologiepolitik überwacht, müsste Beweise für eines dieser drei Risiken vor einem Bundesrichter vorlegen, konkret vor dem Bundesbezirksgericht für den District of Columbia in Washington. Dieser Richter, nicht ein technischer Regulator oder ein wissenschaftliches Gremium, entscheidet, ob ein Modell blockiert wird. Die Risikobewertung, auf der diese Beweise beruhen, käme von unabhängigen Prüfern, die beim Handelsministerium registriert sind und die von den KI-Laboren selbst bezahlt werden könnten, solange diese Bezahlung, in der von Politico berichteten und von TechCrunch weitergegebenen Formulierung, „nicht von den Ergebnissen der Bewertungen abhängig“ ist (Übersetzung aus dem Englischen).

Für sich genommen klingt jeder einzelne Baustein nach einem vernünftigen rechtsstaatlichen Verfahren. Zusammengesetzt ergeben sie ein einziges, enges Tor, kein Sicherheitsnetz.

Warum alles über einen einzigen Richter zu führen die Lage verändert

Ein Bundesrichter, der einen KI-Sicherheitsfall bearbeitet, ist nicht dasselbe wie ein technischer Regulator. Ein Richter ist darin geschult, Beweise zu gewichten und Recht anzuwenden, nicht darin, zu beurteilen, ob das Verhalten eines Modells unter gezielten Testangriffen eine Grenze überschreitet, die ein Experte für maschinelles Lernen (die Disziplin, die KI-Modelle trainiert) als gefährlich erkennen würde. Die Presseberichte zum Entwurf erwähnen keine technische Qualifikation, die der Richter mitbringen müsste und sieht kein ständiges Gremium aus KI-Spezialisten vor, das ihn beraten würde. Sachverständige können wie in jedem Gerichtsverfahren gehört werden, doch die eigentliche Entscheidung liegt bei einer einzigen Person, die möglicherweise zum ersten Mal mit einer Modellbewertung als Beweismittel konfrontiert wird.

Gerichtsverfahren brauchen außerdem Zeit, und der Entwurf formuliert seinen Auslöser als „absehbares, unmittelbares Risiko“ (Übersetzung aus dem Englischen). Kann ein Bezirksgericht so schnell handeln, wie eine als unmittelbar eingestufte Bedrohung es verlangt? Das lässt der Entwurf, wie berichtet, offen.

Das schwerste Element des Mechanismus ist aber nicht die Qualifikation des Richters. Es ist das, was der Entwurf ausschließt. Laut Presseberichten legt der Text ausdrücklich fest, dass keine andere Bundesbehörde, Abteilung oder Dienststelle die Entwicklung, Bereitstellung oder interne Nutzung eines Modells aussetzen dürfte. Dieser eine Gerichtsweg ist keine Option unter mehreren. Er ist, so berichtet, der einzig mögliche Weg, bewusst so konstruiert.

Wie sich das vom Gesetz unterscheidet, das Anthropic bereits unterstützt

Anthropic ist kein Neuling, wenn es um KI-Sicherheitsgesetze geht. Das Unternehmen hat öffentlich das kalifornische SB 53 unterstützt, ein Landesgesetz, das seit dem 1. Januar 2026 gilt und große Entwickler von Frontier-KI verpflichtet, ein Sicherheitsrahmenwerk zu veröffentlichen. SB 53 und der föderale Entwurf lösen zwei unterschiedliche Probleme. SB 53 ist ein Transparenzgesetz. Es gibt keine Macht, ein Modell zu blockieren oder vor der Veröffentlichung zu genehmigen. Es verpflichtet große Entwickler, ein Sicherheitsrahmenwerk zu veröffentlichen, sich daran zu halten und schwere Vorfälle zu melden, mit Zivilstrafen von bis zu 1 Million Dollar pro Verstoß, durchgesetzt vom Generalstaatsanwalt Kaliforniens.

Das kalifornische State Capitol in Sacramento, wo Gouverneur Newsom SB 53 am 29. September 2025 unterzeichnete Das kalifornische State Capitol in Sacramento. Gouverneur Newsom unterzeichnete SB 53 am 29. September 2025, das Transparenzgesetz, das Anthropic in jenem Monat unterstützte.

Der föderale Entwurf ist das Gegenteil davon: Er trägt tatsächlich Blockiermacht, geleitet über ein Gericht. Anthropics eigene freiwillige Sicherheitszusagen, die Responsible Scaling Policy, sind noch eine dritte, eigenständige Sache: eine Richtlinie, die sich das Unternehmen selbst gibt. Für SB 53 nutzt Anthropic ein anderes Dokument, sein Frontier Compliance Framework.

Anthropics Responsible-Scaling-Policy-Seite mit den KI-Sicherheitsstufen Anthropics Responsible Scaling Policy, die freiwillige Sicherheitsrichtlinie des Unternehmens, zum Vergleich mit SB 53 und dem föderalen Entwurf.

Stellt man die drei nebeneinander, wird der Unterschied deutlich. Ein Transparenzgesetz, das Anthropic unterstützt und nach eigener Aussage einhält, verlangt Offenlegung statt Zurückhaltung. Ein Bundesgesetz, das echte Blockiermacht schafft, sie aber durch genau ein Gericht leitet und jeden anderen Regulator ausschließt, verlangt dafür Vorhersehbarkeit. Ein Offenlegungsgesetz zu unterstützen und gleichzeitig selbst ein Gesetz mit Blockiermacht zu schreiben, ist kein Widerspruch. Es ist eine in sich schlüssige Position, nur nicht die, die das Sicherheitsargument allein nahelegt.

Wo der Entwurf aktuell wirklich steht

Stand 27. Oktober 2026 wurde der Entwurf nicht formell in den Kongress eingebracht. Kein Abgeordneter und kein Senator hat öffentlich bestätigt, ihn einzubringen, und es gibt keine Gesetzesnummer. Anthropics eigener Newsroom, der die Unterstützung für SB 53 durchaus verkündet hat, listet den Text nicht. Ein Unternehmenssprecher hat ihn gegenüber der Presse bestätigt und als Umsetzung der Vorschläge aus Anthropics Advanced AI Framework beschrieben; Anthropics Leiter für Bundesangelegenheiten sagte am 18. Oktober, das Unternehmen wolle die Formulierungen zur Vorrang-Wirkung gegenüber einzelstaatlichem Recht (Preemption) überarbeiten und die Risikoschwellen möglicherweise neu prüfen. Die Zahlen in diesem Artikel stammen aus dem Entwurf vom 16. Oktober.

Dieser Status ist keine Formalität. Ein Gesetz ohne Einbringer ist ein Positionspapier, kein Vorschlag, der ein Parlament durchläuft. Der Kongress arbeitet über Ausschüsse, Änderungsanträge und Plenarabstimmungen, und nichts davon hat hier begonnen. Was heute existiert, ist ein Dokument, das Anthropic einer kleinen Zahl von Kongressbüros zeigt und das an die Presse gelangt ist, um für eine bestimmte Form der Regulierung zu werben, bevor irgendjemand zugestimmt hat, sie weiterzutragen. Er könnte morgen mit dem Namen eines Einbringers formell eingebracht werden, oder jahrelang als bloßer Diskussionspunkt liegen bleiben. Wer heute nachliest, was dieses Gesetz vorschreibt, sollte wissen, dass er ein Werbeargument liest, kein geltendes Gesetz, und dass nichts darin bisher irgendjemanden bindet.

Was der Entwurf darüber verrät, wie KI-Labore reguliert werden wollen

Löst man sich von den konkreten Zahlen und dem einen Gericht, wird ein Muster sichtbar, das diesen konkreten Entwurf überleben wird. Dass ein KI-Labor sein eigenes Sicherheitsgesetz entwirft, ist ein vorhersehbarer Schritt, sobald eine Technologie eine Größe erreicht, bei der Regulierung unausweichlich wird: Das Unternehmen mit dem größten Risiko will die Regeln formen, bevor es jemand anderes tut. Die Frage, die es wert ist, sich damit aufzuhalten, ist nicht, ob Anthropic in schlechter Absicht handelt. Es ist, welche Art von Aufsicht ein von einem Labor selbst verfasstes Gesetz typischerweise hervorbringt, wenn sonst niemand im Raum sitzt.

Ein Gesetz, das jede föderale Blockiermacht durch ein einziges Gericht leitet und jeder anderen Behörde paralleles Handeln verbaut, ist ein Gesetz, das Vorhersehbarkeit über breite Eingriffsmöglichkeiten stellt. Ein Unternehmen, das unter diesem Regime arbeitet, weiß genau, durch welche Tür Regulatoren kommen können, und weiß, dass jede andere Tür per Gesetz verschlossen ist. Das ist wertvoll für ein Unternehmen, das Jahre an Modellveröffentlichungen plant, und das ist eine andere Art von Wert, als das Sicherheitsargument suggeriert, leicht zu verwechseln, wenn man nur die Pressemitteilung liest.

Nichts davon macht die drei Risikoszenarien des Entwurfs, biologische Waffen, Kontrollverlust, großflächige Cyberangriffe, zu unvernünftigen Sorgen. Der bleibende Punkt ist enger und nützlicher: Wenn ein Gesetz als Sicherheitsmaßnahme auftritt, lohnt es sich nicht, auf die in der Schlagzeile genannte Bedrohung zu schauen, sondern auf den Zugang, den es gewährt, und den Zugang, den es entzieht. Ein einziges Tor lässt sich vor Gericht leichter verteidigen und als Unternehmen leichter planen als ein offenes Feld, auf dem jeder Regulator eingreifen könnte.

Entscheidungskarte: Wenn eine kurze, benannte Liste von Risikokategorien der einzige Auslöser ist, frage, welche Schäden außerhalb davon liegen; wenn nur eine Instanz ein Modell blockieren kann, prüfe, ob eine andere Behörde parallele Macht behält; wenn Risikoprüfer vom bewerteten Unternehmen bezahlt werden, suche nach einer Bezahlung, die von ihren Schlussfolgerungen entkoppelt ist; wenn ein Unternehmen ein schwaches Gesetz unterstützt, während es selbst ein starkes schreibt, vergleiche, was jedes wirklich erzwingen kann, statt wie jedes dargestellt wird; und wenn ein Gesetzentwurf weder Einbringer noch Gesetzesnummer hat, behandle ihn als Positionspapier, nicht als anstehendes Gesetz.

Häufig gestellte Fragen

Ist Anthropics KI-Sicherheitsgesetz bereits geltendes Recht?

Nein. Der Text ist ein vertraulicher Diskussionsentwurf, den Anthropic mit einer kleinen Zahl von Kongressbüros geteilt hat, kein formell eingebrachtes Gesetz. Er hat keine Gesetzesnummer, keinen Einbringer im Kongress und keine geplante Abstimmung, nichts darin hat derzeit rechtliche Bindung.

Was würde laut diesem Entwurf die Blockierung eines Modells auslösen?

Nach dem berichteten Text könnte ein Modell nur blockiert werden, wenn es ein absehbares, unmittelbares Risiko birgt, mehr als 50 Menschen zu töten oder schwer zu verletzen oder mehr als eine Milliarde Dollar Schaden zu verursachen, und nur, wenn dieses Risiko von einer biologischen Waffe, einem Modell, das sich der Kontrolle seines Herstellers entzieht, oder einem Cyberangriff ausgeht. Kein anderer Schadenstyp würde nach diesem Entwurf zählen.

Wer würde laut diesem Vorschlag über die Blockierung eines KI-Modells entscheiden?

Ein einzelner Bundesrichter am Bezirksgericht für den District of Columbia in Washington würde entscheiden, nachdem das Handelsministerium Beweise für eines der drei benannten Risikoszenarien vorgelegt hat. Die Presseberichte erwähnen keine technische KI-Qualifikation für diesen Richter, und keine andere Bundesbehörde hätte die Macht, stattdessen zu handeln.

Was unterscheidet diesen Entwurf vom kalifornischen SB 53, das Anthropic unterstützt?

SB 53 gilt bereits und verpflichtet große Frontier-Entwickler, ein Sicherheitsrahmenwerk zu veröffentlichen und einzuhalten sowie schwere Vorfälle zu melden, mit Zivilstrafen, trägt aber keine Macht, die Veröffentlichung eines Modells zu blockieren. Der föderale Entwurf trägt tatsächlich Blockiermacht, leitet sie aber laut Berichten durch ein einziges Gericht und schließt jede andere Bundesbehörde aus, eine grundlegend andere Art von Gesetz als SB 53.

Könnten andere Bundesbehörden eingreifen, wenn dieser Entwurf Gesetz würde?

Laut Presseberichten nein. Der Text legt ausdrücklich fest, dass keine andere Bundesbehörde, Abteilung oder Dienststelle die Entwicklung, Bereitstellung oder interne Nutzung eines Modells aussetzen könnte, sobald dieser Mechanismus gilt. Der Weg über dieses eine Gericht wäre die einzig verfügbare Route, keine Option unter mehreren.

#anthropic#ai-safety#ai-regulation#ai-ml