KI-Modell-Identitätsnachweis: Anthropics Beweis ohne das Drama
Anthropics FlashProve kann kryptografisch beweisen, welches KI-Modell eine Antwort erzeugt hat. Was das wirklich bringt, und warum es nicht im Chatbot ankommt.

Wenn dir ein Chatbot antwortet, kannst du nicht nachprüfen, welches Modell die Antwort tatsächlich erzeugt hat. Der Anbieter behauptet, sein Topmodell laufe gerade. Du glaubst das einfach, denn niemand hindert einen Anbieter daran, deine Anfrage still an ein billigeres, kleineres Modell weiterzuleiten, um Rechenkosten zu sparen, während er dir trotzdem den Preis für das teure Modell berechnet. Genau dieses Problem soll ein Identitätsnachweis für KI-Modelle lösen, und eine neue Forschungsarbeit von Anthropic macht dafür einen echten Schritt. Im Alltag merkt davon aktuell trotzdem niemand etwas.
Anthropic, das Labor, dessen Entscheidung, sein eigenes Topmodell offline zu nehmen, Anfang des Jahres Entwickler aufgeschreckt hat, veröffentlichte die Arbeit am 2. November 2026 als Forschungsbeitrag, zusammen mit einem offenen Code-Repository namens FlashProve. Die zentrale Behauptung ist tatsächlich neu: ein mathematischer Beweis dafür, dass genau ein bestimmter Satz Modellgewichte – und kein anderer – eine bestimmte Folge von Ausgabe-Tokens erzeugt hat. Der Haken, den Anthropic in seinem eigenen Beitrag offen benennt: Das Ganze ist “Zwischenstand”, kein fertiges Produkt, und niemand, Anthropic eingeschlossen, hat vor, es tatsächlich einzusetzen.
Das Problem: Niemand kann nachprüfen, wer wirklich geantwortet hat
Die meisten Menschen denken darüber nie nach, weil sie es nie müssen. Für ein paar Gruppen ist das aber eine echte Lücke. Ein Unternehmen, das sein Produkt auf einem fremden Open-Weight-Modell aufbaut – einem KI-Modell, dessen Anbieter die fertigen Gewichte kostenlos veröffentlicht –, will sichergehen, dass der Anbieter tatsächlich das Modell betreibt, für das bezahlt wird, und keine abgespeckte Variante, die den Anbieter weniger Rechenleistung kostet. Ein unabhängiger Prüfer, der die Sicherheitsversprechen eines Labors kontrolliert, will den Nachweis, dass das getestete Modell wirklich dasselbe ist, das Kunden tatsächlich bekommen – und nicht eine aufgeräumte Sonderversion nur für die Prüfung. Und ein Unternehmen, das seinen KI-Traffic über einen Zwischenhändler schickt, einen jener Dienste, die Zugang zu Modellen verschiedener Anbieter weiterverkaufen, will bestätigt wissen, dass dieser Zwischenhändler wirklich an das Modell weiterleitet, das er verspricht.
Das sind keine theoretischen Sorgen. Modell-Substitution – ein Anbieter tauscht heimlich ein billigeres Modell in ein Produkt ein, das als Topmodell vermarktet wird – ist ein bekanntes Anreizproblem: Es spart dem Anbieter Geld, und Kunden merken es meist nicht, weil Modelle derselben Familie oft ähnlich klingen. Anthropics Forscherteam bringt die Lücke direkt auf den Punkt: “Wer heute ein Modell befragt, kann nicht überprüfen, ob die Antwort tatsächlich von dem Modell stammt, das ein Anbieter angibt.” Eine technische Möglichkeit, diese Frage zu klären, gab es bislang nicht. Man konnte den Anbieter höflich fragen. Beweisen konnte man nichts.
Wie ein solcher Beweis funktioniert, ohne die Modellgewichte zu verraten
Hier verdient sich FlashProve seinen Namen – und hier muss die Erklärung bewusst einfach bleiben, denn das zugrunde liegende Werkzeug gehört zu den abstraktesten Ideen der Informatik, die nun etwas sehr Konkretes leisten soll.
Der Baustein heißt Zero-Knowledge-Beweis. Stell es dir so vor: Du willst jemanden davon überzeugen, dass du die Kombination eines Safes kennst, ohne ihm die Kombination zu verraten. Ein Zero-Knowledge-Beweis erlaubt genau das; die andere Person geht überzeugt davon, ohne jemals die Kombination erfahren zu haben. Die konkrete Variante, die Anthropic nutzt, heißt zkSNARK, eine kompakte, schnell prüfbare Ausführung dieser Idee (die Abkürzung bedeutet lediglich: ein kurzer Beweis, der sich ohne Rückfragen schnell überprüfen lässt). Die Abkürzung muss man sich nicht merken, nur das Prinzip: Der Beweis ist günstig zu prüfen, auch wenn er teuer zu erzeugen ist.
FlashProve wendet diesen Trick auf die Gewichte eines Modells an, statt auf die Kombination eines Safes. Das läuft in zwei Phasen ab. Zuerst, offline, werden sämtliche Gewichte des Modells – die Milliarden Zahlen, die exakt festlegen, wie es sich verhält – zu einer kompakten kryptografischen “Verpflichtung” verdichtet, im Grunde ein manipulationssicherer Fingerabdruck genau dieses einen Modells. Jeder kann später eine Antwort gegen diesen Fingerabdruck prüfen, doch der Fingerabdruck selbst verrät nichts über die Gewichte, aus denen er entstanden ist. Dann, online, erzeugt das System bei jeder Antwort einen Beweis dafür, dass genau dieser festgelegte Satz Gewichte – und kein anderer – genau diese Ausgabe-Tokens produziert hat. Ein Prüfer, der auf einem gewöhnlichen Computer läuft, kontrolliert diesen Beweis. Geht er durch, kann der Prüfer sicher sein, dass das behauptete Modell diese Antwort erzeugt hat – ohne jemals die Modellgewichte zu sehen oder das Modell selbst laufen zu lassen.
Anthropics Forschungsbeitrag – der Beitrag “Progress on provable inference”, in dem FlashProve und seine Benchmarks vorgestellt wurden.
Wichtig ist, genau zu sagen, was das nicht ist, denn die beiden Ideen werden leicht verwechselt. Wasserzeichen-Systeme für KI-Inhalte, wie Googles SynthID, funktionieren anders: Sie sollen beantworten, “hat eine KI dieses im Netz kursierende Bild oder diesen Text erzeugt, und welches System war das ungefähr”. FlashProve beantwortet eine engere, präzisere Frage: “Hat genau dieses Modell, genau dieser Satz Gewichte, genau diese Tokens erzeugt.” Das eine verfolgt einen Inhalt im Nachhinein zu seinem Ursprung zurück. Das andere beweist die Identität eines Modells im Moment der Antwort. Ein Deepfake-Detektor und FlashProve lösen benachbarte, aber unterschiedliche Probleme – FlashProve hilft in keiner Weise dabei, ein irgendwo im Netz gefundenes Bild zu dem Werkzeug zurückzuverfolgen, das es erzeugt hat.
Der Preis des Beweises – und warum er bewusst hoch ist
Anthropic hat FlashProve an Llama 4 Maverick getestet, einem großen Open-Weight-Modell mit rund 400 Milliarden Parametern, auf einer einzelnen Nvidia-H100-GPU, einem der High-End-Chips, die Rechenzentren für KI-Lasten einsetzen. Die Zahlen aus Anthropics eigenem Beitrag zeigen den Kompromiss dieser Forschung am klarsten.
Die Erzeugung des Beweises lief mit rund 110 Tokens pro Sekunde auf der Seite des Beweiserzeugers. Ein Beweis für ein Fenster von 1024 Tokens kam auf rund 19 Megabyte, und die Prüfung dieses Beweises dauerte etwa 17 Sekunden auf einem gewöhnlichen 24-Kern-Rechner, ganz ohne Spezialhardware auf der Prüfseite. Zusammengenommen kostet eine beweisbare Antwort 70- bis 95-mal so viel Rechenzeit wie derselbe Lauf mit normaler Inferenz.
Dieser Mehraufwand ist kein Fehler, den man im nächsten Quartal einfach wegoptimiert. Er liegt nahe an den strukturellen Kosten dessen, was hier mathematisch streng bewiesen wird: dass genau ein bestimmter Satz Gewichte und kein anderer eine Antwort erzeugt hat, ist ein grundlegend schwereres Rechenproblem als die Antwort einfach zu erzeugen. Die Obergrenze von 1024 Tokens verschärft genau dieses Problem. Heutige Chatbots verarbeiten routinemäßig Kontextfenster mit mehreren hunderttausend Tokens; 1024 Tokens sind grob ein paar Absätze. Ein Beweissystem, das dort seine Grenze erreicht, kann aktuell weder ein echtes Gespräch noch ein längeres Dokument abdecken – also kaum etwas von dem, was Menschen im Alltag tatsächlich mit KI-Modellen machen.
Die Zahl, die man sich merken sollte, ist also nicht “70- bis 95-mal langsamer” für sich genommen; dieser Wert wird sich verschieben, sobald andere Modelle oder andere Hardware zum Maßstab werden. Die bleibende Grundform dagegen ist: Der Nachweis der Modell-Identität kostet um Größenordnungen mehr als das bloße Antworten – und diese Lücke steckt im Ansatz selbst, sie ist keine Baustelle, die Anthropic zufällig offengelassen hat.
Was der Beweis noch nicht abdeckt
Anthropics Team ist in seinem eigenen Beitrag ungewöhnlich offen darüber, wo das System an seine Grenzen kommt – und diese Grenzen zählen mindestens so viel wie das Spitzenergebnis selbst.
Das Beweissystem wurde formal entwickelt und geprüft: Seine zentralen logischen Eigenschaften wurden mit einem Beweisassistenten namens Lean verifiziert, einem Werkzeug, das mathematisch bestätigt, dass ein System sich wirklich so verhält wie behauptet, statt es nur durch Ausprobieren zu testen. Anthropics Forscher haben auf diesem Weg vier Eigenschaften bewiesen: Vollständigkeit (ein korrekter Beweis verifiziert sich immer), Korrektheit (eine falsche Behauptung lässt sich niemals zu einem bestehenden Beweis fälschen), die Zero-Knowledge-Eigenschaft (Gewichte, Zwischenrechnungen und welche internen Experten aktiviert wurden, bleiben für jeden, der den Beweis prüft, vollständig verborgen) und Kompaktheit (der Beweis bleibt kompakt, egal wie groß die zugrunde liegende Berechnung war). Das ist ein echtes, strenges Ergebnis.
Es gilt aber für das mathematische Design, nicht für das schnelle C++-Programm, das die Beweiserzeugung in der Praxis tatsächlich ausführt. Der Produktionscode selbst trägt keinen formalen Korrektheitsbeweis, nur die abstrakte, in Lean verifizierte Version hat ihn. Ein Fehler in der schnellen Umsetzung könnte im Prinzip die Garantie unterlaufen, die das Paper eigentlich belegt.
Zwei weitere Grenzen nennt Anthropics Beitrag unverblümt: Das System beweist die Identität nur für Modelle, die “greedy decoding” einsetzen, also immer genau das wahrscheinlichste nächste Wort wählen, ohne Zufall. Die meisten eingesetzten Chatbots mischen bewusst etwas kontrollierten Zufall in ihre Antworten, damit diese natürlicher und vielfältiger wirken – und genau diese Art von Gleitkomma-Zufall weicht von der Mathematik ab, auf der der Beweis aktuell aufbaut, weshalb sie noch nicht abgedeckt ist. Und die Zeit, die die Beweiserzeugung braucht, könnte selbst zu einem Seitenkanal werden, einem Weg, auf dem Informationen indirekt nach außen dringen: Wenn diese Dauer je nach den beteiligten Gewichten unterschiedlich ausfällt, könnte ein geduldiger Beobachter allein durch Stoppuhr-Messen etwas über diese Gewichte ableiten – und damit einen Teil des eigentlichen Zwecks unterlaufen.
Für wen das wirklich gedacht ist
Nichts davon richtet sich an jemanden, der morgen ein Chatfenster öffnet. Allein der Rechenaufwand und die Token-Grenze schließen das aus. Die eigentliche Zielgruppe ist enger und strukturell geprägt: KI-Labore, die sich gegenseitig prüfen wollen, ohne ihre tatsächlichen Modellgewichte herauszurücken, Regulierungsbehörden oder unabhängige Prüfer, die bestätigen müssen, dass ein eingesetztes Modell wirklich dem entspricht, was ein Unternehmen zur Prüfung eingereicht hat, und Drittanbieter-Inferenzdienste – Unternehmen, die Zugang zu KI-Modellen verschiedener Labore weiterverkaufen –, bei denen ein Kunde einen konkreten finanziellen Grund hat, daran zu zweifeln, wirklich das zu bekommen, wofür er bezahlt.
Letzterer Fall ist der unmittelbar praktischste. Kauft ein Unternehmen über einen Zwischenhändler Zugang zu einem namentlich genannten Modell, hat es aktuell praktisch keine Möglichkeit zu prüfen, ob der Zwischenhändler nicht heimlich etwas Billigeres einsetzt, um seine Margen aufzupolstern. Ein derart strenges Prüfsystem – selbst beim 70- bis 95-fachen Rechenaufwand – könnte sich in Hochrisikoumgebungen durchaus lohnen: eine Finanzfirma bei Compliance-Prüfungen, ein Regierungsauftrag, der ein exaktes Modell vorschreibt, oder ein Forschungslabor, das Benchmark-Ergebnisse veröffentlicht, die Konkurrenten unabhängig bestätigen wollen, ohne dass heimlich eine freundlichere Modellversion gelaufen ist.
FlashProve auf GitHub – das offene, unbetreute Forschungsprototyp-Repository unter Anthropics eigener Organisation.
Anthropic selbst ist vorsichtig, den eigenen Stand nicht zu überverkaufen: “Dieser Forschungsbeitrag soll einen Zwischenstand teilen, nicht ein abgeschlossenes Forschungsprogramm.” Kein Labor, Anthropic eingeschlossen, hat angekündigt, FlashProve einzusetzen. Es existiert als offener Forschungscode auf GitHub, an einem einzigen Modell benchmarkt, mit den oben genannten Grenzen, die das Team, das es gebaut hat, selbst klar benennt.
Häufig gestellte Fragen
Kann ich mit FlashProve prüfen, welches KI-Modell in einem Chatbot wirklich geantwortet hat?
In der Praxis nicht. FlashProve ist ein Forschungsprototyp, keine Funktion in einem eingesetzten Chatbot. Selbst wenn ein Unternehmen es übernehmen würde, deckelt die aktuelle Version Beweise bei 1024 Tokens und läuft 70- bis 95-mal langsamer als normal – viel zu teuer und zu begrenzt für ein echtes Gespräch.
Ist FlashProve dieselbe Art von Technik wie Wasserzeichen für KI-Inhalte, etwa Googles SynthID?
Nein. Wasserzeichen-Werkzeuge wie SynthID markieren erzeugte Inhalte, etwa ein Bild oder einen Textabschnitt, damit sie sich später zu dem KI-System zurückverfolgen lassen, das sie wahrscheinlich erzeugt hat. FlashProve beweist etwas anderes: dass ein bestimmter, benannter Satz Modellgewichte einen bestimmten Satz Ausgabe-Tokens erzeugt hat, ohne diese Gewichte offenzulegen.
Warum kostet der Nachweis der Modell-Identität so viel mehr Rechenleistung als das reine Ausführen des Modells?
Kryptografisch zu beweisen, dass genau die Gewichte eines Modells eine bestimmte Ausgabe erzeugt haben, ohne diese Gewichte zu verraten, ist ein mathematisch schwereres Problem, als die Ausgabe einfach zu erzeugen. Anthropics Benchmarks zeigen: Das kostet 70- bis 95-mal mehr Rechenzeit als normale Inferenz mit demselben Modell.
Könnte ein Unternehmen FlashProve schon heute nutzen, um zu verhindern, dass heimlich ein billigeres Modell eingesetzt wird?
Im Prinzip ja – genau dieses Problem adressiert die Forschung –, praktisch aber noch nicht. Der Rechenaufwand und die Grenze von 1024 Tokens machen es für den Alltagseinsatz unbrauchbar; aktuell ist es eher ein Werkzeug für formale Prüfungen zwischen Laboren oder Regulierungsbehörden als etwas, das ein Unternehmen dieses Jahr einsetzen könnte.
Bleibt die interne Struktur des Modells bei der Prüfung eines Beweises vollständig verborgen?
Fast vollständig. Die Gewichte, die Zwischenrechnungen und sogar welche internen “Experten”-Teilnetze bei Mixture-of-Experts-Modellen aktiviert wurden, bleiben verborgen – eine Eigenschaft, die Anthropics Team formal verifiziert hat. Der eine Vorbehalt: Die Zeit, die die Beweiserzeugung braucht, könnte theoretisch ebenfalls etwas verraten, falls diese Dauer mit den konkreten Gewichten schwankt.