EU AI Act: Menschliche Aufsicht verschoben, Governance-Lücke bleibt

Die EU hat sich gerade 16 zusätzliche Monate gegeben, um zu klären, wie Menschen risikoreiche künstliche Intelligenz eigentlich beaufsichtigen sollen. Die Frist für die Aufsichtspflicht des EU AI Acts, ursprünglich August 2026, wandert auf den 2. Dezember 2027. Klingt nach einer bürokratischen Randnotiz. Ist es aber nicht. Die verschobene Regel sollte eine ganz konkrete Frage beantworten: Kann ein Mensch tatsächlich sehen, wenn ein KI-System etwas Falsches tut, und es stoppen, bevor es Schaden anrichtet? Die Verschiebung verschafft den Regulierern Zeit. Sie holt aber nicht die Monate zurück, in denen autonome KI-Agenten – Software, die Entscheidungen trifft und Handlungen ausführt, ohne dass ein Mensch mitschaut – bereits ungebremst in den produktiven Einsatz gegangen sind, während das Regelwerk noch hinterherlief.

Was die Aufsichtspflicht wirklich verlangt

Der EU AI Act ist das zentrale KI-Gesetz der Europäischen Union, und die für Entwickler wie Anwender folgenreichste Klausel darin ist Artikel 14. Er gilt für sogenannte Hochrisiko-KI-Systeme: Werkzeuge, die in Bereichen wie Personalauswahl, Kreditvergabe, Strafverfolgung oder kritischer Infrastruktur eingesetzt werden – überall dort, wo eine falsche Entscheidung echten Schaden anrichten kann. Für diese Systeme schreibt Artikel 14 vor, dass ein Mensch verstehen können muss, was das System gerade tut, es während des Betriebs überwachen, seine Ausgabe richtig einordnen und es im Ernstfall stoppen oder übersteuern kann. Wer solche Systeme baut, muss sie so konstruieren, dass ein Mensch das überhaupt kann. Wer sie einsetzt, muss eine konkrete, geschulte Person mit genau dieser Beobachtungsaufgabe betrauen – eine Pflicht, die neben Artikel 14 gesondert für die Betreiber solcher Systeme im Gesetz steht.

Auf den Punkt gebracht: Irgendwo zwischen der KI und ihrer Wirkung soll ein Mensch stehen, die Hand nahe am Stoppknopf, und diese Person muss fachlich in der Lage sein, im richtigen Moment zuzugreifen.

Warum die Frist verschoben wurde

Die Systeme, um die es hier geht, das sogenannte Hochrisiko-KI nach Anhang III – eine Liste besonders sensibler Anwendungsfälle, die der EU AI Act strenger prüft als alles andere –, sollten eigentlich ab dem 2. August 2026 vollständig unter diese Pflicht fallen. Die Europäische Kommission schlug die Verschiebung in ihrem Digital Omnibus zur KI vor, veröffentlicht am 19. November 2025, mit der Begründung, dass technische Normen, nationale Aufsichtsbehörden und Konformitätsbewertungsstellen (die unabhängigen Prüfstellen, die ein System vor dem Marktstart gegen die Regeln checken sollen) schlicht noch nicht bereitstanden. Rat und Parlament einigten sich im Mai 2026; das Parlament gab am 16. Juni 2026 seine formelle Zustimmung, der Rat folgte am 29. Juni 2026. Neuer Stichtag für Anhang-III-Systeme: der 2. Dezember 2027. Eine verwandte Kategorie – KI, die in regulierte Produkte wie Medizingeräte oder Fahrzeuge eingebaut ist – rutscht von August 2027 auf den 2. August 2028.

Wichtig ist, genau zu sehen, was nicht verschoben wurde. Die Regeln des EU AI Acts für KI-Modelle mit allgemeinem Verwendungszweck – die großen Foundation Models, wie sie hinter bekannten Chatbots stecken, samt Transparenzpflichten zu Trainingsdaten, Urheberrecht und zusätzlicher Prüfung der leistungsfähigsten Systeme – gelten unverändert seit dem 2. August 2025. Nur die Schiene für Hochrisiko-KI und menschliche Aufsicht wurde verschoben. Wer “den AI Act” als eine einzige Frist behandelt, macht hier den ersten Fehler: Es sind mehrere Spuren, die mit unterschiedlichem Tempo laufen.

Die offizielle Begründung ist bürokratisch und für sich genommen nachvollziehbar: Man kann Unternehmen schwer an einem Standard messen, gegen den noch keine akkreditierte Stelle prüfen kann. Aber regulatorische Bereitschaft und das Tempo der Technologie, die reguliert werden soll, sind zwei verschiedene Uhren – und nur eine davon wurde langsamer gestellt.

Die Lücke, die die Verschiebung nicht schließt

Hier liegt das Problem, das keine neue Kalenderfrist löst. Artikel 14 wurde mit einem bestimmten Bild von KI im Kopf geschrieben: Ein System erzeugt eine einzelne Ausgabe – ein Lebenslauf wird eingestuft, ein Kreditantrag bewertet, ein Gesicht markiert –, und ein Mensch prüft diese eine Ausgabe, bevor irgendetwas passiert. Dieses Aufsichtsmodell, eine Entscheidung, ein Blick, ein Veto, funktioniert für die KI, die die meisten Menschen vor Augen haben, noch einigermaßen gut.

Es beschreibt aber keinen autonomen KI-Agenten: Software, die nicht nur eine Empfehlung ausspricht, sondern selbstständig eine Kette von Handlungen ausführt – Trades platzieren, Zahlungen anweisen, Dokumente einreichen, Infrastruktur umkonfigurieren –, und das in einem Tempo und Volumen, das niemand in Echtzeit mitverfolgt. Wer tiefer verstehen will, wie Organisationen solche Systeme technisch einzuholen versuchen, während die Governance noch hinterherhinkt: OWASP, MITRE und NIST pflegen jeweils eigene Frameworks speziell für die Absicherung von KI-Systemen, und welches davon zuerst greift, ist bereits eine eigene, lohnende Frage.

Eine strukturelle Kritik der Forscherinnen und Forscher Kathrin Gardhouse und Amin Oueslati, beide KI-Governance-Experten bei The Future Society, veröffentlicht in Tech Policy Press, legt dar, warum das “Stoppknopf”-Modell speziell bei Agenten versagt. Ihr Argument – vorgetragen unter eigenem Namen, nicht als anonyme Industriebeschwerde – lautet: Sobald ein Agent den Trade bereits platziert, die Zahlung bereits gesendet oder die rechtliche Eingabe bereits eingereicht hat, gibt es häufig keinen definierten sicheren Zustand mehr, zu dem man zurückkehren könnte. Eine Überweisung lässt sich nicht zurückholen. Wirksame Aufsicht über ein derart schnell handelndes System, so ihr Argument, braucht eigens dafür gebaute technische Infrastruktur, automatisierte Anomalieerkennung und lückenlose Protokollierung, die eine Handlung erfasst, bevor sie unumkehrbar wird – nicht einen Menschen, dem man zutraut, rechtzeitig hinzuschauen. Der Gesetzestext schreibt die menschliche Rolle vor, aber nicht die Infrastruktur, die diese Rolle überhaupt ausführbar macht.

Das ist die eigentliche Governance-Lücke. Keine fehlende Frist. Sondern eine Regel, gebaut fürs Prüfen einzelner Ausgaben, die jetzt ein kontinuierlich handelndes System beaufsichtigen soll. Die Verschiebung auf Dezember 2027 ändert nichts daran, was Aufsicht bedeuten soll, wenn sie greift – sie verschiebt nur, wann jemand anfangen muss zu beweisen, dass er sie tatsächlich gebaut hat.

Wer schon jetzt in der Verantwortung steht

Für ein Unternehmen, das so ein System heute betreibt, ändert die verschobene Rechtsfrist nichts am operativen Problem – das hat nicht gewartet. Wenn der KI-Agent eines Unternehmens eine unumkehrbare Handlung ausführt – eine fehlerhafte Zahlung, eine ungerechtfertigte Kontosperrung, eine automatisierte Fehlentscheidung mit direkter Wirkung auf einen Menschen –, hängt die Frage der Verantwortung nicht davon ab, ob Artikel 14 technisch schon greift. Bestehendes Verbraucherschutz-, Vertrags- und Haftungsrecht fragt in den meisten Rechtsordnungen schon heute, wer das System eingesetzt und welche Aufsicht er dabei tatsächlich vorgesehen hat. Eine Compliance-Frist 2027 für die konkrete Aufsichtsklausel des AI Acts löscht dieses Risiko nicht – sie bedeutet nur, dass der AI Act selbst noch nicht der Mechanismus ist, der die Antwort erzwingt.

Wer die Verschiebung als Freibrief liest, die eigene interne Arbeit an diesem Thema zu verlangsamen, wettet im Grunde darauf, dass das eigentliche rechtliche Risiko im Gleichschritt mit dem Regulierungskalender läuft. Tut es nicht. Die Technologie, die die Regel eigentlich einfangen sollte, wird unabhängig davon weiter ausgerollt, wann die Durchsetzung beginnt.

Was das bedeutet, wenn man weder Jurist noch Regulierer ist

Für die meisten Leserinnen und Leser ist nicht das genaue Datum die eigentliche Erkenntnis – der 2. Dezember 2027 wird sich vermutlich noch verschieben, komplette Regulierungsregime landen selten beim ersten Versuch pünktlich. Entscheidend ist die Struktur des Problems dahinter. Eine Aufsichtsregel, gebaut um einen Menschen, der eine Entscheidung nach der anderen prüft, kann konstruktionsbedingt kein System überwachen, das mehrere Dutzend Entscheidungen pro Minute trifft. Das gilt, ob die Durchsetzungsfrist nächstes Jahr kommt oder erst in drei Jahren. Es gilt speziell für den EU AI Act, und es wird für jede vergleichbare Aufsichtsregel gelten, die andere Rechtsordnungen für dieselbe Art von Software irgendwann verabschieden.

Wer Dienste mit KI-Agenten nutzt – Finanzplattformen mit automatisierten Entscheidungen, Recruiting-Tools, die Bewerbungen vorsortieren, Kundenservice-Systeme, die Probleme tatsächlich selbst lösen statt nur zu chatten –, sollte nicht fragen, ob das jeweilige Unternehmen “AI-Act-konform” ist. Die konkretere Frage ist einfacher: Gäbe es realistisch eine Person, die die Handlung hätte abfangen können, bevor sie unumkehrbar wurde – oder existiert die Aufsicht nur auf dem Papier, aber nicht im tatsächlichen Ablauf?

FAQ

Was verlangt die Aufsichtspflicht des EU AI Acts konkret?

Artikel 14 des Gesetzes schreibt vor, dass Hochrisiko-KI-Systeme – etwa in Personalauswahl, Kreditvergabe oder Strafverfolgung – so gebaut sein müssen, dass eine qualifizierte Person sie überwachen, ihre Ausgabe verstehen und sie bei Fehlern stoppen oder übersteuern kann. Die Pflicht gilt sowohl für Entwickler dieser Systeme als auch für die Organisationen, die sie einsetzen.

Ab wann gilt die Aufsichtspflicht jetzt?

Die Frist für Hochrisiko-KI-Systeme nach Anhang III, der Liste besonders sensibler Anwendungsfälle im Gesetz, wurde vom 2. August 2026 auf den 2. Dezember 2027 verschoben – nach dem Digital-Omnibus-Vorschlag der Europäischen Kommission und der formellen Zustimmung von Rat und Parlament Mitte 2026. Eine verwandte Kategorie, KI in regulierten Produkten, verschiebt sich auf den 2. August 2028.

Betrifft die Verschiebung auch Modelle wie ChatGPT?

Nein. Die Regeln für KI-Modelle mit allgemeinem Verwendungszweck – die großen Foundation Models hinter gängigen Chatbots, samt Transparenzpflichten, Urheberrecht und Prüfung der leistungsfähigsten Systeme – gelten unverändert seit dem 2. August 2025 und waren von dieser Verschiebung nicht betroffen. Nur die Hochrisiko-Schiene für Anhang-III-Systeme wurde verschoben.

Warum sagen Experten, die Aufsichtsregel passe nicht zu KI-Agenten?

Die Forscherinnen und Forscher Kathrin Gardhouse und Amin Oueslati argumentieren in Tech Policy Press, Artikel 14 gehe davon aus, dass ein Mensch eine einzelne KI-Ausgabe prüft, bevor etwas passiert. Autonome KI-Agenten verketten dagegen mehrere Handlungen in hohem Tempo, häufig ohne klaren Punkt, an den man zurückkehren könnte, sobald eine Handlung – etwa eine Zahlung oder eine Einreichung – bereits erfolgt ist.

Wer haftet, wenn ein KI-Agent vor der neuen Frist Schaden anrichtet?

Bestehendes Haftungs-, Vertrags- und Verbraucherschutzrecht gilt in den meisten Rechtsordnungen schon heute für Unternehmen, die KI-Agenten einsetzen – unabhängig davon, wann die spezifische Aufsichtspflicht in Kraft tritt. Die Frist 2027 ändert, wann dieses konkrete Gesetz zum Durchsetzungsmechanismus wird; sie beseitigt nicht die Verantwortung für Schäden, die bis dahin entstehen.

Das Fazit

Eine Compliance-Frist lässt sich mit einer Abstimmung verschieben. Das Tempo der Software, die damit reguliert werden soll, lässt sich mit derselben Abstimmung nicht bremsen. Diese Lücke zu schließen, braucht mehr als ein neues Datum in einer Verordnung – es braucht Aufsicht, die für Systeme gebaut ist, die kontinuierlich handeln, nicht für solche, die einfach eine Frage beantworten und warten.