Cybersicherheit

GitLab-Duo-Sicherheitslücke: Wie ein KI-Agent aus der Sandbox ausbrach

Eine kritische Sicherheitslücke in GitLab Duo erlaubte Befehle auf dem KI-Server. Die eigentliche Lehre ist älter als KI-Agenten.

Editorial Team / /9 Min. Lesezeit
Server in einem gesprungenen Glaswürfel, ein leuchtendes Terminal-Display tritt durch den Riss aus, GitLab-Logo oben

Aus einem Konfigurationsfeld wurde eine Kommandozeile. So lässt sich, nüchtern formuliert, zusammenfassen, was Anfang Oktober 2026 in der GitLab Duo Agent Platform passiert ist: Ein bereits eingeloggter Nutzer mit Zugriff auf GitLabs KI-Agenten-Werkzeuge konnte das System dazu bringen, beliebige Befehle auf dem AI Gateway auszuführen, dem Server, der KI-Anfragen verarbeitet. GitLabs gehostete Angebote waren bereits geschützt, deshalb mussten die meisten Kunden gar nichts tun. Trotzdem lohnt sich ein ruhiger Blick auf die Lücke selbst, denn im Kern geht es hier gar nicht um künstliche Intelligenz. Es ist eine viel ältere Geschichte mit einem neuen Etikett.

Was tatsächlich kaputt war, ohne Fachjargon

Betroffen war das GitLab AI Gateway, der Backend-Dienst, der GitLab mit seinen KI-Modellen verbindet und den manche Organisationen selbst betreiben (ein selbst gehostetes AI Gateway). Darin steckt die Duo Agent Platform, eine Funktion, mit der Teams eigene automatisierte Abläufe bauen können: kleine Sequenzen, bei denen ein KI-Agent eine Prompt-Vorlage liest, vom Nutzer gelieferte Lücken darin füllt und auf Basis des Ergebnisses handelt, etwa einen Merge Request öffnet, eine Prüfung anstößt oder einen Kommentar postet.

Damit die Eingabe eines Nutzers nicht versehentlich zu einem Befehl wird, den das System ausführt, läuft eine solche Funktion normalerweise in einer Sandbox: einer abgeschotteten Umgebung, die Konfigurationsdaten zwar hereinlässt, sie aber von allem fernhält, was tatsächlich Code ausführen kann. Die Sandbox ist die Wand zwischen einer Einstellung und einer Anweisung. Bei GitLab hatte diese Wand ein Loch. Ein Nutzer mit gültigem Zugriff auf die Duo Agent Platform konnte eine speziell präparierte Flow-Konfiguration bauen, die aus der Sandbox ausbrach, so beschreibt es GitLabs eigener Sicherheitshinweis auf docs.gitlab.com. Nach dem Ausbruch konnte der Angreifer beliebige Befehle direkt auf dem AI Gateway ausführen, also auf dem Server, der die KI-Verarbeitung übernimmt, nicht nur im Chatfenster vor dem Nutzer.

Warum das Lehrbuch ist, nicht exotisch

Hier kommt der Teil, der mehr zählt als jede Versionsnummer. Der Mechanismus hinter diesem Fehler hat einen Namen, und den gibt es schon lange vor KI-Agenten: Server-Side Template Injection, kurz SSTI. Eine Template-Engine ist Software, die einen Textblock mit Platzhaltern nimmt, vergleichbar mit einem Serienbrief, der Lücken für Name und Adresse hat, und diese Platzhalter vor der Anzeige oder Weiterverarbeitung mit echten Daten füllt. Webframeworks nutzen solche Engines seit Jahren, um Seiten und Nachrichten zu bauen. Das wiederkehrende Fehlermuster von Template-Engines ist genau dasselbe, das GitLab hier reproduziert hat: Trennt die Engine die vom Nutzer gelieferten Daten nicht strikt vom Code, den sie ausführen kann, hört eine clever formulierte Eingabe auf, ein harmloser Wert zu sein, und wird zu einer Anweisung, der das System folgt.

Sicherheits-Tracker im Netz dokumentieren CVE- und CVSS-Werte so präzise, weil diese Fehlerklasse gut verstanden und durchgängig gefährlich ist. Eine CVE ist schlicht die öffentliche Referenznummer für eine bestätigte, konkrete Sicherheitslücke, und CVSS ist die Skala von 0 bis 10, die beschreibt, wie schlimm ein erfolgreicher Angriff ausfallen könnte. Diese Lücke wurde als CVE-2026-90970 erfasst, mit einem CVSS-Wert von 9,9, nahe am oberen Ende der Skala, was widerspiegelt, dass ein erfolgreicher Angriff dem Täter Befehlsausführung auf einem Backend-Server verschafft und nicht etwa nur einen kosmetischen Fehler. Die Ursache stuft der von GitLab veröffentlichte CVE-Eintrag unter CWE-1336 ein, der Standardkategorie für fehlerhaften Umgang mit Eingaben in Template-Engines, genau die Familie, zu der SSTI gehört.

Nichts davon bedeutet, dass GitLabs AI Gateway oder die Duo Agent Platform insgesamt exotisch oder schlecht gebaut wären. Es brauchte nur eine einzige Grenze, zwischen dem, was ein Nutzer konfiguriert, und dem, was das System ausführt, die weniger präzise gezogen war, als nötig gewesen wäre. Dieses Grenzproblem ist so alt wie Template-Engines selbst. Eine Funktion in die Sprache von KI-Agenten zu kleiden, hebt die alte Regel nicht auf: Was ausgeführt wird, muss von dem getrennt sein, was ein Nutzer konfigurieren darf, sonst war die Trennung nie echt.

Wer wirklich gefährdet war, und wer nicht

Hier lohnt sich Präzision, denn Schlagzeilen über KI-Sicherheitslücken verschwimmen gern zu einem vagen Gefühl der Gefahr, das mit den Fakten nicht viel zu tun hat.

Erstens: Das war nie ein Fehler, der ohne Login ausnutzbar war. Ein Angreifer brauchte ein gültiges, eingeloggtes GitLab-Konto mit Zugriff auf die Duo Agent Platform, bevor überhaupt etwas davon griff. Das schließt das Szenario aus, das die meisten instinktiv vor Augen haben, einen anonymen Fremden aus dem Internet, der von irgendwoher zugreift. Risiko innerhalb einer Organisation schließt das aber nicht aus: Ein kompromittiertes Mitarbeiterkonto, ein verärgerter Freelancer oder ein Angreifer, der sich bereits über Phishing niedrige Zugriffsrechte verschafft hat, hätte diese Lücke nutzen können, um von einer einfachen eingeloggten Sitzung aus Befehle auf dem KI-Backend auszuführen.

Zweitens war die Betroffenheit je nach Hosting-Modell eng begrenzt. GitLab.com und GitLab Dedicated, also GitLabs eigene gehostete und verwaltete Angebote, liefen zum Zeitpunkt der Veröffentlichung bereits mit einer gepatchten Version des AI Gateways, Kunden mussten dort nichts tun. Handeln mussten Betreiber eines selbst gehosteten AI Gateways auf eigener Infrastruktur. Selbst verwaltete GitLab-Instanzen, die das von GitLab gehostete AI Gateway nutzen, waren geschützt und mussten nichts tun. GitLab veröffentlichte die Korrekturen in den AI-Gateway-Versionen 19.2.4, 19.3.2 und 19.4.1, die um den 2. Oktober 2026 erschienen; Betreiber eines selbst gehosteten AI Gateways mussten eines dieser Updates manuell einspielen.

Drittens, und das ist wichtig für die Einordnung: GitLab Duos Hauptfunktionen, Code-Vorschläge und der Chat-Assistent, die die meisten Entwickler tatsächlich täglich nutzen, waren nicht die betroffene Komponente. Die Lücke steckte gezielt in der Prompt-Template-Sandbox für individuelle Duo-Agent-Platform-Flows, einer fortgeschritteneren, auf Automatisierung ausgelegten Funktion, die nicht jedes Team überhaupt eingerichtet hat. Wer Duo nur für Autovervollständigung und Chat nutzt, stand gar nicht in dem Raum, in dem dieses Loch in der Wand war.

Wenige Wochen zuvor hatte eine andere, unabhängige GitLab-Lücke bereits Schlagzeilen gemacht: ein Path-Traversal-Fehler mit der Kennung CVE-2026-85706, Anfang September 2026 gepatcht, der es einem nicht angemeldeten Nutzer erlaubte, beliebige Dateien zu lesen, und bei dem Sicherheitsforscher bereits einen Tag nach Erscheinen des Patches erste Ausnutzungsversuche beobachteten. Das ist ein anderer Fehler mit einer anderen Grundursache: Dateien lesen statt eine Sandbox zu verlassen, um Befehle auszuführen. Beide sollten nicht zu einer Geschichte verschmolzen werden, nur weil sie im selben Jahr 2026 beide GitLab betreffen. Für den in diesem Artikel beschriebenen Sandbox-Ausbruch in der Duo Agent Platform gibt es Stand Mitte Oktober 2026 keine Berichte über tatsächliche Ausnutzung.

Der Punkt, der bleibt: Agenten-Etikett schützt nicht vor alten Fehlern

Dieser Fall lohnt sich zu merken, über den Patch-Zyklus hinaus, nicht wegen der CVE-Nummer, sondern wegen dem, was er über jedes Produkt zeigt, das sich heute KI-Agent, individueller Flow oder autonomer Workflow nennt. Solche Namen beschreiben, was die Funktion für den Nutzer tut. Sie sagen nichts darüber aus, ob das Team dahinter die Ausführungsgrenze darunter korrekt gezogen hat.

Ein KI-Agent, der eine Konfiguration liest und danach handelt, hat strukturell dasselbe Risikoprofil wie eine Webanwendung, die eine Vorlage liest und darstellt: Eingaben kommen von irgendwoher, das ein Nutzer kontrolliert, und irgendwo weiter unten berührt diese Eingabe etwas, das Code ausführen kann. Behandelt ein Team, das eine Agenten-Plattform baut, bei GitLab oder anderswo, die KI-Verpackung als Grund, die altbekannte Disziplin der Anwendungssicherheit nicht mehr anzuwenden, entsteht genau diese Art von Fehler: eine altbekannte Schwachstellenklasse, die mit neuem Vokabular wiederkehrt.

Für Leser, die Risiko managen statt Code zu schreiben, lautet die praktische Lehre nicht, KI-Agenten-Funktionen grundsätzlich zu meiden. Es geht darum, bei jedem neuen Automatisierungswerkzeug dieselbe Frage zu stellen, bevor man ihm erweiterte Zugriffsrechte innerhalb einer Organisation einräumt: Trennt diese Funktion klar, was ein Nutzer konfigurieren darf, von dem, was das System ausführen darf, und wurde diese Trennung getestet, nicht nur behauptet? Dazu passt der Gedanke, dass Zero-Trust-Architektur jede Anfrage standardmäßig als unverifiziert behandelt, denn derselbe Reflex, nie anzunehmen, dass eine Grenze hält, nur weil sie als Grenze beschriftet ist, gilt für eine Sandbox rund um einen KI-Agenten genauso wie für ein Netzwerksegment.

Teams, die KI-gestützte Entwicklerwerkzeuge breiter bewerten, profitieren außerdem von einer strukturierten Denkweise darüber, wo das neue Risiko tatsächlich sitzt, statt künstliche Intelligenz als eine einzige, undifferenzierte Gefahr zu behandeln. Eine Einführung dazu, wie OWASP, MITRE und NIST jeweils einen anderen Ausschnitt der KI-Sicherheit abdecken, ist ein naheliegender nächster Schritt für alle, die solche Werkzeuge intern freigeben müssen.

FAQ

Was ist die GitLab-Duo-Agent-Platform-Sicherheitslücke, in einem Satz?

Die als CVE-2026-90970 erfasste Sicherheitslücke in der GitLab Duo Agent Platform erlaubte einem angemeldeten Nutzer mit Zugriff auf die Duo Agent Platform, aus einer Sandbox auszubrechen, die eigentlich individuelle Flow-Konfigurationen isolieren sollte, und beliebige Befehle auf GitLabs AI Gateway auszuführen, dem Backend-Server, der KI-Anfragen verarbeitet. Betroffen waren dabei tatsächlich nur selbst gehostete AI Gateways mit ungepatchter Version.

Betrifft das GitLab.com oder den normalen GitLab-Duo-Chat und die Code-Vorschläge?

GitLab.com und GitLab Dedicated liefen zum Zeitpunkt der Veröffentlichung bereits mit einem gepatchten AI Gateway, Kunden mussten dort nichts unternehmen. Die Lücke steckte außerdem gezielt in der Template-Sandbox für individuelle Flows der Duo Agent Platform, nicht in den gängigen Duo-Code-Vorschlägen oder im Chat-Assistenten, die die meisten Entwickler nutzen.

Musste sich ein Angreifer einloggen, um diese GitLab-Lücke auszunutzen?

Ja. Um diese Lücke in der GitLab Duo Agent Platform auszunutzen, war ein gültiges, angemeldetes Konto mit Zugriff auf die Duo Agent Platform nötig, kein anonymer Angreifer von außen. Das macht sie eher zu einem Thema für Rechteausweitung und Insider-Risiko als zu einer offenen Tür nach außen, wenngleich ein kompromittiertes Mitarbeiter- oder Freelancer-Konto sie trotzdem bis zur Befehlsausführung auf dem AI Gateway hätte nutzen können.

Ist das dieselbe Lücke wie der bereits aktiv ausgenutzte GitLab-Path-Traversal-Fehler von wenigen Wochen zuvor?

Nein. Der Sandbox-Ausbruch in der Duo Agent Platform ist nicht dieselbe Lücke wie der bereits aktiv ausgenutzte Path-Traversal-Fehler, der einige Wochen zuvor, im September 2026, gepatcht wurde. CVE-2026-85706 ist eine eigenständige, ohne Login ausnutzbare Path-Traversal-Schwachstelle, die das Lesen beliebiger Dateien erlaubt und seit kurz nach dem Patch Berichten zufolge bereits aktiv angegriffen wird. CVE-2026-90970, der hier beschriebene Sandbox-Ausbruch, hat eine andere Grundursache und es gibt Stand Mitte Oktober 2026 keine Berichte über eine tatsächliche Ausnutzung.

Was sollte ein Team mit selbst gehostetem AI Gateway konkret tun?

Teams, die ein selbst gehostetes AI Gateway betreiben, sollten auf Version 19.2.4, 19.3.2 oder 19.4.1 aktualisieren, je nachdem, welche zur aktuell genutzten Release-Linie passt, da GitLab den Fix über diese drei Versionen Anfang Oktober 2026 ausgerollt hat. Wer unsicher ist, welche Linie im Einsatz ist, sollte die aktuelle AI-Gateway-Version gegen GitLabs Sicherheitshinweis prüfen, bevor er davon ausgeht, bereits geschützt zu sein.

#gitlab#gitlab-duo#ai-security#vulnerability#ssti#sandbox-escape