Cybersicherheit

Vibe Coding Sicherheit: Die Checkliste, die wirklich zählt

KI-Coding-Agenten sichern die meisten Apps automatisch ab. Diese Checkliste zeigt die Stellen, an denen sie vom sicheren Pfad abweichen.

Editorial Team / /10 Min. Lesezeit
Eine nächtliche Straße mit aufgerissener Leitplanke und rotem Warnlicht an der Lücke, Trümmer liegen auf dem Erdboden

Ein Entwickler bittet einen KI-Coding-Agenten wie Claude Code, an einem Nachmittag eine kleine Buchungs-App zu bauen: Er beschreibt in normalen Sätzen, was die App tun soll, und lässt die KI den eigentlichen Code schreiben. Diese Arbeitsweise nennt man mittlerweile Vibe Coding. Sicherheit kommt in der Anfrage meist gar nicht vor, trotzdem greift der Agent zu einem gängigen Web-Framework, bindet eine Datenbank an, baut ein Login-Formular, und noch vor der Mittagspause läuft ein funktionierendes Produkt. Die klassischen Sicherheitsfehler, die früher handgeschriebenen Code plagten, tauchen dabei kaum auf, weil das Framework sie automatisch abfängt: Es maskiert Text, bevor er angezeigt wird, es baut Datenbankabfragen auf sichere Weise zusammen, es verschlüsselt Passwörter, ohne dass man extra danach fragen müsste. Das Risiko in so einer App verteilt sich also nicht gleichmäßig über den ganzen Code. Es sammelt sich an den wenigen Stellen, an denen der Agent (auf Anweisung des Entwicklers oder aus eigener Bequemlichkeit) den normalen Weg des Frameworks verlassen hat.

Genau darin liegt das eigentliche Problem KI-generierter Anwendungen, die live gehen, und es ist etwas anderes als die übliche Warnung, KI schreibe unsicheren Code. Eine brauchbare Vibe-Coding-Sicherheit-Checkliste verzichtet auf die auswendig gelernte Liste von Schwachstellen. Stattdessen liefert sie eine Methode, um genau die Stellen zu finden, an denen ein Agent den ausgetretenen Pfad verlassen hat, denn dort entsteht der eigentliche Schaden.

Wo Zugangsdaten wirklich durchsickern

Der häufigste Weg, wie eine mit KI gebaute App kompromittiert wird, hat nichts mit raffinierten Angriffstechniken zu tun. Es ist ein Passwort, ein API-Schlüssel oder ein Datenbank-Zugang, der direkt im Code steht statt an einem getrennten, geschützten Ort, und der dann, ohne dass es jemandem auffällt, in ein öffentliches Code-Repository landet. Ein durchgesickertes Zugangsdatum ist zudem ein gängiges Einfallstor für Angriffe auf die Software-Lieferkette, bei denen ein einziger offener Schlüssel weit mehr öffnet als nur die eigentliche App.

Das ist kein Verdacht, sondern ein belegtes Muster. Die Sicherheitsfirma GitGuardian beobachtet jedes Jahr, wie viele Zugangsdaten auf öffentlichem GitHub landen, und ihr State of Secrets Sprawl 2026 Report kommt auf 28,65 Millionen offengelegte Secrets, also Zugangsdaten, Tokens und Schlüssel, die 2025 in öffentliche GitHub-Commits gelangten. Das ist ein Plus von 34 Prozent gegenüber dem Vorjahr, der größte je gemessene Jahressprung. Für unser Thema noch aufschlussreicher: Commits, die mit Hilfe von Claude Code entstanden sind, einem der meistgenutzten KI-Coding-Agenten, hatten eine Leak-Rate von 3,2 Prozent, gegenüber 1,5 Prozent im Durchschnitt aller öffentlichen GitHub-Commits, also etwa doppelt so hoch. Secrets, die speziell mit KI-Diensten zusammenhängen, legten sogar um 81 Prozent zu.

Das heißt nicht, dass die Agenten von Natur aus nachlässig sind. Es bedeutet: Wenn die Anweisung schlicht lautet “mach, dass es funktioniert, und zwar schnell”, ist der schnellste Weg oft, einen echten Schlüssel direkt in eine Konfigurationsdatei zu tippen, statt einen richtigen Secrets-Manager aufzusetzen. Ein Agent, der auf eine funktionierende Demo optimiert, nimmt diesen Weg, solange ihm niemand etwas anderes sagt. Die Lösung kostet nichts: Zugangsdaten gehören in Umgebungsvariablen oder einen dedizierten Secrets-Speicher, niemals in den Code, und jedes Repository sollte geprüft werden, bevor es öffentlich gestellt wird.

Ein Code-Editor zeigt einen im Klartext hartcodierten API-Token in einer Konfigurationsdatei, rot hervorgehoben

Injection-Lücken entstehen genau dort, wo das Framework umgangen wurde

SQL-Injection, eine Technik, bei der Angreifer eigene Datenbankbefehle in ein Formularfeld oder ein Suchfeld schmuggeln, weil die App ihre Datenbankabfragen durch simples Zusammenkleben von Text erzeugt, zählt weiterhin zu den schädlichsten und zugleich am leichtesten vermeidbaren Fehlern in Webanwendungen. Sie belegt Platz drei der CWE Top 25 der gefährlichsten Software-Schwachstellen, einer jährlichen Liste, die MITRE und die US-Cybersicherheitsbehörde CISA aus rund 31.770 realen Schwachstellenberichten zusammenstellen.

Moderne Frameworks lösen dieses Problem standardmäßig über einen sogenannten Query Builder (eine Code-Schicht, die Datenbankanfragen sicher zusammenbaut und Nutzereingaben stets als Daten behandelt, nie als Befehle, ganz ohne dass der Entwickler sich darum kümmern müsste). Ein Coding-Agent, der innerhalb eines gängigen Frameworks arbeitet, greift normalerweise automatisch auf diesen Query Builder zurück. Der Ausfall passiert an einer schmalen, aber vorhersehbaren Stelle: Jemand wünscht sich eine individuelle Suchfunktion oder eine Performance-Optimierung, und der Agent schreibt, um die Anfrage zu erfüllen, statt über den Builder eine rohe SQL-Abfrage von Hand. Genau diese eine handgeschriebene Abfrage ist der Punkt, an dem ein Angreifer eindringt.

Der Unterschied zeigt sich direkt im Code. So sieht der sichere Weg in einer typischen Node.js-Anwendung aus:

// The framework's query builder treats orderId as data, never as a command
const order = await db("orders").where({ id: orderId, userId: currentUser.id }).first();

Und so sieht die Umgehung aus:

// A hand-written query splices orderId directly into the SQL text
const order = await db.raw(`SELECT * FROM orders WHERE id = ${orderId}`);

Bei einer normalen Anfrage liefern beide Varianten dieselbe Bestellung zurück. Nur bei der zweiten kann ein Angreifer über das Feld orderId selbst Datenbankbefehle einschleusen.

Dasselbe Muster gilt dafür, wie eine Seite von Nutzern eingereichte Inhalte anzeigt, etwa einen Kommentar oder eine Profilbeschreibung. Frameworks maskieren solchen Text automatisch: Sie wandeln ihn also in reine, wirkungslose Zeichen um, bevor er auf der Seite erscheint, sodass ein Kommentar mit einer Codezeile einfach als harmloser Text angezeigt wird, statt ausgeführt zu werden. Sobald die Anforderung aber lautet, etwas “als HTML darzustellen”, etwa für eine Formatierungsfunktion, wird genau diese automatische Maskierung abgeschaltet, und jeder Besucher, der Text einreichen kann, kann potenziell Code platzieren, der im Browser eines anderen Nutzers läuft.

Eine Injection-Prüfung bedeutet, im Code gezielt nach den Ausnahmen zu suchen, nicht nach der Regel: jede rohe Abfrage, jedes explizite HTML-Rendering-Flag, jede Stelle, an der ein Kommentar im Code sinngemäß sagt “musste das hier manuell machen”. Diese Zeilen verdienen einen zweiten Blick, gerade weil sie so selten sind.

Zugriffskontrolle: Wer darf wessen Daten sehen

Ein subtileres und in der Praxis häufigeres Problem entsteht, wenn eine App zwar korrekt prüft, dass jemand eingeloggt ist, aber nicht prüft, ob der konkrete Datensatz, den diese Person anfragt, ihr überhaupt gehört. Dieser Fehler heißt im OWASP API Security Top 10 offiziell Broken Object Level Authorization, und er belegt dort Platz eins. Bekannter ist die Kurzform IDOR, für insecure direct object reference: Ein Fall, in dem allein das Ändern einer Zahl in einer Web-Adresse (etwa einer Bestell- oder Rechnungsnummer) ausreicht, um einen fremden Datensatz einzusehen oder zu bearbeiten. Es ist genau die Art von grundsätzlichem Misstrauen, für die Zero-Trust-Sicherheit plädiert: jede einzelne Anfrage für sich prüfen, statt anzunehmen, eine eingeloggte Sitzung beweise bereits, dass diese Person genau diesen Datensatz sehen darf.

Diese Lücke entsteht typischerweise, wenn ein KI-Agent eine Funktion schnell baut, indem er die Struktur einer bestehenden Funktion kopiert. Die Login-Prüfung stimmt fast immer, weil dieses Muster überall im Code und in den Trainingsdaten vorkommt. Die Eigentümer-Prüfung dagegen fällt leicht unter den Tisch, weil sie von der konkreten Geschäftslogik genau dieser einen Funktion abhängt: der Bestätigung, dass die Bestellnummer in der Anfrage tatsächlich zum eingeloggten Nutzer gehört. Sie muss für jede sicherheitsrelevante Aktion bewusst geschrieben werden; ein Framework kann sie nicht von sich aus erfinden, so wie es das bei sicheren Datenbankabfragen kann.

Eine Browser-Adressleiste zeigt eine Profil-URL mit einer eingekreisten numerischen Datensatz-ID

Ein verwandtes, älteres Problem ist CSRF, cross-site request forgery: Eine bösartige Website bringt den Browser eines Besuchers dazu, ohne dessen Wissen eine Aktion auszuführen (etwa eine E-Mail-Adresse zu ändern oder einen Kauf zu tätigen) auf einer ganz anderen Seite, bei der der Besucher zufällig gerade eingeloggt ist. CSRF steht auf Platz vier derselben CWE-Top-25-Liste. Die meisten modernen Frameworks bringen dagegen einen eingebauten Schutz mit, meist ein verstecktes Token, das bei jeder Formularübermittlung übereinstimmen muss (standardmäßig aktiv). Relevant wird das Problem erst, wenn ein Entwickler diesen Schutz abschaltet, um eine API leichter von einem anderen Programm aus ansprechbar zu machen. Das ist dann kein Bug, sondern eine bewusste Abwägung, die man vor dem Launch noch einmal durchdenken sollte.

Der Punkt, den es vor fünf Jahren noch nicht gab: Prompt Injection

Alle bisher genannten Schwachstellen gab es schon vor KI-Coding-Agenten. Prompt Injection ist anders: Sie betrifft Apps, die selbst ein KI-Modell als Funktion einbauen, zum Beispiel einen Support-Chatbot im Produkt. Und sie nutzt keinen Programmierfehler aus, sondern eine strukturelle Schwäche in der Funktionsweise dieser Modelle. Ein Angreifer versteckt Anweisungen in Inhalten, die das KI-Modell verarbeiten soll, etwa in einem Dokument, das zusammengefasst werden soll, oder einer Nachricht, auf die geantwortet werden soll. Das Modell kann nicht zuverlässig unterscheiden zwischen der ursprünglichen Anweisung des Entwicklers und Text, den es nur verarbeitet, und folgt stattdessen den versteckten Anweisungen.

Die OWASP Top 10 for Large Language Model Applications führen Prompt Injection bereits in der zweiten Ausgabe in Folge als LLM01, also ganz oben, auf. Sie steht damit neben ähnlichen Katalogen von MITRE und der US-Behörde NIST, an anderer Stelle im Detail verglichen, alle mit dem Versuch, KI-spezifische Risiken zu benennen, die klassische Sicherheits-Checklisten nie abdecken mussten. Diese Platzierung ist hier aus einem bestimmten Grund wichtig: Prompt Injection ist der einzige Punkt auf dieser Liste, den die sicheren Standardeinstellungen eines Frameworks nicht einfach so abfangen können, weil es dafür noch kein Äquivalent zum Query Builder gibt. Enthält die geprüfte App irgendeine KI-Funktion, die über den Coding-Prozess selbst hinausgeht, braucht genau diese Funktion eine bewusste Prüfung, die nicht automatisch mitgeliefert wird.

Wie man eine KI-generierte App wirklich vor dem Launch prüft

Eine Checkliste Punkt für Punkt abzuhaken, erzeugt falsche Sicherheit, weil ein Häkchen formal stimmen kann (die App “hat” eine Authentifizierung, “hat” eine Eingabeprüfung), während sich darunter genau die eine Ausnahme versteckt, auf die es ankommt. Sinnvoller ist es, gezielt nach den Ausnahmen selbst zu suchen.

Am Anfang steht die Suche im Code nach jeder Stelle, an der eine rohe Datenbankabfrage geschrieben wurde, statt die Standardmethoden des Frameworks zu nutzen, und nach jeder Stelle, an der Inhalte direkt als HTML gerendert werden, statt über die normale, automatisch maskierte Ausgabe des Frameworks. Beides ist in einer kleinen bis mittleren App meist selten genug, um jede Fundstelle einzeln zu prüfen, und beides taucht meist in Kommentaren oder Code auf, den der Agent nach einer speziellen, ungewöhnlichen Anfrage ergänzt hat. Als Nächstes lohnt sich ein Blick auf jede Funktion, die einem eingeloggten Nutzer erlaubt, mit einem bestimmten Datensatz zu arbeiten (einer Bestellung, einem Dokument, einer Nachricht) und die Bestätigung, dass es eine explizite Codezeile gibt, die prüft, ob dieser Datensatz wirklich diesem Nutzer gehört, nicht nur, dass er überhaupt eingeloggt ist. Danach folgt die Frage, ob der CSRF-Schutz des Frameworks eingeschaltet geblieben ist, und falls er irgendwo deaktiviert wurde, ob das eine bewusste, dokumentierte Entscheidung war. Und wenn die App eine eigene KI-Funktion mitbringt, muss zum Schluss sichergestellt sein, dass nicht vertrauenswürdiger Text, den sie verarbeitet (hochgeladene Dokumente, gescrapte Webseiten, Nachrichten von Fremden) ihre Anweisungen nicht heimlich überschreiben kann.

Ein Terminalfenster durchläuft eine Codesuche mit rot hervorgehobenen Treffern

Dieser Ansatz funktioniert für einen Einzelentwickler, der sein eigenes Wochenendprojekt prüft, genauso wie für ein Team, das ein bezahltes Produkt launcht, denn er verlangt nicht, jede Zeile einer KI-generierten Codebasis zu lesen. Er verlangt zu wissen, welcher Handvoll Zeilen man misstrauen sollte.

Entscheidungskarte: hartcodierte Zugangsdaten zuerst in Umgebungsvariablen oder einen Secrets-Manager verschieben, da dies die günstigste Korrektur ist; prüfen, ob eine individuelle Such- oder Berichtsfunktion den Query Builder des Frameworks mit rohem SQL umgangen hat; bestätigen, dass der Zugriff eines eingeloggten Nutzers auf einen bestimmten Datensatz Eigentümerschaft prüft statt nur den Login-Status, um die IDOR-Lücke zu schließen; einen deaktivierten CSRF-Schutz als bewusste Abwägung behandeln, die vor dem Launch noch einmal zu prüfen ist; und für jede KI-Funktion über den Coding-Prozess hinaus eine explizite Prompt-Injection-Prüfung ergänzen

Häufig gestellte Fragen

Macht der Einsatz eines KI-Coding-Agenten eine Anwendung grundsätzlich unsicherer als eine, die ein Mensch geschrieben hat?

Nicht von sich aus. Eine Vibe-Coding-Sicherheit-Checkliste existiert, weil KI-generierter Code denselben Sicherheitsmustern folgt wie das Framework, auf dem er aufbaut, oft sogar sicherer als durchschnittlicher handgeschriebener Code. Die Ausnahme sind die wenigen Stellen, an denen eine Nutzeranfrage den Agenten dazu gebracht hat, diese Standardeinstellungen zu umgehen. Genau diese Stellen verdienen einen genaueren Blick.

Was ist der eine Punkt mit der höchsten Priorität vor dem Launch einer KI-generierten App?

Offengelegte Zugangsdaten (also Passwörter, API-Schlüssel oder Datenbankzugänge, die direkt im Code landen) sind das häufigste und zugleich am billigsten zu behebende Problem. Der GitGuardian-Report 2026 fand in mit KI-Unterstützung entstandenen Commits eine Leak-Rate, die ungefähr doppelt so hoch liegt wie im öffentlichen Durchschnitt. Die Lösung, Zugangsdaten in Umgebungsvariablen zu verschieben, dauert Minuten.

Was ist IDOR, und warum übersieht ein KI-Agent das so leicht?

IDOR, kurz für insecure direct object reference, tritt auf, wenn eine App einem eingeloggten Nutzer erlaubt, allein durch das Ändern eines Identifikators (etwa einer Bestellnummer) in einer Anfrage auf die Daten eines anderen Nutzers zuzugreifen. Coding-Agenten bauen die Login-Prüfung meist korrekt ein, weil dieses Muster überall vorkommt, überspringen aber die Eigentümer-Prüfung für einen bestimmten Datensatz, weil sie von der Geschäftslogik jeder einzelnen Funktion abhängt.

Ist Prompt Injection auch für eine App relevant, die gar keinen Chatbot hat?

Prompt Injection, von den OWASP Top 10 for LLM Applications auf Platz LLM01 geführt, betrifft nur Funktionen, bei denen die Anwendung selbst nicht vertrauenswürdigen Text als Teil ihrer eigenen Logik in ein KI-Modell einspeist. Eine App ohne KI-Funktion über den Coding-Prozess hinaus, mit dem sie gebaut wurde, ist diesem konkreten Risiko nicht ausgesetzt.

Wie lange dauert eine solche Sicherheitsprüfung für eine kleine KI-generierte App?

Bei einer kleinen bis mittleren Anwendung dauert die Suche nach handgeschriebenen Datenbankabfragen, ungeschütztem HTML-Rendering, fehlenden Eigentümer-Prüfungen und deaktiviertem CSRF-Schutz meist ein paar Stunden, keine Tage: weil die Prüfung gezielt nach bestimmten, identifizierbaren Ausnahmen sucht, statt die gesamte Codebasis zu durchforsten.

#vibe-coding#ai-coding-agents#application-security#secure-development