So finden Sie Code-Schwachstellen mit KI-Agenten ohne das Budget zu sprengen

Ich bin kürzlich auf deepsec von Vercel Labs gestoßen. Die Idee hat mich fasziniert: Entwickler schlagen vor, KI-Agenten für tiefgehende Sicherheitsscans von Codebasen zu nutzen. Anders als klassische statische Analysatoren (SAST), die einen oft mit Fehlalarmen überschütten, setzt dieses Tool auf „intelligente" Suche.

Das Problem mit Legacy-Tools ist, dass sie Muster erkennen, aber den Kontext übersehen. Deepsec versucht, dies zu beheben.

Was ist das eigentlich

Im Wesentlichen ist es ein Wrapper zur Verwaltung von Scans. Das System jagt nicht nur gefährliche Code-Schnipsel mit Regex-Mustern – es leitet verdächtige Bereiche zur Analyse an Sprachmodelle weiter. Die Entwickler warnen ehrlich davor, dass ein vollständiger Scan eines großen Repositorys teuer werden kann. Die README erwähnt Kosten in Tausenden, sogar Zehntausenden von Dollar.

Die Zahlen sind einschüchternd, aber Vercels Argumentation ist einleuchtend: Ein einziger übersehener kritischer Bug in der Produktion könnte das Unternehmen weit mehr kosten.

So funktioniert der Prozess

Das Tool arbeitet in Phasen. Zuerst läuft ein schneller Durchgang ohne neuronale Netze – Befehl scan identifiziert lediglich potenziell problematische Bereiche mit Matchern. Diese Phase kostet nichts.

Die eigentliche Magie passiert mit Befehl process. Dann übernehmen die Agenten. Sie nehmen die Ergebnisse der ersten Phase und analysieren sie vertieft. Der Agent bestimmt, ob tatsächlich eine Schwachstelle vorliegt oder ob es ein Fehlalarm ist. Bei großen Projekten kann die Ausführung auf mehrere Worker verteilt werden.

Features, die mir gefallen haben

Deepsec hat mehrere architektonische Entscheidungen getroffen, die auf erfahrene Entwickler hindeuten.

Erstens kann das System nahtlos dort fortgesetzt werden, wo es aufgehört hat. Wenn die Internetverbindung abbricht oder das Guthaben für Ihre OpenAI/Anthropic API aufgebraucht ist, müssen Sie nicht von vorne beginnen. Der Zustand wird lokal im Ordner .deepsec gespeichert.

Zweitens gibt es einen Revalidierungsmechanismus. Befehl revalidate prüft die Git-Historie: Wenn Sie eine Schwachstelle bereits behoben haben, bemerkt das Tool dies und meldet sie nicht erneut.

Drittens gibt es ein kontextbewusstes Vorgehen. Anstatt das gesamte Repository an das Modell zu senden (was extrem teuer und ineffizient wäre), bittet deepsec Sie, eine komprimierte Projektbeschreibung vorzubereiten – Datei INFO.md. Sie beschreiben die Besonderheiten: wie die Autorisierung funktioniert, welches Middleware verwendet wird, wo sich Konfigurationen befinden. Dies hilft dem Agenten, keine offensichtlichen Fragen zu stellen, und reduziert Fehler.

So führen Sie es selbst aus

Für den Einstieg genügt ein Standard-npx:

npx deepsec init
cd .deepsec
pnpm install

Konfigurieren Sie als Nächstes Ihre Zugriffsschlüssel. Das Team empfiehlt die Verwendung von Vercel AI Gateway, aber Sie können auch direkte Anthropic- oder OpenAI-Tokens übergeben. Wichtig ist, die Limits im Blick zu behalten. Ein Standard-Claude-Pro-Abonnement reicht für einen vollständigen Scan nicht aus – Sie sollten von Anfang an ein Budget für API-Zugriff einplanen.

Für die Überprüfung von Änderungen in einem bestimmten Pull Request gibt es einen praktischen Flag:

pnpm deepsec process --diff

Dadurch sparen Sie erheblich Zeit und Geld, da nur die geänderten Dateien analysiert werden.

Technische Seite und Sicherheit

Es ist erwähnenswert, dass deepsec selbst über Shell-Zugriff verfügt. Sie führen Code aus, der einen Agenten mit Befehlsausführungsrechten steuert. Um nicht von bösartigem Code in Projekt-Abhängigkeiten getroffen zu werden, gibt es einen Vercel Sandbox-Modus. In diesem Fall findet die Arbeit in isolierten Micro-VMs statt, und Ihre API-Schlüssel bleiben außen vor und können nicht gestohlen werden.

Für wen ist das gedacht

Für kleine Hobbyprojekte ist deepsec überdimensioniert. Aber wenn Sie im Enterprise-Bereich mit großen Legacy-Codebasen arbeiten, wo Sicherheit wichtiger ist als ein paar hundert Dollar an Token-Kosten zu sparen, lohnt sich ein Versuch. Es ist besonders gut darin, logische Fehler in der Authentifizierung oder komplexe Schwachstellenketten zu finden, die ein normaler Linter niemals finden würde.

Sollten Sie es eilig haben, dies in jede CI/CD-Pipeline zu integrieren? Wahrscheinlich nicht. Aber als Werkzeug für periodische tiefgehende Code-Audits scheint es ein sehr vernünftiger Ansatz für AppSec im Jahr 2024 zu sein.