Zum Inhalt springen

Tests & Angriffssimulation

Wir prüfen, ob Ihre KI-Systeme angriffsresistent und regulatorisch konform sind

Wir testen LLM-basierte Anwendungen und KI-Systeme auf Prompt Injection, Jailbreaks, Datenabfluss und Modellextraktion. Wir verbinden offensive Tests mit der Bewertung der AI-Act-Konformität und den Anforderungen der DSGVO an die Verarbeitung personenbezogener Daten. Unsere Methodik stützt sich auf die OWASP Top 10 for LLM Applications 2026, für KI-Agenten zusätzlich auf die OWASP Top 10 for Agentic Applications, und nutzt Werkzeuge wie PyRIT, Giskard und promptfoo.

Zuletzt aktualisiert: Oktober 2026

30 Minuten mit einem Berater, der solche Projekte leitet. Wir legen den Umfang fest und sagen Ihnen, wovon der Preis abhängt.

Branchen
5
Jahre am Markt
8+

Zertifizierungen des Teams

  • CISSP - Certified Information Systems Security Professional
  • CISA - Certified Information Systems Auditor
  • CISM - Certified Information Security Manager
  • OSCP - Offensive Security Certified Professional
  • OSWE - Offensive Security Web Expert
  • GICSP - Global Industrial Cyber Security Professional
  • GRID - GIAC Response and Industrial Defense
  • IEC 62443 - ISA/IEC 62443 Cybersecurity Expert
  • BSCP - Burp Suite Certified Practitioner

Tests & Angriffssimulation

  • Sicherheitstests von Chatbots und LLM-basierten Anwendungen
  • Prompt-Injection-Tests
  • Bewertung des Risikos von Datenabfluss

Chatbots und KI-Assistenten erreichen Kunden und Mitarbeitende schneller, als Organisationen das Risiko bewerten können. Ein Sprachmodell, das mit Unternehmensdaten und -systemen verbunden ist, öffnet neue Angriffswege: Prompt Injection, Abfluss von Daten anderer Nutzer, Offenlegung des System-Prompts, ein Agent, der mehr tut, als er soll. Der AI Act teilt Systeme in vier Risikokategorien mit Anforderungen an Dokumentation und Transparenz ein, und die DSGVO begrenzt die Verarbeitung personenbezogener Daten durch Modelle. Wir testen ein KI-System, bevor es Nutzer erreicht, und verbinden offensive Tests mit einer Konformitätsbewertung. Bei einem Finanzinstitut, das einen Kunden-Chatbot vorbereitete, zeigte der Test vor dem Start Prompt-Injection-Pfade zu Daten anderer Kunden; das Team setzte die Schutzmaßnahmen vor dem Go-live um.

Leistungsumfang

  • Sicherheitstests von Chatbots und LLM-basierten Anwendungen - im Einklang mit den OWASP Top 10 for LLM Applications 2026

  • Prompt-Injection-Tests - direct (Manipulation des Prompts selbst) und indirect (Einschleusung über externe Datenquellen, z. B. Dokumente in RAG-Pipelines)

  • Bewertung des Risikos von Datenabfluss - Trainingsdaten, Nutzerdaten, System-Prompt und weiterer verborgener Kontext (LLM08:2026 Hidden Context Exposure)

  • Data and Model Poisoning (LLM05:2026) - Bewertung der RAG-Quellen, der Fine-Tuning-Datenpipeline und der Modellherkunft auf Datenvergiftung

  • Improper Output Handling (LLM10:2026) - Validierung und Bereinigung von Modellausgaben vor der Weitergabe an nachgelagerte Systeme

  • Excessive Agency (LLM03:2026) und Agentenrisiken nach den OWASP Top 10 for Agentic Applications (ASI01-ASI10) - Berechtigungen von KI-Agenten, Werkzeugketten, Gedächtnis und Vertrauensgrenzen

  • Unbounded Consumption (LLM06:2026) - Prüfung der Widerstandsfähigkeit gegen übermäßigen Verbrauch von Inferenzressourcen (Denial of Service, Denial of Wallet) und Modellextraktion über die API

  • AI-Act-Konformitätsaudit - Risikoklassifizierung (inakzeptabel, hoch, begrenzt, minimal), Dokumentation, Transparenzanforderungen

  • Bewertung der Verarbeitung personenbezogener Daten durch KI-Systeme (DSGVO)

  • Bias- und Fairness-Tests - Identifizierung von Verzerrungen in den Modellausgaben

So arbeiten wir, Schritt für Schritt

01

Scoping

Wir identifizieren die KI-Systeme in der Organisation, ihre Rollen, Eingabedaten und Integrationen. Wir bestimmen, welche Systeme unter den AI Act fallen und in welche Risikokategorie. Wir stimmen den Testumfang ab.

02

Bedrohungsmodellierung

Wir analysieren die Architektur des KI-Systems, die Werkzeugketten, die Datenquellen und die potenziellen Angriffsvektoren. Wir ordnen die Risiken den OWASP Top 10 for LLM Applications 2026 zu, darunter Prompt Injection (LLM01), die Offenlegung sensibler Informationen (LLM02) und übermäßige Handlungsvollmacht (LLM03), für Agenten zusätzlich den OWASP Top 10 for Agentic Applications.

03

Automatisierte und manuelle Tests

Wir führen offensive Tests mit Werkzeugen wie PyRIT (Microsoft), Giskard und promptfoo durch. Wir testen auf Prompt Injection, Jailbreak, Datenabfluss, Modellextraktion und Improper Output Handling. Wir verbinden die Automatisierung mit der manuellen Erkundung von Szenarien, die für die Geschäftslogik des Kunden spezifisch sind.

04

Bericht

Wir liefern einen Bericht mit priorisierten Befunden, einer Risikobewertung, der Zuordnung zu den OWASP LLM Top 10 und umsetzbaren Empfehlungen zur Behebung. Für Hochrisiko-Systeme liefern wir Beiträge zur technischen Dokumentation und Konformitätsbewertung.

05

Unterstützung bei der Behebung

Wir unterstützen Sie bei der Umsetzung von Schutzmaßnahmen - Guardrails, Filterung von Ein- und Ausgaben, Einschränkung der Berechtigungen von Agenten und Anomalieüberwachung der Modellabfragen.

KI-Test oder klassischer Penetrationstest: was Sie brauchen

  • KI-Sicherheitstests

    Diese Leistung

    Wählen Sie einen KI-Sicherheitstest, wenn die Anwendung ein Sprachmodell nutzt: Chatbot, Assistent, RAG-System oder Agent mit Zugriff auf Werkzeuge. Wir prüfen Prompt Injection, Datenabfluss und Agentenberechtigungen nach den OWASP Top 10 for LLM Applications.

  • Wählen Sie einen Penetrationstest für Anwendung, API und Infrastruktur selbst. Bei einem Chatbot mit Zugriff auf Kundendaten lohnt es sich, beides zu verbinden, weil neben den Modellrisiken die klassischen Anwendungsschwachstellen bleiben.

  • Wählen Sie eine Risiko- und Konformitätsanalyse, wenn die Organisation noch über einen KI-Dienst wie Microsoft 365 Copilot entscheidet und eine Bewertung nach DORA, AI Act und Cloud-Anforderungen braucht.

Für wen wir arbeiten

Wir haben mit Betreibern nationaler Stromübertragungsnetze, systemrelevanten Banken, Herstellern von Industrieautomatisierung, Betreibern von Anlagen für erneuerbare Energien und Auftragnehmern des US-Verteidigungsministeriums (US DoD) zusammengearbeitet.

Technologiepartnerschaften

Sie sind nicht sicher, ob diese Leistung zu Ihrer Situation passt? Beschreiben Sie kurz Umgebung und Termin, und wir schlagen einen Umfang vor. Wir antworten innerhalb eines Werktags.

Häufige Fragen

Welche KI-Systeme testen Sie?

Wir testen Chatbots, KI-Assistenten, autonome Agenten, RAG-Systeme (Retrieval-Augmented Generation), Anwendungen auf Basis der APIs von OpenAI und Anthropic, Open-Source-Modelle und Eigenentwicklungen. Jedes System, das Nutzerdaten verarbeitet oder Entscheidungen trifft, benötigt Sicherheitstests.

Was sind die OWASP Top 10 for LLM Applications?

Es ist eine Liste der 10 wichtigsten Sicherheitsrisiken für Anwendungen auf Basis großer Sprachmodelle, herausgegeben vom OWASP GenAI Security Project; aktuell ist die Ausgabe 2026 vom August 2026. Sie umfasst unter anderem Prompt Injection (LLM01), die Offenlegung sensibler Informationen (LLM02), Excessive Agency (LLM03), Supply Chain (LLM04), Data and Model Poisoning (LLM05), Unbounded Consumption (LLM06), Hidden Context Exposure wie den Abfluss des System-Prompts (LLM08), Vector and Embedding Weaknesses in RAG-Systemen (LLM09) und Improper Output Handling (LLM10). Auf dieser Liste bauen unsere Tests auf; für KI-Agenten ergänzen wir sie um die OWASP Top 10 for Agentic Applications.

Gilt der AI Act für meine Organisation?

Der AI Act gilt für Anbieter und Betreiber von KI-Systemen auf dem EU-Markt. Die Verordnung definiert vier Risikokategorien: inakzeptabel (z. B. Social Scoring, unterschwellige Manipulation), hoch (z. B. Rekrutierungssysteme, Kreditscoring, kritische Infrastruktur), begrenzt (Chatbots - die Nutzer müssen darüber informiert werden, dass sie mit einer KI interagieren) und minimal (z. B. Spamfilter). Wir unterstützen Sie bei der Bewertung, in welche Kategorie Ihre Systeme fallen und welche Pflichten daraus folgen.

Welche Werkzeuge verwenden Sie für die Tests?

Wir verwenden PyRIT (Python Risk Identification Tool, Microsofts Open-Source-Framework für Red Teaming generativer KI), Giskard (Open-Source-Bibliothek zum Testen von Qualität, Verzerrungen und Sicherheit von Modellen), promptfoo (Werkzeug zum Testen von Prompts) sowie eigene Testszenarien. Wir verbinden automatisierte Werkzeuge mit manueller Erkundung, da viele Schwachstellen - etwa indirect Prompt Injection über Dokumente in RAG - einen kreativen, kontextbewussten Ansatz erfordern.

Wie lange dauert ein Sicherheitstest eines KI-Systems?

Ein typisches Projekt dauert 2 bis 4 Wochen, abhängig von der Komplexität des Systems und der Anzahl der Integrationen. Ein einfacher Chatbot ohne externe Integrationen dauert etwa 2 Wochen. Ein RAG-System mit mehreren Datenquellen und autonomen Agenten erfordert 3 bis 4 Wochen.

Wovon hängt der Preis von KI-Sicherheitstests ab?

Ein Projekt für einen einfachen Chatbot ohne Integrationen dauert meist 2 Wochen, für ein RAG-System mit vielen Datenquellen und Agenten 3-4 Wochen; danach richtet sich die Zahl der Arbeitstage. Die Tage multiplizieren wir mit dem Tagessatz und gliedern sie nach Phasen, von der Bedrohungsmodellierung bis zur Unterstützung bei der Behebung. Den Umfang klären wir in einem kostenlosen Gespräch.

Wir besprechen Umfang, Methodik und Zeitplan.

Kostenlose Beratung, unverbindlich.

Termin vereinbaren