Przejdź do treści

Testy i symulacje ataków

Sprawdzamy, czy Twoje systemy AI są odporne na ataki i zgodne z regulacjami

Testujemy aplikacje oparte na LLM i systemach AI pod kątem prompt injection, jailbreaków, wycieków danych i ekstrakcji modeli. Łączymy testy ofensywne z oceną zgodności z AI Act i wymogami RODO. Pracujemy na podstawie OWASP Top 10 for LLM Applications 2026, a agentów AI oceniamy także według OWASP Top 10 for Agentic Applications, z narzędziami PyRIT, Giskard i promptfoo.

Ostatnia aktualizacja: październik 2026

30 minut z konsultantem, który prowadzi takie projekty. Ustalimy zakres i powiemy, od czego zależy wycena.

Branż
5
Lat na rynku
8+

Certyfikaty zespołu

  • CISSP - Certified Information Systems Security Professional
  • CISA - Certified Information Systems Auditor
  • CISM - Certified Information Security Manager
  • OSCP - Offensive Security Certified Professional
  • OSWE - Offensive Security Web Expert
  • GICSP - Global Industrial Cyber Security Professional
  • GRID - GIAC Response and Industrial Defense
  • IEC 62443 - ISA/IEC 62443 Cybersecurity Expert
  • BSCP - Burp Suite Certified Practitioner

Testy i symulacje ataków

  • Testowanie bezpieczeństwa chatbotów i aplikacji opartych na LLM
  • Testy prompt injection
  • Ocena ryzyka wycieków danych

Chatboty i asystenci AI trafiają do klientów i pracowników szybciej, niż organizacje zdążą ocenić ryzyko. Model językowy połączony z danymi i systemami firmy otwiera nowe drogi ataku: prompt injection, wyciek danych innego użytkownika, ujawnienie promptu systemowego, agenta, który wykona więcej, niż powinien. AI Act dzieli systemy na cztery kategorie ryzyka z wymogami dokumentacji i przejrzystości, a RODO ogranicza przetwarzanie danych osobowych przez modele. Testujemy system AI, zanim trafi do użytkowników, i łączymy test ofensywny z oceną zgodności. W instytucji finansowej, która przygotowywała chatbota dla klientów, test przed startem pokazał ścieżki prompt injection do danych innych klientów; zespół wdrożył zabezpieczenia przed uruchomieniem.

Zakres usługi

  • Testowanie bezpieczeństwa chatbotów i aplikacji opartych na LLM - zgodnie z OWASP Top 10 for LLM Applications 2026

  • Testy prompt injection - direct (bezpośrednia manipulacja promptem) i indirect (wstrzyknięcie przez dane zewnętrzne, np. dokumenty w RAG)

  • Ocena ryzyka wycieków danych - dane treningowe, dane użytkowników, prompt systemowy i inny ukryty kontekst (LLM08:2026 Hidden Context Exposure)

  • Data and Model Poisoning (LLM05:2026) - ocena źródeł RAG, potoku danych do fine-tuningu i pochodzenia modelu pod kątem zatruwania danych

  • Improper Output Handling (LLM10:2026, niewłaściwa obsługa wyników modelu) - walidacja i sanityzacja wyników przed przekazaniem do systemów, które z nich korzystają

  • Excessive Agency (LLM03:2026) i ryzyka agentów według OWASP Top 10 for Agentic Applications (ASI01-ASI10) - uprawnienia agentów AI, łańcuchy narzędzi, pamięć i granice zaufania

  • Unbounded Consumption (LLM06:2026) - testy odporności na nadmierne zużycie zasobów inferencyjnych (denial of service, denial of wallet) i na ekstrakcję modelu przez API

  • Audyt zgodności z AI Act - klasyfikacja ryzyka (niedopuszczalne, wysokie, ograniczone, minimalne), dokumentacja, wymogi przejrzystości

  • Ocena przetwarzania danych osobowych przez systemy AI (RODO)

  • Testy stronniczości i sprawiedliwości wyników modelu - identyfikacja uprzedzeń

Jak pracujemy, krok po kroku

01

Ustalenie zakresu

Identyfikujemy systemy AI w organizacji, ich role, dane wejściowe i integracje. Określamy, które systemy podlegają AI Act i w jakiej kategorii ryzyka. Uzgadniamy zakres testów.

02

Modelowanie zagrożeń

Analizujemy architekturę systemu AI, łańcuchy narzędzi, źródła danych i potencjalne wektory ataku. Mapujemy ryzyka na OWASP Top 10 for LLM Applications 2026, w tym prompt injection (LLM01), ujawnienie informacji wrażliwych (LLM02) i nadmierne uprawnienia agentów (LLM03), a dla agentów także na OWASP Top 10 for Agentic Applications.

03

Testy automatyczne i manualne

Przeprowadzamy testy ofensywne z wykorzystaniem narzędzi takich jak PyRIT (Microsoft), Giskard i promptfoo. Testujemy prompt injection, jailbreak, data leakage, ekstrakcję modelu, niewłaściwą obsługę wyników modelu. Łączymy automatyzację z manualną eksploracją scenariuszy specyficznych dla logiki biznesowej klienta.

04

Raport

Dostarczamy raport z priorytetyzowanymi znaleziskami, oceną ryzyka, mapowaniem na OWASP LLM Top 10 i konkretnymi rekomendacjami naprawczymi. Dla systemów wysokiego ryzyka dostarczamy materiał wspierający dokumentację techniczną i ocenę zgodności.

05

Wsparcie naprawcze

Pomagamy wdrożyć zabezpieczenia - guardrails, filtrowanie wejść/wyjść, ograniczenia uprawnień agentów, monitoring anomalii w zapytaniach do modeli.

Kiedy test AI, a kiedy zwykły test penetracyjny

  • Testy bezpieczeństwa AI

    Ta usługa

    Wybierz test bezpieczeństwa AI, gdy aplikacja korzysta z modelu językowego: chatbot, asystent, system RAG albo agent z dostępem do narzędzi. Sprawdzamy prompt injection, wycieki danych i uprawnienia agentów według OWASP Top 10 for LLM Applications.

  • Wybierz test penetracyjny dla samej aplikacji, API i infrastruktury. Przy chatbocie z dostępem do danych klientów warto połączyć oba zakresy, bo obok ryzyk modelu zostają klasyczne podatności aplikacji.

  • Wybierz analizę ryzyka i zgodności, gdy organizacja dopiero decyduje o usłudze AI, np. Microsoft 365 Copilot, i potrzebuje oceny względem DORA, AI Act i wymagań dotyczących chmury.

Kogo obsługujemy

Pracowaliśmy z operatorami krajowego systemu przesyłowego, systemowo istotnymi bankami, producentami automatyki przemysłowej, operatorami farm energii odnawialnej i kontrahentami US DoD.

Partnerstwa technologiczne

Nie wiesz, czy ta usługa pasuje do Twojej sytuacji? Opisz krótko środowisko i termin, a zaproponujemy zakres. Odpowiadamy w ciągu jednego dnia roboczego.

Najczęstsze pytania

Jakie systemy AI testujecie?

Testujemy chatboty, asystentów AI, agentów autonomicznych, systemy RAG (Retrieval-Augmented Generation), aplikacje oparte na API OpenAI, Anthropic, modele open-source i rozwiązania własne. Każdy system, który przetwarza dane użytkowników lub podejmuje decyzje, wymaga testowania bezpieczeństwa.

Czym jest OWASP Top 10 for LLM Applications?

To lista 10 najważniejszych zagrożeń bezpieczeństwa dla aplikacji opartych na dużych modelach językowych, opracowana przez OWASP GenAI Security Project. Aktualne wydanie 2026 ukazało się w sierpniu 2026 r. Obejmuje m.in. prompt injection (LLM01), ujawnienie informacji wrażliwych (LLM02), nadmierne uprawnienia agentów (LLM03), łańcuch dostaw (LLM04), zatruwanie danych i modelu (LLM05), nadmierne zużycie zasobów (LLM06), ujawnienie ukrytego kontekstu, np. promptu systemowego (LLM08), słabości wektorów i osadzeń w systemach RAG (LLM09) oraz niewłaściwą obsługę wyników modelu (LLM10). Na tej liście opieramy testy, a dla agentów AI uzupełniamy ją o OWASP Top 10 for Agentic Applications.

Czy AI Act dotyczy mojej organizacji?

AI Act obowiązuje dostawców i podmioty stosujące systemy AI na rynku UE. Regulacja definiuje cztery kategorie ryzyka: niedopuszczalne (np. scoring społeczny, manipulacja podprogowa), wysokie (np. systemy rekrutacyjne, scoring kredytowy, infrastruktura krytyczna), ograniczone (chatboty - wymagają informowania użytkownika o interakcji z AI) i minimalne (np. filtry spamu). Pomagamy ocenić, do której kategorii należą Twoje systemy i jakie obowiązki z tego wynikają.

Jakich narzędzi używacie do testowania?

Korzystamy z PyRIT (Python Risk Identification Tool - otwarte narzędzie Microsoftu do red teamingu generatywnej AI), Giskard (otwarta biblioteka do testów jakości, stronniczości i bezpieczeństwa modeli), promptfoo (narzędzie do testowania promptów) oraz własnych scenariuszy testowych. Narzędzia automatyczne łączymy z manualną eksploracją, ponieważ wiele podatności (np. indirect prompt injection przez dokumenty w RAG) wymaga kreatywnego podejścia.

Jak długo trwa test bezpieczeństwa systemu AI?

Typowy projekt trwa od 2 do 4 tygodni, w zależności od złożoności systemu i liczby integracji. Prosty chatbot bez integracji zewnętrznych to 2 tygodnie. System RAG z wieloma źródłami danych i agentami autonomicznymi - 3 do 4 tygodni.

Od czego zależy wycena testów bezpieczeństwa AI?

Projekt dla prostego chatbota bez integracji trwa zwykle 2 tygodnie, dla systemu RAG z wieloma źródłami danych i agentami 3-4 tygodnie, i od tego zależy liczba dni pracy. Dni mnożymy przez stawkę dzienną i rozpisujemy na etapy, od modelowania zagrożeń po wsparcie naprawcze. Zakres ustalamy na bezpłatnej rozmowie.

Omówimy zakres, metodykę i harmonogram.

Konsultacja jest bezpłatna i niezobowiązująca.

Umów rozmowę