Testy i symulacje ataków
Sprawdzamy, czy Twoje systemy AI są odporne na ataki i zgodne z regulacjami
Testujemy aplikacje oparte na LLM i systemach AI pod kątem prompt injection, jailbreaków, wycieków danych i ekstrakcji modeli. Łączymy testy ofensywne z oceną zgodności z AI Act i wymogami RODO. Pracujemy na podstawie OWASP Top 10 for LLM Applications 2026, a agentów AI oceniamy także według OWASP Top 10 for Agentic Applications, z narzędziami PyRIT, Giskard i promptfoo.
- 5
- 8+
Testy i symulacje ataków
- Testowanie bezpieczeństwa chatbotów i aplikacji opartych na LLM
- Testy prompt injection
- Ocena ryzyka wycieków danych
Chatboty i asystenci AI trafiają do klientów i pracowników szybciej, niż organizacje zdążą ocenić ryzyko. Model językowy połączony z danymi i systemami firmy otwiera nowe drogi ataku: prompt injection, wyciek danych innego użytkownika, ujawnienie promptu systemowego, agenta, który wykona więcej, niż powinien. AI Act dzieli systemy na cztery kategorie ryzyka z wymogami dokumentacji i przejrzystości, a RODO ogranicza przetwarzanie danych osobowych przez modele. Testujemy system AI, zanim trafi do użytkowników, i łączymy test ofensywny z oceną zgodności. W instytucji finansowej, która przygotowywała chatbota dla klientów, test przed startem pokazał ścieżki prompt injection do danych innych klientów; zespół wdrożył zabezpieczenia przed uruchomieniem.
Zakres usługi
Testowanie bezpieczeństwa chatbotów i aplikacji opartych na LLM - zgodnie z OWASP Top 10 for LLM Applications 2026
Testy prompt injection - direct (bezpośrednia manipulacja promptem) i indirect (wstrzyknięcie przez dane zewnętrzne, np. dokumenty w RAG)
Ocena ryzyka wycieków danych - dane treningowe, dane użytkowników, prompt systemowy i inny ukryty kontekst (LLM08:2026 Hidden Context Exposure)
Data and Model Poisoning (LLM05:2026) - ocena źródeł RAG, potoku danych do fine-tuningu i pochodzenia modelu pod kątem zatruwania danych
Improper Output Handling (LLM10:2026, niewłaściwa obsługa wyników modelu) - walidacja i sanityzacja wyników przed przekazaniem do systemów, które z nich korzystają
Excessive Agency (LLM03:2026) i ryzyka agentów według OWASP Top 10 for Agentic Applications (ASI01-ASI10) - uprawnienia agentów AI, łańcuchy narzędzi, pamięć i granice zaufania
Unbounded Consumption (LLM06:2026) - testy odporności na nadmierne zużycie zasobów inferencyjnych (denial of service, denial of wallet) i na ekstrakcję modelu przez API
Audyt zgodności z AI Act - klasyfikacja ryzyka (niedopuszczalne, wysokie, ograniczone, minimalne), dokumentacja, wymogi przejrzystości
Ocena przetwarzania danych osobowych przez systemy AI (RODO)
Testy stronniczości i sprawiedliwości wyników modelu - identyfikacja uprzedzeń
Jak pracujemy, krok po kroku
Ustalenie zakresu
Identyfikujemy systemy AI w organizacji, ich role, dane wejściowe i integracje. Określamy, które systemy podlegają AI Act i w jakiej kategorii ryzyka. Uzgadniamy zakres testów.
Modelowanie zagrożeń
Analizujemy architekturę systemu AI, łańcuchy narzędzi, źródła danych i potencjalne wektory ataku. Mapujemy ryzyka na OWASP Top 10 for LLM Applications 2026, w tym prompt injection (LLM01), ujawnienie informacji wrażliwych (LLM02) i nadmierne uprawnienia agentów (LLM03), a dla agentów także na OWASP Top 10 for Agentic Applications.
Testy automatyczne i manualne
Przeprowadzamy testy ofensywne z wykorzystaniem narzędzi takich jak PyRIT (Microsoft), Giskard i promptfoo. Testujemy prompt injection, jailbreak, data leakage, ekstrakcję modelu, niewłaściwą obsługę wyników modelu. Łączymy automatyzację z manualną eksploracją scenariuszy specyficznych dla logiki biznesowej klienta.
Raport
Dostarczamy raport z priorytetyzowanymi znaleziskami, oceną ryzyka, mapowaniem na OWASP LLM Top 10 i konkretnymi rekomendacjami naprawczymi. Dla systemów wysokiego ryzyka dostarczamy materiał wspierający dokumentację techniczną i ocenę zgodności.
Wsparcie naprawcze
Pomagamy wdrożyć zabezpieczenia - guardrails, filtrowanie wejść/wyjść, ograniczenia uprawnień agentów, monitoring anomalii w zapytaniach do modeli.
Kiedy test AI, a kiedy zwykły test penetracyjny
Testy bezpieczeństwa AI
Wybierz test bezpieczeństwa AI, gdy aplikacja korzysta z modelu językowego: chatbot, asystent, system RAG albo agent z dostępem do narzędzi. Sprawdzamy prompt injection, wycieki danych i uprawnienia agentów według OWASP Top 10 for LLM Applications.
Wybierz test penetracyjny dla samej aplikacji, API i infrastruktury. Przy chatbocie z dostępem do danych klientów warto połączyć oba zakresy, bo obok ryzyk modelu zostają klasyczne podatności aplikacji.
Wybierz analizę ryzyka i zgodności, gdy organizacja dopiero decyduje o usłudze AI, np. Microsoft 365 Copilot, i potrzebuje oceny względem DORA, AI Act i wymagań dotyczących chmury.
Kogo obsługujemy
Pracowaliśmy z operatorami krajowego systemu przesyłowego, systemowo istotnymi bankami, producentami automatyki przemysłowej, operatorami farm energii odnawialnej i kontrahentami US DoD.
Nie wiesz, czy ta usługa pasuje do Twojej sytuacji? Opisz krótko środowisko i termin, a zaproponujemy zakres. Odpowiadamy w ciągu jednego dnia roboczego.
Najczęstsze pytania
Jakie systemy AI testujecie?
Testujemy chatboty, asystentów AI, agentów autonomicznych, systemy RAG (Retrieval-Augmented Generation), aplikacje oparte na API OpenAI, Anthropic, modele open-source i rozwiązania własne. Każdy system, który przetwarza dane użytkowników lub podejmuje decyzje, wymaga testowania bezpieczeństwa.
Czym jest OWASP Top 10 for LLM Applications?
To lista 10 najważniejszych zagrożeń bezpieczeństwa dla aplikacji opartych na dużych modelach językowych, opracowana przez OWASP GenAI Security Project. Aktualne wydanie 2026 ukazało się w sierpniu 2026 r. Obejmuje m.in. prompt injection (LLM01), ujawnienie informacji wrażliwych (LLM02), nadmierne uprawnienia agentów (LLM03), łańcuch dostaw (LLM04), zatruwanie danych i modelu (LLM05), nadmierne zużycie zasobów (LLM06), ujawnienie ukrytego kontekstu, np. promptu systemowego (LLM08), słabości wektorów i osadzeń w systemach RAG (LLM09) oraz niewłaściwą obsługę wyników modelu (LLM10). Na tej liście opieramy testy, a dla agentów AI uzupełniamy ją o OWASP Top 10 for Agentic Applications.
Czy AI Act dotyczy mojej organizacji?
AI Act obowiązuje dostawców i podmioty stosujące systemy AI na rynku UE. Regulacja definiuje cztery kategorie ryzyka: niedopuszczalne (np. scoring społeczny, manipulacja podprogowa), wysokie (np. systemy rekrutacyjne, scoring kredytowy, infrastruktura krytyczna), ograniczone (chatboty - wymagają informowania użytkownika o interakcji z AI) i minimalne (np. filtry spamu). Pomagamy ocenić, do której kategorii należą Twoje systemy i jakie obowiązki z tego wynikają.
Jakich narzędzi używacie do testowania?
Korzystamy z PyRIT (Python Risk Identification Tool - otwarte narzędzie Microsoftu do red teamingu generatywnej AI), Giskard (otwarta biblioteka do testów jakości, stronniczości i bezpieczeństwa modeli), promptfoo (narzędzie do testowania promptów) oraz własnych scenariuszy testowych. Narzędzia automatyczne łączymy z manualną eksploracją, ponieważ wiele podatności (np. indirect prompt injection przez dokumenty w RAG) wymaga kreatywnego podejścia.
Jak długo trwa test bezpieczeństwa systemu AI?
Typowy projekt trwa od 2 do 4 tygodni, w zależności od złożoności systemu i liczby integracji. Prosty chatbot bez integracji zewnętrznych to 2 tygodnie. System RAG z wieloma źródłami danych i agentami autonomicznymi - 3 do 4 tygodni.
Od czego zależy wycena testów bezpieczeństwa AI?
Projekt dla prostego chatbota bez integracji trwa zwykle 2 tygodnie, dla systemu RAG z wieloma źródłami danych i agentami 3-4 tygodnie, i od tego zależy liczba dni pracy. Dni mnożymy przez stawkę dzienną i rozpisujemy na etapy, od modelowania zagrożeń po wsparcie naprawcze. Zakres ustalamy na bezpłatnej rozmowie.
Powiązane sektory, usługi i analizy
Sektory
Usługi
- Testy penetracyjnePokazujemy, co atakujący osiągnie dzięki lukom, a po poprawkach robimy retest.
- Red TeamingSprawdzamy, czy zespół obrony wykryje i zatrzyma wieloetapowy atak na Twoją organizację.
- Architekt bezpieczeństwaSenior opiniuje Twoje projekty i wnioski o zmianę w ramach miesięcznej puli godzin.
Omówimy zakres, metodykę i harmonogram.
Konsultacja jest bezpłatna i niezobowiązująca.








