Cyberbezpieczeństwo: zabezpieczamy systemy IT i wdrożenia AI
Pimento prowadzi audyty bezpieczeństwa i hardening systemów IT oraz wdrożeń AI - w tym ochronę przed atakami specyficznymi dla modeli językowych: prompt injection, wyciekiem danych i nadużyciami agentów. Bezpieczeństwo projektujemy od pierwszego dnia, nie doklejamy na końcu.
Czym jest bezpieczeństwo AI i czym różni się od klasycznego?
Systemy oparte na modelach językowych mają nowe klasy podatności. Prompt injection to atak, w którym złośliwa instrukcja ukryta w danych przejmuje kontrolę nad zachowaniem modelu. Wyciek danych (data leakage) to ujawnienie przez model informacji, których nie powinien zdradzać. Jailbreaking to obchodzenie wbudowanych zabezpieczeń modelu. Klasyczne narzędzia bezpieczeństwa tych ataków nie widzą - dlatego wdrożenia AI wymagają osobnej warstwy ochrony.
Co obejmuje audyt i hardening?
Audytujemy systemy i wdrożenia AI: konfigurację, kontrolę dostępu, izolację danych i odporność modelu na ataki. Po audycie przeprowadzamy hardening - zamykamy znalezione luki, ograniczamy uprawnienia agentów i wdrażamy monitorowanie. Zabezpieczamy zarówno to, co budujemy, jak i systemy, które już masz.
Zgodność z AI Act i RODO w praktyce
Klasyfikujemy system AI według kategorii ryzyka AI Act, przygotowujemy wymaganą dokumentację techniczną i projektujemy nadzór człowieka nad decyzjami systemu. Nie jesteśmy jednostką certyfikującą - budujemy i zabezpieczamy systemy tak, aby spełniały wymogi regulacji.
Bezpieczeństwo on-premise a chmura
Wdrożenie on-premise zmniejsza powierzchnię ataku związaną z przekazywaniem danych zewnętrznym dostawcom, ale wymaga zadbania o bezpieczeństwo własnej infrastruktury. W chmurze kluczowe są konfiguracja, szyfrowanie i kontrola dostępu. Zabezpieczamy oba scenariusze oraz układy hybrydowe.
Pytania o tę usługę
Obowiązki AI Act wchodzą w życie etapami i zależą od kategorii ryzyka systemu - część przepisów już obowiązuje, a wymogi dla systemów wysokiego ryzyka wchodzą stopniowo. W ramach audytu określamy, które kategorie i terminy dotyczą Twoich systemów.
Zwykle nie - większość chatbotów i asystentów wewnętrznych to systemy ograniczonego ryzyka, objęte głównie obowiązkami przejrzystości. Klasyfikacja zależy jednak od zastosowania: systemy wpływające np. na zatrudnienie czy dostęp do usług mogą być wysokiego ryzyka, dlatego każdy przypadek oceniamy indywidualnie.
Skuteczna jest ochrona warstwowa: separacja instrukcji od danych, ograniczenie uprawnień i narzędzi agenta, filtrowanie wejścia i wyjścia oraz testy odpornościowe (red teaming). Pojedynczy filtr nie wystarcza.
Nie zawsze - znaczną część audytu prowadzimy na środowisku testowym lub kopii konfiguracji. Zakres dostępu ustalamy przed startem i ujmujemy w umowie.
Porozmawiajmy o Twoim projekcie
Bezpłatna konsultacja - bez zobowiązań, konkretnie o Twoim przypadku.