ISO/IEC 27090 i 27091 dają firmom praktyczne wytyczne dotyczące bezpieczeństwa sztucznej inteligencji. Pomagają też chronić dane osobowe w całym cyklu życia AI.
Oba projekty norm opisują ryzyka, których klasyczne zabezpieczenia aplikacji mogą nie obejmować. Chodzi między innymi o zatruwanie danych treningowych, kradzież modeli oraz wycieki prywatności podczas inferencji.
Dla CISO, liderów technologicznych i zespołów zgodności wartość biznesowa jest konkretna. Organizacja może lepiej chronić własność intelektualną, ograniczać ujawnienie danych i utrzymać niezawodność usług opartych na AI.
Co więcej, takie podejście pomaga gromadzić dowody zgodności. W praktyce wspiera to ISO 27001, RODO oraz wymagania unijnego AI Act.
Dlaczego ISO/IEC 27090 i 27091 mają znaczenie
ISO/IEC FDIS 27090 koncentruje się na zagrożeniach bezpieczeństwa typowych dla AI. Obejmuje ich skutki, wykrywanie i ograniczanie w całym cyklu życia systemu.
Z kolei ISO/IEC DIS 27091 dotyczy ryzyka dla prywatności. Norma opisuje, jak identyfikować, oceniać i ograniczać takie ryzyka w systemach AI oraz modelach uczenia maszynowego.
Oba projekty wzajemnie się uzupełniają. Mechanizmy bezpieczeństwa mogą blokować nieuprawniony dostęp. Jednocześnie nadal mogą dopuszczać nadmierne zbieranie danych lub szkodliwe wnioskowanie.
Podobnie mechanizmy ochrony prywatności mogą ograniczać zakres danych. Jednak nie wystarczą, jeśli atakujący zatruje model, wydobędzie wrażliwe wyniki lub wykorzysta podatność firmowego konektora.
Kluczowe elementy ISO/IEC 27090 i 27091
Integralność danych treningowych i modeli
Organizacje powinny weryfikować pochodzenie danych, zasady dostępu, jakość oraz dozwolony sposób użycia. To podstawa bezpiecznego rozwoju systemów AI.
Modele zagrożeń powinny obejmować zatruwanie danych, złośliwe dostrajanie i skompromitowane artefakty modeli. Ponadto warto uwzględnić ryzyko zależności oraz kradzież zbiorów danych lub wag modeli.
Bezpieczna inferencja i integracja z aplikacjami
Mechanizmy ochronne w środowisku uruchomieniowym muszą obejmować złośliwe dane wejściowe, prompt injection i ekstrakcję modelu. Powinny też uwzględniać wnioskowanie o przynależności danych do zbioru treningowego.
Istotne są również inne scenariusze. Należą do nich ujawnienie informacji wrażliwych, nadmierna autonomia agentów, odmowa usługi oraz niebezpieczna obsługa wyników.
W praktyce szczególnej kontroli wymagają potoki RAG, agenci AI, interfejsy API, wtyczki i aplikacje firmowe. Dlatego należy stosować zasadę najmniejszych uprawnień, ochronę sekretów, kontrolę danych wejściowych i walidację wyników.
Inżynieria prywatności i ocena skutków
Zespoły powinny mapować dane osobowe od momentu pozyskania aż do usunięcia. Dotyczy to promptów, embeddingów, dzienników zdarzeń, wyników oraz wywnioskowanych atrybutów.
Następnie należy zastosować minimalizację danych, ograniczenie celu i zasady retencji. Ważne są także deidentyfikacja oraz mechanizmy realizacji praw osób, których dane dotyczą.
Jeżeli przetwarzanie może powodować wysokie ryzyko, potrzebna jest ocena skutków dla ochrony danych. W kontekście RODO oznacza to DPIA.
Jak wdrożyć ISO/IEC 27090 i 27091
1. Zinwentaryzuj systemy AI i przepływy danych
Najpierw udokumentuj każdy przypadek użycia AI. Opisz właściciela, model, dostawcę, źródło danych, integracje, grupy użytkowników oraz środowisko wdrożeniowe.
Warto też określić wpływ systemu na decyzje biznesowe lub operacyjne. Ponadto uwzględnij shadow AI, czyli niezatwierdzone użycie narzędzi AI.
Nie pomijaj funkcji AI dostarczanych przez podmioty trzecie. Często są one wbudowane w platformy SaaS i nie zawsze są od razu widoczne dla zespołów bezpieczeństwa.
2. Przeprowadź połączoną ocenę bezpieczeństwa i prywatności
Opracuj model zagrożeń dla całego cyklu życia AI. Powinien obejmować projektowanie, przygotowanie danych, trenowanie, testowanie, wdrażanie, inferencję, monitorowanie, ponowne trenowanie i wycofanie z eksploatacji.
Jako dodatkowe źródła odniesienia wykorzystaj OWASP Top 10 dla aplikacji LLM i GenAI oraz NIST AI RMF.
Następnie powiąż scenariusze nadużyć z wpływem biznesowym. Uwzględnij też szkody dla prywatności, właścicieli zabezpieczeń, ryzyko rezydualne oraz decyzje o jego akceptacji.
3. Wdróż zabezpieczenia i zachowuj dowody
Stosuj IAM, PAM, MFA, szyfrowanie, segmentację, DLP i bezpieczne potoki dostarczania. Uzupełnij je o wersjonowanie modeli oraz zbiorów danych.
Ponadto wdroż rejestrowanie zdarzeń, testy red team, ciągłe monitorowanie i reagowanie na incydenty. Dzięki temu zespół szybciej wykryje nadużycia oraz nieprawidłowości.
Zachowuj zatwierdzenia, wyniki testów i dowody oceny dostawców. Dokumentuj również wyjątki, ryzyko rezydualne i działania naprawcze.
Typowe wyzwania i istotne kwestie
Do częstych przeszkód należą niejasny podział odpowiedzialności, częste zmiany modeli i brak przejrzystości po stronie dostawców. Problemem bywa też niewystarczająca telemetria.
Dodatkowe ryzyka tworzą niezatwierdzone użycie AI oraz napięcie między użytecznością modelu a ochroną prywatności. Dlatego potrzebne są jasne zasady, właściciele i proces zarządzania zmianą.
Według stanu na czerwiec 2026 r. oba dokumenty nadal są opracowywane. Mają charakter wytycznych, a nie odrębnych systemów certyfikacji.
Warto więc utrzymywać wersjonowany zestaw bazowych mechanizmów kontrolnych. Po publikacji ostatecznych tekstów należy go ponownie przejrzeć.
Dobre praktyki
- Wyznacz osoby odpowiedzialne w zespołach bezpieczeństwa, prywatności, prawnym, danych, inżynierii i biznesu.
- Stosuj klasy ryzyka. Dzięki temu przypadki użycia o dużym wpływie otrzymają silniejsze testy, nadzór i zatwierdzenia.
- Testuj zabezpieczenia na realistycznych scenariuszach nadużyć. Rób to przed wdrożeniem oraz po istotnych zmianach.
- Monitoruj modele, dane, integracje i dostawców w sposób ciągły. Nie opieraj się wyłącznie na jednorazowym przeglądzie.
Podsumowanie
ISO/IEC 27090 i 27091 pomagają przekształcić bezpieczeństwo i prywatność AI w dojrzałą praktykę operacyjną. Najpierw zbuduj pełną widoczność środowiska.
Następnie oceniaj bezpieczeństwo i prywatność łącznie. Nadaj priorytet systemom o dużym wpływie i wbuduj audytowalne zabezpieczenia w potoki dostarczania rozwiązań.
W efekcie organizacja ogranicza ryzyko incydentów. Jednocześnie wzmacnia zaufanie klientów oraz gotowość regulacyjną.
W B2BCyber wspieramy organizacje w obszarach cyberbezpieczeństwa, zgodności regulacyjnej, governance, zarządzania ryzykiem, bezpieczeństwa chmury, architektury bezpieczeństwa, IAM/PAM oraz gotowości regulacyjnej.
Jeśli potrzebujesz wsparcia w realizacji projektu, sprawdź nasze usługi realizacji projektów bezpieczeństwa i zgodności. Jeśli chcesz szybko uzupełnić kompetencje zespołu, poznaj model ekspertów cyberbezpieczeństwa na żądanie.
Lista kontrolna zgodności
- Utrzymuj zatwierdzony rejestr systemów AI, modeli, danych, integracji i właścicieli.
- Dokumentuj modele zagrożeń obejmujące cały cykl życia. Dla priorytetowych przypadków użycia przygotuj też ocenę wpływu na prywatność.
- Egzekwuj zasadę najmniejszych uprawnień, minimalizację danych, zasady retencji, rejestrowanie zdarzeń i bezpieczne zarządzanie zmianą.
- Weryfikuj dostawców, zbiory danych, modele, wtyczki i interfejsy API przed użyciem. Kontynuuj ocenę przez cały okres współpracy.
- Dokumentuj testy, incydenty, wyjątki, ryzyko rezydualne, zatwierdzenia i dowody działań naprawczych.
