Bezpieczeństwo AI w firmie - praktyczny poradnik

Poradnik został przygotowany dla Organizacji Pracodawców Ziemi Lubuskiej (OPZL) w ramach projektu dotyczącego bezpieczeństwa AI w firmie. Opracowanie merytoryczne: ProgresAI. Stan informacji w materiale źródłowym: 23 lipca 2026 r.

AI może oszczędzać czas, ułatwiać analizę informacji i wspierać pracowników. Bez jasnych zasad może jednak prowadzić do ujawnienia danych, błędnych decyzji i problemów organizacyjnych. Ten poradnik pokazuje, jak uporządkować korzystanie z AI w firmie krok po kroku. Bez straszenia, bez technicznego żargonu i bez obietnicy, że jeden dokument rozwiąże wszystkie problemy prawne.

Zanim zaczniesz: czym jest ten poradnik?

AI jest już używana w wielu firmach do pisania wiadomości, przygotowywania ofert, streszczania dokumentów, tworzenia grafik, analizy danych i obsługi klientów. Często dzieje się to szybciej, niż firma zdąży ustalić zasady. Pracownicy wybierają narzędzia samodzielnie, korzystają z prywatnych kont i uczą się metodą prób i błędów.

Ten poradnik ma pomóc właścicielom firm, menedżerom i pracownikom uporządkować ten obszar. Wyjaśnia, co warto sprawdzić przed dopuszczeniem narzędzia AI do pracy, jak chronić dane, kiedy wynik musi zostać sprawdzony przez człowieka oraz które zastosowania wymagają szczególnej ostrożności.

Nie jest to pełny podręcznik prawny, audyt zgodności ani indywidualna porada prawna. Przeczytanie poradnika nie oznacza automatycznie, że firma spełnia wszystkie wymagania AI Act, RODO, prawa pracy lub przepisów branżowych. Zakres obowiązków zależy od tego, jakiego narzędzia firma używa, w jakim celu, na jakich danych i jaki wpływ może mieć wynik.

Najważniejszy cel jest prosty: firma powinna wiedzieć, gdzie AI jest używana, jakie informacje trafiają do narzędzi i kto odpowiada za sprawdzenie wyniku. Dopiero później warto rozwijać bardziej rozbudowane procedury.

Bezpieczne korzystanie z AI nie zaczyna się od zakazywania narzędzi. Zaczyna się od sprawdzenia, gdzie AI jest używana, jakie dane do niej trafiają i kto odpowiada za wynik.

Najważniejsze wnioski

AI jest już częścią codziennej pracy, nawet gdy firma formalnie jej nie wdrożyła. Pierwszym celem nie jest perfekcyjna zgodność, lecz widoczność i kontrola. Poradnik daje praktyczne minimum, ale nie zastępuje audytu ani porady prawnej.

Co zrobić w swojej firmie

Odpowiedz na trzy pytania:

1. Kto korzysta z AI?
2. Do jakich zadań?
3. Jakie dane są wprowadzane do narzędzi?

Źródła rozdziału

Komisja Europejska, AI Act, podejście oparte na ryzyku AI Act Service Desk, art. 4, kompetencje w zakresie AI

AI w firmie: co naprawdę trzeba uporządkować?

Największym problemem nie musi być samo narzędzie AI. Często jest nim brak wiedzy o tym, jak narzędzie jest używane. Zarząd może nie podjąć żadnej decyzji o wdrożeniu AI, a pracownicy i tak korzystają z niej do codziennych zadań.

Takie nieformalne używanie narzędzi nazywa się często Shadow AI. Chodzi o sytuacje, w których pracownik wykorzystuje prywatne lub niezatwierdzone konto do spraw służbowych, a firma nie zna zakresu użycia, rodzaju przekazywanych danych ani ustawień usługi.

Przykład: pracownik chce szybko przygotować odpowiedź na reklamację. Kopiuje do prywatnego asystenta AI fragment korespondencji z klientem. W wiadomości znajdują się dane kontaktowe, numer zamówienia, opis problemu i niepubliczne warunki handlowe. Narzędzie przygotowuje dobry szkic, ale firma nie sprawdziła wcześniej zasad przetwarzania danych, retencji ani możliwości wykorzystania treści przez dostawcę.

Rozwiązaniem nie jest automatyczny zakaz wszystkiego. Twardy zakaz bez bezpiecznej alternatywy może jedynie przenieść korzystanie z AI poza widoczność firmy. Potrzebne są jasne zasady, lista zatwierdzonych narzędzi i prosty sposób zgłaszania nowych potrzeb.

Firma powinna prowadzić podstawową mapę zastosowań AI. Nie musi to być rozbudowany system. Na początek wystarczy tabela zawierająca nazwę narzędzia, cel użycia, użytkowników, rodzaj danych, osobę odpowiedzialną i datę ostatniego przeglądu.

Najważniejsze wnioski

Brak formalnego wdrożenia nie oznacza, że pracownicy nie korzystają z AI. Ryzyko rośnie, gdy firma nie zna narzędzi, danych i sposobu wykorzystania wyników. Widoczność jest skuteczniejsza niż zakaz, którego nikt nie przestrzega.

Co zrobić w swojej firmie

Przeprowadź krótką, nieoskarżającą ankietę w zespole:

z jakich narzędzi AI korzystasz, do jakich zadań, jakich informacji potrzebujesz w pracy, czego brakuje Ci, aby korzystać z AI bezpieczniej.

Źródła rozdziału

NIST, Artificial Intelligence Risk Management Framework OWASP, GenAI Security Project

AI Act w praktyce: jak działa podejście oparte na ryzyku?

AI Act to unijne rozporządzenie dotyczące sztucznej inteligencji. Nie traktuje każdego zastosowania AI tak samo. Podstawowa zasada brzmi: im większy możliwy wpływ systemu na zdrowie, bezpieczeństwo i prawa człowieka, tym większe wymagania.

Dla zwykłej firmy ważniejsze od zapamiętywania numerów artykułów jest zrozumienie czterech poziomów ryzyka.

1. Zastosowania zakazane Są to praktyki uznane za niedopuszczalne, na przykład szkodliwa manipulacja, social scoring, niektóre formy rozpoznawania emocji w miejscu pracy oraz określone zastosowania biometrii.

2. Systemy wysokiego ryzyka Dotyczą obszarów, w których AI może poważnie wpłynąć na człowieka. Przykłady obejmują rekrutację, ocenę pracowników, dostęp do edukacji, niektórych usług i infrastruktury krytycznej.

3. Zastosowania objęte obowiązkami przejrzystości W określonych sytuacjach trzeba poinformować człowieka, że kontaktuje się z AI lub że treść została sztucznie wygenerowana albo zmieniona. Dotyczy to między innymi chatbotów, deepfake'ów i niektórych treści dotyczących spraw publicznych.

4. Zastosowania o niskim lub minimalnym ryzyku W tej grupie mieści się większość prostych zastosowań biurowych. Przykładem może być szkic wewnętrznej notatki lub poprawa stylu tekstu. Niskie ryzyko nie oznacza jednak, że można ignorować RODO, tajemnicę przedsiębiorstwa, bezpieczeństwo i kontrolę jakości.

Kluczowe pytanie brzmi więc nie tylko: „jakiego narzędzia używamy?”, ale przede wszystkim: „do czego go używamy i jaki może być skutek błędu?”.

Najważniejsze wnioski

AI Act nie zakazuje zwykłego korzystania z AI w firmie. Ten sam model może być użyty do zadania niskiego albo wysokiego ryzyka. O poziomie ostrożności decyduje cel, dane i wpływ wyniku.

Co zrobić w swojej firmie

Przypisz każdemu zastosowaniu AI jeden poziom:

pomocnicze, wrażliwe, wpływające na decyzje dotyczące ludzi.

Zastosowania z trzeciej grupy powinny wymagać wcześniejszej oceny i zgody odpowiedzialnej osoby.

Źródła rozdziału

Komisja Europejska, cztery poziomy ryzyka AI Act AI Act, rozporządzenie (UE) 2024/1689

Gdzie firma powinna zachować szczególną ostrożność?

Największej ostrożności wymagają zastosowania, w których wynik AI może wpłynąć na człowieka, jego pracę, prawa, zdrowie, pieniądze albo dostęp do ważnej usługi.

Szczególnie wrażliwy jest obszar HR. AI Act wskazuje jako wysokiego ryzyka między innymi systemy wykorzystywane do rekrutacji, filtrowania CV, oceny kandydatów, przydzielania zadań na podstawie cech lub zachowania, oceny wydajności, podejmowania decyzji o awansie oraz zakończeniu zatrudnienia. Nie oznacza to, że każda pomoc AI przy napisaniu ogłoszenia o pracę jest systemem wysokiego ryzyka. Granica pojawia się wtedy, gdy narzędzie zaczyna oceniać ludzi lub realnie wpływać na decyzję.

AI Act zakazuje również określonych praktyk. Z punktu widzenia pracodawcy szczególnie ważny jest zakaz rozpoznawania emocji w miejscu pracy, z ograniczonymi wyjątkami związanymi z medycyną lub bezpieczeństwem. Ryzykowne są też systemy manipulujące ludźmi, wykorzystujące ich podatność albo tworzące nieuzasadniony scoring społeczny.

Drugim ważnym obowiązkiem są kompetencje w zakresie AI, określane w rozporządzeniu jako AI literacy. Firma powinna zadbać, aby osoby korzystające z AI rozumiały możliwości i ograniczenia narzędzi, potrafiły chronić dane i wiedziały, kiedy wynik wymaga sprawdzenia. Przepisy nie narzucają jednej obowiązkowej liczby godzin szkolenia ani jednego certyfikatu. Zakres przygotowania powinien odpowiadać roli pracownika i ryzyku danego zastosowania.

Pracownik używający AI do prostych szkiców potrzebuje innych zasad niż osoba korzystająca z narzędzia przy rekrutacji, poradach prawnych lub analizie danych zdrowotnych.

Najważniejsze wnioski

AI nie powinna samodzielnie decydować o zatrudnieniu, ocenie lub zwolnieniu człowieka. HR, zdrowie, prawo i finanse wymagają mocniejszej kontroli. Szkolenie powinno być dopasowane do roli, a nie identyczne dla wszystkich.

Co zrobić w swojej firmie

Wprowadź zasadę:

Każde użycie AI w rekrutacji, ocenie pracowników lub decyzjach wobec klientów wymaga wcześniejszej konsultacji z osobą odpowiedzialną za HR, prawo, dane lub bezpieczeństwo.

Źródła rozdziału

Komisja Europejska, przykłady systemów wysokiego ryzyka i praktyk zakazanych AI Act Service Desk, art. 4 AI Act, załącznik III

Stan prawny na 23.07.2026: AI Act i polska ustawa

AI Act obowiązuje w całej Unii Europejskiej, ale jego przepisy są stosowane etapami. Rozporządzenie weszło w życie 1 sierpnia 2024 r. Od 2 lutego 2025 r. stosuje się zakazy określonych praktyk oraz obowiązek dbania o kompetencje osób korzystających z AI. Od 2 sierpnia 2025 r. stosowane są przepisy dotyczące modeli AI ogólnego przeznaczenia i części systemu nadzoru. Większość pozostałych przepisów ma zastosowanie od 2 sierpnia 2026 r.

29 czerwca 2026 r. Rada UE ostatecznie przyjęła AI Omnibus, który upraszcza AI Act i przesuwa terminy stosowania przepisów dla części systemów wysokiego ryzyka. Przyjęty tekst przewiduje 2 grudnia 2027 r. dla samodzielnych systemów wysokiego ryzyka z obszarów załącznika III oraz 2 sierpnia 2028 r. dla systemów wysokiego ryzyka wbudowanych w produkty z załącznika I. Na 23 lipca 2026 r. EUR-Lex udostępnia ostateczny tekst legislacyjny PE 30 2026 REV 1, ale akt nie został jeszcze opublikowany w Dzienniku Urzędowym UE i nie wszedł w życie.

W Polsce parlamentarny etap prac został zakończony. 3 lipca 2026 r. Sejm rozpatrzył stanowisko Senatu, przyjął część poprawek i ustalił ostateczny tekst ustawy o systemach sztucznej inteligencji. Tego samego dnia ustawę przekazano Prezydentowi do podpisu. Na 23 lipca 2026 r. ustawa nie figuruje na oficjalnej liście ustaw podpisanych w lipcu i nie została odnaleziona w Dzienniku Ustaw. Do czasu podpisania i ogłoszenia polska ustawa nie obowiązuje.

Ostateczny tekst parlamentarny przewiduje utworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako głównego organu nadzoru rynku i pojedynczego punktu kontaktowego. Komisja ma między innymi prowadzić kontrole, wydawać zalecenia, decyzje, wyjaśnienia i odpłatne opinie indywidualne, zarządzać piaskownicami regulacyjnymi oraz prowadzić działania edukacyjne. Tekst przewiduje także mechanizmy naprawcze. Po kontroli Komisja może wydać zalecenia z terminem na usunięcie nieprawidłowości, a w postępowaniu może zastosować ostrzeżenie. Przewidziano również możliwość zawarcia układu, który w określonych warunkach pozwala złagodzić sankcję.

Art. 127 przewiduje wejście ustawy w życie po 14 dniach od ogłoszenia, z wyjątkiem art. 125 ust. 4, który ma wejść w życie następnego dnia po ogłoszeniu, oraz art. 8-18 i rozdziałów 3-5, 8 i 9, które mają wejść w życie po 3 miesiącach od ogłoszenia. Do tego czasu firmy powinny przygotowywać się przede wszystkim na podstawie bezpośrednio obowiązującego AI Act, RODO, prawa pracy, zasad cyberbezpieczeństwa i przepisów branżowych.

Źródła rozdziału

Komisja Europejska, aktualna oś stosowania i upraszczania AI Act, aktualizacja 07.07.2026 Rada UE, ostateczne przyjęcie AI Omnibus, 29.06.2026 EUR-Lex, ostateczny tekst legislacyjny AI Omnibus, PE 30 2026 REV 1 AI Act Service Desk, art. 113, wejście w życie i stosowanie Sejm RP, przebieg procesu legislacyjnego druku nr 2443 Sejm RP, sprawozdanie komisji dotyczące poprawek Senatu, druk nr 2762 Tekst ustawy ustalony ostatecznie po rozpatrzeniu poprawek Senatu, 3.07.2026 r., plik źródłowy: „Ustawa o systemach sztucznej inteligencji.2443_u.03.07.26.pdf” Prezydent RP, ustawy podpisane w lipcu 2026 r. Dziennik Ustaw, wykaz aktów ogłoszonych w 2026 r.

Najważniejsze wnioski

Parlament zakończył prace nad polską ustawą 3 lipca 2026 r. Na 23 lipca ustawa oczekuje na podpis Prezydenta i nie została jeszcze ogłoszona. Dopóki nie nastąpi ogłoszenie, przepisy polskiej ustawy nie obowiązują. AI Act obowiązuje niezależnie od zakończenia polskiego procesu legislacyjnego.

Co zrobić w swojej firmie

Wyznacz osobę, która raz na kwartał sprawdzi:

harmonogram stosowania AI Act, podpisanie i ogłoszenie polskiej ustawy, datę uruchomienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, nowe wyjaśnienia Komisji Europejskiej, UODO i krajowego organu nadzoru, zmiany warunków korzystania z używanych narzędzi.

Nie czekaj z podstawowymi zasadami na wejście w życie polskiej ustawy. Już teraz uporządkuj narzędzia, dane, odpowiedzialność pracowników i sposób weryfikacji wyników.

Czy trzeba oznaczać treści stworzone z pomocą AI?

Obowiązki przejrzystości z art. 50 stosuje się od 2 sierpnia 2026 r.

Nie każda treść przygotowana z pomocą AI musi otrzymać etykietę „wygenerowano przez AI”. AI Act wprowadza konkretne obowiązki przejrzystości, ale ich zakres zależy od rodzaju systemu i treści.

Po pierwsze, osoba powinna zostać poinformowana, że rozmawia z systemem AI, jeżeli nie jest to oczywiste z sytuacji. Dotyczy to na przykład chatbota obsługującego klientów na stronie firmy.

Po drugie, dostawcy systemów generujących syntetyczny tekst, obraz, dźwięk lub wideo mają zapewniać techniczne oznaczenie wyników jako sztucznie wygenerowanych lub zmienionych. Jest to obowiązek po stronie dostawcy technologii, a nie wyłącznie użytkownika końcowego.

Po trzecie, firma wykorzystująca deepfake powinna ujawnić, że obraz, audio lub wideo zostały wygenerowane albo zmanipulowane. Dla materiałów artystycznych, satyrycznych i fikcyjnych sposób ujawnienia może być łagodniejszy, ale odbiorca nadal nie powinien być celowo wprowadzany w błąd.

Po czwarte, obowiązek może dotyczyć tekstu publikowanego w celu informowania społeczeństwa o sprawach interesu publicznego. Rozporządzenie przewiduje jednak wyjątek, gdy treść przeszła kontrolę człowieka lub redakcji, a konkretna osoba albo organizacja bierze odpowiedzialność za publikację.

W praktyce zwykłe użycie AI do poprawy stylu, skrócenia tekstu, tłumaczenia, stworzenia szkicu posta lub wariantów nagłówka nie oznacza automatycznie obowiązku dodania etykiety. Firma nadal powinna jednak sprawdzić fakty, cytaty, źródła, prawa do materiałów i zgodność przekazu z własnymi zasadami.

Najważniejsze wnioski

Nie trzeba oznaczać każdego tekstu, przy którym pomagała AI. Deepfake i treści mogące wprowadzać odbiorcę w błąd wymagają szczególnej przejrzystości. Kontrola redakcyjna człowieka nie może być pozorna.

Co zrobić w swojej firmie

Ustal cztery zasady publikacji:

1. Każdy materiał zewnętrzny zatwierdza człowiek.
2. Deepfake jest zawsze oznaczany.
3. Treści prawne, zdrowotne i finansowe mają sprawdzone źródła.

4. Nie publikujemy fikcyjnych cytatów, ekspertów ani referencji.

Źródła rozdziału

AI Act Service Desk, art. 50 Komisja Europejska, wytyczne dotyczące obowiązków przejrzystości z art. 50, 20.07.2026 Komisja Europejska, FAQ dotyczące obowiązków przejrzystości z art. 50

AI, dane i RODO: zasada minimum danych

RODO obowiązuje również wtedy, gdy dane osobowe są wpisywane do promptu, dodawane w załączniku lub udostępniane narzędziu przez integrację z pocztą, dyskiem albo systemem firmowym.

Najważniejsza zasada brzmi: do narzędzia należy przekazywać tylko te informacje, które są naprawdę potrzebne do wykonania zadania. Jeżeli AI ma poprawić styl wiadomości, zwykle nie potrzebuje imienia klienta, adresu, numeru zamówienia ani pełnej historii kontaktu. Dane można usunąć, zastąpić symbolami lub ograniczyć do niezbędnego fragmentu.

Pseudonimizacja oznacza zastąpienie bezpośrednich identyfikatorów, na przykład nazwiska określeniem „Klient A”. Nie zawsze daje jednak pełną anonimowość. Osobę nadal można rozpoznać z kontekstu, gdy tekst zawiera nazwę stanowiska, konkretną datę, opis nietypowej sytuacji albo inne charakterystyczne informacje.

Przed użyciem narzędzia firma powinna znać cel przetwarzania, podstawę prawną, zakres danych, okres przechowywania, odbiorców i zabezpieczenia. Przy rozwiązaniach mogących powodować wysokie ryzyko dla praw ludzi może być potrzebna ocena skutków dla ochrony danych. Dotyczy to szczególnie profilowania, szerokiej oceny osób, przetwarzania danych wrażliwych na dużą skalę lub rozbudowanego monitoringu.

Nie należy zakładać, że narzędzie jest bezpieczne tylko dlatego, że jest znane albo płatne. O bezpieczeństwie decydują również warunki usługi, ustawienia, umowa powierzenia danych, sposób zarządzania kontami i realny zakres dostępu.

Najważniejsze wnioski

Prompt i załącznik mogą zawierać dane osobowe. Najbezpieczniejsze dane to te, których nie trzeba przekazywać. Pseudonimizacja zmniejsza ryzyko, ale nie zawsze oznacza anonimowość.

Co zrobić w swojej firmie

Wprowadź zasadę przed wysłaniem danych do AI:

Usuń nazwiska, dane kontaktowe, numery dokumentów i szczegóły, które nie są potrzebne do wykonania zadania.

W razie wątpliwości pracownik powinien przerwać operację i zapytać osobę odpowiedzialną za dane lub bezpieczeństwo.

Źródła rozdziału

Komisja Europejska, ochrona danych w fazie projektowania i domyślna ochrona danych Komisja Europejska, kiedy potrzebna jest DPIA EDPB, Opinion 28/2024 o danych osobowych i modelach AI

Macierz danych: zielone, żółte i czerwone

Prosty podział danych pomaga pracownikowi podjąć decyzję bez czytania długiej polityki. Kolory nie są oceną prawną każdego przypadku. Są praktycznym sygnałem, kiedy można działać, kiedy trzeba sprawdzić warunki, a kiedy należy przerwać i poprosić o zgodę.

Najważniejsze wnioski

Największe ryzyko powstaje przy kopiowaniu całych dokumentów „dla wygody”. Niepubliczne nie zawsze oznacza zakazane, ale wymaga sprawdzenia. Hasła, aktywne klucze API i dane logowania są zawsze wyłączone. Pozostałe dane czerwone wymagają formalnej oceny, zatwierdzonego narzędzia i ograniczenia danych do minimum.

Co zrobić w swojej firmie

Wydrukuj jednostronicową listę danych zielonych, żółtych i czerwonych. W czerwonej kategorii wyraźnie oddziel dane, których nie wolno wprowadzać nigdy, od danych wymagających formalnej oceny. Umieść listę w polityce AI, intranecie i materiałach szkoleniowych.

Źródła rozdziału

RODO, zasada minimalizacji danych, art. 5 Komisja Europejska, data protection by design and by default EDPB, Opinion 28/2024

Zielone: zwykle bezpieczniejsze

• informacje już publicznie dostępne
• ogólne opisy produktów i usług
• własne notatki bez danych osób
• dane syntetyczne do ćwiczeń
• przykłady bez informacji poufnych
• szkice bez tajemnicy przedsiębiorstwa

Żółte: wymagają sprawdzenia

• procedury wewnętrzne
• niepubliczne informacje operacyjne
• dokumentacja techniczna i kod
• dane pseudonimizowane
• robocze materiały klientów bez identyfikatorów
• informacje, które po połączeniu mogą ujawnić osobę lub firmę

Czerwone: nigdy nie wprowadzaj

• hasła
• aktywne klucze API
• dane logowania

Czerwone: wyłącznie po formalnej ocenie

• PESEL, numery dokumentów i rachunków
• dane zdrowotne i inne dane szczególnej kategorii
• pełne CV i dokumenty kandydatów
• korespondencja klientów zawierająca dane osobowe
• poufne umowy, ceny i warunki handlowe
• tajemnice przedsiębiorstwa i tajemnice zawodowe
• materiały służące do oceny pracownika lub podjęcia decyzji wobec niego

Hasła, aktywne klucze API i dane logowania: nigdy. Pozostałe dane czerwone można przetwarzać wyłącznie w zatwierdzonym rozwiązaniu, po formalnej ocenie prawnej i bezpieczeństwa oraz z ograniczeniem danych do niezbędnego minimum.

Darmowe konto, płatna subskrypcja czy narzędzie firmowe?

Cena subskrypcji nie mówi jeszcze, czy narzędzie nadaje się do pracy z danymi firmowymi. Płatne konto indywidualne może oferować więcej funkcji, ale nadal działać na warunkach usługi konsumenckiej. Rozwiązanie firmowe zwykle daje dodatkowe umowy, ustawienia administracyjne i kontrolę nad użytkownikami. Warto rozróżnić trzy poziomy.

Bezpłatne konto indywidualne

Jest tworzone i kontrolowane przez pracownika. Firma zwykle nie zarządza dostępem, nie może łatwo odebrać konta po odejściu pracownika i nie ma pełnej kontroli nad ustawieniami.

Płatne konto indywidualne

Może zapewniać lepszy model i więcej funkcji, ale nie staje się automatycznie usługą firmową. Nadal trzeba sprawdzić regulamin, zasady użycia danych, możliwość wyłączenia treningu, retencję i sposób usuwania treści.

Business, Enterprise, Workspace lub API

Nazwy różnią się zależnie od dostawcy. Takie usługi mogą oferować umowę powierzenia danych, centralną administrację, zarządzanie użytkownikami, uwierzytelnianie wieloskładnikowe, logi, kontrolę retencji i dodatkowe zabezpieczenia. Nadal nie zwalnia to firmy z prawidłowej konfiguracji i ograniczenia danych.

Przykładowo OpenAI wskazuje, że treści z usług indywidualnych mogą być wykorzystywane do ulepszania modeli, chyba że użytkownik zrezygnuje z tego w ustawieniach. Dla usług biznesowych i API firma deklaruje brak domyślnego trenowania na danych klientów oraz udostępnia dokumenty dotyczące przetwarzania danych. To przykład pokazujący, dlaczego trzeba sprawdzać konkretny produkt, a nie tylko nazwę dostawcy. Przed zatwierdzeniem narzędzia firma powinna znać odpowiedzi na kilka podstawowych pytań.

Tabela porównawcza

Najważniejsze wnioski

Płatne konto indywidualne nie jest tym samym co konto firmowe. DPA, czyli umowa lub dodatek regulujący powierzenie i zasady przetwarzania danych, oraz funkcje administracyjne są ważniejsze niż sama cena subskrypcji. Nawet dobre narzędzie może zostać źle skonfigurowane.

Co zrobić w swojej firmie

Dla każdego narzędzia sprawdź i zapisz:

1. Czy dane są używane do trenowania modeli?
2. Czy dostępna jest umowa DPA?
3. Jak długo przechowywane są treści?
4. Gdzie dane są przetwarzane i czy są transferowane poza EOG?

1. Kto jest podwykonawcą dostawcy?
2. Czy administrator może dodawać i usuwać użytkowników?

7. Czy można włączyć MFA, ograniczyć funkcje i prowadzić audyt?

8. Jak usunąć lub wyeksportować dane po zakończeniu współpracy?

Źródła rozdziału

OpenAI, sposób używania danych w usługach indywidualnych i biznesowych OpenAI, Enterprise Privacy OpenAI, Data Processing Addendum

Najczęstsze ryzyka AI w firmie, część 1

Większość problemów z AI w firmach nie wynika z zaawansowanych ataków. Częściej chodzi o codzienne skróty: prywatne konto, wklejenie zbyt dużej ilości danych albo wysłanie niesprawdzonej odpowiedzi klientowi.

Shadow AI

Pracownicy używają narzędzi bez wiedzy firmy. Organizacja nie wie wtedy, jakie dane są przekazywane, kto ma dostęp do historii rozmów i czy konto można odebrać po odejściu pracownika.

Ujawnienie danych poufnych lub osobowych

Do promptu trafia korespondencja klienta, umowa, CV, cennik, kod, notatka ze spotkania albo dane logowania. Nawet gdy narzędzie nie wykorzystuje danych do trenowania modelu, firma nadal musi ocenić podstawę przetwarzania, retencję, dostęp i zabezpieczenia.

Halucynacje i błędne informacje

Model może podać nieistniejący przepis, badanie, cytat, funkcję produktu lub źródło. Odpowiedź bywa płynna i przekonująca, dlatego błąd może pozostać niezauważony.

Nadmierne zaufanie do wyniku

Pracownik przestaje samodzielnie oceniać odpowiedź, bo narzędzie zwykle działa dobrze. Ryzyko rośnie, gdy wynik wpływa na klienta, umowę, finanse, zdrowie albo decyzję wobec pracownika.

Nie każde ryzyko wymaga rozbudowanego systemu. Potrzebne są jednak jasne zasady, zatwierdzone narzędzia i obowiązek kontroli wyniku przed użyciem zewnętrznym.

Prawa autorskie i poufność materiałów osób trzecich

Do AI mogą trafiać dokumenty, zdjęcia, projekty i teksty, których firma nie powinna dalej udostępniać. Problemem może być zarówno przekazanie materiału do narzędzia, jak i późniejsze wykorzystanie wygenerowanej treści bez sprawdzenia jej pochodzenia.

Najważniejsze wnioski

Najczęstsze problemy wynikają z pośpiechu i braku zasad. Dobra odpowiedź AI nadal może zawierać poważny błąd. Narzędzie nie powinno otrzymywać więcej danych, niż potrzebuje do zadania.

Co zrobić w swojej firmie

Wprowadź trzy proste reguły:

1. Nie używamy prywatnych kont do danych firmowych.
2. Nie wklejamy pełnych dokumentów, jeżeli wystarczy krótki, oczyszczony fragment.

3. Treść wysyłaną klientowi zawsze zatwierdza człowiek.

Źródła rozdziału

NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile OWASP, GenAI Security Project i Top 10 dla aplikacji LLM EDPB, Opinion 28/2024 dotycząca danych osobowych i modeli AI

Najczęstsze ryzyka AI w firmie, część 2

Ryzyko rośnie, gdy AI nie tylko tworzy tekst, ale także czyta pliki, korzysta z internetu, łączy się z pocztą, dyskiem, CRM albo wykonuje działania w imieniu użytkownika.

Prompt injection i złośliwe treści

Dokument, strona internetowa lub wiadomość może zawierać ukrytą instrukcję skierowaną do systemu AI. Narzędzie może potraktować ją jak polecenie i ujawnić dane, zmienić wynik albo podjąć niepożądane działanie. Samo napisanie w instrukcji „ignoruj złośliwe polecenia” nie daje pełnej ochrony.

Nadmierne uprawnienia agentów i konektorów

Asystent połączony z pocztą, dyskiem lub systemem sprzedażowym może mieć dostęp znacznie szerszy, niż potrzebuje. Błąd lub złośliwa instrukcja może wtedy wywołać skutki poza samą rozmową, na przykład wysłanie wiadomości, zmianę pliku albo pobranie danych.

Stronniczość i niesprawiedliwe decyzje

AI może powielać błędy obecne w danych albo stosować niejasne kryteria. Jest to szczególnie ważne w rekrutacji, ocenie pracowników, przyznawaniu benefitów, ofertowaniu i obsłudze reklamacji.

Deepfake, podszywanie się i oszustwa

AI ułatwia tworzenie wiarygodnych wiadomości, głosu i obrazu. Pracownik może otrzymać fałszywe polecenie przelewu, prośbę o hasło albo nagranie rzekomego przełożonego.

Bezpieczeństwo nie polega na założeniu, że system nigdy się nie pomyli. Polega na ograniczeniu skutków błędu.

Zależność od dostawcy

Model, cena, limit, regulamin lub sposób działania usługi może się zmienić. Narzędzie może mieć awarię, wycofać funkcję albo pogorszyć jakość wyników. Krytyczny proces nie powinien zależeć od jednego produktu bez planu awaryjnego.

Najważniejsze wnioski

Im więcej dostępu ma AI, tym poważniejsze mogą być skutki błędu. Agent wykonujący działania wymaga mocniejszych ograniczeń niż zwykły chatbot. Firma potrzebuje planu na zmianę ceny, modelu, funkcji lub dostawcy.

Co zrobić w swojej firmie

Dla każdego narzędzia połączonego z innymi systemami sprawdź:

do jakich danych ma dostęp, jakie działania może wykonać, czy każda ważna operacja wymaga potwierdzenia człowieka, jak szybko można odebrać dostęp, co zrobicie podczas awarii lub zmiany warunków usługi.

Źródła rozdziału

OWASP, Top 10 dla aplikacji LLM, w tym prompt injection, sensitive information disclosure, excessive agency i overreliance NCSC, Guidelines for Secure AI System Development ENISA, Securing Machine Learning Algorithms ENISA, Cybersecurity in the Frontier AI Era, 7.07.2026

Human in the loop: kiedy człowiek musi sprawdzić wynik?

Human in the loop oznacza, że człowiek pozostaje realną częścią procesu. Nie chodzi o samo kliknięcie „zatwierdź”. Osoba nadzorująca powinna rozumieć zadanie, znać ograniczenia narzędzia, mieć czas na sprawdzenie wyniku oraz możliwość jego odrzucenia, poprawienia albo zatrzymania całego procesu.

AI Act wymaga skutecznego nadzoru człowieka w systemach wysokiego ryzyka. Osoba nadzorująca powinna potrafić monitorować działanie systemu, rozpoznać nieprawidłowości, właściwie zinterpretować wynik i nie ulegać automatycznemu zaufaniu do rekomendacji AI. Powinna też móc pominąć wynik, odwrócić decyzję albo bezpiecznie przerwać działanie systemu.

W zwykłych zastosowaniach biurowych warto użyć prostego podziału.

Najważniejsza zasada brzmi: im większy wpływ wyniku na człowieka, pieniądze, prawa, zdrowie lub reputację firmy, tym silniejszy powinien być nadzór.

Najważniejsze wnioski

Nadzór człowieka musi być realny, a nie pozorny. Osoba zatwierdzająca potrzebuje wiedzy, czasu i uprawnień do odmowy. Wysokiego ryzyka nie da się ograniczyć samym dopiskiem „wynik wygenerowała AI”.

Co zrobić w swojej firmie

Przy każdym zastosowaniu zapisz:

1. Kto sprawdza wynik?
2. Co dokładnie ma sprawdzić?
3. Z jakich źródeł korzysta?
4. Kiedy wynik trzeba odrzucić?
5. Kto podejmuje ostateczną decyzję?

Źródła rozdziału

AI Act Service Desk, art. 14, human oversight AI Act Service Desk, art. 26, obowiązki podmiotów stosujących systemy wysokiego ryzyka NIST, AI RMF Generative AI Profile

Minimalny zestaw zasad AI w firmie

Mała firma nie potrzebuje na początek wielostronicowego systemu zarządzania AI. Potrzebuje kilku zasad, które pracownicy rozumieją i rzeczywiście stosują.

1. Rejestr narzędzi i zastosowań

Zapisz nazwę narzędzia, cel użycia, użytkowników, rodzaj danych, właściciela procesu i datę ostatniego przeglądu. Rejestr ma pokazać, gdzie AI jest używana, a nie tworzyć dokumentację dla samej dokumentacji.

2. Lista narzędzi dozwolonych, warunkowych i niedozwolonych

Pracownik powinien wiedzieć, z czego może korzystać bez pytania, co wymaga zgody oraz czego nie wolno używać do pracy firmowej.

3. Zasady dotyczące danych

Określ, czego nie wolno wprowadzać, kiedy trzeba usunąć identyfikatory i kiedy potrzebna jest konsultacja z osobą odpowiedzialną za dane, bezpieczeństwo lub prawo.

4. Role i odpowiedzialność

Wyznacz właściciela każdego ważniejszego zastosowania AI. Jedna osoba powinna odpowiadać za ogólne zasady, ale odpowiedzialność za wynik pozostaje również po stronie właściciela danego procesu.

5. Zasady kontroli wyniku

Ustal, które treści wymagają zwykłego sprawdzenia, które zatwierdzenia eksperta, a które nie mogą być tworzone lub podejmowane automatycznie.

6. Kompetencje pracowników

Szkolenie powinno obejmować narzędzia używane w danej roli, ochronę danych, ograniczenia modeli, sposób sprawdzania wyników i zgłaszanie problemów. Nie musi być jednakowe dla wszystkich.

Dobra polityka jest krótka, konkretna i regularnie aktualizowana. Jeżeli pracownik nie potrafi znaleźć odpowiedzi w ciągu minuty, dokument jest prawdopodobnie zbyt skomplikowany.

Najważniejsze wnioski

Najpierw zasady, które da się stosować, później rozbudowana dokumentacja. Każde ważniejsze zastosowanie powinno mieć właściciela. Polityka bez szkolenia i bezpiecznego narzędzia nie rozwiązuje problemu.

Co zrobić w swojej firmie

Przygotuj jednostronicową instrukcję dla pracowników zawierającą:

dozwolone narzędzia, dane zakazane, obowiązek sprawdzania wyników, obszary wymagające zgody, sposób zgłaszania incydentu lub wątpliwości.

Źródła rozdziału

AI Act Service Desk, art. 4, kompetencje w zakresie AI NIST, Artificial Intelligence Risk Management Framework Komisja Europejska, ochrona danych w fazie projektowania i domyślna ochrona danych

Ocena narzędzia, incydent i ciągłość działania

Bezpieczeństwo AI trzeba sprawdzać przed wdrożeniem, podczas używania i po wystąpieniu problemu.

Przed zatwierdzeniem narzędzia

Firma powinna sprawdzić regulamin, politykę prywatności, DPA, zasady trenowania na danych klientów, retencję, podwykonawców, lokalizację przetwarzania, możliwość usunięcia danych, funkcje administracyjne i sposób odebrania dostępu. Przy integracji z pocztą, dyskiem lub CRM trzeba dodatkowo ograniczyć uprawnienia do niezbędnego minimum.

Gdy do AI trafiły niewłaściwe dane

Pracownik powinien wiedzieć, że problem należy zgłosić od razu, bez ukrywania błędu. Pierwsze działania to zatrzymanie dalszego użycia, ustalenie zakresu ujawnionych informacji, usunięcie rozmowy lub pliku, jeżeli jest to możliwe, odebranie dostępów oraz zmiana ujawnionych haseł lub kluczy.

Następnie firma ocenia, czy doszło do naruszenia ochrony danych osobowych, tajemnicy przedsiębiorstwa albo innych obowiązków. W przypadku naruszenia danych osobowych, które może powodować ryzyko dla praw lub wolności osób, administrator zgłasza je organowi nadzorczemu bez zbędnej zwłoki, nie później niż w ciągu 72 godzin od stwierdzenia. Nie oznacza to, że każdy błąd automatycznie wymaga zgłoszenia. Każdy powinien jednak zostać oceniony i udokumentowany.

Plan awaryjny

Firma powinna założyć, że usługa może przestać działać, zmienić model, cenę, limit lub warunki. Krytyczne procesy potrzebują ręcznej ścieżki zastępczej, możliwości eksportu danych i jasno określonego sposobu zmiany dostawcy.

Najważniejsze wnioski

Incydent należy zgłosić szybko, a nie dopiero wtedy, gdy pojawią się skutki. Dostęp agenta do poczty lub dysku powinien być możliwie wąski. Firma potrzebuje sposobu pracy bez danego narzędzia.

Co zrobić w swojej firmie

Przygotuj dwie krótkie karty:

Karta incydentu: kogo powiadomić, co zapisać, jak ograniczyć skutki. Karta dostawcy: właściciel, DPA, retencja, podwykonawcy, uprawnienia, koszt, plan wyjścia.

Źródła rozdziału

Komisja Europejska, postępowanie w przypadku naruszenia ochrony danych NCSC, Guidelines for Secure AI System Development OWASP, GenAI Security Project NIST, AI RMF Generative AI Profile

Plan minimum na pierwsze 30 dni

Nie trzeba wdrażać wszystkiego jednocześnie. Najlepszym początkiem jest krótki plan, który daje firmie widoczność, ogranicza największe ryzyka i nie zatrzymuje użytecznych zastosowań AI.

Tydzień 1: sprawdź stan obecny

Zapytaj pracowników, z jakich narzędzi korzystają i do jakich zadań. Zidentyfikuj użycie prywatnych kont oraz integracje z pocztą, dyskiem i innymi systemami. Oznacz zastosowania dotyczące HR, klientów, prawa, zdrowia, finansów i bezpieczeństwa. Zapisz narzędzia i zastosowania w prostym rejestrze.

Tydzień 2: ustal podstawowe zasady

Wybierz zatwierdzone narzędzia i konta firmowe. Określ dane zielone, żółte i czerwone. Wprowadź obowiązek kontroli treści wysyłanych na zewnątrz. Ustal, które zastosowania wymagają wcześniejszej zgody.

Tydzień 3: przygotuj ludzi i dostęp

Przeprowadź krótkie szkolenie dopasowane do ról. Włącz MFA i usuń niepotrzebne konta. Ogranicz dostęp konektorów oraz agentów do niezbędnego minimum. Wyznacz osoby odpowiedzialne za zasady, dane i konkretne procesy.

Tydzień 4: sprawdź dokumenty i gotowość na problem

Zweryfikuj regulaminy, DPA, retencję i podwykonawców najważniejszych dostawców. Przygotuj kartę zgłoszenia incydentu. Ustal ręczną ścieżkę awaryjną dla ważnych procesów. Zaplanuj przegląd zasad za trzy miesiące.

Po 30 dniach firma nie będzie miała zamkniętego całego tematu. Będzie jednak wiedziała, gdzie używa AI, które ryzyka są najważniejsze i kto odpowiada za dalsze działania.

Najważniejsze wnioski

Najpierw widoczność, później doskonalenie. Jedna realna zasada jest lepsza niż polityka, której nikt nie czyta. Przegląd trzeba powtarzać, bo narzędzia i warunki szybko się zmieniają.

Co zrobić w swojej firmie

Wyznacz jedną osobę odpowiedzialną za koordynację planu oraz właściciela każdego zadania. Do każdego działania przypisz termin i dowód wykonania, na przykład listę narzędzi, instrukcję, protokół szkolenia lub kartę dostawcy.

Źródła rozdziału

NIST, AI Risk Management Framework AI Act Service Desk, art. 4 NCSC, Guidelines for Secure AI System Development

Checklista: bezpieczne korzystanie z AI w firmie

Ta checklista nie jest audytem zgodności. Służy do szybkiego sprawdzenia, czy firma wdrożyła podstawowe zabezpieczenia. Odpowiedź „nie” nie oznacza automatycznie naruszenia prawa. Pokazuje obszar, który warto uporządkować.

Narzędzia i widoczność

• Wiemy, z jakich narzędzi AI korzystają pracownicy.
• Prowadzimy prosty rejestr zastosowań AI.
• Mamy listę narzędzi dozwolonych, warunkowych i niedozwolonych.
• Do pracy firmowej używamy kont zarządzanych przez organizację.

Dane i dostęp

• Pracownicy wiedzą, jakich danych nie wolno wprowadzać do niezatwierdzonych narzędzi.
• Stosujemy zasadę minimum danych i usuwamy zbędne identyfikatory.
• Sprawdziliśmy DPA, retencję, podwykonawców i zasady używania danych.
• Mamy MFA i regularnie odbieramy niepotrzebne dostępy.
• Konektory i agenci mają tylko niezbędne uprawnienia.

Ludzie i odpowiedzialność

• Osoby korzystające z AI zostały przeszkolone odpowiednio do swojej roli.
• Każde ważniejsze zastosowanie ma właściciela.
• Treści zewnętrzne są sprawdzane przez człowieka.
• Zastosowania HR, prawne, zdrowotne i finansowe mają dodatkową kontrolę.
• Pracownik może zgłosić wątpliwość lub błąd bez obawy przed ukrywaniem problemu.

Incydenty i ciągłość

• Mamy prostą procedurę zgłaszania incydentu AI.
• Wiemy, co zrobić po ujawnieniu danych, hasła lub klucza API.
• Krytyczne procesy mają ręczną ścieżkę zastępczą.
• Ustalamy budżety, limity i osoby zatwierdzające koszty.
• Przeglądamy narzędzia i zasady co najmniej raz na kwartał.
• W arkuszu przeglądu zapisz: właściciela przeglądu, datę i termin następnego przeglądu.
• Jak czytać wynik 0-6 pól: zacznij od narzędzi, danych i szkolenia. 7-13 pól: masz podstawy, ale potrzebujesz spójnych zasad i odpowiedzialności. 14-19 pól: dobra baza, skup się na testowaniu, aktualizacji i obszarach wysokiego wpływu.

Co zrobić w swojej firmie

Wybierz trzy niezaznaczone pola, które ograniczą największe ryzyko. Przypisz właściciela i termin wykonania w ciągu najbliższych 30 dni.

Wynik jest orientacyjny i nie stanowi oceny prawnej.

Źródła rozdziału

Checklista podsumowuje zalecenia i źródła przedstawione na stronach 2-16. Nie jest samodzielnym standardem zgodności.

Gdzie szukać aktualnych informacji?

Prawo, funkcje narzędzi i warunki dostawców zmieniają się szybciej niż większość firm aktualizuje dokumenty. Dlatego przed podjęciem decyzji należy sprawdzać informacje bezpośrednio w aktualnych źródłach właściwej instytucji lub dostawcy.

Prawo i wytyczne Unii Europejskiej

EUR-Lex: AI Act i RODO AI Act Service Desk Komisja Europejska: wdrażanie AI Act EDPB: ochrona danych i AI

Polska

Sejm RP: proces legislacyjny Dziennik Ustaw UODO Ministerstwo Cyfryzacji

Bezpieczeństwo i zarządzanie ryzykiem

NIST AI Risk Management Framework ENISA: bezpieczeństwo AI OWASP GenAI Security Project NCSC: Secure AI System Development

Dostawcy narzędzi

Sprawdzaj wyłącznie aktualne dokumenty konkretnego produktu: regulamin, politykę prywatności, DPA, trust center, listę podwykonawców, retencję, lokalizację danych i informacje o używaniu treści do trenowania modeli.

Najważniejsze wnioski

Nie opieraj decyzji na starym artykule lub zrzucie ekranu. Zawsze sprawdzaj konkretny produkt i rodzaj konta.

Materiał źródłowy

Oryginalny materiał przygotowany dla OPZL w ramach projektu dotyczącego bezpieczeństwa AI w firmie. Stan informacji: 23 lipca 2026 r. Pobierz oryginalny poradnik PDF.