Kiedy przerwać pracę i skonsultować wykorzystanie AI – procedury i ścieżki eskalacji

Kiedy przerwać pracę z AI i zgłosić problem? Praktyczny przewodnik po zasadzie „stop i konsultuj”, ścieżkach eskalacji, incydentach, checkliście 15 minut i dobrych praktykach bezpiecznego użycia AI w firmie.
21 lipca 2026
blog

1. Cel i zasada „stop i konsultuj”: kiedy natychmiast przerwać użycie AI

Zasada „stop i konsultuj” oznacza, że w określonych sytuacjach nie wolno kontynuować pracy z narzędziem AI „na własną rękę”, nawet jeśli celem jest tylko przyspieszenie zadania, poprawa tekstu lub uzyskanie podpowiedzi. Jej celem jest ograniczenie ryzyka dla organizacji, klientów, pracowników i samego użytkownika. Chodzi przede wszystkim o to, aby zatrzymać działanie zanim dojdzie do ujawnienia danych, podjęcia błędnej decyzji, naruszenia obowiązków prawnych albo użycia niezatwierdzonego rozwiązania.

Ta zasada ma zastosowanie wtedy, gdy pojawia się niepewność co do bezpieczeństwa, legalności, poprawności lub dopuszczalności użycia AI. W praktyce nie wymaga ona specjalistycznej oceny technicznej. Jeśli użytkownik widzi sygnał ostrzegawczy, którego nie potrafi sam jednoznacznie ocenić, powinien przerwać pracę i zgłosić sprawę do właściwej osoby lub funkcji w organizacji.

W codziennym użyciu AI można odróżnić dwie podstawowe sytuacje. Pierwsza to zwykłe, niskiego ryzyka wsparcie pracy, na przykład pomoc w redakcji neutralnych treści, porządkowaniu ogólnych informacji czy tworzeniu roboczych pomysłów bez użycia danych wrażliwych i bez podejmowania istotnych decyzji. Druga to użycie obarczone podwyższonym ryzykiem, gdy narzędzie ma kontakt z danymi poufnymi, wpływa na ważne decyzje, budzi wątpliwości co do źródła, działania albo zgodności z zasadami. To właśnie w tej drugiej sytuacji uruchamia się reguła „stop i konsultuj”.

Natychmiastowe przerwanie użycia AI jest potrzebne zwłaszcza wtedy, gdy:

  • masz zamiar wkleić lub już wkleiłeś informacje, których nie jesteś pewien, czy wolno je udostępniać — dotyczy to danych osobowych, informacji poufnych, tajemnic przedsiębiorstwa, danych klientów, dokumentów wewnętrznych i treści objętych ograniczeniami umownymi;
  • nie wiesz, czy dane narzędzie zostało dopuszczone do użytku albo zauważasz, że działa poza standardowym środowiskiem pracy, wymaga nietypowych zgód lub prosi o zbyt szeroki dostęp;
  • odpowiedź AI wydaje się błędna, myląca, niebezpieczna albo stanowcza mimo braku podstaw, a jej wykorzystanie mogłoby wpłynąć na działania wobec klienta, pracownika, kontrahenta lub organu;
  • wynik AI ma posłużyć do podjęcia decyzji istotnej, zwłaszcza takiej, która wywołuje skutki prawne, finansowe, kadrowe, operacyjne lub reputacyjne;
  • podejrzewasz incydent, na przykład omyłkowe ujawnienie danych, dostęp osoby nieuprawnionej, wygenerowanie treści naruszającej zasady albo nieautoryzowane zapisanie informacji w systemie zewnętrznym;
  • narzędzie zachęca do obejścia procedur, pominięcia kontroli, ukrycia sposobu przygotowania treści lub wykonania działania, którego samodzielnie nie podjąłbyś bez dodatkowej autoryzacji;
  • nie potrafisz wyjaśnić, skąd pochodzi odpowiedź AI i czy można na niej polegać, a mimo to miałaby zostać użyta jako podstawa dalszych działań;
  • występuje presja czasu lub przełożonych, aby „po prostu użyć AI”, mimo że masz uzasadnione wątpliwości dotyczące zasad, bezpieczeństwa lub zgodności.

Warto przyjąć prostą regułę: jeżeli pojawia się choćby jedna poważna wątpliwość dotycząca danych, narzędzia, celu użycia albo skutków odpowiedzi, należy zatrzymać proces. Nie należy w takiej sytuacji „testować jeszcze raz”, przenosić tych samych danych do innego modelu, doprecyzowywać promptu w nadziei na lepszy wynik ani kontynuować pracy offline na materiale uzyskanym z wątpliwego użycia.

Zasada „stop i konsultuj” nie ma zniechęcać do korzystania z AI, lecz wprowadza bezpieczną granicę odpowiedzialności. Użytkownik nie musi samodzielnie rozstrzygać wszystkich ryzyk. Ma natomiast obowiązek rozpoznać moment, w którym dalsze działanie bez konsultacji byłoby nieostrożne. Najważniejszy sygnał alarmowy brzmi: jeśli nie masz pewności, że użycie AI jest bezpieczne i zgodne z zasadami, przestań działać do czasu wyjaśnienia.

💡 Pro tip: Jeśli choć przez chwilę zastanawiasz się, czy wolno wkleić dane, zaufać odpowiedzi albo użyć danego narzędzia — zatrzymaj się od razu i skonsultuj sprawę, zamiast „jeszcze raz próbować”. W pracy z AI największe ryzyko często zaczyna się właśnie wtedy, gdy ignorujemy pierwszą wątpliwość.

2. Mapa kontaktów: kiedy zgłosić do przełożonego, IT, bezpieczeństwa informacji, IOD oraz działu prawnego/compliance

W praktyce problem związany z użyciem AI nie zawsze trafia do jednej osoby lub jednego działu. Kluczowe jest szybkie rozpoznanie, kto odpowiada za dany obszar ryzyka. Przełożony ocenia wpływ na pracę i decyzje biznesowe, IT wspiera w kwestiach technicznych i narzędziowych, bezpieczeństwo informacji zajmuje się ryzykiem dla poufności i ochrony zasobów, IOD ocenia sprawy związane z danymi osobowymi, a dział prawny lub compliance weryfikuje zgodność z przepisami, umowami i zasadami organizacji.

Podczas szkoleń Cognity ten temat wraca regularnie, dlatego zdecydowaliśmy się omówić go również tutaj. Jeżeli nie masz pewności, do kogo skierować zgłoszenie, dobrą zasadą jest jednoczesne poinformowanie przełożonego oraz właściwej funkcji specjalistycznej. Dzięki temu nie opóźniasz reakcji i nie bierzesz samodzielnie odpowiedzialności za ocenę obszaru, który wykracza poza Twoje kompetencje.

  • Przełożony – zgłaszaj wtedy, gdy sytuacja może wpływać na realizację zadań, jakość wyniku pracy, terminowość, sposób podejmowania decyzji albo wymaga wstrzymania działania. To pierwszy punkt kontaktu, gdy problem dotyczy użycia AI w bieżącym procesie biznesowym lub gdy nie wiesz, czy można kontynuować pracę.
  • IT – zgłaszaj wtedy, gdy problem dotyczy narzędzia, dostępu, konfiguracji, integracji z systemami, nieautoryzowanej instalacji, błędów technicznych albo podejrzenia, że użyto rozwiązania spoza dopuszczonego środowiska. IT pomaga ustalić, z jakiego systemu skorzystano i czy środowisko jest właściwie zabezpieczone.
  • Bezpieczeństwo informacji – zgłaszaj wtedy, gdy istnieje ryzyko ujawnienia informacji poufnych, utraty kontroli nad danymi firmowymi, nieuprawnionego dostępu, kopiowania treści do zewnętrznego narzędzia lub innego zdarzenia, które może naruszać zasady ochrony informacji. Ten obszar koncentruje się na bezpieczeństwie treści i zasobów organizacji, nie tylko na aspektach technicznych.
  • IOD – zgłaszaj wtedy, gdy w sprawie pojawiają się dane osobowe, zwłaszcza jeśli mogły zostać wprowadzone do narzędzia AI, udostępnione nieuprawnienie, przetworzone bez jasnej podstawy lub wykorzystane w sposób budzący wątpliwości. IOD ocenia ryzyko dla osób, których dane dotyczą, oraz zgodność działań z zasadami ochrony danych.
  • Dział prawny lub compliance – zgłaszaj wtedy, gdy problem może dotyczyć zgodności z prawem, regulacjami branżowymi, zobowiązaniami umownymi, prawami autorskimi, zasadami etycznymi lub wewnętrznymi politykami organizacji. To właściwy kontakt wtedy, gdy użycie AI może prowadzić do skutków formalnych, regulacyjnych lub reputacyjnych.

Warto też rozumieć podstawową różnicę między tymi kontaktami. Przełożony odpowiada za decyzję operacyjną: czy i jak kontynuować pracę. IT patrzy na narzędzie i środowisko. Bezpieczeństwo informacji ocenia ryzyko dla informacji i zasobów. IOD skupia się na danych osobowych. Prawny/compliance bada zgodność działań z obowiązującymi regułami. W jednej sprawie może być potrzebne zaangażowanie kilku z tych funkcji równocześnie.

Jeśli sytuacja wygląda na pilną, nie próbuj samodzielnie ustalać „najlepszego” adresata kosztem czasu. Najpierw zgłoś do przełożonego i do najbardziej oczywistej jednostki specjalistycznej, zgodnie z charakterem problemu. Lepsze jest szybkie zgłoszenie do dwóch właściwych miejsc niż opóźnienie wynikające z błędnej oceny, kto formalnie powinien zająć się sprawą jako pierwszy.

3. Typowe sytuacje wymagające eskalacji: dane poufne, niewłaściwe narzędzie, podejrzenie wycieku, błędna/szkodliwa odpowiedź, decyzje istotne, naruszenia zasad

Nie każda pomyłka przy korzystaniu z AI oznacza incydent wysokiego ryzyka, ale są sytuacje, w których należy natychmiast przerwać pracę i zgłosić problem. Wspólną cechą takich przypadków jest to, że mogą prowadzić do naruszenia poufności, błędnych decyzji biznesowych, szkody dla klientów lub pracowników albo złamania obowiązujących zasad i przepisów.

Poniżej znajdują się najczęstsze kategorie zdarzeń, które wymagają eskalacji. Celem tej sekcji jest szybkie rozpoznanie sytuacji alarmowych i odróżnienie ich od zwykłych błędów roboczych, które można poprawić bez uruchamiania formalnych działań.

Dane poufne lub chronione wprowadzone do AI

Eskalacji wymaga każda sytuacja, w której do narzędzia AI zostały wprowadzone dane, których nie wolno ujawniać lub przetwarzać w danym systemie. Dotyczy to zarówno pełnych dokumentów, jak i krótkich fragmentów tekstu, zrzutów ekranu, metadanych, opisów przypadków czy danych wpisanych „tylko pomocniczo”.

  • dane osobowe, zwłaszcza w większym zakresie lub dotyczące szczególnych kategorii danych,
  • informacje poufne organizacji, klientów, partnerów lub dostawców,
  • treści objęte tajemnicą zawodową, umowną lub ustawową,
  • niepubliczne dane finansowe, handlowe, techniczne lub projektowe,
  • hasła, klucze dostępu, tokeny, konfiguracje i dane systemowe.

Sygnał do eskalacji: jeśli pojawia się wątpliwość, czy dane mogły opuścić właściwe środowisko albo zostały użyte w sposób niezgodny z przeznaczeniem narzędzia, nie należy samodzielnie oceniać skali problemu „na wyczucie”.

Użycie niewłaściwego lub niezatwierdzonego narzędzia

Ryzyko nie wynika wyłącznie z treści danych, ale także z samego narzędzia. Nawet pozornie nieszkodliwe zapytanie może wymagać eskalacji, jeśli zostało wysłane do rozwiązania, które nie jest dopuszczone do użytku służbowego albo nie ma odpowiednich zabezpieczeń.

Przykładowe sytuacje alarmowe:

  • użycie prywatnego konta do zadań służbowych,
  • skorzystanie z publicznego narzędzia bez zatwierdzenia organizacji,
  • wgranie pliku do aplikacji, której status bezpieczeństwa nie jest znany,
  • integracja AI z innym systemem bez zgody lub konfiguracji przez właściwy zespół,
  • użycie wtyczek, rozszerzeń lub automatyzacji, które pobierają lub przekazują dane poza kontrolowany obieg.

Różnica praktyczna: problemem może być nie tylko to, co zostało wpisane, ale również gdzie i w jakim trybie zostało użyte.

Podejrzenie wycieku lub nieuprawnionego ujawnienia informacji

Eskalacja jest konieczna również wtedy, gdy nie ma jeszcze pewności, że doszło do wycieku, ale istnieją uzasadnione przesłanki, że informacje mogły zostać ujawnione, zapisane, pobrane przez osoby nieuprawnione albo wykorzystane niezgodnie z celem.

  • AI zwróciło treść, która wygląda na cudze dane wewnętrzne lub dane innego użytkownika,
  • link, eksport, historia czatu lub plik zostały udostępnione niewłaściwej osobie,
  • narzędzie zachowało dane w miejscu dostępnym dla szerszego grona niż zakładano,
  • wygenerowana odpowiedź ujawniła informacje, które nie powinny pojawić się w danym kontekście,
  • użytkownik zauważył nietypowe działanie konta, integracji lub uprawnień.

Ważne: samo podejrzenie jest wystarczającym powodem do zgłoszenia. Czekanie na pełne potwierdzenie może zwiększyć skalę skutków.

Błędna, szkodliwa lub wprowadzająca w błąd odpowiedź AI

Nie każda nieścisłość modelu wymaga eskalacji. Jeżeli jednak odpowiedź AI może prowadzić do szkody prawnej, finansowej, operacyjnej, zdrowotnej, reputacyjnej lub bezpieczeństwa, należy potraktować to jako sytuację wymagającą zgłoszenia.

Dotyczy to w szczególności odpowiedzi:

  • zawierających nieprawdziwe informacje przedstawione jako pewne,
  • rekomendujących działania niezgodne z prawem, procedurami lub zasadami etycznymi,
  • zachęcających do obchodzenia zabezpieczeń, kontroli lub ograniczeń,
  • tworzących treści dyskryminujące, obraźliwe albo naruszające prawa innych osób,
  • mogących zostać wykorzystanych bezpośrednio do podjęcia ryzykownej decyzji.

Różnica praktyczna: zwykły błąd roboczy można poprawić w toku pracy, ale odpowiedź potencjalnie szkodliwa wymaga zatrzymania procesu, aby nie została użyta dalej, przekazana klientowi albo wdrożona operacyjnie.

Wykorzystanie AI przy decyzjach istotnych

Szczególnej ostrożności wymagają sytuacje, w których wynik działania AI wpływa na prawa, obowiązki, ocenę lub sytuację konkretnej osoby albo na decyzje o dużym znaczeniu dla organizacji. W takich przypadkach eskalacji wymaga już samo użycie AI poza dozwolonym zakresem, nawet jeśli nie wystąpił oczywisty błąd.

  • ocena kandydatów, pracowników, klientów lub kontrahentów,
  • decyzje kadrowe, finansowe, zakupowe lub kredytowe,
  • kwalifikowanie spraw do działań formalnych lub dyscyplinarnych,
  • decyzje wpływające na dostęp do usług, zasobów lub uprawnień,
  • analizy, od których zależą działania regulacyjne, prawne lub bezpieczeństwa.

Sygnał do eskalacji: jeżeli AI przestaje być wyłącznie narzędziem pomocniczym do redakcji, podsumowania lub analizy wstępnej, a zaczyna realnie wpływać na rozstrzygnięcie sprawy, poziom ryzyka istotnie rośnie.

Naruszenia zasad wewnętrznych, umownych lub regulacyjnych

Osobną kategorią są przypadki, w których korzystanie z AI narusza przyjęte reguły, nawet jeżeli nie widać jeszcze szkody. Eskalacji wymagają zarówno świadome obejścia zasad, jak i niezamierzone działania sprzeczne z politykami organizacji.

  • użycie AI w procesie, w którym jest to zabronione lub ograniczone,
  • brak wymaganej autoryzacji, akceptacji lub nadzoru człowieka,
  • ominięcie obowiązkowej weryfikacji treści wygenerowanej przez model,
  • wykorzystanie narzędzia wbrew warunkom umowy, licencji lub zobowiązaniom wobec klienta,
  • brak wymaganego oznaczenia, że treść została przygotowana z użyciem AI, jeśli takie oznaczenie jest obowiązkowe.

W takich sytuacjach kluczowe znaczenie ma nie tylko sam skutek, ale również fakt, że organizacja może utracić kontrolę nad zgodnością działań z przyjętymi wymaganiami.

Szybkie rozróżnienie: poprawić samodzielnie czy eskalować?

SytuacjaZwykła korekta roboczaWymaga eskalacji
Literówka lub słabe sformułowanie w odpowiedzi AITakNie, o ile brak innych ryzyk
Wpisanie danych poufnych do niepewnego narzędziaNieTak
Odpowiedź AI zawiera treści mogące szkodzić lub naruszać prawoNieTak
Użycie prywatnego konta lub niezatwierdzonej aplikacji do pracyNieTak
AI pomaga sformułować notatkę, ale decyzję podejmuje człowiek bez wpływu na prawa osóbZwykle takZależy od danych i narzędzia
Wynik AI ma wpływ na ważną decyzję kadrową, finansową lub prawnąNieTak
Podejrzenie, że wygenerowana treść ujawnia cudze informacjeNieTak

Najważniejsza zasada praktyczna

Jeżeli pojawia się choć jedna z poniższych okoliczności, należy przyjąć, że sytuacja wymaga eskalacji:

  • zagrożona jest poufność danych,
  • narzędzie nie jest jednoznacznie dopuszczone do danego celu,
  • odpowiedź AI może wyrządzić szkodę,
  • AI wpływa na istotną decyzję,
  • mogło dojść do naruszenia zasad, umowy lub przepisów.

W praktyce lepiej zgłosić zdarzenie zbyt wcześnie niż zbyt późno. Największe ryzyko zwykle nie wynika z samego użycia AI, lecz z kontynuowania pracy mimo wyraźnych sygnałów ostrzegawczych.

Procedura postępowania przy incydentach związanych z AI: kroki techniczne i organizacyjne

W przypadku incydentu związanego z wykorzystaniem AI najważniejsze są dwa równoległe cele: ograniczenie skutków zdarzenia oraz zapewnienie właściwego obiegu informacji. Procedura powinna być prosta, powtarzalna i możliwa do zastosowania zarówno przy oczywistym naruszeniu, jak i przy samym podejrzeniu problemu.

Postępowanie warto podzielić na dwa tory: techniczny i organizacyjny. Pierwszy służy zabezpieczeniu systemów, danych i dowodów. Drugi odpowiada za zgłoszenie, ocenę ryzyka, koordynację działań oraz decyzje dotyczące dalszego użycia narzędzia AI. Na szkoleniach Cognity pokazujemy, jak poradzić sobie z tym zagadnieniem krok po kroku – poniżej przedstawiamy skrót tych metod.

ObszarCelTypowe działania
TechnicznyOgraniczenie szkody i zabezpieczenie materiału dowodowegoWstrzymanie użycia narzędzia, przerwanie przesyłania danych, zabezpieczenie logów, zrzutów ekranu i kontekstu zdarzenia
OrganizacyjnyUruchomienie właściwej ścieżki reakcjiZgłoszenie incydentu, przekazanie informacji do odpowiednich funkcji, przypisanie odpowiedzialności, decyzja o dalszych krokach

1. Natychmiastowe zatrzymanie działania

Pierwszym krokiem powinno być przerwanie czynności, która może pogłębiać incydent. Jeżeli użytkownik zauważy, że do narzędzia AI wprowadzono niewłaściwe dane, użyto niezatwierdzonej usługi albo wygenerowana odpowiedź może wywołać szkodę operacyjną, nie należy kontynuować pracy „do końca zadania”.

  • zatrzymaj dalsze wpisywanie danych do narzędzia AI,
  • nie zatwierdzaj automatycznie wygenerowanych wyników,
  • nie rozpowszechniaj odpowiedzi AI dalej w organizacji ani do klientów,
  • nie usuwaj od razu historii, plików ani komunikatów, jeżeli mogą stanowić dowód zdarzenia.

2. Ograniczenie skutków po stronie technicznej

Po zatrzymaniu pracy należy wykonać podstawowe działania zabezpieczające. Ich zakres zależy od rodzaju incydentu, ale zasadą jest minimalizacja dalszego oddziaływania. Chodzi nie tylko o systemy IT, lecz także o dokumenty, procesy i osoby, które mogły otrzymać błędny lub nieuprawniony materiał.

  • odłącz lub wstrzymaj integrację, jeśli narzędzie AI działa automatycznie,
  • zablokuj dalsze udostępnianie wygenerowanych treści, jeżeli zostały już opublikowane wewnętrznie,
  • zabezpiecz wersję pliku, prompt, wynik modelu oraz metadane dostępne w systemie,
  • oznacz materiał jako wymagający weryfikacji, jeśli istnieje ryzyko, że ktoś jeszcze z niego skorzysta.

Na tym etapie nie chodzi o pełną analizę przyczyn, lecz o szybkie ograniczenie szkody. Szczególnie ważne jest, by nie podejmować samodzielnie działań, które mogłyby zatrzeć ślady lub utrudnić późniejsze ustalenie przebiegu zdarzenia.

3. Zabezpieczenie informacji o incydencie

Każdy incydent związany z AI powinien zostać udokumentowany na poziomie podstawowym. Dobra dokumentacja pozwala odróżnić błąd użytkownika od problemu narzędzia, ocenić skalę ryzyka i podjąć decyzję o dalszym użyciu rozwiązania.

  • zapisz datę, godzinę i kontekst zdarzenia,
  • zachowaj treść polecenia, dane wejściowe i odpowiedź AI, o ile wolno je utrwalić zgodnie z zasadami bezpieczeństwa,
  • odnotuj, jakie działania zostały już wykonane,
  • wskaż, kto mógł mieć kontakt z wynikiem lub danymi objętymi incydentem.

Dokumentacja powinna być rzeczowa i oparta na faktach. Należy unikać przypuszczeń formułowanych jako pewniki, np. że „na pewno doszło do wycieku”, jeśli na tym etapie istnieje jedynie podejrzenie.

4. Równoległe uruchomienie ścieżki organizacyjnej

Incydent związany z AI rzadko jest wyłącznie problemem technicznym. Może dotyczyć ochrony danych, zgodności regulacyjnej, bezpieczeństwa informacji, jakości decyzji biznesowych lub odpowiedzialności prawnej. Dlatego po zabezpieczeniu sytuacji należy uruchomić formalne zgłoszenie zgodnie z wewnętrzną procedurą.

Organizacyjnie procedura zwykle obejmuje:

  • zgłoszenie faktu incydentu lub podejrzenia incydentu,
  • przekazanie minimalnego zestawu informacji potrzebnych do oceny,
  • czasowe wstrzymanie korzystania z danego narzędzia lub procesu, jeśli ryzyko jest istotne,
  • wyznaczenie osoby lub zespołu koordynującego dalsze działania.

Istotna różnica między torem technicznym a organizacyjnym polega na tym, że technika odpowiada za zabezpieczenie i ograniczenie szkody, a organizacja za decyzje, odpowiedzialność i formalny tryb reakcji. Oba elementy muszą działać razem.

5. Wstępna klasyfikacja zdarzenia

Nie każdy problem z AI ma tę samą wagę. Dla sprawnego działania warto na poziomie roboczym odróżnić:

  • incydent potwierdzony – gdy wiadomo, że doszło do naruszenia lub błędnego użycia,
  • podejrzenie incydentu – gdy istnieją przesłanki, ale brak jeszcze potwierdzenia,
  • niezgodność proceduralną – gdy narzędzie lub proces użyto niezgodnie z zasadami, nawet jeśli szkoda nie jest jeszcze widoczna.

Taka klasyfikacja pomaga dobrać tempo i zakres reakcji. Przy AI nawet pozornie drobne zdarzenie może wymagać szybkiej eskalacji, jeśli dotyczy danych wrażliwych, automatyzacji decyzji albo szerokiego rozpowszechnienia wyniku.

6. Decyzja o czasowym wstrzymaniu narzędzia lub procesu

Jeżeli incydent może wynikać z samego narzędzia, jego konfiguracji albo sposobu integracji z innymi systemami, organizacja powinna rozważyć czasowe zawieszenie użycia danego rozwiązania. To działanie ostrożnościowe, a nie przesądzenie winy użytkownika czy dostawcy.

  • wstrzymaj określony przypadek użycia, jeśli problem dotyczy konkretnego procesu,
  • ogranicz uprawnienia lub dostęp do funkcji automatycznych,
  • zablokuj szablony, integracje lub przepływy danych do czasu oceny,
  • poinformuj użytkowników, że wyników z danego narzędzia nie wolno tymczasowo wykorzystywać operacyjnie.

To ważne zwłaszcza tam, gdzie AI generuje treści dla klientów, wspiera decyzje kadrowe, przetwarza zgłoszenia lub korzysta z danych regulowanych.

7. Weryfikacja wpływu na proces biznesowy

Po opanowaniu sytuacji trzeba ustalić, czy incydent wpłynął na wynik procesu. W praktyce pytania dotyczą tego, czy błędna odpowiedź AI została wykorzystana, czy podjęto na jej podstawie decyzję, czy dane trafiły do nieuprawnionego odbiorcy oraz czy konieczne jest odwrócenie skutków operacyjnych.

Na tym etapie zwykle analizuje się:

  • czy wynik AI został zatwierdzony lub wdrożony,
  • czy odbiorcy zewnętrzni lub wewnętrzni otrzymali błędny materiał,
  • czy trzeba wycofać komunikację, poprawić dokument albo ponownie wykonać czynność bez użycia AI,
  • czy inne zespoły korzystały z tego samego mechanizmu i mogą być narażone na podobny problem.

8. Utrwalenie decyzji i zamknięcie operacyjne

Procedura nie kończy się na samym zgłoszeniu. Po podjęciu działań należy utrwalić, co zostało ustalone i jakie ograniczenia obowiązują dalej. Dzięki temu użytkownicy wiedzą, czy mogą wrócić do pracy z danym narzędziem, czy konieczna jest zmiana sposobu działania.

  • zapisz decyzję o wznowieniu albo zakazie dalszego użycia,
  • udokumentuj działania naprawcze i osoby odpowiedzialne,
  • wskaż, czy potrzebne są zmiany w instrukcjach, uprawnieniach lub konfiguracji,
  • potwierdź, że materiał po incydencie został zweryfikowany przed dalszym użyciem.

Dobrze zaprojektowana procedura postępowania przy incydentach związanych z AI powinna być krótka, jednoznaczna i zrozumiała dla użytkownika nietechnicznego. Najważniejsza zasada brzmi: najpierw zatrzymaj, zabezpiecz i zgłoś, a dopiero potem wracaj do pracy.

Checklist „pierwsze 15 minut po incydencie”

W pierwszych minutach po wykryciu incydentu związanego z użyciem AI najważniejsze są trzy cele: zatrzymać dalsze ryzyko, zabezpieczyć podstawowe informacje oraz uruchomić właściwy kanał zgłoszenia. To nie jest moment na samodzielne wyjaśnianie sprawy, poprawianie błędów „po cichu” ani usuwanie śladów działania.

Poniższa checklista ma charakter praktyczny i skrócony — pomaga podjąć pierwsze, bezpieczne działania, zanim incydent zostanie formalnie obsłużony.

PriorytetCo zrobićCel
1Natychmiast przerwać pracę z narzędziem AIOgraniczenie dalszego ryzyka
2Nie wysyłać kolejnych danych ani promptówZatrzymanie eskalacji incydentu
3Zabezpieczyć ekran, treść odpowiedzi i kontekst zdarzeniaZachowanie dowodów
4Zgłosić incydent właściwą ścieżkąUruchomienie reakcji organizacyjnej
5Nie usuwać historii, plików ani logówUmożliwienie analizy

1. Zatrzymaj działanie natychmiast

  • Przerwij sesję roboczą z narzędziem AI, jeśli istnieje ryzyko ujawnienia danych, użycia niezatwierdzonego rozwiązania lub wygenerowania treści mogących spowodować szkodę.
  • Nie wprowadzaj kolejnych danych, nawet jeśli chcesz „sprawdzić, czy problem się powtórzy”.
  • Wstrzymaj udostępnianie wyników innym osobom, klientom lub współpracownikom do czasu wyjaśnienia sytuacji.
  • Jeżeli odpowiedź AI została już użyta w dokumencie, wiadomości lub decyzji, zatrzymaj dalszy obieg tego materiału, o ile to możliwe.

2. Oceń, czy ryzyko jest aktywne tu i teraz

Nie chodzi o pełną analizę, ale o szybkie rozpoznanie, czy problem nadal trwa. W ciągu pierwszych minut warto ustalić:

  • czy do narzędzia trafiły dane wrażliwe, poufne lub osobowe,
  • czy użyto niewłaściwego lub nieautoryzowanego narzędzia,
  • czy wygenerowana odpowiedź może prowadzić do błędnej decyzji, szkody operacyjnej lub prawnej,
  • czy istnieje podejrzenie, że dane mogły zostać zapisane, udostępnione lub przetworzone niezgodnie z zasadami.

Jeżeli na którekolwiek z tych pytań odpowiedź brzmi „tak” albo „nie wiem”, należy traktować sytuację jako wymagającą pilnego zgłoszenia.

3. Zabezpiecz podstawowe dowody

W pierwszych 15 minutach należy zebrać minimum informacji potrzebnych do dalszej oceny. Najlepiej zrobić to bez modyfikowania środowiska pracy.

  • Wykonaj zrzuty ekranu pokazujące narzędzie, prompty, odpowiedzi oraz komunikaty systemowe.
  • Zapisz datę i godzinę zdarzenia.
  • Zanotuj nazwę narzędzia, wersję lub adres usługi, jeśli jest widoczny.
  • Opisz krótko, co zostało wprowadzone do systemu i co system zwrócił.
  • Jeśli były załączniki, zapisz informację jakiego typu plik został użyty, bez jego dalszego rozpowszechniania.
  • Jeżeli incydent dotyczy już wysłanej wiadomości, dokumentu lub integracji systemowej, zanotuj gdzie wynik został przekazany dalej.

Ważne: nie poprawiaj promptów, nie „czyść” historii i nie próbuj odtwarzać zdarzenia wielokrotnie tylko po to, by uzyskać lepszy materiał dowodowy.

4. Nie usuwaj i nie ukrywaj śladów

  • Nie kasuj historii rozmów, jeśli jest dostępna.
  • Nie usuwaj plików, które były użyte w zdarzeniu, chyba że wyraźnie poleci to właściwy zespół techniczny lub bezpieczeństwa.
  • Nie wylogowuj się pochopnie z systemów, jeśli może to utrudnić analizę, chyba że istnieje bezpośrednie ryzyko dalszego działania konta lub sesji.
  • Nie próbuj samodzielnie „naprawić” incydentu przez edycję logów, zmianę ustawień czy ponowne przesłanie danych.

Podstawowa zasada brzmi: zabezpiecz, nie maskuj.

5. Powiadom właściwą osobę lub zespół

W pierwszych minutach nie trzeba przygotowywać pełnego raportu, ale trzeba przekazać sygnał, że incydent wystąpił. Zgłoszenie powinno być krótkie, rzeczowe i zawierać minimum informacji operacyjnych.

  • Powiadom przełożonego, jeśli zdarzenie wpływa na pracę zespołu, proces lub termin.
  • Skontaktuj się z IT lub wsparciem technicznym, jeśli problem dotyczy konta, systemu, integracji, dostępu lub działania narzędzia.
  • Zgłoś do bezpieczeństwa informacji, jeśli istnieje ryzyko wycieku, naruszenia zasad lub użycia niedozwolonego narzędzia.
  • Jeśli incydent może obejmować dane osobowe, nie zwlekaj z przekazaniem informacji do właściwego kanału odpowiedzialnego za ich ochronę.
  • Jeżeli zdarzenie może mieć skutki prawne, regulacyjne lub kontraktowe, oznacz je jako pilne.

Jeżeli nie masz pewności, do kogo zgłosić zdarzenie, zastosuj zasadę: najpierw zgłoś, potem doprecyzuj.

6. Ogranicz dalszy obieg skutków incydentu

  • Wstrzymaj publikację materiału wygenerowanego przez AI.
  • Jeśli odpowiedź AI została już przekazana dalej, spróbuj zatrzymać jej użycie w możliwym zakresie operacyjnym.
  • Nie zatwierdzaj decyzji, rekomendacji, analiz ani komunikatów opartych na spornej odpowiedzi AI.
  • Oznacz materiał jako do weryfikacji, jeśli funkcjonuje już wewnątrz zespołu.

7. Czego nie robić w pierwszych 15 minutach

Nie rób tegoDlaczego to błąd
Kasowanie historii rozmowyMoże zniszczyć materiał dowodowy
Samodzielne testowanie incydentu na nowych danychMoże powiększyć skalę problemu
Przesyłanie zrzutów ekranu szeroko w organizacjiZwiększa ryzyko dalszego ujawnienia danych
Ignorowanie problemu, bo „to tylko wersja robocza”Nawet wersja robocza może powodować incydent
Poprawianie odpowiedzi AI bez zgłoszenia zdarzeniaUkrywa źródło problemu i utrudnia analizę

Mini-checklista do użycia od razu

  • Przerwałem/przerwałam użycie narzędzia AI
  • Nie wprowadzam kolejnych danych
  • Zabezpieczyłem/zabezpieczyłam ekran, odpowiedź i czas zdarzenia
  • Nie usuwam historii, plików ani śladów działania
  • Wstrzymałem/wstrzymałam dalsze użycie wyniku AI
  • Przekazałem/przekazałam zgłoszenie właściwym osobom lub zespołom

Dobrze wykonane pierwsze 15 minut po incydencie często decyduje o tym, czy organizacja będzie w stanie szybko ograniczyć skutki zdarzenia i rzetelnie ocenić jego skalę.

6. Wzór zgłoszenia incydentu: gotowy szablon (co wpisać) i jakie dowody dołączyć

Dobrze przygotowane zgłoszenie incydentu związanego z AI powinno być krótkie, konkretne i oparte na faktach. Jego celem nie jest ocena winy ani pełna analiza zdarzenia, ale szybkie przekazanie informacji osobom odpowiedzialnym za dalsze działania. Najlepszy formularz lub wiadomość zgłoszeniowa powinny umożliwiać jednocześnie: identyfikację problemu, ocenę skali ryzyka oraz zabezpieczenie materiału dowodowego.

W praktyce warto rozróżnić dwa zastosowania zgłoszenia:

  • zgłoszenie pilne – gdy istnieje ryzyko naruszenia danych, ujawnienia informacji, użycia niedozwolonego narzędzia lub innego incydentu wymagającego szybkiej reakcji,
  • zgłoszenie wyjaśniające – gdy sytuacja budzi wątpliwości, ale nie ma jeszcze potwierdzenia, że doszło do naruszenia.

Niezależnie od formy, zgłoszenie powinno opierać się na zasadzie: opisuj to, co się wydarzyło, a nie to, co przypuszczasz.

Minimalny zakres informacji w zgłoszeniu

Każde zgłoszenie powinno zawierać zestaw podstawowych informacji, które pozwalają szybko zakwalifikować zdarzenie.

Element zgłoszeniaCo wpisaćDlaczego to ważne
Data i godzinaKiedy doszło do zdarzenia lub kiedy zostało zauważoneUłatwia odtworzenie przebiegu incydentu
Osoba zgłaszającaImię, stanowisko, dział, dane kontaktoweUmożliwia szybki kontakt i doprecyzowanie informacji
Narzędzie AINazwa użytego rozwiązania, wersja, środowiskoPozwala ustalić kontekst techniczny i zgodność użycia
Opis zdarzeniaKrótki, rzeczowy opis tego, co się stałoStanowi podstawę dalszej oceny
Rodzaj danych lub treściJakiego typu informacje zostały użyte, wygenerowane lub ujawnionePomaga oszacować poziom ryzyka
Skala zdarzeniaCzy dotyczy jednej osoby, dokumentu, klienta, procesu lub większego zakresuWspiera priorytetyzację reakcji
Działania wykonane od razuCo zostało już zrobione po zauważeniu problemuZapobiega dublowaniu działań
Załączone dowodyJakie materiały dołączonoUłatwia weryfikację i zabezpieczenie faktów

Gotowy szablon zgłoszenia incydentu AI

Poniższy wzór można wykorzystać w wiadomości e-mail, formularzu wewnętrznym albo systemie zgłoszeniowym:

Temat: Zgłoszenie incydentu związanego z wykorzystaniem AI [pilne/standardowe]

1. Dane zgłaszającego:
- Imię i nazwisko / stanowisko:
- Dział / jednostka:
- Dane kontaktowe:

2. Data i czas zdarzenia:
- Data:
- Przybliżona godzina:
- Czy zdarzenie trwa nadal: tak / nie

3. Użyte narzędzie AI:
- Nazwa narzędzia / usługi:
- Wersja lub środowisko (jeśli znane):
- Sposób dostępu (przeglądarka, aplikacja, wtyczka, API):

4. Opis zdarzenia:
- Co dokładnie się wydarzyło:
- W jakim kontekście służbowym użyto AI:
- Na jakim etapie zauważono problem:

5. Jakie informacje były zaangażowane:
- Rodzaj danych lub treści:
- Czy występowały dane osobowe: tak / nie / nie wiem
- Czy występowały informacje poufne lub wewnętrzne: tak / nie / nie wiem

6. Skutki lub możliwe ryzyko:
- Co mogło zostać ujawnione, przetworzone błędnie lub wykorzystane niezgodnie z zasadami:
- Kogo lub czego może dotyczyć problem:

7. Działania podjęte bezpośrednio po wykryciu:
- Przerwanie pracy z narzędziem: tak / nie
- Usunięcie danych / zamknięcie sesji / odłączenie narzędzia: 
- Powiadomione osoby lub zespoły:

8. Załączniki i dowody:
- Zrzuty ekranu:
- Treść promptu / odpowiedzi:
- Identyfikatory sesji / logi / linki:
- Inne materiały:

9. Dodatkowe uwagi:
- Informacje, które mogą pomóc w ocenie zdarzenia:

Jak pisać opis zdarzenia

Największą wartość ma opis oparty na obserwacjach. Powinien być prosty i chronologiczny. Dobrze sprawdza się układ:

  • co zrobiłem lub próbowałem zrobić,
  • jakiego narzędzia użyłem,
  • co pojawiło się w odpowiedzi lub co poszło nieprawidłowo,
  • dlaczego uznałem to za incydent lub sytuację ryzykowną.

Warto unikać sformułowań nieprecyzyjnych, takich jak „system chyba coś wysłał” lub „wydaje mi się, że dane wyciekły”, jeśli nie ma na to potwierdzenia. Lepsze będą zdania typu: „Po wklejeniu treści dokumentu narzędzie wygenerowało odpowiedź zawierającą fragmenty informacji, które uznałem za wewnętrzne”.

Jakie dowody dołączyć

Do zgłoszenia warto dołączyć tylko te materiały, które pomagają odtworzyć zdarzenie. Nie należy przy tym niepotrzebnie powielać wrażliwych danych. Jeśli materiał zawiera informacje poufne, powinien być przekazany zgodnie z przyjętym w organizacji sposobem zabezpieczania załączników.

  • zrzuty ekranu pokazujące narzędzie, komunikaty, odpowiedzi lub ustawienia,
  • treść promptu i wygenerowanej odpowiedzi, o ile można ją bezpiecznie przekazać,
  • link do rozmowy, identyfikator sesji lub numer zgłoszenia systemowego, jeśli narzędzie je udostępnia,
  • daty, godziny i sekwencję działań, jeśli nie wynikają wprost ze zrzutów,
  • fragmenty logów technicznych lub komunikatów błędów, jeśli są dostępne,
  • kopię dokumentu lub pliku użytego w zdarzeniu, tylko jeśli jest to konieczne i dopuszczalne,
  • informację o odbiorcach lub zakresie udostępnienia, jeżeli problem dotyczył dalszego przekazania treści.

Czego nie pomijać w materiałach dowodowych

Nawet krótkie zgłoszenie powinno umożliwiać odtworzenie podstawowych faktów. Dlatego warto upewnić się, że w załączonych materiałach widać lub da się ustalić:

  • nazwę użytego narzędzia,
  • moment wystąpienia zdarzenia,
  • treść wejściową i wynik działania AI,
  • komunikaty systemowe lub błędy,
  • zakres danych objętych problemem.

Jeśli pełne załączenie materiału nie jest możliwe, można wskazać miejsce jego bezpiecznego przechowania albo opisać, kto ma do niego dostęp.

Najczęstsze błędy w zgłoszeniach

  • zbyt ogólny opis – bez wskazania, co dokładnie się wydarzyło,
  • brak nazwy narzędzia AI lub sposobu jego użycia,
  • pominięcie czasu zdarzenia,
  • przesyłanie nadmiarowych danych zamiast ograniczenia załączników do niezbędnego minimum,
  • mieszanie faktów z przypuszczeniami,
  • brak informacji o podjętych działaniach po wykryciu problemu.

Dobrze przygotowany wzór zgłoszenia powinien więc wspierać dwie rzeczy jednocześnie: szybkie przekazanie informacji oraz zachowanie materiału potrzebnego do oceny incydentu. Im bardziej uporządkowana forma zgłoszenia, tym łatwiej ograniczyć ryzyko błędów i przyspieszyć reakcję organizacji.

Dobre praktyki zapobiegania: minimalizacja danych, weryfikacja odpowiedzi, dobór narzędzi i dokumentowanie użycia AI

Najskuteczniejszym sposobem ograniczania ryzyka przy korzystaniu z AI jest połączenie czterech prostych zasad: przekazywania jak najmniejszej ilości danych, sprawdzania jakości odpowiedzi, używania właściwego narzędzia do właściwego celu oraz pozostawiania śladu po istotnym użyciu AI. Takie podejście pomaga zmniejszyć ryzyko błędów, ujawnienia informacji i podejmowania decyzji na podstawie niezweryfikowanych treści.

1. Minimalizacja danych

Do narzędzia AI należy wprowadzać tylko te informacje, które są rzeczywiście niezbędne do wykonania zadania. Im mniej danych trafia do systemu, tym mniejsze ryzyko ujawnienia informacji wrażliwych, poufnych lub nadmiarowych.

  • Usuwaj dane osobowe, identyfikatory, numery umów, adresy, dane finansowe i inne szczegóły, jeśli nie są konieczne.
  • Stosuj anonimizację, pseudonimizację albo opis ogólny zamiast pełnych danych źródłowych.
  • Nie kopiuj całych dokumentów, gdy wystarczy krótki fragment lub streszczenie problemu.
  • Oddzielaj treść zadania od danych operacyjnych firmy, jeśli model nie musi ich znać.
  • Przygotowuj wersje robocze materiałów przeznaczone specjalnie do pracy z AI, pozbawione zbędnych szczegółów.

W praktyce oznacza to, że AI powinna otrzymywać minimum informacji potrzebnych do uzyskania użytecznej odpowiedzi, a nie pełny kontekst biznesowy „na wszelki wypadek”.

2. Weryfikacja odpowiedzi AI

Odpowiedź wygenerowana przez AI nie powinna być traktowana automatycznie jako poprawna, kompletna ani aktualna. Narzędzia tego typu mogą tworzyć treści pozornie wiarygodne, ale zawierające błędy rzeczowe, uproszczenia lub pominięcia.

  • Sprawdzaj fakty, liczby, cytaty, podstawy prawne i odniesienia do procedur wewnętrznych.
  • Porównuj odpowiedź z wiarygodnym źródłem, dokumentacją lub wiedzą ekspercką.
  • Zwracaj uwagę, czy wynik nie zawiera zbyt daleko idących rekomendacji lub pewnych stwierdzeń bez uzasadnienia.
  • W przypadku treści mających wpływ na klientów, pracowników, finanse, bezpieczeństwo lub zgodność, zapewnij dodatkową kontrolę człowieka.
  • Traktuj AI jako wsparcie w analizie, redakcji i porządkowaniu informacji, a nie jako samodzielnego decydenta.

Szczególnej ostrożności wymagają odpowiedzi wykorzystywane w komunikacji zewnętrznej, ocenie ryzyka, interpretacji przepisów, analizach kadrowych, finansowych i technicznych oraz wszędzie tam, gdzie błąd może wywołać realne skutki organizacyjne.

3. Dobór narzędzi do rodzaju zadania

Nie każde narzędzie AI nadaje się do każdego zastosowania. Podstawowa zasada brzmi: wybieraj rozwiązanie zgodne z przeznaczeniem zadania, klasą danych i wymaganiami organizacji. Inne narzędzie może być odpowiednie do redakcji neutralnego tekstu, a inne do pracy na materiałach wewnętrznych.

  • Do zadań niskiego ryzyka używaj wyłącznie narzędzi dopuszczonych przez organizację.
  • Nie przenoś danych służbowych do prywatnych kont, nieautoryzowanych aplikacji ani przypadkowo znalezionych usług online.
  • Sprawdzaj, czy dane narzędzie jest przeznaczone do pracy firmowej, czy raczej do użytku ogólnego.
  • Zwracaj uwagę na ustawienia prywatności, retencję danych i sposób wykorzystania treści wprowadzanych przez użytkownika.
  • Jeśli zadanie dotyczy treści szczególnie wrażliwych, wybieraj rozwiązania o podwyższonym poziomie kontroli i ograniczonym zakresie danych.

Dobór narzędzia nie powinien wynikać wyłącznie z wygody lub popularności. Kluczowe są: rodzaj danych, cel użycia, poziom ryzyka i zgodność z zasadami organizacji.

4. Dokumentowanie użycia AI

W przypadku zadań istotnych biznesowo warto odnotować, że AI została użyta, w jakim celu i jaki był zakres wsparcia. Taka praktyka zwiększa przejrzystość, ułatwia ocenę jakości pracy oraz pomaga ustalić, jak powstał dany materiał lub rekomendacja.

  • Zapisuj, do czego użyto AI, na przykład: szkic tekstu, podsumowanie dokumentu, propozycje wariantów lub analiza pomocnicza.
  • Wskazuj, kto zweryfikował wynik i zatwierdził jego dalsze użycie.
  • Odnotowuj, czy odpowiedź została zmodyfikowana, skrócona lub poprawiona przez człowieka.
  • Przechowuj istotne wersje robocze, jeśli mają znaczenie dla procesu decyzyjnego, jakości lub rozliczalności.
  • Nie dokumentuj więcej, niż to potrzebne, ale zachowuj wystarczający ślad do odtworzenia sposobu działania.

Nie chodzi o tworzenie nadmiernej biurokracji, lecz o zachowanie rozsądnej rozliczalności. Jeżeli AI wpływa na treść dokumentu, rekomendację lub sposób realizacji zadania, powinno to być możliwe do ustalenia po czasie.

5. Codzienne nawyki, które zmniejszają ryzyko

  • Zawsze czytaj prompt przed wysłaniem i usuń z niego zbędne informacje.
  • Nie działaj automatycznie — zatrzymaj się, jeśli zadanie wydaje się nietypowe lub zbyt wrażliwe.
  • Ograniczaj kopiowanie danych między systemami.
  • Weryfikuj wynik przed przekazaniem go dalej, nawet jeśli brzmi profesjonalnie.
  • Stosuj zasadę adekwatności: im wyższe ryzyko zadania, tym większa ostrożność i kontrola człowieka.
  • Korzystaj z AI do przyspieszania pracy, ale nie do omijania zasad bezpieczeństwa, poufności i odpowiedzialności.

Dobre praktyki zapobiegania nie polegają na całkowitym unikaniu AI, lecz na świadomym używaniu jej w sposób proporcjonalny do celu i ryzyka. Najbezpieczniejsze wykorzystanie AI to takie, które łączy oszczędność danych, krytyczne myślenie, właściwy dobór narzędzia i przejrzystość działania.

💡 Pro tip: Zanim wyślesz prompt, zrób szybki test 4 pytań: czy podałem minimum danych, czy używam właściwego narzędzia, kto zweryfikuje wynik i czy zostanie ślad po użyciu AI. Ta 30-sekundowa kontrola znacząco zmniejsza ryzyko błędów, wycieku informacji i niejasnej odpowiedzialności.

Case studies: HR i obsługa oraz ryzyka wysyłania dokumentów do publicznych narzędzi AI

W obszarach HR i obsługi klienta wykorzystanie AI może przynosić korzyści organizacyjne, ale jednocześnie podnosi poziom ryzyka prawnego, operacyjnego i reputacyjnego. Zasada „stop i konsultuj” ma tu szczególne znaczenie, ponieważ narzędzia AI bywają używane przy czynnościach wpływających na ludzi, ich dane oraz decyzje o istotnych skutkach.

W HR AI najczęściej pojawia się przy wstępnej analizie CV, porządkowaniu aplikacji, tworzeniu projektów ogłoszeń, podsumowywaniu informacji o kandydatach, analizie ankiet pracowniczych lub wspieraniu procesów oceny. Podstawowa różnica względem innych zastosowań polega na tym, że AI może pośrednio wpływać na rekrutację, ocenę pracownika, awans, dostęp do szkoleń lub zakończenie współpracy. Jeśli narzędzie ma być użyte nie tylko pomocniczo, ale w sposób wpływający na ocenę osoby, trzeba natychmiast przerwać samodzielne działanie i skonsultować to wewnętrznie.

  • Przykład 1: rekrutacja. Pracownik HR wkleja do narzędzia AI pełne CV kandydatów, aby uzyskać ranking „najlepszych osób”. Taka sytuacja wymaga zatrzymania pracy, ponieważ pojawia się ryzyko użycia danych osobowych w niewłaściwym narzędziu, ryzyko automatyzowania selekcji bez odpowiednich zasad oraz ryzyko błędnej lub stronniczej oceny.
  • Przykład 2: ocena pracownika. Menedżer prosi AI o przygotowanie uzasadnienia niskiej oceny okresowej na podstawie notatek zawierających dane o wynikach, zachowaniu i absencjach. Należy przerwać użycie AI, jeśli narzędzie nie jest wyraźnie dopuszczone do takich danych albo jeśli wynik miałby stanowić podstawę decyzji kadrowej.
  • Przykład 3: analiza nastrojów. Ktoś wykorzystuje AI do interpretacji anonimowych lub półanonimowych komentarzy pracowników. Nawet gdy celem jest raport zbiorczy, trzeba zachować ostrożność, bo wypowiedzi mogą umożliwiać identyfikację osób lub prowadzić do nieuprawnionych wniosków.

W obsłudze klienta AI bywa stosowana do tworzenia odpowiedzi, streszczania zgłoszeń, klasyfikowania spraw, wspierania konsultantów i obsługi prostych zapytań. Różnica względem HR polega na tym, że ryzyko częściej dotyczy jakości komunikacji, ujawnienia informacji klienta, błędnych instrukcji oraz podejmowania decyzji wpływających na prawa lub sytuację klienta. Nawet jeśli AI działa tylko jako pomoc dla konsultanta, nie powinna samodzielnie formułować wiążących odpowiedzi bez kontroli człowieka tam, gdzie sprawa jest istotna, sporna lub wrażliwa.

  • Przykład 4: odpowiedź dla klienta. Konsultant wkleja pełną historię zgłoszenia wraz z numerem umowy, danymi kontaktowymi i opisem problemu do publicznego narzędzia AI, aby szybciej przygotować odpowiedź. To sygnał do natychmiastowego wstrzymania działania, ponieważ może dojść do ujawnienia danych i wykorzystania niezatwierdzonego rozwiązania.
  • Przykład 5: reklamacja lub spór. AI proponuje odpowiedź odrzucającą reklamację albo sugeruje interpretację zapisów umowy. Gdy odpowiedź może mieć skutki prawne, finansowe lub reputacyjne, nie należy jej wysyłać bez konsultacji i weryfikacji.
  • Przykład 6: instrukcja dla klienta. Narzędzie AI generuje poradę, która wydaje się pomocna, ale może być błędna lub niepełna. Jeśli błąd mógłby zaszkodzić klientowi albo naruszyć obowiązki organizacji, trzeba przerwać proces i sprawdzić treść poza AI.

Szczególnym obszarem ryzyka jest wysyłanie dokumentów do publicznych narzędzi AI. Dotyczy to nie tylko dokumentów oznaczonych jako poufne, ale także materiałów, które pozornie wydają się zwykłe: CV, notatek ze spotkań, skanów pism, raportów wewnętrznych, reklamacji, umów, procedur, zestawień wyników czy korespondencji e-mail. Publiczne narzędzia mogą działać na warunkach, które nie są zgodne z wymaganiami organizacji, a użytkownik nie zawsze ma pewność, gdzie dane trafiają, jak długo są przechowywane i do jakich celów mogą być użyte.

  • Ryzyko utraty kontroli nad danymi. Po wklejeniu treści do publicznego systemu organizacja może nie mieć realnej kontroli nad dalszym przetwarzaniem informacji.
  • Ryzyko ujawnienia danych osobowych. Dokument może zawierać dane kandydatów, pracowników, klientów, kontrahentów lub innych osób, nawet jeśli nie jest to od razu widoczne.
  • Ryzyko ujawnienia tajemnicy przedsiębiorstwa. W dokumentach mogą znajdować się informacje handlowe, operacyjne, projektowe lub negocjacyjne.
  • Ryzyko błędnej interpretacji. AI może nieprawidłowo streścić dokument, pominąć istotne zastrzeżenia albo nadać treści znaczenie, którego nie miała.
  • Ryzyko nieuprawnionego wykorzystania wyniku. Użytkownik może potraktować odpowiedź AI jak gotową podstawę do decyzji, mimo że narzędzie nie zna kontekstu organizacyjnego ani wymogów formalnych.

W praktyce sygnałem alarmowym jest każda sytuacja, w której AI ma otrzymać oryginalny dokument, pełną korespondencję, zestaw danych osobowych, treść umowy, materiał kadrowy lub opis sprawy klienta. Dotyczy to także zrzutów ekranu, plików PDF, zdjęć dokumentów i eksportów z systemów. Jeśli użytkownik nie ma jednoznacznej pewności, że dane narzędzie jest zatwierdzone do takiego celu, należy przerwać działanie i nie przesyłać materiału.

Najważniejsza praktyczna różnica między bezpiecznym wsparciem a ryzykownym użyciem AI polega na tym, czy narzędzie służy jedynie do neutralnej pomocy redakcyjnej na danych odpowiednio ograniczonych, czy też przetwarza rzeczywiste dokumenty i informacje o osobach, a jego wynik wpływa na decyzję wobec kandydata, pracownika lub klienta. W tym drugim przypadku zasada „stop i konsultuj” powinna być stosowana bez wahania.

Jeśli chcesz poznać więcej takich przykładów, zapraszamy na szkolenia Cognity, gdzie rozwijamy ten temat w praktyce.

Majczęściej zadawane pytania i odpowiedzi odnośnie Kiedy przerwać pracę i skonsultować wykorzystanie AI – procedury i ścieżki eskalacji

Kiedy trzeba natychmiast przerwać korzystanie z AI w pracy?

Pracę z AI trzeba przerwać natychmiast, gdy pojawia się poważna wątpliwość dotycząca danych, narzędzia, celu użycia albo skutków odpowiedzi. Dotyczy to zwłaszcza sytuacji z danymi poufnymi, niezatwierdzonym narzędziem, podejrzeniem incydentu, ryzykiem błędnej decyzji lub odpowiedzią AI, która wydaje się szkodliwa, myląca albo niezgodna z zasadami.

Do kogo zgłosić problem z użyciem AI w firmie?

Problem z użyciem AI zgłasza się do przełożonego oraz do właściwej funkcji specjalistycznej zależnie od rodzaju ryzyka. Najprostszy podział wygląda tak:

  • przełożony – gdy problem wpływa na pracę lub decyzje,
  • IT – gdy dotyczy narzędzia, dostępu lub integracji,
  • bezpieczeństwo informacji – gdy zagrożona jest poufność,
  • IOD – gdy występują dane osobowe,
  • prawny lub compliance – gdy pojawia się ryzyko prawne, umowne lub regulacyjne.
Czy samo podejrzenie wycieku danych przez narzędzie AI trzeba eskalować?

Tak, samo podejrzenie wycieku lub nieuprawnionego ujawnienia danych wymaga zgłoszenia. Nie trzeba czekać na pełne potwierdzenie, bo zwłoka może zwiększyć skalę skutków. Jeśli AI zwróciła cudze informacje, historia czatu trafiła do niewłaściwej osoby albo narzędzie zapisało dane w nieoczekiwanym miejscu, należy zatrzymać pracę i uruchomić ścieżkę zgłoszeniową.

Co zrobić w pierwszych 15 minutach po incydencie związanym z AI?

W pierwszych 15 minutach trzeba zatrzymać działanie, zabezpieczyć podstawowe dowody i zgłosić incydent. Najważniejsze kroki to:

  • przerwać użycie narzędzia i nie wysyłać kolejnych danych,
  • zabezpieczyć ekran, odpowiedź AI i kontekst zdarzenia,
  • nie usuwać historii, plików ani logów,
  • wstrzymać dalsze użycie wygenerowanego materiału,
  • powiadomić właściwe osoby lub zespoły.
Jak odróżnić zwykły błąd roboczy AI od sytuacji wymagającej eskalacji?

Zwykły błąd roboczy można poprawić samodzielnie, a eskalacji wymaga sytuacja niosąca ryzyko dla danych, decyzji lub zgodności. Literówka albo słabsze sformułowanie zwykle nie uruchamia formalnej ścieżki. Inaczej jest wtedy, gdy użyto niezatwierdzonego narzędzia, wpisano dane poufne, odpowiedź AI może szkodzić albo wynik wpływa na ważną decyzję.

Czy można używać AI do decyzji kadrowych, finansowych lub prawnych?

AI nie powinna samodzielnie wpływać na decyzje istotne bez wcześniejszej konsultacji i odpowiedniej kontroli człowieka. Szczególnej ostrożności wymagają sprawy kadrowe, finansowe, zakupowe, reklamacyjne i formalne. Jeżeli wynik AI przestaje być tylko pomocą redakcyjną lub analityczną, a zaczyna realnie wpływać na rozstrzygnięcie, poziom ryzyka wyraźnie rośnie i trzeba zatrzymać proces.

Jakie informacje powinno zawierać zgłoszenie incydentu związanego z AI?

Zgłoszenie incydentu AI powinno zawierać krótki, rzeczowy opis zdarzenia oraz podstawowe dane potrzebne do oceny ryzyka. Najczęściej obejmuje ono datę i godzinę, dane zgłaszającego, nazwę narzędzia, opis sytuacji, rodzaj użytych danych, możliwe skutki, działania podjęte po wykryciu problemu oraz dołączone dowody, takie jak zrzuty ekranu, prompty lub odpowiedzi modelu.

Jak ograniczyć ryzyko przy codziennym korzystaniu z AI w firmie?

Ryzyko przy codziennym użyciu AI ogranicza przede wszystkim minimalizacja danych, weryfikacja odpowiedzi, dobór właściwego narzędzia i dokumentowanie istotnych zastosowań. W praktyce warto przekazywać tylko niezbędne informacje, sprawdzać poprawność wygenerowanych treści, nie używać prywatnych lub niezatwierdzonych rozwiązań do pracy oraz zostawiać ślad po użyciu AI tam, gdzie wynik ma znaczenie biznesowe.

icon

Formularz kontaktowyContact form

Imię *Name
NazwiskoSurname
Adres e-mail *E-mail address
Telefon *Phone number
UwagiComments