Kurs Bezpieczne wykorzystanie AI – szkolenie z bezpieczeństwa dla pracowników

1. AI w pracy biurowej – zastosowania i obszary ryzyka

• czym są narzędzia oparte na sztucznej inteligencji i jak działają,
• najczęstsze zastosowania AI w codziennej pracy biurowej:
  • tworzenie i redagowanie wiadomości e-mail,
  • przygotowywanie pism, raportów i notatek,
  • streszczanie dokumentów,
  • tłumaczenie treści,
  • analiza danych i dokumentów,
  • przygotowywanie prezentacji,
  • generowanie pomysłów i rekomendacji,
  • automatyzacja powtarzalnych zadań,
• różnice pomiędzy publicznymi, bezpłatnymi narzędziami AI a rozwiązaniami firmowymi,
• identyfikowanie momentów, w których wykorzystanie AI może powodować ryzyko,
• odpowiedzialność pracownika za treści przygotowane z wykorzystaniem AI,
• przykłady bezpiecznego i niebezpiecznego wykorzystania AI w praktyce biznesowej.

2. Dane, poufność i bezpieczna praca z dokumentami

• jakie informacje można przekazywać do narzędzi AI,
• jakich danych nie należy wprowadzać do publicznie dostępnych modeli AI,
• kategorie informacji wymagających szczególnej ochrony:
  • dane osobowe,
  • dane szczególnych kategorii,
  • informacje finansowe,
  • informacje o klientach i kontrahentach,
  • dane pracowników,
  • tajemnica przedsiębiorstwa,
  • informacje handlowe i strategiczne,
  • dane dostępowe, hasła i informacje techniczne.
• bezpieczna praca z wykorzystaniem AI przy:
  • ofertach handlowych,
  • umowach,
  • dokumentacji projektowej,
  • raportach,
  • korespondencji z klientami,
  • dokumentach kadrowych i finansowych,
• zasady anonimizacji i pseudonimizacji danych,
• usuwanie danych identyfikujących osoby, klientów, projekty i organizację,
• ograniczanie zakresu informacji przekazywanych do narzędzia AI,
• sprawdzanie regulaminów, ustawień prywatności i zasad przetwarzania danych przez dostawcę narzędzia,
• ochrona danych osobowych, informacji poufnych i tajemnicy przedsiębiorstwa.

3. Najczęstsze ryzyka związane z korzystaniem z AI

• halucynacje modeli AI:
  • czym są,
  • dlaczego powstają,
  • jak je rozpoznawać,
  • jak ograniczać ich wpływ.
• generowanie informacji błędnych, niepełnych lub nieaktualnych.
• tworzenie nieistniejących:
  • przepisów,
  • źródeł,
  • danych,
  • cytatów,
  • dokumentów,
  • orzeczeń i interpretacji,
• nadmierne zaufanie do wyników generowanych przez AI,
• ryzyko podejmowania decyzji wyłącznie na podstawie odpowiedzi modelu,
• ryzyko ujawnienia lub utraty kontroli nad danymi,
• zagrożenia związane z przesyłaniem plików i dokumentów do narzędzi AI,
• ryzyka prawne:
  • naruszenie ochrony danych osobowych,
  • naruszenie poufności,
  • naruszenie praw autorskich,
  • wykorzystanie treści bez odpowiedniej weryfikacji,
  • odpowiedzialność za treść dokumentów,
• ryzyka organizacyjne:
  • korzystanie z niezatwierdzonych narzędzi,
  • brak spójnych zasad,
  • shadow AI,
  • niekontrolowane tworzenie kont i integracji,
• ryzyka wizerunkowe związane z publikowaniem błędnych lub nieodpowiednich treści,
• znaczenie kontroli człowieka nad procesem tworzenia, oceny i zatwierdzania treści.

4. Weryfikacja odpowiedzi generowanych przez AI

• zasada ograniczonego zaufania do wyników AI,
• metody sprawdzania poprawności odpowiedz,
• weryfikowanie informacji w wiarygodnych i aktualnych źródłach,
• sprawdzanie:
  • liczb i obliczeń,
  • dat,
  • nazw,
  • przepisów,
  • źródeł,
  • cytatów,
  • danych klientów,
  • warunków umownych,
• oddzielanie faktów od opinii i przypuszczeń modelu,
• rozpoznawanie odpowiedzi pozornie profesjonalnych, ale niepoprawnych,
• stosowanie pytań kontrolnych i promptów weryfikujących,
• dokumentowanie udziału AI w przygotowaniu materiału,
• określenie, które treści wymagają zatwierdzenia przez człowieka.

5. Praktyczne przykłady wykorzystania AI w pracy biurowej

• przygotowanie wiadomości e-mail na podstawie ogólnych, niepoufnych informacji,
• redagowanie pisma zawierającego dane klienta,
• streszczenie umowy lub dokumentacji projektowej,
• tłumaczenie dokumentu zawierającego informacje poufne,
• analiza arkusza z danymi pracowników lub klientów,
• przygotowanie oferty handlowej,
• tworzenie raportu na podstawie danych wewnętrznych,
• generowanie prezentacji na spotkanie z klientem,
• opracowanie odpowiedzi na reklamację,
• przygotowanie rekomendacji lub decyzji na podstawie odpowiedzi AI,
• korzystanie z AI podczas rekrutacji, oceny pracowników lub obsługi klienta,
• przesyłanie dokumentów do publicznych narzędzi AI.

Dla każdego przykładu omówienie:

• co można zrobić bezpiecznie,
• jakie dane należy usunąć lub zmienić,
• co wymaga szczególnej ostrożności,
• czego należy unikać,
• jakie elementy trzeba zweryfikować,
• kiedy potrzebna jest zgoda lub konsultacja.

6. Kiedy należy przerwać pracę i skonsultować wykorzystanie AI

• sytuacje wymagające konsultacji z przełożonym,
• sytuacje wymagające kontaktu z działem IT,
• sytuacje wymagające konsultacji z działem bezpieczeństwa informacji,
• sytuacje wymagające konsultacji z inspektorem ochrony danych,
• sytuacje wymagające konsultacji z działem prawnym lub compliance,
• postępowanie w przypadku:
  • przypadkowego wprowadzenia danych poufnych,
  • udostępnienia dokumentu niewłaściwemu narzędziu,
  • podejrzenia wycieku informacji,
  • otrzymania błędnej lub szkodliwej odpowiedzi,
  • wykorzystania AI do podjęcia istotnej decyzji,
  • wykrycia naruszenia zasad bezpieczeństwa.

7. Minimalne zasady korzystania z AI przed wdrożeniem polityki AI

• korzystanie wyłącznie z narzędzi zaakceptowanych przez organizację,
• zakaz wprowadzania danych poufnych do publicznych narzędzi AI,
• stosowanie zasady minimalizacji danych,
• anonimizowanie przykładów i dokumentów,
• obowiązkowa weryfikacja treści wygenerowanych przez AI,
• zakaz podejmowania istotnych decyzji wyłącznie na podstawie odpowiedzi AI,
• zachowanie kontroli człowieka nad procesem,
• oznaczanie treści przygotowanych przy wsparciu AI, gdy jest to wymagane,
• konsultowanie zastosowań budzących wątpliwości,
• nieinstalowanie niezatwierdzonych dodatków, rozszerzeń i integracji,
• ochrona kont, haseł i danych dostępowych,
• reagowanie na incydenty i zgłaszanie nieprawidłowości,
• regularne aktualizowanie wiedzy pracowników.

8. Rekomendacje organizacyjne i techniczne

• przygotowanie tymczasowej instrukcji korzystania z AI,
• stworzenie listy zatwierdzonych i niedozwolonych narzędzi,
• określenie kategorii danych, których nie można przekazywać do AI,
• wyznaczenie osób lub komórek odpowiedzialnych za konsultacje,
• wprowadzenie prostego procesu zgłaszania nowych zastosowań AI,
• ustalenie zasad korzystania z kont służbowych i prywatnych,
• ograniczenie możliwości przesyłania plików do publicznych narzędzi,
• zarządzanie dostępami, integracjami i rozszerzeniami,
• wprowadzenie obowiązkowej weryfikacji wyników w procesach podwyższonego ryzyka,
• prowadzenie rejestru wykorzystywanych narzędzi i przypadków użycia AI,
• przygotowanie organizacji do opracowania i wdrożenia formalnej polityki AI.

9. Ćwiczenia praktyczne

• ocena przykładowych sytuacji według schematu:
  • bezpieczne,
  • dozwolone po anonimizacji,
  • wymagające konsultacji,
  • niedozwolone,
• wyszukiwanie danych poufnych w przykładowych promptach,
• anonimizacja dokumentu przed przekazaniem do narzędzia AI,
• rozpoznawanie błędów i halucynacji w odpowiedziach AI,
• weryfikacja przykładowej odpowiedzi wygenerowanej przez model,
• opracowanie bezpiecznej wersji promptu,
• analiza przypadku przypadkowego ujawnienia informacji,
• przygotowanie krótkiej listy zasad bezpiecznego korzystania z AI dla pracowników.

10. Podsumowanie i sesja pytań i odpowiedzi

• najważniejsze zasady bezpiecznego korzystania z AI,
• lista kontrolna przed użyciem narzędzia AI,
• lista kontrolna przed wykorzystaniem lub publikacją wygenerowanej treści,
• omówienie pytań i przypadków zgłoszonych przez uczestników,
• sesja pytań i odpowiedzi,