Kurs Cyberbezpieczeństwo AI – Security Lab: bezpieczna AI w organizacji, ochrona danych i odpowiedzialne wykorzystanie narzędzi GenAI

Proces szkoleniowy

Analiza potrzeb szkoleniowych

Jeśli masz życzenie dotyczące programu szkolenia, przeprowadzimy dla Ciebie analizę potrzeb szkoleniowych, która będzie wskazówką dla nas, na jakie aspekty programu położyć większy nacisk – tak, by program szkolenia spełniał konkretne potrzeby.

Co zyskujesz?

Rozpoznasz ryzyka AI - Nauczysz się odróżniać realne zagrożenia związane z GenAI od marketingowych obietnic, dzięki czemu szybciej ocenisz, kiedy użycie AI wspiera pracę, a kiedy tworzy ryzyko dla organizacji.

Unikniesz wycieków danych - Dowiesz się, jak nie przekazywać do publicznych modeli danych poufnych, osobowych, finansowych i firmowych, oraz jak bezpiecznie anonimizować materiały przed analizą przez narzędzia AI.

Wykryjesz nowe wektory ataku - Poznasz prompt injection, jailbreaki, złośliwe integracje i ataki na agentów AI, więc łatwiej zauważysz podejrzane zachowania systemów oraz ograniczysz ryzyko kosztownych incydentów.

Będziesz pisać bezpieczne prompty - Przećwiczysz tworzenie promptów, które dają użyteczne odpowiedzi bez ujawniania wrażliwych informacji, pełnych dokumentów czy danych klientów, co poprawi i bezpieczeństwo, i jakość wyników.

Sprawniej ocenisz dane - Nauczysz się klasyfikować informacje przed użyciem AI i stosować prostą listę kontrolną, dzięki której szybko zdecydujesz, czy dany plik, wiadomość lub fragment danych można bezpiecznie wykorzystać.

Lepiej zweryfikujesz odpowiedzi AI - Dowiesz się, jak sprawdzać źródła, obliczenia, podsumowania i rekomendacje generowane przez modele, aby nie opierać działań biznesowych na halucynacjach, błędach lub niepełnych wnioskach.

Świadomie zadbasz o zgodność - Zrozumiesz, jak AI Act, RODO i wewnętrzne polityki wpływają na codzienne korzystanie z narzędzi AI, dzięki czemu łatwiej ustalisz, kiedy potrzebna jest konsultacja z IT, DPO lub działem prawnym.

Wzmocnisz kulturę odpowiedzialnej AI - Zdobędziesz praktyczne zasady bezpiecznego używania AI w komunikacji, analizie i automatyzacji pracy, co pomoże Ci korzystać z nowych narzędzi skutecznie, ale bez obniżania poziomu bezpieczeństwa.

Program szkolenia

1. Wprowadzenie do cyberbezpieczeństwa AI

czym jest generatywna AI i jak zmienia sposób pracy organizacji,
najczęściej wykorzystywane narzędzia AI w środowisku biznesowym,
różnice między publicznymi modelami AI, narzędziami firmowymi i rozwiązaniami wdrażanymi lokalnie,
dlaczego AI staje się nowym obszarem ryzyka dla organizacji,
kluczowe pojęcia: model AI, prompt, dane wejściowe, dane wyjściowe, halucynacje, model publiczny, model prywatny, integracje, agenci AI,
najważniejsze kategorie ryzyk: cyberbezpieczeństwo, dane poufne, własność intelektualna, zgodność regulacyjna, reputacja, błędne decyzje biznesowe.

2. Zagrożenia wynikające z wykorzystania narzędzi generatywnej AI

najczęstsze zagrożenia związane z korzystaniem z AI w pracy zawodowej,
wprowadzanie danych poufnych, osobowych, finansowych i biznesowych do narzędzi AI,
ryzyko nieświadomego ujawnienia informacji objętych tajemnicą przedsiębiorstwa,
halucynacje AI i błędne rekomendacje jako ryzyko operacyjne,
fałszywe treści generowane przez AI: deepfake, phishing, fałszywe dokumenty, fałszywe instrukcje,
automatyczne generowanie złośliwego kodu, wiadomości phishingowych i manipulacyjnych komunikatów,
nadużycia związane z wykorzystaniem AI przez cyberprzestępców,
ryzyka wynikające z korzystania z niezweryfikowanych narzędzi, rozszerzeń, chatbotów i integracji AI,
przykłady incydentów i scenariuszy zagrożeń w organizacji.

3. Nowe wektory ataków związane z wykorzystaniem AI

Prompt injection – czym jest i dlaczego stanowi zagrożenie,
Jailbreak modeli AI i obchodzenie ograniczeń bezpieczeństwa,
ataki na chatboty, agentów AI i systemy zintegrowane z danymi firmowymi,
manipulowanie modelem przez odpowiednio przygotowane dane wejściowe,
wycieki danych przez integracje AI z pocztą, dokumentami, CRM, ERP i bazami wiedzy,
ataki z wykorzystaniem fałszywych poleceń, dokumentów i stron internetowych,
ryzyko automatycznego wykonywania działań przez agentów AI bez wystarczającej kontroli człowieka,
AI w phishingu, social engineeringu i atakach na użytkowników końcowych,
jak rozpoznawać podejrzane działania i nietypowe odpowiedzi systemów AI.

4. Ochrona danych i informacji poufnych podczas pracy z AI

jakie dane nie powinny być przekazywane do publicznych narzędzi AI,
dane osobowe, dane klientów, dane finansowe, dokumentacja wewnętrzna, hasła, tokeny, kody źródłowe i umowy,
klasyfikacja informacji przed użyciem narzędzia AI,
zasady anonimizacji i pseudonimizacji danych,
bezpieczne przygotowanie materiałów do analizy przez AI,
praca z dokumentami firmowymi i załącznikami,
ryzyko kopiowania treści z poczty, komunikatorów i systemów wewnętrznych,
zasady korzystania z AI w pracy z danymi klientów i kontrahentów,
odpowiedzialność użytkownika za dane przekazywane do modelu,
praktyczna lista kontrolna: czy mogę użyć tych danych w narzędziu AI?

5. Higiena pracy z AI

dobre praktyki codziennego korzystania z narzędzi AI,
zasada ograniczonego zaufania do wyników generowanych przez AI,
weryfikacja odpowiedzi, źródeł, obliczeń, rekomendacji i podsumowań,
kiedy AI może wspierać pracę, a kiedy nie powinno zastępować decyzji człowieka,
bezpieczne logowanie, konta firmowe, dostęp do narzędzi i kontrola uprawnień,
korzystanie z zatwierdzonych narzędzi AI zamiast przypadkowych aplikacji internetowych,
ryzyko używania prywatnych kont do celów służbowych,
praca z AI w modelu „człowiek nadzoruje – AI wspiera”,
ograniczanie danych wejściowych do niezbędnego minimum,
dokumentowanie wykorzystania AI w zadaniach biznesowych.

6. Bezpieczne tworzenie i wykorzystywanie promptów

czym jest prompt i jak wpływa na jakość oraz bezpieczeństwo odpowiedzi,
elementy bezpiecznego promptu: cel, kontekst, ograniczenia, format odpowiedzi, wyłączenia,
jak pisać prompty bez ujawniania danych wrażliwych i poufnych,
bezpieczne zastępowanie danych rzeczywistych przykładami lub danymi fikcyjnymi,
promptowanie z wykorzystaniem ról, procedur i zasad bezpieczeństwa,
jak prosić AI o analizę bez przekazywania pełnych dokumentów,
jak ograniczać ryzyko wygenerowania nieprawdziwych, niezgodnych lub ryzykownych treści,
przykłady bezpiecznych i niebezpiecznych promptów,
ćwiczenie: poprawianie ryzykownych promptów i tworzenie bezpiecznych wersji.

7. Identyfikacja ryzyk związanych z przekazywaniem danych do modeli AI

jak ocenić ryzyko przed użyciem AI w konkretnym zadaniu,
matryca ryzyka: rodzaj danych, cel przetwarzania, narzędzie, użytkownik, możliwe skutki,
ryzyka dla danych osobowych i zgodności z RODO,
ryzyka dla tajemnicy przedsiębiorstwa i przewagi konkurencyjnej,
ryzyka dla bezpieczeństwa systemów IT,
ryzyka reputacyjne i prawne,
ryzyka związane z automatyzacją decyzji i rekomendacji,
kiedy wymagana jest konsultacja z IT, bezpieczeństwem, DPO lub działem prawnym,
ćwiczenie: ocena przypadków użycia AI pod kątem ryzyka.

8. AI Act i aspekty regulacyjne

najważniejsze założenia AI Act,
podejście oparte na ryzyku: systemy zakazane, wysokiego ryzyka, ograniczonego ryzyka i minimalnego ryzyka,
rola organizacji jako użytkownika, wdrażającego lub dostawcy rozwiązań AI,
obowiązki dostawców i podmiotów wdrażających systemy AI,
AI literacy – obowiązek rozwijania kompetencji i świadomości AI w organizacji,
wpływ AI Act na organizacje, działy IT, compliance, HR, bezpieczeństwo i zarządzanie danymi,
przejrzystość wykorzystania AI i informowanie użytkowników o interakcji z systemami AI,
znaczenie dokumentowania zastosowań AI, oceny ryzyka i nadzoru człowieka,
relacja AI Act do RODO, cyberbezpieczeństwa, ochrony danych i wewnętrznych polityk organizacyjnych,
praktyczne konsekwencje regulacji dla codziennego korzystania z narzędzi generatywnej AI.

9. Budowanie kultury AI w organizacji

czym jest odpowiedzialna kultura korzystania z AI,
rola pracowników, menedżerów, działu IT, bezpieczeństwa, HR i compliance,
tworzenie zasad korzystania z narzędzi AI w organizacji,
polityka AI: co powinna regulować i jak ją komunikować,
standardy zatwierdzania narzędzi AI i integracji z systemami firmowymi,
zasady korzystania z AI w komunikacji, analizie danych, tworzeniu treści i automatyzacji pracy,
rozwój kompetencji AI w organizacji,
budowanie świadomości ryzyk i dobrych praktyk,
reagowanie na incydenty związane z AI,
jak zachęcać do korzystania z AI bez obniżania poziomu bezpieczeństwa.

Jakie są wymagania wstępne do udziału w szkoleniu?

Podstawy pracy biurowej - Powinieneś swobodnie pracować z pocztą, dokumentami, arkuszami i komunikatorami, ponieważ szkolenie odnosi ryzyka AI do codziennych zadań wykonywanych w środowisku firmowym.

Znajomość danych firmowych - Powinieneś rozumieć, jakie informacje w Twojej pracy mają charakter poufny, osobowy lub biznesowy, aby trafnie oceniać, których danych nie wolno przekazywać do narzędzi AI.

Podstawy cyberhigieny - Powinieneś znać podstawowe zasady bezpiecznego korzystania z kont, haseł, załączników i stron internetowych, bo szkolenie rozwija te praktyki w kontekście narzędzi generatywnej AI.

Gotowość do analizy przypadków - Powinieneś być gotowy analizować przykłady użycia AI i oceniać ich skutki dla pracy oraz danych, ponieważ szkolenie obejmuje ćwiczenia z ryzyka, promptów i decyzji użytkownika.