Kurs AI Act w praktyce – compliance, ryzyka i obowiązki

1. AI Act – aktualny kontekst regulacyjny i znaczenie dla organizacji

• czym jest AI Act i dlaczego ma znaczenie dla firm, instytucji oraz działów IT,
• zakres regulacji – kogo dotyczą przepisy: dostawcy, wdrażający, importerzy, dystrybutorzy i użytkownicy systemów AI,
• aktualny harmonogram wdrażania AI Act:
  • wejście w życie AI Act,
  • zakazane praktyki AI i obowiązki w zakresie AI literacy,
  • obowiązki dotyczące modeli ogólnego przeznaczenia / GPAI,
  • pełniejsze stosowanie przepisów od 2 sierpnia 2026 r.,
  • przepisy przejściowe dla wybranych systemów wysokiego ryzyka,
• AI Act a inne regulacje: RODO, NIS2, DSA, Data Act, Cyber Resilience Act,
• znaczenie AI Act dla organizacji korzystających z narzędzi takich jak ChatGPT, Copilot, Gemini, Claude, Perplexity, narzędzia graficzne AI i systemy automatyzacji.

2. Klasyfikacja systemów AI według poziomu ryzyka

• podejście risk-based approach – główna logika AI Act,
• systemy AI o niedopuszczalnym ryzyku – praktyki zakazane,
• systemy wysokiego ryzyka – przykłady zastosowań w HR, edukacji, finansach, usługach publicznych, infrastrukturze krytycznej i bezpieczeństwie,
• systemy ograniczonego ryzyka – obowiązki informacyjne i transparentność,
• systemy minimalnego ryzyka – dobre praktyki mimo braku rozbudowanych obowiązków formalnych,
• jak przeprowadzić wstępną klasyfikację systemu AI w organizacji,
• ćwiczenie: ocena przykładowych zastosowań AI pod kątem kategorii ryzyka.

3. Obowiązki organizacji korzystających z AI

• rola organizacji jako deployera, użytkownika lub dostawcy systemu AI,
• obowiązki w zakresie nadzoru człowieka nad systemem AI,
• dokumentacja, instrukcje użycia i rejestry systemów AI,
• monitoring działania systemów AI po wdrożeniu,
• zasady korzystania z modeli ogólnego przeznaczenia / GPAI,
• odpowiedzialność za decyzje wspierane przez AI,
• znaczenie AI literacy – obowiązek zapewnienia odpowiedniego poziomu kompetencji osób korzystających z AI,
• jak przygotować organizację do audytu zgodności z AI Act.

4. AI Act, RODO i ochrona danych

• przetwarzanie danych osobowych w systemach AI,
• dane wrażliwe, dane poufne i dane organizacyjne – czego nie wolno przekazywać do narzędzi AI,
• podstawy prawne przetwarzania danych w kontekście AI,
• profilowanie, automatyczne podejmowanie decyzji i prawa osób fizycznych,
• minimalizacja danych i privacy by design,
• AI a tajemnica przedsiębiorstwa, know-how i informacje poufne,
• ocena skutków dla ochrony danych / DPIA w projektach AI,
• praktyczne przykłady naruszeń i błędów związanych z przekazywaniem danych do modeli AI.

5. Cyberbezpieczeństwo AI i nowe wektory ataków

• zagrożenia wynikające z wykorzystania narzędzi generatywnej AI,
• Prompt injection – czym jest i dlaczego stanowi ryzyko dla organizacji,
• Data leakage – wycieki danych przez narzędzia AI,
• Shadow AI – niekontrolowane korzystanie z narzędzi AI przez pracowników,
• Phishing, spear phishing i socjotechnika wspierana przez AI,
• Deepfake, voice cloning i manipulacje treściami multimedialnymi,
• ataki na modele AI: poisoning, evasion, model extraction, jailbreak,
• ryzyka związane z integracją AI z pocztą, CRM, ERP, dokumentami i bazami wiedzy,
• bezpieczeństwo agentów AI i automatyzacji wykonujących działania w imieniu użytkownika,
• dobre praktyki ograniczania ryzyka cyberataków z wykorzystaniem AI.

6. Higiena pracy z AI – bezpieczne korzystanie z narzędzi generatywnych

• zasady odpowiedzialnego korzystania z ChatGPT, Copilot, Claude, Gemini i innych narzędzi AI,
• bezpieczne tworzenie promptów,
• jak anonimizować i pseudonimizować dane przed użyciem AI,
• jak rozpoznawać sytuacje, w których nie należy używać publicznych narzędzi AI,
• weryfikacja odpowiedzi AI – halucynacje, błędy, fałszywe źródła i ryzyko automatycznego zaufania,
• praca z dokumentami, kodem, danymi finansowymi, danymi klientów i danymi pracowników,
• zasady korzystania z AI w komunikacji zewnętrznej i wewnętrznej,
• praktyczna checklista bezpiecznej pracy z AI.

7. Zarządzanie ryzykiem AI w organizacji

• identyfikacja i ocena ryzyk AI,
• mapa ryzyk: prawne, technologiczne, reputacyjne, operacyjne, etyczne i cyberbezpieczeństwa,
• Risk assessment dla projektów AI – jak go przeprowadzić,
• mechanizmy kontroli i minimalizacji ryzyka,
• Human oversight – kiedy i jak człowiek powinien nadzorować AI,
• testowanie systemów AI przed wdrożeniem,
• monitorowanie skuteczności, jakości i bezpieczeństwa działania AI,
• Incident management – jak reagować na incydenty związane z AI.

8. Polityki, procedury i governance AI

• jak stworzyć politykę korzystania z AI w organizacji,
• zasady dopuszczania narzędzi AI do użytku służbowego,
• rejestr wykorzystywanych systemów AI,
• podział odpowiedzialności: IT, compliance, prawny, HR, bezpieczeństwo, biznes,
• standardy dla zakupów i wdrożeń rozwiązań AI,
• kryteria wyboru dostawców AI,
• umowy z dostawcami AI – najważniejsze zapisy z perspektywy bezpieczeństwa i zgodności,
• procedury akceptacji nowych przypadków użycia AI,
• dokumentacja zgodności i gotowość audytowa.

9. Etyka, transparentność i odpowiedzialność AI

• odpowiedzialne wykorzystanie AI przez pracowników,
• bias i dyskryminacja w systemach AI,
• wyjaśnialność decyzji wspieranych przez AI,
• transparentność wobec klientów, pracowników i użytkowników,
• oznaczanie treści generowanych przez AI,
• etyczne granice automatyzacji,
• odpowiedzialność organizacji za skutki użycia AI,
• budowanie zaufania do AI w organizacji.

10. Budowanie kultury AI w organizacji

• jak rozwijać świadomość i kompetencje AI wśród pracowników,
• AI literacy jako element kultury organizacyjnej,
• rola działu IT, compliance i kadry zarządzającej,
• edukacja pracowników w zakresie bezpieczeństwa, regulacji i praktycznego wykorzystania AI,
• jak ograniczać chaos narzędziowy i shadow AI,
• tworzenie wewnętrznych standardów, bibliotek promptów i zasad akceptacji narzędzi,
• komunikacja zasad korzystania z AI w organizacji,
• model dojrzałości AI – od eksperymentów do kontrolowanego wdrożenia.

11. Warsztat praktyczny – ocena ryzyka i zgodności wybranych zastosowań AI

• analiza przykładowych przypadków użycia AI w organizacji,
• klasyfikacja systemu według poziomu ryzyka,
• identyfikacja danych przetwarzanych przez system,
• ocena ryzyk prawnych, bezpieczeństwa i reputacji,
• dobór środków kontrolnych i organizacyjnych,
• przygotowanie rekomendacji dla organizacji,
• omówienie wyników i dobrych praktyk.