Kurs Bezpieczeństwo AI: bezpieczne korzystanie z narzędzi i ograniczanie ryzyk

1. Wprowadzenie do bezpieczeństwa sztucznej inteligencji

• czym jest AI i GenAI – podstawowe pojęcia,
• gdzie AI jest dziś wykorzystywana w organizacjach,
• dlaczego bezpieczeństwo AI jest kluczowe dla firm i instytucji.

2. Ryzyka związane z wykorzystaniem AI

• ryzyka prawne, organizacyjne i reputacyjne,
• ryzyka technologiczne (halucynacje, błędy, brak kontroli nad danymi),
• ryzyka związane z automatyzacją decyzji,
• shadow AI – nieautoryzowane użycie narzędzi AI przez pracowników.

3. Bezpieczeństwo danych w kontekście AI

• dane wrażliwe, poufne i osobowe a narzędzia AI,
• przetwarzanie danych w chmurze vs. lokalnie,
• wyciek danych przez prompty i załączniki,
• zasady anonimizacji i minimalizacji danych.

4. AI a RODO i ochrona danych osobowych

• podstawowe obowiązki administratora danych,
• AI jako podmiot przetwarzający dane,
• odpowiedzialność za treści generowane przez AI,
• przykłady naruszeń i ich konsekwencje.

5. Bezpieczne korzystanie z narzędzi GenAI (np. chatbotów)

• czego nie wolno wprowadzać do narzędzi AI,
• bezpieczne promptowanie,
• weryfikacja i krytyczna ocena odpowiedzi AI,
• ograniczenia modeli językowych.

6. Cyberbezpieczeństwo a AI

• AI jako nowe pole ataków (prompt injection, data poisoning),
• wykorzystanie AI przez cyberprzestępców,
• AI jako narzędzie wspierające cyberbezpieczeństwo,
• dobre praktyki dla użytkowników końcowych.

7. Regulacje i standardy dotyczące AI

• przegląd aktualnych i nadchodzących regulacji,
• obowiązki organizacji korzystających z AI,
• klasyfikacja systemów AI pod kątem ryzyka,
• rola polityk wewnętrznych i procedur.

8. Polityka bezpiecznego korzystania z AI w organizacji

• elementy polityki AI (AI Policy),
• zasady dla pracowników i kadry zarządzającej,
• edukacja i odpowiedzialność użytkowników,
• monitorowanie i audyt wykorzystania AI.

9. Przykłady praktyczne i case studies

• przykłady dobrych i złych praktyk,
• analiza rzeczywistych incydentów,
• scenariusze ryzyk w różnych działach (HR, marketing, IT, finanse).

10. Podsumowanie i rekomendacje

• checklisty bezpiecznego korzystania z AI,
• najważniejsze zasady „safe use of AI”,
• kolejne kroki dla organizacji,
• sesja pytań i odpowiedzi.