1. Wprowadzenie do dużych modeli językowych LLM i generatywnej sztucznej inteligencji
Duże modele językowe stanowią podstawę współczesnych rozwiązań generatywnej sztucznej inteligencji stosowanych w wielu obszarach pracy. W tej części wyjaśniona zostaje zasada działania LLM, rola architektury Transformer oraz miejsce najpopularniejszych modeli w typowych zastosowaniach.
- zasada działania LLM,
- architektura Transformer,
- najpopularniejsze modele i ich zastosowania.
2. Mechanizmy działania LLM, tokenizacja, kontekst i parametry modeli
Na jakość odpowiedzi wpływają zarówno mechanizmy tokenizacji, jak i ustawienia sterujące generowaniem. Uczestnicy przechodzą przez tokeny, okno kontekstowe oraz parametry temperature, top-p i max tokens, analizując ich wpływ na spójność, przewidywalność i użyteczność wyników.
- tokeny i okno kontekstowe,
- temperature, top-p, max tokens,
- wpływ parametrów na jakość odpowiedzi.
3. Koszty, ograniczenia, bezpieczeństwo i ryzyka związane z wykorzystaniem LLM
Przy wdrażaniu LLM trzeba równoważyć możliwości modeli z kosztami, ryzykiem i wymaganiami bezpieczeństwa. Sekcja porównuje API oraz modele lokalne, omawia halucynacje, bias i błędy generowania, a także porządkuje dobre praktyki ochrony danych i ograniczania ryzyka.
- API a modele lokalne,
- halucynacje, bias i błędy modeli,
- bezpieczeństwo danych i dobre praktyki.
4. Prompt engineering – projektowanie skutecznych instrukcji dla modeli językowych
Skuteczność modelu w dużej mierze zależy od sposobu formułowania poleceń i dostarczanego kontekstu. Omawiana jest struktura promptu, użycie ról, określanie instrukcji i formatu odpowiedzi oraz techniki zero-shot, few-shot i prompt chaining w praktycznych scenariuszach.
- struktura promptu i role,
- instrukcja, kontekst i format odpowiedzi,
- zero-shot, few-shot i prompt chaining.
5. Zaawansowany prompt engineering, optymalizacja i standaryzacja promptów w organizacji
W organizacji same dobre prompty nie wystarczą, jeśli trudno je utrzymać, oceniać i ponownie wykorzystywać. Ten blok skupia się na poprawianiu oraz debugowaniu promptów, metodach kontroli jakości odpowiedzi, a także tworzeniu szablonów i bibliotek wspólnych dla zespołów.
- poprawianie i debugowanie promptów,
- kontrolowanie jakości odpowiedzi,
- tworzenie szablonów i bibliotek promptów.
6. Wykorzystanie narzędzi AI do generowania, analizowania, refaktoryzacji i debugowania kodu
Narzędzia takie jak GitHub Copilot, ChatGPT, Claude i wsparcie dostępne w IDE zmieniają codzienną pracę programisty. Tematyka obejmuje generowanie i poprawianie kodu, refaktoryzację oraz debugowanie, a także wykorzystanie AI do testów, dokumentacji i automatyzacji powtarzalnych zadań.
- GitHub Copilot, ChatGPT, Claude i narzędzia IDE,
- generowanie i poprawianie kodu,
- testy, dokumentacja i automatyzacja pracy programisty.
7. Integracja modeli LLM z aplikacjami poprzez API, REST i SDK
Aby osadzić model w aplikacji, trzeba poprawnie obsłużyć komunikację, bezpieczeństwo i ograniczenia środowiska wykonawczego. Część dotyczy autoryzacji i zarządzania kluczami, integracji przez API, REST i SDK w Pythonie oraz JavaScript, a także obsługi odpowiedzi, błędów, limitów i kosztów.
- autoryzacja i zarządzanie kluczami,
- integracja w Pythonie i JavaScript,
- obsługa odpowiedzi, błędów, limitów i kosztów.
8. Modele multimodalne – wykorzystanie tekstu, obrazu, dokumentów i audio
Łączenie tekstu z obrazem, dokumentem i dźwiękiem rozszerza zakres zadań, które można powierzyć jednemu modelowi. Uczestnicy analizują przetwarzanie danych multimodalnych, interpretację obrazów i dokumentów oraz przykłady zastosowań biznesowych opartych na takich wejściach.
- analiza obrazów i dokumentów,
- przetwarzanie danych multimodalnych,
- zastosowania modeli multimodalnych w biznesie.
9. Embeddingi, wyszukiwanie semantyczne, bazy wektorowe i podstawy architektury RAG
Gdy potrzebne jest wyszukiwanie oparte na znaczeniu, a nie tylko na zgodności słów kluczowych, kluczowe stają się embeddingi i bazy wektorowe. Sekcja wyjaśnia reprezentację podobieństwa danych, działanie semantic search oraz budowę prostego rozwiązania RAG do pracy na własnych źródłach.
- tworzenie i wykorzystanie embeddingów,
- semantic search i podobieństwo danych,
- budowa prostego rozwiązania RAG.
10. Praktyczne zastosowania LLM w pracy z tekstem, danymi i automatyzacji procesów
Praca z tekstem, prostymi danymi i obiegiem zadań pokazuje, gdzie LLM dają największą wartość operacyjną. Zakres obejmuje generowanie, tłumaczenie i streszczanie treści, a także klasyfikację, ekstrakcję informacji oraz budowę nieskomplikowanych workflow wspieranych przez model.
- generowanie, tłumaczenie i podsumowywanie treści,
- klasyfikacja i ekstrakcja informacji,
- automatyzacja procesów i budowa prostych workflow z LLM.