1. Wprowadzenie do architektury RAG
Architektura RAG pokazuje, jak połączyć model językowy z zewnętrznym źródłem wiedzy. Uczestnicy analizują przewagi tego podejścia nad standardowym generowaniem, poznają główne komponenty i przepływ informacji oraz rolę biblioteki LangChain w budowie aplikacji.
- koncepcja działania i przewagi nad standardowymi modelami językowymi,
- przegląd komponentów systemu i przepływu informacji,
- rola biblioteki LangChain w budowie aplikacji.
2. Przetwarzanie danych wejściowych
Aby dane mogły zostać poprawnie zaindeksowane, trzeba najpierw odpowiednio przygotować ich strukturę. Sekcja obejmuje użycie parserów do ekstrakcji treści z dokumentów, strategie chunkingu oraz dobór parametrów podziału wpływających na późniejsze wyszukiwanie.
-
zastosowanie parserów do ekstrakcji treści z dokumentów,
-
strategie segmentacji tekstu na mniejsze fragmenty (chunking),
-
dobór optymalnych parametrów podziału treści.
3. Modelowanie semantyczne i embeddingi
Embeddingi umożliwiają zapis znaczenia tekstu w postaci wektorów, co stanowi podstawę operacji semantycznych. W tej części analizowane są aktualne modele i generatory reprezentacji wektorowych oraz kryteria ich doboru zależnie od charakteru i specyfiki danych.
- istota embeddingów: przekształcanie znaczenia tekstu na wektory,
- przegląd aktualnych modeli i generatorów reprezentacji wektorowych,
- kryteria wyboru modelu pod kątem specyfiki danych.
4. Obsługa wektorowej bazy danych Qdrant
Qdrant pełni rolę warstwy przechowywania wektorów i powiązanych danych w rozwiązaniu RAG. Omawiane są konfiguracja środowiska, zarządzanie kolekcjami, operacje na rekordach oraz mechanizmy integracji bazy z LangChain na potrzeby dalszego przetwarzania.
- konfiguracja środowiska i zarządzanie kolekcjami danych,
- operacje na rekordach: dodawanie, modyfikacja i usuwanie informacji,
- mechanizmy integracji bazy Qdrant z systemem LangChain.
5. Zaawansowane mechanizmy wyszukiwania (Retrieval)
Skuteczne odnajdywanie informacji wymaga czegoś więcej niż prostego dopasowania podobieństwa. Uczestnicy pracują z wyszukiwaniem semantycznym, filtrowaniem wyników za pomocą metadanych oraz technikami Rerankingu, które poprawiają trafność dokumentów kierowanych do modelu.
- implementacja wyszukiwania semantycznego (Semantic Search),
- wykorzystanie metadanych do precyzyjnego filtrowania wyników,
- zastosowanie technik Rerankingu dla poprawy trafności dokumentów.
6. Generowanie odpowiedzi i inżynieria promptów
Prompt Templates porządkują sposób przekazywania instrukcji do modelu i wpływają na jakość odpowiedzi. Sekcja skupia się na łączeniu zapytania użytkownika z odnalezionym kontekstem oraz na syntezie odpowiedzi w oparciu o materiały źródłowe, bez odchodzenia od dostępnych danych.
- projektowanie szablonów instrukcji (Prompt Templates),
- łączenie wyszukanego kontekstu z zapytaniem użytkownika,
- synteza odpowiedzi w oparciu o dostarczone materiały źródłowe.
7. Analiza jakości i ewaluacja systemu
Wiarygodność odpowiedzi w RAG wymaga oceny opartej na mierzalnych kryteriach. Ta część obejmuje użycie biblioteki deepeval, definiowanie i pomiar kluczowych metryk jakości oraz automatyzację sprawdzania poprawności treści generowanych przez system.
- wykorzystanie biblioteki deepeval w procesie testowym,
- definicja i pomiar kluczowych metryk jakościowych RAG,
- automatyzacja weryfikacji poprawności generowanych treści.
8. Podsumowanie i wdrożenie praktyczne
Na gotowej aplikacji zostaje pokazane, jak połączyć wcześniejsze elementy procesu w jeden działający mechanizm RAG. Uczestnicy śledzą zasilanie bazy danych oraz sposób, w jaki zgromadzone zasoby są następnie wykorzystywane do generowania wiedzy.
- prezentacja gotowej aplikacji do zasilania bazy i generowania wiedzy.