1. Wprowadzenie do HTTP i działania sieci
Podstawy działania HTTP wyznaczają sposób pracy zarówno ze stronami WWW, jak i z API. Uczestnicy analizują model klient–serwer, strukturę zapytania i odpowiedzi, metody GET, POST, PUT i DELETE, znaczenie nagłówków oraz statusów, a także użycie DevTools do analizy ruchu.
- model klient–serwer,
- metody HTTP (GET, POST, PUT, DELETE),
- nagłówki, statusy odpowiedzi,
- struktura zapytania i odpowiedzi HTTP,
- narzędzia do analizy ruchu (DevTools).
2. Podstawy web scrapingu
Zanim powstanie pierwszy skrypt, trzeba rozumieć, czym jest web scraping i kiedy warto go stosować. Sekcja porządkuje podstawy budowy HTML i DOM, wskazuje metody identyfikacji elementów przez selektory CSS i XPath oraz omawia ograniczenia, takie jak robots.txt i rate limiting.
- czym jest web scraping i kiedy go stosować,
- struktura HTML i DOM,
- identyfikacja elementów na stronie (selektory CSS, XPath),
- ograniczenia i dobre praktyki (robots.txt, rate limiting).
3. Web scraping z użyciem requests i BeautifulSoup
Za pomocą requests i BeautifulSoup można pobierać oraz analizować strony bez uruchamiania pełnej przeglądarki. Ta część obejmuje pobieranie dokumentów HTTP, parsowanie HTML, wyodrębnianie danych, przechodzenie przez paginację i podstrony oraz zapis wyników do CSV lub JSON.
- pobieranie stron HTTP (requests),
- parsowanie HTML (BeautifulSoup),
- ekstrakcja danych z dokumentów,
- obsługa paginacji i wielu podstron,
- zapisywanie danych (CSV, JSON).
4. Komunikacja z API
Komunikacja z API opiera się na jasno zdefiniowanych zasadach wymiany danych między aplikacjami. Omawiane są typy API, w tym REST, mechanizmy autoryzacji z użyciem kluczy i tokenów, format JSON oraz sposób obsługi odpowiedzi, błędów i limitów zapytań.
- czym jest API i jak działa,
- typy API (REST),
- autoryzacja (API key, token),
- wysyłanie zapytań i odbieranie odpowiedzi,
- praca z JSON,
- obsługa błędów i limitów zapytań.
5. Praktyczne wykorzystanie API
W praktyce API służy do łączenia zewnętrznych serwisów z procesami realizowanymi wewnątrz organizacji. Ujęto tu pobieranie i przetwarzanie danych, zestawianie informacji z różnych źródeł oraz automatyzację działań wykonywanych na podstawie komunikacji z API.
- integracja z zewnętrznymi serwisami,
- pobieranie i przetwarzanie danych,
- łączenie danych z różnych źródeł,
- automatyzacja procesów z użyciem API.
6. Selenium – automatyzacja i scraping dynamicznych stron
Selenium sprawdza się tam, gdzie treść strony zależy od JavaScriptu i interakcji użytkownika. Sekcja obejmuje sterowanie przeglądarką, pracę z formularzami i kliknięciami, obsługę logowania oraz sesji, a także automatyzację zadań i pobieranie danych w trybie headless.
- wprowadzenie do Selenium,
- sterowanie przeglądarką,
- interakcja z elementami strony (kliknięcia, formularze),
- pobieranie danych z dynamicznych stron (JavaScript),
- obsługa logowania i sesji,
- headless browser i automatyzacja zadań.
7. Dobre praktyki i optymalizacja
Stabilne rozwiązanie do pobierania danych wymaga nie tylko poprawnego skryptu. Nacisk położono tu na zwiększanie niezawodności, porządkowanie kodu pod ponowne użycie oraz zarządzanie czasem i wydajnością, z uwzględnieniem sposobów ograniczania blokad i wykrywania botów.
- stabilność skryptów,
- unikanie blokad i wykrywania botów,
- zarządzanie czasem i wydajnością,
- strukturyzacja kodu i ponowne użycie.
8. Zastosowania biznesowe
Z perspektywy biznesowej scraping i integracje API wspierają bieżący monitoring cen, obserwację konkurencji oraz agregację danych rynkowych. Ta część pokazuje także, jak zasilać automatyczne raportowanie i łączyć systemy oraz źródła danych w jeden proces informacyjny.
- monitoring cen i konkurencji,
- agregacja danych rynkowych,
- automatyzacja raportowania,
- integracje systemów i źródeł danych.