icon icon

Kurs Web Scraping i API w Python

icon

Proces szkoleniowy

Analiza potrzeb szkoleniowych

Jeśli masz życzenie dotyczące programu szkolenia, przeprowadzimy dla Ciebie analizę potrzeb szkoleniowych, która będzie wskazówką dla nas, na jakie aspekty programu położyć większy nacisk – tak, by program szkolenia spełniał konkretne potrzeby.

Co zyskujesz?

icon

Lepsze rozumienie HTTP - Nauczysz się analizować zapytania i odpowiedzi HTTP, rozpoznawać statusy, nagłówki i strukturę komunikacji, dzięki czemu łatwiej zdiagnozujesz problemy i zbudujesz poprawne integracje.

icon

Sprawne pozyskiwanie danych ze stron - Dowiesz się, jak wyszukiwać elementy w HTML i DOM przy użyciu selektorów CSS oraz XPath, aby szybko wyciągać konkretne dane z podstron, list wyników i serwisów z paginacją.

icon

Scrapery w Pythonie od podstaw - Przećwiczysz pobieranie stron przez requests i parsowanie ich w BeautifulSoup, więc samodzielnie napiszesz skrypty zapisujące dane do CSV i JSON w uporządkowanej formie.

icon

Pewna praca z API - Opanujesz wysyłanie zapytań do API, obsługę JSON, autoryzację kluczem lub tokenem oraz reagowanie na błędy i limity, dzięki czemu bezpiecznie podłączysz zewnętrzne usługi do swoich rozwiązań.

icon

Łączenie danych z wielu źródeł - Nauczysz się pobierać informacje z różnych API i stron, a następnie scalać je w jeden spójny zestaw danych, który wykorzystasz w raportowaniu, analizie lub dalszej automatyzacji procesów.

icon

Automatyzacja dynamicznych stron - Zobaczysz, jak używać Selenium do klikania, wypełniania formularzy, logowania i pobierania treści generowanych przez JavaScript, gdy zwykły scraping statycznego HTML nie wystarcza.

icon

Stabilniejsze i bezpieczniejsze skrypty - Poznasz dobre praktyki dotyczące rate limitingu, robots.txt, wykrywania błędów i ograniczania blokad, dzięki czemu Twoje skrypty będą działać stabilniej i z mniejszym ryzykiem przerwania.

icon

Gotowe zastosowania biznesowe - Przełożysz technikę na praktykę: przygotujesz podstawy do monitoringu cen, agregacji danych rynkowych, automatycznego raportowania i integracji źródeł danych wspierających decyzje biznesowe.

Program szkolenia

1. Wprowadzenie do HTTP i działania sieci

Podstawy działania HTTP wyznaczają sposób pracy zarówno ze stronami WWW, jak i z API. Uczestnicy analizują model klient–serwer, strukturę zapytania i odpowiedzi, metody GET, POST, PUT i DELETE, znaczenie nagłówków oraz statusów, a także użycie DevTools do analizy ruchu.

  • model klient–serwer,
  • metody HTTP (GET, POST, PUT, DELETE),
  • nagłówki, statusy odpowiedzi,
  • struktura zapytania i odpowiedzi HTTP,
  • narzędzia do analizy ruchu (DevTools).

2. Podstawy web scrapingu

Zanim powstanie pierwszy skrypt, trzeba rozumieć, czym jest web scraping i kiedy warto go stosować. Sekcja porządkuje podstawy budowy HTML i DOM, wskazuje metody identyfikacji elementów przez selektory CSS i XPath oraz omawia ograniczenia, takie jak robots.txt i rate limiting.

  • czym jest web scraping i kiedy go stosować,
  • struktura HTML i DOM,
  • identyfikacja elementów na stronie (selektory CSS, XPath),
  • ograniczenia i dobre praktyki (robots.txt, rate limiting).

3. Web scraping z użyciem requests i BeautifulSoup

Za pomocą requests i BeautifulSoup można pobierać oraz analizować strony bez uruchamiania pełnej przeglądarki. Ta część obejmuje pobieranie dokumentów HTTP, parsowanie HTML, wyodrębnianie danych, przechodzenie przez paginację i podstrony oraz zapis wyników do CSV lub JSON.

  • pobieranie stron HTTP (requests),
  • parsowanie HTML (BeautifulSoup),
  • ekstrakcja danych z dokumentów,
  • obsługa paginacji i wielu podstron,
  • zapisywanie danych (CSV, JSON).

4. Komunikacja z API

Komunikacja z API opiera się na jasno zdefiniowanych zasadach wymiany danych między aplikacjami. Omawiane są typy API, w tym REST, mechanizmy autoryzacji z użyciem kluczy i tokenów, format JSON oraz sposób obsługi odpowiedzi, błędów i limitów zapytań.

  • czym jest API i jak działa,
  • typy API (REST),
  • autoryzacja (API key, token),
  • wysyłanie zapytań i odbieranie odpowiedzi,
  • praca z JSON,
  • obsługa błędów i limitów zapytań.

5. Praktyczne wykorzystanie API

W praktyce API służy do łączenia zewnętrznych serwisów z procesami realizowanymi wewnątrz organizacji. Ujęto tu pobieranie i przetwarzanie danych, zestawianie informacji z różnych źródeł oraz automatyzację działań wykonywanych na podstawie komunikacji z API.

  • integracja z zewnętrznymi serwisami,
  • pobieranie i przetwarzanie danych,
  • łączenie danych z różnych źródeł,
  • automatyzacja procesów z użyciem API.

6. Selenium – automatyzacja i scraping dynamicznych stron

Selenium sprawdza się tam, gdzie treść strony zależy od JavaScriptu i interakcji użytkownika. Sekcja obejmuje sterowanie przeglądarką, pracę z formularzami i kliknięciami, obsługę logowania oraz sesji, a także automatyzację zadań i pobieranie danych w trybie headless.

  • wprowadzenie do Selenium,
  • sterowanie przeglądarką,
  • interakcja z elementami strony (kliknięcia, formularze),
  • pobieranie danych z dynamicznych stron (JavaScript),
  • obsługa logowania i sesji,
  • headless browser i automatyzacja zadań.

7. Dobre praktyki i optymalizacja

Stabilne rozwiązanie do pobierania danych wymaga nie tylko poprawnego skryptu. Nacisk położono tu na zwiększanie niezawodności, porządkowanie kodu pod ponowne użycie oraz zarządzanie czasem i wydajnością, z uwzględnieniem sposobów ograniczania blokad i wykrywania botów.

  • stabilność skryptów,
  • unikanie blokad i wykrywania botów,
  • zarządzanie czasem i wydajnością,
  • strukturyzacja kodu i ponowne użycie.

8. Zastosowania biznesowe

Z perspektywy biznesowej scraping i integracje API wspierają bieżący monitoring cen, obserwację konkurencji oraz agregację danych rynkowych. Ta część pokazuje także, jak zasilać automatyczne raportowanie i łączyć systemy oraz źródła danych w jeden proces informacyjny.

  • monitoring cen i konkurencji,
  • agregacja danych rynkowych,
  • automatyzacja raportowania,
  • integracje systemów i źródeł danych.

Jakie są wymagania wstępne do udziału w szkoleniu?

icon

Podstawy Pythona - Powinieneś swobodnie uruchamiać skrypty, korzystać ze zmiennych, instrukcji warunkowych, pętli i funkcji, aby skupić się na pracy z siecią, API i przetwarzaniem danych.

icon

Praca w terminalu i z pakietami - Powinieneś umieć uruchomić terminal, instalować biblioteki przez pip i pracować w prostym środowisku programistycznym, aby bez problemu przygotować kod do ćwiczeń.

icon

Podstawy HTML - Powinieneś rozpoznawać podstawowe elementy strony, takie jak nagłówki, linki, tabele i formularze, żeby łatwiej zrozumieć strukturę dokumentu i wskazywać dane do pobrania.

icon

Logiczne myślenie analityczne - Powinieneś umieć krok po kroku analizować problem i weryfikować wyniki działania skryptu, bo podczas scrapingu i pracy z API często trzeba diagnozować przyczyny błędów.