Jak zbudować konwersacyjnego asystenta AI na własnych danych dzięki LLM Zoomcamp

W zeszłym roku próbowałem zbudować system RAG do przeszukiwania wewnętrznej dokumentacji. Wydawało się, że wystarczy wysłać pliki do API OpenAI i wyświetlić odpowiedzi. W praktyce było inaczej: model regularnie halucynował, tekst nie mieścił się w oknie kontekstowym, a zwykłe wyszukiwanie wektorowe nie radziło sobie z terminami technicznymi i skrótami.

Jeśli napotkałeś podobne problemy, zerknij na projekt DataTalksClub. Ich repozytorium llm-zoomcamp to darmowy, 10-tygodniowy kurs open-source, który uczy, jak budować działające aplikacje AI z wyszukiwaniem, agentami i monitorowaniem.

Inżynieria Krok po Kroku Zamiast Suchej Teorii

Autorzy kursu nie tracą czasu na wyprowadzanie wzorów backpropagation. Program skierowany jest do deweloperów i inżynierów danych, którzy muszą budować usługi produkcyjne.

Cały materiał podzielony jest na praktyczne moduły:

• Podstawowy RAG i agenci. Budowanie pierwszej pipeline na bazie wyszukiwania tekstowego i łączenie function calling.
• Wyszukiwanie wektorowe. Generowanie embeddingów, praca z minsearch, sqlitesearch i rozszerzeniem PGVector dla PostgreSQL.
• Orkiestracja. Konfiguracja pipeline przetwarzania danych przy użyciu Kestra.
• Zbieranie danych. Korzystanie z biblioteki dlt, bazy danych DuckDB i notatników marimo do analizy śladów LLM.
• Ewaluacja jakości. Metryki ewaluacji wyszukiwania offline i online, a także wzorzec LLM-as-a-Judge.
• Monitorowanie i optymalizacja. Zbieranie feedbacku od użytkowników, hybrydowe wyszukiwanie i reranking wyników w celu poprawy dokładności.

Na końcu pracujesz nad własnym projektem końcowym. Budujesz usługę od zera: od czyszczenia danych i tworzenia UI z Streamlit lub FastAPI po wdrożenie i konfigurację metryk.

Co Potrzebujesz, Aby Zacząć

Potężny serwer z wieloma GPU nie jest wymagany. Wszystkie zadania są zaprojektowane tak, aby działały na zwykłym laptopie poprzez API stron trzecich. Kilka dolarów na koncie OpenAI lub innego dostawcy wystarczy.

Wymagania dotyczące wiedzy są minimalne:

• Solidne umiejętności w Pythonie
• Doświadczenie z linią poleceń
• Podstawowa znajomość Dockera

Jeśli potrafisz napisać funkcję w Jupyter Notebook i uruchomić kontener w terminalu, to wystarczy.

Formaty Przechodzenia Kursu

Materiały są otwarte dla wszystkich. Możesz przechodzić kurs samodzielnie w swoim tempie: czytaj repozytorium, oglądaj filmy na YouTube i wykonuj zadania.

Autorzy regularnie uruchamiają również bezpłatne interaktywne kohorty. Wykłady pozostają nagrane, ale obowiązują ścisłe terminy, automatyczne sprawdzanie prac domowych, ranking uczestników i wzajemna ocena projektów (peer review).

Po pomyślnym ukończeniu kohorty i przejrzeniu prac innych studentów otrzymujesz certyfikat, który możesz dodać do LinkedIn.

Dlaczego Warto Zapisać To Repozytorium

Nawet jeśli nie planujesz przechodzić pełnego, 10-tygodniowego kursu, warto zapisać to repozytorium. W folderach modułów znajdziesz gotowe notatniki Jupyter i skrypty z przykładami integracji.

Chcesz szybko dodać hybrydowe wyszukiwanie do Postgres? Otwórz moduł wyszukiwania wektorowego. Chcesz skonfigurować ewaluację odpowiedzi modelu? Przejdź do sekcji ewaluacji. Kod nie ma niepotrzebnej abstrakcji — wszystko jest napisane w czystym Pythonie z jasnymi komentarzami.

Zajrzyj do folderu 01-agentic-rag — możesz zbudować swój pierwszy działający prototyp wyszukiwania dokumentów w ciągu kilku godzin.