Comment créer un assistant IA conversationnel sur vos propres données avec LLM Zoomcamp

L'année dernière, j'ai essayé de construire un système RAG pour rechercher dans la documentation interne. Cela semblait simple : envoyer des fichiers à l'API OpenAI et obtenir des réponses. En pratique, les choses se sont révélées différentes : le modèle hallucinait régulièrement, le texte ne rentrait pas dans la fenêtre de contexte, et la recherche vectorielle classique trébuchai sur les termes techniques et les abréviations.

Si vous avez rencontré des problèmes similaires, jetez un œil au projet DataTalksClub. Leur dépôt llm-zoomcamp est un cours open source gratuit de 10 semaines qui vous apprend à construire des applications IA viables avec la recherche, les agents et la surveillance.

Ingénierie pas à pas au lieu de théorie abstraite

Les auteurs du cours ne perdent pas de temps à dériver les formules de rétropropagation. Le programme est destiné aux développeurs et aux ingénieurs de données qui doivent construire des services en production.

Tout le matériel est divisé en modules pratiques :

• RAG de base et agents. Construire votre premier pipeline basé sur la recherche textuelle et connecter l'appel de fonctions.
• Recherche vectorielle. Générer des embeddings, travailler avec minsearch, sqlitesearch et l'extension PGVector pour PostgreSQL.
• Orchestration. Configurer des pipelines de traitement de données avec Kestra.
• Collecte de données. Utiliser la bibliothèque dlt, la base de données DuckDB et les notebooks marimo pour analyser les traces LLM.
• Évaluation de la qualité. Métriques d'évaluation de recherche hors ligne et en ligne, ainsi que le pattern LLM-as-a-Judge.
• Surveillance et optimisation. Collecter les retours utilisateurs, la recherche hybride et le réordonnancement des résultats pour améliorer la précision.

À la fin, vous travaillez sur votre propre projet final. Vous construisez un service from scratch : du nettoyage des données et de la création d'une UI avec Streamlit ou FastAPI au déploiement et à la configuration des métriques.

Ce dont vous avez besoin pour commencer

Un serveur puissant avec plusieurs GPU n'est pas nécessaire. Tous les exercices sont conçus pour fonctionner sur un ordinateur portable ordinaire via des API tierces. Quelques dollars sur votre solde OpenAI ou autre fournisseur suffisent.

Les exigences en termes de connaissances sont minimales :

• Solides compétences en Python
• Expérience de la ligne de commande
• Compréhension de base de Docker

Si vous pouvez écrire une fonction dans Jupyter Notebook et exécuter un conteneur dans le terminal, c'est suffisant.

Formats du cours

Les matériels sont ouverts à tous. Vous pouvez suivre le cours de manière indépendante à votre rythme : lire le dépôt, regarder les vidéos sur YouTube et faire les exercices.

Les auteurs lancent également régulièrement des cohortes interactives gratuites. Les conférences restent enregistrées, mais il y a des délais stricts, une vérification automatique des devoirs, un classement des participants et une révision croisée des projets (peer review).

Après avoir terminé avec succès la cohorte et examiné le travail des autres étudiants, vous recevez un certificat qui peut être ajouté à LinkedIn.

Pourquoi ajouter ce dépôt aux favoris

Même si vous ne prévoyez pas de suivre le cours complet de 10 semaines, le dépôt mérite d'être ajouté aux favoris. Dans les dossiers des modules, vous trouverez des Jupyter notebooks et des scripts prêts à l'emploi avec des exemples d'intégration.

Besoin d'ajouter rapidement la recherche hybride à Postgres ? Ouvrez le module de recherche vectorielle. Vous voulez configurer l'évaluation des réponses du modèle ? Allez dans la section évaluation. Le code n'a pas d'abstraction inutile — tout est écrit en Python pur avec des commentaires clairs.

Consultez le dossier 01-agentic-rag — vous pouvez construire votre premier prototype fonctionnel de recherche de documents en quelques heures.