Lab 042: RAG d'entreprise avec évaluations et Foundry¶
Phase 3 · local first
Le parcours obligatoire est déterministe et local. Le parcours Réel est facultatif, estimé et nettoyé.
Ce que vous apprendrez¶
- Construire une base RAG d'entreprise locale
- Mesurer récupération, ancrage, citations, latence et coût
- Utiliser évaluation et tracing Foundry comme adaptateur Réel
- Contrôler promotion et nettoyage
Prérequis¶
- Python 3.10+ et un terminal
- Aucun identifiant pour le parcours obligatoire
- Lisez la spécification officielle avant un adaptateur hébergé
Modèle visuel¶
flowchart LR
D[Documents] --> X[Chunk and index]
Q[Golden queries] --> R[Retrieve]
X --> R
R --> A[Answer with citations]
A --> E[Local + Foundry evals]
E --> G{Promotion gate}
Scénario¶
OutdoorGear a besoin d'une implémentation révisable pour atelier, avec fixtures déterministes, frontières de confiance explicites, critères mesurables et adaptateur hébergé facultatif et réversible.
Exercice guidé¶
Step 1: build_baseline¶
- Exécutez la fixture déterministe de cette étape.
- Notez entrée, sortie, décision de politique et comportement d'échec.
- Modifiez un comportement borné et relancez le test local.
Evidence: Conservez la commande, le résultat et une phrase expliquant pourquoi la preuve est fiable.
Step 2: evaluate_golden_set¶
- Exécutez la fixture déterministe de cette étape.
- Notez entrée, sortie, décision de politique et comportement d'échec.
- Modifiez un comportement borné et relancez le test local.
Evidence: Conservez la commande, le résultat et une phrase expliquant pourquoi la preuve est fiable.
Step 3: connect_foundry¶
- Exécutez la fixture déterministe de cette étape.
- Notez entrée, sortie, décision de politique et comportement d'échec.
- Modifiez un comportement borné et relancez le test local.
Evidence: Conservez la commande, le résultat et une phrase expliquant pourquoi la preuve est fiable.
Step 4: gate_and_cleanup¶
- Exécutez la fixture déterministe de cette étape.
- Notez entrée, sortie, décision de politique et comportement d'échec.
- Modifiez un comportement borné et relancez le test local.
Evidence: Conservez la commande, le résultat et une phrase expliquant pourquoi la preuve est fiable.
Exécuter localement¶
Simulation / Parcours Réel¶
Kit d'accompagnement¶
Le build du site génère des téléchargements PDF et ZIP stables. La CI conserve aussi un miroir temporaire pendant 30 jours.
README.md: démarrage et preuvesCHEATSHEET.md: guide de décisionscenario.json: contrat déterministetest_scenario.py: tests locaux- Télécharger le PDF généré
- Télécharger le ZIP généré
Quiz noté¶
Pourquoi garder un contrat local ?
Réponse
Il fournit une base déterministe avant la variabilité et le coût hébergés.
Quand le parcours Réel est-il terminé ?
Réponse
Après enregistrement des preuves de validation et de nettoyage.
Comment traiter la sortie des outils ?
Réponse
Comme donnée non fiable avant validation de politique et de schéma.
Critères de sortie¶
- Les tests locaux passent sans identifiants.
- Le diagramme a une explication textuelle et ne dépend pas de la couleur.
- Le quiz noté a été revu.
- Le parcours Réel a un plafond et un plan de nettoyage.
- Sources et stabilité ont été vérifiées.