- MÉTRIQUE
- ÉCART
- DONNÉES
- HUMAIN
Réponse rapide
Comment vérifier si mon extraction RAG fonctionne réellement ?
Soumettez les réponses de votre modèle et vos documents de référence à l'évaluateur pour obtenir des scores de chevauchement précis. Cela vous indique exactement quelle proportion du contexte correct votre pipeline capture réellement. Vous trouverez le détail de la similarité linguistique et de la correspondance du contenu ci-dessous.
Les résultats de l'évaluation.
Vos résultats détaillés.
L'IA traite vos données pour produire ces indicateurs spécifiques.
MÉTRIQUE
Scores de similarité numérique
L'IA utilise les outils d'évaluation pour générer les scores ROUGE et BLEU. Vous obtenez une vision mathématique claire de la proximité entre le texte généré et votre source.
ÉCART
Incohérences contextuelles
L'agent identifie les moments où le contexte extrait n'a pas permis de soutenir la réponse. Vous verrez où le modèle a halluciné ou omis des faits clés.
DONNÉES
Rapports de comparaison
L'IA organise la comparaison entre la sortie machine et la référence. Vous obtenez une vue structurée du chevauchement des informations.
HUMAIN
Révision manuelle requise
L'IA signale les paires ayant de faibles scores pour inspection. Vous décidez si un score bas est dû à un échec d'extraction ou à une simple différence de style.
Le flux
Ce que fait votre IA une fois les données reçues.
Votre agent gère la comparaison complexe entre les chaînes de texte et vos fichiers de référence.
Ingérer les données de référence
Votre agent lit les documents de référence et les réponses générées par le modèle que vous souhaitez tester.
calculate_rouge_bleuCalculer le chevauchement
L'IA analyse le texte via des moteurs mathématiques pour déterminer la précision et le chevauchement des n-grammes.
calculate_rouge_bleuIdentifier les écarts
L'agent compare les scores pour trouver les points où l'extraction n'a pas fourni les informations nécessaires.
calculate_rouge_bleuSynthétiser la précision
L'IA compile les scores dans un résumé lisible de la performance de votre pipeline.
calculate_rouge_bleu
Essayez
Copiez ces commandes pour commencer.
Utilisez ces prompts pour lancer le processus d'évaluation.
Points de départ
Remplacez le texte entre crochets par vos chemins de fichiers ou vos sources de données réelles.
Native V8 Connector
Tout est prêt. Choisissez votre client MCP et suivez les instructions de configuration.
https://edge.vinkius.com/vk_preview_z0q7gwUAfzM0N3ZK3eZQCz4jX1vB3r37FG9LvR3T/mcpClaude Desktop
Suivez les étapes ci-dessous pour vous connecter en quelques secondes.
- 1In Claude Desktop, open Settings → Connectors.
- 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
- 3Click Add and start a new chat — Native V8 capabilities are ready to use.
{
"mcpServers": {
"llm-rouge-bleu-evaluator-mcp": {
"url": "https://edge.vinkius.com/vk_preview_z0q7gwUAfzM0N3ZK3eZQCz4jX1vB3r37FG9LvR3T/mcp"
}
}
}Compare les réponses de 'test_results.json' avec les références de 'ground_truth.pdf' en utilisant l'évaluateur.
Lance un test ROUGE et BLEU sur les résultats de mon dernier test d'extraction dans le dossier 'logs'.
Vérifie la précision des réponses de ce Google Sheet par rapport à ma documentation de référence.
Évalue la similarité entre la sortie du modèle dans 'response_v1.txt' et le texte source dans 'context.txt'.
Claude
ChatGPT
Cursor
VS Code
Windsurf
Claude Code
JetBrains
Cline
Commencez ici
Connectez LLM ROUGE & BLEU Evaluator une fois, puis interrogez.
Liez simplement le MCP à votre client. Vos identifiants restent chiffrés et vous pouvez lancer vos évaluations immédiatement.
Connecter LLM ROUGE & BLEU Evaluator à votre IAFAQ
Fonctionnement de l'évaluateur.
- 01
L'IA peut-elle corriger mon pipeline RAG automatiquement ?
Non. L'IA calcule uniquement les scores et identifie les écarts. Vous devez ajuster manuellement votre stratégie de découpage (chunking) ou d'embedding.
- 02
L'IA supprime-t-elle mes documents originaux ?
Non. L'IA lit uniquement vos fichiers pour effectuer la comparaison. Elle n'a aucune permission pour modifier ou supprimer vos données sources.
- 03
Quelles métriques utilise-t-elle réellement ?
Elle utilise ROUGE et BLEU pour mesurer le degré de chevauchement entre le texte généré et vos documents de référence.
- 04
Puis-je l'utiliser avec n'importe quel client IA ?
Oui, tant que votre client est compatible MCP, comme Claude, Cursor ou Windsurf.
- 05
Me dira-t-elle pourquoi un score est bas ?
Elle peut identifier si un score est faible à cause d'un manque de contexte, mais l'interprétation finale de l'échec du modèle vous appartient.
D'autres questions sur LLM ROUGE & BLEU Evaluator ? La page du connecteur y répond. Voir toutes les capacités du connecteur LLM ROUGE & BLEU Evaluator
Connectez Native V8 à Claude, Cursor, ChatGPT et d'autres
