La contextual compression est un sujet qui est devenu central dans les RAG modernes. C’est une technique qui permet de réduire dynamiquement - c’est à dire en fonction du contexte - la quantité de texte envoyée au LLM en ne gardant que ce qui est pertinent pour la requête. On ne renvoit pas les (...)  lire la suite

Dans la sélection d’un outil par le LLM, le nom de l’outil est prioritaire, la description est secondaire. Il va falloir opérer une pré-sélection des outils sur une meilleure base, avant de les passer au LLM. C’est ici qu’apparaît la carte des intentions (Intent Map). Dans la sélection d’un outil par (...)  lire la suite

Dans la sélection d’un outil par le LLM, il apparaît que le nom de l’outil est prioritaire, et que la description est secondaire. De toute évidence, la description ne peut compléter un nom de fonction ambigu et ne servira au LLM qu’en deuxième intention. Quelles sont les règles à appliquer pour le (...)  lire la suite

ToolFactory est une bibliothèque d’utilitaires permettant de créer des Outils de Fonction (FunctionTool) à partir d’une bibliothèque de fonctions Python. La fonction auto_toolkit Cette fonction génère dynamiquement une liste de `FunctionTool` LlamaIndex à partir des fonctions publiques d’un module (...)  lire la suite

Objectif : épargner les ressources et l’environnement. Il s’agit de créer un pipeline hybride avec Llama-index où : Les requêtes simples sont traitées directement par un outil léger. Les requêtes complexes sont routées vers un ReAct agent (avec les outils), le routeur fondé sur un LLM décidant (...)  lire la suite