Cette nouvelle version du ChatEngine met en oeuvre un moteur d’inférences React et des outils. Le Query Engine RAG des versions précédentes est intégré comme l’un de ces outils. Les autres outils comprennent des outils généraux (par exemple calculs mathématiques et statistiques) et des outils (...)  lire la suite

La contextual compression est un sujet qui est devenu central dans les RAG modernes. C’est une technique qui permet de réduire dynamiquement - c’est à dire en fonction du contexte - la quantité de texte envoyée au LLM en ne gardant que ce qui est pertinent pour la requête. On ne renvoit pas les (...)  lire la suite

Dans la sélection d’un outil par le LLM, le nom de l’outil est prioritaire, la description est secondaire. Il va falloir opérer une pré-sélection des outils sur une meilleure base, avant de les passer au LLM. C’est ici qu’apparaît la carte des intentions (Intent Map). Dans la sélection d’un outil par (...)  lire la suite

Dans la sélection d’un outil par le LLM, il apparaît que le nom de l’outil est prioritaire, et que la description est secondaire. De toute évidence, la description ne peut compléter un nom de fonction ambigu et ne servira au LLM qu’en deuxième intention. Quelles sont les règles à appliquer pour le (...)  lire la suite

ToolFactory est une bibliothèque d’utilitaires permettant de créer des Outils de Fonction (FunctionTool) à partir d’une bibliothèque de fonctions Python. La fonction auto_toolkit Cette fonction génère dynamiquement une liste de `FunctionTool` LlamaIndex à partir des fonctions publiques d’un module (...)  lire la suite