Objectif : épargner les ressources et l’environnement. Il s’agit de créer un pipeline hybride avec Llama-index où : Les requêtes simples sont traitées directement par un outil léger. Les requêtes complexes sont routées vers un ReAct agent (avec les outils), le routeur fondé sur un LLM décidant (...)  lire la suite

La page Test ChattyWS 2 présente un formulaire qui permet d’effectuer un traitement de modération et de traduction sur les données du thème ’securite’. Comment cela est-il fait ? Avant de lire cet article, voyez : WsgiAgent  lire la suite

Cet article décrit comment sont répartis, dans le contexte du RAG, les traitements entre l’ingestion et la génération. Nous nous plaçons dans le cadre de l’ingestion "à froid" où des applications assurent au préalable l’ingestion et l’indexation, tandis que d’autres applications utilisent l’index obtenu. (...)  lire la suite

Dans une approche RAG, le script ingestcmd.py est une commande interne utilisée pour effectuer les ajouts et les retraits de documents ou de pages Web. Les index des thèmes concernés sont mis à jour à la suite de ces mouvements. Le script est développé par DnC. Documents sources Les documents (...)  lire la suite

Ce document décrit les deux modes d’appel aux API utilisés par les modèles LLM dans l’architecture v200 : synchrone et streaming. Protocoles d’appel LLM : synchrone vs streaming Ce document décrit les deux modes d’appel utilisés par les modèles LLM dans l’architecture v200 : appel synchrone (generate) (...)  lire la suite