RAG plutôt que Fine Tuning

Les données de l’entité (thème) sont traitées et conservées sur un serveur dédié. Ce serveur peut appartenir à l’entité (on premise).
Cela est rendu possible par l’application de la méthode RAG (Retrieval Augmented Generation ou génération augmentée de récupération).
RAG s’oppose aux méthodes d’entraînement du LLM comme le "fine tuning". Bien que ChattyBot fasse appel aux API GPT pour les analyses sémantiques, les données ne sont pas utilisées par OpenAI pour alimenter son modèle de langage (LLM).

Thèmes

ChattyBot est capable de sécuriser les données de plusieurs entités en les isolant dans des espaces de données spécifiques, matérialisés sur le serveur par un répertoire portant le nom du thème [1].

Séparer les données appartenant à des univers différents permet également d’éliminer l’hallucination, fléau de l’IA générative : la génération de réponses totalement incohérentes résultant de la confusion de concepts différents dans une même signature sémantique.

TesterChattyBot

Un démonstrateur de ChattyBot est sur le Web à l’adresse :
https://chat.ia.dnc.global/

Le thème par défaut est "itego". ChattyBot peut être lancé sur un autre thème, par exemple "thewiw-corporate" :
https://chat.ia.dnc.global/?theme=thewiw-corporate