Permettre une utilisation multi-propriétaires

Il s’agit de sécuriser les données de plusieurs entités en les isolant dans des espaces de données spécifiques, matérialisés sur le serveur par un répertoire portant le nom du thème.

Le concept de Thèmes, conjointement au contrôle de l’accès des utilisateurs au moyen du serveur d’authentification OAuthSD, permet de partager un service d’IA entre différents utilisateurs (multi-tenant), par exemple sur une plateforme SaaS.

Assurer la confidentialité des données

Les données d’une entité sont conservées sur un serveur dédié. Elles ne sont pas utilisées (par OpenAI par exemple) pour alimenter le modèle de langage (LLM). Cela est possible grâce à l’application de la méthode RAG (Retrieval Augmented Generation ou génération augmentée de récupération), contrairement à des méthodes d’entraînement du LLM comme le "fine tuning".

Différents thèmes pourraient être utilisés par une même entité pour segmenter des groupes de données. Cela peut être fait pour séparer des domaines très différents et éviter des hallucinations. Cela peut également être utilisé pour séparer des données destinées au public de données réservées à l’usage interne de l’entreprise.

Donner des réponses précises et actualisées

Un grand modèle de données (LLM) comme GPT a été entraîné sur un très grand nombre de données, pour beaucoup issues du Web. Mais, pour ceux qui opèrent dans un domaine technique particulier, il existe peu de chances que les réponses d’un chat bot public soient détaillées et à jour (en particulier, il ne sera pas possible de retirer une information).

Eviter les hallucinations

Dans votre domaine, vous et vos visiteurs employez un vocabulaire bien précis. Dans ce contexte, un mot courant peut prendre une signification précise, différente de l’acception générale ou de celles d’autres domaines. Un chat bot public risque de mal interpréter les termes de votre recherche et répondre totalement à côté ! Le thème permet de limiter l’exploration à vos seuls documents, ce qui est un moyen radical d’éviter les dérapages hors du domaine !

Permettre de définir des traitements spécifiques

ChattyWS est hautement configurable afin de répondre aux objectifs particuliers d’une application donnée. ChattyBot permet de préciser le contexte des recherches et d’en adapter le mécanisme.
C’est une des originalités que l’on retrouve dans tous les développements d’IA de DnC.
Pour cela, à chaque thème est associé un fichier parametres.json qui permet de définir les traitements de façon générale ou différenciée selon plusieurs modes répondant à des objectifs particuliers.

Voyez comment ChattyWS met en œuvre les thèmes et les modes.