Modèles de décision

Un modèle de décision ne génère pas de texte : on lui soumet un contenu et une question, et il répond par une probabilité calibrée. Il existe trois formes de question :

• Oui / non — la probabilité que la réponse soit « oui » (ex. « Ce texte contient-il des données de santé ? » → 93 %).
• Choix — une probabilité pour chaque option d'une liste (ex. Facture 91 %, Contrat 6 %, Autre 3 %).
• Score — une note sur des niveaux ordonnés (ex. de « hors sujet » à « répond directement »).

Ces modèles (Jev, pplx-decider, Microsoft-Decision, D3…) sont rapides (de l'ordre de 50 à 500 ms par question) et peu coûteux (quelques centimes par million de tokens d'entrée, sans coût de sortie). Comme ils ne produisent pas de prose, il n'y a rien à interpréter : la réponse est toujours exploitable telle quelle, et l'on peut fixer un seuil de confiance.

Où ils servent

• Switch — classer le document entre les routes, avec un score minimum en dessous duquel le flux part sur « Par défaut ».
• Intercepteurs — bloquer le traitement quand la probabilité dépasse un seuil (ex. présence de données de santé).
• Filtre d'annotations — écarter les annotations jugées non pertinentes.
• Profils RAG — reranking des passages récupérés, à la place d'un LLM.
• Mémoire chat — pré-filtre qui évite l'appel d'extraction quand un tour n'a rien à retenir.
• Benchmark et évaluation RAG — juge alternatif au LLM par défaut.

Configuration

Depuis Manager → Paramètres → Modèles IA (section Modèles de décision) :

• Nom — libellé affiché dans les sélecteurs.
• Fournisseur — choisi parmi les fournisseurs de type Décision configurés par l'administrateur.
• Nom du modèle — ex. pplx-decider-latest, typesafe/jev-1.13, vllm-d3-mini. La liste proposée vient du fournisseur ; la saisie manuelle reste possible.
• Fenêtre de contexte (facultatif) — borne la taille du texte envoyé à chaque appel. Vide : environ 12 000 caractères.

Le bouton « Tester » pose une vraie question oui/non au modèle et affiche la probabilité obtenue et la durée de l'appel. Le premier appel à un modèle auto-hébergé peut prendre quelques secondes, le temps de le charger.

Fournisseurs pris en charge

Tous parlent le même format d'échange (« System One »). Seule l'adresse change :

Fournisseur (clé)	Modèles	Endpoint
typesafe	Jev	https://api.typesafe.ai par défaut
perplexity	pplx-decider, pplx-decider-flash	https://api.perplexity.ai par défaut
openrouter	Jev, Microsoft-Decision, pplx-decider…	celui d'OpenRouter
ollama (0.35 et plus)	modèles de décision locaux	celui d'Ollama
openai_compatible	LM Studio, llama.cpp, vLLM (D3, pplx-decider en poids ouverts…)	adresse du serveur, avec /v1

remarque

Microsoft-Decision n'est accessible que via OpenRouter pour l'instant. Avec LM Studio, seuls les modèles qu'il classe comme modèles de décision sont proposés : il refuse les autres.

Coûts

Les appels sont comptés dans Organisation → Finances, sur la base des tokens d'entrée (tarif « par token ») ou de la durée d'appel (tarif « par heure », adapté à un modèle auto-hébergé). Le tarif se règle dans la section Tarifs des modèles de décision, et la ventilation Par modèle de décision détaille la consommation.

Suppression

Un modèle encore utilisé par un pipeline, un profil RAG ou un intercepteur ne peut être supprimé qu'en choisissant un modèle de remplacement, substitué partout. Un benchmark ou une évaluation RAG qui l'utilisait comme juge repasse simplement sur l'IA par défaut.