Modèles de langage (LLM)
Depuis Manager → Paramètres → Modèles IA, configurez les modèles de langage utilisables par les agents, le superviseur, le switch, les intercepteurs et le benchmark.
Un modèle s'appuie toujours sur un Fournisseur — c'est-à-dire un accès (clé API, endpoint) configuré au préalable par un administrateur. Si aucun fournisseur adapté n'apparaît dans la liste, demandez à un administrateur d'en ajouter un.
Configuration d'un modèle
- Nom — libellé affiché dans les sélecteurs de modèle.
- Fournisseur — choisi parmi les fournisseurs de type LLM configurés par l'administrateur.
- Nom du modèle — identifiant technique, ex.
gpt-4o,claude-sonnet-5. - Limite de tokens — défaut 4096.
- Paramètres d'inférence — température, top-p, top-k, raisonnement (thinking), activables individuellement.
- Paramètres d'initialisation avancés — options techniques additionnelles transmises au client du modèle (JSON).
- Actif — un modèle inactif n'apparaît plus dans les sélecteurs.
- Assistant général par défaut — un seul modèle peut porter cette étiquette à la fois (l'activer sur un modèle la retire automatiquement des autres) ; c'est ce modèle qui est utilisé, par exemple, comme juge par défaut du benchmark.
Un bouton « Tester » invoque réellement le modèle avec un prompt minimal pour valider la connexion, et un bouton « Sonder » vérifie ses capacités (limite de tokens, support du raisonnement…) et pré-remplit les réglages suggérés. La suppression d'un modèle encore utilisé par des agents ou des pipelines exige de désigner un modèle de remplacement.
Coût par token
Le tarif (prix par million de tokens en entrée et en sortie) ne se règle pas sur cet écran, mais depuis l'onglet Manager → Suivi des coûts IA.