Routage de modèles

Toutes les étapes d’une tâche n’ont pas besoin du modèle le plus performant. Classer un message ou extraire un champ d’une commande est simple ; planifier une tâche en plusieurs étapes ou écrire une réponse soignée à un client mécontent ne l’est pas. Le routage de modèles associe l’étape au modèle. Le routage peut être fixe ou dynamique. Le routage fixe attribue un modèle par agent ou par phase du travail. Le routage dynamique choisit au moment de l’exécution selon la demande. Dans les deux cas, les objectifs sont un coût plus bas, une latence plus faible et une qualité préservée là où elle compte. Dans Concierge, chaque agent a un modèle par défaut, soit Chargezen Managed, soit un modèle sur votre propre compte de fournisseur, et les remplacements de modèle permettent d’utiliser un autre modèle pour certaines parties du travail de l’agent.