Enrutamiento de modelos (model routing)
IA
El enrutamiento de modelos envía cada paso de un agente de IA al modelo adecuado, como uno rápido y barato para lo simple y otro más potente para lo difícil.
Por ejemplo, un agente de soporte puede usar un modelo rápido para leer y clasificar los mensajes que llegan y un modelo más potente para planificar una devolución con varios artículos y un cambio parcial.
El enrutamiento mantiene las respuestas rápidas ágiles y baratas, y reserva el modelo más potente y costoso para el trabajo que lo necesita.
Los modelos más potentes suelen ser más lentos y cuestan más por paso. La mayoría de los pasos de un trabajo son simples, así que enviarlos a un modelo más rápido ahorra tiempo y dinero sin perjudicar el resultado.
En muchos productos de agentes, sí. En Concierge eliges un modelo predeterminado para cada agente y puedes cambiarlo en partes concretas de su trabajo.
Consulta nuestro glosario completo de comercio electrónico y suscripciones.
