Modell-Routing
KI
Modell-Routing schickt jeden Arbeitsschritt eines KI-Agenten an das passende Modell, etwa einfache an ein schnelles, günstiges und schwere an ein stärkeres.
Beispiel: Ein Support-Agent könnte ein schnelles Modell nutzen, um eingehende Nachrichten zu lesen und zu sortieren, und ein stärkeres, um eine Rücksendung mit mehreren Artikeln und einem Teilumtausch zu planen.
Routing hält kurze Antworten schnell und günstig und spart das stärkere, teurere Modell für die Arbeit auf, die es braucht.
Stärkere Modelle sind meist langsamer und kosten pro Schritt mehr. Die meisten Schritte einer Aufgabe sind einfach. Sie an ein schnelleres Modell zu leiten, spart Zeit und Geld, ohne dem Ergebnis zu schaden.
Bei vielen Agenten-Produkten ja. In Concierge wählst du für jeden Agenten ein Standardmodell und kannst es für bestimmte Teile seiner Arbeit überschreiben.
Stöbere in unserem ganzen Glossar zu E-Commerce und Abos.
