Toutes les demandes ne méritent pas le même traitement. Une question de remboursement, un rapport de bug et un « raconte-moi une blague » ne devraient pas tomber sur le même prompt, les mêmes outils, ni même le même modèle. Le routage place un classificateur à l’entrée, puis aiguille chaque demande vers un parcours conçu pour elle.

L’analogie

L’accueil de l’hôpital. La réceptionniste ne soigne personne — elle pose deux questions et vous envoie au bon service : une entorse part en radiologie, une rougeur en dermatologie. Dix secondes de triage épargnent une heure de soins mal aiguillés.

Le principe

flowchart LR
    IN([demande]) --> R["LLM : classe"]
    R -->|facturation| A["parcours A : remboursements"]
    R -->|technique| B["parcours B : support technique"]
    R -->|autre| C["parcours C : bavardage"]
  • Le routeur est un appel rapide et pas cher (voire un classificateur non-LLM) : « quelle catégorie ? »
  • Chaque parcours est optimisé séparément : son prompt, ses outils, son modèle — un petit modèle pour le bavardage, un costaud pour les questions juridiques.
  • Les parcours ne se polluent pas : améliorer le prompt remboursement ne peut pas casser le support technique.

Un exemple concret

Une porte d’entrée de support client :

routeur(msg) → "facturation" | "technique" | "autre"

facturation → prompt avec politique de remboursement + outils factures
technique   → prompt avec docs produit + outils de diagnostic
autre       → petit modèle, comportement cordial standard

Chaque branche reste courte et précise, au lieu d’un prompt qui essaie d’être trois experts à la fois.

Quand l’utiliser

  • Les entrées tombent dans des catégories distinctes, traitées vraiment différemment.
  • Vous voulez maîtriser les coûts : envoyez les 80 % faciles vers un modèle pas cher, réservez le coûteux aux 20 % durs.
  • La séparation des responsabilités compte — des prompts séparés battent un prompt à quinze clauses « si l’utilisateur demande X ».

Quand l’éviter

  • Les catégories se chevauchent, ou une demande exige plusieurs compétences à la fois → regardez orchestrateur-ouvriers.
  • Il n’existe qu’un seul vrai parcours : un routeur devant une branche unique, c’est juste de la latence en plus.

Le piège classique

Le mauvais aiguillage silencieux. Si le classificateur se trompe, le spécialiste répond avec assurance à la mauvaise question. Donnez au routeur une sortie « incertain » qui retombe sur un parcours généraliste ou un humain — une réceptionniste qui avoue « je ne sais pas, je vérifie » vaut mieux qu’une qui devine.