Glossaire
Latence, c'est quoi ?
Le délai entre la demande et la réponse. Sur un LLM, elle grimpe avec la longueur de la réponse et le nombre d'étapes de l'agent.
Mis à jour le 23 juillet 2026
Ce que c'est
Le délai entre le moment où tu envoies une demande et celui où la réponse arrive. Sur un LLM, elle grimpe avec la longueur de la réponse et avec le nombre d'étapes d'un agent.
Pourquoi c'est important
C'est un facteur d'expérience majeur : au-delà de quelques secondes, l'utilisateur décroche. Elle pèse aussi sur le choix du modèle et sur l'intérêt du streaming.
Exemples concrets
- Une réponse longue se fait attendre : le streaming la rend acceptable en l'affichant au fil de l'eau.
- Un agent à 5 étapes cumule 5 allers-retours : la latence s'additionne.
Approfondir
latenceUn module saisir.ai qui fait manipuler ce concept, en 5 min, sans coder.
Termes liés
Questions fréquentes
- Latence, c'est quoi ?
- Le délai entre le moment où tu envoies une demande et celui où la réponse arrive. Sur un LLM, elle grimpe avec la longueur de la réponse et avec le nombre d'étapes d'un agent.
- À quoi ça sert ?
- C'est un facteur d'expérience majeur : au-delà de quelques secondes, l'utilisateur décroche. Elle pèse aussi sur le choix du modèle et sur l'intérêt du streaming.
- Un exemple concret ?
- Une réponse longue se fait attendre : le streaming la rend acceptable en l'affichant au fil de l'eau.