Anthropic réduit de 35 % le temps jusqu’au premier token sur les longs cycles d’agents
Anthropic a mis les fils de messages en bêta publique sur la Claude Platform le 2 novembre 2026. Tout le changement tient en un champ nommé thread ajouté à une requête de l’API Messages : le premier appel transporte toute la conversation avec son prompt système et ses outils, chaque appel suivant ne transporte que le nouveau. Anthropic annonce que le délai médian avant le premier token baisse d’environ 35 % sur les requêtes entre 500 000 et un million de tokens, les fils étant activés par défaut pour la plupart des utilisateurs de Claude Code.
Ce qui a réellement été livré
Un stockage de conversation côté serveur, pas un changement de modèle. À la requête de création, l’API conserve la conversation, réponse de Claude comprise, sous l’id de la réponse. Une requête de continuation n’envoie que les nouveaux messages plus previous_message_id, et laisse de côté system et tools puisque le fil les détient déjà. L’API reconstruit la conversation avant d’appeler le modèle.
Le gain se situe avant le début de la génération. Sans fil, chaque tour téléverse tout l’historique et l’API le valide et le tokenise à nouveau en entier. Avec un fil, l’essentiel de ce travail ne porte que sur le nouveau tour.
| Élément, tel que documenté par Anthropic | Valeur |
|---|---|
| Délai médian avant le premier token, requêtes de 500 000 à 1 million de tokens | environ 35 % de moins |
| Expiration du fil après sa dernière requête | 5 minutes |
| Suppression après sa dernière utilisation | 1 heure au maximum |
Points de rupture cache_control par requête, niveau supérieur inclus |
4 |
| Consommation de tokens | inchangée |
| Prix et limites de débit | inchangés |
| Statut et en-tête bêta | bêta, message-threads-2026-08-12 |
Deux propriétés du stockage comptent autant que la latence. Un fil est gardé en mémoire, chiffré sous une clé gérée par le serveur, jamais écrit sur un stockage durable, et supprimé au plus tard 1 heure après sa dernière utilisation, avec une expiration 5 minutes après sa dernière requête. Et il n’existe aucune API pour lister, lire ou supprimer un fil : l’application garde sa propre copie et la rejoue quand le stockage ne peut pas continuer.
Ce que la bêta vous apporte réellement
- Une requête plus légère à chaque tour, et une attente plus courte avant le premier token, sur les conversations longues.
- Le même nombre de tokens et le même prix par token qu’une requête sans fil.
- Un fil en ajout seul, qui ne peut être continué qu’une fois par
idde réponse, et qui disparaît après 5 minutes de silence.
Sur quoi repose l’affirmation
Les 35 % sont une médiane sur une plage nommée, 500 000 à un million de tokens, sur un trafic où les fils étaient déjà activés par défaut pour la plupart des utilisateurs de Claude Code. C’est une mesure réelle et étroite. Anthropic ne publie ni taille d’échantillon, ni distribution au-delà de la médiane, ni chiffre par modèle, ni rien du tout pour les requêtes sous 500 000 tokens, là où vivent la plupart des chats et la plupart des petits agents.
Avec les fils de messages activés par défaut pour la plupart des utilisateurs de Claude Code, les requêtes de 500 k à 1 M de tokens voient le TTFT médian baisser d’environ 35 %.
La clause du par défaut compte quand on répète le chiffre : la population mesurée est le trafic Claude Code pendant un déploiement, lourd, de longue durée et piloté par des outils. Un client qui livre un bot de support à 5 000 tokens n’est pas dans cette population et ne doit pas attendre le même écart.
Le chiffre mesure aussi un seul segment de l’attente, le temps avant l’arrivée du premier token. Une baisse de 35 % du délai avant le premier token n’est pas une baisse de 35 % du temps de tâche. Dans une boucle d’agent, le modèle génère toujours chaque token, et les appels d’outils prennent toujours ce qu’ils prennent.
Ce qui n’est pas publié
Aucun tableau de latence par modèle, aucun p95 ni p99, aucune mesure à 100 000 ou 200 000 tokens, aucune comparaison avec le prompt caching seul, et aucune réplication indépendante. Le seul percentile donné est la médiane, qui masque la queue qu’un agent ressent vraiment quand un tour cale.
La consommation de tokens est l’autre moitié, et la documentation est explicite en sens inverse : Claude lit toujours toute la conversation à chaque tour, donc la consommation de tokens reste identique et la facture ne bouge pas. Les prix et les limites de débit sont inchangés. Le gain est du temps, pas de l’argent.
Ce que cela change pour les équipes qui construisent des agents
Coût et latence sont désormais deux réglages distincts qu’il faut configurer tous les deux. Les fils de messages allègent la requête ; le prompt caching remise le préfixe relu. La documentation est directe sur la frontière : un fil ne met pas votre prompt en cache, et le cache_control de niveau supérieur compte dans la limite de 4 points de rupture.
Le deuxième point est un travail d’ingénierie qui revient au client. Un fil fonctionne au mieux : une requête de continuation qui ne trouve pas le stockage renvoie une 404, et aucune réponse ne dit si l’API a conservé ce tour, donc l’application doit garder la conversation et traiter un rejeu comme le cas normal. Chaque champ fixe, du modèle aux outils, doit aussi correspondre à la requête de création, sinon l’API répond thread_fingerprint_mismatch.
Le troisième point est la fenêtre de 5 minutes. Un agent qui attend une validation humaine, un webhook ou un build lent perd le fil et renvoie toute la conversation. Les fils conviennent aux boucles chaudes, pas aux sessions qui font des pauses.
Le quatrième point est la liste des fonctionnalités avec lesquelles la bêta ne peut pas se combiner.
| Non disponible avec un thread | Ce que cela signifie en pratique |
|---|---|
| Message Batches | un élément de lot portant thread échoue avec une requête invalide |
| Requêtes de comptage de tokens | le décompte doit alors porter sur la conversation complète |
| Compaction et édition du contexte | vous ne pouvez pas résumer à l’intérieur du thread, sauf en effaçant le raisonnement |
| Organisations avec la conformité HIPAA activée | la requête est rejetée |
| Organisations avec les hooks d’inférence activés | la requête est rejetée |
La disponibilité couvre l’API Claude, Claude Platform sur AWS, Claude Models sur Google Cloud sous gestion Anthropic, et Microsoft Foundry, sur tous les modèles.
L’avis de la rédaction
Le pourcentage de cette annonce est une mesure de latence et il sera lu comme une remise. Ce n’en est pas une. Rien dans la publication ne baisse un prix par token, et la documentation dit clairement que Claude lit toujours toute la conversation, donc la facture mensuelle ne bouge que si vos tours bougent.
Rapporté à notre propre couverture d’Anthropic fondant les subagents dans une seule boucle d’agent, un schéma se dessine : l’entreprise attaque le coût du contexte répété du côté du transport, pas du côté du modèle. Moins d’appels d’agents redondants dans une publication, moins d’envoi redondant par appel dans la suivante. Pour quiconque fait tourner de longs agents, c’est là que se trouvaient les secondes.
Deux réserves. La première est que la mesure ne décrit pas la plupart des déploiements. En dessous de 500 000 tokens, la publication ne dit rien, et beaucoup d’agents payants n’atteignent jamais cette bande, donc mesurez votre propre temps jusqu’au premier token à vos propres tailles de prompt avant de planifier autour de 35 %. La seconde concerne la rétention : une fonctionnalité qui garde votre conversation en mémoire sous une clé gérée par le serveur et qui n’est ni éligible à la rétention zéro donnée ni éligible HIPAA est une fonctionnalité à confronter à votre contrat avant de l’approcher de travaux réglementés.
La liste des exclusions est la partie discrète. Les équipes qui se sont tournées vers la compaction ou l’édition du contexte pour survivre aux longues sessions doivent désormais choisir entre l’outil qui garde la conversation sous contrôle et la voie qui la rend rapide. C’est cet arbitrage, pas les 35 %, qui décidera de l’adoption.
Sources
- Anthropic, « Make long-running agents faster with message threads », publié le 2 novembre 2026, consulté le 4 novembre 2026 : l’annonce
- Anthropic, référence des message threads dans la documentation Claude Platform, consultée le 4 novembre 2026 : la documentation
- Chaque chiffre cité ici, la médiane de 35 %, la bande de tokens, les 5 minutes, l’heure, les 4 points de rupture et l’usage de tokens inchangé, provient de ces deux pages et est le chiffre de l’entreprise, pas une mesure indépendante
- Notre couverture antérieure du même problème au niveau des agents : Anthropic fond les subagents dans une seule boucle d’agent, 2x plus rapide