Une requête, six tailles pour la limite de débit
Requête d’exemple : 2,000 tokens d’entrée (dont 1,500 lectures du cache), max_tokens 4,000, réponse réelle de 300 tokens dont 200 tokens de raisonnement. Barres à l’échelle en tokens.
estimation de max_tokens
tokens d’entrée
tokens de sortie (Bedrock : après décompte)
estimation du prompt
max_tokens
Azure OpenAI TPM
6,000 : estimation du prompt plus max_tokens, à l’arrivée
max_tokens, décompté d’avance
OpenAI TPM
4,000 : max_tokens, décompté avant l’exécution du modèle
300 en sortie x 10 de décompte
Bedrock TPM (Claude 5)
3,500 : lectures du cache exonérées, sortie décomptée 10x
entrée, dont 1,500 en cache
xAI TPM
2,300 : chaque token, cache et raisonnement inclus
entrée
Gemini TPM
2,000 : entrée uniquement
Anthropic ITPM + OTPM
800 : lectures du cache exonérées, sortie comptée au fil de sa production
Sources : guide des quotas Azure OpenAI, cookbook OpenAI, page de comptage des tokens Bedrock (décompte Claude 5 10x), pages sur les limites de débit de xAI, Gemini et Anthropic, consultées les 2026-09-03 et 2026-09-04.