Utilizzo e fatturazione
Le quote e le statistiche di utilizzo sono disponibili nella Console e nel payload di risposta di ogni richiesta.
Utilizzo nella risposta
Ogni risposta non in streaming include un oggetto usage :
"usage": {
"prompt_tokens": 120,
"completion_tokens": 45,
"total_tokens": 165
} Quota
La quota è misurata in token. Gli admin impostano le quote per utente da Console → Membri. Gli utenti possono monitorare la quota residua in Console → Limiti e fatturazione.
Le risposte in streaming non includono un campo usage nei chunk intermedi. Un riepilogo usage sintetico finale è disponibile nell'ultimo chunk prima di data: [DONE].
Trasformare il conteggio dei token in un budget? Inserisci i tuoi volumi mensili nel LLM API cost calculator, oppure controlla le tariffe per token nel model price comparison.