Confronto del Prompt Caching: Claude, GPT-5, Gemini, DeepSeek, Qwen (2026)

TL;DR — Cinque grandi provider di LLM espongono il prompt caching in cinque forme molto diverse tra loro: marker espliciti (Claude), completamente automatico (GPT-5, DeepSeek-v4), ibrido implicito+esplicito (Gemini, Qwen) o backing su disco a livello architetturale (l’MLA di DeepSeek). Questo articolo mette a confronto le singole feature e propone un framework di valutazione a 5 dimensioni per assegnare un punteggio in base al tuo workload: costo, prevedibilità dell’hit-rate, latenza, adeguatezza del TTL ed ergonomia dell’API. Il contesto architetturale è nella Parte 1: Principi del caching; i numeri misurati e il codice Python funzionante sono nella Parte 3: Tutorial.

Serie: Parte 2 di 5 · In precedenza: Parte 1 — Principi di caching · Successivo: Parte 3 — Tutorial con codice funzionante · Parte 4 — Il miglior LLM per caso d’uso · Parte 5 — Integrazione con LangChain

1. Una tassonomia dei tipi di cache LLM

Prima di passare provider per provider, ci sono quattro assi di design da fissare:

1.1 Controllo: esplicito vs implicito vs ibrido

• Esplicito — lo sviluppatore indica quali parti del prompt mettere in cache (cache_control di Anthropic Claude). Massimo controllo, ma richiede modifiche al codice.
• Implicito / automatico — il provider rileva da solo i prefissi corrispondenti (OpenAI GPT-5, DeepSeek-v4). Zero modifiche al codice, ma nessun modo di forzare un hit.
• Ibrido — entrambe le modalità disponibili; si sceglie chiamata per chiamata (Gemini, Qwen).

1.2 Persistenza: in memoria vs su disco

Dipende dall’architettura della KV cache del provider, non dalla superficie dell’API.

• In memoria (HBM) — le cache vivono nella memoria della GPU, durano poco (minuti) e hanno chunk minimi grandi (1.024 token). È il default per la maggior parte dei provider.
• Su disco — le cache persistono su SSD/NVMe con TTL molto più lunghi e granularità più fine. DeepSeek lo offre su larga scala grazie alla compressione Multi-head Latent Attention (MLA), che riduce la KV cache di circa 4× (DeepSeek-AI, 2024).

1.3 Granularità: risoluzione del match

Quanto piccolo può essere un prefisso per ottenere uno sconto?

• 64 token — DeepSeek (la più fine del settore)
• 128 token — OpenAI (incremento del match)
• 1.024 token — chunk minimo cacheabile per Claude, OpenAI, Gemini e Qwen

Una granularità più fine significa che conta anche la sovrapposizione parziale del prefisso — molto più tollerante verso piccole variazioni del prompt.

1.4 Modello a oggetti: marker per chiamata vs oggetti cache con nome

• Marker per chiamata — ogni richiesta include inline il contenuto da mettere in cache e il provider ne calcola l’hash (Claude, OpenAI, DeepSeek, Qwen implicito).
• Oggetti cache con nome — lo sviluppatore crea una cache con una chiamata API separata, ottiene un cache_id e lo riferisce in seguito (Gemini esplicito, Qwen esplicito). Più cerimonia in cambio di un controllo esplicito sul ciclo di vita.

Questi quattro assi interagiscono. L’offerta di un provider si descrive in base a dove si colloca su ciascuno. La sezione seguente analizza ogni provider singolarmente.

2. Analisi dettagliata provider per provider

2.1 Anthropic Claude — esplicita, in-memory, granularità di 1.024 token

Modelli di punta (2026-05): claude-haiku-4-5, claude-sonnet-4-5 / 4-6, claude-opus-4-5 / 4-6 / 4-7.

API della cache. Puoi inserire fino a quattro breakpoint cache_control in qualsiasi punto del prompt di sistema o dell’array messages. Un cache hit costa circa il 10% della tariffa base di input; una scrittura in cache costa il 125% (un sovrapprezzo del 25%). Il TTL di default è 5 minuti sliding (ogni hit lo azzera), con un’opzione da 1 ora.

Struttura dei prezzi. Anthropic pubblica le tariffe per milione di token per ogni modello sulla propria pricing page; lo sconto della cache è uniforme in tutta la famiglia. Per un prompt di sistema da 8.000 token con 100K chiamate/giorno su claude-sonnet-4-5, il costo per chiamata cala di circa 8–10× una volta che il prefisso è caldo — il punto di pareggio si raggiunge dopo un solo hit.

Comportamento del TTL. Default sliding di 5 minuti: ogni hit sposta la scadenza in avanti di altri 5 minuti. Il TTL da 1 ora raddoppia il costo di scrittura ma è indispensabile per qualsiasi workload con pause di inattività > 5 min.

Granularità. Minimo 1.024 token. L’hash copre la sequenza esatta di token; basta cambiare un carattere all’inizio per invalidare l’intero prefisso.

Ergonomia dell’API. La migliore. Il design multi-breakpoint permette di mettere in cache in modo indipendente le parti “che non cambiano mai” + “che cambiano di rado” + “che cambiano per task” — il top per workload di agenti e RAG, dove le sezioni del prompt cambiano con cadenze diverse.

Trappole.

• Se dimentichi di aggiungere cache_control, non c’è alcun caching — a differenza di GPT o DeepSeek, qui non esiste un fallback implicito.
• L’hashing della cache è sensibile all’ordine anche all’interno degli array di tool/function — ordinali in modo deterministico.
• Il default di 5 min rende Claude poco adatto ai batch job sporadici senza un keep-alive esplicito.
• Se chiami Claude tramite un gateway, verifica che il gateway supporti il path nativo /v1/messages di Anthropic con i marker cache_control (il path OpenAI-compat /chat/completions in genere non propaga i marker — usa l’SDK di Anthropic puntato al base URL del gateway).

Uso ideale. Agenti a contesto lungo, chat multi-turno con prompt di sistema stabili, RAG strutturato con caching a livelli.

2.2 OpenAI GPT-5.x — Automatico, in memoria, granularità di 1.024 token

Modelli principali (2026-05): gpt-5.4-nano, gpt-5.4-mini, gpt-5.2, gpt-5.4-pro, gpt-5.5-pro. Varianti Codex per il codice: gpt-5.2-codex, gpt-5.3-codex.

Cache API. Niente da fare: è automatica su ogni richiesta ≥1.024 token. I cache hit vengono fatturati al 50% della tariffa di input, senza sovrapprezzo in scrittura. Incremento di match: 128 token.

Struttura dei prezzi. OpenAI pubblica le tariffe per milione di token nella pagina dei prezzi. L’input in cache è scontato del 50%; l’output resta invariato.

Misurato (2026-05-25, system prompt di ~6.900 token):

* Il completion del pass hit di gpt-5.4-mini è stato molto più corto rispetto al pass miss; lì la differenza di costo mescola lo sconto della cache con la variazione della lunghezza del completion. Il segnale più pulito è il calo di latenza di 5× (3,63 → 0,73 s).

Comportamento del TTL. Valore esatto non documentato; le segnalazioni sul campo indicano 5–60 minuti a seconda del carico e della popolarità del prefisso. I prefissi condivisi più popolari durano di più (l’LRU li favorisce).

Ergonomia dell’API. Banale: il codice esistente continua a funzionare. Logga prompt_tokens_details.cached_tokens per misurare il cache rate.

Trappole.

• Non c’è modo di forzare un hit. Se il tuo traffico genera prefissi unici, non ottieni nulla.
• Lo sconto del 50% è meno generoso del 90/75% di Claude/DeepSeek (allineato al ~25% implicito di Gemini).
• Lo streaming a volte segnala i cache hit solo nel chunk finale: strumenta con attenzione e passa stream_options={"include_usage": True}.

Adatto a. Codebase già basate su GPT, dove il costo del retrofit supera i risparmi marginali. Traffico a raffiche, dove la ripetizione dei prefissi è naturalmente alta.

2.3 Google Gemini — Ibrido, in memoria, oggetti cache con nome

Modelli principali (2026-05): gemini-2.5-flash, gemini-2.5-pro, gemini-3-flash-preview, gemini-3.1-pro-preview, gemini-3.1-flash-lite-preview.

Cache API. Due modalità:

• Implicita: automatica, come GPT. I token in cache vengono fatturati al ~25% della tariffa di input. Nessun costo di storage, nessun setup.
• Esplicita: crei un oggetto cachedContent tramite una chiamata API separata. Lo referenzi per nome nelle richieste successive. I token in cache vengono fatturati al ~10% (più basso), ma paghi una tariffa di storage oraria per milione di token.

Struttura dei prezzi. Il punto di forza di Gemini è il long context; il prezzo scala in base alla categoria di lunghezza del contesto (sotto i 200K vs sopra i 200K, con tariffe per token più alte oltre la soglia).

Misurato (2026-05-25):

Comportamento del TTL. Implicito: minuti, non dichiarato. Esplicito: impostato dallo sviluppatore, default 1 ora, fino a 24 ore.

Ergonomia dell’API. La cache esplicita richiede un flusso a 2 passi (crea → referenzia). Il ciclo di vita di cachedContent (creazione, aggiornamento del TTL, cancellazione) è a tuo carico.

Trappole.

• La tariffa di storage è il killer per le cache esplicite a basso volume. Calcola sempre il break-even in base alla frequenza delle tue chiamate.
• Il cache rate implicito è variabile; non affidarti a esso per modellare i costi.
• Gli oggetti cache sono legati a una regione: le app multi-regione hanno bisogno di cache duplicate.
• gemini-*-pro è un reasoning model: con max_tokens piccolo, il completion viene consumato dal thinking nascosto e vedrai completion_tokens=0. Alza max_tokens a ≥256 in qualsiasi percorso rivolto all’utente.

Adatto a. Un singolo documento di grandi dimensioni (>20K token) interrogato 10+ volte all’ora. Q&A su video. RAG multimodale su PDF aziendali.

2.4 DeepSeek-v4 — Automatica, su disco, granularità di 64 token

Modelli di punta (2026-05): deepseek-v4-flash (uso generico), deepseek-v4-flash (in questa generazione copre anche i workload coder).

API di cache. Automatica, come GPT, ma basata sulla compressione MLA che rende la cache abbastanza compatta da essere persistita su disco. I cache hit vengono fatturati a circa il 25% del prezzo di input, senza sovrapprezzo di scrittura. Match minimo: 64 token.

Struttura dei prezzi. Tariffe in yuan sulla pagina dei prezzi di DeepSeek. L’hit rate si traduce all’incirca in una riduzione del 75% sul costo di input.

Misurato (2026-05-25):

Comportamento del TTL. Ore, a volte di più per i prefissi ad alto traffico. Lo storage su disco fa sì che le cache sopravvivano alla pressione sulla memoria GPU che altrove causerebbe l’eviction delle cache in memoria.

Granularità. Il minimo di 64 token è il più piccolo del settore. Piccole modifiche al prompt lasciano quasi tutto il prefisso in match, invece di invalidarlo completamente come fanno i provider a 1.024 token.

Ergonomia dell’API. API in stile OpenAI; basta cambiare la base URL. Campo standard prompt_tokens_details.cached_tokens.

Trabocchetti.

• Solo modelli della famiglia DeepSeek. Non c’è modo di usare questa cache con altre famiglie di modelli.
• La qualità sull’inglese è ottima, ma resta dietro a Claude/GPT-5 sui benchmark di reasoning più difficili.

Quando conviene. Workload in lingua cinese (costo). Workload con prefissi ad alta frequenza dove la granularità conta (RAG con ordine di retrieval instabile). Batch job sensibili al costo.

2.5 Alibaba Qwen3 — Ibrida, in memoria, oggetti cache con nome + implicita

Modelli di punta (2026-05): qwen3-max, qwen3.5-plus, qwen3.5-flash. Varianti vision: qwen3-vl-plus, qwen3-vl-flash.

API di cache. Due modalità:

• Implicita: sempre attiva, come GPT. La porzione in cache è fatturata a circa il 20% del prezzo di input.
• Esplicita: crei la cache via API con TTL personalizzato. Hit al ~10%, scritture al 125%.

Misurato (2026-05-25):

Comportamento del TTL. Default 5 minuti, configurabile per singolo oggetto cache. Sliding window per l’esplicita; TTL fisso breve per l’implicita.

Ergonomia dell’API. L’implicita è in stile GPT (zero lavoro). L’esplicita è un flusso in 2 step con gestione del ciclo di vita della cache.

Trabocchetti.

• Al momento solo qwen3-max e qwen3.5-plus supportano il caching esplicito.
• La disponibilità multi-regione (Singapore, US) è in fase di rollout: verifica la regione prima di affidarti ad essa per dati non cinesi.
• La documentazione ha lacune rispetto a quella di Anthropic/OpenAI: consigliato un test empirico.

Quando conviene. Workload enterprise cinesi che richiedono un controllo stretto della cache. Clienti già su Alibaba Cloud.

3. Confronto diretto

3.1 Struttura degli sconti (documentazione dei vendor, 2026-05)

3.2 TTL, granularità e persistenza

3.3 Latenza misurata su un prefisso da 7K token (2026-05-25)

† Le righe di Claude sono misurate con i marker cache_control tramite l’endpoint nativo Anthropic /v1/messages (vedi Parte 3 §2). Il vantaggio maggiore di Claude è sul costo (~88–89% in meno sull’input — vedi la tabella completa dei costi in Parte 3 §2); secondo i numeri pubblicati da Anthropic, il miglioramento del TTFT cresce drasticamente su prompt da 100K+ token.

Singola esecuzione sequenziale, senza carico concorrente. I tuoi numeri cambieranno in base a regione, ora del giorno e carico degli altri tenant.

4. Il framework di valutazione a 5 dimensioni

Titoli come “Claude fa risparmiare il 90%” sono interessanti, ma raramente ti dicono cosa scegliere. Assegna un punteggio a ogni provider su queste cinque dimensioni per il tuo workload, poi pesale in base a ciò che ti interessa.

4.1 Costo effettivo per milione di token (pesato sull’hit rate)

Non confrontare i prezzi base — confronta il costo atteso al tuo reale tasso di successo — inserisci i tuoi numeri nel calcolatore dei costi LLM, oppure sfoglia il confronto dei prezzi LLM in tempo reale tra i vari provider:

effective_cost = base × (1 - hit_rate × (1 - discount)) + write_premium × write_rate

Esempio pratico con ripetizione del prefisso al 70% (chatbot tipico):

• Claude: sconto ~90% × 0,7 hit + 25% write × 0,3 → effettivo ≈ base × 0,45
• GPT-5: ~50% × 0,7 + 0 → effettivo ≈ base × 0,65
• Gemini implicito: ~75% × 0,7 + 0 → effettivo ≈ base × 0,48
• DeepSeek-v4: ~75% × 0,7 + 0 → effettivo ≈ base × 0,48

Moltiplica per la tariffa base reale di ogni vendor (diversa da provider a provider) per ottenere il valore in dollari comparabile. Punteggio: calcola effective_cost per il tuo workload; più basso è, meglio è.

4.2 Prevedibilità dell’hit rate

• Cache esplicite (Claude, Qwen esplicito, Gemini esplicito) — alta prevedibilità. Se l’hai marcato, fa hit (entro il TTL).
• Cache automatiche (GPT-5, DeepSeek-v4, Gemini implicito, Qwen implicito) — dipende dalla similarità del prefisso e dal carico del provider (eviction LRU).

Per SLA legati al costo, preferisci l’esplicito. Per un’ottimizzazione best-effort, l’automatico va bene.

4.3 Aderenza tra TTL e cadenza del traffico

4.4 Latenza in caso di cache miss

Un provider veloce sugli hit ma lento sui miss resta problematico se l’hit rate non è alto. Confronta entrambi i numeri del §3.3 e pesali sull’hit rate atteso.

4.5 Ergonomia delle API e costo di migrazione

• Migrazione minima: GPT-5 ↔ DeepSeek-v4 (entrambi in formato OpenAI, entrambi con cache automatica).
• Media: GPT-5 → Gemini implicito (SDK diverso, nessun codice di cache da riscrivere).
• Alta: GPT-5 → Claude (bisogna aggiungere cache_control e ristrutturare i layer del prompt).
• Massima: da singolo provider a multi-provider senza gateway (più API di cache diverse).

5. Verdetti rapidi per tipo di workload

6. Considerazioni sulla migrazione

Se lo scoring dice di cambiare, ci sono tre cose da pianificare:

Spostamento dei dati. I prefissi in cache non si trasferiscono tra provider: ogni cambio è un cold start. Metti in conto qualche ora di costo più alto del normale durante il warm-up.

Ri-architettura del prompt. Il design multi-breakpoint di Anthropic incoraggia una struttura del prompt a layer che è migliore per qualsiasi provider: fare il refactoring una volta porta benefici anche sui path non-Claude.

Coprirsi con un gateway. Se hai dubbi, instrada tutto attraverso un Token Gateway. Mantieni l’opzionalità senza legarti a un singolo vendor, al prezzo di un hop in più e (a seconda del gateway) del rischio di perdere l’accesso ai controlli di cache specifici del vendor. Vedi Parte 3 §9 per capire cosa fa davvero il gateway Synthorai rispetto alle affermazioni di cui diffidare.

7. Cosa cambia nel tempo

Una nota sulla durata di questi confronti: i numeri di questo articolo cambieranno. Il caching è diventato una feature competitiva sul prezzo, e i provider aggiornano le loro offerte ogni pochi mesi. Due cose da tenere d’occhio:

• Estensioni del TTL. L’opzione a 1 ora di Anthropic è GA; Gemini potrebbe arrivare a più giorni. L’ansia da TTL è destinata a diminuire.
• Granularità. Prima o poi OpenAI e Anthropic elimineranno probabilmente il minimo di 1.024 token; la soglia a 64 token di DeepSeek ha ridefinito le aspettative.

Quando gli sconti convergono, il fattore differenziante diventa l’ergonomia delle API e la latenza, non il risparmio dichiarato.

Prossimo capitolo: Parte 3 — Tutorial sul prompt caching: Python funzionante prende il quadro architetturale visto qui sopra e lo trasforma in codice eseguibile, con la tabella delle latenze del §3.3 riprodotta come benchmark che puoi far girare tu stesso.

FAQ

Quale provider LLM ha il prompt caching più economico, considerando tutto? A parità di hit rate (~75%), nelle nostre misurazioni di 2026-05 il costo effettivo per milione più basso è deepseek-v4-flash per i workload in cinese e gemini-2.5-flash implicito per l’inglese. claude-sonnet-4-5 offre lo sconto sulla singola chiamata più profondo (~90%), ma parte da un prezzo base più alto: conviene quando l’hit rate supera l’85%. Inserisci il tuo hit rate nella formula del §4.1.

Perché Gemini costa di più sui workload a basso volume? La tariffa oraria di storage delle cache esplicite si mangia lo sconto se non interroghi la cache spesso. Per i workload a basso volume, usa il caching implicito di Gemini (niente tariffa di storage, sconto ~25%).

Posso usare il cache_control di Claude con OpenAI? Non direttamente: sono due implementazioni di cache separate. Sull’endpoint OpenAI-compat /chat/completions il campo di solito non ha alcun effetto sui modelli non-Anthropic (che fanno auto-caching comunque). Per Claude, usa l’endpoint nativo Anthropic /v1/messages con i marker.

L’architettura MLA di DeepSeek è proprietaria? Il paper (DeepSeek-AI 2024) è pubblico. Altri provider potrebbero adottare una compressione della KV in stile MLA, ma serve riaddestrare il modello base: non è un interruttore da attivare a runtime. Al 2026-05 DeepSeek resta l’unico provider importante a portarla in produzione.

E i modelli open-source self-hosted? vLLM, SGLang e altri motori di inferenza supportano il prefix caching in modo nativo (la base è il paper su PagedAttention). Se fai self-hosting su H100/H200, puoi implementare un caching su disco con LMCache o simili. L’analisi dei prezzi qui vale solo per i servizi gestiti: l’economia del self-hosting è tutta un’altra storia.

Perché in questo confronto non ci sono Mistral, Cohere o i provider di Llama API? Le loro offerte di caching sono meno mature al 2026-05. Il caching di Mistral è in early access; Cohere non espone il caching esplicito; i provider di Llama API (Groq, Together, Replicate) variano molto tra loro. Da rivedere quando le loro funzionalità si saranno stabilizzate.

Fonti: Anthropic Prompt Caching · OpenAI Prompt Caching · Google Gemini Context Caching · DeepSeek KV Cache · Alibaba Bailian Context Cache · DeepSeek-V2 / MLA paper · PagedAttention / vLLM (Kwon et al. 2023). Numeri misurati da https://synthorai.io/v1 il 2026-05-25.

← Torna al blog