Vault BYOK
Usa la tua chiave del provider. Il gateway chiama quel provider con le tue credenziali, così i consumi vengono addebitati sul tuo account presso il provider invece che sul saldo Synthorai, mentre routing, log e API unificata restano gli stessi.
Nella barra laterale della console (appare quando la funzionalità si applica al tuo account): BYOK Keys Apri ↗
Passaggi
- Apri BYOK Keys e aggiungi una chiave per il provider presso cui hai un account.
- Incolla la chiave del provider. Viene cifrata a riposo e non viene mai restituita al browser dopo il salvataggio.
- Se vuoi, limitala a modelli specifici elencandone gli id separati da virgola. Lasciando il campo vuoto la chiave copre tutti i modelli serviti da quel provider.
- Invia una richiesta e verifica sulla dashboard del provider che i consumi siano stati registrati lì.
Limiti e insidie
- La tua chiave non viene più mostrata dopo il salvataggio: il vault la conserva cifrata e la decifra solo al momento della chiamata al provider.
- Le quote lato provider diventano le tue. Due avvertenze: il gateway applica il proprio rate limit per modello prima di sapere che una richiesta è BYOK, e i consumi BYOK rientrano comunque nel limite giornaliero di un membro, dove il proprietario ne ha impostato uno.
- Solo il proprietario del workspace può aggiungere, ruotare o rimuovere una chiave BYOK. Rimuovendone una, i modelli interessati tornano alle credenziali condivise già dalla richiesta successiva.
- Gli endpoint personalizzati collegano un servizio che gestisci tu o il piano di un provider, purché sia compatibile con l’API OpenAI Chat Completions, OpenAI Responses o Anthropic Messages. Aggiungine uno in Endpoint personalizzati con un nome, il tipo di API, l’URL di base, la chiave e i modelli che gestisce; senza modelli indicati li gestisce tutti. Le richieste mantengono i nomi dei modelli, che arrivano all’endpoint così come sono. Queste richieste non consumano crediti e compaiono nei log come tutte le altre. Se l’endpoint non risponde, Fallback automatico ai crediti Synthorai decide se risponde Synthorai al suo posto. L’indirizzo deve essere https e raggiungibile da Internet. Se l’endpoint non elenca i suoi modelli, Prova connessione invia una breve richiesta al primo modello indicato, a carico del tuo account; compare nei log come Prova di connessione.