BYOK-Vault
Bringen Sie Ihren eigenen Provider-Key mit. Das Gateway ruft diesen Provider mit Ihren Zugangsdaten auf, sodass die Nutzung über Ihr Provider-Konto abgerechnet wird und nicht über Ihr Synthorai-Guthaben, während Routing, Logging und die einheitliche API unverändert bleiben.
In der Seitenleiste der Konsole (erscheint, sobald die Funktion für Ihr Konto gilt): BYOK Keys Öffnen ↗
Schritte
- Öffnen Sie BYOK Keys und fügen Sie einen Key für den Provider hinzu, bei dem Sie ein Konto haben.
- Fügen Sie den Provider-Key ein. Er wird verschlüsselt gespeichert und nach dem Speichern nie wieder an den Browser zurückgegeben.
- Optional können Sie ihn auf bestimmte Modelle beschränken, indem Sie deren IDs durch Kommas getrennt angeben. Bleibt das Feld leer, gilt der Key für alle Modelle, die dieser Provider anbietet.
- Senden Sie einen Request und prüfen Sie im Dashboard des Providers, dass die Nutzung dort angekommen ist.
Grenzen und Fallstricke
- Ihr Key wird nach dem Speichern nie wieder angezeigt. Der Vault speichert ihn verschlüsselt und entschlüsselt ihn nur im Moment des Aufrufs an den Provider.
- Die Quotas auf Provider-Seite werden zu Ihren. Zwei Einschränkungen: Das Gateway wendet sein eigenes Rate-Limit pro Modell an, bevor es weiß, dass ein Request BYOK ist, und BYOK-Nutzung zählt weiterhin gegen das Tageslimit eines Mitglieds, sofern der Eigentümer eines gesetzt hat.
- Nur der Workspace-Eigentümer kann einen BYOK-Key hinzufügen, rotieren oder entfernen. Wird einer entfernt, fallen die betroffenen Modelle bereits beim nächsten Request auf die gemeinsamen Zugangsdaten zurück.
- Eigene Endpunkte verbinden einen Dienst, den Sie selbst betreiben, oder den Tarif eines Anbieters, sofern er die OpenAI-Chat-Completions-, OpenAI-Responses- oder Anthropic-Messages-API spricht. Legen Sie ihn unter Eigene Endpunkte mit Name, API-Typ, Basis-URL, Schlüssel und den Modellen an, die er übernimmt; ohne Modellliste übernimmt er alle Modelle. Anfragen behalten ihre Modellnamen, die unverändert an den Endpunkt gehen. Diese Anfragen verbrauchen kein Guthaben und erscheinen wie alle anderen in den Logs. Fällt der Endpunkt aus, entscheidet Automatischer Fallback zu Synthorai-Guthaben, ob Synthorai stattdessen antwortet. Die Adresse muss https sein und aus dem öffentlichen Internet erreichbar. Listet der Endpunkt seine Modelle nicht auf, sendet Verbindung testen eine kurze Anfrage an das erste angegebene Modell, auf Ihrem eigenen Konto; sie erscheint in den Logs als Verbindungstest.