Das Team hinter dem Gateway

Synthorai ist ein AI-Gateway mit eingebauter Governance, verfügbar als SaaS, als verwaltete Enterprise-Instanz oder in Ihrem eigenen Netzwerk. Entstanden ist es, weil wir in jedem Unternehmen, in dem wir gearbeitet haben, dieselbe Infrastruktur wieder von vorn gebaut haben: Anbieter-Failover, Verbrauchsmessung, Compliance-Prüfungen. Diesmal haben wir sie ein einziges Mal gebaut, und zwar als eigenes Produkt.

Was wir bauen

Ein OpenAI-kompatibler Endpunkt vor den Modellen der großen Anbieter: Chat, Bild, Sprache, Video und Echtzeit-Sprache. Dahinter stehen Prompt-Cache-Affinität (damit Cache-Rabatte ankommen), eine nutzungsbasierte Abrechnung, die Abstürze übersteht, und ein BYOK-Tresor mit Regeln pro Modell.

In SaaS gibt es keine Plattformgebühr und keinen BYOK-Aufschlag, und die Modellnutzung kostet den Listenpreis des Anbieters. Geld verlangen wir für die Plattform von Enterprise und eigener Installation.

Wer wir sind

Wir sind ein kleines Engineering-Team mit Security- und Compliance-Hintergrund. Vor Synthorai haben wir jahrelang Systeme für Schlüsselverwaltung, Audit-Trails und Data Governance gebaut.

Wir betreiben KI-Workloads seit GPT-3 produktiv, und diese Schicht des Stacks kennen wir am besten: wie Tokens gezählt werden, wie sich Caches bei den einzelnen Anbietern verhalten und wie ein Gateway ausfallen muss, damit die Abrechnung dabei keinen Schaden nimmt.

Aus dieser Erfahrung stammen unsere Voreinstellungen: Verschlüsselung und Least Privilege überall, keine Speicherung von Prompts, und eine korrekte Abrechnung gilt bei uns als harte Anforderung, nicht als Feature.

Wie wir arbeiten

Wir dokumentieren, wie die schwierigen Teile funktionieren, einschließlich der Fehlerfälle: wie die Abrechnung korrekt bleibt, wenn eine Anfrage mitten im Stream abbricht, wie wir unsere eigene Cache-Abrechnung prüfen und wie sich Prompt-Caching von einem Anbieter auf den anderen übertragen lässt. Wo sich eine Aussage überprüfen lässt, verlinken wir den Beleg: Engineering-Blog →

Ihre Daten sind nicht unser Produkt

Standardmäßig erreichen Sie nur Modelle, deren Anbieter nicht mit Ihren Daten trainieren. Alles andere erfordert ein ausdrückliches Opt-in, das pro Arbeitsbereich durchgesetzt wird. Die Inhalte von Anfragen und Antworten werden weitergeleitet und standardmäßig nicht gespeichert; für die Abrechnung bewahren wir die Metadaten der Anfragen auf. Jeder Arbeitsbereich lässt sich an die USA, die EU oder APAC binden.

Unternehmen

Synthorai Technology Inc. · Mountain View, CA 94043 · Gegründet 2026
support@synthorai.ai · dev.to/synthorai · x.com/synthoraihq · linkedin.com/company/synthorai-hq · github.com/synthorai-io