Das Team hinter dem Gateway

Synthorai ist ein multimodales AI-Gateway: eine API für LLMs, Bildgenerierung und Sprache. Entstanden ist es, weil wir in jedem Unternehmen, in dem wir gearbeitet haben, dieselbe Infrastruktur wieder von vorn gebaut haben: Anbieter-Failover, Verbrauchsmessung, Compliance-Prüfungen. Diesmal haben wir sie ein einziges Mal gebaut, und zwar als eigenes Produkt.

Was wir bauen

Ein OpenAI-kompatibler Endpunkt, der Anfragen an 117+ Modelle der großen Anbieter weiterleitet: Chat, Bild und Sprache. Dahinter stehen Prompt-Cache-Affinität (damit Caching-Rabatte auch wirklich ankommen), eine nutzungsbasierte Abrechnung, die Abstürze übersteht, und ein BYOK-Tresor mit Regeln pro Modell.

Es gibt keine Plattformgebühr und keinen BYOK-Aufschlag. Wir verdienen daran, dass Sie Guthaben aufladen und das Gateway nutzen, nicht an aufgeschlagenen Gebühren.

Wer wir sind

Wir sind ein kleines Engineering-Team mit Security- und Compliance-Hintergrund. Vor Synthorai haben wir jahrelang Systeme für Schlüsselverwaltung, Audit-Trails und Data Governance gebaut.

Wir betreiben KI-Workloads seit GPT-3 produktiv, und diese Schicht des Stacks kennen wir am besten: wie Tokens gezählt werden, wie sich Caches bei den einzelnen Anbietern verhalten und wie ein Gateway ausfallen muss, damit die Abrechnung dabei keinen Schaden nimmt.

Aus dieser Erfahrung stammen unsere Voreinstellungen: Verschlüsselung und Least Privilege überall, keine Speicherung von Prompts, und eine korrekte Abrechnung gilt bei uns als harte Anforderung, nicht als Feature.

Wie wir arbeiten

Wir dokumentieren, wie die schwierigen Teile funktionieren, einschließlich der Fehlerfälle: wie die Abrechnung korrekt bleibt, wenn eine Anfrage mitten im Stream abbricht, wie wir unsere eigene Cache-Abrechnung prüfen und wie sich Prompt-Caching von einem Anbieter auf den anderen übertragen lässt. Wo sich eine Aussage überprüfen lässt, verlinken wir den Beleg: Engineering-Blog →

Ihre Daten sind nicht unser Produkt

Standardmäßig erreichen Sie nur Modelle, deren Anbieter nicht mit Ihren Daten trainieren. Alles andere erfordert ein ausdrückliches Opt-in, das pro Arbeitsbereich durchgesetzt wird. Für die Abrechnung speichern wir die Metadaten der Anfragen und sonst nichts: keine Prompts, keine Antworten. Die Inferenz läuft auf Infrastruktur außerhalb sensibler Rechtsräume.

Unternehmen

Synthorai Technology Inc. · Mountain View, CA 94043 · Gegründet 2026
support@synthorai.ai · dev.to/synthorai · x.com/synthoraihq · linkedin.com/company/synthorai-hq · github.com/synthorai-io