Neu Kostenlos registrieren und 10 Aufrufe gratis nutzen. Bis zu 1 $, ohne Kreditkarte.

Ausgaben steuern.Daten schützen.Nachweise sichern.

Budgets, Tageslimits und Freigaben steuern die Ausgaben. Guardrails und Datenklassifizierung schützen die Daten. Ein manipulationssicheres Audit-Log jeder Änderung in der Konsole sichert die Nachweise. Betrieben wird es als verwaltete dedizierte Instanz oder in Ihrem eigenen Netzwerk.

Freigaben Drei Anträge warten auf Sie. Teambudget 300,00 $ pro Tag.
  • Emily Carter Tageslimit 20,00 $ → 50,00 $ · Vertragsextraktion fürs Quartal Zweimal zuvor beantragt, beide Male freigegeben · das Team hat noch 248,00 $ von 300,00 $
    Eskaliert in 4 h Ablehnen Freigeben
  • Jason Miller Zugang zu claude-opus-5 · 30 Tage Erster Antrag · gestern 4,10 $ von 20,00 $ Tageslimit ausgegeben
    Ablehnen Freigeben
  • Sarah Brooks Tageslimit 20,00 $ → 400,00 $ Über den 300,00 $ pro Tag des Teams, eine Freigabe geht deshalb an einen Admin weiter
    Geht an einen Admin Ablehnen Freigeben

Wissen, wofür Ihr Unternehmen KI einsetzt

Das Gateway ordnet jeden Aufruf einem Zweck zu: Programmieren, Analyse, Schreiben, Nachschlagen, Freizeit oder Sonstiges. Niemand füllt ein Formular aus. Die Ausgaben erscheinen nach Team und Zweck zum Listenpreis, sodass Finanzabteilung und Engineering dieselbe Zahl sehen.

  • Logs: eine Zeile pro Aufruf. Darin stehen die Routing-Entscheidung, die Guardrail-Treffer und die Kosten.
  • Wo Inhalte aufbewahrt werden, liest niemand einen Prompt ohne befristete Einsichtsfreigabe, und jeder Lesezugriff landet im Audit-Log.
  • Exporte senden jeden Anfragedatensatz an S3 oder einen OTLP-Collector.
Teams × Zwecke Dieser Monat, zum Listenpreis
Team Zweckverteilung Ausgegeben / Budget
F&E Programmieren 72% $4,812 / $8,000
Vertrieb Schreiben 46% $3,960 / $4,500
Support Schreiben 38% $3,120 / $6,000

Sichtbar machen

Ausgaben nach Team, Modell und Schlüssel, aufgeteilt nach Zweck, mit der Prognose zum Monatsende und der Ersparnis durch Caching.

Richtlinien festlegen

Freizeit über 2 % informiert die Teamleitung. Die höchste Stufe über 30 % braucht eine Freigabe. Ein erschöpftes Budget blockiert.

Danach routen

Mit model=auto geht Nachschlagen an eine günstigere Stufe und eine lange Analyse an ein größeres Modell. Jede Entscheidung hält den Grund fest.

Was die Enterprise-Edition außerdem leistet.

Fünf weitere Teile desselben Gateways.

Eine Base-URL vor jedem Modell

Ihre Mitarbeiter ändern nur Base-URL und Schlüssel. Dahinter liegen die Modelle aus unserem Katalog, die Anbieter über Ihre eigenen Schlüssel und die Modelle in Ihrem Netzwerk. Das Gateway überwacht den Zustand jedes Upstreams, und bei einem Ausfall übernimmt per Failover ein anderer.

  • Der Katalog zeigt, was jedes Modell kostet und was jeder Upstream mit Ihren Daten macht: keine Speicherung, Speicherung möglich oder bleibt im Haus.
  • Modellzugriff pro Team: erlaubt, freigabepflichtig oder blockiert. Die erste passende Regel gewinnt.
  • Stellen Sie ein Team auf „keine Speicherung“ um, werden Upstreams, die Daten speichern dürfen, für dieses Team abgeschaltet. Das private Modell bleibt verfügbar.
  • BYOK ist enthalten, und persönliche Anbieterschlüssel lassen sich für die ganze Instanz erlauben oder abschalten.
Teams × Modelle Die Zellen folgen aus den Regeln; ändern Sie die Regeln, nicht die Zellen
Team claude-opus-5gpt-5.4deepseek-v4.1
Support BlockiertErlaubtErlaubt
F&E FreigabepflichtigErlaubtErlaubt
Vertrieb FreigabepflichtigErlaubtErlaubt

Budgets, die vor der Rechnung greifen

Die Organisation bekommt ein Limit, Teams eine Gesamtsumme, Zwecke einen Anteil und Personen ein Tageslimit. Wird eines davon überschritten, meldet das Gateway das und reagiert darauf.

  • Warnschwellen bei 50, 80 und 95 % des Limits. Ist es erschöpft, werden neue Anfragen je nach Ihrer Einstellung mit 402 abgelehnt oder bedient und markiert.
  • Zweck-Richtlinien: Teamleitung informieren, Freigabe verlangen, auf eine günstigere Stufe umleiten oder blockieren.
  • Eine vorübergehende Erhöhung läuft von selbst aus. Ein Antrag auf ein höheres Limit geht an die Teamleitung und, wenn 24 Stunden lang niemand entscheidet, an einen Admin. Über jeden Antrag entscheidet ein Mensch.
  • Kostenstellen und eine Monatsabrechnung für die Finanzabteilung, mit den nicht zugeordneten Ausgaben je Schlüssel.
Zweck-Richtlinien Bei jeder Anfrage geprüft, vor der Weiterleitung
  • Freizeit Anteil über 2 % · alle Teams Teamleitung informieren
  • Analyse Höchste Stufe über 30 % · F&E Freigabepflichtig
  • Nachschlagen Anteil über 10 % · Support Günstigere Stufe
  • Jeder Zweck Budget erschöpft · alle Teams Blockieren

Guardrails mit Prüfmodell und ein Tool-Register

Regelpakete prüfen Anfragen und Antworten: Prompt-Injection, personenbezogene Daten, Secrets und Schlüssel, gesperrte Themen, Ihre eigene Wortliste. Beginnen Sie im Modus „nur erkennen“, sehen Sie sich an, was die Regeln getan hätten, und schalten Sie dann auf „durchsetzen“.

  • Vier Aktionen: blockieren, maskieren, anleiten oder erkennen. Anleiten sagt der Person, was sie stattdessen tun soll, ohne zu ändern, was das Modell erhält.
  • Ein Prüfmodell bewertet jeden Treffer über einer Konfidenzschwelle; der Text wird vorher geschwärzt. Ist das Prüfmodell langsam oder nicht erreichbar, wird die betreffende Anfrage durchgelassen, protokolliert und löst eine Warnmeldung hoher Priorität aus.
  • Datenklassifizierung: vier Stufen und Ihre eigenen Regeln. Jede Stufe sagt, welche Modelle sie erreichen darf.
  • MCP-Server und Skills werden registriert; nicht registrierte werden protokolliert oder blockiert. Warnmeldungen gehen an Slack, E-Mail, Feishu oder PagerDuty, und bevor Sie einen Schlüssel deaktivieren, sehen Sie, was dadurch ausfallen würde.
Regelpakete Letzte 7 Tage · durchsetzen
Paket Richtung Aktion Treffer
Prompt-Injection Eingabe block 286
Personenbezogene Daten Eingabe · Ausgabe mask 912
Secrets und Schlüssel Eingabe block 248
Gesperrte Themen Eingabe detect 6

Mit model=auto wählt das Gateway das Modell

Mit model=auto liest das Gateway die Anfrage, wählt Stufe und Modell und hält den Grund fest. Base-URL, SDK und Listenpreis bleiben gleich, eine Routing-Richtlinie lässt sich also ändern, ohne den Code anzufassen.

  • Erkennt den Zweck aus Stichwörtern, Struktur, Länge und Tools. Lokale Regeln entscheiden innerhalb der Instanz, und nichts verlässt sie. Alternativ verweisen Sie auf Ihren eigenen Zweck-Endpunkt.
  • Ordnet den Zweck einer Stufe zu. Lange Anfragen und solche mit Tools erhalten eine höhere.
  • Nimmt das erste Modell, das gerade verfügbar ist. Innerhalb einer Konversation wechselt die Stufe nur nach oben.
  • Die Routing-Seite zeigt, wie viel auto gespart hat gegenüber dem Fall, dass alles an die höchste Stufe gegangen wäre.
# Drop-in-Ersatz: Nur eine Zeile ändert sich.
base_url="https://api.openai.com/v1"
base_url="https://synthorai.io/v1"
# model="auto"

Identität aus Ihrem IdP und ein Audit-Log, das sich überprüfen lässt

Ihre Mitarbeiter melden sich per SSO an und werden über SCIM provisioniert; die Rollen stammen aus IdP-Gruppen. Jede Änderung in der Konsole landet in einem Audit-Log mit Hash-Kette.

  • Konten sind an das IdP-Subject gebunden, nie an die E-Mail-Adresse: Eine täuschend ähnliche Adresse kann weder das Tageslimit noch die Schlüssel einer anderen Person erben.
  • Schlüssel werden binnen fünf Minuten nach der Deaktivierung im IdP gesperrt, laufende Anfragen eingeschlossen.
  • Das Audit-Log hält jede Änderung in der Konsole Feld für Feld fest und jeden Lesezugriff auf einen Prompt, nie Anfrageinhalte. Exportieren Sie es als JSONL oder streamen Sie es in Ihr SIEM. Aufbewahrt wird es unbefristet.
  • Anfrage-Logs und Inhalte haben eine eigene Aufbewahrung: aus, geschwärzt oder vollständig zum Debuggen.
Audit-Log Kette intakt · vor 3 Min. geprüft
  • Emily Carter · Admin Upstream-Gewicht geändert Azure eastus 100 → 50
  • SCIM Ausgetreten, Schlüssel widerrufen Mark Davis · 3 Schlüssel
  • Jason Miller · Teamleitung Erhöhung freigegeben Sarah Brooks · 10 $ → 15 $ pro Tag
  • System Prüfmodell: Failover Prüfmodell → lokale Regeln

Wohin die Daten gehen.

Verwaltete dedizierte Instanz

Ihre eigene Instanz, von uns betrieben. Standardmäßig keine Speicherung, oder die Aufbewahrungsregel, die Sie festlegen. Regionsbindung in den USA, der EU oder APAC.

Eigene Installation

Das ganze Produkt, Gateway und Konsole, in Ihrer VPC oder Ihrem Rechenzentrum. Anfragen verlassen das Netzwerk nur zu den Anbietern, die Sie freigeben.

Die Endpunkte für Routing-Klassifikator, Prüfmodell und Prompt-Tagger wählen Sie selbst. Das Gateway akzeptiert dafür nur HTTPS oder eine private Adresse, ein Prompt geht also nicht unverschlüsselt über das öffentliche Internet.

Wobei es hilft.

Verlangt wird Geliefert durch
EU AI Act, Artikel 26: Betreiber von Hochrisiko-KI-Systemen bewahren automatisch erzeugte Protokolle mindestens sechs Monate auf und übertragen die menschliche Aufsicht an Personen mit der nötigen Befugnis Audit-Ereignisse werden unbefristet aufbewahrt, Anfrage-Logs so lange, wie Sie festlegen; Freigaben und Guardrail-Regeln setzen eine Person oder eine Regel direkt an die Anfrage
ISO/IEC 42001: ein KI-Managementsystem mit Inventar, Rollen und laufender Überwachung Anwendungsregister, Teams und Rollen, Aufzeichnungen pro Anfrage mit Zweck-Tags
NIST AI RMF: Govern, Map, Measure, Manage Richtlinienregeln, Datenklassifizierung, Nutzungsanalysen nach Team und Zweck, Freigaben

Das sind die Kontrollen, die jedes Rahmenwerk verlangt, und die Funktion, die sie jeweils liefert. Sie unterstützen Ihre Bewertung und sind keine Zertifizierung.

Mit dem Vertrieb sprechen.

Nennen Sie uns Ihre Teamgröße, Ihre Anbieter und wo es laufen muss. Den Auftragsverarbeitungsvertrag (DPA) gibt es auf Anfrage.

Mit dem Vertrieb sprechen