Vertrauenswürdige IPs

Kommt ein Aufruf mit einem API-Key von einer IP-Adresse, für die der Key nicht freigegeben ist, wird er zurückgehalten, bis jemand die Adresse freigibt. Ein geleakter Key, der anderswo benutzt wird, bekommt dann eine Ablehnung statt einer Antwort.

In der Seitenleiste der Konsole (erscheint, sobald die Funktion für Ihr Konto gilt): Settings › Security Öffnen ↗

Schritte

Öffnen Sie Einstellungen › Sicherheit und schalten Sie Neue IPs erst nach Freigabe zulassen ein. Der Dialog listet die Adressen, von denen aus jeder Key in den letzten 7 Tagen benutzt wurde; öffentliche Adressen sind bereits angehakt. Entfernen Sie den Haken bei allem, was Sie nicht kennen, und schalten Sie die Einstellung dann ein. Ändern können diese Einstellung nur der Eigentümer und die Admins des Workspace, und sie lässt sich nicht einschalten, solange das Gateway die echten Client-Adressen nicht sieht (alle Aufrufe scheinen von einer privaten Adresse hinter einem Proxy zu kommen).
Danach wird ein Aufruf von jeder anderen Adresse mit 403 und dem Fehlercode ip_not_trusted abgelehnt. Der Fehler nennt die Adresse, die das Gateway gesehen hat, und verlinkt die Seite, auf der sie freigegeben wird (Felder ip und approve_url). Wer den Key erstellt hat, bekommt eine E-Mail mit Adresse, Standort, Client und angefragtem Modell (bei einem Admin-Key mit der aufgerufenen Operation); bei einem Admin-Key, der dem Workspace gehört, oder wenn diese Person den Workspace verlassen hat, geht sie an den Eigentümer und die Admins.
Öffnen Sie den Link, melden Sie sich an und geben Sie die Adresse frei, bei einem Client mit wechselnden Adressen auch ihren Bereich (/24 bei IPv4, /64 bei IPv6), oder lehnen Sie sie ab. Der nächste Aufruf von einer freigegebenen Adresse geht durch.
Die Liste Vertrauenswürdige IPs zeigt die Adressen, von denen aus Ihre Keys benutzt wurden, mit Standort und Status. Einer bekannten Adresse vertrauen Sie mit einem Klick, über IP hinzufügen tragen Sie eine Adresse oder einen Bereich von Hand ein (bis /16 bei IPv4, /32 bei IPv6), und Sie können Einträge entfernen.

Grenzen und Fallstricke

Vertrauen gilt pro Key: Eine freigegebene Adresse lässt nur diesen Key durch, nicht jeden Key im Workspace. Das gilt für Inferenz-Keys wie für Admin-Keys.
Ein Key mit eigener IP-Allowlist ist nicht betroffen, solange kein Bereich darin breiter als /16 (IPv4) bzw. /32 (IPv6) ist: Dann entscheidet allein seine Allowlist. Enthält die Liste einen breiteren Bereich wie 0.0.0.0/0, braucht der Key wie jeder andere eine Freigabe. Wenn Sie Neue IPs erst nach Freigabe zulassen ausschalten, kommen wieder alle Adressen durch, und die vertrauenswürdigen Adressen bleiben für das nächste Mal gespeichert.
Freigeben können die Person, die den Key erstellt hat, sowie der Eigentümer und die Admins des Workspace (bei einem Admin-Key, der dem Workspace gehört, nur Eigentümer und Admins). Freigegeben wird in der Konsole nach der Anmeldung. Die E-Mail hat keinen Freigabe-Button, eine weitergeleitete E-Mail kann also nichts freigeben.
Eine offene Anfrage läuft nach 7 Tagen ab. Nach einer Ablehnung werden Aufrufe von dieser Adresse 30 Tage lang weiter abgelehnt, ohne dass eine neue Anfrage oder E-Mail entsteht. Serverless-Funktionen und CI-Runner, die bei jedem Lauf von einer neuen Adresse aus aufrufen, werden jedes Mal zurückgehalten: Geben Sie ihnen einen Key mit IP-Allowlist oder vertrauen Sie ihrem Bereich.