용도별로 보기
팀별, 모델별, 키별 지출을 용도로 나눠 보여 줍니다. 월말 예상치와 캐싱으로 아낀 금액도 함께 나옵니다.
예산, 일일 한도, 승인이 지출을 통제합니다. 가드레일과 데이터 등급 분류가 데이터를 보호합니다. 콘솔의 모든 변경을 기록하는 위변조 탐지 감사 로그가 증거를 남깁니다. 관리형 전용 인스턴스로 운영하거나 회사 네트워크 안에 둘 수 있습니다.
게이트웨이가 모든 호출을 코딩, 분석, 작문, 조회, 여가, 기타 중 하나의 용도로 분류합니다. 누구도 양식을 작성할 필요가 없습니다. 지출은 정가 기준으로 팀별·용도별로 표시되므로 재무팀과 엔지니어링팀이 같은 숫자를 봅니다.
팀별, 모델별, 키별 지출을 용도로 나눠 보여 줍니다. 월말 예상치와 캐싱으로 아낀 금액도 함께 나옵니다.
여가가 2%를 넘으면 팀장에게 알립니다. 최상위 티어가 30%를 넘으면 승인이 필요합니다. 예산이 소진되면 차단합니다.
model=auto를 쓰면 조회는 저렴한 티어로, 긴 분석은 더 큰 모델로 갑니다. 모든 결정에 이유가 기록됩니다.
같은 게이트웨이를 이루는 다섯 부분이 더 있습니다.
사용자는 base URL과 키만 바꿉니다. 그 뒤에는 저희 카탈로그의 모델, 회사 키로 쓰는 공급자, 회사 네트워크 안의 모델이 있습니다. 게이트웨이는 각 업스트림의 상태를 확인하고, 필요하면 다른 업스트림으로 페일오버합니다.
claude-opus-5gpt-5.4deepseek-v4.1 조직에는 상한, 팀에는 총액, 용도에는 비중, 구성원에게는 일일 한도가 있습니다. 어느 하나라도 넘으면 게이트웨이가 알리고 조치합니다.
규칙 팩이 요청과 응답에서 프롬프트 인젝션, 개인정보, 시크릿과 키, 금지 주제, 회사 자체 단어 목록을 검사합니다. 감지 전용으로 시작해 어떻게 처리됐을지 확인한 뒤 집행으로 전환하세요.
block 286 mask 912 block 248 detect 6 model=auto를 쓰면 게이트웨이가 요청을 읽고 티어와 모델을 고른 뒤 이유를 기록합니다. base URL, SDK, 정가는 그대로이므로 라우팅 정책을 바꿔도 코드는 바꿀 필요가 없습니다.
# 기존 코드 그대로, base URL과 키만 교체
base_url="https://api.openai.com/v1"
base_url="https://synthorai.io/v1"
# model="auto" 구성원은 SSO로 로그인하고 계정은 SCIM으로 프로비저닝되며, 역할은 IdP 그룹에서 가져옵니다. 콘솔에서 일어난 모든 변경은 해시 체인 감사 로그에 남습니다.
Azure eastus 100 → 50 Mark Davis · 키 3개 Sarah Brooks · 하루 $10 → $15 판정 모델 → 로컬 규칙 회사 전용 인스턴스를 저희가 운영합니다. 기본은 미보관이고, 회사가 정한 보관 정책을 적용할 수도 있습니다. 리전은 US, EU, APAC 중에서 고정합니다.
게이트웨이와 콘솔을 포함한 제품 전체를 회사 VPC나 데이터센터에 설치합니다. 요청은 허용한 공급자로만 나갑니다.
라우팅 분류기, 판정 모델, 프롬프트 태거의 엔드포인트는 회사가 정합니다. 게이트웨이는 이 엔드포인트로 HTTPS나 사설 주소만 허용하므로, 프롬프트가 암호화되지 않은 채 공용 인터넷을 지나지 않습니다.
각 프레임워크가 요구하는 통제와 그것을 제공하는 기능을 정리했습니다. 회사의 평가를 지원하는 자료이며 인증은 아닙니다.
팀 규모, 사용 중인 공급자, 어디에서 실행해야 하는지 알려 주세요. DPA는 요청 시 제공합니다.