GPT-5.6 프롬프트 가이드: 비용이 1.5배와 10배가 되는 두 가지 기본값

GPT-5.6 프롬프팅의 핵심은 요청 parameter 두 개이며, 둘 다 기본값이 더 비싼 쪽으로 설정되어 있다. 50회 호출로 구성한 테스트 matrix에서 reasoning_effort를 생략하면 "none"으로 지정했을 때보다 1.5배의 비용이 청구됐지만 답변은 같았다. 안정적인 prefix에 표시하지 않으면 호출할 때마다 캐시 읽기 요율의 10배가 청구된다. 이 가이드는 GPT-5.6 비용 가이드의 측정 결과를 바탕으로 요청을 구성하는 방법을 정리한다. 올바른 요청 형태, 작업별 effort 설정, 캐시가 작동하도록 prompt를 배치하는 방법, GPT-5.5에서 prompt를 이전할 때 발생하는 문제를 다룬다.

TL;DR

• 모든 GPT-5.6 요청에 reasoning_effort를 명시한다. 4개 작업으로 구성한 matrix에서 이를 생략하면 "none"보다 1.5배의 비용이 청구됐지만 답변은 같았다.
• 허용되는 effort는 none부터 xhigh까지다. "max"는 Sol과 Terra 모두에서 400을 반환한다.
• 안정적인 prefix에는 명시적인 캐시 breakpoint를 지정한다. 캐시 읽기는 입력 요율의 10%, 쓰기는 1.25배가 청구되므로, 안정적으로 보이는 부분이 아니라 실제로 반복되는 부분에 표시해야 한다.
• GPT-5.5 이하에서는 prompt_cache_options와 breakpoint가 400을 반환한다. model version에 따라 rollout을 분기해야 한다.

GPT-5.6 요청은 어떻게 구성해야 하나?

다음 구조에서 시작해 필요 없는 항목을 제거한다. 비싼 기본값을 그대로 사용하지 않고 두 가지 조절 항목을 명시적으로 지정하는 형태다.

{
  "model": "gpt-5.6-terra",
  "reasoning_effort": "low",
  "prompt_cache_options": { "mode": "explicit", "ttl": "30m" },
  "prompt_cache_key": "tenant-42",
  "messages": [
    { "role": "system", "content": "…stable instructions…",
      "prompt_cache_breakpoint": { "mode": "explicit" } },
    { "role": "user", "content": "…the part that changes per request…" }
  ]
}

배치 원칙은 간단하다. 안정적인 내용은 모두 breakpoint 앞에, 요청마다 달라지는 내용은 뒤에 둔다. timestamp, 사용자 이름, 호출마다 달라지는 검색 문서 같은 동적 내용은 표시된 block 안에 넣지 않는다. 단 1 byte만 바뀌어도 해당 block 전체에 1.25배의 쓰기 할증이 다시 적용되기 때문이다. prompt_cache_key는 반복 요청을 같은 cache로 보낸다. tenant 또는 session마다 안정적인 key 하나를 사용하되, key당 분당 약 15개 요청이라는 문서상의 soft limit에 유의한다.

reasoning_effort는 어떻게 설정해야 하나?

항상 명시해야 한다. 피해야 할 유일한 설정은 아예 설정하지 않는 것이다. 측정 결과, reasoning_effort가 없는 요청은 "none"으로 지정한 요청보다 1.5배의 비용이 청구됐고 matrix 전체에서 답변은 같았다. 허용되는 값은 none, low, medium, high, xhigh다. "max"는 유효한 범위를 명시한 400 응답과 함께 거부된다. Luna에서 한 줄짜리 수학 문제로 확인한 결과는 다음과 같다.

Token 사용량 분석에서 해당 문제의 thinking을 완전히 꺼도 정답을 유지한 model family는 GPT-5.6뿐이었다. 따라서 추출, 분류, 형식 변환, 검색형 호출에는 none을 기본값으로 사용해도 합리적이다. 추론을 활성화하면 token은 사용자에게 보이지 않지만 전체 출력 요율로 청구된다. 기본 설정으로 수학 문제를 푼 예에서는 출력 비용의 88%가 읽을 수 없는 chain of thought에 쓰였다. 기본값이 이미 비용을 사용한다는 이유로 effort를 높이지 말고, eval 결과상 필요한 작업에만 단계적으로 올려야 한다.

캐시 효과를 얻으려면 prompt를 어떻게 배치해야 하나?

안정적인 순서대로 prompt를 계층화하고 각 계층에 표시한다. system instruction, tool definition, 참고 문서 순으로 배치하고 각각의 끝에 breakpoint를 둔다. 변동되는 user turn은 마지막 표시 뒤에 놓는다. 요청당 캐시 쓰기는 4회까지 가능하다. 기본 implicit mode에서는 최신 message에 자동으로 설정되는 breakpoint가 그중 하나를 사용한다. explicit mode를 쓰면 4회를 모두 활용할 수 있고, 무엇보다 표시한 부분만 cache에 저장할 수 있다.

핵심 이점은 부분 재사용이며, 실제 측정으로 확인했다. 안정적인 block A와 교체되는 tail B로 구성한 prompt에서는 tail에만 요금이 다시 청구됐다. 2,431-token prompt 중 1,212 token은 캐시 요율로 읽었고, 1,210 token은 할증 요율로 새로 썼다. 요율표로 계산한 값과 마지막 자리까지 일치했다. 여기서 세 가지 비용 관리 원칙을 도출할 수 있다.

• 읽기는 입력 요율의 10%로 청구된다. 예열된 계층형 prefix를 사용하면 입력 비용이 크게 낮아진다.
• 쓰기는 1.25배로 청구된다. 다시 읽히지 않는 block에 표시하면 캐시를 사용하지 않을 때보다 25% 더 비싸다. 안정적으로 보이는 모든 부분이 아니라 실제로 반복되는 부분만 표시해야 한다.
• 전체가 반복돼도 일치 길이가 표시 지점보다 짧아질 수 있다. 한 번의 측정에서는 2,422-token 쓰기 중 1,897 token만 cache hit로 처리됐다. 정확한 일치 token 수가 아니라 할인 요율을 기준으로 예산을 잡아야 한다. family별 최솟값은 캐시 최소 길이 측정에 정리했다.

ttl: "30m"은 상한이 아니라 보장되는 최솟값이며, Claude의 기본값인 5분보다 6배 길다. 이제 24시간 tier는 제공되지 않는다. 장기 보존을 사용하던 일일 batch workload는 손익분기점을 다시 계산해야 한다.

GPT-5.5에서 prompt를 이전하면 무엇이 깨지나?

두 가지는 명확한 오류를 내고, 한 가지는 조용히 문제를 일으킨다. prompt_cache_options와 prompt_cache_breakpoint는 GPT-5.5 이하에서 명확한 400 오류를 반환한다(prompt_cache_options is not supported on this model). 공통 prompt builder에는 model version 분기가 필요하다. 일부 5.5 설정에서 사용하던 "max" effort도 명확하게 거부된다.

더 비싼 문제는 오류 없이 발생한다. reasoning을 꺼 두었던 5.5 workload와 달리 GPT-5.6은 기본적으로 추론한다. reasoning_effort를 설정하지 않은 채 prompt를 이전하면 같은 요율표에서 1.5배의 생략 비용이 붙는다. 캐시 이전은 반대 방향으로 동작한다. 5.5의 자동 prefix 감지는 별도의 표시가 필요 없었지만, 직접 작동시키거나 debug할 수 없었다. 5.6에서는 같은 prompt에 표시하지 않으면 아무 일도 일어나지 않는다. 표시한 뒤에는 모든 쓰기가 usage.prompt_tokens_details.cache_write_tokens에 보고된다. cache miss도 아무 정보 없이 넘어가는 대신 직접 생성한 field에 0으로 나타난다.

어느 tier에서 prompt를 실행해야 하나?

세 tier 모두 같은 요청 구조를 사용한다. 따라서 tier 선택은 프롬프팅이 아니라 가격의 문제다. 100만 token당 Sol은 $5/$30, Terra는 그 절반, Luna는 5분의 1이다. Prefix가 안정적으로 유지되고 key가 지정된 상태로 예열되면 모든 tier에서 캐시 읽기 할인이 입력 비용을 낮춘다. 이때 차이를 만드는 요소는 출력 가격이다. 출력 품질 eval이 허용하는 범위까지 낮은 tier를 선택하면 된다. tier별 쓰기 할증 손익분기점을 포함한 전체 계산은 비용 가이드에 정리했다.

FAQ

GPT-5.6은 reasoning_effort: “max”를 지원하나?

지원하지 않는다. "max"를 사용하면 Sol과 Terra 모두 none부터 xhigh까지가 유효한 값이라는 내용의 400을 반환한다. 최댓값이 필요한 workload는 xhigh를 명시적으로 보내야 한다.

캐시 breakpoint는 GPT-5.5에서도 작동하나?

작동하지 않는다. GPT-5.5 이하는 prompt_cache_options와 breakpoint marker를 400으로 거부한다. 해당 model에서는 자동 prefix 감지를 사용해야 하며, 이를 직접 작동시키거나 key를 지정하거나 debug할 수 없다. 캐시 동작을 best-effort로 취급하고, 새 field를 출력하는 prompt builder는 model version에 따라 분기해야 한다.

Prompt에는 breakpoint를 몇 개 사용해야 하나?

실제로 반복되는 계층 수만큼 사용하되, 요청당 쓰기 4회라는 한도를 지켜야 한다. explicit mode로 전환하지 않으면 implicit 자동 breakpoint가 이 중 하나를 사용한다. 일반적인 계층형 prompt에는 instruction, tool, reference block을 구분하는 2개 또는 3개가 필요하다. 다섯 번째 marker도 오류 없이 허용되지만 쓰기 slot을 추가하지는 않는다. 뒤쪽 marker가 앞의 모든 내용을 포함하므로 기존 slot을 공유한다.

이 가이드의 모든 수치는 GPT-5.6 출시 당일 model을 Synthorai gateway에서 측정한 결과이며, 실시간 usage.cost meter와 일치한다. 측정 방법과 원본 probe는 비용 가이드와 캐시 최소 길이 측정에 정리했다. 실제 사용량 기록으로 직접 검증해야 한다. 요율과 허용되는 값은 변경될 수 있다.

← 블로그로 돌아가기