Kimi K3는 지금까지 Moonshot이 내놓은 가장 강력한 플래그십 모델이며, 2.8조 파라미터로 문서가 세계 최초의 3조 파라미터급 오픈소스 모델이라고 부르는 모델입니다.
- 입력
- 텍스트 이미지 동영상 $3/M
- 출력
- 텍스트 $15/M
- 캐시 읽기
- $0.3/M
- 컨텍스트
- 1M
- GPT-4o 대비
- 약 40% 저렴
벤치마크
공급자 공개 자료: Alibaba (Qwen) Anthropic ByteDance DeepSeek Google MiniMax Moonshot OpenAI Tencent Z.ai
가격 수준 비교
같은 종류의 모델 70개 중 가격 위치
이 막대는 Synthorai에 있는 같은 종류의 모델 가운데 이 모델의 가격이 어디쯤인지 보여 줍니다. 양쪽 끝에는 가장 싼 모델과 가장 비싼 모델의 이름이 있습니다. 기본 요율 기준이며 배치·리전·캐시 쓰기 할인은 가격 페이지에 있습니다.
사양 및 제한
토큰
| 컨텍스트 윈도우(공급자 사양) | 1,048,576 |
|---|---|
| 최대 출력(공급자 사양) | 1,048,576 |
프롬프트 캐싱
| 캐싱 방식 | 자동 |
|---|
사고
| 공급자 파라미터 | reasoning_effort (top-level; the thinking object is not accepted) |
|---|---|
| 허용 값 | low · high · max |
| 기본값 | max 요청에서 지정하지 않을 때 적용 |
| 비활성화 가능 | 미지원 |
| 사고 동작 | K3는 항상 추론하므로 끄는 대신 low로 낮춰야 합니다. 멀티턴 및 도구 호출 턴에서는 reasoning_content와 tool_calls를 포함한 어시스턴트 메시지 전체를 되돌려 보내야 하며, 세션 도중 effort를 바꾸면 프리픽스 캐시 적중이 무효화됩니다. |
| 파라미터 | reasoning_effort |
| 값 | minimal · low · medium · high 게이트웨이가 받는 파라미터입니다. 위의 공급자 매핑이 적용됩니다 |
모델
| 모달리티 | 텍스트 + 이미지 + 동영상 → 텍스트 |
|---|---|
| 파라미터 | 전체 2.8T · 활성 104B MoE: Kimi Delta Attention(KDA) + Attention Residuals, 896개 전문가 중 토큰당 16개 활성 |
| 라이선스 | Kimi K3 License |
사고 모드가 항상 켜져 있어 추론을 비활성화할 수는 없고 강도 수준(low / high / max)으로 낮출 수만 있습니다. max_completion_tokens의 기본값은 131,072이며 최대 1,048,576까지 올릴 수 있습니다. 컨텍스트 캐싱은 캐시 id, TTL, 추가 파라미터 없이 자동으로 동작하고, 직전 요청의 프롬프트가 256 토큰을 넘으면 작동합니다. 오픈 가중치(MXFP4 가중치 / MXFP8 활성값, 양자화 인식 학습)는 Kimi K3 License로 Hugging Face에 공개되어 있습니다.
출처: Moonshot 공식 문서 ↗
프롬프트 하나, 게이트웨이를 거쳐 측정
Kimi K3 통과 · 3 sentences
Reasoning models don't just answer questions—they "think" first, generating long internal chains of step-by-step logic before producing a response. Those hidden thinking steps are billed as output tokens (the most expensive kind, typically 3–5x the price of input tokens), and a single query can generate thousands of them even when the visible answer is only a paragraph long. So you're paying for dramatically more compute per request: the bill doubled because the model does far more work behind the scenes, not because usage increased.
출력 755 tok (+637 사고) 지연 시간 20.8 s
지시 준수(정확히 세 문장이라 셀 수 있음), 독자에 맞춘 어조(CFO 대상), 아래 토큰 미터에 드러나는 숨은 사고 토큰 과금 차이를 봅니다.
Kimi K3 통과 · 8/8 cases
```python def longest_run(xs): if not xs: return 0 best = 1 cur = 1 for i in range(1, len(xs)): if xs[i] == xs[i - 1]: cur += 1 best = max(best, cur) else: cur = 1 return best ``` The bug is a fencepost error: `cur` counts *matching adjacent pairs* rather than *items in the run*, because it starts at 0 and only increments when `xs[i] == xs[i - 1]`. A run of length L contains L−1 equal pairs, so every run was undercounted by exactly one. For a single-element list (a run of length 1) the loop never runs and the function returns 0 instead of 1; likewise any run ending at the last index — e.g. the two `2`s in `[1, 2, 2]` — reported 1 instead of 2, making it look like no run existed at all. […]
출력 1837 tok (+1547 사고) 지연 시간 47.2 s
수정이 실제로 맞는지(실행되는지), 설명이 얼마나 압축적인지, 범위가 정해진 작업에서 토큰을 얼마나 효율적으로 쓰는지를 봅니다.
Kimi K3 통과 · 5/5 fields, guidance null
{ "company": "Meridian Robotics", "quarter": "September quarter", "revenue_usd_m": 412, "growth_pct": 11, "guidance": null }
출력 924 tok (+863 사고) 지연 시간 25.9 s
스키마 준수(없는 필드를 지어내지 않는지), 환각을 유도하는 조건에서의 대응(guidance 값을 일부러 주지 않음), 구조화된 출력 경로의 차이를 봅니다.
Kimi K3 통과 · 120 words, 0 banned, 1 question
Meet Prompt Cache, a new API gateway capability that stores prompt responses and serves them across OpenAI, Anthropic, Google, and Azure endpoints. It matches requests by model, prompt hash, tools, temperature, and tenant policy, so repeated work returns fast while sensitive contexts stay isolated. Teams set TTLs, stale rules, encryption scopes, and bypass flags per route. Analytics show hit rate, latency saved, token spend avoided, and drift risk by provider. What changes for developers? Keep one integration, add cache headers, and watch fallback logic respect consent, residency, and audit needs. During rollout, canary keys compare fresh answers with cached copies before promotion. Prompt Cache cuts vendor calls, steadies p95 latency, and gives platform owners controls for cost, quality, and compliance.
출력 1527 tok (+1354 사고) 지연 시간 37.9 s
제약 준수(단어 수 제한, 금지어 목록, 의문문 하나), 문체의 특징, 길이 조절을 봅니다.
30초 만에 Kimi K3 사용하기
OpenAI 호환입니다. base_url만 바꾸고 SDK는 그대로 쓰세요. POST /v1/chat/completions
from openai import OpenAI
client = OpenAI(
base_url="https://synthorai.io/v1",
api_key="sk-syn-...",
)
resp = client.chat.completions.create(
model="kimi-k3",
messages=[{"role": "user", "content": "Summarize this diff"}],
reasoning_effort="medium",
)
print(resp.choices[0].message.content)import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://synthorai.io/v1",
apiKey: "sk-syn-...",
});
const resp = await client.chat.completions.create({
model: "kimi-k3",
messages: [{ role: "user", content: "Summarize this diff" }],
reasoning_effort: "medium",
});
console.log(resp.choices[0].message.content);curl https://synthorai.io/v1/chat/completions \
-H "Authorization: Bearer sk-syn-..." \
-H "Content-Type: application/json" \
-d '{
"model": "kimi-k3",
"messages": [{"role": "user", "content": "Hello"}],
"reasoning_effort": "medium"
}'package main
import (
"context"
"fmt"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/option"
)
func main() {
client := openai.NewClient(
option.WithBaseURL("https://synthorai.io/v1"),
option.WithAPIKey("sk-syn-..."),
)
resp, _ := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
Model: "kimi-k3",
Messages: []openai.ChatCompletionMessageParamUnion{
openai.UserMessage("Summarize this diff"),
},
ReasoningEffort: openai.ReasoningEffortMedium,
})
fmt.Println(resp.Choices[0].Message.Content)
}import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.chat.completions.*;
import com.openai.models.ReasoningEffort;
OpenAIClient client = OpenAIOkHttpClient.builder()
.baseUrl("https://synthorai.io/v1")
.apiKey("sk-syn-...")
.build();
ChatCompletion resp = client.chat().completions().create(
ChatCompletionCreateParams.builder()
.model("kimi-k3")
.addUserMessage("Summarize this diff")
.reasoningEffort(ReasoningEffort.MEDIUM)
.build());
System.out.println(resp.choices().get(0).message().content().orElse(""));Kimi K3 소개
- 아키텍처는 하이브리드 선형 어텐션 메커니즘인 Kimi Delta Attention과 Attention Residuals를 결합하고, Stable LatentMoE 프레임워크로 Mixture-of-Experts 희소성을 더 밀어붙여 896개 전문가 중 16개를 활성화합니다.
- Moonshot은 이러한 변경으로 K2 대비 전체 스케일링 효율이 약 2.5배가 되었다고 밝힙니다.
- 네이티브 시각 이해와 1M 토큰 컨텍스트 윈도우를 탑재했고, 롱 호라이즌 코딩·지식 노동·추론을 포함한 프런티어 지능 시나리오를 겨냥합니다.
- 최소한의 감독으로 긴 엔지니어링 과제를 지속하고, 대규모 코드베이스를 넘나들며 작업하고, 터미널 도구를 구동하고, 게임 개발·프런트엔드 엔지니어링·CAD 워크플로에서 스크린샷과 시각적 피드백을 활용합니다.
- 여기서 사고는 선택 사항이 아닙니다.
- K3는 항상 추론하며, 제어 수단은 최상위 reasoning_effort 필드의 low, high, max뿐이고 기본값이 max이므로 지연에 민감한 배포라면 명시적으로 낮춰야 합니다.
- 코드에서 감안할 다른 제약도 몇 가지 있습니다. max_completion_tokens는 1,048,576 상한에 대해 기본값이 131,072이고, 샘플링 파라미터는 고정되어 있어 요청에서 생략해야 하며, 멀티턴과 도구 호출 턴에서는 어시스턴트 메시지 전체를 변경 없이 되돌려 주어야 하고, 비전 입력은 공개 이미지 URL을 거부하고 base64나 업로드된 파일 참조를 요구합니다.
- 컨텍스트 캐싱은 캐시 id나 TTL, 추가 파라미터 없이 자동으로 동작하며 이전 요청의 프롬프트가 256 토큰을 넘으면 작동하고, 가격은 컨텍스트 길이에 따른 구간 없이 단일 요율입니다.
- 구조화 출력, 파셜 모드 프리필, 동적 도구 로딩을 지원하며, 가중치는 Kimi K3 License로 공개되어 있습니다.
- Synthorai는 OpenAI 호환 chat completions 엔드포인트로 Kimi K3를 호출할 수 있게 합니다.
자주 묻는 질문
Kimi K3 API는 무료로 사용해 볼 수 있나요?
네. 신규 계정에는 체험 호출 10회와 최대 $1의 무료 크레딧을 드리며, 카드 등록은 필요 없습니다. 입력 100만 토큰당 $3 기준으로 계산하면, 이 크레딧만으로 Kimi K3에 약 8K 토큰짜리 요청을 41회쯤 보낼 수 있습니다.
Kimi K3은 어떤 작업에 가장 강한가요?
3조 파라미터급 최초의 오픈소스 모델, 1M 토큰 컨텍스트 윈도우와 네이티브 시각 이해, 항상 추론하며 reasoning_effort 기본값은 max. 자세한 내용은 공급자의 공식 릴리스 노트를 바탕으로 정리한 소개 섹션에서 확인하세요.
Kimi K3 가격은 얼마인가요?
Synthorai에서 Kimi K3 가격은 입력 100만 토큰당 $3, 출력 100만 토큰당 $15입니다. 공급자 정가 그대로이며 플랫폼 마진은 없습니다. 캐시된 입력 토큰은 100만 토큰당 $0.3입니다.
Kimi K3의 컨텍스트 길이는 얼마인가요?
Kimi K3의 컨텍스트 윈도우는 1M 토큰입니다. 한 번의 응답으로 최대 1,048,576 토큰까지 출력할 수 있습니다.
Kimi K3은 프롬프트 캐싱을 지원하나요?
네, 자동으로 지원합니다. Moonshot에서 처리하는 프롬프트는 코드를 바꾸지 않아도 캐시됩니다. 캐시된 입력 토큰은 100만 토큰당 $0.3입니다(캐시되지 않으면 $3). 프롬프트 캐싱 가이드 →
Kimi K3은 어떻게 이용하나요?
쓰던 OpenAI SDK에서 base_url="https://synthorai.io/v1", model="kimi-k3"만 지정하면 됩니다. API 키 하나로 게이트웨이의 모든 모델을 쓸 수 있습니다.
Kimi K3은 오픈소스인가요?
네, 가중치가 Kimi K3 License 하에 공개되어 있습니다 (공식 저장소 링크는 소개 섹션 참고). GPU를 직접 마련하지 않아도 됩니다. 여기서 제공하는 호스팅 버전은 종량제이며, 직접 운영할 인프라가 없습니다. 오픈 웨이트 모델 실행하기 →
관련 모델
비교
이 페이지의 모든 값은 공급자 공식 문서(위 링크)에서 그대로 옮겨 적었으며, 확인한 날짜를 함께 표기합니다. 가격은 카탈로그 전체와 비교해 보여 주지만, 공급자마다 정의가 다른 사양 값은 차이만 밝히고 차트로 비교하지 않습니다. 저희가 직접 측정한 수치는 없고, 점수도 매기지 않습니다.