Kimi K3

Spezifikationen & Limits

Der Thinking-Modus ist immer aktiv: Reasoning lässt sich nicht abschalten, sondern nur über die Effort-Stufen (low / high / max) herunterregeln. max_completion_tokens steht standardmäßig auf 131.072 und lässt sich auf die vollen 1.048.576 anheben. Context-Caching läuft automatisch, ohne Cache-id, TTL oder zusätzlichen Parameter, und greift, sobald der Prompt der vorherigen Anfrage 256 Token überschreitet. Offene Gewichte (MXFP4-Gewichte / MXFP8-Aktivierungen, quantisierungsbewusstes Training) sind unter der Kimi K3 License auf Hugging Face veröffentlicht.

laut Offizielle Moonshot-Dokumentation ↗

Ein Prompt, gemessen über das Gateway

Kimi K3 in 30 Sekunden nutzen

OpenAI-kompatibel: base_url austauschen, SDK behalten. POST /v1/chat/completions

from openai import OpenAI

client = OpenAI(
    base_url="https://synthorai.io/v1",
    api_key="sk-syn-...",
)

resp = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": "Summarize this diff"}],
    reasoning_effort="medium",
)
print(resp.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://synthorai.io/v1",
  apiKey: "sk-syn-...",
});

const resp = await client.chat.completions.create({
  model: "kimi-k3",
  messages: [{ role: "user", content: "Summarize this diff" }],
  reasoning_effort: "medium",
});
console.log(resp.choices[0].message.content);

curl https://synthorai.io/v1/chat/completions \
  -H "Authorization: Bearer sk-syn-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "kimi-k3",
    "messages": [{"role": "user", "content": "Hello"}],
    "reasoning_effort": "medium"
  }'

package main

import (
	"context"
	"fmt"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
)

func main() {
	client := openai.NewClient(
		option.WithBaseURL("https://synthorai.io/v1"),
		option.WithAPIKey("sk-syn-..."),
	)
	resp, _ := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
		Model: "kimi-k3",
		Messages: []openai.ChatCompletionMessageParamUnion{
			openai.UserMessage("Summarize this diff"),
		},
		ReasoningEffort: openai.ReasoningEffortMedium,
	})
	fmt.Println(resp.Choices[0].Message.Content)
}

import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.chat.completions.*;
import com.openai.models.ReasoningEffort;

OpenAIClient client = OpenAIOkHttpClient.builder()
    .baseUrl("https://synthorai.io/v1")
    .apiKey("sk-syn-...")
    .build();

ChatCompletion resp = client.chat().completions().create(
    ChatCompletionCreateParams.builder()
        .model("kimi-k3")
        .addUserMessage("Summarize this diff")
        .reasoningEffort(ReasoningEffort.MEDIUM)
        .build());
System.out.println(resp.choices().get(0).message().content().orElse(""));

Über Kimi K3

• Die Architektur verbindet Kimi Delta Attention, einen hybriden linearen Attention-Mechanismus, mit Attention Residuals und treibt die Mixture-of-Experts-Sparsity über das Stable-LatentMoE-Framework weiter, indem sie 16 von 896 Experten aktiviert; Moonshot schreibt diesen Änderungen rund die 2,5-fache Gesamt-Skalierungseffizienz von K2 zu.
• Es bringt natives visuelles Verständnis und ein Kontextfenster von 1M Token mit und zielt auf Frontier-Intelligenz-Szenarien einschließlich langfristigem Coding, Wissensarbeit und Reasoning: lange Engineering-Aufgaben mit minimaler Aufsicht durchhalten, über große Codebasen hinweg arbeiten, Terminal-Tools steuern sowie Screenshots und visuelles Feedback in Spieleentwicklung, Frontend-Engineering und CAD-Workflows nutzen.
• Thinking ist hier nicht optional.
• K3 führt immer Reasoning aus, und die einzige Steuerung ist das Top-Level-Feld reasoning_effort mit low, high oder max, das standardmäßig auf max steht, sodass ein latenzsensibles Deployment es explizit heruntersetzen muss.
• Mehrere weitere Grenzen sollten einprogrammiert werden: max_completion_tokens steht standardmäßig auf 131.072 gegenüber einer Obergrenze von 1.048.576, Sampling-Parameter sind fest und sollten aus Anfragen weggelassen werden, die vollständige Assistant-Nachricht muss bei Multi-Turn- und Tool-Calling-Turns unverändert zurückgegeben werden, und die Bildeingabe lehnt öffentliche Bild-URLs zugunsten von base64 oder einer hochgeladenen Dateireferenz ab.
• Context-Caching erfolgt automatisch ohne Cache-ID, TTL oder zusätzlichen Parameter und greift, sobald der Prompt der vorherigen Anfrage 256 Token überschreitet; die Preise sind flach ohne Staffelung nach Kontextlänge.
• Strukturierte Ausgaben, Partial-Mode-Prefills und dynamisches Laden von Tools werden unterstützt, und die Gewichte sind unter der Kimi K3 License veröffentlicht.
• Synthorai macht Kimi K3 über seinen OpenAI-kompatiblen Chat-Completions-Endpoint aufrufbar.

FAQ

Verwandte Modelle

Vergleichen