Kimi K3

Specifiche e limiti

La modalità thinking è sempre attiva: il ragionamento non può essere disattivato, solo ridotto tramite i livelli di effort (low / high / max). max_completion_tokens vale 131.072 di default e può essere portato fino a 1.048.576. Il caching del contesto è automatico, senza id di cache, TTL o parametri aggiuntivi, e si attiva quando il prompt della richiesta precedente supera i 256 token. Pesi aperti (pesi MXFP4 / attivazioni MXFP8, quantization-aware training) pubblicati su Hugging Face sotto la Kimi K3 License.

fonte: documentazione ufficiale di Moonshot ↗

Un solo prompt, misurato attraverso il gateway

Usa Kimi K3 in 30 secondi

Compatibile con OpenAI: cambi base_url e tieni il tuo SDK. POST /v1/chat/completions

from openai import OpenAI

client = OpenAI(
    base_url="https://synthorai.io/v1",
    api_key="sk-syn-...",
)

resp = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": "Summarize this diff"}],
    reasoning_effort="medium",
)
print(resp.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://synthorai.io/v1",
  apiKey: "sk-syn-...",
});

const resp = await client.chat.completions.create({
  model: "kimi-k3",
  messages: [{ role: "user", content: "Summarize this diff" }],
  reasoning_effort: "medium",
});
console.log(resp.choices[0].message.content);

curl https://synthorai.io/v1/chat/completions \
  -H "Authorization: Bearer sk-syn-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "kimi-k3",
    "messages": [{"role": "user", "content": "Hello"}],
    "reasoning_effort": "medium"
  }'

package main

import (
	"context"
	"fmt"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
)

func main() {
	client := openai.NewClient(
		option.WithBaseURL("https://synthorai.io/v1"),
		option.WithAPIKey("sk-syn-..."),
	)
	resp, _ := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
		Model: "kimi-k3",
		Messages: []openai.ChatCompletionMessageParamUnion{
			openai.UserMessage("Summarize this diff"),
		},
		ReasoningEffort: openai.ReasoningEffortMedium,
	})
	fmt.Println(resp.Choices[0].Message.Content)
}

import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.chat.completions.*;
import com.openai.models.ReasoningEffort;

OpenAIClient client = OpenAIOkHttpClient.builder()
    .baseUrl("https://synthorai.io/v1")
    .apiKey("sk-syn-...")
    .build();

ChatCompletion resp = client.chat().completions().create(
    ChatCompletionCreateParams.builder()
        .model("kimi-k3")
        .addUserMessage("Summarize this diff")
        .reasoningEffort(ReasoningEffort.MEDIUM)
        .build());
System.out.println(resp.choices().get(0).message().content().orElse(""));

Informazioni su Kimi K3

• L'architettura abbina Kimi Delta Attention, un meccanismo di attenzione lineare ibrida, ad Attention Residuals, e spinge oltre la sparsità Mixture-of-Experts tramite il framework Stable LatentMoE, attivando 16 esperti su 896; Moonshot attribuisce a queste modifiche circa 2,5 volte l'efficienza di scaling complessiva di K2.
• Porta comprensione visiva nativa e una finestra di contesto da 1M di token, ed è rivolto a scenari di intelligenza di frontiera tra cui coding a lungo orizzonte, lavoro di conoscenza e ragionamento: sostenere lunghi compiti di ingegneria con supervisione minima, lavorare su codebase estese, pilotare strumenti da terminale e usare screenshot e feedback visivo nello sviluppo di giochi, nell'ingegneria frontend e nei flussi di lavoro CAD.
• Qui il thinking non è opzionale.
• K3 ragiona sempre, e l'unico controllo è il campo di primo livello reasoning_effort a low, high o max, il cui valore predefinito è max, quindi un deployment sensibile alla latenza deve abbassarlo esplicitamente.
• Vale la pena tenere conto nel codice di altri limiti: max_completion_tokens ha un valore predefinito di 131.072 contro un tetto di 1.048.576, i parametri di campionamento sono fissi e vanno omessi dalle richieste, il messaggio assistant completo deve essere restituito invariato nei turni multi-turno e di tool calling, e l'input di vision rifiuta gli URL pubblici di immagini a favore di base64 o del riferimento a un file caricato.
• Il caching del contesto è automatico, senza cache id, TTL o parametri aggiuntivi, e si attiva quando il prompt della richiesta precedente supera i 256 token, e il prezzo è piatto senza scaglioni per lunghezza di contesto.
• Output strutturato, prefill in partial mode e caricamento dinamico degli strumenti sono supportati, e i pesi sono pubblicati sotto la Kimi K3 License.
• Synthorai rende Kimi K3 richiamabile tramite il suo endpoint chat completions compatibile OpenAI.

FAQ

Modelli correlati

Confronta