Kimi K3

Especificaciones y límites

El modo de pensamiento está siempre activo: el razonamiento no se puede desactivar, solo reducir mediante los niveles de esfuerzo (low / high / max). max_completion_tokens vale 131.072 por defecto y puede elevarse hasta 1.048.576. La caché de contexto es automática, sin id de caché, TTL ni parámetro adicional, y se activa en cuanto el prompt de la solicitud anterior supera los 256 tokens. Pesos abiertos (pesos MXFP4 / activaciones MXFP8, entrenamiento consciente de la cuantización) publicados en Hugging Face bajo la Kimi K3 License.

según documentación oficial de Moonshot ↗

Un prompt, medido a través del gateway

Use Kimi K3 en 30 segundos

Compatible con OpenAI: cambie el base_url y conserve su SDK. POST /v1/chat/completions

from openai import OpenAI

client = OpenAI(
    base_url="https://synthorai.io/v1",
    api_key="sk-syn-...",
)

resp = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": "Summarize this diff"}],
    reasoning_effort="medium",
)
print(resp.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://synthorai.io/v1",
  apiKey: "sk-syn-...",
});

const resp = await client.chat.completions.create({
  model: "kimi-k3",
  messages: [{ role: "user", content: "Summarize this diff" }],
  reasoning_effort: "medium",
});
console.log(resp.choices[0].message.content);

curl https://synthorai.io/v1/chat/completions \
  -H "Authorization: Bearer sk-syn-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "kimi-k3",
    "messages": [{"role": "user", "content": "Hello"}],
    "reasoning_effort": "medium"
  }'

package main

import (
	"context"
	"fmt"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
)

func main() {
	client := openai.NewClient(
		option.WithBaseURL("https://synthorai.io/v1"),
		option.WithAPIKey("sk-syn-..."),
	)
	resp, _ := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
		Model: "kimi-k3",
		Messages: []openai.ChatCompletionMessageParamUnion{
			openai.UserMessage("Summarize this diff"),
		},
		ReasoningEffort: openai.ReasoningEffortMedium,
	})
	fmt.Println(resp.Choices[0].Message.Content)
}

import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.chat.completions.*;
import com.openai.models.ReasoningEffort;

OpenAIClient client = OpenAIOkHttpClient.builder()
    .baseUrl("https://synthorai.io/v1")
    .apiKey("sk-syn-...")
    .build();

ChatCompletion resp = client.chat().completions().create(
    ChatCompletionCreateParams.builder()
        .model("kimi-k3")
        .addUserMessage("Summarize this diff")
        .reasoningEffort(ReasoningEffort.MEDIUM)
        .build());
System.out.println(resp.choices().get(0).message().content().orElse(""));

Acerca de Kimi K3

• La arquitectura combina Kimi Delta Attention, un mecanismo de atención lineal híbrida, con Attention Residuals, y lleva más lejos la dispersión Mixture-of-Experts mediante el marco Stable LatentMoE, activando 16 de 896 expertos; Moonshot atribuye a esos cambios aproximadamente 2,5 veces la eficiencia de escalado global de K2.
• Incluye comprensión visual nativa y una ventana de contexto de 1M tokens, y apunta a escenarios de inteligencia de frontera que incluyen codificación de largo horizonte, trabajo de conocimiento y razonamiento: sostener tareas de ingeniería largas con supervisión mínima, trabajar sobre bases de código grandes, manejar herramientas de terminal, y usar capturas de pantalla y retroalimentación visual en el desarrollo de videojuegos, la ingeniería de frontend y los flujos de trabajo de CAD.
• Aquí el pensamiento no es opcional.
• K3 razona siempre, y el único control es el campo de nivel superior reasoning_effort en low, high o max, cuyo valor por defecto es max, así que un despliegue sensible a la latencia tiene que bajarlo explícitamente.
• Conviene programar teniendo en cuenta varios límites más: max_completion_tokens por defecto es 131.072 frente a un techo de 1.048.576, los parámetros de muestreo son fijos y deberían omitirse de las solicitudes, el mensaje completo del asistente debe devolverse sin cambios en los turnos de varias vueltas y de llamada a herramientas, y la entrada visual rechaza las URL públicas de imagen en favor de base64 o de una referencia a un archivo subido.
• La caché de contexto es automática, sin id de caché, TTL ni parámetro adicional, y se activa una vez que el prompt de la solicitud anterior supera los 256 tokens; el precio es plano, sin escalado por longitud de contexto.
• Se admiten la salida estructurada, los prefills en modo parcial y la carga dinámica de herramientas, y los pesos se publican bajo la Kimi K3 License.
• Synthorai hace que Kimi K3 se pueda invocar a través de su endpoint de chat completions compatible con OpenAI.

Preguntas frecuentes

Modelos relacionados

Comparar