エンジニアリングブログ
LLM API ゲートウェイを構築する中で直面した実際のエンジニアリング課題。
GLM 5.2 の reasoning effort：設定次第でコストが 20 分の 1 に（実測）
同じコーディング回答でも、GLM 5.2 の reasoning effort を適切に設定すれば $0.0031、上限なしのデフォルトでは $0.062。コストは 20 分の 1、速度は 30 倍。タスク別の設定方法を解説する。
Claude Fable 5 は ZDR では利用不可：30 日間のデータ保持が必須
ZDR 組織が claude-fable-5 を呼ぶと 400 エラーになる。Claude API、Bedrock、Vertex、Foundry のいずれにもオプトアウトはない。HIPAA／COPPA への影響と routing による対処を解説する。
LLM プロンプトキャッシュ完全ガイド 2026：入力コストを 50～90% 削減
Claude、GPT、Gemini、DeepSeek のプロンプトキャッシュの仕組みを解説。入力コストを 50～90% 削減し、TTFT を 3～10 倍高速化する。アーキテクチャ、プロバイダー比較、Python コードを網羅。
-
Claude Opus 5 と Opus 4.8 を実測比較：同じ料金でもコストは 3 倍
Opus 5とOpus 4.8は入力・出力とも同じ$5/$25の料金表だが、標準設定で同一タスクを実行すると、Opus 5の請求額は3.1倍に増えた。追加コストがどこで発生するのかを比較し、モデル間の請求差を解消する設定スイッチを検証する。
-
音声文字起こし API：14 モデルを比較、1 分 $0.002〜$0.016
単一のゲートウェイで使える 14 の音声文字起こし API を比較。1 分あたりの料金、streaming 対応、token 課金の gpt-4o を分単価に換算した結果、比較記事で見落とされがちな中国 ASR の価格帯を解説します。
-
Gemini 3.6 Flash：コストが 30 倍変わる思考ダイヤルを実測
Gemini 3.6 Flashでは、ユーザーに表示されないreasoningトークンも課金対象となり、同一タスクでもリクエスト設定1つでコストが最大30倍変動する。5種類のタスクで料金差を実測し、設定ごとの比較結果と利用時の注意点を検証した。
-
Seedance API の料金を実測：動画 token の計算式を完全解明
Seedanceの動画課金式W×H×(24s+1)/1024を実測し、token単位まで算出。720pは1248×704として課金され、4kはtoken単価が安いにもかかわらず、1秒あたりの料金は720pの2.1倍になることを確認した。
-
GPT-5.6 プロンプト設計ガイド：デフォルトのままだと料金が 1.5 倍、10 倍になる 2 つの設定
GPT-5.6 のデフォルト設定は高コストです。reasoning_effort を省略すると 'none' の 1.5 倍、マークしていない prefix はキャッシュ読み取りの 10 倍の料金になります。実測に基づくリクエスト設計ガイドです。
-
Kimi K3 API の料金を実測：「常時オン」の reasoning は無効化できる
Kimi K3 のドキュメントでは reasoning を無効化できないとされている。しかし reasoning_effort:'none' は動作し、単純なクエリのコストを 6 分の 1 に削減できた。effort の調整幅、cache の下限、9 言語の料金を実測した。
-
GPT Realtime API の料金：発話は聞き取りの 4 倍（実測）
gpt-realtime-2.1は聞き取りが$0.019/min、発話が$0.077/min。無音時間は課金されず、キャッシュ済みリプレイは通常料金の1/80。実測した分単価、キャッシュの仕組み、聞き取り・発話・無音を組み合わせたシナリオ別コストを解説。
-
LLM の token 使用量：4 token の回答で 217 token が課金される理由
GPT-5.6、Claude Fable 5、Qwen3.7-maxを含む8系統で実測し、出力料金の大半をreasoningが占めることを確認。各usageフィールドの意味と読み方を比較し、reasoningを含む使用量の上限設定方法を解説する。
-
プロンプトキャッシュの最小値：実測ではドキュメントの 1.4〜2.4 倍
各ベンダーはプロンプトキャッシュに必要な最小 token 数を公開している。LLM ファミリーごとに測定したところ、自動キャッシュにはドキュメント記載値の 1.4〜2.4 倍が必要だった。一方、Claude の明示的キャッシュは記載どおりだった。
-
GPT-5.6 コストガイド：prompt caching で 90% 削減、reasoning effort の影響
GPT-5.6 の 2 つのコスト調整手段を実測。明示的な breakpoint では cached input が通常料金の 10% になり、reasoning_effort を送らない場合は none を指定した場合の 1.5 倍になった。
-
言語別に最も安い LLM は？Tokenizer コストを実測
欧州言語ではGPT-5.5、中国語ではKimi、日本語ではDeepSeekが請求token数最少。Claude Fable 5、Opus 4.8、Sonnet 5は同じ処理で1.2〜2.3倍のtokenを消費。言語・モデル別の実測比較結果を紹介。
-
Agent 向け Claude Fable 5：tool call の拒否と GLM 5.2 とのコスト比較
5 種類の agent workload で Claude Fable 5 を glm-5.2、opus-4-8、sonnet-5 と比較。tool call 途中の拒否、adaptive thinking、処理形態によって 5〜15 倍変わるコストを検証する。
-
LangChain のプロンプトキャッシュ：確実にキャッシュへヒットさせる設定
LangChain で最も手軽な構文を使うと、Claude のプロンプトキャッシュが暗黙に無効になります。content block 経由の cache_control、変数の配置、usage field について、実測結果と修正方法を解説します。
-
Claude Sonnet 5 の新 tokenizer：同じ prompt でも token 数が 41% 増加
Claude Sonnet 5 の新 tokenizer では、同じテキストでも Sonnet 4.6 より token 数が約 41% 増えます。gateway 上のコスト、予算、cache の適用条件にも影響します。
-
エージェントループでの GLM 5.2 Tool Call：「OpenAI 互換」に隠れた違い
GLM 5.2 は OpenAI の Tool Calling API に対応していますが、Tool Call と同じターンでテキストと reasoning も返します。OpenAI や Anthropic との違いを検証します。
-
文字起こし API のコスト比較：同じ音声を 7 モデルで検証
7つの文字起こしモデルを、同一の多言語音声セットと単一のゲートウェイで比較。1分あたりのコストは$0.0020～$0.0164と8倍超の差がある一方、精度はモデル選定の決め手にならず、料金差と性能差は一致しなかった。
-
画像生成 API のコスト比較：5 モデルを検証（$0.006–$0.039）
同一プロンプトを5つの画像生成モデルへ単一gateway経由で送り、実測コストを比較。デフォルト設定は1枚$0.006〜$0.039で、モデル間に6.5倍の差が生じた。さらに、あるモデルではquality設定の変更だけで料金が36倍変動した。
-
オープンウェイト LLM のキャッシュ：成否がプロバイダー次第になる理由
オープンウェイトLLMのプロンプトキャッシュは推論エンジンで解決済みでも、ルーティングによって機能しなくなります。DeepSeek、Qwen、Kimiでの測定結果を比較し、キャッシュ、推論エンジン、ルーティングを含む5層の構造として整理します。
-
Claude Fable 5 のキャッシュ：契約は同じでも請求額は Opus 4.6 の 2.9 倍
Claude Fable 5 が Synthorai で利用可能になりました。prompt cache、TTL、tokenization、コストを Opus 4.6/4.8 と比較検証しました。キャッシュの仕様は同じですが、tokenizer が変わり、請求額は約 2.9 倍です。
-
プロバイダードリフト：デフォルトルーティングが LLM のコストを押し上げる仕組み
マルチプロバイダーゲートウェイのデフォルトルーティングでは、同一リクエストが独立したキャッシュを持つ複数のアップストリームへ分散する。その結果、キャッシュが共有されず、同じ内容でもプロバイダーごとに再処理されるため、ヒット率が急落し、不要なAPI利用が増えて請求額が膨らむ。
-
その LLM Gateway はキャッシュについて嘘をついていないか？ 5 分で監査する
Gatewayがキャッシュヒットを返していても、通常料金が請求される場合がある。1本のスクリプトで、自動キャッシュ方式のDeepSeekと、マーカー方式のClaudeを5分で監査し、報告されたヒットと実際の請求額を比較して不一致を確認する。
-
Synthorai で使う Claude Opus 4.8：キャッシュと TTL を 4.7／4.6 と比較
Claude Opus 4.8 が Synthorai で利用可能に。prompt cache と TTL の挙動を Opus 4.7／4.6 と実測比較し、引き継がれる仕様と再確認すべき tokenizer の変更を解説します。
-
用途別ベスト LLM（2026 年版）：チャット、RAG、エージェントのコスト比較
チャット、RAG、エージェントの用途別に、必要な性能を維持しつつ最安モデルを選ぶ方法を解説。15ステップのエージェントタスクと1日10万クエリのRAGを基に費用を試算し、性能・コストの比較や判断マトリクスで最適な選択肢を整理する。
-
Python で実装する LLM プロンプトキャッシュ：動作するコード付きチュートリアル
Synthorai の OpenAI 互換ゲートウェイを使い、Claude、GPT-5、Gemini 2.5、DeepSeek-v4、Qwen3 のプロンプトキャッシュによる削減効果を実測。実際の usage.cost と TTFT を掲載。
-
最も安い LLM のプロンプトキャッシュはどれか？ 5 プロバイダーを比較（2026 年版）
Claude、GPT-5.x、Gemini、DeepSeek、Qwenの5種類のキャッシュ方式を比較。明示的か自動か、TTLは5分か1時間か、読み取り料金は通常の0.1倍から0.5倍かを、各モデルの実測値で横並びに検証する。
-
LLM のプロンプトキャッシュの仕組み：KV キャッシュと TTL を解説
LLM のプロンプトキャッシュが実際に動く仕組みを解説します。K/V を再利用できる Transformer の attention の数理、TTL を左右するメモリと計算量のトレードオフ、コストと TTFT を削減できる理由を取り上げます。