エンジニアリングブログ
マルチモーダル AI ゲートウェイを構築する中で直面した実際のエンジニアリング課題。
まずはこちら
GLM 5.2 の reasoning effort：設定次第でコストが 20 分の 1 に（実測）
同じコーディング回答でも、GLM 5.2 の reasoning effort を適切に設定すれば $0.0031、上限なしのデフォルトでは $0.062。コストは 20 分の 1、速度は 30 倍。タスク別の設定方法を解説する。
Claude Fable 5 は ZDR では利用不可：30 日間のデータ保持が必須
ZDR 組織が claude-fable-5 を呼ぶと 400 エラーになる。Claude API、Bedrock、Vertex、Foundry のいずれにもオプトアウトはない。HIPAA／COPPA への影響と routing による対処を解説する。
LLM プロンプトキャッシュ完全ガイド 2026：入力コストを 50～90% 削減
Claude、GPT、Gemini、DeepSeek のプロンプトキャッシュの仕組みを解説。入力コストを 50～90% 削減し、TTFT を 3～10 倍高速化する。アーキテクチャ、プロバイダー比較、Python コードを網羅。
記事一覧45
-
GPT-6 Astra の推論強度、max は同じ回答の low より 2.3x 高い
検証済みの 11 タスクで計測。none は 33 回中 17 回失敗し、disabled でも推論は止まらない。max は low の 2.3x、正答あたりのコストは Astra が GPT-5.6 Sol の 1.6x。
-
LLM API のレート制限 13 社比較、2 SDK は 429 を再試行しない
13のLLM APIとクラウドを対象に、RPMとTPMへ算入されるトークンの種類、返却されるレート制限ヘッダーを比較。HTTP 429が示す4つの状態と、429発生時に自動再試行を一切行わない2つのSDKも整理する。
-
長いコンテキストの料金階層、最大 6.7 倍でも gateway は非表示
あるアグリゲーター経由で段階制の 9 モデルを実測すると、ページに載っていない境界を超えた請求は最大 6.7 倍、1 つのエンドポイントは掲載価格の 1.25 倍だった。ページと請求書の差、各社の段階ルール、境界内に収める設定を解説する。
-
AI API の課金単位：token から PTU-hour まで 17 種類
同じAPI利用料でも、tokens、文字数、分、GB-day、token-hour、PTU-hourなど17種類の単位で計測される。各単位の仕組みと違いを比較し、請求額の計算や課金コード実装で見落としやすい注意点を整理した実践ガイド。
-
翻訳に最適な LLM：9 モデル・9 言語、コスト差は 400 倍
9 モデル・9 言語を 8,455 件のブラインド判定で比較。gpt-5.6-sol が 9 言語中 7 言語で首位、韓国語とイタリア語では gemini-3.7-flash が並ぶ。100 万文字あたり $0.26 から $104。
-
LLM のデータ保持と ZDR：prompt を読めるすべての事業者
ベンダーのAPIログは約30日で削除されますが、tracing SaaS、vector memory、gateway consoleは手動で削除するまでpromptを保持します。保存期間と削除条件を比較し、ZDR（Zero Data Retention）が実際に対象とするデータ範囲を整理します。
-
LLM 構造化出力：12 API 中 4 つが正しい JSON に誤値
12のLLM APIで構造化出力を検証。JSONは100%スキーマ準拠だった一方、thinking有効時には4モデルで値の誤りを確認。同一の呼び出しでも課金対象のプロンプトトークン数は30から4,959まで、約165倍の差が生じた。
-
AI コンテンツを識別できる API は？16 種を 10 法規制で検証
生成API16種を表示義務に関する10法令に照らして検証。C2PAを埋め込むのは7種、中国式ラベルは4種で、両方に対応するAPIはゼロ。音声・動画にはいずれのラベルもなく、C2PAマニフェストは画像をリサイズすると全件消失した。
-
音声エージェント API の料金：10 分の通話で $0.04〜$0.57
STTは1分あたり$0.002〜0.006、TTSは音声1分あたり$0.004〜0.034。LLMの各ターンとGPT Realtimeを含む全工程を実測し、カスケード方式と音声対音声方式の通話1件あたりの料金をモデル別・構成別に比較。
-
DeepSeek V4 Pro GA と Preview を実測：思考量を 18〜62％ 削減
deepseek-v4-pro-0813とPreview版を同一タスクで比較。推論トークンは18〜62％減少し、Previewで見られた8,192トークン固定の暴走も解消。一方、判断不能な問いに「分からない」と答える挙動は失われ、回答を推測する傾向が確認された。
-
Gemini 3.7 Flash API の実測コスト：3.6 より 2.5〜8 倍安い
gemini-3.7-flashを初日に検証。12月31日まで導入価格は半額、thinkingは3.6比で26〜77％減少した一方、無効化スイッチは廃止。prefillは400秒で、タスク料金は従来の2.5〜8分の1に低下。
-
画像 1 枚は何 token？15 API で 6〜1,298 を実測
同じ64pxアイコンでも、GPT-5.6は6トークン、ByteDance Seedは1,298トークンとして請求される。3種類の課金方式と、実態に合わない3つのドキュメント規則を比較すると、ドル建てコストを左右するのは画像ではなく各モデルの単価だった。
-
LLM の思考制御：13 モデルの対応・無視・厳密適用
13個のLLM APIにおけるreasoning_effortとthinking_budget：3つのベンダーはトークン単位で予算を厳守し、その他は黙ってそれらを無視し、16の上限が97を消費することもある。
-
Web 検索 API と Web 取得 API の仕組みと $0.01 の内訳
サーバー側のWeb検索とWeb取得の課金構造を検証。1回$0.01の手数料に加え、検索結果として注入される1,500～3,100トークンが利用モデルの単価で課金される仕組みと、2ターン目に再検索が発生して追加費用が生じるケースを解説。
-
Qwen-Image 3.0 API を実測：$0.03 で 9 シーン
qwen-image-3.0をリリース初日に検証。画像生成は1枚$0.03で、5,000トークンの長いプロンプトでも入力料金は発生しない。9枚の画像を1枚にまとめる本物の9-in-1生成を確認した一方、小さな文字では単語そのものを誤記する傾向も判明した。
-
DeepSeek V4 Flash API のコスト：思考モードで厳格 JSON が破損
0731モデルの初日計測結果を報告。定価は入力$0.14／出力$0.28で、キャッシュページは1,024トークン単位。思考モードと厳格なjson_schemaを併用すると、13回の実行中8回で整数値が破損する不具合を確認した。
-
Qwen 3.8 Max API 料金：思考オフより 16 token が有利
$2/$6のqwen3.8-maxを初日に測定。effort設定は実質的に推論予算の上限として機能し、思考をオフにすると正解率は6問中1問まで低下した。一方、推論予算を16トークンに設定するだけで、同じ評価の正解率は6問中6問へ回復した。
-
MCP ツールの負荷を実測：26 個で毎回 $0.03
MCPツールは呼び出すたびに入力tokenとして再課金される。Claudeでは小さなツール1個でも401 tokenを消費し、GitHub serverは1回あたり$0.03。model familyによってコストに最大2.7倍の差が生じる。
-
Prompt Cache の書き込みコスト：1.25x はいつ元が取れるか
同一のagent suiteとプレミアム条件でも、RAGでは6%の損失、batchでは83%のコスト削減となる。損益を左右するのはread:write比率であり、自社ワークロードの比率を請求書の発行前に測定し、RAGとbatchの差を具体的に比較できる。
-
Claude Opus 5 と Opus 4.8 を実測比較：同じ料金でもコストは 3 倍
Opus 5とOpus 4.8は入力・出力とも同じ$5/$25の料金表だが、標準設定で同一タスクを実行すると、Opus 5の請求額は3.1倍に増えた。追加コストがどこで発生するのかを比較し、モデル間の請求差を解消する設定スイッチを検証する。
-
音声文字起こし API：14 モデルを比較、1 分 $0.002〜$0.016
単一のゲートウェイで使える 14 の音声文字起こし API を比較。1 分あたりの料金、streaming 対応、token 課金の gpt-4o を分単価に換算した結果、比較記事で見落とされがちな中国 ASR の価格帯を解説します。
-
Gemini 3.6 Flash：コストが 30 倍変わる思考ダイヤルを実測
Gemini 3.6 Flashでは、ユーザーに表示されないreasoningトークンも課金対象となり、同一タスクでもリクエスト設定1つでコストが最大30倍変動する。5種類のタスクで料金差を実測し、設定ごとの比較結果と利用時の注意点を検証した。
-
Seedance API の料金を実測：動画 token の計算式を完全解明
Seedanceの動画課金式W×H×(24s+1)/1024を実測し、token単位まで算出。720pは1248×704として課金され、4kはtoken単価が安いにもかかわらず、1秒あたりの料金は720pの2.1倍になることを確認した。
-
GPT-5.6 プロンプトガイド：デフォルトのままだと料金が 1.5 倍、10 倍になる 2 つの設定
GPT-5.6 のデフォルト設定は高コストです。reasoning_effort を省略すると 'none' の 1.5 倍、マークしていない prefix はキャッシュ読み取りの 10 倍の料金になります。実測に基づくリクエスト設計ガイドです。
-
Kimi K3 API の料金を実測：「常時オン」の reasoning は無効化できる
Kimi K3 のドキュメントでは reasoning を無効化できないとされている。しかし reasoning_effort:'none' は動作し、単純なクエリのコストを 6 分の 1 に削減できた。effort の調整幅、cache の下限、9 言語の料金を実測した。
-
GPT Realtime API の料金：発話は聞き取りの 4 倍（実測）
gpt-realtime-2.1は聞き取りが$0.019/min、発話が$0.077/min。無音時間は課金されず、キャッシュ済みリプレイは通常料金の1/80。実測した分単価、キャッシュの仕組み、聞き取り・発話・無音を組み合わせたシナリオ別コストを解説。
-
LLM の token 使用量：4 token の回答で 217 token が課金される理由
GPT-5.6、Claude Fable 5、Qwen3.7-maxを含む8系統で実測し、出力料金の大半をreasoningが占めることを確認。各usageフィールドの意味と読み方を比較し、reasoningを含む使用量の上限設定方法を解説する。
-
プロンプトキャッシュの最小値：実測ではドキュメントの 1.4〜2.4 倍
各ベンダーはプロンプトキャッシュに必要な最小 token 数を公開している。LLM ファミリーごとに測定したところ、自動キャッシュにはドキュメント記載値の 1.4〜2.4 倍が必要だった。一方、Claude の明示的キャッシュは記載どおりだった。
-
GPT-5.6 コストガイド：prompt caching で 90% 削減、reasoning effort の影響
プロンプトの書き方ではなく料金の話です(書き方は「GPT-5.6 プロンプトガイド」へ)。GPT-5.6 の 2 つのコスト調整手段を実測。明示的な breakpoint では cached input が通常料金の 10% になり、reasoning_effort を送らない場合は none を指定した場合の 1.5 倍になった。
-
言語別に最も安い LLM は？Tokenizer コストを実測
欧州言語ではGPT-5.5、中国語ではKimi、日本語ではDeepSeekが請求token数最少。Claude Fable 5、Opus 4.8、Sonnet 5は同じ処理で1.2〜2.3倍のtokenを消費。言語・モデル別の実測比較結果を紹介。
-
Agent 向け Claude Fable 5：tool call の拒否と GLM 5.2 とのコスト比較
5 種類の agent workload で Claude Fable 5 を glm-5.2、opus-4-8、sonnet-5 と比較。tool call 途中の拒否、adaptive thinking、処理形態によって 5〜15 倍変わるコストを検証する。
-
LangChain のプロンプトキャッシュ：確実にキャッシュへヒットさせる設定
LangChain で最も手軽な構文を使うと、Claude のプロンプトキャッシュが暗黙に無効になります。content block 経由の cache_control、変数の配置、usage field について、実測結果と修正方法を解説します。
-
Claude Sonnet 5 の新 tokenizer：同じ prompt でも token 数が 41% 増加
Claude Sonnet 5 の新 tokenizer では、同じテキストでも Sonnet 4.6 より token 数が約 41% 増えます。gateway 上のコスト、予算、cache の適用条件にも影響します。
-
エージェントループでの GLM 5.2 Tool Call：「OpenAI 互換」に隠れた違い
GLM 5.2 は OpenAI の Tool Calling API に対応していますが、Tool Call と同じターンでテキストと reasoning も返します。OpenAI や Anthropic との違いを検証します。
-
文字起こし API のコスト比較：同じ音声を 7 モデルで検証
7つの文字起こしモデルを、同一の多言語音声セットと単一のゲートウェイで比較。1分あたりのコストは$0.0020～$0.0164と8倍超の差がある一方、精度はモデル選定の決め手にならず、料金差と性能差は一致しなかった。
-
画像生成 API のコスト比較：5 モデルを検証（$0.006-$0.039）
同一プロンプトを5つの画像生成モデルへ単一gateway経由で送り、実測コストを比較。デフォルト設定は1枚$0.006〜$0.039で、モデル間に6.5倍の差が生じた。さらに、あるモデルではquality設定の変更だけで料金が36倍変動した。
-
オープンウェイト LLM のキャッシュ：成否がプロバイダー次第になる理由
オープンウェイトLLMのプロンプトキャッシュは推論エンジンで解決済みでも、ルーティングによって機能しなくなります。DeepSeek、Qwen、Kimiでの測定結果を比較し、キャッシュ、推論エンジン、ルーティングを含む5層の構造として整理します。
-
Claude Fable 5 のキャッシュ：契約は同じでも請求額は Opus 4.6 の 2.9 倍
Claude Fable 5 が Synthorai で利用可能になりました。prompt cache、TTL、tokenization、コストを Opus 4.6/4.8 と比較検証しました。キャッシュの仕様は同じですが、tokenizer が変わり、請求額は約 2.9 倍です。
-
プロバイダードリフト：デフォルトルーティングが LLM のコストを押し上げる仕組み
マルチプロバイダーゲートウェイのデフォルトルーティングでは、同一リクエストが独立したキャッシュを持つ複数のアップストリームへ分散する。その結果、キャッシュが共有されず、同じ内容でもプロバイダーごとに再処理されるため、ヒット率が急落し、不要なAPI利用が増えて請求額が膨らむ。
-
その LLM Gateway はキャッシュについて嘘をついていないか？ 5 分で監査する
Gatewayがキャッシュヒットを返していても、通常料金が請求される場合がある。1本のスクリプトで、自動キャッシュ方式のDeepSeekと、マーカー方式のClaudeを5分で監査し、報告されたヒットと実際の請求額を比較して不一致を確認する。
-
Synthorai で使う Claude Opus 4.8：キャッシュと TTL を 4.7／4.6 と比較
Claude Opus 4.8 が Synthorai で利用可能に。prompt cache と TTL の挙動を Opus 4.7／4.6 と実測比較し、引き継がれる仕様と再確認すべき tokenizer の変更を解説します。
-
用途別ベスト LLM（2026 年版）：チャット、RAG、エージェントのコスト比較
チャット、RAG、エージェントの用途別に、必要な性能を維持しつつ最安モデルを選ぶ方法を解説。15ステップのエージェントタスクと1日10万クエリのRAGを基に費用を試算し、性能・コストの比較や判断マトリクスで最適な選択肢を整理する。
-
Python で実装する LLM プロンプトキャッシュ：動作するコード付きチュートリアル
Synthorai の OpenAI 互換ゲートウェイを使い、Claude、GPT-5、Gemini 2.5、DeepSeek-v4、Qwen3 のプロンプトキャッシュによる削減効果を実測。実際の usage.cost と TTFT を掲載。
-
最も安い LLM のプロンプトキャッシュはどれか？ 5 プロバイダーを比較（2026 年版）
Claude、GPT-5.x、Gemini、DeepSeek、Qwenの5種類のキャッシュ方式を比較。明示的か自動か、TTLは5分か1時間か、読み取り料金は通常の0.1倍から0.5倍かを、各モデルの実測値で横並びに検証する。
-
LLM のプロンプトキャッシュの仕組み：KV キャッシュと TTL を解説
LLM のプロンプトキャッシュが実際に動く仕組みを解説します。K/V を再利用できる Transformer の attention の数理、TTL を左右するメモリと計算量のトレードオフ、コストと TTFT を削減できる理由を取り上げます。
このトピックの記事はまだありません。