主要LLMモデルを一括管理しAIトークン消費を大幅削減
簡単な処理は軽量モデル、難しい処理だけ高性能モデルへ。
トークン費用と実装の分散を一度に解消します。
Kimi
※ 振り分け比率は用途により異なります。対応モデルは順次追加されます。
サービス提供を、Tencent Cloud は当社保有しています。
AWS Advanced Tier Services Partner
Google Cloud Partner
こんな課題をお持ちの方へ
接続先を切り替えるだけ。モデルの使い分けは、自動で。
OpenAI互換のAPIなので、既存のSDKコードはBase URL・APIキー・モデル名の差し替えで動きます。ルーティング層がリクエストの難易度を判定し、軽量モデルと高性能モデルを使い分けます。
品質基準を保ったまま、トークン費用の内訳が変わる
仮定に基づく概算例：月1,000万トークンを高性能モデルに固定していた場合に、8割を軽量モデルへ振り分けたケース（軽量モデルの単価を高性能モデルの1/5として試算※2）。実際の比率と削減幅は用途・評価基準により異なります。
※ 概算のイメージです。実際の削減幅はモデルの単価・用途・振り分け比率により異なります。導入前の計測で見込み額を提示します。
主要6系統のモデルと、使い分けの目安
いずれも1つのAPIから呼び出せます。用途ごとの得意領域は目安で、実際の振り分けは計測結果に基づいて調整します。
※ 正式なモデル名・バージョン・単価は契約時に最新の一覧をご提示します。対応モデルは順次追加されます。
機能ごとの回数・トークン数・金額まで分解
請求書の合計では分からないLLMコストを、機能別・モデル別に可視化。振り分け比率と性能指標を同じ画面で確認できます。
※ 画面はイメージです。数値は架空のサンプルです。
基本的な接続変更は、3項目。
既存のOpenAI／Anthropic互換SDKを利用できます。接続先・APIキー・モデル指定を切り替えるのが基本で、利用機能やSDKによっては追加の改修が必要な場合があります。
# 既存コードの差し替え箇所 client = OpenAI( base_url = "https://api.cloudcut.example/v1", api_key = "CLOUDCUT_API_KEY", ) resp = client.chat.completions.create( model = "auto", # ← 自動振り分け messages = [...], )
※ エンドポイントのURLは契約時にご案内します。上記はイメージです。
プロンプトとデータの扱いを、先に開示します
※ 上記は提供元の公式ポリシーに基づき、契約時点の最新内容をご提示します。
条件・対象
計測から始めて、シャドウ実行で安全に切り替える
- 01〜1週間APIキー発行・計測キーを発行し、現状の機能別コストを計測。
- 02〜2週間振り分けの設計計測結果から振り分けルールと見込み額を提示。
- 032〜4週間検証（シャドウ実行）本番と並行して出力品質を比較。基準を下回る処理は高性能モデルに固定。
- 04—本番切替Base URLを切り替えて本番へ。カナリアリリースで段階的に。
- 05継続月次レポートトークン・費用・振り分け比率を毎月報告。ルールを継続調整。
よくあるご質問
Q出力の品質は落ちませんか？
検証フェーズで本番と並行してシャドウ実行し、評価スコアが基準を下回る処理は高性能モデルに固定します。事前に合意した評価基準を満たすか検証し、満たさない処理は切替対象外とします。
Q振り分けの基準は変えられますか？
はい。機能ごとに「常に高性能」「常に軽量」「自動」を指定できます。月次レポートをもとに継続調整します。
QOpenAIやAnthropicのモデルと併用できますか？
できます。OpenAI／Anthropic互換APIのため、既存の接続先と並行運用し、処理ごとに使い分けられます。
Q既存のプロンプトはそのまま使えますか？
使えます。Base URL・APIキー・モデル名の差し替えのみで、プロンプトやアプリのロジックは変更不要です。
Qデータはモデルの学習に使われますか？
提供元の公式ポリシーに基づき、学習利用の有無・ログ保持期間を契約前に書面でご提示します。
Q無料で試せますか？
新規アカウントには無料体験トークンが付与されます（提供元の最新条件による）。計測から始めることをお勧めします。
無料見積・ご相談
請求書をお送りいただければ、該当するサービスと効果の目安を数営業日でご返答します。どのサービスか決まっていなくても構いません。
- 見積受付：月額クラウド費用50万円〜（目安。最低利用額ではありません）
- NDA締結にも対応
- 対応：平日 10:00〜18:00
※1 「約8割」は一般的なチャット・要約・分類用途での振り分け比率の目安です。用途により異なります。
※2 費用の概算は軽量モデルの単価を高性能モデルの1/5とした場合のイメージです。実際のモデル単価は契約時にご提示します。
※3 技術基盤の提供主体は提携プロバイダーで、当社は契約・請求・日本語窓口を担います。