ワークロードに合わせてbasetenの料金を評価する方法

別のパートナーサービス: /goからアクセスできるのは、既存モデルの推論とAPIアクセスを提供するモデルAPIのカタログです。BasetenのカスタムデプロイやLLMカタログではありません。サインインして、モデルごとの料金と提供状況を確認してください。

Basetenは、AIモデルを推論用にデプロイするチーム向けのサービスです。役立つコスト見積もりは、単一の目安となる価格ではなく、モデル、デプロイ構成、想定トラフィックから始まります。

Basetenをテーマにしたクラウドインフラのイラスト

事前に確認すること

コストを比較する前に、何をデプロイする必要があり、利用者がどう使うのかを明確にしてください。出発点によって、確認すべきことは異なります。

プロダクトチーム

需要に変動があると予想される場合は、デプロイを選ぶ前に、想定されるピーク時のトラフィックとアプリケーションに必要な応答時間を書き出してください。

トラフィックの想定範囲があれば、処理能力と使用量を比較する基準になります。

basetenのオンライン利用

MLエンジニア

提供するモデルが準備できている場合は、推論ワークフローをテストする前に、モデルのサイズ、ハードウェア要件、想定リクエスト数を記録してください。

ワークロードを明確にすると、デプロイの見積もりを検証しやすくなります。

basetenの推論機能の使い方

予算担当者

初回限定の特典と継続的な運用予算を区別する必要があります。現在の適用条件と利用規約を直接確認してください。

一時的な利用枠に依存しない計画のほうが維持しやすくなります。

basetenの無料クレジット

セキュリティ審査担当者

本番環境へのデプロイを評価する際は、デプロイ方法の比較にセキュリティとデータの取り扱いに関する要件を含めてください。

承認済みのアーキテクチャを前提にすれば、チームが利用できない選択肢について誤解を招く見積もりを避けられます。

basetenのセキュリティはどの程度か

最初から最後までの一通りの手順

すべてのモデルに一律の料金を当てはめるのではなく、代表的なデプロイを1つ選んで検討します。

  1. 1

    ワークロードを定義する

    チームがアプリケーションを通じてテキストモデルを提供するとします。モデル、平均的な入力と出力のサイズ、予想リクエスト数、ピーク時間帯、許容できるレイテンシーを記録します。推定値と実測トラフィックは分けて扱ってください。

  2. 2

    デプロイ候補を選ぶ

    モデルに必要なハードウェアとキャパシティを特定し、該当する構成と請求条件について、Basetenの最新のドキュメントまたは営業資料を確認します。他のプロバイダーの料金で代用しないでください。

  3. 3

    見積もりとテストを行う

    適用される最新の料金を使い、利用量が少ない場合、想定どおりの場合、ピーク時の場合のシナリオを計算します。代表的なワークロードをテストし、実測した処理能力を前提条件と比較したうえで、予算として扱う前に見積もりを修正します。

選択肢の比較表

コスト比較が役立つのは、同じワークロードで各選択肢を測定した場合だけです。次のような一般的な近道では、重要な項目が埋まらないままになります。

1

単一料金での比較

このガイドでは、Basetenのすべてのデプロイに当てはまる信頼性の高い単一料金は提示できません。モデルの要件、キャパシティ、使用量、現在の契約条件は異なる場合があります。

代わりにすべきこと

最新のプロバイダー情報を使い、同じトラフィックとレイテンシーの前提条件で構成候補を比較します。

2

検証されていない月額合計

リクエスト数だけでは月額料金は確定できません。リクエストのない時間帯にもデプロイのキャパシティを確保する必要があったり、その他の料金が適用されたりする場合があるためです。

代わりにすべきこと

使用量と稼働時間の両方を記録し、選択したオプションの請求方法を確認します。

3

初回特典を基準にする

期間限定の特典が利用できる場合でも、本番環境での継続的なコストを示すものではありません。

代わりにすべきこと

特典を含めずに継続的なコストを見積もり、適用可能な特典は別途扱います。

見積もりが不正確になる要因

視点を切り替えて、一見整った見積もりの信頼性を損なう前提条件を見つけます。

エンジニアリング

モデル名だけではデプロイの仕様は決まらない

同じモデルの2つのデプロイでも、必要な処理能力は異なる場合があります。短いリクエストと安定したトラフィックを使ったベンチマークでは、長い出力や急激なアクセス増加を反映できない場合があります。

  • 実際の利用を代表する入力と出力でテストする。
  • 実際の利用に近い負荷でレイテンシーとスループットを測定する。
  • モデルが変更された場合は設定を見直す。

財務

予測額は請求額ではない

見積もりには、アイドル時の確保済み容量、トラフィックの変化、個別の契約に適用される条件が反映されていない場合があります。予算では、確認済みの請求内容と前提条件を分けて記載してください。

  • 低負荷、想定負荷、ピーク負荷のシナリオを用意する。
  • 計算に使用した料金の適用日を記録する。
  • 実際の利用状況を予測と照らし合わせて確認する。

運用

平均需要ではピーク時の需要が見えないことがある

月間平均では費用が許容範囲に見えても、短時間のピーク時には、アプリケーションのレイテンシー目標を満たすために、より多くの処理能力が必要になる場合があります。予測支出と併せて、サービス要件も検討してください。

  • 利用が集中する時間帯を特定する。
  • 許容できる応答時間の目標を設定する。
  • ピーク負荷時のデプロイの動作をテストする。

見積もりを検証可能にする

モデルのデプロイ計画に添えられたイラスト 入力の前提条件

ステップ 1

まずワークロードの記録を作成する

モデルのバージョン、リクエストの形式、トラフィック予測、レイテンシー目標をまとめて記録します。この記録があれば、Basetenの構成を選んだ理由や、どのような変更があれば再見積もりが必要になるかを説明できます。

    推論パフォーマンスの確認に添えられたイラスト 検証

    ステップ2

    予測と実績を比較する

    代表的な条件でテストした後は、可能な限り、推測値を測定したスループットと稼働パターンに置き換えます。ワークロードやデプロイ構成が変わった場合は、古い数値を使い続けずに計算を更新してください。

      次のステップへ

      リンク先で提供されるのは別のAIプラットフォームであり、Basetenの公式見積もりではありません。モデルの要件と想定利用量を用意し、契約を決める前にリンク先で最新の条件を確認してください。

      実際の前提条件を使ってAIワークロードを検討する

      • まずワークロードを定義する
      • 最新の条件を直接確認する
      • 大規模な予測を立てる前にテストする
      モデルAPIのモデルカタログを見る

      独自のFAQ

      適用される料金は、選択するサービスとデプロイ形態によって異なります。ワークロードに関係する料金や請求条件は、Basetenが現在公開している情報を確認するか、同社のチームにお問い合わせください。このガイドでは現行料金を提示していません。

      すべての選択肢に同じ課金単位が適用されるとは限りません。検討している具体的な形態について、課金単位、最低利用条件の有無、稼働時間や使用量の計測方法を確認してください。

      まず、モデルと構成、想定トラフィック、リクエストのサイズ、ピーク時の需要、レイテンシー目標を把握します。これらの前提条件に現在適用される料金を組み合わせ、選択した容量で代表的なリクエストを処理できるかテストしてください。

      トラフィックや稼働時間は予測と異なる場合があり、性能目標を満たすために別の構成が必要になることもあります。見積もりの前提条件を記録し、測定した使用量や実際の請求条件と比較してください。

      ドキュメント
      ドキュメント