LLM(大規模言語モデル)のファインチューニングや推論処理のために、NVIDIA H100 GPUを使ったクラウドを探しているエンジニアに向けた内容です。GPUクラウド大手のCrusoe Cloudを検討していて、見積もりの桁が想定より大きくなってしまった方の参考になれば幸いです。
H100は現在もっとも需要が高いAI学習向けGPUの一つです。1枚あたりの時間単価だけを見て比較すると、思わぬ落とし穴にはまります。Crusoe Cloudが提供する最小のH100仮想マシンは、実は1枚ではなく8枚セットの構成しかありません。LoRA(大規模モデルの一部パラメータだけを効率よく調整する軽量ファインチューニング手法)のような小規模な学習ジョブでも、8枚分の料金を払うことになります。
どんな場面でこの判断が必要になるか
3人程度の小規模チームが、1つのモデルを数時間だけファインチューニングしたいケースを考えてみます。
この場合に必要なのはH100 1枚、数時間の利用です。ところがCrusoeの料金ページを見ると、H100の最小構成はh100-80gb-sxm-ib.8xという名称の仮想マシンで、NVIDIA H100 80GB SXM5を8枚搭載しています。単価は1枚あたり3.90ドル(オンデマンド)ですが、8枚セットなので実質31.20ドル/時間になります。2026年12月1日からは単価が4.50ドルに上がり、1時間あたり36.00ドルに跳ね上がります。
大規模クラスタを予約して長期運用する前提のチームと、短時間だけGPUを借りたいチームとでは、見るべき料金ページも判断基準もまったく変わってきます。
判断軸
最小購入単位が最初の軸です。GPU 1枚から借りられるか、8枚セットが最小単位かで、小規模ジョブの実コストが何倍にも変わります。
課金の止め方も重要です。ジョブが終わった瞬間に課金が止まるのか、仮想マシンを明示的に停止しないと課金が続くのかを確認してください。Crusoeのオンデマンド仮想マシンは秒単位課金ですが、停止してもOSディスク(128GB)の料金は残ります。1GiBあたり月0.08ドルなので、削除するまで月10.24ドルほどかかり続けます。
予約規模とハードウェア世代も見るべき軸です。NVIDIA Vera RubinやGB300 NVL72、AMD MI355Xといった最新世代システムを大量に確保したいなら、話は変わってきます。
データ転送費用も忘れずに確認したい項目です。クラウド間でのデータ転送(egress)に追加料金がかかるかどうかは、学習データセットが大きいチームほど効いてきます。
主要な選択肢を比較する
小規模ジョブ向けにH100を1枚から借りられるサービスとして、RunPod、Lambda、Modal、Nodusが挙げられます。LoRAファインチューニングを想定し、H100を1枚6時間使うケースで比較すると、公開されている価格表(2026年11月8日時点)は次のようになります。
| サービス | 最小単位 | 時間単価 | 6時間の合計 |
|---|---|---|---|
| Nodus | H100 1枚 | 2.60ドル | 15.60ドル |
| RunPod Community Cloud | H100 1枚 | 2.69ドル | 16.14ドル |
| Modal | H100 1枚 | 3.95ドル | 23.70ドル |
| RunPod Secure Cloud | H100 1枚 | 3.99ドル | 23.94ドル |
| Crusoe(オンデマンド) | H100 8枚 | 31.20ドル | 187.20ドル |
同じ1枚・6時間のジョブでも、Crusoeを選ぶと8枚分の料金が発生するため、Nodusの約12倍のコストになります。これは単価差ではなく、最小購入単位の違いがそのまま反映された結果です。
一方で、8枚フルに使う学習ジョブ(80 GPU時間)で比較すると様相は変わります。Crusoeのオンデマンド価格は1枚あたり3.90ドルで、80GPU時間の合計は312.00ドルです。これはModalの315.94ドルやRunPod Secure Cloudの319.20ドルより安く、Nodusの208.00ドルには104ドルの差で届きませんが、大規模利用では十分競争力があります。
ケース別の推奨
- 1〜2枚のGPUで数時間〜数日のファインチューニングを試したいなら、H100を1枚単位で借りられるNodus・RunPod Community Cloudを候補にします
- ジョブ完了と同時に課金を止めたい(放置課金を避けたい)なら、ジョブ単位の課金モデルを持つサービスのドキュメントで「Job」「停止条件」の記載を確認します
- GPUメモリが足りるか不安なら、A100 80GBやL40S 48GBなど1枚単位の下位GPUも比較対象に入れます。NodusはA100 80GBを1.09ドル、L40Sを0.793ドルで提示しており、Crusoeの単価(A100 2.00ドル、L40S 1.50ドル)より低く設定されています
- 8枚以上のGPUを継続的に確保したい、またはVera RubinやGB300 NVL72といった最新世代ハードウェアを使いたいなら、Crusoeの予約(reservation)ページを確認します。128 A100や256 H100単位の予約例が掲載されており、まとまった規模向けの料金体系になっています
あえて見送るべき条件
次のような場合は、小規模向けサービスを選ぶ理由が薄くなります。
- すでに社内でH100クラスタを8枚以上恒常的に使っている場合は、Crusoeの予約割引や無料データ転送のメリットが効いてくるため、わざわざ切り替える必要はありません
- 最新世代のAMD MI355XやNVIDIA Vera Rubinを使った検証が目的の場合は、現時点でそれらを1枚単位で提供しているサービスは限られるため、大規模クラウド側の選択肢を先に確認したほうが早いです
- データ転送量が極端に大きいワークロード(大規模データセットを複数リージョン間で移動するなど)では、egress無料をうたうクラウドの方が総コストで有利になる場合があります
まとめ
H100を使ったAI開発の料金比較では、時間単価だけでなく最小購入単位を必ず確認してください。
具体的には、検討中のクラウドの料金ページで「H100の仮想マシンが何枚構成か」「ジョブ終了時に課金が自動で止まるか」「停止後のストレージ課金が残るか」の3点を見るところから始めるとよさそうです。
小規模な検証・ファインチューニングであればH100を1枚単位で借りられるサービスを、恒常的な大規模学習であれば予約型の大手クラウドを、という使い分けが現実的な出発点になります。