AI ワークロード用 GPU Monitoring | Datadog
AI Observability

GPU Monitoring

GPU フリートのフルパワーを活用

GPU フリートのフルパワーを活用
GPU フリートのフルパワーを活用
GPU フリートのフルパワーを活用
GPU フリートのフルパワーを活用

機能概要

Datadog GPU Monitoring は、デバイスの健全性、コスト、パフォーマンスを、デバイスを利用するワークロードやチームに直接関連付け、共有 GPU フリート全体をエンドツーエンドで可視化します。プラットフォームチームと ML チームは、クラウド、オンプレミス、ネオクラウドのいずれにデプロイしていても、フリート全体を統合ビューで把握できます。これにより、安心してプロビジョニングし、AI の提供規模を拡大できます。GPU Monitoring の先回りのアラートと具体的な推奨事項により、チームは効率を最適化し、停止・失敗した AI ワークロードの問題を解決できます。ハードウェアの問題を防ぎ、無駄なコストも削減できます。

データドリブンのプロビジョニングガイダンスで AI ワークロードを拡大

  • Datadog Agent の設定フラグを 1 つ切り替えるだけで、ハイパースケーラー、オンプレミス、ネオクラウドプロバイダーにわたるフリート全体の規模とコストを統合ビューで把握
  • 組織の GPU 使用状況をプロジェクト、サービス、任意のタグ別に追跡し、組織全体で GPU をより公平に割り当て
  • 実際のキャパシティ不足と、未使用または非効率に使われている GPU を区別できます。プラットフォームチームは不要な購入を避け、ML チームは待たずに GPU を確保
  • GPU の需要を予測することで、長期の調達サイクルを避け、コストを容易に予測
  • ゾンビプロセスに占有された GPU の回収など、ガイダンスに沿って最適化を進め、既存キャパシティの ROI を最大化
規模、使用状況、コストのメトリクスを示す GPU フリートの概要
規模、使用状況、コストのメトリクスを示す GPU フリートの概要

AI のスループットを向上し、処理の遅延を迅速に解消

  • 分断されたツールのシグナルをつなぎ合わせることなく、プラットフォームチームと ML チームが共通のコンテキストを使い、停止したワークロードをトラブルシューティング
  • 初期化中に停止した Pod やハードウェアの健全性の問題など、ワークロードの処理が遅くなる原因を特定
  • GPU リクエストを満たせていないワークロードやクラスターのアラートにより、リソース競合を先回りして検知
  • GPU を過剰に予約しながら十分に活用していないチームを明らかにし、必要なワークロードに適切なキャパシティを割り当て、ビジネス価値を向上
GPU ワークロードのパフォーマンス調査ビュー
GPU ワークロードのパフォーマンス調査ビュー

ハードウェアの問題による AI 提供の中断を防止

  • 温度、電力、ハードウェアエラーなどの健全性情報をワークロードのコンテキストに関連付け、異常のある GPU がワークロードに及ぼす影響を最小限に抑制
  • 組み込みのアラートで、サーマルスロットリングが起きている異常な GPU を隔離し、障害がクラスター全体への連鎖を防止
  • 組み込みのアラートと具体的な対応手順により、ECC/XID エラーを先回りして検知・解決可能。ハードウェアの専門知識にかかわらず、すべてのユーザーが活用可能
  • 影響を受けたホスト、GPU、ワークロード、所有者を詳しく調べ、対応すべき問題をすばやく解決して、リリーススケジュールを遵守
GPU ハードウェアの健全性モニタリングとエラー検知
GPU ハードウェアの健全性モニタリングとエラー検知

的を絞った対応で、GPU の無駄なコストを削減

  • GPU の総コストと未使用 GPU のコストを、任意のタグと期間で分類できます。どのワークロード、チーム、サービスにコストが集中しているかを正確に把握
  • 社内チャージバックに向けて、最も無駄が多い、または最も非効率なチームやワークロードを特定
  • このレポートでコスト最適化を日々の運用に組み込むことで、各チームが GPU の使用状況とコストに責任を持って管理
  • 無駄に使われている GPU の所有者に直接ひも付く標準の最適化ガイダンスにより、キャパシティの回収、再割り当て、適正化が可能
チーム別・ワークロード別の GPU コストの内訳
チーム別・ワークロード別の GPU コストの内訳

次のステップ

Datadog 製品スイート全体を 14 日間無料でお試しいただけます


詳細はこちら

デモをリクエスト

ドキュメントを表示 価格設定を表示