- Location: サンフランシスコ
- Published date: 2023年8月4日
Datadogのプラットフォームを拡張し、生成AIアプリケーションの監視とトラブルシューティングを支援
Datadogが大規模言語モデルと生成AIアプリケーションコンポーネントにオブザーバビリティに関する機能を追加
サンフランシスコ — 2023年8月4日 — クラウドアプリケーション向けの監視およびセキュリティのプラットフォームを提供するDatadog, Inc.(NASDAQ:DDOG)は本日、生成AIベースのアプリケーションにおける問題の監視とトラブルシューティングを支援する新機能を発表しました。
AIアシスタントやコパイロットなどの生成AIベースの機能は、あらゆるソフトウェア製品のロードマップにおいて、急速に重要な役割を担うようになっています。こうした新機能に期待が高まっていますが、これらを顧客対応アプリケーションに導入すると、コスト、可用性、正確性などの点で多くの課題が生じます。
生成AIで使用される技術スタックが飛躍的な進化を遂げている中、新たなアプリケーションフレームワーク、モデル、ベクトルデータベース、サービスチェーンおよびサポート技術が急速に採用され使用されるようになりました。企業がこのような変化に対応するには、AIスタックに適合し進化できるオブザーバビリティソリューションが必要です。
本日、Datadogはチームが自信を持って大規模言語モデル(LLM)ベースのアプリケーションを本稼働環境に導入し、健全性、コスト、正確性をリアルタイムでトラブルシューティングできるよう支援する、生成AIオブザーバビリティの広範な機能セットを発表しました。
これらの機能には、以下のようなエンドツーエンドのAIスタックの統合が含まれます。
AIインフラストラクチャーとコンピューティング:NVIDIA、CoreWeave、AWS、Azure、Google Cloud
埋め込みとデータ管理:Weaviate、Pinecone、Airbyte
モデルサービングとデプロイメント:Torchserve、VertexAI、Amazon Sagemaker
モデルレイヤー:OpenAI、Azure OpenAI
オーケストレーションフレームワーク:LangChain
さらにDatadogは、LLM Observabilityの統合ソリューションもベータ版としてリリースしました。LLM Observabilityは、アプリケーション、モデル、およびさまざまな連携機能からデータを収集し、組み合わせることで、エンジニアがモデルコストの急増、パフォーマンスの低下、ドリフト、ハルシネーションなどのアプリケーションの問題を迅速に検出して解決するのを支援し、エンドユーザー体験をさらに向上します。
LLM Observabilityには以下の機能が含まれます。
モデルカタログ:モデルの使用状況、コスト、APIパフォーマンスを監視しアラートを出します。
モデルパフォーマンス:プロンプトとレスポンスの長さ、APIレイテンシー、トークン数など、すぐに提供されるさまざまなデータの特性に基づいて、モデルのパフォーマンスの問題を特定します。
モデルドリフト:プロンプトとレスポンスをクラスタに分類し、時間の経過に伴うパフォーマンスの追跡とドリフトの検出が可能になります。
Datadogの製品担当バイスプレジデントであるYrieix Garnierは次のように述べています。「特に技術スタックの近代化が進む中では、チームがAIモデルに投資している時間とリソースを測定することが欠かせません。これらの最新のLLM監視機能とAIスタックの統合は、組織がLLMベースのアプリケーションと機能を監視し改善するのに役立つとともに、コスト効率も向上させることができます。」
DatadogのAI/LLM統合機能は一般提供を開始しました。詳細については、https://www.datadoghq.com/blog/ai-integrationsをご覧ください。
DatadogのLLM Observabilityは、現在ベータ版をご利用いただけます。詳細については、https://www.datadoghq.com/blog/dash-2023-new-feature-roundup/をご覧ください。
- Contact
- Datadog press@datadoghq.com
- Published by
- Datadog, Inc.
Datadog について
Datadog は、AI 時代におけるオブザーバビリティおよびセキュリティプラットフォームのリーディングカンパニーです。テクノロジースタック全体を統合的に可視化し、大規模化・複雑化するシステムの管理を支援します。AI を活用し、アプリケーション、インフラストラクチャ、データ、モデル、セキュリティを一元的に統合することで、お客様への影響が生じる前に問題を早期に検知・解決します。Datadog は、Fortune 500 企業や急成長する AI 分野のリーダー企業をはじめ、世界中のお客様から信頼を得ており、ビジネスにおける迅速な意思決定と実行を可能にします。
将来の見通しに関する記述
本プレスリリースには、新製品および新機能の利点に関する記述を含め、米国1933年証券法(Securities Act of 1933)第27A条および米国1934年証券取引所法(Securities Exchange Act of 1934)第21E条に規定される「将来予想に関する記述」が含まれています。これらの将来予想に関する記述は、当社の製品および機能の強化、またそれらによってもたらされる利益に関する記述が含まれますが、これらに限定するものではありません。実際の結果は、将来見通しに関する記述とは大きく異なる可能性があり、「リスクファクター」の見出しの下に詳述されているリスクをはじめ、2023年5月5日に米国証券取引委員会に提出したForm 10-Qの四半期報告書を含む米国証券取引委員会への提出書類および報告書、ならびに当社による今後の提出書類および報告書に記載されている、当社が制御できない様々な仮定、不確実性、リスクおよび要因の影響を受けます。法律で義務付けられている場合を除き、当社は、新しい情報、将来の事象、期待の変化などに応じて、本リリースに含まれる将来の見通しに関する記述を更新する義務または責務を負いません。