AI エンジニアリングの現在地

1,000 以上の組織の本番 LLM テレメトリが明らかにする、実社会における AI の現在地。

AI エンジニアリングは、もはや実験段階を大きく超えています。現在、組織は本番環境でモデル群、オーケストレーションフレームワーク、マルチステップのエージェント型ワークフローを管理しています。そこでは、プロンプトやモデルの変更ひとつで、レイテンシ、コスト、失敗率が気づかないうちに変動する可能性があります。

「AI エンジニアリングの現在地」レポートでは、1,000 社以上の Datadog 顧客から収集した LLM テレメトリを分析し、大規模な本番環境で実際に何が起きているのかを明らかにしました。このレポートでは、以下の内容を取り上げています。

• モデルプロバイダーの採用がどのように変化し、なぜ多くの組織がマルチモデルを前提とするようになっているのか
• チームが旧モデルを廃止するよりも速いペースで新しいリリースを導入する中で、LLM の技術的負債がなぜ積み上がっているのか
• エージェントフレームワークの採用が倍増したことが、オブザーバビリティにどのような意味を持つのか
• 隠れたトークンコストはどこで発生しているのか、そしてプロンプトキャッシュが依然として広く活用されていない理由

レポートをダウンロードして、自社の AI スタックを現在の本番環境の動向と比較してください。