État des lieux de l'ingénierie de l'IA

Ce que la télémétrie des LLM en production de plus de 1 000 entreprises révèle sur l'utilisation réelle de l'IA.

L’ingénierie de l’IA a dépassé depuis longtemps le stade de l’expérimentation. Les entreprises exploitent désormais en production des flottes de modèles, des frameworks d’orchestration et des workflows d’agents multi-étapes, où un simple changement de prompt ou de modèle peut modifier discrètement la latence, les coûts et les taux d’échec.

Dans le rapport État des lieux de l’ingénierie de l’IA, nous avons analysé la télémétrie des LLM de plus de 1 000 clients Datadog afin de montrer ce qui se passe réellement à grande échelle. Vous y découvrirez :

• comment l’adoption des fournisseurs de modèles évolue et pourquoi la plupart des entreprises utilisent désormais plusieurs modèles par défaut
• pourquoi l’adoption rapide des nouvelles versions des modèles et le maintien des anciennes alourdissent la dette des LLM
• ce que le doublement de l’adoption des frameworks d’agents implique pour l’observabilité
• d’où proviennent les coûts cachés liés aux tokens et pourquoi la mise en cache des prompts reste encore largement sous-utilisée

Téléchargez le rapport pour comparer votre stack IA aux pratiques actuellement observées en production.