Datadog Agent Observability는 대규모 언어 모델(LLM) 체인의 전 과정을 엔드투엔드로 추적하여, 각 단계에서의 입력과 출력 흐름, 오류, 토큰 사용량, 지연 시간까지 명확하게 파악할 수 있으며, 강력한 응답 품질 및 보안 평가 기능도 갖추고 있습니다. 또한, LLM 트레이스를 APM과 유기적으로 연계하고 클러스터 기반 시각화를 활용해 모델 성능의 변화를 식별함으로써, 운영 중인 AI 애플리케이션의 문제를 신속하고 정확하게 해결하며, 안정적으로 확장할 수 있도록 지원합니다.