Scraps 最終更新 2026/10/28 17:01

原文著者: @nr-mito /

Dify / LiteLLM Proxy で作成した生成AIアプリをOpenTelemetryで監視してみた

AIで作成し、掲載基準に基づいて自動選定した要約です。

  • New RelicがOpenTelemetry標準の生成AIトレースをAI Monitoringにネイティブ対応
  • Dify/LiteLLM Proxy経由でLLM呼び出しをOpenTelemetryスパンとしてNew Relicに送信、トークン使用量・コスト・レイテンシのメトリクスとプロンプト/応答の内容キャプチャが可能
  • プロンプト/応答の中身を送信する場合はPIIや機密情報が含まれる可能性があるため組織のデータ方針を確認する必要がある
Dify / LiteLLM Proxy で作成した生成AIアプリをOpenTelemetryで監視してみた - Qiita

Qiita / 原文を読む