LiteLLMをCloud RunにデプロイしてGemini APIの利用実績をユーザー 別に取得してみた

• #クラウド
• #DevOps・CI/CD
• #バックエンド

AIで作成し、掲載基準に基づいて自動選定した要約です。

• LiteLLMをCloud Runにデプロイし、Gemini APIの利用実績をユーザー別に取得した
• Cloud SQLでSpend Trackingを保存し、仮想キーでユーザー別認証を実装した
• ユーザー別・モデル別のトークン数と費用をCloud Monitoringから取得できる