Uberに見るAIエージェントの運用コストをいかに減らすか？

• #AIエージェント
• #生成AI・LLM
• #インフラ

AIで作成し、掲載基準に基づいて自動選定した要約です。

• UberはAIエージェントのコストを削減するためにモデル選定やコンテキスト圧縮、ツールの動的ロードを実施している
• モデルはタスクごとに最適解を選定し、コンテキストを自動圧縮し、MCPツールをGateway経由で動的ロードする
• コンテキストの初期共有がコストの大きな要因となるため、事前準備を効率化する設計が重要である