Scraps 最終更新 2026/11/16 10:31

原文著者: @Stockmark Tech Blog /

Slurmによる研究と推論サービスのGPU共有

AIで作成し、掲載基準に基づいて自動選定した要約です。

  • Slurmで研究と推論のGPUを共有する仕組みを構築
  • 常駐サービスはSlurmのreservationでGPUを確保、オンデマンドサービスは空きGPUを即時要求、GPUのデバイス隔離にcgroupを使う
  • オンデマンドサービスはGPU不足時に失敗する可能性があるため、常駐サービスへの切り替えをアプリケーション側で判断する
Slurmによる研究と推論サービスのGPU共有 - Stockmark Tech Blog

はてな / 原文を読む