Strataを使ってMac mini(32GB)でQwen3.8-Flash-Next(125B)を動かす
- Strataを使ってMac mini(32GB)でQwen3.8-Flash-Nextを動かす方法を紹介
- SSDから読み込みながら動かすMoEモデルと、ターミナルでの接続設定がポイント
- 32GBのメモリでも100B超えのモデルが動くが、処理速度は遅い
Strataを使ってMac mini(32GB)でQwen3.8-Flash-Next(125B)を動かす - Qiita


