MacBook Pro 128GB でローカル LLM がついに実用になった ─ Qwen3.8 Flash Next 実測

• #生成AI・LLM
• #AIエージェント
• #機械学習

AIで作成し、掲載基準に基づいて自動選定した要約です。

• MacBook Pro 128GBでQwen3.8 Flash NextがローカルLLMとして実用になった
• Q3量子化で90GBのGGUFモデルをllama.cppとOpenCodeで実行、コンテキスト長65536で動作
• 128GBマシンでMoEアーキテクチャのモデルを動かす際、KVキャッシュのサイズとセッション数のバランスが重要