ローカルLLMは本当に騒がれてるほどか? Qwen3.8-Flash-Nextの4bit版を家で動かして確かめた
- Qwen3.8-Flash-Nextの4bit版を自宅で動かして性能を確認した
- StrataエンジンでRAM80GB+VRAM16GB環境で動作、3bit版と4bit版の比較で文脈取り違えが改善しないことが判明
- 量子化による性能低下が明確で、ローカルLLMの実際の性能はフロンティア級と差がある可能性がある
ローカルLLMは本当に騒がれてるほどか? Qwen3.8-Flash-Nextの4bit版を家で動かして確かめた


