Qwen3.8 27B に Reasoning Effort を実装してみる

• #機械学習
• #生成AI・LLM

AIで作成し、掲載基準に基づいて自動選定した要約です。

• Qwen3.8 27B の長すぎる思考を制御するために，llama.cpp で reasoning_budget_tokens と reasoning_budget_message を設定した
• llama.cpp の reasoning_budget_tokens で生成トークン数の上限を指定し，reasoning_budget_message で thinking を強制終了するメッセージを挿入した
• reasoning_budget_tokens を 4096 に設定することで，Minecraft クローン作成タスクを自力で完了できるようになった