最終更新 2026/11/14 20:03
ランキング
AIニュース
AIブログ
開発
組織・キャリア
企業テックブログ
すべて
原文著者: @yt /
9日前
DGX Sparkでllama.cppの投機デコードを比較してみた
#生成AI・LLM
#AIエージェント
#機械学習
AIで作成し、掲載基準に基づいて自動選定した要約です。
DGX Sparkでllama.cppの投機デコードを比較し、MTPとDFlashが最速で約21.6 tok/sだった
MTPはメモリ増加が2.1 GiBで設定が簡単、DFlashは専用ドラフトモデルが必要
MTPはターゲットモデルとセットで扱えるため管理が楽で、今回の環境では最も使いやすかった
DGX Sparkでllama.cppの投機デコードを比較してみた
Zenn / 原文を読む
同じカテゴリの記事
GitHub CLI × Claude Code でバイブコーディングをIssue・PRで管理してみた
@Intelligent Technology's Technical Blog / 1時間前 / GitHub CLIとClaude CodeのSkill機能を組み合わせてバイブコーディングをIssue・PRで管理するワークフローを構築
AI駆動開発用ハーネスに実行検証役を組み込む
@Keita Sakashita / 2時間前 / AI駆動開発ハーネスに実行検証役を追加して不具合を発見
dbt-duckdb の seed に置いた CSV が落ちる理由を調べてみた
@asu7 / 3時間前 / dbt-duckdb の seed に置いた CSV が dbt seed で落ちる理由は、dbt と DuckDB で CSV の読み方が異なること