Scraps 最終更新 2026/10/15 16:01

原文著者: @kotowazaman /

ちょっぴりお馬鹿な国産LLM Sarashinaの速さの秘密

AIで作成し、掲載基準に基づいて自動選定した要約です。

  • Sarashinaは最初の1文字が出るまでが速く、日本のサーバーの影響は3割程度
  • TTFTの測定結果ではSarashina3 miniが0.11秒、日本のサーバーの影響は3〜5割、サーバー側の処理が残りの差を占める
  • Sarashina3 miniは1分間に6回のレート制限があるため、大量処理には向いていない
ちょっぴりお馬鹿な国産LLM Sarashinaの速さの秘密 - Qiita

Qiita / 原文を読む