最終更新 2026/10/15 16:01
ランキング
AIニュース
AIブログ
開発
組織・キャリア
企業テックブログ
すべて
原文著者: @kotowazaman /
33日前
ちょっぴりお馬鹿な国産LLM Sarashinaの速さの秘密
#生成AI・LLM
#AIエージェント
#機械学習
AIで作成し、掲載基準に基づいて自動選定した要約です。
Sarashinaは最初の1文字が出るまでが速く、日本のサーバーの影響は3割程度
TTFTの測定結果ではSarashina3 miniが0.11秒、日本のサーバーの影響は3〜5割、サーバー側の処理が残りの差を占める
Sarashina3 miniは1分間に6回のレート制限があるため、大量処理には向いていない
ちょっぴりお馬鹿な国産LLM Sarashinaの速さの秘密 - Qiita
Qiita / 原文を読む
同じカテゴリの記事
AIアシスタント「Grok Bot」をセットアップして、メール整理から献立・買い物エージェントまで作ってみた
@junko105106 / 1日前 / Grok Botでメール整理から献立・買い物エージェントまでを20分で作成した
社長の一言は重い。RAGにも忖度させてみた(重み付け検索)
@kikuziro / 1日前 / RAGに重要タグを付けて検索結果の重みを調整した
あなたのAIはまだ、「ものの調べ方」を知らない。──調査スキルを作ってバズった話
@BaspisKawaE / 1日前 / AIに調べものをさせるスキルを公開し、GitHubで人気になった