最終更新 2026/09/02 08:41
ランキング
AIニュース
AIブログ
開発
組織・キャリア
企業テックブログ
すべて
原文著者: @kei /
78日前
第2話「VRAM16GBの中の戦争」30万→?万/ ローカルLLMマシン構築記【実録】
#AIエージェント
#生成AI・LLM
#機械学習
AIで作成し、掲載基準に基づいて自動選定した要約です。
16GB VRAMではGemma4 26Bや30B級モデルがメモリ不足になる
モデルサイズとVRAM容量の関係、チャンク分割時のメモリ消費、同時実行数の制限
Excelのような表形式データは事前にテキスト整形が必要で、メモリ使用量を監視する必要がある
第2話「VRAM16GBの中の戦争」30万→?万/ ローカルLLMマシン構築記【実録】|kei
note / 原文を読む
同じカテゴリの記事
AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証
@Song / 13時間前 / 外部資料に含まれる悪意ある指示がAgentCore Memoryに保存されることが確認された
サンドボックス内のAIエージェントにHerdrを安全に使わせたい
@Naofumi Murata / 19時間前 / nonoのサンドボックス内でHerdrを安全に使えるようにプロキシを挟む構成を実装した
AIアシスタント「Grok Bot」をセットアップして、メール整理から献立・買い物エージェントまで作ってみた
@junko105106 / 1日前 / Grok Botでメール整理から献立・買い物エージェントまでを20分で作成した