Scraps 最終更新 2026/11/16 14:20

#機械学習

@kenmatsu4 /

TransformerのKVキャッシュを用いたDecode処理を理解する

  • TransformerのDecode処理でKVキャッシュが使われることを説明している
  • Prefillで作成したK,Vをキャッシュし、Decodeで新しいトークン生成時に再利用する仕組み、K,Vの行列計算でキャッシュを更新する方法
  • KVキャッシュは各Transformer層ごとに保持され、トークン数が増えるとキャッシュサイズが増えるためメモリ制約に注意が必要

@室崎 敬太 【AIテック企業役員×オーナー経営】 /

生成AI格差(AIデバイド)の正体。「誰一人取り残さないAI」が取り残している人は誰か。

  • 生成AIの普及が進んでも、利用できる人には格差がある
  • 可処分所得や可処分時間の差、年齢や所得水準による利用差、学習コストの問題
  • AIを使う余裕がない人が特に取り残されるため、企業は時間や費用のサポートを設計する必要がある

@terurl /

最新のOCR・Document AI 4手法の技術解説(Qwen3-VL / GOT-OCR2.0 / DeepSeek-OCR / PP-OCR)

  • Qwen3-VL、GOT-OCR2.0、DeepSeek-OCR、PP-OCRの4手法がそれぞれ異なる課題を解決している
  • Qwen3-VLは位置符号化の周波数帯の配分方法を変更、GOT-OCR2.0は視覚エンコーダを文章読解可能に学習、DeepSeek-OCRは視覚トークン圧縮技術、PP-OCRは知識蒸留で精度向上
  • VLMを用いる手法はハルシネーションリスクがあるが、PP-OCRは決定論的な処理で予測可能なコストを持つ

@shogo0x2e /

Qwen3.8 27B に Reasoning Effort を実装してみる

  • Qwen3.8 27B の長すぎる思考を制御するために,llama.cpp で reasoning_budget_tokens と reasoning_budget_message を設定した
  • llama.cpp の reasoning_budget_tokens で生成トークン数の上限を指定し,reasoning_budget_message で thinking を強制終了するメッセージを挿入した
  • reasoning_budget_tokens を 4096 に設定することで,Minecraft クローン作成タスクを自力で完了できるようになった

@colum2131 /

Databricks の Declarative Automation Bundles を用いた機械学習データセット作成基盤の構築

  • DatabricksのDeclarative Automation Bundles(DAB)を活用してデータセット作成基盤を構築し、運用効率を向上させた
  • DABでジョブ定義や依存パッケージをコードで管理し、Serverless Computeで高速なデータ処理を実現、MosaicML StreamingDataset(MDS)をデータ形式に採用
  • Serverless Computeの制約に対応するため、依存パッケージの事前取得やDataFrameのmaterialize機能を導入し、リトライ制御を実装する必要がある。

@だいあろごす。 /

【Antigravity】わずか3週間で「Gemini 3.7 Flash」登場!前回の“劣化騒動”は繰り返されるのか?直後の評判と進化点を徹底調査

  • Gemini 3.7 Flashが3週間でリリースされ、実務向け能力が強化された
  • ファーストパス精度が65.3%に向上、エージェント思考力の確認機能と思考レベル設定が追加
  • 思考レベルを高にすると待ち時間が増えるため、タスクごとの設定が必要で、2027年1月からは通常価格に戻る