@kenmatsu4 / 89日前 TransformerのKVキャッシュを用いたDecode処理を理解する TransformerのDecode処理でKVキャッシュが使われることを説明しているPrefillで作成したK,Vをキャッシュし、Decodeで新しいトークン生成時に再利用する仕組み、K,Vの行列計算でキャッシュを更新する方法KVキャッシュは各Transformer層ごとに保持され、トークン数が増えるとキャッシュサイズが増えるためメモリ制約に注意が必要 #AIエージェント#機械学習#アーキテクチャ
@thun-c / 89日前 AHC延長戦の伝説"saitodevel01"の機械学習手法を再現して1位を奪い返した話 saitodevel01氏のニューラルネットワークを用いた機械学習手法を再現し、1位を更新したニューラルネットワークによる行動評価、141進法の特徴変換、score-weighted loss教師データの2候補による学習と、AOTIパッケージへの変換が提出コードに影響する #生成AI・LLM#機械学習#AIエージェント
@jqit_suwa / 90日前 14MBのAIモデルは本当に動いた — DLL 1個・RAM 37MB・1回0.5秒、ただし日本語は0/5 14MBのDLL1個で動作するAIモデルが実証されたモデルファイルは14MBのlibneedle.dll1個で、ツール選択の精度は英語で4/5、日本語で0/5日本語対応は未実装で、信頼度が高まると誤判断が増えるため注意が必要 #機械学習
@室崎 敬太 【AIテック企業役員×オーナー経営】 / 90日前 生成AI格差(AIデバイド)の正体。「誰一人取り残さないAI」が取り残している人は誰か。 生成AIの普及が進んでも、利用できる人には格差がある可処分所得や可処分時間の差、年齢や所得水準による利用差、学習コストの問題AIを使う余裕がない人が特に取り残されるため、企業は時間や費用のサポートを設計する必要がある #生成AI・LLM#AIエージェント#機械学習
@terurl / 90日前 最新のOCR・Document AI 4手法の技術解説(Qwen3-VL / GOT-OCR2.0 / DeepSeek-OCR / PP-OCR) Qwen3-VL、GOT-OCR2.0、DeepSeek-OCR、PP-OCRの4手法がそれぞれ異なる課題を解決しているQwen3-VLは位置符号化の周波数帯の配分方法を変更、GOT-OCR2.0は視覚エンコーダを文章読解可能に学習、DeepSeek-OCRは視覚トークン圧縮技術、PP-OCRは知識蒸留で精度向上VLMを用いる手法はハルシネーションリスクがあるが、PP-OCRは決定論的な処理で予測可能なコストを持つ #AIエージェント#機械学習#バックエンド
@shogo0x2e / 91日前 Qwen3.8 27B に Reasoning Effort を実装してみる Qwen3.8 27B の長すぎる思考を制御するために,llama.cpp で reasoning_budget_tokens と reasoning_budget_message を設定したllama.cpp の reasoning_budget_tokens で生成トークン数の上限を指定し,reasoning_budget_message で thinking を強制終了するメッセージを挿入したreasoning_budget_tokens を 4096 に設定することで,Minecraft クローン作成タスクを自力で完了できるようになった #機械学習#生成AI・LLM
@colum2131 / 93日前 Databricks の Declarative Automation Bundles を用いた機械学習データセット作成基盤の構築 DatabricksのDeclarative Automation Bundles(DAB)を活用してデータセット作成基盤を構築し、運用効率を向上させたDABでジョブ定義や依存パッケージをコードで管理し、Serverless Computeで高速なデータ処理を実現、MosaicML StreamingDataset(MDS)をデータ形式に採用Serverless Computeの制約に対応するため、依存パッケージの事前取得やDataFrameのmaterialize機能を導入し、リトライ制御を実装する必要がある。 #機械学習#データ分析#クラウド
@だいあろごす。 / 93日前 【Antigravity】わずか3週間で「Gemini 3.7 Flash」登場!前回の“劣化騒動”は繰り返されるのか?直後の評判と進化点を徹底調査 Gemini 3.7 Flashが3週間でリリースされ、実務向け能力が強化されたファーストパス精度が65.3%に向上、エージェント思考力の確認機能と思考レベル設定が追加思考レベルを高にすると待ち時間が増えるため、タスクごとの設定が必要で、2027年1月からは通常価格に戻る #生成AI・LLM#AIエージェント#機械学習