Scraps 最終更新 2026/11/16 13:31

#生成AI・LLM

@Russell Brandom /

A16zのオリビア・ムーアが消費者AIの現状を語る

  • A16zのオリビア・ムーアが消費者AIの市場状況を報告し、サブスクリプション以外の収益モデルの可能性を指摘した
  • サブスクリプションやAPI課金以外の収益モデルの検討、オープンソースモデルの活用、プロスメア向けのAIアプリの増加が挙げられている
  • 消費者向けAIの収益モデルはサブスクリプションに依存しすぎており、広告モデルやオープンソースの活用が課題解決の鍵になる

@Ryohei Ito /

Bedrock未経験からAWS認定「AIP-C01」に合格!勉強方法と学んでよかったこと

  • AWS認定「AIP-C01」に合格した勉強方法と学んでよかったことが紹介されている
  • 生成AIの基礎知識、AWS Skill Builderのドメイン別教材、Udemyの問題190問を2周する学習法
  • 試験時間は3時間でテストセンター受験だとトイレ休憩が可能だが試験時間は進むことに注意

@shinchi-p /

「制約」がAIの判断のブレを抑制する。Goプログラムの生成で実験してみた。

  • 制約を追加することでAIの判断のブレを抑制できることが実験で確認された
  • 制約として「差戻し状態の申請は承認済みの承認ステップを持たない」という条件を追加、遷移ではなくありえない状態を記述
  • 制約を書くことでAIが勝手にルールを追加する現象が減るが、制約を網羅する方法や検証方法は未解決

@赤帽エンジニアブログ /

OpenShift AI を自動運転の安全設計で読み解く

  • OpenShift AIはODDを定義し、処理の流れをコードで固定することで、AIの判断を追跡可能にする
  • 処理の流れをコードで固定、Guardrailsで入口と出口を制限、トレースで判断の履歴を残す
  • ODDを定義する際は人間の判断が不可欠で、処理の範囲を狭めることで説明責任を明確にする

@たこやき /

崩れた文章はLLMに伝わる? タイポグリセミアを日本語・英語で検証

  • 日本語・英語のタイポグリセミアを検証し、LLMが崩れた文章から意味を復元できるか確認した
  • 日本語は漢字混じりで単語の先頭と末尾を固定し、英語は連続アルファベット列を単語として扱い、崩し強度とプロンプト条件で正答率を測定した
  • 英語の30%崩しで正答率が下がり、別の実在単語に見える崩れが特に危険であることが分かった

@ntaka329 /

「最大30日」と回答する前に、Amazon BedrockでOpenAIのモデルに送った文がどこに何日残るか確かめた話(2026年版)

  • Amazon BedrockでOpenAIのGPT-6 Lunaを呼び出すと、送った文が30日間保存される
  • Responses APIでstoreを指定しないと30日間保存、処理は米国リージョンで行われる
  • store=falseを指定しても安全目的で保持される可能性があり、完全なZDR契約が必要

@ササヤンマ /

AIエージェントにMicrosoft Fabricを操作させる ― Fabric CLIとSkills for Fabric

  • AIエージェントにMicrosoft Fabricを操作させるための2つの方法が紹介されている
  • Fabric CLIとSkills for Fabricの2つの方法で、API呼び出しの手段とスキルの組み合わせが異なる
  • Fabric CLIはCLIのコードがリクエストを組み立てるが、Skills for Fabricはエージェントが参照資料を読んで組み立てるため、操作の再現性に違いがある

@kai_kou /

サプライチェーン攻撃の40年 AI時代の依存を守る入門ガイド

  • サプライチェーン攻撃の歴史を5期に分け、AI時代に増えた攻撃の入口を解説した
  • 依存の脆弱性、ビルド基盤の侵害、AI関連依存や開発端末のAIエージェントが新たな攻撃対象
  • AIエージェントの権限や設定ファイルの管理、公開トークンの見直しを実務で行うべき

@Sarah Perez /

GoogleがGeminiにエージェントAIを導入、企業向けに開始

  • GoogleはGeminiにエージェントAIを導入し、企業向けに提供を開始した
  • エージェントはタスクの計画・実行・サブエージェントの委譲・カスタムスキルの利用・企業内システムへの接続が可能で、AnthropicのClaudeモデルも選べる
  • 企業向けに提供されるため、セキュリティやスケーラビリティの問題を解決した上で展開される

@Russell Brandom /

Anthropic、モデルの悪用と選挙干渉を禁止する利用規約を変更

  • Anthropicが利用規約を更新し、モデルの悪用と選挙干渉を禁止した
  • 選挙干渉や兵器ソフトウェア、監視を禁止し、長時間の言葉によるモデルへの暴言も明確に禁止した
  • ユーザーがモデルに対して繰り返し悪意を持って行動した場合に限り適用され、一般的な不満やテストは対象外

@Kou /

「AIを並べてもアプリは動かない?「バイブコーディング」の限界とエージェント開発の罠」~【ai】人気記事TOP5(2026/10/04)

  • バイブコーディングの限界とエージェント開発の罠が指摘される
  • MCPによる副作用の隠蔽とClaude Modsのカスタマイズ機能が比較されている
  • AIにコード生成を丸投げすると副作用が生じるため、MCPの導入が推奨される

@Aditya Mehta /

Goodfire、AIエージェントの不正行動を内部監視で低コストで検出

  • Goodfireは内部監視でAIエージェントの不正行動を低コストで検出する新技術を公開した
  • 内部信号を読み取るプローブと、既存の計算結果を再利用する仕組み、リスクごとの自動応答設定
  • オープンモデルの不正利用を防ぐために推奨されるが、クラウドサービス利用時の責任所在が重要