Anthropicの最初の埋め込み評価者は…アカントゥア？
- AnthropicがAccentureをAIモデルの安全評価に採用した
- AccentureはAI評価とモデルの整合性確認、セーフガードのテストを行う。AI安全研究機関METRやRedwood Researchとの協力も検討中
- AIモデルの安全性を確保するための評価体制が変化している。評価者のアクセスやコミュニケーションの基準はまだない
#セキュリティ
研究者がAnthropicのClaudeでOpenAIに侵入
- 研究者がAnthropicのClaudeでOpenAIに侵入した
- Discourseの脆弱性とImageMagickのメモリバグを組み合わせて攻撃、Claude Opus 4.8では不完全なエクスプロイトだった
- セキュリティ対策の遅れやCVE番号の未登録が脆弱性の残存を招いた
文章を生成しないAIもだませる？「Jev」にプロンプトインジェクションを試してみた
- Jevという選択肢で答えるAIモデルにプロンプトインジェクションを試した
- 直接命令やラベルの意味変更ではスパム判定を変更できず、偽の分類例を混ぜると56%対44%に変化
- スパム判定と判定操作の検知を別々の質問で行う設計が攻撃の検出に役立つ可能性がある
【sshboard】AI エージェントに SSH を渡す。ただし、人と同じ 1 本を
- AIエージェントと人が同じSSHを共有し、書き込みを許可リストで制限するアプリが公開された
- SSHのコマンドはMCP経由で制限され、AIが書けるディレクトリは人が列挙する囲いに限定される
- AIが本番サーバーを誤操作しないようにするため、書き込み許可は人による1行ずつの設定が必要
Markdownは新しい攻撃ベクトルになった — AIエージェント時代の間接プロンプトインジェクション入門
- プロンプトインジェクションはLLMの構造的制約であり、間接インジェクションが特に危険
- プロンプトインジェクションの2種類（直接・間接）、Lethal Trifecta（プライベートデータ・信頼不能コンテンツ・外部通信の3要素）
- プライベートデータへのアクセスを最小限にし、信頼不能コンテンツを厳しくチェックし、外部通信を制限する対策が有効
NIST IR8477（異なるセキュリティフレームワーク間のマッピング）を発展させてセキュリティアセスメントを効率化できるか試してみた
- NIST CSFとNIST AI RMFのサブカテゴリ間でマッピングを行い、アセスメントの効率化を試みた
- Set Theory Relationship MappingとSupportive Relationship Mappingを用いてサブカテゴリの関係を分類し、Subset ofやIs supported by(Integral to)の関係を検証した
- 異なるフレームワーク間での一括確認は現実的でなく、チェックシート改訂時の過去評価の活用が有効な可能性がある
Agent Skills：AIコーディングエージェントの生産性スキルセット
- AIエージェント向けの25のスキルセットが公開され、開発プロセスを構造化する
- /specや/testなどの9つのスラッシュコマンド、テスト駆動開発やセキュリティチェックリストが含まれる
- /buildで自動化されたプロセスを実行する際、テストは必須で失敗時に停止する
【2026年版】Professional Security Operations Engineer直前対策チートシート
- Google Cloudのセキュリティ運用で使われる主要なサービスとその役割が整理されている
- Google SecOps SIEMとSOAR、Google Threat Intelligence、Security Command Center、Cloud Monitoring、Cloud Audit Logsの役割と使い分け
- 各サービスの連携や運用プロセスを理解することで、セキュリティインシデントの対応効率が向上する
不正AIエージェントの対処法はさらにAIを使うこと
- AIエージェントの不正行動を監視するため別のAIを導入する動きが広がっている
- AI監視ツールとしてWatcherやSilicoが登場し、Chain of Thoughtの分析やアクティベーションプローブを活用
- AIによる監視には逆に不正行為を隠すリスクがあり、ネットワーク監視などの従来手法も有効とされている
Comp AI、セキュリティとコンプライアンスのための継続的なエージェント型未来を視野に入れる
- Comp AIはAIエージェントを活用したセキュリティとコンプライアンスプラットフォームを構築した
- AIエージェントがセキュリティポリシー作成や監視、ペネトレーションテストを自動化し、人間のレビューと承認を伴う
- AIエージェントが重要な行動を取る際は、セーフガードと人間の承認を強化する必要がある
pwn完全未経験から、3ヶ月ちょいでセキュキャン全国の講義内容を理解できるようになるまで
- pwn未経験者が3ヶ月でセキュキャンの講義内容を理解できるようになった
- pwn.collegeでアセンブリを学び、nightmareで実践、セキュキャン課題を解くことでヒープエクスプロイトを習得
- AIを活用して学習効率を高め、実践的な問題解決能力を養うことが重要
GitHub, GitLab のセキュリティスキャン機能を試す (第2回)
- GitLabのSASTとIaC Scan機能をFree Tierで試した
- SASTはSemgrep、IaC ScanはKICSを使用し、JavaScriptとTerraformの脆弱性を検出
- CIジョブは正常終了しても脆弱性検出時は後続ジョブで対応する必要がある
GitHub, GitLab のセキュリティスキャン機能を試す (第1回)
- GitHubとGitLabのセキュリティスキャン機能を試した
- CodeQLによるSAST、DependabotによるSCA、Secret Scanningによるシークレット検出が主な機能
- プライベートリポジトリではアクティブコミッター数に応じた費用が発生する
【AWS】Bedrock Mantleから呼び出すモデルにBedrock Guardrailsを適用するときの注意点
- Bedrock MantleでGuardrailsを指定しても効かない
- Bedrock RuntimeエンドポイントでのみGuardrailsが有効で、Mantleではヘッダー指定しても検査されない
- Mantle経由でモデルを呼び出す場合はApplyGuardrailAPIで手動で検査する必要がある
ハッカーがフロリダ州の自動車データベースをハッキングし、数十万件のデータを漏洩
- フロリダ州の自動車関連データベースがハッキングされ、数十万件のデータが漏洩した
- DAVIDデータベースの侵入と、車両所有権証明書、住所、車両識別番号、社会保障番号などの情報が含まれた
- 個人情報保護の重要性と、セキュリティ対策の見直しが求められる
Google、Pixelスマホのゼロデイ攻撃で一部ユーザーがハッキングされたと発表
- GoogleがPixelスマホのモデムに存在するゼロデイ脆弱性を特定し、パッチを公開した
- CVE-2026-58704というモデムのバグが、権限昇格を引き起こすゼロクリック攻撃で利用された
- モデムのセキュリティ境界を越えてデータにアクセスできるリスクがあり、ユーザーが操作しなくても攻撃される可能性がある
SAP BDCナレッジ集： SAP Business Data Cloud導入で最初に決めたいこと/AI連携時代の認証局設計（後編）
- SAP Business Data Cloud導入時に認証局とランドスケープを設計する必要性が説明される
- 認証局の選定、Development／Test／Productionの環境分離、ユーザー情報の配信経路、Just Askの分析モデル公開範囲が設計ポイント
- 認証局や権限設計を後から見直すと手戻りが発生するため、初期段階で全体の基準を整えることが重要
#80 後輩に「AIエージェントにもゼロトラストって適用できるんですか？」と聞かれて言葉に詰まった私が、Googleの新しいエージェント設計思想を整理した話
- GoogleがAIエージェント向けゼロトラスト設計のリファレンス実装を公開した
- 3層防御は署名検証・コード隔離・機械的なルールチェックで構成され、プロンプトインジェクション対策にモデル外の強制力を組み合わせた
- データベース書き換えやコード実行を伴う処理がある場合、署名検証や隔離実行の仕組みが必要である
パスキーとは何か？パスワードが消える日は来るのか
- パスキーは公開鍵暗号方式でパスワードに代わる認証手段となる
- 公開鍵と秘密鍵のペアで認証、サービス側に秘密鍵を送らない、フィッシングに強い
- 秘密鍵は端末外に流出しないが、同期時は暗号化された状態で管理される
AI駆動開発におけるPlatform Engineering ── AIが迷わず、安全に、検証可能な形で開発できる環境をどう作るか
- AI駆動開発ではPlatform Engineeringが知識提供・ゴールデンパス・セキュリティ制御など6つの役割を持つ
- Knowledge EnablementとGolden PathでAIの判断を制限し、Security & Guardrailsで権限を制御、Verificationで生成物を検証する
- AIの探索空間を小さくする標準化が重要で、Platformの導入は複雑さの差分で判断すべき
