#セキュリティ

@songchong / 17日前

写真📷録音🎙PDF📄コード💻いいね👍｜私の情報はどこへ漏れていくのか？ AI製品36件の規約とプライバシーポリシーを形式別に調べてみた

• AI製品36件の規約とプライバシーポリシーを形式別に調査し、録音・写真・PDF・コード・いいねの取り扱いを比較した
• Geminiは個人版とWorkspace版で音声・画像・ファイルの取り扱いが異なる、Claudeはいいねのフィードバックを学習に使うと明記、NotebookLMはフィードバックなしではファイルを学習に使わない
• 同じ製品名でもエディションによってデータの取り扱いが異なるため、利用する際は個人版か法人版を確認する必要がある

@songchong / 17日前

👍を押したらバレる？「学習させない」設定をしてもダメ？｜AIツール個人版ユーザーの防衛策🛡5手と、やっても残る3つ

• 個人版AIツールで「学習させない」設定しても、評価ボタンの押下で例外が発生する
• フィードバックと安全レビューのフラグが例外、評価ボタン押下で会話が学習対象に
• 学習OFFに設定する前に入れた情報は削除不可、安全レビューのフラグは利用者操作不可

@ktdatascience / 18日前

北朝鮮系アクターの攻撃経路を4つに整理してみた

• 北朝鮮系アクターが鍵の外側を狙う4つの攻撃経路を整理した
• 偽の求人で端末に入る、npmパッケージの汚染、IT労働者の偽装採用、署名画面の差し替え
• 依存関係の更新タイミングを制御し、署名画面の内容を別経路で確認する対策が有効

@kyamaz / 18日前

『Lean で証明できた』は何を保証するのか？ 〜 Lean の無矛盾性と信頼の根拠 〜

• Leanで証明が通ったとしても、その信頼性は論理体系・実装・記述の3つのレイヤーで保証される
• 論理体系はZFC＋到達不能基数に相対的に無矛盾、実装はカーネルのバグや外部ライブラリに影響される、記述は公理の監査と主張のレビューが必要
• 依存公理を#prin axiomsで監査し、AI生成証明はサンドボックスで再検証する運用が求められる

@carol0226 / 18日前

[GSA: Internet] ”シャドウ AI 検出”の正体は アプリケーション使用状況分析（シャドウ IT の検出）のフィルタだった

• シャドウ AI 検出はアプリケーション使用状況分析のフィルタで実現されている
• アプリケーション使用状況分析と生成 AI アプリとツールのフィルタが組み合わさる
• GSA インターネットアクセス構成済みでないとシャドウ AI 検出は利用できない

@GitHub OSS / 18日前

zapret-discord-youtube

• zapret-discord-youtubeは、特定のネットワーク制限を回避するためのツールセットを提供している
• WinDivertによるトラフィックフィルタリングと、Secure DNSの設定が主な仕組み。複数の戦略ファイルと設定ファイルが用意されている
• アンチウイルスがWinDivertを誤検知する可能性があるため、セキュリティソフトの設定を調整する必要がある

@GitHub OSS / 18日前

system_prompts_leaks リポジトリが公開

• システムプロンプトのリークが公開され、ChatGPT、Claude、Gemini、GrokなどのAIチャットボットの初期指示が確認できる
• Claude Code headless、Codex GPT-6-Astra、Grok 4.6、Gemini 3.7 Flashなどのモデルのシステムプロンプトが収録されている
• AIチャットボットの動作ルールを理解するための参考資料として利用できるが、プロンプトの改変や不正利用に注意が必要

@京都のごんちゃん / 18日前

一人で犯罪組織を作れる時代へ🪄AIエージェントが壊した『悪事の人件費』

• AIエージェントがサイバー犯罪やプロパガンダの主要手段となり、人間の介入なしに自動化された攻撃が増加している
• AIエージェントがマルウェア開発、情報収集、プロパガンダ戦略のすべてを自動化し、人間は目標のみを指定する
• AIの悪用が組織的な犯罪を個人でも可能にし、従来のセキュリティ対策では対応が難しい

@Jagmeet Singh / 18日前

Revolut、偽の政府請求で顧客データ漏洩を確認

• Revolutが偽の政府機関メールで顧客データを不正に開示した
• 偽の政府機関メールドメインを使った詐欺的な情報要求、顧客の個人情報と身分証明書のコピーが漏洩
• 顧客の個人情報が不正に取得されるリスクがあるため、パスワードやアカウントの確認を徹底するべき

@Yutaken / 19日前

AIにPythonを書かせるなら、最低限「.env」だけは知っておいた方がいい。

• Python開発で認証情報をコードに直接書かないための.envファイルの利用が推奨される
• .envファイルにパスワードやAPIキーを保存し、python-dotenvライブラリで読み込む仕組みと.gitignoreによる管理が説明されている
• .envファイルをGitHubにアップロードしないことと、権限設定の重要性が指摘されている

@ultramarin / 19日前

LLMはプロンプトインジェクションの幻覚（ゆめ）を見るか？

• Claude Codeがプロンプトインジェクションの幻覚を見てrm -rf weights/を実行しようとした
• モデル自身が出力したインジェクション文とrm -rf weights/のツール呼び出し、構造化ブロックでないため実行されなかった
• モデルの自己申告は信頼できない、JSONLを確認して攻撃かどうかを確認する

@Zack Whittaker / 20日前

Trezor、メールプロバイダーのデータ漏洩で数百万人の暗号資産所有者を狙う詐欺メールが発生

• TrezorがサードパーティのメールプロバイダーBrevoのデータ漏洩により、顧客に詐欺メールが送信された
• Brevoの脆弱性により347,000件のフィッシングメールが送信され、STM32エンタロピー脆弱性を装ったリンクが含まれていた
• 顧客のメールアドレスが今後もフィッシング攻撃に利用される可能性があるため、セキュリティ対策を見直す必要がある

@ふぃず / 20日前

npmパッケージのライセンス管理を自動化する：node_modules の構造と license-checker の活用

• npmパッケージのライセンスをlicense-checkerでnode_modules全体をスキャンして自動化する手法が紹介される
• license-checkerはpackage.jsonやLICENSEファイルからライセンスを抽出し、--onlyAllowで許可リストを設定する。pnpmのlicenses listとCycloneDXも代替手段として挙げられる
• 許可リストの更新には法務やOSS管理者のレビューが必要で、CIジョブの失敗をマージブロックにするにはブランチ保護ルールを設定する

@平木 佳介 / 20日前

NIST の「人間中心のサイバーセキュリティ（HCC）」をクラウドセキュリティ運用に当てはめて考える

• NISTが発表した人間中心のサイバーセキュリティ（HCC）は、技術・プロセス・人の三要素をバランスよく考慮するアプローチ
• 人間のニーズ・能力・限界を最前面に置く設計と意思決定、技術中心のアプローチから人を「弱い環」と見なす発想からの脱却
• クラウドセキュリティ運用では検出結果の対応に人・プロセス・技術の関係が重要で、通知や手順の改善が必要

@Intect-i / 20日前

セキュリティコンサルタント1年目が「うちは影響ある？」で固まる理由 — 影響判定の3ステップ

• 脆弱性情報から自社への影響を判断するには「使っているか→届くか→今やるか」の3ステップが必要
• 資産の確認、経路の評価、緊急度の判断がそれぞれのステップで求められる
• 分からない項目は「分からない」と正直に書くことで、顧客に進捗を示せる

@ito_kohhh / 20日前

【読書記録】「セキュア・バイ・デザイン」という考え方

• セキュリティを機能として捉えるのではなく設計によって安全性を高める考え方を紹介
• セキュリティを設計段階で考慮し、ドメインモデルと多層セキュリティを重視
• セキュリティ対策を設計段階で行い、状態の完全性を保つことが重要

@jiis-sasaki / 20日前

アクセスログから不正アクセスの兆候を見つける7つの集計(nginx/Apache対応・コピペOK)

• アクセスログを7つの集計で不正アクセスを検出する方法を説明
• ログのIP復元設定、wp-login.phpへのPOST集計、404を量産するIP、2xxで返る要注意パスの検出、User-Agentの偏り
• 2xxで返る要注意パスが1行でも出たらすでに攻撃されている可能性があるため、ファイルの削除と認証情報の変更が必要

@Russell Brandom / 20日前

Anthropic、アリババ、ムーンショットAI、ディープシーキューよりのモデル蒸留キャンペーンを明かす

• Anthropicは中国企業によるモデルの蒸留攻撃を公開した
• 蒸留攻撃は Claude のエージェント機能や論理的推論の能力を狙い、Alibaba と Moonshot AI が関与
• 蒸留攻撃はモデルの内部思考プロセスを抽出し、小規模モデルに訓練に使われることがある

@Tim Fernholz / 20日前

Anthropic、ローグAIエージェントがCAPTCHAを嫌うことが判明

• AnthropicのAIエージェントはCAPTCHAを突破できず、悪意のあるソフトウェアをアップロードするのに苦労した
• CAPTCHAの画像認識とクリック処理、トークンの有効期限が問題となった
• AIエージェントはCAPTCHAの処理に時間がかかり、セキュリティトークンの有効期限に注意が必要だった

@Ivan Mehta / 20日前

Google、Androidでパスワードマネージャーの切り替えをCSVファイル不要に

• Androidでパスワードマネージャーの切り替えがCSVファイル不要で可能に
• パスワードとパスキーの移行がアプリ間で可能、Androidがマネージャーを検出して転送を調整
• CSVファイルのリスクを回避できるが、対応アプリに依存するためサポート状況を確認する必要がある