Scraps 最終更新 2026/10/02 07:40

#AIエージェント

@kf_webdev /

生成AIセキュリティを学んで変わった「AIを安全に使う」という考え方

  • 生成AIセキュリティを学ぶことで、情報の扱い方やPrompt Injection、RAGのセキュリティ対策が変わる
  • 情報の分類、直接・間接Prompt Injection、RAGの検索段階でのアクセス制御、多層防御
  • AIに渡す情報の判断基準を自分自身で設定し、データの中にも指示がある可能性を考慮する
生成AIセキュリティを学んで変わった「AIを安全に使う」という考え方 - Qiita

@だいあろごす。 /

【Antigravity】AIへの指示書が共通化する？Claude Codeが「AGENTS.md」に対応

  • Claude CodeがAGENTS.mdに対応し、AIエージェント向けの共通指示書が広がり始めている
  • AGENTS.mdはプロジェクトの基本情報やルールを記載する共通形式で、Claude CodeとGoogleのmanaged Antigravity Agentで利用可能
  • Antigravityユーザーは現状維持で問題ないが、今後のAI環境構築に影響が出る可能性がある
【Antigravity】AIへの指示書が共通化する？Claude Codeが「AGENTS.md」に対応｜だいあろごす。

@GitHub OSS /

anthropics/claude-code

  • Claude Codeがリリースされた
  • ターミナルやIDEで使えるエージェント型コードツール、npmでのインストールは非推奨
  • インストール方法は公式ドキュメントに記載、データ収集に関するポリシーが明記されている
GitHub - anthropics/claude-code: Claude Code is an agentic coding tool that lives in your terminal, understands your codebase, and helps you code faster by executing routine tasks, explaining complex code, and handling git workflows - all through natural language commands.

@HELLO_CYBERNETICS /

Jevを、自然言語で分類基準を渡せる識別モデルとして使う

  • Jevは自然言語で分類基準を指定できる識別モデルとして使える
  • 質問と候補の説明を変えることで配送担当や実験報告書の分類が可能、確率出力で自動処理と人手確認の切り分けが可能
  • 分類基準の説明が曖昧だと誤判定のリスクがあるため、具体的な条件を明記する必要がある
Jevを、自然言語で分類基準を渡せる識別モデルとして使う

@Yasuhito Morimoto /

国内AIエージェント動向(2026/9/19号)

  • 国内企業がAIエージェントの実装に向け、業務知識やデータの整備、権限管理、復旧機能を一体で設計している
  • KDDIの開発支援、ヘッドウォータースの業務知識整備、ジオコードの承認付きWeb改善、Cohesityの保護・復旧機能
  • 業務知識の更新責任や実行権限の設計、復旧手順の明確化が運用負担を減らす鍵となる
国内AIエージェント動向(2026/9/19号)｜Yasuhito Morimoto

@suwa_nobu /

Claude Code が AGENTS.md を読むようになった。ただし1回目のセッションでは読まれない

  • Claude Code 2.1.277でAGENTS.mdが読まれるようになったが、1回目のセッションでは読まれない
  • AGENTS.mdを置くと読まれるがCLAUDE.local.mdを置くと読まれなくなる、2.1.277以前とは動作が異なる
  • 新しい設定ディレクトリでAGENTS.mdを置いた場合、1回目のセッションでは読まれず2回目から読まれる
Claude Code が AGENTS.md を読むようになった。ただし1回目のセッションでは読まれない - Qiita

@Isaka-code /

Jevはどこで使うべきか？ LLM・機械学習・ルールベースとの使い分け

  • Jevはテキスト入力に対して事前に定義された選択肢やスコアを返す決定モデル
  • ルールベースと古典的機械学習、LLMと比較して入力がテキストで出力候補が事前に決められる場合に適する
  • 教師データが十分でない場合や高速・低コストな処理が必要なときにJevが選択肢になる
Jevはどこで使うべきか？ LLM・機械学習・ルールベースとの使い分け - Qiita

@Tim Fernholz /

Anthropicの最初の埋め込み評価者は…アカントゥア？

  • AnthropicがAccentureをAIモデルの安全評価に採用した
  • AccentureはAI評価とモデルの整合性確認、セーフガードのテストを行う。AI安全研究機関METRやRedwood Researchとの協力も検討中
  • AIモデルの安全性を確保するための評価体制が変化している。評価者のアクセスやコミュニケーションの基準はまだない
Anthropic's first embedded evaluator is … Accenture? | TechCrunch

@ryo-a /

ARGのゲームデザイン　～「フィクション表記」は現実と虚構の線引きを解決するのか？～

  • ARGの現実空間でのリスクを管理するためのゲームデザインが重要
  • フィクション表記の効果と限界、リスク評価の手法、現実と虚構の境界線の設計
  • フィクション表記だけではリスクを完全に回避できないため、作品ごとのリスク評価と設計が必須
ARGのゲームデザイン ～「フィクション表記」は現実と虚構の線引きを解決するのか？～

@Russell Brandom /

世界モデル企業は多くの秘密を保持している

  • 世界モデル企業は多くの技術を秘匿しており、商業化の具体的な計画を公表していない
  • AMI LabsとWorld Labsが空間知能の自動化に焦点を当て、製品計画やタイムラインを非公開にしている。また、サプライヤーも具体的な用途を知らない
  • 企業は資金調達の容易さを活かして競合の発見を遅らせるために情報を隠している
World model companies are keeping a lot of secrets | TechCrunch

@Tim Fernholz /

ChatGPTの共同発明者が開発した新しいAIモデルが開発者に注目されている

  • ChatGPTの共同発明者が開発した新しいAIモデルが開発者に注目されている
  • 確率を出力するTransformerベースのモデルで、LLMとは異なるアプローチを取る。コストと速度に優れ、 hallucination が起こらない
  • LLMの代替や補完としての利用が可能で、ソフトウェア自動化に適している。開発者はこのモデルをより安く正確に利用できると評価している
A new kind of AI model from a ChatGPT inventor is thrilling developers | TechCrunch

@Sarah Perez /

Googleの新しい「CC」は家族の家事運営を支援するAIエージェント

  • Googleが家庭向けAIエージェントCCをリリースした
  • CCはメール、カレンダー、チャット、タスクで動作し、家族のスケジュール管理やタスク処理を自動化する。AIエージェントはGeminiとAntigravityで動作する
  • アメリカの個人Gmailアカウントを持つ18歳以上の人しか利用できないが、学校のメールアカウントでは利用不可で、ティーンエイジャーは年齢を偽る必要がある
Google's new 'CC' is an AI agent that helps families run their households | TechCrunch