Scraps 最終更新 2026/11/16 13:31

原文著者: @Song /

AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証

AIで作成し、掲載基準に基づいて自動選定した要約です。

  • 外部資料に含まれる悪意ある指示がAgentCore Memoryに保存されることが確認された
  • User Preference Memoryに「ユーザーの好み」として保存され、Prompt Attackフィルターでは検出されず、Denied Topicsで検出可能
  • Memoryへの保存前にGuardrailsでDenied Topicsを追加することで書き込みを中止できるが、正常な文書を誤って拒否するリスクがある
AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証

Zenn / 原文を読む