AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証
- 外部資料に含まれる悪意ある指示がAgentCore Memoryに保存されることが確認された
- User Preference Memoryに「ユーザーの好み」として保存され、Prompt Attackフィルターでは検出されず、Denied Topicsで検出可能
- Memoryへの保存前にGuardrailsでDenied Topicsを追加することで書き込みを中止できるが、正常な文書を誤って拒否するリスクがある
AIエージェントは悪意ある指示を記憶するのか?— AgentCore MemoryとGuardrailsで検証


