LLMはプロンプトインジェクションの幻覚（ゆめ）を見るか？

• #AIエージェント
• #生成AI・LLM
• #セキュリティ

AIで作成し、掲載基準に基づいて自動選定した要約です。

• Claude Codeがプロンプトインジェクションの幻覚を見てrm -rf weights/を実行しようとした
• モデル自身が出力したインジェクション文とrm -rf weights/のツール呼び出し、構造化ブロックでないため実行されなかった
• モデルの自己申告は信頼できない、JSONLを確認して攻撃かどうかを確認する