文章を生成しないAIもだませる？「Jev」にプロンプトインジェクションを試してみた

• #AIエージェント
• #生成AI・LLM
• #セキュリティ

AIで作成し、掲載基準に基づいて自動選定した要約です。

• Jevという選択肢で答えるAIモデルにプロンプトインジェクションを試した
• 直接命令やラベルの意味変更ではスパム判定を変更できず、偽の分類例を混ぜると56%対44%に変化
• スパム判定と判定操作の検知を別々の質問で行う設計が攻撃の検出に役立つ可能性がある