TF-204 · セキュリティ

問題

プロンプトインジェクションは、生成AIに対して意図しない指示を混入させ、システムの制約を回避させようとする攻撃である。

正解: ○

解説

プロンプトインジェクションでは、外部文書やユーザー入力に悪意ある指示を含め、モデルに本来の方針と異なる動作をさせようとします。RAGやエージェント設計では特に注意が必要です。