TF-203 · セキュリティ

問題

敵対的サンプルは、人間には大きな違いが分かりにくい変更でもモデルの判断を誤らせる場合がある。

正解: ○

解説

敵対的サンプルは、入力に微小な摂動を加えることでモデルの予測を変える攻撃例として知られます。画像認識などで、人間にはほぼ同じに見えても分類結果が変わることがあります。