セキュリティ

問題

AIモデルの精度が高ければ、入力データに悪意ある操作が含まれても誤判定は起こらない。

正解: ×

解説

精度が高いモデルでも、敵対的サンプル、データ改ざん、プロンプトインジェクションなどの攻撃で誤動作する可能性があります。精度評価とは別にセキュリティ対策が必要です。