↑: [[G検定に関する知識]] - 入力に人間には気づかないほど微小な改変（ノイズ）を加えてAIを誤認識させる攻撃 - 改変された入力を「アドバーサリアル・エグザンプル（敵対的サンプル）」と呼ぶ - 典型例：パンダの画像に微小ノイズを加えると、AIがテナガザルと誤認識する - 実例：道路標識にステッカーを貼り、自動運転車の誤認識を誘発 - 顔認証回避：特殊な模様のメガネで別人と認識させる - 対策：アドバーサリアル訓練（攻撃サンプルも学習データに含めて訓練する） - cf. [[AIの安全性とセキュリティ]], [[データ・ポイズニング]]