↑: [[G検定に関する知識]] - 安全性（Safety）：悪意なき失敗を防ぐ。AIが間違えても大事故にならない備え（誤作動・予期せぬ出力・データの偏りによる誤り） - セキュリティ（Security）：意図的な攻撃から守る。攻撃者がいる前提で考える - AIへの攻撃対象は3つ：①入力（推論時）、②学習データ、③モデルそのもの - 入力を狙う攻撃：[[アドバーサリアル・アタック]]（敵対的攻撃） - データを狙う攻撃：[[データ・ポイズニング]]（混入）、データ窃取（抜き出す） - モデルを狙う攻撃：[[モデル汚染]]（改変）、モデル窃取（API経由で複製） - LLM特有：[[プロンプト・インジェクション]]（本来の指示を乗っ取る） - 対策原則：[[セキュリティ・バイ・デザイン]]（事後の防御ではなく事前の設計で守る） - 技術的対策4つ：アドバーサリアル訓練・データ検証・[[差分プライバシー]]・モデル監査 - cf. [[アドバーサリアル・アタック]], [[データ・ポイズニング]], [[プロンプト・インジェクション]] - **データ窃取（Training Data Extraction）**はDBへの直接侵入だけでなく、公開APIへの大量クエリで学習データを復元・推定する攻撃も含む ← 重要 - メンバーシップ推論攻撃：特定データが学習に使われたかを推定 / モデルインバージョン攻撃：入出力から学習データを復元 - [[モデル窃取]]との違い：モデル窃取は機能・パラメータの複製、データ窃取は学習データの復元が目的（ともにAPIクエリを悪用） - 対策：APIのクエリレート制限、学習データの匿名化・仮名加工