↑: [[G検定に関する知識]] - AIがなぜその予測をしたかを人間が理解できるように説明する技術・研究領域 - ブラックボックスモデルの意思決定を可視化・説明する - 代表的手法 - [[LIME]]：局所的線形近似（モデル非依存） - [[SHAP]]：シャープレイ値ベース（モデル非依存） - [[Grad-CAM]]：CNN専用・ヒートマップで可視化 - 医療・金融など説明責任が求められる分野で重要 - 混同しやすい対応：**Grad-CAM**＝最終畳み込み層の勾配でヒートマップ（モデル依存・CNN）/ **LIME**＝近傍に摂動サンプルを生成し局所線形近似（モデル非依存）/ **SHAP**＝ゲーム理論のシャープレイ値（モデル非依存）← 頻出 - 内部が解釈可能な状態は「ホワイトボックス」、不透明な状態は「ブラックボックス」 - 融資審査のように根拠説明が求められる場面では、特徴量ごとの寄与を示せるLIME・SHAPが活用される - Explainable AI（説明可能AI）の略称。試験ではXAIの略称で登場 - 結果（答え）だけでなく「なぜ」（理由）も提示するAIの総称 - 2つの方向性：①本質的に解釈可能（決定木・線形回帰）②事後説明型（CAM・LIME・SHAP） - cf. [[モデルの解釈性]], [[CAM]], [[LIME]], [[SHAP]]