↑: [[G検定に関する知識]] - AIの予測・判断が特定の[[センシティブ属性]]を理由に不当な差別的結果を生まないこと - 重要な理由：AIは過去のバイアスを含むデータから学習するため、差別を再現・増幅するリスクがある - 問題が起きやすい領域：採用・融資審査・医療診断・刑事司法 - モデル評価には精度だけでなく公平性指標も組み込むことが国際ガイドラインで求められる - 関連：[[XAI]]（透明性）・[[AIガバナンス]]・[[センシティブ属性]] - 評価の基本：全体精度だけでなく**センシティブ属性で区分したサブグループごと**の精度・誤り率を個別評価し、不均等な影響がないか確認する - ひっかけ：センシティブ属性の除外**のみ**では代理変数が残り不十分 / データを均等に集め直す**だけ**では自動解決しない / 複数の公平性定義は同時に完全充足できないため、どれを優先するかが重要な設計判断 - 基本原則：「同じ条件の人は、同じ扱いを受ける」。本人の能力と無関係な属性（性別・人種・年齢）で判断に差をつけない - 精度だけでは公平性は測れない：全体の正答率が高くても、誤りが特定属性に集中していれば不公平 - [[アルゴリズムバイアス]]：意図がなくても、AIが学習を通じて偏った判断を身につける - バイアスの3原因：①データの偏り（学習データが社会の偏見を反映）、②[[サンプリングバイアス]]（少数派のデータが不足）、③[[代理変数-G検定]]（センシティブ属性を消しても別変数から漏れる） - 著名事例：[[Amazon採用AI]], [[COMPAS]]（再犯予測）、顔認識の誤認識率格差、与信スコア - 公平性の4定義（同時には満たせない）：[[人口統計学的均等]], [[機会均等-G検定]], [[予測均等]], [[個別公平]] - 技術的対処3段階：前処理（データの偏り補正）、学習中（公平性制約を組み込む）、後処理（出力を補正）＋運用中の監査 - cf. [[代理変数-G検定]], [[アルゴリズムバイアス]], [[センシティブ属性]]