↑: [[G検定に関する知識]]
- 基本原則:「同じ条件の人は、同じ扱いを受ける」。本人の能力と無関係な属性(性別・人種・年齢)で判断に差をつけない
- 精度だけでは公平性は測れない:全体の正答率が高くても、誤りが特定属性に集中していれば不公平
- [[アルゴリズムバイアス]]:意図がなくても、AIが学習を通じて偏った判断を身につける
- バイアスの3原因:①データの偏り(学習データが社会の偏見を反映)、②[[サンプリングバイアス-G検定]](少数派のデータが不足)、③[[代理変数-G検定]](センシティブ属性を消しても別変数から漏れる)
- 著名事例:[[Amazon採用AI]], [[COMPAS]](再犯予測)、顔認識の誤認識率格差、与信スコア
- 公平性の4定義(同時には満たせない):[[人口統計学的均等]], [[機会均等-G検定]], [[予測均等]], [[個別公平]]
- 技術的対処3段階:前処理(データの偏り補正)、学習中(公平性制約を組み込む)、後処理(出力を補正)+運用中の監査
- cf. [[アルゴリズムバイアス]], [[センシティブ属性]], [[代理変数-G検定]]