↑: [[G検定に関する知識]]
- AIの中身と判断根拠が、外から見える状態のこと
- 開示対象は「学習データ・モデルの構造・出力」という一連の来歴
- 4種の透明性:①データの透明性(内容・出所・偏り)、②モデルの透明性(アーキテクチャ・パラメータ)、③出力の透明性(判断根拠・確信度)、④運用の透明性(用途・限界・更新履歴)
- なぜ重要か:信頼(理解できないと不安)・責任(誤りの原因を追えない)・権利(説明を受ける権利)・規制(EU AI法など高リスクAIへの義務づけ)
- GDPRは自動的な意思決定について「説明を受ける権利」を規定
- 注意:透明性(見える状態)≠ 説明可能性(説明する力)。試験では区別する
- 営業秘密・セキュリティとの両立が必要。全部公開すればよいわけではない
- cf. [[説明可能性]], [[XAI]], [[ブラックボックス問題]], [[データの来歴]]