用語集2025/9/28
Explainable AI（説明可能AI）
AIの判断根拠を人間が理解可能な形で説明する技術。ブラックボックス問題を解決し、AI活用の透明性と信頼性を確保。
難易度:
上級
読了時間:約7分
定義
説明可能AIは、機械学習モデルの予測に対する「なぜその結果になったのか」を解釈。GDPR「説明を受ける権利」、金融・医療分野での規制要求に対応し、AI導入時のリスク管理を実現します。
具体例
- SHAP：ゲーム理論ベース、特徴量重要度
- LIME：局所線形近似、個別予測説明
- Grad-CAM：CNN可視化、注目領域表示
- Anchor：ルールベース説明、if-then形式
活用事例
- 金融：融資審査、規制当局への説明
- 医療：診断支援、医師への根拠提示
- 人事：採用判定、公平性担保
関連概念
InterpretML、AIX360、Alibiで統合フレームワーク。TensorBoard、Neptune、Wandbで実験可視化。What-If Tool、Fairness Indicatorsでバイアス検証。
📝 要約
AIの判断根拠を人間が理解可能な形で説明する技術。ブラックボックス問題を解決し、AI活用の透明性と信頼性を確保。
関連タグ
説明可能AISHAPLIME透明性GDPR