AIF-C01 練習問題 11

ある金融会社は、新規顧客にクレジット限度額を割り当てるために生成 AI モデルを使用しています。同社は、モデルの意思決定プロセスを顧客に対してより透明にしたいと考えています。 これらの要件を満たすソリューションはどれですか？

【正解】B

【0からの解説】
「モデルの意思決定プロセスの透明性」という要件への直接の答えが、説明可能な AI（XAI：explainable AI）です。
・XAI の手法（SHAP による特徴量重要度の分析など）を適用すると、「この顧客の限度額がこの金額になったのは、収入が＋に、延滞履歴が−に影響したから」のように、個々の決定に影響した要因を顧客に提示できます。
・金融の与信判断は規制上も説明責任が求められる領域であり、AWS では SageMaker Clarify がこの分析を支援します。モデルを使い続けながら透明性を実現できる点が重要です。

【誤りの選択肢】
A：ルールベースへの置き換えは、ML モデルの予測力（パーソナライズされた精度の高い判断）を放棄することになり、透明性のための手段として過剰で本末転倒です。
C：UI や技術的な説明文書は一般的な情報提供にすぎず、「個々の顧客への個別の決定理由」を示すことはできません。
D：精度を高めても意思決定の中身は見えないままです。「正確だから説明不要」という考え方は、責任ある AI の透明性の原則に反します。

【参考】
SageMaker Clarify によるモデル説明可能性
責任ある AI（AWS）