【正解】D
【0からの解説】
①前提知識:ML ライフサイクルは、データの収集・取り込み → データ準備 → トレーニング → デプロイ → 運用・管理(監視)という段階で進みます。セキュリティは各段階で考慮が必要ですが、段階ごとに重点が異なります。Google のセキュア AI フレームワーク(SAIF)でも、AI システムの基盤となるデータの保護(アクセス制御、機密データの保護、データの来歴管理)を重要な要素としています。顧客サービスのデータには氏名・連絡先・購入履歴などの個人情報が含まれやすいため、収集段階から保護が欠かせません。
②問題文の要件:「トレーニング用のデータを収集している」段階で、「セキュリティ」上重要な考慮事項を問われています。「この段階で(at this stage)」と「セキュリティ」という 2 つの制約を両方満たす選択肢を選びます。
③正解の理由:D は、データ収集段階におけるセキュリティ対策そのものです。IAM などによる最小権限のアクセス制御で、誰がトレーニング データにアクセスできるかを制限し、Sensitive Data Protection(旧 Cloud DLP)などで個人情報や機密情報を検出・マスキング / 匿名化することで、データ漏えいや、モデルが機密情報を学習して出力してしまうリスクを抑えられます。
【誤りの選択肢】
A:ソフトウェア パッチの適用は、モデルやシステムがデプロイされた後の運用・保守段階の対策です。データ収集段階の考慮事項ではありません。
B:モデルのパフォーマンスや予期しない出力の監視は、デプロイ後の監視段階の活動です。また、セキュリティというよりも品質・信頼性の管理が主眼です。
C:倫理ガイドラインの策定による公平性の確保や害の回避は「責任ある AI」の観点として重要ですが、問われているのは「セキュリティ」です。また、モデルの回答に関するガイドラインは収集段階のデータ保護とは別のテーマです。
【参考】
セキュア AI フレームワーク(SAIF)生成 AI のセキュリティ管理アクセス制御