模擬問題集 › GCP-PMLE › 練習問題 12

GCP-PMLE 練習問題 12|AI ソリューションのモニタリング

Professional Machine Learning Engineer・無料公開(全 200 問中 15 問を無料公開中)

問題
あなたは生成 AI を使用して、銀行の顧客から寄せられる、保有商品や取引履歴に関する問い合わせに対応する会話型エージェントを構築しています。エージェントのレスポンスに個人を特定できる情報(PII)が含まれないようにする必要があります。この要件を最小限の労力で実装したいと考えています。どうすればよいですか?

選択肢と解説

  • 1
    Agent Platform のモデル パラメータで safety_settings のしきい値を Block_Most に構成する。
  • 2
    Python の re モジュールでパターン r'\b(?:\d{4}[- ]?){3}\d{4}\b' を使用してクレジットカード番号を識別し秘匿化(編集)する後処理ラッパーを開発する。
  • ✓
    Sensitive Data Protection を組み込んだ Model Armor を実装し、エージェントのレスポンスから PII を検出して秘匿化する。
  • 4
    サンプリングされた Shapley(SHAP)値を使用してモデルの予測を理解し、モデルが PII を明かす方向に偏っていないことを確認する。

解説

【正解】C

【0からの解説】
①前提知識
・個人を特定できる情報(PII)とは、氏名、住所、電話番号、メールアドレス、口座番号、クレジットカード番号、マイナンバーなど、個人を特定し得る情報のことです。
・Sensitive Data Protection(旧 Cloud DLP)は、多数の組み込み infoType(クレジットカード番号、電話番号、メールアドレス、各国の ID 番号など)を使って機密データを検出し、マスキングや置換などの匿名化(de-identification)を行うサービスです。
・Model Armor は LLM のプロンプトとレスポンスを検査するマネージド サービスで、Sensitive Data Protection と統合されています。基本構成では主要な機密 infoType を検出し、詳細構成では検査テンプレート / 匿名化テンプレートを指定して検出した PII を秘匿化したレスポンスを返せます。

②要件と制約語の整理
・エージェントの「レスポンス」に PII を含めない(検出して取り除く)。
・PII の種類は多岐にわたる(口座情報、取引履歴に含まれる氏名など)。
・「最小限の労力で」→ 自前のルール実装より、マネージドの検出・秘匿化機能を使う。

③正解がどう満たすか
Model Armor のテンプレートで Sensitive Data Protection を有効化すれば、エージェントのレスポンスを検査し、PII を検出・秘匿化できます。Google が管理する多数の infoType 検出器を構成だけで利用でき、正規表現などを自作・保守する必要がないため、最小限の労力で要件を満たせます。

【誤りの選択肢】
A:safety_settings(安全フィルタ)は、ヘイトスピーチ、ハラスメント、性的に露骨な表現、危険なコンテンツといった有害カテゴリを対象とするもので、PII の検出・秘匿化機能ではありません。しきい値を厳しくしても PII を含む回答は防げません。
B:正規表現での後処理は動作はしますが、対象がクレジットカード番号の形式に限られ、氏名・住所・口座番号など他の PII は検出できません。PII の種類ごとにパターンを作り込み保守する必要があり、誤検出や見逃しも多く、「最小限の労力」に反します。
D:Shapley 値(SHAP)は特徴量が予測にどれだけ寄与したかを説明する Explainable AI の手法であり、生成されたレスポンスから PII を検出・除去する機能はありません。

【参考】
プロンプトとレスポンスをサニタイズする | Model Armor
Model Armor の概要
Model Armor を Gemini Enterprise Agent Platform と統合する
← 練習問題 11練習問題 13 →
GCP-PMLE の模擬問題集は全 200 問

本番形式の練習テスト 4 回を、試験モード/演習モードで受験できます。 全問に解説付き、ドメイン別の弱点分析にも対応。模試プラン(月額 ¥980)からご利用いただけます。

GCP-PMLE の模試を受ける料金プランを見る

GCP-PMLE の無料公開問題

問題 1問題 2問題 3問題 4問題 5問題 6問題 7問題 8問題 9問題 10問題 11問題 12問題 13問題 14問題 15