模擬問題集MLA-C01練習問題 6

MLA-C01 練習問題 6

AWS Machine Learning Engineer – Associate・MLソリューションの監視・保守・セキュリティ・無料公開(全 200 問中 15 問を無料公開中)

問題
ある企業は、商品レコメンデーションを提供するモデルの A/B テストを実施しています。同社はモデルの 2 つのバージョンをデプロイし、各バージョンをランダムに 50% のユーザーに表示しています。 ユーザーがレコメンデーションに基づいて行動したかどうかを評価するには、どのメトリクスを使用すべきですか?

選択肢と解説

  • 2 つのモデルバージョン間のコンバージョン率(conversion rate)
  • 2
    各ユーザーに提供されたレコメンデーションの数
  • 3
    ホールドアウトテストデータに対するモデルの精度
  • 4
    モデル推論のレイテンシ

解説

【正解】A

【0からの解説】
A/B テストとは、2 つのバージョンを実際のユーザーにランダムに割り当てて、どちらがビジネス目標に対して優れているかを実環境で比較する手法です。本問の評価したいことは「ユーザーがレコメンデーションに基づいて行動したか」、つまりレコメンデーションが実際の購入やクリックなどの行動につながったかです。

これを直接測る指標が「コンバージョン率」です。コンバージョン率は、レコメンデーションを提示されたユーザーのうち、目的の行動(商品の購入、カート追加など)を実際に行ったユーザーの割合を表します。バージョン A とバージョン B のコンバージョン率を比較すれば、どちらのモデルがユーザーの行動をより効果的に促せたかを定量的に判断できます。

【誤りの選択肢】
B:提供されたレコメンデーションの「数」は配信量を表すだけで、ユーザーがそれに基づいて行動したかどうかは分かりません。
C:ホールドアウトデータでの精度はオフライン評価の指標です。過去データへの当てはまりの良さを測るもので、実際のユーザーが推奨を受けて行動したかという A/B テストの目的(オンライン評価)には答えられません。
D:推論レイテンシは応答速度というシステム性能の指標であり、レコメンデーションの有効性(ユーザーの行動)とは無関係です。

【参考】
SageMaker での本番バリアントを使用した A/B テスト
← 練習問題 5練習問題 7
MLA-C01 の模擬問題集は全 200

本番形式の練習テスト 4 回を、試験モード/演習モードで受験できます。 全問に解説付き、ドメイン別の弱点分析にも対応。模試プラン(月額 ¥980)からご利用いただけます。

MLA-C01 の模試を受ける料金プランを見る

MLA-C01 の無料公開問題

問題 1問題 2問題 3問題 4問題 5問題 6問題 7問題 8問題 9問題 10問題 11問題 12問題 13問題 14問題 15