【正解】A
【0からの解説】
A/B テストとは、2 つのバージョンを実際のユーザーにランダムに割り当てて、どちらがビジネス目標に対して優れているかを実環境で比較する手法です。本問の評価したいことは「ユーザーがレコメンデーションに基づいて行動したか」、つまりレコメンデーションが実際の購入やクリックなどの行動につながったかです。
これを直接測る指標が「コンバージョン率」です。コンバージョン率は、レコメンデーションを提示されたユーザーのうち、目的の行動(商品の購入、カート追加など)を実際に行ったユーザーの割合を表します。バージョン A とバージョン B のコンバージョン率を比較すれば、どちらのモデルがユーザーの行動をより効果的に促せたかを定量的に判断できます。
【誤りの選択肢】
B:提供されたレコメンデーションの「数」は配信量を表すだけで、ユーザーがそれに基づいて行動したかどうかは分かりません。
C:ホールドアウトデータでの精度はオフライン評価の指標です。過去データへの当てはまりの良さを測るもので、実際のユーザーが推奨を受けて行動したかという A/B テストの目的(オンライン評価)には答えられません。
D:推論レイテンシは応答速度というシステム性能の指標であり、レコメンデーションの有効性(ユーザーの行動)とは無関係です。
【参考】
SageMaker での本番バリアントを使用した A/B テスト