【正解】B
【0からの解説】
①前提知識:Vertex AI Prediction(現 Agent Platform Inference)のエンドポイントにデプロイしたモデルは、min_replica_count(最小レプリカ数)と max_replica_count(最大レプリカ数)の範囲で、CPU 使用率や GPU デューティ サイクル(既定の目標は 60%)などの指標に基づいて自動スケーリングします。ただしスケールアップを決めてから新しいレプリカがリクエストを処理できるようになるまでには、VM のプロビジョニング、コンテナのダウンロード、モデルの読み込みといった時間がかかります。公式ドキュメントでも、スケールアップが想定トラフィックに対して遅すぎる場合は、最小レプリカ数を十分に高く設定することが推奨されています。
②要件の整理:(1) フラッシュセールで 1,000 QPS → 50,000 QPS へと急増、(2) オートスケーラーのリソース準備が間に合わず 503 エラーが発生、(3) セール開始時のサービス中断をなくす。
③正解の理由:min_replica_count を予想される急増の大部分に耐えられる水準まで引き上げておけば、セール開始の瞬間からすでに十分なレプリカが稼働しているため、新規プロビジョニングを待たずにトラフィックを処理できます。残りの増加分や想定外の増加は max_replica_count(100)までの自動スケーリングで吸収できます。リアクティブなスケーリングのタイムラグという根本原因に対する直接的な対策です(コスト面では、セール期間に合わせて事前に最小レプリカ数を引き上げ、終了後に戻すといった運用も考えられます)。
【誤りの選択肢】
A:マシンタイプを高性能な GPU インスタンスに変えても、各レプリカの処理能力が変わるだけで、オートスケーラーが新しいリソースを準備するまでの遅延は解消されません。GPU 付きノードはプロビジョニングにかえって時間がかかることもあり、コストも大きく増えます。
C:min_replica_count を 1 にすると、平常時はさらに少ないレプリカで待機することになり、急増時にはより多くのレプリカを新規にプロビジョニングしなければなりません。max_replica_count を増やしても上限が上がるだけでスケールアップの速度は変わらないため、503 エラーは解消されず、むしろ悪化します。
D:プライベート エンドポイントはネットワーク経路(VPC 内からの低レイテンシ・セキュアなアクセス)に関する選択であり、スケーリングの速さには影響しません。GPU 使用率に基づく自動スケーリングも、負荷が上がってから反応するリアクティブな方式である点は変わらず、プロビジョニングの遅延という根本原因を解決しません。
【参考】
自動スケーリングを使用して推論ノードをスケーリングする推論用のコンピューティング リソースを構成する