AI-103 練習問題 2

テキスト ベースの chatbot があります。 Content Moderator の Text Moderation API を使用してコンテンツのモデレーションを有効にする必要があります。 どの 2 つのサービス応答を使用すればよいですか。それぞれの正解は解決策の一部を提示します。

正解: 個人データ (PII) と テキスト分類。テキスト モデレーション API はテキストの不適切表現の分類と個人情報 (PII) の検出を主な応答として返します。
解説: Content Moderator の Text Moderation API はテキスト コンテンツに対して、(1) プロファニティの検出、(2) 個人を特定できる情報 (PII) の検出、(3) テキスト分類 (Category1: 性的示唆、Category2: 攻撃的・侮蔑的、Category3: 不快な可能性) を行います。「adult/racy classification score」はテキスト モデレーションではなく Image Moderation API (画像モデレーション) で返されるスコアであり、テキスト用ではありません。OCR も画像モデレーション側の機能です。したがってテキスト モデレーションが提供する応答は「個人データ」と「テキスト分類」が該当します。
各選択肢の検討

• 個人データ (personal data) — Text Moderation API は PII (メール、IP アドレス、電話番号など) を検出して返すため正解です。
• 成人向け分類スコア — 画像モデレーション (Image Moderation API) の応答であり、テキスト モデレーションでは返りません。
• テキスト分類 (text classification) — Category1/2/3 のスコアと組み合わせ判定 (ReviewRecommended) を返す中心機能であり正解です。
• 光学式文字認識 (OCR) — Content Moderator の OCR は画像内テキスト抽出用で、テキスト モデレーション API の応答ではありません。
• わいせつ分類スコア — adult スコアと同じく画像モデレーション側の応答です。

参考: Microsoft Learn
Content Moderator Text Moderation の概要
Azure Content Moderator の概要