Azure AI コンテンツ セーフティ – Optimizely CMS での画像の画像モデレーション – Anil Patel のブログ

この記事では、Azure AI Content Safety サービスによって提供される画像モデレーション機能を使用して、Optimizely CMS 内にアップロードされる画像をモデレートする方法を示します。

Azure AI コンテンツ セーフティ サービスの主要な機能である画像モデレーション機能は、複数の重大度レベルで性的コンテンツ、暴力、憎悪、自傷行為がないか画像をスキャンします。 重大度レベルの詳細については、こちらをご覧ください。 ここ:

Azure AI Content Safety Service は、コンピューター ビジョン テクノロジ用の Microsoft の Florence 基盤モデルを使用します。 このモデルは、数十億のテキストと画像のペアを使用してトレーニングされており、さまざまなコンピューター ビジョン タスクに適応できます。 このテクノロジーを使用することで、Azure AI Content Safety は不適切な画像をリアルタイムで迅速に検出できます。 すべてがスムーズに進むように、送信できる最大画像は 4 MB です。 画像のサイズは 50 x 50 ピクセルから 2,048 x 2,048 ピクセルまでである必要があります。 JPEG、PNG、GIF、BMP、TIFF、WEBP 画像を使用できます。

画像のモデレーションは、「Patel.AzureAIContentSafety.Optimizely」NuGet パッケージをダウンロードすることで実行できます。 このパッケージは次から入手できます。 NuGet フィードを最適化する または NuGet フィード。

NuGet パッケージがダウンロードされ、最初の構成/セットアップ手順が完了したら、次のブール値プロパティを追加する必要があります。[ImageAnalysisAllowed] この機能を有効にするには、Optimizely のスタート ページ タイプに属性を設定します。 詳細についてはこちらをご覧ください ここ。

次のステップでは、重大度レベルの整数プロパティを作成します。 [SeverityLevel] 属性のスタート ページで、各危害カテゴリに対して「最適化」と入力します。 これは、CMS 内でどのレベルの有害なコンテンツを許可するかを決定するのに役立ちます。 詳細については、 [SeverityLevel] 属性、クリック ここ。 下の画像はこのプロセスを示しています。

必要なプロパティを追加した後、Optimizely CMS にアップロードされる画像を管理できるようになります。 以下のスクリーンショットは、これに使用されるコードを示しています。

コンソール経由の API からの応答

Azure AI コンテンツ セーフティ – 画像分析が完了しました
憎しみの度合い: 0
自傷行為の重大度: 0
性的重症度: 0
暴力の重大度: 6

画像をアップロードした後、画像モデレーション機能により、画像内の暴力的なコンテンツに対して重大度レベル 6 が返されました。 これが定義された整数値より大きい場合、エラー メッセージが表示されます。 例については、以下のビデオを確認してください。

検出されたレベルが定義された制限よりも低い場合、画像はアップロードされ、CMS で使用できるようになります。