Azure AI Content Safety – Optimizely CMS の複数の文字列プロパティに対するテキスト モデレーション – Anil Patel のブログ

この記事では、Azure AI Content Safety サービスによって提供されるテキスト モデレーション機能を使用して、Optimizely コンテンツ タイプで公開中の複数の文字列プロパティのテキストをモデレートする方法を説明します。

この記事と似ています Optimizely CMS の文字列プロパティのテキストモデレーション。 この記事の違いは、同じ概念を使用して複数の文字列プロパティを調整していることです。

複数の文字列プロパティに対するテキスト モデレーションは、NuGet パッケージ「Patel.AzureAIContentSafety.Optimizely」をダウンロードすることで実行できます。 このパッケージは次から入手できます。 NuGet フィードを最適化する またはで NuGet フィード。

NuGet パッケージをダウンロードし、最初の構成/セットアップ手順を完了した後、次のブール値プロパティを追加する必要があります。 [TextAnalysisAllowed] この機能を有効にするには、Optimizely のスタート ページ タイプに属性を設定します。 詳細についてはこちらをご覧ください ここ。

次のステップでは、重大度レベルの整数プロパティを作成します。 [SeverityLevel] 属性のスタート ページで、各危害カテゴリに対して「最適化」と入力します。 これは、CMS 内でどのレベルの有害なコンテンツを許可するかを決定するのに役立ちます。 詳細については、 [SeverityLevel] 属性、クリック ここ。 下の画像はこのプロセスを示しています。

前の手順を完了したら、次に行うことは、複数のテキスト プロパティを作成し、それぞれに [TextAnalysis] 属性。 これらのプロパティは、任意の CMS ページまたはブロック タイプに含めることができます。 詳細については、次のサイトをご覧ください。 このリンク。

前の手順を完了したら、最後の手順は文字列プロパティ (マークが付いた文字列) を入力することです。 [TextAnalysis] 属性）、公開の準備ができているコンテンツを含む。

以下は、Azure AI コンテンツ セーフティ サービスによるコンテンツ管理を目的として、私がこれらの手順を実行した例です。 このプロセスの結果を以下に示します。

コンソール経由の API からの応答

Azure AI コンテンツ セーフティ – テキスト分析が完了しました
憎しみの度合い: 2
自傷行為の重大度: 0
性的重症度: 0
暴力の重大度: 4
Azure AI コンテンツ セーフティ – テキスト分析が完了しました
憎しみの度合い: 4
自傷行為の重大度: 0
性的重症度: 0
暴力の重大度: 0
Azure AI コンテンツ セーフティ – テキスト分析が完了しました
憎しみの度合い: 0
自傷行為の重大度: 0
性的重症度: 4
暴力の重大度: 0

Azure AI コンテンツ セーフティ – テキスト分析が完了しました
憎しみの度合い: 0
自傷行為の重大度: 4
性的重症度: 0
暴力の重大度: 0

Text Detection API は、公開されたコンテンツに基づいて重大度レベルを返します。 この場合、次のことが検出されました。 暴力コンテンツは 1 カウント、ヘイト コンテンツは 1 カウント、性的コンテンツは 1 カウント、自傷行為コンテンツは 1 カウント。 このレベルが定義された整数値より高い場合 ( [SeverityLevel] 属性が適用されている場合）、スクリーンショットに示すように、エラー メッセージが表示されます。

この機能が憎しみ、自傷行為、性的行為を特定した場合、または検出されたレベルが定義された制限よりも低い場合、コンテンツは公開され、CMS で利用可能になります。