Azure AI コンテンツ セーフティ – Optimizely CMS の文字列プロパティのテキスト モデレーション – Anil Patel のブログ

この記事では、Azure AI Content Safety サービスによって提供されるテキスト検出機能を使用して、Optimizely コンテンツ タイプで発行中の文字列プロパティのテキストを管理する方法を示します。

Azure AI Content Safety Service の一部である Text Detection API は、重要度レベルとともに返される性的コンテンツ、暴力、憎悪、自傷行為のカテゴリのテキストをスキャンします。 重大度レベルの詳細については、こちらをご覧ください。 ここ:

Text Detection API の重要なルールの 1 つは、これに使用されるテキストが 1000 文字を超えてはいけないということです。 長いテキストを分析したい場合は、句読点やスペースに基づいてテキストを小さな部分に分割し、個別に送信できます。

文字列プロパティのテキスト モデレーションは、NuGet パッケージ「Patel.AzureAIContentSafety.Optimizely」をダウンロードすることで実行できます。 このパッケージは次から入手できます。 NuGet フィードを最適化する またはで NuGet フィード。

NuGet パッケージをダウンロードし、最初の構成/セットアップ手順を完了した後、次のブール値プロパティを追加する必要があります。 [TextAnalysisAllowed] この機能を有効にするには、Optimizely のスタート ページ タイプに属性を設定します。 詳細についてはこちらをご覧ください ここ。

次のステップでは、重大度レベルの整数プロパティを作成します。 [SeverityLevel] 属性のスタート ページで、各危害カテゴリに対して「最適化」と入力します。 これは、CMS 内でどのレベルの有害なコンテンツを許可するかを決定するのに役立ちます。 詳細については、 [SeverityLevel] 属性、クリック ここ。 下の画像はこのプロセスを示しています。

前の手順を完了したら、次に行うことは、次の文字列プロパティを作成することです。 [TextAnalysis] 属性。 これは、任意の CMS ページまたはブロック タイプに追加できます。 さらに詳しい情報を見つけることができます ここ。

前の手順を完了したら、最後に text プロパティを入力します (テキスト プロパティには [TextAnalysis] 属性) を含む、公開の準備ができているコンテンツが含まれています。

以下のスクリーンショットは、Text Detection API を使用して文字列プロパティのコンテンツを調整するために使用されるコードを示しています。

コンソール経由の API からの応答

Azure AI コンテンツ セーフティ – テキスト分析が完了しました
憎しみの度合い: 0
自傷行為の重大度: 0
性的重症度: 4
暴力の重大度: 0

Text Detection API は、公開されたコンテンツに基づいて重大度レベルを返します。 この場合、性的コンテンツの重大度レベルは 4 であることがわかりました。 このレベルが定義された整数値より高い場合 ( [SeverityLevel] 属性が適用されている場合）、スクリーンショットに示すように、エラー メッセージが表示されます。

検出されたレベルが定義された制限より低い場合、コンテンツは公開され、CMS で利用可能になります。