Azure AI Content Safety – Optimizely CMS のブロックリストを使用した複数の文字列プロパティのテキスト モデレーション – Anil Patel のブログ

この記事では、Azure AI Content Safety サービスのテキスト モデレーション機能を使用して、ブロックリストを使用して有害なコンテンツや不要なコンテンツを特定し、複数の文字列プロパティのテキストをフィルター処理する方法を示します。 これは、Optimizely CMS 内のコンテンツ公開プロセスの一部として行われます。

この記事では、リンクされた例で述べた 1 つだけではなく、Azure AI Content Safety の概念を使用して複数の文字列プロパティを管理する方法について説明します。 元の記事を見つけることができます ここ。

ブロックリストを使用した複数の文字列プロパティのテキスト モデレーションは、「Patel.AzureAIContentSafety.Optimizely」NuGet パッケージをダウンロードすることで実行できます。 このパッケージは次から入手できます。 NuGet フィードを最適化する または NuGet フィード。

NuGet パッケージがダウンロードされ、最初の構成/セットアップ手順が完了したら、次のブール値プロパティを追加する必要があります。 [TextAnalysisBlocklistAllowed] Optimizely のスタート ページ タイプの属性。 この機能を有効にするためには、このアクションが不可欠です。 これについての詳細はこちらをご覧ください ここ。

NuGet パッケージをダウンロードして初期セットアップを完了したら、次のブール値プロパティを追加する必要があります。 [TextAnalysisBlocklistAllowed] Optimizely のスタート ページ タイプの属性。 これは、この機能を有効にするために重要です。 詳細についてはこちらをご覧ください ここ。

次の手順では、IContent を継承する Optimizely CMS コンテンツ タイプに文字列プロパティを追加します。 この文字列プロパティには、 [TextAnalysisBlocklistDropdown] 属性。 これについての詳細はこちらをご覧ください ここ。

最後のステップは、複数の文字列プロパティを追加することです。 [TextAnalysisBlocklist] 属性。 詳細については、こちらをご覧ください リンク。 これらの文字列プロパティは、TextAnalysisBlocklistDropdown 属性を持つ文字列プロパティが追加されたのと同じコンテンツ タイプに追加する必要があります。

上記の手順が完了すると、ドロップダウンからブロックリストを選択できるようになります。 以下のスクリーンショットは、これが行われた例を示しています。

ブロックリストにリンクされている項目は、以下のスクリーンショットに示されています。 この情報は、NuGet パッケージ「Patel.AzureAIContentSafety.Optimizely」の一部である Blocklist Management アドオンで見つけることができます。 詳細については、次のサイトをご覧ください。 このリンク。

上記の手順が完了すると、選択したブロックリストを使用してコンテンツを公開し、テキストをモデレートできるようになります。

コンソール経由の API からの応答
Azure AI コンテンツ セーフティ – ブロックリスト操作を使用したテキストの分析が完了しました
ブロックリストの一致数: 1
Azure AI コンテンツ セーフティ – ブロックリスト操作を使用したテキストの分析が完了しました
ブロックリストの一致数: 1

テキストのモデレーションが完了すると、公開されたテキストが選択したブロックリスト内の項目と一致する場合、CMS にエラー メッセージが表示されます。 これにより、以下のスクリーンショットに示すように、ユーザーはコンテンツを公開できなくなります。

公開されるテキストが、選択したブロックリストにリンクされているブロックされたアイテムと一致しない場合、コンテンツは公開され、CMS で利用可能になります。