EU 24言語でのヘイトスピーチ検出が新たな新興企業を約束

ベルギーのスタートアップ企業 テキスト粒度 世界初のモデルを作成 人工知能 Textgran は 24 の EU 公用語すべてでオンラインのヘイトスピーチを検出できるようになり、アントワープ大学から独立した企業です。

同社は、以下に基づいてデータ管理および分析ツールを開発しています。 人工知能 テキスト分析からソーシャル ネットワーキング プラットフォームやサイトにわたるオンライン感情の測定まで、サービスを提供する企業向けのサービスです。 ヘイトスピーチの分析にも重点を置いている。

六月に、 テキスト粒度 は、生産性の高い人工知能と人工知能の革新を求める EU のラージ AI グランド チャレンジの受賞者 4 社の 1 つです。 大規模な言語モデル (LLM)。 同社は、ヨーロッパのスーパーコンピューター (LUMI および LEONARDO) で 25 万ユーロと 200 万時間の開発時間を獲得し、より高速な AI モデル トレーニングへのアクセスを獲得しました。

今後 12 か月間、Textgran はリソースを使用して、ヘイトスピーチ検出に特化した独自の多言語 LLM を構築します。 ただし、一方で 彼は有害な言語を認識できるようになりますが、それを発することはできなくなります。 EU およびその他の国々でオンラインのヘイトスピーチが増加する中、Textgran は LLM テクノロジーを使用してこの現象と闘う最新の科学的取り組みに参加します。

「大きな言語モデル、特に商用モデルは、有害な言語の処理を拒否します。 これにより、ヘイトスピーチの編集にそれらを使用することはほぼ不可能になります。“、 言った ギイ・デポー、そのCEO テキスト粒度。私たちは現在、この種のコンテンツを生成せずに処理できる言語モデルを最初から構築しています。「」。

ザ 孔雀 と信じています テキスト粒度 「」で失われる危険はありません飽和市場「 AIプロバイダー、大手企業と同様に、スタートアップが独自の LLM を構築する場合 OpenAI そして メタ。 もう一つの差別化要因は、このスタートアップの学術的なアプローチと、政策立案者や社会団体との協力であると彼は述べた。

タイミングも彼女に有利に働くかもしれない テキスト粒度。 とともに デジタルサービス法（DSA） 昨年 2 月に発効した EU 法により、すべてのオンライン プラットフォームはヘイト スピーチを含む有害なコンテンツを抑制する措置を講じる必要があります。

2025 年に予定されている LLM の開始後、Textgran は国際的に拡大する予定であり、さらなる SaaS アプリケーションの開発に注力する予定です。

[via]