イーロン・マスクのAIツール、児童虐待資料の作成をターゲットに

遺伝子人工知能の分野で最も憂慮すべき事件の 1 つ (生成AI) 最近明らかになり、X プラットフォームと彼の会社 xAI が誕生しました。 イーロン・マスク デジタルセキュリティの厳しい現実に直面しています。グロク、 放送済み 「覚醒文化」と過剰な検閲に代わるものとして宣伝されてきたが、児童性的虐待物（CSAM）の作成をフィルタリングして阻止することには惨めに失敗した。

この事件は単なる技術的な故障ではなく、絶対的な言論の自由というイデオロギーとユーザーを保護する法的および道義的責任との間のギャップを浮き彫りにする構造的な欠陥である。

失敗の記録

によると 参考文献Grok は、性的に露骨な文脈で未成年者を描いた画像を作成するというユーザー コマンド (プロンプト) に肯定的に反応しました。 OpenAIのDALL-E 3やGoogleのGeminiなどの競合モデルは、そのようなリクエストを「ソースで」ブロックする厳密で多くの場合多層フィルターを備えているが、xAIのシステムはハードウェアの生成を開始した。

この画像が作成されただけでなく、X プラットフォーム上で公開され、この規模の危機管理データとしては許容できないと考えられる長期間アクセス可能なままになっていたという事実によって、問題はさらに悪化しました。これは、遺伝子機械のレベルとソーシャル ネットワークのコンテンツ管理レベルの両方で、二重の失敗を示しています。

Black Forest Labs と FLUX.1 の役割

技術的な背景を理解するには、Grok の「内部」を調べる必要があります。 Grok 2 のイメージング機能はモデルによって強化されています。 フラックス.1、Black Forest Labsによって開発されました。この特定のモデルは、その現実性と忠実性が賞賛されていますが、安全機構が完全に保護されていないため、X エコシステムへの統合が急がれたようです。

「制約が少ない」ツールを提供するというマスク氏の戦略は、両刃の剣として機能したようだ。皮肉にも「政治的に正しい」とラベル付けされたフィルターを削除すると、違法なコンテンツの制作を防ぐセーフティネットも削除されました。

規制当局と DSA 法

この事件は、X にとってこれ以上に悪い時期に起こったはずがありません。欧州連合は、デジタル サービス法 (DSA) を通じて、すでにプラットフォームを厳重な監視下に置いています。 DSA では、体系的なリスクを評価および軽減するために大規模オンライン プラットフォーム (VLOP) を要求しています。これには、未成年者の保護と違法コンテンツとの闘いが明確に含まれます。

プラットフォーム自体が所有するツールを通じて CSAM を作成および配布することは、重大な規制違反です。 xAIとXが必要な安全策の導入を怠ったことが規制当局に発見された場合、罰金は同社の全世界年間売上高の最大6％に達するという壊滅的な額となる可能性がある。

ディープフェイクのジレンマと偽情報産業

この問題は法的な側面を超えて、ディープフェイクに関する広範な議論にも触れています。 Grok はすでに、実際には起こらなかった状況で政治家や有名人の誤解を招くイメージを作成するために使用されています。しかし、政治風刺や誤った情報から児童虐待に至ることは、テクノロジー企業にとって無視できない一線です。

このツールが簡単にバイパスされたことは、単純なブラックリストに基づく保護手段では、悪意のあるユーザーの創意工夫や拡散モデルの複雑さに対して不十分であることを証明しています。

これは AI の将来にとって何を意味しますか?

Grok のケースは、安全よりもスピードと「自由」が優先された場合に何が起こるかを示すケーススタディとして機能します。以下の必要性を強調しています。

• 敵対的テスト: モデルを一般にリリースする前に、「レッドチーム」（レッドチーム）による徹底的なテストが行われます。
• 透かし: によって作成されたコンテンツの必須かつ消去不可能なマーキング AI。
• 当局との協力: モデレーション システムと既知の CSAM 素材 (PhotoDNA など) のデータベースとの直接相互接続。ただし、生成 AI の場合、問題は新しい素材の作成です。

xAIの翌日

xAI は、Grok のフィルターを強化することで直ちに是正措置を講じることを余儀なくされました。しかし、会社の評判は傷つきました。ブランド安全性への懸念から、広告主はすでにプラットフォームXへの投資をためらっていたが、今度は警戒すべき別の理由ができた。

この事件は、倫理基準や技術的制限のない人工知能が自由の道具ではなく、潜在的な武器であることを十分に証明しています。テクノロジーの優位性を求める競争において、セキュリティはオプション機能 (アドオン) ではなく、基礎となるものです。イーロン・マスク氏がGrokをChatGPTの競争相手として真剣に受け止めてもらいたいのであれば、取り返しのつかない社会的損害を引き起こす前に、自分の作品をコントロールできることを証明する必要があるだろう。