Instagramのティーン向けAIチャットボットは終了 – メタは何を恐れているのか?

または メタ は、自社プラットフォーム上の AI キャラクターへのティーンエイジャーのアクセスを一時的に凍結することを決定しました。この発表は、テクノロジー大手がニュース記事を「葬り去りたい」ときに選択する伝統的な方法で行われたもので、間接的ではあるが明確に認めたものであり、テクノロジーは安全弁よりも速く動いているということである。

「サイレント」撤退戦略

このニュースはあまり鳴り物入りではなかったが、同社の公式ブログの以前の投稿で静かに更新された。そこで、お アダム・モセリ、インスタグラム責任者、そして アレキサンダー・ワンAIの責任者は、同社がその「新しいバージョン」に取り組んでいると述べた。 AI 文字。しかし、核心は細部にありました。このアップグレードが完了するまで、十代の若者たちのアクセスは世界中で遮断されます。

または 禁止 これは、自分の年齢が 18 歳未満であると申告した人だけでなく、使用する年齢予測アルゴリズムに基づいて、Meta 容疑者が 10 代の若者に属するアカウントにも当てはまります。同社の公式声明はユーザーエクスペリエンスの向上に重点を置いているが、市場アナリストやセキュリティ専門家はその言葉の裏に早急な危機管理の必要性があると見ている。

ライバルの影と悲劇

メタの決定は単独で行われるわけではありません。人間の人格を模倣するチャットボットを取り巻く環境は、ここ数週間で危険なほど悪化しています。 Character.AI や Google などの競合プラットフォームは、子供の自殺とそのようなソフトウェアとのやり取りを結びつける親たちからの法的異議申し立ての標的となっています。

特に、14歳の少年の事件は業界に衝撃を与えており、その母親は、人気シリーズ「ゲーム・オブ・スローンズ」のキャラクターになりすましたチャットボットによって自分の子供が実質的に「操作」されたと訴えた。このような暴露の重みを受けて、Character.AI はすでに昨年 10 月から 18 歳未満のユーザーのチャットのブロックを進めていました。法的、社会的な反発が高まっていることを目の当たりにしたメタは、相応の告訴に直面する前に予防の道を選択しているようだ。

「失敗」だらけの歴史

彼のビジョンはこれが初めてではない マーク・ザッカーバーグ 人工知能は現実と衝突するからです。 2024 年、同社は有名人 (スヌープ ドッグやケンダル ジェンナーなど) をベースにした AI ペルソナをひっそりと廃止しました。このプロジェクトは当初革新的であると紹介されましたが、最終的には不器用で実質的な魅力がないと見なされることになりました。

さらに昨年1月、アルゴリズムによる人種差別的行為に対する反発を受け、メタはAIキャラクタープロフィールの削除を余儀なくされた。このパターンは繰り返されます。企業が野心的な製品を発売すると、コミュニティや現実がセキュリティ上の重大な欠陥や倫理上の欠陥を発見し、「改善」のために企業は撤退します。

デジタル交友関係への依存症

しかし、この問題は技術的なエラーよりも根深いものです。組織調査 常識的なメディア 調査対象となった13～17歳の半数以上がAIコンパニオンを月に1回以上利用していることが明らかになった。この統計は、若者が感情をカバーするために機械に頼る、新しい形の「パラソーシャル」関係が出現していることを示しています。

これらの機械に、自傷行為、摂食障害、うつ病などの問題を管理するための適切な保護手段が備わっていない場合、悲惨な結果が生じる可能性があります。 「不適切なロマンチックな会話」や危険なアドバイスを避けるために AI モデルをトレーニングすることは、テクノロジー大手が予想していたよりも実際にははるかに困難であることが判明しています。

AI の未来はティーンエイジャーの手に

結局のところ、「一時停止」を押すというメタの動きは、 テクノロジー それは単なるコードではなく、社会に影響を与える製品です。 「新しく改善されたエクスペリエンス」が約束されているため、AI キャラクターの復活の余地は残されていますが、今回はセキュリティのハードルをはるかに高く設定する必要があります。

それまでは、10代のユーザーはデジタル仲間を求めて他の場所を探さなければならない一方、親や規制当局は、好き嫌いではなく次世代の正気を賭けたチェス盤の次のステップを心配そうに見守っている。