子どもたちを危険にさらす AI チャットボットのメーカーは多額の罰金または英国での禁止に直面する |インターネットの安全性

子どもたちを危険にさらすAIチャットボットのメーカーは、英国で発表される法改正に基づいて巨額の罰金を科せられるか、サービスがブロックされる可能性さえある。 キア・スターマー 月曜日に。

イーロン・マスクのXに勇気づけられる 英国でGrok AIツールが現実の人々の性的な画像を作成するのを阻止する 先月の国民の怒りを受けて、閣僚らは「AIによって作成された卑劣な違法コンテンツの取り締まり」を計画している。

宿題の手伝いからメンタルヘルスのサポートまで、あらゆる目的でチャットボットを利用する子どもたちが増えていることから、政府は「法の抜け穴をふさぐために迅速に行動し、すべてのAIチャットボットプロバイダーにオンライン安全法の違法コンテンツ義務を遵守させなければ、法律違反の結果に直面するよう強制する」と述べた。

スターマー氏はまた、16歳未満の禁止の可能性についての公開協議を経て議員らの同意が得られれば、子どもによるソーシャルメディアの使用に対する新たな制限を加速することも計画している。これは、無限スクロールの制限などの他の措置を含む可能性のある子供のソーシャルメディアの使用に関する変更が、早ければ今夏にも行われる可能性があることを意味する。

しかし保守党は、協議がまだ始まっていないことを踏まえ、迅速に行動するとの政府の主張を「さらなる煙と鏡」として却下した。

「いわゆる緊急協議が存在すらしていないのに、彼らが『即時行動』をとっているという主張はまったく信用できない」と影の教育長官のローラ・トロット氏は述べた。 「労働党は、16歳未満のソーシャルメディアへのアクセスを禁止すべきかどうかについては見解がないと繰り返し述べてきた。それだけでは十分ではない。16歳未満のソーシャルメディアへのアクセスを止めるべきであることは明らかだ。」

この動きは、インターネットを検索せずにチャットボットによって作成された画像やビデオは、ポルノに該当しない限り、現行法の適用範囲に含まれないため、オンライン規制当局であるオフコムがグロクに対して行動する権限がなかったことを認めた後に行われた。 AI チャットボットをオンライン安全法に適用する変更は数週間以内に実現する可能性がありますが、この抜け穴は 2 年以上前から知られていました。

「テクノロジーの進歩は本当に速く、法律もそれに追いつく必要があります」とスターマー氏は言う。 「Grokに対して私たちがとった行動は、どのプラットフォームもフリーパスを認められていないという明確なメッセージを送りました。今日、私たちは子供たちを危険にさらす抜け穴を塞ぎ、さらなる行動への基礎を築いています。」

オンライン安全法に違反した企業は世界収益の最大10％の罰則を受ける可能性があり、規制当局は英国での接続を遮断するよう裁判所に申請する可能性がある。

AI チャットボットが特に検索エンジンとして使用され、ポルノを作成したり、ユーザー間のコンテキストで動作したりする場合、それらはすでにこの法律の対象となります。しかし、それらは、人々に自傷行為や自殺を奨励する素材を作成するために使用され、さらには、制裁を受けずに児童性的虐待の素材を作成するために使用される可能性があります。それが政府が塞ぎたいと言っている抜け穴だ。

NSPCCのクリス・シャーウッド最高経営責任者（CEO）は、若者たちがAIチャットボットによる被害を通報するヘルプラインに連絡しており、テクノロジー企業がAIチャットボットを安全に設計することを信頼していないと述べた。

あるケースでは、AI チャットボットに自分の食生活や身体醜形障害について話した 14 歳の少女に、不正確な情報が与えられました。また、「さらなる自傷行為を含む内容を提供されても自傷行為をする若者」を目撃した人もいる。

「ソーシャルメディアは若者に多大な利益をもたらしたが、害も多かった」とシャーウッド氏は語った。 「私たちが注意しないと、AI はステロイドのような状態になってしまうでしょう。」

英国で最も人気のあるチャットボットの1つであるChatGPTを開発した5,000億ドルのサンフランシスコのスタートアップであるOpenAIと、Grokを製造するxAIにコメントを求めた。

カリフォルニアに住む16歳のアダム・レインさんが「ChatGPTからの数か月にわたる励まし」を受けて自殺して以来、OpenAIはペアレンタルコントロールを開始し、有害な可能性のあるコンテンツへのアクセスを制限するための年齢予測テクノロジーを展開している。

政府はまた、ユーザーが子供のヌード画像を送受信することを不可能にするようソーシャルメディアプラットフォームを強制することについても協議する予定だ。これは既に違法行為である。

技術長官のリズ・ケンドール氏は、「家族が必要とする措置を講じるのを待つつもりはない。そのため、AIチャットボットに関する規則を強化し、若者とソーシャルメディアに関する協議の結果に基づいて迅速に行動できるよう基礎を整えている」と述べた。

オンラインで有害なコンテンツを閲覧した後に自殺した14歳のモリー・ラッセル君の父親が設立し​​たモリー・ローズ財団は、今回の措置は「歓迎すべき頭金」だと述べた。しかし同法案は首相に対し、「規制を強化し、製品の安全性と子どもの福祉が英国でのビジネスのコストであることを明確にする」新しいオンライン安全法に取り組むよう求めた。