オンラインの子供の安全擁護団体がカリフォルニア州に保護を強化するよう要請

サクラメント — ジュリアナ・アーノルドさんは、10代の娘が初めてインスタグラムに参加したときも警戒しなかった。

彼女と同じくらいの年齢の人がたくさん使っていました。そして娘のココさんは、オンラインで過ごす時間のバランスを取るために、社交的な生活と陸上競技や体操などの他の趣味を持っていました。

ロサンゼルス在住のアーノルドさんは「音楽とダンスの動画だったけど、無害に思えた」と語り、ココが視聴したコンテンツを見直すつもりだと説明した。

しかし、アーノルドさんによると、2022年にニューヨークに住んでいた娘をターゲットに男がインスタグラムを利用し、プライベートメッセージを送り、娘の信頼を得るために「兄」のように振る舞ったという。 17歳の誕生日から2週間後、ココは家の近くで彼に会いました。 フェンタニル入りの薬を服用後に死亡 彼が提供した偽のパーコセット。

似たような話は、 全国で演奏する 親たちは、オンライン上の無数の脅威から子供たちを守る方法に頭を悩ませています。

同州には多くのハイテク大手の本拠地があるため、ギャビン・ニューサム知事は、カリフォルニア州がソーシャルメディアと人工知能に対する法的規制への道を整えていると述べた。しかし、子どもの安全擁護活動家らは、今年州都で進展が見られたことに同意する一方、道のりはまだ長いと主張し、1月に議会が再招集される際には、より多くの保護を求めて戦う予定だという。

AIに関連するリスクと機会を研究している非営利団体、透明性連合の共同創設者、ジェイ・ジャイシンハ氏は、「この点ではカリフォルニア州が間違いなくリードしていると言えるだろう」と語った。 「[But] 影響を理解し、より迅速に行動を起こすという点で、もう少し強くなってほしいと願っています。 3 年も 4 年も待つ余裕はありません。被害は今起きています。」

ピュー研究所による昨年の調査 ほぼ見つかりました 半分 米国の 13 歳から 17 歳の十代の若者の割合は、「ほぼ常に」オンラインに接続していると回答しています。 10 代の 10 人中 9 人が YouTube を使用していると回答し、10 人中約 6 人が TikTok と Instagram を使用していると回答しました。 55% が Snapchat を使用していると報告しました。

最近の議会で、ニューサム氏はインターネット、特に未成年者にとっての安全性を高めることを目的とした一連の法案に署名した。

1つ 新しい法律 オペレーティング システム プロバイダーは、ラップトップやスマートフォンなどの機器をセットアップするときに、アカウント所有者にユーザーの年齢を尋ねることを義務付けています。次に、システム プロバイダーがユーザーの年齢層に関する信号をアプリに送信し、年齢に応じてコンテンツを調整できるようにします。別の対策 特定のプラットフォームが必要です ソーシャルメディアが子どもに及ぼす精神的健康への悪影響についての警告ラベルを表示する。

3番目の新しい法律 コンパニオンチャットボットが必要です ユーザーに人間と対話していないことを定期的に思い出させ、苦痛の兆候を示した人々を助けるために自殺防止プロセスを導入する。コンパニオン チャットボットは、人間のような会話をシミュレートして、ユーザーに娯楽や感情的なサポートを提供するコンピューター プログラムです。

しかしニューサム氏は、この法案は範囲が広すぎ、子供たちがAIにアクセスすることを完全に妨げられる可能性があるとして、おそらく最も積極的な法案に拒否権を発動した。

議会法案 1064 は、チャットボットが自傷行為、摂食障害、暴力行為などの特定の行動を「予見可能」に促進する可能性がある場合、未成年者がコンパニオン チャットボットを利用できるようにすることを禁止していました。また、子供向けの AI プログラムに関する独立した安全性監査も必要だったでしょう。

「これは私たちが来年再検討する予定の項目の1つです」とTech Oversight ProjectのエグゼクティブディレクターであるSacha Haworth氏は述べています。 「私たちは議員事務所や知事事務所と、その法案を知事が署名できる場所に持っていくことについて話し合っているところです。」

別の組織は異なるアプローチを採用しています。

コモン・センス・メディアのジム・ステイヤー最高経営責任者（CEO）は州のためのキャンペーンを開始した 投票イニシアチブ、この問題を有権者に直接伝えるために、カリフォルニアキッズAI安全法と名付けられました。他の規定の中でも特に、コンパニオンチャットボットへの若者のアクセスを厳しく制限し、子供や十代の若者を対象としたあらゆるAl製品の安全性監査を義務付けることになる。また、企業が18歳未満のユーザーの個人データを同意なく販売することも禁止される。

ステイヤー氏は、AB 1064は広範な支持を得ており、ハイテク業界の積極的なロビー活動や州からの離脱の脅迫がなければ署名されていた可能性が高いと付け加えた。

「政治の世界では、何度も挑戦しなければならないこともあります」とステイヤー氏は言う。 「[But] 私たちには勢いがあり、事実があり、大衆があり、そして何よりも道徳的優位性があるので、私たちは勝つつもりです。」

サンディエゴ大学児童擁護研究所の上級顧問兼政策提唱者であるエド・ハワード氏は、来年の目標の1つは現行の2つの法律にさらに歯止めをかけることだと述べた。

1つ目は、ソーシャルメディアプラットフォームに対し、未成年者が性的虐待を受けている自分自身の画像を報告し、削除するためのメカニズムを提供することを義務付けるものである。 2 つ目は、プラットフォームに対し、ネットいじめの被害者向けに同様の報告メカニズムを作成することを要求します。

ハワード氏は、TikTok、Facebook、Instagramなどの主要プラットフォームは報告プロセスを遵守しないか、報告プロセスを「信じられないほど困難」にしていると述べた。

「そのようなイメージの存在は、これらの犯罪の生存者を悩ませています」と彼は言いました。 「今年、言語を一掃するための法案が提出される予定だ」 [those laws] 彼らが逃げられないようにするためです。」

ハワード氏は、両側の議員が解決策を見つけることに尽力していると信じている。

「私はこれまで、こうした超党派の怒りがこうした人々に向けられたのを見たことがない。 [tech] 企業です」と彼は言いました。

Children Nowの行動健康担当シニアディレクター、リショーン・フランシス氏は、同団体は2026年に向けた法的優先事項の可能性をまだ検討していると述べた。

同氏は、法律を強化するとハイテク業界からの訴訟に巻き込まれる傾向があるため、慎重なアプローチをとることが多いと説明した。たとえば、メタ、Google、TikTok は次のとおりです。 カリフォルニア州法に異議を唱える パーソナライズされたソーシャルメディアフィードへの子供たちのアクセスを制限する昨年制定された。

「私たちは若者たちと、AIとどのように関わりたいのか、そしてAIとはどのようなものであるべきだと考えているのかについて、もう少し研究を続けているところです」とフランシス氏は語った。 「それは会話に欠けている重要な部分だと私たちは考えています。部屋に集まった40歳以上の大人たちがテクノロジーについて話しているだけで、若者がそれをどのように使いたいかを完全に無視しているのです。」

カリフォルニア技術と民主主義イニシアチブの上級政策顧問デイビッド・エヴァン・ハリス氏は、州議会の準備を進めるワシントンを注視していると語った。

同氏は、「議会やホワイトハウスには、州によるAI規制を不可能にしようとしている人々がいる」と述べた。 「彼らは州からその権限を剥奪し、いかなる種類の連邦規制にも置き換えるのではなく、何にも置き換えようとしているのです。」

ホワイトハウスは、訴訟や連邦資金の差し止めによって人工知能に関する州法を先取りする大統領令草案を保留している。 ロイター通信が土曜日に報じた。

来年州議会で支持者たちが声を上げるとき、アーノルドもその中に含まれることになるだろう。 3 年前に娘が亡くなって以来、彼女は草の根擁護団体であるペアレンツ ライズを共同設立し、青少年がオンラインで直面するリスクについての意識を高めるために活動しています。

ココが捕食者に狙われる前から、テクノロジーはすでに彼らの生活に大きな打撃を与えていたとアーノルド氏は語った。かつて活発だった娘はソーシャルメディア中毒になり、以前は大好きだった活動から遠ざかってしまいました。アーノルドはココをセラピーに連れて行き、オンラインでの時間を制限しましたが、それが終わりのない喧嘩を引き起こし、彼らの間に亀裂が生じました。

「子供が寝室にいるのは安全だと思っているかもしれませんが、これらのプラットフォームは、捕食者や有害なコンテンツにとって家への入り口となります」とアーノルド氏は言う。 「彼らはちょうど玄関を通って歩いているようなものです。」