科学＆テクノロジー

州議会議員は、AIチャットボットに対する子どもの安全上の懸念に取り組んでいます

彼女の14歳の息子が人工知能のチャットボットと交流した後、自分の人生を奪ったとき、ミーガン・ガルシアは彼女の悲しみを行動に変えました。昨年、フロリダの母親は、本物の人々と架空の人々を模倣するデジタルキャラクターを作成してやり取りできるプラットフォームであるCharacher.aiを訴えました。 ガルシアは連邦訴訟で、プラットフォームのチャットボットが息子のスウェル・セッツァーIIIとカリフォルニア州メンロパークの精神的健康を害したと主張した。現在、ガルシアは、「コンパニオン」チャットボットから若者を保護することを目的とした州の法律を支援しています。「時間が経つにつれて、すべての害に対処するために包括的な規制の枠組みが必要になりますが、現在、カリフォルニアがこの地面を築くことの最前線にいることに感謝しています」と、ガルシアは火曜日の記者会見で、サクラメントでの聴聞会で法案をレビューしたと述べました。 自殺予防と危機カウンセリングリソース あなたまたはあなたが知っている誰かが自殺の考えに苦労している場合、専門家から助けを求めて9-8-8に電話してください。米国の最初の全国的な3桁のメンタルヘルス危機ホットライン988は、発信者を訓練されたメンタルヘルスカウンセラーと結びつけます。危機のテキストラインに到達するために、米国とカナダの741741に「ホーム」テキスト。 企業がチャットボットを前進させるために速く動くにつれて、親、議員、児童擁護団体は、若者をテクノロジーの潜在的な危険から守るのに十分な保護手段がないことを心配しています。問題に対処するために、州議会議員は、仮想文字が人間ではないことを少なくとも3時間ごとにユーザーに思い出させるために、コンパニオンチャットボットプラットフォームのオペレーターを要求する法案を導入しました。また、プラットフォームは、ユーザーが表明した自殺念慮、自殺、または自傷に対処するためのプロトコルの実装など、他の手順を実行する必要があります。これには、ユーザーの自殺予防リソースの表示が含まれます。上院法案243の下で、これらのプラットフォームのオペレーターは、コンパニオンチャットボットがユーザーとの自殺念慮またはアクションを他の要件とともに育てた回数を報告します。上院司法委員会をクリアしたこの法律は、州議会議員が若者の人気のチャットボットが急増するため、人工知能によってもたらされる潜在的なリスクに取り組むことを試みている1つの方法にすぎません。毎月2,000万人以上がcharacter.aiを使用しており、ユーザーは何百万ものチャットボットを作成しています。議員は、この法案はAI保護の全国モデルになる可能性があり、法案の支持者の一部には、子どもの擁護団体Common Sense Mediaとカリフォルニア州アメリカ小児科アカデミーが含まれると言います。「技術革新は非常に重要ですが、私たちの子供たちはモルモットとして使用することはできません。製品の安全性をテストすることはできません。賭け金は高いです」と、ガルシアが出席したイベントで法案を導入した議員の1人であるスティーブパディラ上院議員（D-chula Vista）は述べました。 しかし、Technetやカリフォルニア商工会議所などのテクノロジー業界とビジネスグループは、法律に反対し、議員に「一般的な目的AIモデルに不必要で負担の多い要件」を課すと伝えています。サンフランシスコに拠点を置く非営利のデジタル権利グループであるElectronic Frontier Foundation氏は、この法律が第1修正の問題を提起すると述べています。 「政府はおそらく自殺の防止に魅力的な関心を持っている。しかし、この規制は狭く仕立てられていないか、正確ではない」とEFFは議員に書いた。Charition.aiはまた、ガルシアの訴訟に関する第1修正の懸念を表面化しています。その弁護士は、1月に連邦裁判所に事件を却下するよう求め、両親の好意の発見は、言論の自由に対するユーザーの憲法上の権利に違反するだろうと述べた。Chalsea.aiの広報担当者であるChelsea Harrisonは、電子メールで会社がユーザーの安全性を真剣に受け止めており、その目標は「魅力的で安全なスペース」を提供することだと述べました。「私たちは、業界全体でAIを使用している多くの企業と同様に、常にそのバランスの達成に向けて取り組んでいます。この新たな空間の法律を検討し始めると、規制当局や議員と協力することを歓迎します」と彼女は声明で述べました。彼女は、10代の若者がプラットフォームでどれだけの時間を費やしているかを親が確認できるツールを含む、新しい安全機能を引用しました。同社はまた、潜在的に有害なコンテンツを緩和し、特定のユーザーを国家の自殺と危機のライフラインに向ける努力を引用しました。SnapやFacebookの親会社メタなどのソーシャルメディア企業は、アプリ内でAIチャットボットをリリースして、OpenaiのChatGPTと競合しています。一部のユーザーはChatGptを使用してアドバイスや完全な仕事を得ていますが、これらのチャットボットに目を向けて、仮想ボーイフレンドや友人の役割を果たしています。議員はまた、「コンパニオンチャットボット」を定義する方法に取り組んでいます。 ReplikaやKindroidなどの特定のアプリは、AIコンパニオンやデジタルの友人としてサービスを販売しています。この法案は、カスタマーサービスのために設計されたチャットボットには適用されません。 パディラは、記者会見で、この法律は「本質的に危険」であり、未成年者を保護するための製品設計に焦点を当てていると述べた。 #州議会議員はAIチャットボットに対する子どもの安全上の懸念に取り組んでいます