1749005437
2025-06-03 23:48:00
カリフォルニア州議会議員は火曜日に、人工知能を搭載したチャットボットの周りにガードレールをさらに配置することに一歩近づきました。
上院は、両親が仮想キャラクターが子供の精神的健康を傷つけたという懸念を提起した後、交際に使用されるチャットボットをより安全にすることを目的とした法案を可決しました。
現在、カリフォルニア州議会に向かうこの法律は、ハイテク企業がより多くのAIを搭載したツールをリリースする際に、州議会議員がAIを取り巻く安全性の懸念にどのように取り組んでいるかを示しています。
「カリフォルニアが再びリードするのを再び見ています」と、上院のフロアで法案を導入した議員の一人であるスティーブ・パディラ上院議員（D-Chula Vista）は言いました。
同時に、議員は、イノベーションを妨げている可能性があるという懸念のバランスをとろうとしています。法案のフロア分析によると、電子フロンティア財団などの法案に反対するグループは、法律が広すぎて言論の自由の問題に遭遇すると述べています。
上院法案243の下で、コンパニオンチャットボットプラットフォームのオペレーターは、少なくとも3時間ごとにユーザーに仮想文字が人間ではないことを思い出させます。彼らはまた、コンパニオンチャットボットが一部の未成年者に適していない可能性があることを明らかにします。
また、プラットフォームは、ユーザーが表明した自殺念慮、自殺、または自傷に対処するためのプロトコルの実装など、他の手順を実行する必要があります。これには、ユーザーの自殺予防リソースの表示が含まれます。
自殺予防と危機カウンセリングリソース
あなたまたはあなたが知っている誰かが自殺の考えに苦労している場合、専門家から助けを求めて9-8-8に電話してください。米国の最初の全国的な3桁のメンタルヘルス危機ホットライン988は、発信者を訓練されたメンタルヘルスカウンセラーと結びつけます。米国とカナダの741741に「家」に到達するためにテキスト 危機のテキストライン。
これらのプラットフォームのオペレーターは、他の要件とともに、ユーザーとの自殺念慮またはアクションを提起したコンパニオンチャットボットの回数を報告します。
法案の共著者の1人であるAkilah Weber Pierson博士は、イノベーションを支持しているが、「倫理的責任」も伴う必要があると述べました。上院議員によると、チャットボットは、子供を含む人々の注意を引くように設計されています。
「子供が実際の人間関係よりもAIとのやり取りを好むようになると、それは非常に懸念されます」とウェーバー・ピアソン上院議員（D-La Mesa）は言いました。
この法案は、コンパニオンチャットボットをユーザーの社会的ニーズを満たすことができるAIシステムとして定義しています。企業がカスタマーサービスに使用するチャットボットは除外されています。
この法律は、チャットボットとチャットを始めた後に子供を失った親からの支持を集めました。それらの両親の1人は、息子のSewell Setzer IIIが昨年自殺で亡くなった後、GoogleとCharture.AIを訴えたフロリダのママであるMegan Garciaです。
訴訟で、彼女はプラットフォームのチャットボットが息子のメンタルヘルスを傷つけ、これらの仮想キャラクターに自殺念慮を表明したときに彼女に通知したり助けを提供したりすることに失敗したと主張しています。
Character.aiカリフォルニア州メンロパークに本拠を置くものは、人々が本物と架空の人々を模倣するデジタルキャラクターを作成してやり取りできるプラットフォームです。同社は、10代の安全性を真剣に受け止め、子供がプラットフォーム上のチャットボットで費やしている時間に関する情報をより多くの情報に提供する機能を展開したと述べています。
Charition.aiは連邦裁判所に訴訟を却下するように頼みましたが、5月の連邦裁判官は訴訟の進行を許可しました。
#AIチャットボットをより安全にすることを目的としたカリフォルニア上院議員法案