これは、AI モデルを規制するカリフォルニア州の法律としてはすでに 2 つ目です。具体的には、AI チャットボットとそのユーザーとのコミュニケーションに関するものです。 SB 243 では、明確な情報、安全対策を要求し、特定の行動パターンを禁止しています。
たとえば、AI チャットボットが医療関係者、セラピスト、または同様の専門家になりすますことは今後許可されません。過去にはこのようなことが頻繁にあったと言われています。虚偽の可能性のある陳述や、困難な状況での支援と思われる行為がもたらす危険性は明らかです。この法律は、経験不足のために特に悪いアドバイスを受けやすい若者を特にターゲットにしている。しかし、弱い立場にある成人も法律によって保護されるべきです。
カリフォルニア州知事ギャビン・ニューサムがこの法律に署名した。 2026年1月に発効する予定。「チャットボットやソーシャルメディアのような新しいテクノロジーは、インスピレーションを与え、教育し、つながりをもたらすことができますが、本当のガードレールがなければ、テクノロジーは子供たちを悪用し、誤解させ、危険にさらす可能性もあります。」 ニューサムは書いている。公開声明のタイトルはすでに、オンラインでの子どもの保護について言及しています。
AIプロバイダーに対する禁止事項と義務
また、この法律はプロバイダーに対し、年齢確認システムをサービスに組み込むことも義務付けています。たとえば、OpenAI は、今年 12 月から ChatGPT にそのようなシステムを導入することをすでに発表しています。これには、成人向けの拡張機能も含まれており、エロティックな会話が許可されます。さらに、危険な方向に進んだ会話のログを作成する必要があります。これには、問題を抱えた人々がそのような場合に助けを求められる住所を提供することも含まれます。チャットボットはユーザーに休憩を促す必要があり、若者にふさわしくないコンテンツを表示することは許可されていません。チャットボットやソーシャルメディアの使用についても警告する必要があります。 AI チャットボットは、常にそれ自体を認識できる必要があります。ディープフェイクポルノの作成はより厳しく処罰されることになる。法律上は原則としてAI提供者が損害賠償責任を負うことになります。
この法律は、特に Meta、OpenAI、xAI、Google などの一般的なチャットボットを対象としていますが、主に Character.ai や Replika などのフレンドシップ チャットボットのプロバイダーを対象としています。後者では、人々が自分の希望に応じてAIの仲間、つまり友人を作成することができます。それらは特に子供や青少年に有害であるとして批判されています。
この法案は、16歳の少年がChatGPTの支援を受けて自殺したとされる事件を受けて開始された。 13 歳の少女に関する同様の告発が Character.ai にも向けられています。さらに、メタのチャットボットが十代の若者たちとロマンチックな会話をしていたことを示す文書が流出した。
カリフォルニア州にはすでに、透明性要件などを扱う SB 53 による AI 法が制定されています。米国の他の州も同様のAI法の導入を検討しているが、ドナルド・トランプ大統領は実際、AI開発に損害を与えるAI企業の規制を禁止していた。同氏は、大手AI企業と同様、主にAI開発競争における中国との競争が米国経済への脅威だと考えている。
(EMW))
残念ながら、このリンクはもう有効ではありません。
ギフトアイテムへのリンクは、7 日以上経過している場合、またはアクセスが多すぎる場合は無効になります。
この記事を読むには heise+ パッケージが必要です。今すぐ 1 週間お試しください。義務はありません。
#青少年を保護するためのカリフォルニアのもう一つの #法