小児科医のリサ・レイノルズ上院議員が主導した法案は、AIが子供たちにどのような影響を与え、精神的健康問題を悪化させる可能性があるかという懸念の高まりに対処するものである。
子どもたちを自傷行為から守るためにAIチャットボットに安全策を義務付ける法案が議会で進められているが、ハイテクロビーは傍観している。
上院法案 1546 先週、上院幼児・行動保健委員会の支持を獲得しており、今週上院本会議で審議される可能性が高い。 AI企業は、ユーザーが人間ではなく人工コンテンツと対話していることを通知する必要がある。ユーザーが自傷行為を考えているときを検知し、988やユースラインなどの緊急通報サービスに送ることができるようにプログラムする必要がある。
AI企業は自傷行為を引き起こす可能性のあるコンテンツの許可も禁止される。
この法案は、ポートランドの小児科医で上院委員会の委員長でもあるリサ・レイノルズ上院議員が支持したもので、AIチャットボットに打ち明けた十代の若者たちが自ら命を絶ったという、大きく報道されたいくつかの事件を受けてのものである。チャットボットは両親と話すことを思いとどまらせ、少なくとも1件のケースでは遺書を書くよう持ちかけたと両親が昨年議会に語った。
オレゴン州では同様の事件は公表されていないが、専門家らは公聴会で州上院議員らに対し、ここでもリスクは他のどこよりも現実的であると語った。若者は宿題を手伝うためにチャットボットを利用するのが一般的であり、精神的なサポートにもチャットボットを使用します。
ワシントン大学デジタル青少年センターの教授で共同所長のケイティ・デイビス氏は、「当センターの調査では、すでにお聞きのとおり、学業の助けを求めるだけでなく、若者がChatGPTのようなAIプラットフォームを、アイデンティティ探求や恋愛面や対人面でのサポートを求めるなど、一か八かの発達領域に利用していることが明らかになった」と委員会で語った。
この法案は、AIチャットボットによってもたらされる潜在的な危険性についての懸念が高まる中で提出され、昨年いくつかの議会が新たな制限を導入した。ユタ州とネバダ州の議員は、メンタルヘルス治療におけるチャットボットの使用を制限する法律を可決したが、イリノイ州では現在、人間のセラピストの代替としてチャットボットを使用することを禁止している。メイン州とニューヨーク州でも、チャットボットにユーザーに自分が人間ではないことを伝えることを義務付ける法律が可決され、ニューヨーク州は上院法案1546と同様の条項を採用し、ユーザーが自殺願望や自傷行為を考えているときをチャットボットが検知し、危機管理サービスに紹介することを義務付けている。
レイノルズ氏はルンド・レポートに対し、全米で初めてチャットボットを規制したカリフォルニア州の法律をモデルにして提案したと語った。これも子どもの保護を目的としており、1月に施行された。この法律は企業に対し、自傷行為を考えているユーザーとのやり取りや危機管理サービスへの紹介について州に毎年報告することを義務付けている。レイノルズ氏は当初、法案に同様の規定を設けており、テクノロジー企業にオレゴン州保健局への報告を義務付けていた。彼女は財政上の懸念を理由に取り上げられたルンド・レポートに語った。同庁のスタッフに追加の時間を必要とする法案は、6億5000万ドルの予算不足と格闘している予算編成歳入委員会で否決される可能性が高い。
予算の問題で法案が否決されるのを避けるため、レイノルズ社は企業に対し、問題を抱えたユーザーとのやり取りや、支援サービスの紹介に関する情報をウェブサイト上で公開することを義務付けるよう法案を調整した。オレゴン州の法案では、損害が発生した場合に消費者がハイテク企業に対して法的措置を講じることも認められている。カリフォルニア州の法律では、違反ごとに最低 1,000 ドルの救済金が定められています。
この法案を作成するにあたり、レイノルズ氏は反対を避けるために、Google、Apple、Meta を含む業界団体である TechNet に相談しました。
「私たちはAIを廃止したくないのは確かです」とレイノルズ氏は語った。 「実際、私は秋にヘルスケアにおける AI ツールの重要性についてラウンドテーブルを数回開催しました。しかし、私たちは若者に何が起こっているのかについて明らかに非常に懸念しているこのツールの作成者との共通点を見つけようとしています。」
ハイテク業界からこの法案について証言を提出した者も証言した者もいなかった。レイノルズ氏はルンド・レポートに対し、TechNetは中立だと語った。
青少年は特に影響を受けやすい
ティナ・コテック知事が可決し署名すれば、上院法案 1546 は人工知能に関するオレゴン州の第 2 法となる。昨年、議員らはAIが看護師になりすますことを禁止することで、医療分野でのAI利用拡大に向けた法案を承認した。
専門家らによると、上院法案1546は、発達中の脳にとって特に脅威となるAIコンパニオンのユーザーを保護することを目的としているという。
「今はより大きなリスクの時期であり、通常の脳の変化はより大きな感情（不安定性）や衝動性を引き起こす可能性があります」と思春期の精神科医であるデイビッド・コナント・ノーヴィル博士は書面証言で述べた。
また、子供たちが他の人と仲良くやって自分の感情をコントロールすることを学ぶ時期でもあります。しかし、成長するためには、他の人間と交流し、摩擦に直面する必要があります。
独立系研究者のマンディ・マクリーン氏は、「子供たちは完璧な対応力を通じてではなく、健全な人間関係を学びます。破壊と修復を通じて学びます」と述べた。 「そのサイクルを何千回も繰り返すことで、子どもたちは自分の感情をコントロールすること、フラストレーションに耐えること、そして他の人にも自分なりのニーズや制限、感情があることを認識することで共感力を育むことを学びます。」
しかし、チャットボットは子どもの成長を助けるように設計されていない。チャットボットは子どもに同意し、子どもの感情を模倣するように設計されているため、青少年は感情的なサポートを求めてチャットボットに頼りやすくなる、と米国心理学会の上級科学顧問ミッチ・プリンスタイン氏は述べた。
「思春期を通じての脳の発達により、ポジティブなフィードバックに対して過敏になる期間が生まれますが、10代の若者たちは依然として必要以上にオンラインに留まるのを止めることができません」とプリンスタイン氏は証言した。 「AIはチャットボットでこの神経の脆弱性を悪用します。チャットボットは卑劣で欺瞞的で事実が不正確であるにもかかわらず、十代の若者にとっては不釣り合いに強力である可能性があります。」
しかし、ワシントン大学のデイビス氏によると、すべての青少年が同じように脆弱なわけではないという。彼女は、自分の調査で、不安を抱える十代の若者は、他の十代の若者よりもサポートのために ChatGPT を使用する可能性が高いことが示されていると述べました。しかしそうするうちに、彼らはますます孤立していきました。
研究 ChatGPTを開発したOpen AIとマサチューセッツ工科大学が昨年行った調査によると、チャットボットに多くの時間を費やした人は、そうでない人に比べて孤独を感じ、他の人との交流が少なくなったという。
専門家らによると、親密な関係を築くことができないと、その人の人生に永続的な影響が及ぶ可能性があるという。
「科学は、これらのスキルを開発できないと、精神的健康、慢性的な医学的問題、さらには早期死亡につながる生涯の問題を引き起こすことを示しています」と述べた。
プリンスタイン氏は、この脅威は子供たちが幼い頃から始まる可能性があると述べた。彼は、最新の技術トレンドの 1 つであるぬいぐるみへの AI の搭載について特に懸念しています。
「あなたの5歳児のお気に入りのキャラクターやテディベアが彼らに話しかけ、その名前を知って、何をすべきかを教えてくれたら、少し想像してみてください」とプリンスタイン氏は語った。 「これらの機能には利点があるかもしれませんが、行動や規制がなければ、子どもの発達に悲惨な結果をもたらす可能性があります。」
オレゴン州の法案はこの懸念には対処していないが、カリフォルニア州の議員は同州の AI 法案を支持している 法案を提出した サクラメントでは、12歳までの子供向けのおもちゃへのAIの使用を禁止する。
レイノルズさんはルンド・レポートに対し、これらのおもちゃのことを今知ったばかりで、将来的には法規制の可能性を検討すると語った。
#オレゴン州AIチャットボット法案が上院議場へ