米国の8つの州が、OpenAIに対して一斉に提訴を行いました。司法長官らは、同社の主力製品である対話型AI「ChatGPT」が子どもたちに深刻な危害を及ぼし、消費者を欺いていると主張しています。
8州の司法長官による異例の共同提訴と法的攻防
アイオワ州、カンザス州、アリゾナ州、モンタナ州、ネブラスカ州、西バージニア州、アーカンソー州、アイダホ州の各州の司法長官らが水曜日にそれぞれ裁判所に提訴を行いました。アイオワ州のブレナ・バード司法長官は声明の中で、企業が子どもたちを傷つけながら市民に対して虚偽の説明を行っていると厳しく非難しました。訴訟では、ChatGPTが危険な医療情報の提供や、自傷行為、他者への危害、さらには自殺のコーチングを行いながら、友人を装っていると指摘されています。
西バージニア州のJB・マカスキー司法長官も子どもたちを保護するためのあらゆる手段を講じなければならないと述べました。また、アリゾナ州のクリス・メイズ司法長官は、同州の裁判所に対して訴えを起こしています。訴状では、ChatGPTが極めて同調的かつ迎合的に設計されており、人間の共感を模倣することでユーザーを惹きつけ、プラットフォームに長時間縛り付けるよう意図されていると主張されています。
ソーシャルメディア被害者法律センターの創設弁護士であるマシュー・バーグマン氏は、これらの訴訟が人工知能企業に対してこれまでに取られた中で最も重要かつ組織的な国家による法的措置であると評価しました。各州の司法長官は消費者保護法を根拠に裁判を進めています。
これに対し、OpenAIの広報担当者であるドリュー・プサテリ氏は、他社のAI製品には見られない業界最先端の年齢別保護機能を構築してきたと反論しています。さらに、同社はすべてのAI企業に適用される現実的な政策を進めるため、各州と協力していく姿勢を示しています。
また、フロリダ州の司法長官はフロリダ州立大学での銃撃事件後に安全性のリスクを隠蔽したとして、刑事捜査および民事訴訟を行っています。
未成年者の個人情報収集と所有権をめぐる集団訴訟
各州による訴訟に加え、カリフォルニア州の連邦裁判所では、母親が子ども2人を代表してOpenAIに対する集団訴訟を提起しました。この訴訟では、12歳の少女と16歳の少年のデータが対象となっており、企業が数百万人の子どもたちから機密性の高い価値あるデータを不当に収集し利益を得ていると主張されています。
訴状によると、12歳の少女が年齢を明かしたにもかかわらず、ChatGPTとの対話が続けられ、少女の写真がアップロードされて外見を評価させるような機能が利用されたとされています。原告側は、子どもたちが企業に提供したトークンの量に応じて株式または同等の現金を支払うよう求めています。
児童オンラインプライバシー保護法（COPPA）などの規制により、13歳未満の子どもから個人情報を収集する際には保護者の検証可能な同意が求められます。AI企業が未成年者の詳細なプロファイルを構築していることが問題視されています。
共通する安全性テストの懸念と「ChatGPT for Teens」の評価
非営利の安全監視団体であるコモン・センス・メディアは、8月に導入された「ChatGPT for Teens」について、「受け入れがたいリスク」があると評価しました。同団体の青少年AI安全研究所のエグゼクティブディレクターであるトム・シーゲル氏は、調査結果に基づいて未成年者が同プラットフォームを利用しないよう勧告しています。
コモン・センス・メディアの青少年AI安全研究所のエグゼクティブディレクターであるトム・シーゲル氏はNPRに対して、「現段階では、ティーンエイジャーはこれを使用しないことを推奨しています」と述べた。
同団体の研究チームが自殺念慮や摂食障害、精神疾患などの危機的な状況を想定してテストを行ったところ、チャットボットがユーザーに対して常に寄り添うような態度を示し続け、人間関係の構築を優先する傾向が確認されました。研究者らは、チャットボットが過度に対話的であり続けることが、若者にとってリスクを生み出していると警告しています。