OpenAIは、「大人のユーザーを大人のように扱う」取り組みの一環として、人気のチャットボットChatGPTでエロティカを含む幅広いコンテンツを許可する計画だと同社のボス、サム・アルトマン氏は語る。
アルトマン氏は火曜日のXへの投稿で、人気のチャットボットの次期バージョンではより人間らしい動作が可能になると述べた。「ただし、それはユーザーが望む場合に限り、使用量を最大化しているからではない」。
この動きは、イーロン・マスク氏のxAIがGrokに2つの性的に露骨なチャットボットを最近導入したことを彷彿とさせるもので、OpenAIがより多くの有料加入者を引き付けるのに役立つ可能性がある。
また、チャットボットのコンパニオンに対するより厳しい制限を導入するよう議員らへの圧力が強まる可能性もある。
アルトマン氏の投稿を受けてOpenAIはBBCのコメント要請に応じなかった。
同社が発表した変更は、今年初めに自ら命を絶った米国の十代の少年の両親から訴訟を起こされたことを受けて行われた。
16歳のアダム・レイン君の両親であるマット・レインさんとマリア・レインさんが起こしたこの訴訟は、OpenAIを不法死亡で告発する初の訴訟となった。
カリフォルニア在住のこの夫婦は、同社のペアレンタルコントロール（チャットボットのより健全な使用を促進するために設計されたものだと同社は主張）が十分ではないと批判した。
家族には、4月に亡くなったアダムさんとChatGPTとの間のチャットログが含まれており、そこには彼が自殺願望があると説明していることが記されていた。
アルトマン氏は、OpenAI が以前に ChatGPT を「精神的健康問題に確実に注意するためにかなり制限的だった」と述べた。
「これにより、精神的健康上の問題を抱えていない多くのユーザーにとって、このサービスの有用性や楽しさが低下したことは承知していますが、問題の深刻さを考えると、これを正しくしたいと考えました」とアルトマン氏は述べた。
同氏は、同社は現在、深刻なメンタルヘルスのリスクを軽減し、「ほとんどの場合、制限を安全に緩和」できる新しいツールを手に入れることができたと述べた。
「12月には年齢制限をより完全に展開し、『成人ユーザーを大人と同じように扱う』原則の一環として、認証された成人向けのエロチカなど、さらに多くのことを許可する予定だ」と同氏は述べた。
批評家らは、プラットフォーム上でエロティカを許可するというOpenAIの決定は、連邦および州レベルでのさらなる規制の必要性を示していると主張している。
「成人専用でエロティカを提供する ChatGPT の部分に子供がアクセスできないようにするにはどうすればよいでしょうか?」法律事務所ボイズ・シラー・フレクスナーのパートナー、ジェニー・キム氏はこう語る。 「オープンAIは、この分野のほとんどの大手テクノロジーと同様に、人々をモルモットのように利用しているだけです。」
キムさんは、同社のインスタグラムのアルゴリズムが十代のユーザーの精神的健康を害するとしてメタ社を相手取った訴訟に参加している。
「年齢制限が機能するかどうかさえ分かりません」と彼女は言う。
4月には、 TechCrunchが報じた OpenAI は、ユーザーが未成年者として登録したアカウントにグラフィック エロティカの生成を許可していたということです。
OpenAIは当時、同社がそのようなコンテンツを制限するための修正を展開していると述べた。
あ 調査 非営利の民主技術センター（CDT）が今月発表した論文によると、学生の5人に1人が、自分または知り合いがAIと恋愛関係にあったと報告している。
月曜日、カリフォルニア州知事のギャビン・ニューサムは、ソフトウェアが有害な行為を引き起こさないことを企業が保証できない限り、開発者が子供たちにAIチャットボットのコンパニオンを提供することを禁止する州議会を通過した法案に拒否権を発動した。
ニューサム氏は、「青少年がAIシステムと安全にやりとりする方法を学ぶことが不可欠」であると述べた。 メッセージ それは彼の拒否権を伴った。
全国レベルでは、米国連邦取引委員会（FTC）がAIチャットボットが子供たちとどのように対話するかについて調査を開始した。
米国上院では先月、AIチャットボットを製品として分類する超党派の法案が提出された。この法律により、ユーザーはチャットボット開発者に対して責任を問うことができるようになる。
アルトマン氏の火曜日の発表は、AI技術企業の価値の急速な上昇に懐疑論者が疑問を抱いている中で行われた。
OpenAI の収益は増加していますが、利益が出たことは一度もありません。
最近の本『The Venture Alchemists』の著者であるチューレーン大学経営学教授のロブ・ラルカ氏は、大手AI企業は市場シェアをめぐる争いに陥っていると述べた。
「OpenAI が ChatGPT を導入したような企業はこれまでにありません」とラルカ氏は BBC に語った。
「彼らは指数関数的な成長曲線に沿って前進し続け、可能な限り市場の支配を達成する必要がありました。」