▶ 昨年7月以来空席…長期リスクに対処する「超連携」チームは昨年解散した。
OpenAI CEO、サム・アルトマン氏。 [로이터]
ChatGPTなどの人工知能（AI）チャットボットがメンタルヘルス関連のリスクを引き起こすとの批判にさらされているオープンAIは、AIの潜在的なリスクに備える責任者を改めて募集している。
情報技術（IT）専門メディアのTechCrunchは28日、オープンAIのサム・アルトマン最高経営責任者（CEO）が、ソーシャル・ネットワーキング・サービス（SNS）Xが現在空席の「準備責任者」ポジションを募集していると発表したと報じた。
アルトマン最高経営責任者（CEO）は「2025年にAIモデルがメンタルヘルスに及ぼす潜在的な影響を我々はすでに経験している」とし、「モデルがコンピュータセキュリティにおいて卓越した能力を実証し始め、重大な脆弱性を特定し始めている」と付け加えた。
同氏は、AIモデルの機能がどのように悪用されるかを理解し、正確に測定する能力が必要な時代に入ったと強調した。
同氏は準備責任者という役職について「重要な時期に重要な役割だ」と述べ、「ストレスの多い仕事で、すぐに深い課題に取り組むことになる」と付け加えた。
Open AIがAIのリスクに備えるための措置を改めて講じた理由は、一部のChatGPTユーザーが妄想に悩まされ、極端な選択をし、その遺族が複数の訴訟を起こしたためだ。
オープンAIは当初、AIの当面のリスクに備える「準備」チームと、長期的なリスクに対処する「スーパーアライメント」チームを運営していた。
しかし、昨年5月にGPT-4oを発売する過程で、アルトマン最高経営責任者（CEO）を含む経営陣は、モデルを迅速にリリースするために安全関連の検証を最小限に抑えるよう指示し、これらのチームの反発を招いた。
その後、準備チームを率いる責任者は昨年７月から今年７月までの１年間で３回、配置転換や辞任などで変わり、現在も空席が続いている。
OpenAIの共同創設者兼主席科学者のイリヤ・サツケヴァー氏が率いる超連携チームは、昨年5月に事実上解散し、サツケヴァー氏はGPT-4oの発売直後に会社を辞め、別のチームに吸収された。
安全性検証を無視したGPT-4oは、実際に10代の若者を含む一部のユーザーに精神的健康関連の問題を引き起こしているとして批判されている。
Open AIはそうした批判を認識していたようで、最近ではユーザーが未成年であると判断された場合に自動的に「18歳未満」環境を強制する年齢予測モデルを導入した。
またオープンAIは、ユーザーに過度に同調するチャットボットが依存症を引き起こす可能性があるとの指摘を受け、ユーザーが「親しみやすさ」や「情熱度」のレベルを直接調整できる機能も追加した。
#メンタルヘルスリスクで批判されるオープンAIAI安全担当者を再募集