OpenAI、セキュリティ上の欠陥のためラブチャットボットを無期限停止

まとめ

• OpenAIは、エロティックなコンテンツやチャットの作成を可能にする機能であるアダルトモードのリリースを無期限に中止した。
• 年齢予測アルゴリズムの誤り率は12%で、未成年者を成人と誤認し、強い反応を引き起こした。
• 科学顧問らは、ユーザーが深刻な感情的依存に陥るリスクについて警告している。
• 同社は現在、xAIなどの競合他社がすでに直面している法的問題を回避し、モデルの中核機能に注力している。
• ギリシャと欧州連合では、AI法の厳格な施行により、この作戦は法的な観点から非常に困難になりました。

または OpenAI ChatGPT のいわゆるアダルト モードのリリースを無期限に停止し、エロティック チャット機能を統合し、NSFW (Not Safe For Work) コンテンツを作成する試みを放棄しました。

によると 参照 フィナンシャル・タイムズ紙の記事によると、この決定は社内の反発、投資家からの圧力、科学界からの懸念が相次いだ末に下されたものだという。この機能のキャンセルは、コアモデルのインテリジェンスの向上に重点を置き、法的リスクを回避することを選択した同社の戦略変更を示しています。

OpenAI が ChatGPT のアダルト モードを放棄するのはなぜですか?

OpenAIは無期限に停止した アダルトモード 年齢識別アルゴリズムの脆弱性が原因で、12% の誤り率を記録しました。この決定は、メンタルヘルスアドバイザーからの安全性に関する警告と投資家からの圧力を受けて行われたもので、同社は主力の生産性の高い AI の改善に専念せざるを得なくなった。

年齢確認の技術的ハードル

凍結を引き起こした主な技術的問題 アダルトモード 信頼できるシステムを開発することです 年齢予測 (年齢予測)。の チャットGPT これは、音声パターン、一般的なプロンプト語彙、プラットフォームの使用時間を分析することによってユーザーの年齢を推測しようとする自動プロセスに基づいていました。

テストデータによると、アルゴリズムが 12% の確率で少年を成人として誤分類したことが明らかになりました。 ChatGPT のユーザー数は世界中で 9 億人を超えており、このようなエラー率は、数百万人の未成年ユーザーが不適切で性的なコンテンツにアクセスする可能性があることを意味します。 OpenAI のセキュリティ エンジニアは、商用リリースに許容されるレベルまで誤差の範囲を減らすことができず、この事業を持続不可能なものにしました。

心理学者の警告と法的リスク

OpenAI の社内のウェルネスおよび倫理委員会は、特定の製品の開発に対して完全な反対を表明していました。認知科学者や心理学者の主な懸念は、不健康な感情的依存を生み出すリスクにありました。ユーザーが人工知能を擬人化するという既存の傾向を考慮すると、専門家らは、NSFWの会話は脆弱な人々を危険な心理的状況に導く可能性があると主張した。

ウォール・ストリート・ジャーナルは、製品政策担当幹部らが公然と反対の声を上げ、心理的孤立を高める「デジタル・エスコート」を推進するリスクを強調したことを明らかにした。さらに、同社の法務部門は、機能をテキストのみに制限するという決定にもかかわらず、このシステムが同意のないコンテンツの作成に使用される可能性があると警告した。

xAI の競争と失敗

この開発は、セキュリティ問題を巡る業界の広範な再編の中で行われた。 OpenAIは、xAI Grokプラットフォームが受けた法的打撃を監視してきた イーロン・マスク、違法な素材や未成年者の画像の拡散を許可する不適切なセキュリティフィルターをめぐって訴訟に直面した。

OpenAI の経営陣は、同じ危険な道を歩まないことを決定しました。サム・アルトマン氏は、アダルトモードを中止することで（他の実験的なビデオ制作プラットフォームの縮小と同様に）、連邦捜査や法的制裁から会社を守り、最も収益性の高いエンタープライズ部門にリソースを集中させることを望んでいるように見える。

中止はギリシャと欧州連合にとって何を意味するか

ヨーロッパ、ひいてはギリシャ市場は現在、国家によって厳しく規制されています。 AI法、システムを分類します。 人工知能 リスクに基づいて。ヨーロッパでアダルト モードを利用するには、政府文書による厳格な本人確認メカニズム (Kyc/本人確認) が必要ですが、これはヨーロッパの個人データ保護規則 (GDPR) に直接抵触します。

テックギアの見解

OpenAIによるアダルトモードへの反対は、技術的限界がもはやコンピューティング能力だけによって定義されるのではなく、社会的および法的責任によって定義されることを証明している。

年齢予測のためのテキスト分析は、ハード検証システムに代わるものではありません。これらの実験的な「サイドクエスト」を削減するという決定は成熟度を示しており、ChatGPT を基本的に安全な生産ツールに保ちながら、有害な目的でツール化される AI からユーザーを保護します。