OpenAI がティーンエイジャー向けの ChatGPT に新しい操作ルールを導入

または OpenAI は、未成年者の保護のみを目的としたモデルの安全規則の大幅なアップグレードを発表しました。議員らが厳格な基準を確立するよう圧力を強める中、ChatGPTの作成者は18歳未満のユーザー向けのいわゆる「モデルスペック」（U18原則）を実装することで時代の先を行こうとしている。

新しい戦略は単なる表面的な調整ではなく、AI がティーンエイジャーに直面したときに「考え」、反応する方法に根本的な変化をもたらします。同社は現在、15歳の少年の経験を公然と認めている。 AI たとえプライバシーを犠牲にする必要があるとしても、それは大人のそれとは根本的に異なるものでなければなりません。

いちゃつくことも、危険な話題も一切容認しません

新しい対策の中核は、モデルの動作の厳格化です。の チャットGPT 彼らは現在、未成年者との「ロマンチックな」または性的な会話の試みを断固として拒否するように訓練されています。アルゴリズムは、たとえ「クリエイティブ ライティング」やフィクションを装って提示されたものであっても、自傷行為や自殺念慮に関するコンテンツを即座に検出してブロックするように設定されています。

はい、会社です さらに一歩前進します: ユーザーの身体的完全性に対する差し迫ったリスクが特定された場合、システムは標準的なアドバイスでは満足しません。 OpenAIは保護者に直ちに通知する仕組みを設計しているが、極端な場合には管轄当局に通知する可能性も検討されており、これにより監視の限界について新たな議論が始まることが期待されている。

ペアレンタルコントロール: 「静かな時間」からアカウントの接続まで

OpenAI は、モデルの内部制限に加えて、新しいツールを親の手に渡せるようにします。保護者は自分のアカウントを子供のアカウントにリンクできるようになり、子供の活動を監視できるようになります。

最も実用的な追加機能の 1 つは、「ブラックアウト時間」を設定する機能です。これは、人工知能が勉強や睡眠の邪魔をしないように、チャットボットへのアクセスがロックされる期間を指します。さらに、親はボイスチャットや画像作成などの特定の機能をオフにすることができ、子どもたちがより複雑なメディアに触れるのを制限できるようになる。

ジレンマ: セキュリティ vs プライバシー

おそらく、この新しい方針で最も興味深い点は、身元確認の「必要悪」を同社が認めたことだろう。 OpenAI は、ユーザーの行動を分析して未成年者を区別する高度な年齢予測システムを開発しています。

哲学は明確です。」疑わしい場合は、未成年者のルールに従います»。ユーザーが成人であることをシステムが確実に確認できない場合、U18 (18 歳未満) の保護措置が自動的に有効になります。場合によっては、正式な身分証明書が要求されることもあり、同社自身はこれを「プライバシーの侵害」と表現しているが、セキュリティ上必要であると考えている。

立法上の脅威

これらの発表のタイミングは偶然ではありません。 「」のような請求書でガード法」との取り組みが進められており、米国と欧州の規制当局がAIが若者のメンタルヘルスに及ぼす影響を精査している中、ハイテク大手は自主規制を急いでいる。

最近の法廷闘争やチャットボットが非行や自滅的な行為を奨励しているとの申し立てにより、一触即発の雰囲気が醸成されています。 OpenAI は、「Teen Safety Blueprint」を使用して、法律の条文が施行されるのを待っているのではなく、より安全なデジタル環境そのものへの道筋を描いていることを示そうとしています。

これらの措置が意味のある保護の盾として機能するのか、それとも規制当局とテクノロジーの間で進行中の戦争における単なる防衛の第一線として機能するのかはまだ分からない。確かなことは、10代の若者が人工知能に無制限にアクセスできる時代は確実に終わりを迎えているということだ。