OpenAIはChatGPTの使用ポリシーを改訂し、専門ライセンスが必要な医療、法律、その他のアドバイスを提供するためのAIシステムの使用を明示的に禁止した。このアップデートは、特に医療分野において、専門家の指導を求めて AI チャットボットを利用する人が増えていることに関する世間の議論の高まりを受けてのものです。
同社関係者によると 使用ポリシー、最終更新日は 10 月 29 日で、改訂された規則により、ChatGPT の次の目的での使用が禁止されました。
– 専門的な資格を必要とする相談（医学的または法律的アドバイスを含む）。
– 同意のない顔または個人の認識。
– 金融、教育、住宅、移住、雇用などの分野で人間の監視なしに重要な決定を下すこと。
– 学術上の不正行為、または評価結果の改ざんを行うこと。
OpenAIは、このポリシー変更は、意図された機能を超えた方法でシステムが使用されることによる「ユーザーの安全性を高め、潜在的な危害を防ぐ」ことを目的としていると説明した。
OpenAIはこの決定について詳しく述べた公式声明を発表していないが、多くのアナリストはこの動きを法的リスクを最小限に抑える方法だと解釈している。専門的または機密性の高いアドバイスを提供する際の AI の使用は依然としてほとんど規制されていないため、開発者とユーザーの両方が潜在的な責任にさらされています。
このポリシー改定は、複雑な相談や一か八かの相談のためにチャットボットを利用する人が増加傾向にある中で行われ、中にはAIツールが法的手続きや自己診断に役立ったという報告もある。
OpenAIは今週、苦境にある人々をより適切に認識しサポートすることを目的としたデフォルトモデルの変更も導入した。
「最近のモデルアップデートにおける当社の安全性向上は、以下の分野に焦点を当てています：1) 精神病や躁状態などの精神的健康上の懸念、2) 自傷行為と自殺、3) AI への感情的依存。今後は、自殺と自傷行為に関する長年のベースライン安全指標に加えて、感情的依存と非自殺的メンタルヘルス緊急事態を、将来のモデルリリースに向けたベースライン安全性テストの標準セットに追加します。」と同社は発表した。
ナズリン・サディゴワ
#ChatGPT #は医学的法的アドバイスの提供を停止します