この記事を聞く
推定4分
この記事の音声版は AI ベースのテクノロジーによって生成されています。発音の間違いが発生する可能性があります。私たちはパートナーと協力して結果を継続的に見直し、改善しています。
OpenAIによると、ブリティッシュコロンビア州タンブラーリッジ銃乱射事件の犯人の名前が公表された後、同社が彼女に属する2番目のChatGPTアカウントを発見したという。6月に別のアカウントが銃による暴力に関する投稿で禁止されたにも関わらずだ。
この暴露は、OpenAIのグローバル政策担当副社長アン・オリアリーが人工知能大臣エヴァン・ソロモンに宛てて書いた書簡の中で明らかになった。
書簡には、2番目のアカウントが警察に通報されたと書かれている。
オリアリー氏はまた、カリフォルニアに本拠を置く同社は、同社が「数カ月前」に策定し始めた新しい安全方針に基づいて、銃撃犯の最初のアカウントを警察に通報しただろうとも書いた。
「精神保健と行動の専門家が、困難なケースの評価に協力してくれるようになりました。ユーザーがChatGPTの会話で計画された暴力の対象、手段、タイミングについて話し合うことはできないが、差し迫った暴力の潜在的なリスクがある可能性があるという事実を考慮して、紹介基準をより柔軟にしました」とオレアリー氏はメディアに共有された書簡の中で書いている。
新しい議定書がいつ発効したかは書簡からは明らかではない。しかし同社は、ジェシー・ヴァン・ルーツェラーさんの最初のアカウントを禁止したとき、警察に通報しなかった。
見る | ChatGPT と銃撃事件の詳細:
OpenAI はタンブラーリッジ銃乱射事件を防ぐことができたでしょうか?
カナダ当局は、ウォール・ストリート・ジャーナルが発表した衝撃的な報告書を受けて、ブリティッシュコロンビア州タンブラーリッジの銃乱射事件についてOpenAIが何を知っていたのかを解明しようと躍起になっている。 OpenAIは悲劇の数カ月前に銃撃犯のChatGPTアカウントを禁止していたが、当時はそのアカウントを当局に報告しないことを決めていたことが明らかになった。
OpenAIは、Van Rootselaar氏の活動は、当時信頼できる計画や差し迫った計画を特定できなかったため、法執行機関に通報する同社の基準を満たしていないと述べた。
オリアリー氏の書簡には、「継続的な学習の恩恵を受け、強化された法執行機関への照会プロトコルに基づき、2025年6月に禁止されたアカウントが今日発見された場合には法執行機関に照会する予定だ」と書かれている。
今月初め、ファン・ルーツェラーさんは地元の中等学校に通う前に実家で母親と異母兄弟を殺害し、そこで生徒５人、教育助手１人を殺害し、その後自分自身も殺害した。
BC州のデービッド・イービー首相は木曜日、同社が警察に通報していれば悲劇は防げたはずだと信じていると述べた。
「彼らは悲劇的に的を外した [not] この情報を伝えます。その結果はタンブラーリッジの家族が一生背負うことになるだろう」とイービーさんは記者団に語った。
首相は、OpenAIの最高経営責任者（CEO）であるサム・アルトマン氏が、同社の安全方針について話し合うために同氏と会うことに同意したと述べた。
「この情報を前に出さないという彼のチームの決定がどのような惨状をもたらしたかについてアルトマン氏に聞くことが重要だと思う」と同氏は語った。
イービー氏は、木曜日に彼のスタッフが会社関係者と会ったが、彼は参加を拒否し、アルトマン氏との面会を主張したと述べた。
オタワ、新たな規制を検討中
オリアリー氏の書簡は、同社幹部らがソロモン氏や他の閣僚らと会談した後に提出された。
ソロモン氏は会合後、同社が徹底した回答を示さなかったことに失望したと述べた。
「私たちは期待していました [OpenAI] 私たちが理解できるいくつかの具体的な提案をすること、 [they] タンブラーリッジでの恐ろしい悲劇を受けて、彼らはプロトコルを変更した。しかし、モデルへの一部の変更を除いて、実質的な新しい安全プロトコルについては何も聞いていない」とソロモン氏は火曜日の夜に語った。
見る | OpenAIは「具体的な提案は何もしなかった」と大臣は言う。
OpenAIはタンブラーリッジ銃乱射事件後の会合で「具体的な提案を何も示さなかった」：AI大臣
人工知能大臣エヴァン・ソロモンは水曜日、ブリティッシュコロンビア州タンブラーリッジでの銃乱射事件を受けて開催されたOpenAIの上級安全チームとの会議後、失望を繰り返した。このテクノロジー企業は、昨年6月に10代の銃撃犯のChatGPTアカウントが社内で報告されたが、警察には報告されていなかったことを認めた。
オリアリー氏の書簡には、政府の懸念に対処するために同社が取り組んでいるいくつかの約束が概説されており、その中には、カナダの法執行機関との直接の連絡窓口を確立すること、必要に応じて同社がユーザーを地元のメンタルヘルスサポートに誘導できるようにモデルをアップグレードすること、反復的なポリシー違反者を特定するのに役立つ検出システムの強化が含まれる。
ソロモン氏の事務所の報道官は、政府が書簡を精査しており、「数日以内にさらに発表があるだろう」と述べた。
ソロモン氏は今週、銃乱射事件を受けて政府が新たな規制を導入する法案を検討しており、あらゆる選択肢が検討の対象となっていると述べた。
イービー氏は木曜日、いかなるルールもすべてのAI企業に適用されなければならないと述べた。
「カナダで活動するAI企業に『さあ、私たちに登録してください。私たちは暴力的な攻撃を計画しているかどうか警察に知らせない会社です』と言うような企業は望まない」と同氏は述べた。
#Tumbler #Ridge銃撃犯は禁止されているにもかかわらず2番目のChatGPTアカウントを持っていたとOpenAIが発表