この記事を聞く
推定5分
この記事の音声版は AI ベースのテクノロジーによって生成されています。発音の間違いが発生する可能性があります。私たちはパートナーと協力して結果を継続的に見直し、改善しています。
人工知能大臣のエヴァン・ソロモンは、ブリティッシュコロンビア州タンブラーリッジでの銃撃事件を受けて方針を調整するというOpenAIの最近の取り組みは十分ではないと述べ、CEOのサム・アルトマンと会う予定だ。
ソロモン氏は金曜日の声明で、「法執行機関への照会手順を強化し、カナダ当局との直接の連絡窓口を確立し、安全措置を強化するという彼らの意欲には留意するが、これらの約束が実際にどのように実施されるかについての詳細な計画はまだ見ていない」と述べた。
同社の幹部らは今週初めにソロモン氏や他の閣僚と会談し、オープンAIのグローバル政策担当副社長アン・オリアリー氏は木曜日、ソロモン氏に宛てた公開書簡の中で、問題のあるコンテンツが法執行機関に通報される場合についての懸念に対処するため、新たなポリシーを導入していると述べた。
オリアリー氏は書簡の中で、OpenAIはカナダの法執行機関との直接の連絡窓口を確立し、必要に応じてユーザーを地元のメンタルヘルスサポートに誘導できるようにモデルをアップグレードし、ポリシー違反を繰り返す者の特定を支援するために検出システムを強化していると述べた。
見る | OpenAIは、Tumbler Ridge銃撃犯がChatGPTの禁止を回避したと述べている:
OpenAIは、Tumbler Ridge銃撃犯が2番目のアカウントでChatGPT禁止を回避したと発表 |ハノマンシン・トゥナイト
OpenAIのグローバルポリシー担当副社長アン・オリアリー氏によると、同社は、ブリティッシュ・コロンビア州タンブラー・リッジの銃撃犯の名前が殺人事件で公表された後、彼女に属する2番目のChatGPTアカウントを発見し、そのアカウントを警察と共有したと述べた。この暴露は、同社がブリティッシュコロンビア州タンブラーリッジでの殺人事件に対応して講じる一連の「即時措置」を概説した中で行われた。サラ・ガラシャン氏の最新情報は以下の通りである。
こうした約束にも関わらず、ソロモン氏は金曜日、カリフォルニアに本拠を置く同社にはまだ答えるべき疑問があると語った。
同大臣は声明で、「タンブラーリッジでの悲劇は、信頼できる暴力の警告兆候が現れたときにデジタルプラットフォームがどのように対応するかという深刻な疑問を引き起こした。カナダ人は人間による審査の決定がどのように行われるかについて、より明確になるべきだ」と述べた。
今月初め、ジェシー・ヴァン・ルーツェラーさんは地元の中等学校に通う前に実家で母親と異母兄弟を殺害し、そこで生徒５人、教育助手１人を殺害し、その後自分自身も殺害した。
銃撃事件後に、ヴァン・ルーツェラー氏がChatGPTアカウントを持っていたことが明らかになり、同社は銃による暴力に関する投稿を理由に6月に禁止された。 OpenAIはこのアカウントを警察に通報せず、信頼できる計画や差し迫った計画を特定できなかったため、Van Rootselaar氏の活動は当時の同社の報告基準を満たしていないと述べた。
BC州のデービッド・イービー首相も木曜日、アルトマン氏と会談する予定だと述べた。
ソロモン氏と他の大臣は今週初めにOpenAI関係者と会談した。ソロモン氏は会談直後、同社が徹底的な回答を示さなかったことに「失望した」と述べた。
「私たちは期待していました [OpenAI] 私たちが理解できるいくつかの具体的な提案をすること、 [they] タンブラーリッジでの恐ろしい悲劇を受けて、彼らはプロトコルを変更した。しかし、モデルへの一部の変更を除いて、実質的な新しい安全プロトコルについては何も聞いていない」とソロモン氏は火曜日の夜に語った。
新しいコンテンツフラグプロトコル
オリアリー氏は書簡の中で、殺人事件を受けて同社がヴァン・ルーツセラー氏に属する2番目のChatGPTアカウントを発見したことを明らかにした。
書簡には、2番目のアカウントが警察に通報されたと書かれている。
オリアリー氏はまた、同社が「数カ月前」に策定し始めた新たな安全方針に基づいて、銃撃犯の禁止アカウントを警察に通報しただろうとも語った。彼女はそのプロセスが正確にいつ始まったかについては明らかにしなかった。
オリアリー氏の書簡には、「継続的な学習の恩恵を受け、強化された法執行機関への照会プロトコルに基づき、2025年6月に禁止されたアカウントが今日発見された場合には法執行機関に照会する予定だ」と書かれている。
ソロモン氏は、OpenAIやその他の企業の規制に関してはあらゆる選択肢がテーブルの上にあると述べた。
金曜日、パーラメント・ヒルに集まった国会議員のほとんどは、企業に問題のあるアカウントを警察に報告することを義務付ける法案を政府が導入する必要があることに同意した。
「我々は何かをする必要がある。何が起こったのか、タンブラーリッジでの悲劇は教訓だと思うし、カナダ人を守ることはどの政府にとっても優先すべきだ」と自由党議員ガーバックス・サイニ氏はCBCニュースに語った。
見る | 「何かできたかもしれない」とメイは言う。
OpenAIがタンブラーリッジ銃乱射事件について知っていることを報告していれば「何かできたかもしれない」：5月
金曜日、緑の党のエリザベス・メイ党首は、ブリティッシュコロンビア州タンブラーリッジの銃撃犯の禁止されたChatGPTアカウントと最近報告された2番目のアカウントに対応するOpenAIのプロトコルに関する新たな詳細に反応した。メイ首相は「AI業界の金持ち野郎たちが知っていることを報告してさえいれば、何かができただろうに」と語った。
保守的な倫理評論家のマイケル・バレット氏は、何らかの規制の枠組みを支持すると述べた。
同氏は、「国民に現実のリスクと現実の影響が存在することを認識しているため、この問題に対処するには国会議員として真剣に協力する必要がある」と述べた。
緑の党のエリザベス・メイ党首は、導入される規制はハイテク企業に対して「指を動かす以上のこと」が必要だと述べた。
メイさんは今月初め、通夜のためタンブラーリッジへ旅行したことについて、「家族に会うのは本当に大変だったし、今でも心に残っている」と語った。
「AI業界の金持ち野郎たちが知っていることを報告してさえいれば何かができたかもしれないという事実が、それを少し難しくしている」と彼女は言う。
#AI大臣ブリティッシュコロンビア州銃乱射事件を受けてOpenAIはまだ十分な活動をしていないと発言CEOのアルトマン氏と会談する予定