1709911620
2024-03-08 14:10:00
CNBCインドネシア編集長
技術
金曜日、08/03/2024 21:10 IWST
写真：ロイター/Saumya Khandelwal
ジャカルタ、CNBC インドネシア – マイクロソフト社員のシェーン・ジョーンズ氏は、同社の人工知能（AI）システムの弱点を暴露した。
問題のシステムは、2023年3月にデビューしたマイクロソフトの画像ベースAIツール「Copilot」だ。
ジョーンズ氏はリリースの 1 か月前から、OpenAI のテクノロジーを活用したツールを積極的にテストしてきました。
OpenAI の DALL-E と同様に、Copilot を使用すると、ユーザーはプロンプトを入力して画像を生成できます。 ただし、結果はワイルドで制御不能になる可能性があります。
Copilot のテスト中に、ジョーンズ氏は、このツールが Microsoft の責任ある AI の原則に反する画像を生成することを発見しました。
同氏によると、副操縦士は、中絶の権利、銃を持った十代の若者、暴力的な絵画の中の女性の性的な画像、未成年者によるアルコールや薬物の使用に関連する用語とともに、悪魔や怪物の画像を作成したという。
「その瞬間、私の目が開かれました。その時初めて、このモデルは安全ではないと感じました」と彼はCNBCインターナショナルに語った（金曜日（2024年8月3日）引用）。
Jones は Microsoft に 6 年間勤務し、現在はワシントン州レドモンドの本社でソフトウェア エンジニアのマネージャーを務めています。
同氏は、専門的な立場でCopilotの開発に関与していないと認めた。 しかし、ジョーンズ氏はテスト チームの 1 人であり、一般公開前に余暇を利用して Copilot をテストするよう依頼された数人の従業員や部外者のうちの 1 人でした。
ジョーンズ氏は自身の調査結果に動揺し、昨年 12 月に社内で報告を開始した。 同氏によると、同社はこの弱点を認識しているが、Copilotの一般公開を中止することに消極的だという。
ジョーンズ氏はマイクロソフトからCopilotのバックボーンとしてOpenAIについて相談するよう指示されたと述べた。 残念ながら、OpenAIはジョーンズ氏の報告に応じなかった。
最後に、彼は LinkedIn で OpenAI コミッショナーに公に手紙を書きました。 同氏はOpenAI関係者に対し、安全上の懸念からDALL-E 3を撤去し、さらなる調査を実施するよう要請した。
その後、マイクロソフトの法務部門はジョーンズに投稿を削除するよう要請した。 そして、その時は従ったのです。
その後1月、ジョーンズ氏は副操縦士の問題について米国上院議員に書簡を送った。 同氏は上院の商務科学運輸委員会スタッフとも会談した。
そこからジョーンズは行動を拡大した。 今週、同氏はFTC長官のリナ・カーンに書簡を送った。 同氏はマイクロソフトの幹部らにも書簡を送った。
彼はその書簡をCNBCインターナショナルと共有した。
ジョーンズ氏がカーン氏に宛てた書簡には、「過去3カ月にわたり、私はMicrosoftに対し、より良いセキュリティガイドラインが実装されるまでCopilot Designerを一般の利用から削除するよう繰り返し要請してきた」と記されている。
「しかし、マイクロソフトは私の勧告を無視した。彼らは変更を加えることができず、この製品を誰にでも、どこにいても、あらゆるデバイスを介して提供し続けた」と同氏は書いている。
同氏はまた、MicrosoftとOpenAIの関係者がCopilotの弱点を一般公開前にすでに知っていたという事実も明らかにした。
これに対しマイクロソフトは従業員からの意見を重視すると述べた。 しかしマイクロソフトは、同社には従業員が入力すれば使用できる社内システムがすでに存在していると主張した。
Microsoftの広報担当者は、「従業員に対し、従業員の報告を適切に検証し、テストできるよう、利用可能な内部報告システムを利用するよう勧めている」と述べた。
以下のビデオをご覧ください。
ビデオ: インドネシアのデジタル格差を克服するには接続性が鍵
(ファブ/ファブ)
#マイクロソフト従業員が会社の荒廃を解体