ボルチモアの教師、AIを利用して校長の人種差別的な音声を捏造＝警察

1714100300
2024-04-26 02:43:13

木曜日、ボルチモア高校の体育部長が人工知能を使用し、生徒や職員に対する軽蔑的なコメントを含む音声録音で校長になりすました容疑で逮捕、起訴されたと当局が発表した。

ボルチモア郡警察署長のロバート・マッカロー氏によると、パイクスビル高校の体育教師兼運動部長のダゾン・ダリエン氏は、人工知能ソフトウェアを使用してエリック・アイスワート校長の音声録音を改ざんした疑いで告発されている。 この捏造録音は1月にソーシャルメディア上で拡散した後急速に拡散し、ボルチモア郡公立学校コミュニティーの間で広範な怒りと非難を引き起こした。

「我々は現在、その録音が本物ではないという決定的な証拠を入手している。ボルティモア郡警察は広範な捜査を行った結果、その決定に達した」とマッカロー氏は会見で述べた。 木曜日の記者会見。 「これらの発見とさらなる調査に基づいて、録音は人工知能技術の使用を通じて生成されたと判断されました。」

警察によると、ダリエン容疑者（31）は木曜日に逮捕され、窃盗、ストーカー行為、学校運営妨害、目撃者への報復など複数の罪に問われているという。 木曜午後の出廷後、ダリエンさんは5000ドルの無担保保釈金を支払って釈放された。

ボルチモア郡検事のスコット・シェレンバーガー氏は木曜日、この事件は全米初のこの種の事件の一つのようだと述べた。 同氏は、州議会は新しい技術を組み込むために法律を更新する必要があると指摘した。

ボルチモアの事件は、全米の学校で人工知能（AI）の悪用が急増している最新の事件である。 ほとんどのケースには、個人の外見、声、動作をデジタル的に操作する画像、ビデオ、音声である「ディープフェイク」または AI が生成した合成メディアが関係しています。

過去 1 年間、学校では テクノロジーを取り締まるのに苦労した 中学生や高校生の男子生徒がAIを使ってクラスメートのヌード写真を作成している。 逮捕に至った事件もあれば、地区の政策や州法の違いにより、それほど深刻ではない結果に直面した事件もある。

ディープフェイクは 2024 年の選挙の一部です。連邦政府はそれらを規制するのでしょうか？

警察「偽録音は学校捜査への報復として行われた可能性がある」

ボルチモア郡警察は、アイスワート氏が学生や職員について人種差別的で反ユダヤ主義的なコメントをしている音声録音がインスタグラムに投稿されたとして、1月17日に捜査を開始した。 この録音はオンラインで大規模な反響を引き起こし、学区による調査を促した。

録音中の声では、黒人生徒が「紙袋から脱出する方法を試す」ことができなかったとし、「これらの生徒を学年レベルの期待に応えさせるのがどれほど難しいか」と疑問を呈した。 録音にはユダヤ人に対する軽蔑的なコメントも含まれており、「決して雇用されるべきではなかった」スタッフの名前も言及されていた。

ボルチモアのバナー 学校コミュニティのメンバーは、アイスワート氏がこうした差別的な発言をしたと信じていると報告した。 報道機関によると、アイスワート氏はコメントを否定しており、調査が始まって以来学校で働いていないという。

マッカロー氏は、警察捜査の一環として、捜査員がFBIおよびカリフォルニア大学バークレー校の法医学分析官と協力し、録音が本物ではないと判断したと述べた。 「分析の結果、録音にはAIが生成したコンテンツの痕跡が含まれていることが判明した」とマッカロー氏は述べた。

マッカロウ氏によると、警察はダリエン氏が当時学資不正取り扱いの可能性について捜査を進めていたアイスワート氏への報復として録音を捏造したものと考えているという。

マッカロー氏によると、メリーランド州交通局の職員らは木曜朝、ボルチモア・ワシントン国際空港でダリエンさんを拘留したという。 ダリエンさんは飛行機に乗ろうとしたところ呼び止められ、申告した銃器の梱包方法について質問された。

警察官がダリエンさんの経歴を調べ、公開逮捕状が出されたとマッカロー氏は付け加えた。

ボルチモア郡公立学校は次のように述べた。 声明 学区はダリエン氏の行為に対して解雇勧告を含む「適切な措置」を講じていると述べた。

ディープフェイクの台頭: 「深く懸念される新たなフロンティアへの参入」

ディープフェイクは、悪意を持って使用されたり、誤った情報を広めるために使用されることがよくあります。 同紙によると、AIが生成した合成メディアはすでに「生徒たちがお互いを嘲笑したりいじめたりするために、親密なポーズで仲間のディープフェイクを作成するなど、学校に悪影響を及ぼしていることが証明されている」という。 民主主義とテクノロジーセンター。 生徒が教師のディープフェイクを作成するケースもあった。

ボルチモア郡幹部のジョニー・オルシェフスキー氏は木曜日、「我々が新たな、非常に憂慮すべきフロンティアに入りつつあることは明らかだ」と語った。 「私たちは新興テクノロジーとその革新性と社会的利益の可能性を受け入れ続ける一方で、悪意を持ってそれを利用する人々に対しても警戒し続けなければなりません。」

昨年4月、テキサス州ヒューストンの学生が教師の写真をデジタル的に改変し、その露骨な画像をオンラインで共有したとして告訴された。 FOX 26ヒューストンが報じた。

逮捕状によると、12月、フロリダ州の男子中学生2人がAIアプリを使用して12歳から13歳のクラスメートのヌード写真を作成した疑いで逮捕された。 少年らは第3級重罪で起訴された。 2022 年の州法。

そして2月、学校管理者はカリフォルニア州ビバリーヒルズの中学生を、AIを使用してクラスメートの偽のヌード写真を作成したとして告発したと報じた。 NBCニュース。 教育長はNBCニュースに対し、画像には裸体にデジタル処理された生徒の顔が含まれていたと語った。

寄稿者: Zachary Schermele および Natasha Lovato、USA TODAY

#ボルチモアの教師AIを利用して校長の人種差別的な音声を捏造警察