敵はその声とともに倒れる。 AI が邪悪に聞こえるとき

AGI – 最新の注目を集めた事件には、ボルティモア郡高校の体育教師と元運動部長が、AI 音声クローン サービスを使用して校長を陥れたとして逮捕されたことが関係しています。 しかしここ 1 年で、 AIベースの音声クローン作成 サービスがより人間味を感じるようになり、サービスも成長してきました。 また、完全な犯罪ではないにしても、音声複製のためのアプリやソフトウェアが不適切に使用されるケースも増えています。

ボルチモア事件は、1月にパイクスビル高校校長エリック・アイスワートが人種差別的で反ユダヤ主義的なコメントをしているとされる偽音声の録音がソーシャルメディア上で拡散したことに端を発している。 専門家らはボルティモア・バナー社と警察に対し、アイスワート氏の短期間の停職処分の原因となった録音には「平坦なトーン、異常にきれいな背景音、一貫した呼吸音や休止音が欠如している」と語った。

ボルティモア郡警察は、その録音を突き止めたところ、音声クリップの中に名前も出ていた同校の元体育部長、ダゾン・ダリエン氏の名前が記されていた。 WBAL-TV 11 と NBCニュース。 彼はまた、電子メール アドレスと関連する回復用電話番号を通じて音声の公開に関与していました。

ダリエン氏がどの AI 音声プラットフォームを使用したかは不明です。 警察は木曜、この男を空港で逮捕し、パイクスビル高校の運動部長が、当時学資不正管理の可能性について捜査を進めていたアイスワート氏に仕返しするために録音を行ったと発表した。 彼は保釈されたが、（学資の問題による）窃盗、学校運営妨害、証人への報復、ストーカー行為などの罪に問われている。

パキスタンでも他の注目すべき事件が起きた。そこでは、投獄された元パキスタン首相イムラン・カーンの政党が、市販されている人気のテキスト音声生成プラットフォームであるイレブンラボを使用して、 選挙運動中に彼の声を再現する。 テキサス州では、2つの企業が1つの企業と結びついている ジョー・バイデン大統領を装った偽のロボコール 人々に投票しないように言っています。 連邦通信委員会 AIロボコールの使用を禁止した 2月中。 そして当然のことながら、 偽ドレイク 人工知能を使用して「Heart on My Sleeve」という曲を作成しました。

この緊迫した情勢の中、 OpenAIは3月に延期を決定 AI テキスト読み上げ生成プラットフォーム、Voice Engine を一般公開します。 このサービスは、誰かの声のクローンを作成するのに 15 分のオーディオ クリップだけを必要としますが、この技術の周囲にガードレールが不足しているため、限られた数の研究者のみが利用できます。

米国の議員らは、以下のようないくつかの法案を提出したが、まだ可決されていない。 偽物禁止法 e AI 詐欺禁止法 テクノロジー企業が個人の顔、声、名前を許可なく使用することを阻止しようとするもの ボルチモアのバナー ボルチモア郡警察は録音を信じているとの報告