1711733465
2024-03-29 17:13:47
音声合成は 1978 年の登場以来、大きな進歩を遂げてきました。 スピーク＆スペル このおもちゃは、電子音声を使用して言葉を読み上げる最先端の機能でかつて人々を驚かせました。 現在、ディープラーニング AI モデルを使用することで、ソフトウェアはリアルに聞こえる音声を作成できるだけでなく、音声の小さなサンプルを使用して既存の音声を説得力を持って模倣することもできます。
これらの方針に沿って、OpenAI は、録音された音声の 15 秒セグメントに基づいて合成音声を作成するテキスト読み上げ AI モデルである Voice Engine を発表したばかりです。 動作中の音声エンジンの音声サンプルが提供されています。 ウェブサイトで。
音声のクローンが作成されると、ユーザーは音声エンジンにテキストを入力し、AI によって生成された音声結果を取得できます。 しかし、OpenAI はまだそのテクノロジーを広く公開する準備ができていません。 同社は当初、開発者が音声エンジン API にサインアップするためのパイロット プログラムを今月初めに開始する予定でした。 しかし、倫理的な影響についてさらに検討した結果、同社は当面、その目標を縮小することを決定した。
「AIの安全性に対する当社のアプローチと自主的な取り組みに従って、現時点ではこのテクノロジーをプレビューすることを選択しますが、広くリリースすることはしません」と同社は書いている。 「Voice Engine のこのプレビューが、その可能性を強調するとともに、より説得力のある生成モデルによってもたらされる課題に対する社会の回復力を強化する必要性を促進することを願っています。」
広告
一般に、音声クローン技術は特に新しいものではありません。 覆われた いくつかの 2022 年から AI 音声合成モデルが開発され、この技術は次のようなパッケージを使用してオープンソース コミュニティで活発に活動しています。 オープンボイス そして XTTSv2。 しかし、OpenAI が、誰でも特定のブランドの音声技術を使用できるようにしようとしているという考えは注目に値します。 そしてある意味では、同社がそれを完全にリリースすることに消極的であることのほうが大きな問題かもしれない。
OpenAIによると、同社の音声技術の利点には、自然な音声による読解支援の提供、母国語のアクセントを維持しながらコンテンツの翻訳によりクリエイターへの世界的なリーチの実現、パーソナライズされた発話オプションによる非言語的個人のサポート、および治療後の患者の自分の声の回復支援などが含まれるという。言語障害のある状態。
しかし、それはまた、誰かの録音された音声の 15 秒を持っている人は誰でもそれを効果的にクローンできることを意味し、潜在的な悪用の可能性があることは明白です。 OpenAI が音声エンジンを広く公開しないとしても、音声を複製する機能はすでに社会に問題を引き起こしています。 電話詐欺 誰かが愛する人の声を真似するところ、 選挙キャンペーンのロボコール ジョー・バイデンのような政治家のクローン音声をフィーチャーしています。
また、研究者や記者も 示しました 音声クローン技術は、音声認証を使用する銀行口座 (Chase の口座など) に侵入するために使用できるということです。 音声ID）、米国上院銀行・住宅・都市委員会の委員長であるシェロッド・ブラウン上院議員（民主党、オハイオ州）に、 手紙 CEOの皆様へ いくつかの大手銀行 2023 年 5 月に、銀行が AI を活用したリスクに対抗するために講じているセキュリティ対策について調査する予定です。
#OpenAI悪用の懸念から音声クローン技術の広範なリリースを延期