1711789003
2024-03-30 08:56:41
OpenAI生成型人工知能（AI）の巨人でChatGPTの発行元である同社は金曜日、個人情報盗難などの詐欺や犯罪を防ぐために使用が制限される音声クローン作成ツールを発表した。 これは「音声エンジン」と呼ばれるもので、 AIモデル 小規模テストの結果に関するOpenAIの声明によると、15秒の音声サンプルから人の声を再現できるという。
サンフランシスコに本拠を置く同社は、「人間のような声を生成する能力には深刻なリスクが伴うことを認識しており、それは今年の選挙の年に特に重大である」と述べた。 「私たちは政府、メディア、エンターテインメント、教育、市民社会、その他の分野の米国および国際的なパートナーと協力しており、ツールの開発にあたり彼らのフィードバックを考慮に入れています。」
ビデオ。 人工知能: OpenAI が革新的なビデオ ジェネレーターである Sora を発表
世界中でこの重要な選挙の年に、偽情報研究者たちは、生成型 AI アプリケーション (テキスト、画像などの自動生成)、特に安価で使いやすい音声クローン ツールの悪用を懸念しています。 使用され、追跡するのが困難です。
OpenAIは、「合成音声が悪用される可能性があるため」新ツールを広く配布する前に「慎重かつ情報に基づいたアプローチ」を採用したと保証した。
この慎重なプレゼンテーションは、ジョー・バイデンの民主党のライバルの大統領選挙キャンペーンで働くコンサルタントが、アメリカ大統領になりすまして彼の再選を運動させる自動プログラムを開発したという重大な政治的事件の後に行われた。 声は私ジョー・バイデンのそれを反映している 有権者にニューハンプシャー州の予備選で棄権するよう呼びかけた。 それ以来、米国は禁止した クローン音声による通話、 政治的または商業的な詐欺と戦うために AI によって生成されます。
声を複製される本人の同意
OpenAIは、「Voice Engine」をテストしているパートナーが、とりわけ、声が複製される人からの明示的かつインフォームド・コンセントとリスナーへの透明性を要求するルールに同意していることを明らかにした。つまり、リスナーが聞く音声がAIによって生成されたものであることを明確にする必要があるということだ。
「私たちは、Voice Engineによって生成されたすべてのサウンドの発信元を追跡できるウォーターマークや、その使用状況のプロアクティブな監視など、さまざまなセキュリティ対策を実装しました」とOpenAIは主張しました。
昨年10月、ホワイトハウスは透明性を含むAIの開発を管理する規則と原則を発表した。 ジョー・バイデンは、犯罪者が家族の一員を装って人々を罠にかけるためにそれを利用するというアイデアに感動した。
#人工知能 #ピンセットで提供される新しい音声クローン #ツールVoice #Engine