1717238467
2024-05-31 22:56:00
ChatGPT の開発者 OpenAI は、インドの選挙に焦点を当てた秘密作戦における AI の欺瞞的使用を阻止するために 24 時間以内に行動したと述べています。ファイル。| 写真提供: AP
ChatGPTの制作者であるOpenAIは、インドの選挙に焦点を当てた秘密作戦におけるAIの欺瞞的な使用を24時間以内に阻止したが、視聴者数の大幅な増加にはつながらなかったと述べた。OpenAIはウェブサイトのレポートで、イスラエルの政治キャンペーン管理会社STOICがガザ紛争に関するコンテンツと並行してインドの選挙に関するコンテンツも作成したと述べた。
この報道について、ラジーブ・チャンドラセカール電子技術担当国務大臣は「@BJP4Indiaが影響力操作の標的であったことは、まったく明白で明らかだ」と述べた。OpenAIは、その操作について、イスラエルの営利企業STOICの活動が妨害されたと述べた。妨害されたのは活動のみであり、会社ではない。「5月、このネットワークはインドに焦点を当て、与党BJPを批判し、野党のインド国民会議党を称賛するコメントを生成し始めた」と同社は述べた。「5月、インドの選挙に焦点を当てたいくつかの活動を、開始から24時間以内に妨害した」OpenAIは、X、Facebook、Instagram、ウェブサイト、YouTubeにまたがる影響力操作のコンテンツの生成と編集に使用されていたイスラエルで運営されている一連のアカウントを禁止したと述べた。「この操作は、英語とヘブライ語のコンテンツでカナダ、米国、イスラエルの視聴者をターゲットにしていました。5月初旬には、英語のコンテンツでインドの視聴者をターゲットにし始めました」。詳細は明らかにしなかった。
この報告について、電子技術担当国務大臣ラジーブ・チャンドラセカール氏は、「@BJP4Indiaが、インドの一部の政党によって、あるいはその代理によって行われている影響力操作、誤報、外国からの干渉の標的であったし、現在もそうであることは、まったく明白だ」と述べた。
「これは我々の民主主義にとって非常に危険な脅威だ。インド国内外の既得権益者がこれを推進しているのは明らかであり、徹底的に精査・調査し、暴露する必要がある。現時点での私の見解は、これらのプラットフォームは選挙が終わる直前ではなく、もっと早くこれを公開できたはずだということだ」と彼は付け加えた。
OpenAIは、安全で広く有益なAIの開発に取り組んでいると述べた。「秘密の影響力操作（IO）の疑いに関する当社の調査は、安全なAI展開という当社の目標を達成するためのより広範な戦略の一部です。」OpenAIは、AI生成コンテンツの不正使用を防ぐポリシーの施行と透明性の向上に取り組んでいると述べた。これは、秘密の影響力操作（IO）を検出して阻止することに関しては特に当てはまる。秘密の影響力操作は、その背後にいる関係者の真の身元や意図を明らかにすることなく世論を操作したり、政治的結果に影響を与えたりしようとするものである。
「過去3か月間で、インターネット上での欺瞞行為を支援するために当社のモデルを利用しようとした5つの秘密IOを阻止しました。2024年5月現在、これらのキャンペーンは当社のサービスの結果として視聴者のエンゲージメントやリーチを大幅に増加させたようには見えません」と同社は述べた。
OpenAIは、その活動について説明し、イスラエルのSTOICという営利企業の活動が妨害されたと述べた。妨害されたのは活動のみであり、企業自体が妨害されたわけではない。
「我々はこの作戦を、ストア派哲学の創始者にちなんでゼロ・ゼノと名付けました。ゼロ・ゼノの背後にいる人々は我々のモデルを使って記事やコメントを生成し、それをインスタグラム、フェイスブック、X、そしてこの作戦に関連するウェブサイトなど複数のプラットフォームに投稿しました」と声明は述べている。
こうしたさまざまな活動によって投稿されたコンテンツは、ロシアのウクライナ侵攻、ガザ紛争、インドの選挙、欧米の政治、中国の反体制派や外国政府による中国政府への批判など、幅広い問題に焦点を当てていた。
OpenAIは、国家と連携したグループや高度で執拗な脅威を含む脅威アクターの監視と阻止を含む、プラットフォームの悪用に対抗する多面的なアプローチをとっていると述べた。「私たちは、ここで議論しているようなアクターを特定し阻止するための技術とチームに投資しており、AIツールを活用して悪用に対抗しています。」同社はAIエコシステムの他の企業と協力し、AIの潜在的な悪用を浮き彫りにし、その知見を一般の人々と共有している。
#OpenAIはイスラエルを拠点とする企業によるインド選挙への干渉の試みが阻止されたと発表