人工知能: インドが人工知能の「実験室」に選出

ハリクリシュナン・ヴァサンタクマールが亡くなって4年になる。しかし、ビデオの中で彼は息子を生き生きと熱心に称賛している。もし彼が来年の議会選挙で落選したら、 もし 元政治家は、もし勝利すれば良い仕事をするだろうと有権者に保証する。息子の選挙活動中に仮想的に復活したのは、人工知能（AI）の使用によって可能になった。

世界最大の選挙では、インドは世界で最も人口の多い国であり、ヴァサンタクマール氏のようなAI生成コンテンツの多さから逃れることは困難だった。ここ数週間、すべての主要政党が選挙運動でAIを熱心に活用している。 ナレンドラ・モディAI の活用は彼にとって成果をもたらす可能性が高い。世論調査では彼が 3 期目に立候補する見込みだ。最後の投票所は今週の土曜日に締め切られる。結果は 6 月 4 日に発表される。

選挙キャンペーン広告として ディープフェイク

インドは巨大な テストラボ ベルリンのドイツ外交問題評議会で選挙におけるAIを研究しているカチャ・ムニョス氏は、AIの政治利用は前向きな動きであり、他の国々の指針にもなり得ると語る。この技術は操作される可能性が非常に高い。しかし、肯定的な側面も見ている。「AIを使ってより多くの人にアプローチしたい場合や、AIを使って異なる言語で話したい場合、それは非難されるべきことではありません」と同専門家は語る。インドで、どこにでもいるモディ首相がやったように。彼を取り巻く真の個人崇拝の一環として、AIのおかげで、彼は有権者に複数の言語で話しかけたが、その言語は彼自身も話せない。それが良いことかどうかは、世界最大の民主主義国ではほとんど誰も語らないことだ。

「しかし、AIにラベルが貼られていないのは非難されるべきことだ」と専門家のムニョス氏は言う。数週間続いたインド選挙運動の際、まさにその通りだった。例えば、AIが生成した録画では、ボリウッドの俳優たちが政府首脳を批判する姿が映し出され、聞かれた。しかも、映っている人々はそのことを知らないまま、こうしたことが行われたのだ。

拡散した別のAIビデオでは、野党指導者ラフル・ガンディーが、モディ首相が自分のような腐敗した人間を刑務所に送っているため、辞任すると宣言した。後にファクトチェッカーが、このビデオが偽物であることが判明した。AIで作成されたものだ。専門家はディープフェイクについて語っている。ディープフェイクとは、AI技術を使用して変更、作成、または偽造された、本物そっくりのメディアコンテンツである。

人工知能のおかげで到達

こうしたディープフェイクの専門家は、インドのディビエンドラ・シン・ジャドゥン氏だ。他の企業と同様に合成コンテンツをサービスとして提供しているポリマス・シンセティック・メディア・ソリューションズ社の代表は、ニューデリーのドイツ通信社に対し、主要政党が選挙運動でより大きな影響力を発揮できたのはAIのおかげであると語った。結局、下院の構成について投票するよう求められたのは、合計で約10億人の有権者だった。

リーチは競争上の要素になりつつある。ディヴィエンドラ・シン・ジャドゥンのような新興企業は、顧客にカメラの前でメッセージを朗読してもらい、その後コンピューターが顔の動きと声を分析した。その後、これを使用して、候補者が選挙スタッフに直接話しかけていると思われる AI ビデオが作成された。受信者の名前と携帯電話番号はデータベースから取得される。パーソナライズされた AI ビデオは、WhatsApp 経由でスタッフの携帯電話に直接送信された。

コンサルティング会社ラジニーティ・ポリティカル・マネジメントは、この方法で、28人の候補者の有権者に合計約600万のパーソナライズされたビデオメッセージを送ったと、同社の技術責任者であるヴィナイ・デスパンデ氏は言う。同氏はまた、関心のある人が携帯電話でスキャンできるQRコードも作成した。すると、その人の個人的な環境にいる政治家のアバターが画面に現れる。「コードがスキャンされた場所に応じて、その候補者は異なる演説をする」とデスパンデ氏は言う。例えば、若者の多い地域では、候補者は雇用の創出について語った。

政治家のチャットボットが幻覚を起こす

しかし、こうした AI 企業は、常に技術的限界に達しつつある。たとえば、候補者の声を使った対話型チャットボット通話では、潜在的な有権者が直接会話を求める可能性がある。「選挙のマニフェストに関する情報を使って言語モデルをトレーニングしますが、ときどき幻覚が起きます」とディビエンドラ・シン・ジャドゥンは報告する。「たとえば、政治家が女性に関心があると言っても、実際にはそうではないのです」。ジャドゥンは、自社で独自の倫理基準を設けていると語る。

彼が作るのは「ポジティブな」フェイクだけだ。個人的な動画、有権者と写真を撮る政治家のホログラム、政治家とその成功についてのプロパガンダソングなどだ。政敵のポルノを作る依頼は断った。しかし、この起業家は、今日ではソフトウェアを使ってディープフェイクを作るのに技術的な知識はもはや必要ない、と警告する。モディ首相の政府でさえ、春の選挙ではAIに警告を発していた。その後、選挙運動でAIそのものを使ったが。政府が事前に警告したのは、米国のテクノロジー大手グーグルのAIツール「ジェミニ」が、73歳の政府首脳がファシストであるとの発言を示したためだ。

それにもかかわらず、政党は選挙運動中に、ソーシャル ネットワーク上で対立候補を悪く描写し、コメント欄で中傷するために、オンライン トロールやコンテンツ制作者に資金を投じた。伝えられるところによると、これに最も多くの予算を投じたのはモディのヒンズー教民族主義政党だった。ミュンヘンのルートヴィヒ マクシミリアン大学で人工知能倫理学の教授を務めるスヴェン ニーホルム氏は、AI を使用して民主主義を守り、促進するには新しい法律が必要だと述べている。

一方、開発は継続している。インドにおける政治コミュニケーションは、AI導入前と全く同じにはならないだろうとヴィナイ・デスパンデ氏は言う。ポリマス・シンセティック・メディア・ソリューションズ社は、11月の米国大統領選挙を前に、インドの民主党員と共和党員に自社のサービスを宣伝しようとしている。

dpa