AI の害: 自殺、見知らぬ人の死を利用する、ポルノの「ディープフェイク」と欠陥製品の作成 |テクノロジー

シーウェル・セッツァーさん（14）は、プラットフォーム上で人工知能によって作成されたキャラクターに恋をした後、昨年2月に自殺した キャラクター.AI少年の家族が会社を相手取って起こした訴訟によると。故ポール・モーニーは戦闘や戦闘を一度も見たことがありません。 オレナ・ゼレンスカウクライナ大統領の妻がブガッティ トゥールビヨンを購入した。しかし、人工知能（AI）の助けを借りて作成された虚偽の情報は、死亡記事のページに広告を掲載して簡単に金儲けをしたり、ロシアのプロパガンダを生成したりする目的で拡散されている。エジンバラの学校清掃員は 2 人の子供を持つ片親家庭で、システムの人工知能の偏りのため、同じ境遇の他の多くの女性と同様に手当を受けられずに残されました。決済プラットフォームの顧客にとって、アルゴリズム 取引について警告されました そんなことは存在しなかったが、プログラミングエラーの疑いにより車両の安全性に疑問を呈する訴訟が起き、何千人ものユーザーが あなたのデータを使用しました 同意なしで。人工知能の連鎖の末端には人間がいますが、それが彼らに引き起こす可能性のある損害に対する責任は完全に定義されていません。 「ここで私たちは驚くべき立法空白を発見しました」と修士課程の共同ディレクターであるセシリア・ダネーシ氏は警告する。 AIの倫理ガバナンス （UPSA）および著者 人工知能の岐路に立つ消費者の権利 (ダイキンソン、2024)。

見知らぬ人の死で金儲けする。たとえ死者の親族の苦痛を増大させる虚偽を広めるという犠牲を払ってでも、人工知能を使えば簡単で安価だ。これは死亡記事ページを通じて行われ、AI がトラフィックを獲得し、ひいては広告収入を得るために、モーニーの戦歴などの実際のデータまたは架空のデータを使用して故人に関する情報を作成します。 「亡くなった人に関する情報を入手し、特定の地域であってもトラフィックがわずかに増加していることを確認し、その人に関する記事を迅速に公開して、こうした少しずつのトラフィックを獲得することに依存するまったく新しい戦略があります。」 」と検索エンジンの専門家 Chris Silver Smith 氏は説明します。 ファストカンパニー。

虚偽の情報と ディープフェイク ポルノ的な。ページ AI インシデント 毎月、人工知能によって生成された事件や虐待事件に関する数十件のアラートを収集しており、すでに 800 件を超える苦情を特定しています。最新の記録の 1 つに、ドナルド・トランプ氏、米国大統領民主党候補カマラ・ハリス氏の暗殺未遂に関する誤った情報、または虚偽のリアルなポルノ画像に関する誤った情報が含まれています (ディープフェイク) 英国の政策。民主主義のプロセスにおけるこれらの創作物の影響と拡散に対する恐怖が増大しており、ヨーロッパ人の 31% が AI がすでに自分たちの投票決定に影響を与えていると信じていることが、国際機関の調査で明らかになった。 欧州技術洞察レポート 2024、 IE 大学のガバナンス オブ チェンジ センター (CGC) によって開発されました。

「選挙実施におけるAIの役割に対する国民の懸念が高まっています。また、AI が結果に大きな変化をもたらしたという明確な証拠はまだありませんが、AI の出現により、誤った情報やテクノロジーに対する懸念が高まっています。 ディープフェイク 世界中で」と CGC のエグゼクティブ ディレクター、カルロス ルカ デ テナは言います。

「生成 AI を使用してフェイクビデオや画像を作成する場合、AI が媒体、ツールであることは明らかなので、責任は作成者にあります。主な問題は、ほとんどの場合、それを識別することが不可能であることです。の場合 ポルノフェイク [imágenes falsas de contenido pornográfico]たとえば、プラットフォームは女性の画像とともに使用することを奨励しているため、ジェンダーギャップに直接影響します。このジャンルの写真が増えることで、写真は私たちの身体をより正確に表現するようになり、その結果、女性の社会的疎外と偏見がさらに大きくなります。したがって、誤った情報やキャンセル文化の時代においては、教育が非常に重要であり、ユーザーとして私たちが行うべきことは次のとおりです。 ダブルチェック [doble comprobación] 私たちは目にする各コンテンツを確認し、そして何よりも、それを操作する前にそれを確認します」とダネーシ氏は説明します。

研究者、会員 AI の倫理を求める女性たち ユネスコの委員であり、この会議で発表された報告書の共著者でもあります。 G20 ブラジル アルゴリズム監査について、彼は誤った情報の影響に関連して次のように付け加えた。「アルゴリズムには 2 つの役割がある可能性があります。1 つは生成 AI を通じてフェイク ニュースを作成することであり、もう 1 つは検索エンジンやアルゴリズムを通じて行うことです。虚偽のコンテンツを拡散させるソーシャル ネットワーク。この 2 番目のケースでは、公開される各コンテンツを検証することをプラットフォームに要求できないことは明らかです。それは実質的に不可能です。」

自動判別。 AIの誤動作に関する苦情の中には、次のようなものもあります。 ひとり親家庭に害を及ぼす偏見 （90％が女性）スコットランドの福利厚生制度に加入しています。 「AI規制には、偏見（特に高リスクシステムが満たさなければならない要件に関して）を回避するためのさまざまな規定がありますが、民事責任に関連する問題を規制しないことにより、被害者が補償を受けることに貢献しません。」同じことがデジタル サービス法でも起こり、デジタル プラットフォームに一定の透明性義務を課しています」とダネーシ氏は説明します。

不良品。 AI 事件のページには、安全に影響を与える可能性のある車両のプログラミングに欠陥があった可能性を理由に開始された訴訟が含まれています。この意味で、研究者は次のように詳しく述べています。問題は、この規則に基づいて請求できる損害の種類にある。なぜなら、この規則には精神的損害などは含まれていないからである。プライバシーまたは差別に対する攻撃は、この指令の保護から除外されます。」

ダネーシ氏の意見では、これらの事例は、AI の到来により迅速な対応が必要な法律分野の 1 つが民事責任であることを示しています。 「消費者は自らが引き起こす可能性のある損害に非常にさらされているからです。これらの損害に対してどのように対処するかについて明確なルールがなければ、人々は保護されないままになります。しかしさらに、民事責任に関する明確な規則は法的確実性を提供し、革新を促進し、有害な出来事が発生した場合には協定の締結を促進します。なぜなら、企業は責任というゲームのルールを事前に知っているため、自社が取り組むシナリオについてより確実性を持ってどこに何に投資するかを決定できるからです」と彼は主張する。

研究者によると、人工知能規制やデジタルサービス法（デジタルプラットフォーム、ソーシャルネットワーク、検索エンジンなどのアルゴリズムに影響を与える措置を定める）など、欧州レベルでこの問題に対処しようとする取り組みがあるという。 、提案されている AI 責任指令、および差し迫った欠陥製品指令の改革。

「その指令は時代遅れになりました。製品の定義はデジタルではなく、より物理的なものに基づいていたため、AI システムに適用できるかどうかさえ議論されました。この変更には、デジタル製造ファイルとコンピューター プログラムが含まれるため、製品コンセプトの拡張が含まれます。この規格の焦点は個人の保護にあるため、損害が物理的な製品によって引き起こされたのかデジタル製品によって引き起こされたのかは当然無関係になります」と彼は説明します。