1760789977
2025-10-18 11:46:00
OpenAIがSoraプラットフォーム上でユーザーがマーティン・ルーサー・キング・ジュニアの動画を生成することを停止したとき、それは敬意を表する行為、つまり公民権運動のアイコンの画像を悪用から守る行為を意味していた。
しかし、多くの倫理学者にとって、この決定はさらに厄介な問題を引き起こした。人工知能の時代において、誰が合成復活から保護されるべきであり、誰がアルゴリズムのなすがままにされるのか?
この論争は、キング牧師の有名な演説「私には夢がある」の改変版など、指導者のイメージや言葉を歪曲した一連のディープフェイク動画をキング牧師の財産が非難した後に始まった。
一部のクリップでは、キング牧師がマルコムXと対立するシーンを捏造し、娘のバーニス・A・キング氏がそれらを「無礼」だと呼び、プラットフォームに削除するよう促した。
OpenAIはすぐに、「歴史上の人物に対するガードレール」を強化する一方で、キング牧師の肖像の使用を「一時停止」すると発表した。
同社は、公人を描くことには「強い言論の自由の利益」があると認識していると述べたが、その画像がどのように使用されるかは最終的には家族や遺産が決定すべきだと付け加えた。
この動きはその繊細さで賞賛されたが、その選択性で批判も招いた。 OpenAIは、ジョン・F・ケネディやスティーブン・ホーキング博士など他の人物を保護せず、キング牧師を保護することで、多くの人が倫理的に矛盾していると見なす一線を引いた。
デジタルの尊厳かデジタルディバイドか?
生成AIの専門家ヘンリー・アジダー氏は同社の決定を歓迎したが、より深刻な不平等を露呈したと警告した。
同氏はBBCに対し、「キング牧師の遺産管理団体はOpenAIに対して当然のこととしてこの問題を提起したが、多くの亡くなった個人は彼らを代表する有名な財産や十分な資金を持っていない」とBBCに語った。
アジュデル氏は、有名人だけがデジタル上の尊厳を与えられ、その他の人々がオンライン操作の公平な対象となる未来について警告した。
彼の警告は、多くの倫理学者が現在恐れていること、つまりAIの道徳的境界が特権、可視性、富によって形作られているということを捉えている。
OpenAIは、バーニス・キングやコメディアンの故ロビン・ウィリアムズの娘ゼルダ・ウィリアムズなど、公人やその家族が介入した場合には行動してきたが、一般人やあまり知られていない歴史上の人物は依然としてほとんど保護されていない。
AI、法律、そして記憶を巡る戦い
人工知能は今や盾であると同時に脅威でもあります。有害なコンテンツをフィルタリングし、拡散する前にディープフェイクを検出できるだけでなく、誰もが前例のないスピードで非常にリアルな虚偽を作成できるようになります。
議員らは対応に苦戦している。 EUのAI法は、合成メディアに明確なラベルを付けることを義務付ける新たな規則を導入しているが、倫理学者らは、本当の危険は規制の先にある、文化的記憶そのものを書き換えるAIの力にあると主張している。
AI倫理学者のオリビア・ガンブラン氏はディープフェイクを「危険な歴史の書き換え」と呼び、デジタル転生は真実と遺産を同様に歪める危険性があると警告した。
家族にとって、その影響は極めて個人的なものです。ゼルダ・ウィリアムズさんは、AIが父親を再現したことを「不快」だと述べ、バーニス・キングさんは同意なしに父親の画像を使用することは「失礼」だと述べた。貢物と搾取の間の感情の境界線は危険なほど薄い。
墓を超えた同意
OpenAIはBBCに対し、Soraに対するより明確な制御を開発するために「著名人やコンテンツ所有者と直接対話」を行っており、悪用を防ぐための複数の保護層を約束していると語った。
しかし批評家たちは、同意する権利は名声や家族の資源に依存すべきではないと主張する。キング牧師やロビン・ウィリアムズのような財産家は介入できるが、ほとんどの人は介入できない。
アジュデル氏を含む専門家は、デジタル上の肖像を単なる創造的な素材ではなく、個人の道徳的および文化的遺産の一部として扱う、統一された世界的枠組みを主張している。
そのようなルールがなければ、将来、死者は2つのクラスに分けられる可能性がある、と彼らは警告している。記憶が保護されている者と、AIが再発明するためにアイデンティティが残されている者である。
#マーティンルーサーキングジュニアのディープフェイク後専門家はAIの復活から誰が安全なのかと問う