TNL ニュース レンズ批判コメント ネットワーク

中国国家広電総局は２０２６年初めに、いわゆる「ＡＩ改変動画」を１カ月間取り締まる「特別統治」を開始する。

公式メディアによると、これらの映画は生成人工知能（GenAI）技術を利用して「古典的な映画やテレビ作品」の内容を「破壊的な改ざん、魔術的解体、低俗な翻案」を行い、「未成年者の正しい文化的認知と現実認識の形成を妨害」しているという。

2024年末、国家ラジオ・映画・テレビ総局は地元のラジオ、映画、テレビ部門に対し、「管轄内の短編ビデオおよび音声プラットフォームを監督し、AIで改変されたテレビドラマの短編ビデオを調査して削除する」よう要請した。今回、国家ラジオ映画テレビ総局は、中国全土で「AI改変」テレビドラマを一掃する取り組みを主導した。

公式文書の文言は、再編が国家安全保障の分野に関与していることを示している。アナリストらはBBC中国語に対し、これは人々の心の中で歴史的出来事についての統一された公式の物語を維持しようとする中国政府の試みと無関係ではないと指摘した。

「AI魔法改革」：中国は何を取り締まろうとしているのか？

写真提供: BBC ニュース中国語

「魔術改造」は法律用語ではありません。中国共産党中央委員会政治法務委員会の機関紙「法治日報」は、上海弁護士のリー・ユエ氏の発言を引用し、「魔法の改変」とは通常、原作に対する大幅かつ破壊的な改変を指し、原作の中核要素、キャラクター設定、テーマが大幅に変更されることを指すという。一部のオンライン百科事典ウェブサイトでは、この用語は 2010 年代の手工芸愛好家による絶妙な改造活動に由来すると主張しています。

日本語にも似た言葉に「魔改造」があり、これは1982年のアニメ作品『模型黒城』に由来する。この言葉は人生のさまざまな分野に適用されてきました。公共放送 NHK の番組「魔法変身ナイト」は、おもちゃから家電までさまざまな「魔法変身」を専門に紹介し、関連技術も教えています。

中国国家ラジオ映画テレビ総局テレビドラマ局2025 年グレゴリオ暦の大晦日に発表された発表同氏は、「生成型人工知能技術の急速な発展に伴い、一部のオンラインアカウントはAIツールを悪用し、古典的な映画、テレビ、漫画、その他のコンテンツを破壊的に改ざんし、魔法のように解体し、下品に翻案している」と述べた。

「これらのコンテンツは、古典作品の精神的核心を大きく逸脱し、オンラインコミュニケーションの秩序を混乱させ、侵害を助長し、業界の発展を危険にさらし、未成年者の正しい文化的認識と現実認識の形成を妨げます。」

発表によると、今回の特別管理の目的は、「三國志」「水滸伝」「西遊記」「紅楼夢」の四大古典、歴史的テーマ、中国共産党革命のテーマ、中国共産党が認めた英雄やモデル、その他のテレビシリーズに基づいて「AI魔法改変」を受けた映画を一掃することだという。

この発表では、クリーンアップ オブジェクトの 4 つのカテゴリがリストされています。

• それは原作の精神的核心とキャラクターイメージを著しく侵害し、基本的な認識を覆し、一般的なコンセンサスを解体します。
• 内容は流血の暴力を誇張し、下品で、間違った価値観を助長し、公序良俗に違反します。
• 中国文化の流用と改ざんという未解決の問題があり、実際の歴史的時空と中国文明のアイデンティティの明らかな誤解につながり、文化的アイデンティティに影響を与えています。
• 子どもたちが知っていて大好きなアニメキャラクターを題材にしたさまざまなカルトアニメーション。

写真提供: BBC ニュース中国語

オーストラリアのRMIT大学メディア・コミュニケーション学部の研究者であるジョアン・クアイ博士は、研究と教育の過程で、これらの「AI魔法改造」コンテンツに触れてきました。

Kuai Xiaoqiong博士は「BBC Chinese」に対し、「私はこの種のコンテンツを個人的な好みに基づいて評価することはあまりないが、歴史や文化に対する体系的な誤解、未成年者の価値判断の誤解、あるいは国民の認識や信頼の低下など、重大な害を引き起こすかどうかに焦点を当てている」と語った。

ビル・アイチソン博士は、広東省珠海にある北京師範大学文化創造学部の映画およびテレビの准教授であり、パフォーマンスアーティスト兼俳優でもあります。

アイチソン博士は「BBC Chinese」に対し、「今回の新たな規制は、これまでのメディア規制と照らし合わせて検討されるべきだと思う。総合すると、これらの措置には非常に一貫した目的がある。それは、中国の文化と歴史の公式版を国民の心の中に維持することだ」と語った。

Kuai Xiaoqiong博士はまた、「中国政府は政治的およびイデオロギーの一貫性を非常に重視しており、それは生成型AIのリスクを定義する方法にも直接影響を与える」と述べた。

「しかし、より賢明な理解は、この行動を単一形式のコンテンツに対する単なる政治的対応としてではなく、近年の中国のアルゴリズム、プラットフォーム、生成AIの体系的なガバナンスの一環として位置づけることだ。」

テレビドラマ部門が今回の修正を発表する1年前、国家ラジオ映画テレビ総局インターネット視聴覚部門は同様の修正を含む「管理上の助言」を発表していた。その中には、『震桓伝』が「銃撃戦映画」に、『紅楼夢』が「武侠ドラマ」に、『西遊記』の孫悟空がバイクで走り去った作品などが清掃の対象となった。発表によると、そのような映画は2024年末に登場するとのこと。

テレビドラマ部門の最新の発表では、「特別なガバナンスにより、オンライン視聴覚プラットフォームはその主な責任を果たし、コンテンツの審査と管理を強化し、違法コンテンツを断固として一掃し、混乱が目立つアカウントに対処し、「AI魔法で改変された」動画の蔓延という負の傾向を逆転させ、若者の健全な成長に向けた良好なオンライン空間を創出することが求められている。」

2025年7月には、中国国家サイバー空間局と中国共産党中央サイバーセキュリティ情報化委員会弁公室も、2か月にわたる特別作戦「青朗2025夏期未成年者のインターネット環境是正」を開始した。是正の対象には「未成年者分野におけるAI機能の不適切な適用や依存症誘発の問題」などが含まれた。

発表では、修正の対象には「文化的アイデンティティに影響を与える」コンテンツが含まれると述べた。 2014年4月15日に習近平・中国共産党中央委員会総書記が「文化的安全保障」を含む「総合的国家安全保障概念」を提案して以来、中国共産党員や学界幹部による「文化的アイデンティティ」と国家安全保障を結びつける論文が相次いで掲載された。

2024年4月、北京師範大学中国共産党哲学院書記の呉宇軍教授は光明日報に寄稿し、「国の文化的安全保障の核心としての文化的アイデンティティ」と「国と民族の生存と発展の精神的支柱としての文化的アイデンティティ」について述べた。 「文化的アイデンティティを確立するプロセスは、国の文化的安全保障を安定させるプロセスでもあります。」

武漢の中南経済法律大学刑事司法学院の教師である張毅博士は、かつて中国社会科学院のウェブサイトに「文化的安全保障は、政治、経済、社会などのさまざまな分野で近代化を実現するための重要な前提条件および重要な要素となっている」と述べた記事を掲載した。同氏は、「革新的な開発モデルやコミュニケーションチャネルの拡大などを通じて、文化的アイデンティティを促進し、国家文化を人々の心に深く根付かせ、国家文化の安全を根本的に守る」と提案した。

ニューヨークのシラキュース大学パブリック コミュニケーション学部のニック ボウマン教授は、没入型およびインタラクティブ メディアのユーザー エクスペリエンスを専門とし、生成 AI の責任ある使用の分野にも携わっています。また、台北の国立政治大学コミュニケーション学部でも定期的に講義を行っています。

バオ・ニック教授は「BBC Chinese」に対し、「AI魔法改造」ビデオが中国で公開されたことに驚かなかったと語った。 「これは、エンターテインメントメディアの視聴者が非常に長い間作り続けてきた『ファンクリエーション』です。」

「このような措置は、中国政府のメディアに対する検閲と監督の観点から予想されている。しかし、この動きは、リミックスの作成に参加するファンの『参加型文化』を根本的に誤解している、あるいはおそらく意図的に無視していると思う。」

ボニク教授は、「参加型文化」という概念は南カリフォルニア大学（USC アネンバーグ）のコミュニケーション学者であるヘンリー・ジェンキンス教授から来たものであり、「ファンの創造」はこの概念の「好例」であると説明し、「世界の多くの地域で、これはファンがコンテンツに投資する一般的で人気のある方法です」と説明した。

「ファンの創作は、さまざまな理由から、キャラクターの興味深いバックストーリーを作成するなど、非常に無害な形式から、政治問題やさまざまな社会混乱を伴うなど物議を醸す分野まで多岐にわたります。」

「ほとんどの場合、こうした『歪み』は意図的なもので、人々は自分にとって重要なストーリーを伝えたいと考えているため、人気のあるドラマやエンターテインメント作品をリミックスすることでこれを行うこともあります。」

「AI加工動画」が台頭した理由とは？

ビル・アチソン博士は、「ジェネレーティブ AI を使用すると、古典的な作品の再編集や改作が非常に簡単になり、そのような映画は自然に観客を惹きつけるでしょう。」と説明しました。

「（中国の）当局は、この内容が、彼らが活性化しようとしている伝統文化を笑いものにしてしまうのではないかと心配しているのだと思います。この態度にはある種時代遅れの雰囲気があり、ポストモダンの傾向に反していますが、それは一般的に真実です。」

Kuai Xiaoqiong 博士は、「生成 AI によってコンテンツ制作の規模、速度、コストが変化し、有害な可能性のあるコンテンツが非常に低い閾値で急速に拡散することが可能になりました。この場合、プラットフォームの自己規律や市場規制だけに依存するだけでは、外部リスクに対処するには不十分であることがよくあります。」と指摘しました。

新華社通信の「経済報報」は、AI短編ドラマ配給会社瑞和電視台の創設者羅世海氏の発言として、AI漫画（何もないところから完全にキャラクターやシーンが生成される漫画）の制作費は1分あたり約1,000～3,000元（429米ドル、13,500台湾ドル）であると伝えた。 Bilibili に 466,000 人のファン、YouTube に 28,000 人のファンを持つテクノロジーブロガーの「Xuan Jiang」氏は、5 秒の漫画のコストはわずか 1.34 元で、1 分あたり 40.2 元に相当するとさえ言いました。

Bilibili から Q&A ウェブサイト Zhihu まで、いわゆる「ステップバイステップ」および「ナニーレベル」の AI ビデオ生成チュートリアルがすぐに利用できます。

2025年10月、AIチャットボットChatGPTの開発者であるOpenAIは、テキスト生成ビデオアプリケーションSoraの最新バージョンをリリースし、わずか5日間で全世界で100万ダウンロードを記録し、OpenAIの予想を上回りました。

米国の著名なYouTubeチャンネル所有者「ミスタービースト」ことジミー・ドナルドソン氏は、世界中で何百万人もの人々がAI動画の制作で生計を立てており、AI動画の品質は現実の動画に匹敵するものであり、ブロガーの将来が不透明になるため恐ろしいと感じていると語った。

「AI魔法改革」是正の法的根拠は？

写真提供: CCTV

国家ラジオ映画テレビ総局テレビドラマ局の発表では、この特別な是正を実施するためにどのような法律が引用されたかについては言及されていない。しかし、中国の公式メディアが報じた「AIの魔法変革」現象の内容に基づくと、国家ラジオ映画テレビ総局には、引用できる複数の部門横断的な行政規制がある。

2001年に発効し、2024年12月に最後に改訂された中国国務院の「出版管理規則」では、視聴覚製品と電子出版物の両方を出版物と定義し、出版物に「国家統一、主権、領土一体性を危険にさらす」、「国家の安全を危険にさらし、または国家の名誉と利益を損なう」、「民族憎悪、民族差別を扇動し、民族統一を損なう、または民族の習慣や習慣を侵害するもの」、「社会道徳や優れた民族文化の伝統を危険にさらすもの」。

また、「出版物管理規程」では、「未成年者を対象とした出版物には、未成年者に社会道徳に反する行為や違法・犯罪的行為を模倣させる内容を含ませてはならない。また、恐怖、残虐行為その他未成年者の心身の健康を害する内容を含まないものとする。」と規定しています。

2018年3月に旧国家新聞出版ラジオ映画テレビ総局が公布した「オンライン視聴覚番組の配布順序のさらなる規制に関する通知」では、「古典的な文学作品、芸術作品、ラジオ、映画、テレビ番組、およびオリジナルのオンライン視聴覚番組は、許可なく再編集、再吹き替え、または再字幕を付けてはならない。特定の番組クリップは傍受して新しい番組につなぎ合わせなければならない」と規定されている。放送用に、曖昧さを生み出すために編集および改ざんされた番組クリップは、ネットユーザーによってアップロードされたものを含め、編集および改変された視聴覚番組の配布チャンネルを提供してはなりません。」

それ以来、中国国家ラジオ映画テレビ総局とサイバースペース局も他の政府と協力して、2019年「オンラインオーディオおよびビデオ情報サービス管理条例」、2022年「オンライン情報サービス徹底合成管理条例」、2023年「生成型人工知能サービス管理暫定措置」を公布した。

「生成型人工知能サービスの管理に関する暫定措置」では、「生成型人工知能サービス提供者」は組織のみならず個人にも適用される。

写真提供: VCG (Getty Images経由)

Kuai Xiaoqiong博士はさらに、「古典的な作品、歴史物語、子供向けコンテンツに関しては、生成型AIの『再作成』には、著作権、文化的記憶、公共的価値の再構成が含まれることが多い。したがって、鍵となるのは、創造的な自由があるかどうかではなく、誰がその境界を定義するか、そしてテクノロジーの使用に対するトレーサビリティと責任をどのように確保するかである」と指摘した。

「AI改変映画」に関する中国公式メディアの報道は、弁護士や法学者の発言を引用することが多く、こうした制作活動が「翻案権」「実演家の権利」「肖像権」の侵害に当たる可能性があると指摘している。

ボニク教授は、一般的にメディア企業はファンの「改変」行為を強制的に取り締まることに消極的であることが多いと考えている。「なぜなら、これらの企業はファンがコンテンツと対話し続けることができるという『参加型文化』の恩恵を受けているからである」。

「アメリカの文脈では、クリエイターが自分のファンの創作物が変革的であると主張できれば、そのような作品は保護される可能性が高い。あるいは、メディア企業は単純にクリエイターを取り締まって悪評を買いたくないだけかもしれない。」

しかし、ボニック教授は、これは「魔法の改変」コンテンツ制作者が絶対に安全であることを意味するものではないと述べ、「関連企業が市場や評判の面で損害を受けたことを証明できれば、ファンの防御余地は縮小するだろう」と述べた。

「AI魔法改造」には実際に危険性があるのか？

写真提供: VCG (Getty Images経由)

中国共産党機関紙、人民日報の2025年11月の論評は、「AIによって改変された『外国の山海の古典』に触れた一部の子供たちは、実際に『山海の古典は外国であり、中国の山海の古典はまったく美しくない』と結論付けた」と述べた。

『山と海の古典』は、紀元前 221 年以前の先秦時代の神話物語と自然史の百科事典です。 「人民日報」の記事は、「プラットフォームが責任を負い、監視が強化され、家庭と学校が連携して力を合わせれば、AI魔法改革の『汚い交通』は隠れる場所を失うだろう。透明なサイバースペースでのみ、子供たちは本当の『山と海の古典』を理解し、健全な成長の道を歩むことができる」と述べた。

BBCのグローバル偽情報チームと子供向けニュース番組ニューズラウンドは、2023年にYouTubeなどのプラットフォームでAIが生成した科学、技術、工学、数学（STEM）教育ビデオを共同調査し、50以上のチャンネルで20以上の言語で、さまざまな疑似科学や陰謀論を含む誤情報ビデオを発見した。

BBC の記者は、英国とタイの 10 ～ 12 歳の学童のグループに、実際のコンテンツと AI システムを備えたビデオを視聴してもらうよう手配しました。英国の学生はBBCに対し、古代エジプト人が「ピラミッド発電」技術を習得していたことは「全く知らなかった」と語った。この技術は、実験中に調査ジャーナリストのチームにアルゴリズムによって押し付けられたAIの捏造だった。

オックスフォード・インターネット研究所のビクトリア・ナッシュ博士は当時BBCに対し、「私たちは常に公式の物語に反するものに特に魅了され、子供は大人よりも影響を受けやすい」と語った。

「子供たちは、自分が見たものを最初に事実として受け入れる傾向があります。おそらく、大きくなるまで疑問を持ち始めないでしょう。」

ニューヨークのシラキュース大学のボニク教授はBBC中国語に対し、「これが本当に生成AIの問題なのかどうかは分からない。なぜなら、私たちは何世代にもわたって、無害なものから極端なものまで、古いものから新しいものまで、あらゆる種類のファン作品を作成してきたからだ」と語った。

「これは、古い問題を新たなテクノロジーが再暴露しているだけです。『AI によって写真がよりリアルに見えるようになるので、さらに面倒になる』と私たちは言うかもしれません。」しかし、それ自体が問題なのかどうかはわかりません。」

中国では、政策や法的管理にさえ焦点を当てずに、視聴者教育を通じて「AI魔法改革」と戦うことは可能でしょうか？

「私が理解できるのは、歴史と現在の出来事を理解することに関して、彼らは社会の分断につながる可能性のある米国の『ポスト真実』の道をたどることを避けたいため、単一の歴史の物語を推進することに固執しているということです」と珠海UICのビル・アチソン博士は述べた。

「より多様な社会では、より柔軟なコンテンツ規制と組み合わせて、教育とメディアリテラシーの向上によって問題を解決できると期待されるかもしれないが、中国はそのような環境ではないため、規制がより大きな役割を果たしている。」

ロイヤル・メルボルン工科大学のXiaoqiong Kuai博士は、「生成AIの潜在的な害は『古典の書き換え』をはるかに超えている」と述べた。

「より深刻な問題には、高齢者を対象としたAI詐欺、AIの交友関係やデジタルでの親密さによって引き起こされる倫理論争、生成されたコンテンツで永続化され増幅される人間の偏見、ディープフェイク技術による国民の信頼と事実判断の低下などが含まれる。」

彼女はまた、「AI とメディア リテラシー教育は間違いなく非常に重要であり、長期的かつ継続的な投資が必要です。

しかし、生成 AI の非常に感情的で没入型でパーソナライズされたコンテンツ環境では、一般大衆、特に子供、十代の若者、高齢者だけに頼って自分たちでリスクを特定するのは非現実的です。したがって、ほとんどのガバナンス システムは、教育、プラットフォームの責任、制度的規範、規制ツールを組み合わせて、マルチレベルのガバナンス取り決めを形成する必要があります。 」

「AI魔法改革」に対する弾圧は中国のオンライン映画やテレビの発展に影響を与えるだろうか？

中国のさまざまな調査プラットフォームは、マイクロ短編ドラマが大規模な産業になったと説明しています。

中国網信情報センター（CNNIC）のデータによると、2025年上半期の中国ネットユーザー数は11億2,300万人、マイクロショートドラマのユーザー数は6億2,600万人に達した。民間の深センデータアイ研究所は、中国のマイクロ短編ドラマ市場規模が2024年に505億元となり、初めて映画興行収入を超えると報告した。 2025年の市場規模は前年比25.6%増の634億3,000万元に達すると推定されている。 2027 年には 856 億 5,000 万元に達すると予想されます。

北京に本拠を置くマーケティングデータ調査会社ミャオジェン・システムズが、中国広告協会および深セン大学コミュニケーション学院と共同で作成した一連のレポートでは、2025年にリリースされるAIマイクロショートドラマコンテンツの数は約1億5000万本で、2030年までにはその数が年間4億2000万本に達すると予測されていると指摘している。

従来のテレビシリーズや映画と比較して、さまざまなマイクロショートドラマは現在、中国政府の承認を得るために審査に提出する必要はありません。しかし、経済情報日報の報道によると、業界関係者らは、2026年上半期に関連政府部門がAI短編ドラマのより具体的かつ厳格な管理規則を発布し、関連するレビューやセグメント化規則が含まれる可能性があると予想しているという。

クアイ・シャオチオン博士は、国家ラジオ・映画・テレビ総局による「AI改変映画」の是正は確かに「政府の波及」のリスクを引き起こすと信じている。

「規範や標準が比較的一般的である場合、クリエイターはリスク回避のために自己検閲を行う可能性があり、その結果、創造的なスペースが圧迫されます。これは制度上の不信感をある程度反映しています。」

「しかし、歴史的な経験は、創造性がその結果として消えることはなく、より曖昧で、より抵抗力があり、より想像力豊かな文化的実践に変化することが多いことを示しています。人々は最終的には新しい方法で創造し、制限に対応し続けるでしょう。」

ビル・アイチソン博士は、「短編ドラマの制作者は規制の枠組みの下で活動することに慣れており、新しい規制にもすぐに適応できるため、大きな障害なく制作を継続できるはずだ」と述べた。

Kuai Xiaoqiong 博士は、AI 詐欺などの問題を考慮すると、専門的な基準と公的責任を持つコンテンツ作成者には、信頼できる高品質のコンテンツを通じて視聴者との信頼関係を再確立する機会があると付け加えました。

ボニク教授は、良い面として、「参加型文化」がメディア自体に影響を与える可能性があることを示す例があると指摘した。 「ゲーム開発者やシリーズ制作者は、ファン作品から要素を借用し、それらのコンテンツを独自の商業作品に統合することになります。」同時に、テレビ作家、プロデューサー、俳優は、そのような取り締まりに直面するかどうかに関係なく、コンテンツを制作し続けるだろうと彼は信じています。

「本当に影響について話したいのであれば、禁止することでファンの投資が弱まるのではないかと心配しています。これは決して良いことではありません。」

この記事「BBCニュース中国語」許可を得て転載、原文ここに掲載されます

さらに読む

[Key Comment Network のメンバーとして参加してください]優れた記事が毎日あなたのメールボックスに直接送信され、独占的な毎週の編集セレクション、時事問題のセレクション、アートウィークリー、その他の特別な電子ニュースレターが届きます。メッセージを残して、記事の内容について著者、記者、または編集者と話し合うこともできます。今すぐクリックして無料会員になりましょう！

担当編集者：鍾有珠
レビュー編集者: Zhang Bocheng