世界

AIに生成されたコンテンツを広めると、高価な罰金が科せられる可能性があります

AIに生成された「ディープフェイク」資料は、インターネットにあふれており、時には危険な結果が得られます。昨年、AIは、元米国大統領の声のクローンを欺くために使用され、自然災害で子供を描いた政治的に充電された偽物の画像を広めました。一方、同意しない、AIに生成された性的画像とビデオは、高校生からテイラースウィフトまでのすべての人に影響を与えるトラウマの軌跡を残しています。 MicrosoftやMetaのような大規模なハイテク企業は、AI操作のインスタンスを特定するためにいくつかの努力をしてきましたが、成功した成功しかありませんでした。今、政府は、彼らがかなり知っている何かで潮をつなぎ合わせようとしようとしています：罰金。 今週、スペインの議員は、AIが生成されたコンテンツに適切にラベル付けしなかった場合、最大3820万ドルまたは世界の年間売上高の2〜7％を微調整する新しい法律を高めました。その法案が署名されてから数時間以内に、サウスダコタ州の議員は、政治キャンペーンに影響を与えることを目的とした深い偽物を共有する個人やグループに民事罰と刑事罰を課そうとする彼ら自身の法律を推し進めました。それが通過すれば、サウスダコタ州は2019年以降、ディープフェイクを犯罪化する法律を通過する11番目の州になります。これらの法律はすべて、潜在的に排出された銀行口座の脅威を執行レバーとして使用しています。 によると ロイター、スペイン法案は、昨年公式に施行されたより広範なEU AI法によって設定されたガイドラインに従っています。具体的には、この法案は、「高リスク」とみなされる特定のAIツールにより厳しい透明性要件を課すAI法の規定に懲罰的な歯を追加することを目的としています。ディープフェイクはそのカテゴリに分類されます。 AIに生成されたコンテンツに適切にラベルを付けることができない場合は、「深刻な犯罪」と見なされます。 「AIは、私たちの生活を改善するために使用できる非常に強力なツールです...または誤った情報を広めるために」 ロイター。 人気の科学ニュースレターを入手してください 平日に送信されるブレークスルー、発見、DIYのヒント。 ディープフェイクのラベル付けに関する規則に加えて、この法律は、脆弱であると分類された特定のグループに、いわゆる「サブリミナルテクニック」の使用も禁止しています。また、顔認識などの生体認証ツールを使用しようとする組織に新たな制限を設けて、個人の人種、政治的、宗教的、または性的指向を推測します。法案は、法律になるためにスペインの下院によってまだ承認される必要があります。もしそうなら、スペインはEUの最初の国になり、ディープフェイクに関するAI法のガイドラインを施行する法律を制定します。また、他の国が従うべきテンプレートとしても役立ちます。 私たちの一握りの州がディープフェイクの執行を主導しています 対照的に、新しく提案されたサウスダコタ法案は、より狭く仕立てられています。個人または組織は、本質的に政治的であり、選挙から90日以内に作成または共有されている場合、ディープファークのコンテンツにラベルを付ける必要があります。今週進んだ法案のバージョンには、新聞、放送局、ラジオ局の免除が含まれています。この局は、意図せずにディープフェイクコンテンツを共有する潜在的な法的責任について懸念を表明していたと伝えられています。この法案には、「風刺またはパロディを構成する」ディープフェイクの例外も含まれています。 それでも、サウスダコタ州の法案は、ディープフェイクの広がりを抑えることを目的とした州法のパッチワークの成長への最新の追加を表しています。テキサス、ニューメキシコ、インディアナ、オレゴンはすべて、政治キャンペーンに影響を与えるように設計された深海を特に標的にした法律を制定しています。これらの努力の多くは、ニューハンプシャー州の有権者と呼ばれるジョー・バイデン大統領の声のAIに生成された「デジタルクローン」の後、2024年に勢いを増し、州の大統領予備選挙に参加しないように促しました。バイデン・フェーカリーは、当時ライバルの大統領候補ディーン・フィリップスのキャンペーンのために働いていた政治コンサルタントであるスティーブ・クレイマーによって委託されたと伝えられています。フィリップスは後にディープファークを非難し、彼がそれに対して責任を負わないと主張した。一方、連邦通信委員会は、発信者ID法の真実に違反したとされるため、600万ドルの罰金でKrammerを襲った。 「FCCの執行措置は、違法なロボコール、人工知能、またはその他の手段を使用しても、選挙への干渉を検討する人に強い抑止信号を送ると予想しています」と、ニューハンプシャー州司法長官のジョン・ホルデラは声明で述べました。 Florida、Louisiana、Washington、Mississippiの4つの州は、非同意的でAI生成された性的コンテンツの分布を犯罪化する法律を制定しています。個人に向けられたときに「復venポルノ」と呼ばれることもあるこのタイプの素材は、すでに広くオンラインで広まっている有害なディープファークコンテンツの最も一般的な形式です。と話している独立した研究者 有線 2023年、244,625のディープファークポルノビデオが、過去7年間でトップ35のディープファーキポルノWebサイトにアップロードされたと推定されました。これらのビデオのほぼ半分は、その期間の最後の9か月でアップロードされました。 アップロードの急増は、意味のある保護手段がないことに伴い、より使いやすく、より説得力のある生成的AIツールが非同意のディープフェイクをより一般的にしていることを示唆しています。議員はこの問題にも個人的な利害関係があります。 American Sunlight Project（ASP）が昨年発表した調査では、議会の6人の女性に1人がAIの生成された性的ディープフェイクの標的にされていたことがわかりました。 連邦レベルでディープフェイクを抑える努力は動きが遅くなりましたが、それは変化しようとしている可能性があります。今月初め、ファーストレディのメラニアトランプは、ソーシャルメディアプラットフォームで非同意の親密なイメージ（NCII）を投稿することを連邦政府の犯罪とする物議を醸す法案である「Take It Down Act」を支持して発言しました。合格した場合、法案は、報告されている48時間のNCIIコンテンツと重複を削除するためのプラットフォームも要求します。法案はすでに上院を可決しており、今後数週間または数ヶ月で下院で投票することができました。 「若い十代の若者たち、特に女の子を目撃して、ディープフェイクのような悪意のあるオンラインコンテンツによってもたらされる圧倒的な課題に取り組んでいるのは悲痛です」とメラニア・トランプは言いました。 「この有毒環境はひどく損傷を与える可能性があります。 ディープフェイク防止法の持続的な問題 ディープフェイクを制限するという目標は称賛に値するものですが、批評家は、追求されている法律や法案のいくつかが行き過ぎているのではないかと心配しています。電子フロンティア財団（EFF）は、政治的ディープフェイクをターゲットにしたいくつかの州法で使用される過度に広範な言語が、ドラマチックな音楽を使用したり、候補者に損害を与えると認識されている方法で本物のビデオクリップをまとめたりすることで、悪い俳優によって操作される可能性があることを何年も警告してきました。 EFFは、Take It Down Actやそのような他の人にも問題を抱えています。 「これらの凶悪なプライバシーの侵略の犠牲者を保護することは正当な目標ですが、善意だけでは良い政策を立てるのに十分ではありません」とEFFのシニアポリシーアナリスト、ジョーマリンは言いました。 2025年の開始は、AIに生成されたディープフェイクと戦うための世界的な努力の変曲点をマークする可能性があります。より多くのヨーロッパ諸国は、スペインの主導権に従い、ディープフェイクの創造または広がりを犯罪化する新しい法律を提案する可能性があります。これらの法律の詳細は異なる場合がありますが、EU AI法で確立された根本的なフレームワークによって一部は結合されています。…