1756130319
2025-08-25 13:13:00
ケリー・フォーブスは、 AIアジア太平洋研究所 （AIAPI）、David HuaはAIAPIの研究者であり、Peter BrimbleはAIAPIのボードチェアおよび副社長です。 AIAPIは、人工知能の責任ある発展と採用を促進することにより、アジア太平洋経済の強化を約束するグローバルな非営利組織です。 AIAPIは独立した非営利団体であり、そのサポーターには慈善団体、多国間機関、開発パートナー、政府機関が含まれます。
人工知能（AI）の急速な成長は、デジタル景観を再構築し、既存のオンライン害を増幅し、より複雑なオンライン安全リスクを導入しています。生成AIにより、技術的な専門知識を持たない消費者デバイスを使用して、本物のコンテンツと区別できない合成コンテンツを作成できるようになりました。 a 報告 NetsafeとAI Asia Pacific Instituteは、AIの新たなオンライン安全性への影響を強調しており、ディープフェイクの台頭を明確な例として指摘しています。このレポートは、虚偽の広がり、性的なコンテンツの作成、および視聴者を大規模に視聴者をターゲットにするパーソナライズされたコミュニケーションを促進するために、ディープフェイクがどのように使用されるかを詳述しています。 AI強化されたオンライン害の洗練度と量に対処するには、オンラインハームライフサイクルのさまざまな段階を対象とした設計ガバナンスによる安全性による安全性が必要であり、オンライン安全性の特徴的な技術的および人間的側面の両方を考慮します。
DeepFakesは、悪意のある俳優がオンラインの危害を加え、情報環境を歪めるためのますます一般的なツールです。 2025年の第1四半期だけで、Deepfake Scamは、公人、個人、およびサービスプロバイダーになりすまして人々をだましてお金を譲渡するようになりました。 2億米ドル。ディープフェイクは、女性、若者、子供を不釣り合いにターゲットにするポルノコンテンツを作成するためにも使用されています。そのような資料は、六分前とグルーミングを促進するために使用されており、韓国やオーストラリアなどの国を促した自傷行為と深刻な感情的苦痛の事件に貢献しています。 創造を犯罪化します 無関心な性的ディープフェイクの。
AIが生成したコンテンツは、世論に影響を与え、選挙の結果を動揺させることを目的とした、偽情報と誤った情報キャンペーンを強化するためにさらに使用されています。ルーマニアでは、AI主導の偽情報が関与する外国の干渉に関する懸念は、 無効化 2024年の大統領選挙の。ディープフェイクは、過激化プロパガンダと採用キャンペーンに登場する過激主義を促進するためにも使用されています。最近の例の1つです AI生成オーディオ エマ・ワトソンが「メイン・カンプ」を読んでいます。これは、ナチズムを促進するために使用されました。
ディープフェイクの燃料の有害な使用が成長しています デジタルおよびニュースメディアに対する一般の不信、悪い俳優を促進して、本物のコンテンツを誤っていると信用して信用しています。 「嘘つきの配当。」 これは、オンライン議論で観察されています ロシア・ウクレーン そして イスラエルとパレスチナ 本物の戦争のイメージがAIに生成されたと疑われた戦争。この問題は、AIが進むにつれて悪化する可能性があります。例えば、 地平線上にエージェントAIがあります、個人は、繰り返しユーザー入力を必要とせずに、リアルタイムイベント（ソーシャルトレンドやグローバルイベントなど）に適応する合成コンテンツを継続的に生成するようAIシステムに指示することができます。
これらの新しい形式のデジタルコンテンツの作成と分布の規模と速度を考えると、人間が手動で緩和することは実行不可能ですが、AIは人間またはAIによって生成されるかどうかにかかわらず、有害なコンテンツを検出および削除するために利用できます。例えば、 インドネシアの通信情報省 AIを使用して、コンテンツプロバイダーに削除またはブロックするように要求する前に、ソーシャルメディアプラットフォームと検索エンジンで有害なコンテンツを特定するのに役立ちます。したがって、AIは、作成に貢献する非常にオンラインの安全上の課題に対処するための強力なツールである可能性があります。ただし、AIはコンテキストとニュアンスに苦労しており、AIに生成されたコンテンツを検出すると誤検知しやすいため、それは万能薬ではありません。結果として、風刺やエンターテイメントなどの本物のコンテンツとディープフェイクの合法的な使用は、たとえば、サイバーいじめや偽情報として誤ってフラグを立てることがあります。
オンラインハームライフサイクルに対するシステムレベルの応答に向けて
私たちのコンテンツはあなたの受信トレイに配信されました。
技術と民主主義の交差点での問題やアイデアに関するニュースレターに参加する
ありがとう！
サブスクライバーリストに正常に参加しました。
Design Governanceアプローチによる全体的な安全性は、Harm Lifecycleのさまざまな段階で介入を確立することにより、幅広いAI対応のオンライン安全性に対処するために必要です。これは、aの観点からフレーム化できます 「curb-respondの準備」フレームワーク これは、一般の意識、技術的な保護手段、および装備後の救済策を組み合わせています。 「準備」段階は、AIとの対話の影響に関する情報に基づいたインターネットの使用と認識を促進するために、デジタルメディアリテラシーの取り組みを通じて、エンドユーザーのオンライン害に対する感受性を低下させることに焦点を当てています。 「縁石」の段階では、コンテンツフィルターやAIが生成されたコンテンツの起源を追跡する透かしプロトコルなど、有害なデジタルコンテンツの作成と拡散を制限することを目的とした予防的介入が必要です。 「対応」段階では、危機カウンセリングや法的措置やコンテンツの削除命令を追求するための苦情の手段など、有害なコンテンツの効果を改善することを目的とした反応的措置を採用しています。このフレームワークをサポートするには、AI強化されたオンライン害の範囲を把握し、適切な執行メカニズムを提供する目的に適した法的および規制ツールが必要です。
国内の政策介入は、AI対応のオンライン害の局所的な影響に対処するために重要ですが、彼らの国境を越えた範囲と起源に対処するためには、調整された国際的なガバナンスと行動が必要です。などのフォーラム グローバルオンライン安全規制官ネットワーク そして AI安全機関の国際ネットワーク AIとオンライン安全性の交差点でグローバルなコラボレーションを可能にすることができます。彼らは、効果的な政策対応、新たな危害、および現実世界のケースからの教訓に関する知識共有をサポートできます。国家条件の多様性と、世界的な文化的、法的、政治的文脈の影響（および逆）を考えると、国際協力は大きな相互利益を提供します。
AI時代のより安全なデジタルコースのチャート：アジア太平洋の視点
主要なデジタル変革を受けている地域では、「準備」フレームワークを適用するための重要な機会と遅い走行の利点がありますが、AI Facilitatedのオンライン害は出現していますが、まだ広まっていません。これは特に太平洋に関連しています。 初期段階 AIの採用とそのデジタルインフラストラクチャで進歩し始めています。インターネットアクセスが拡大し、AIシステムがより洗練されるにつれて、そのような害はますます一般的になる可能性があります。
太平洋のオンライン安全に関する地域コンセンサスは、の実施計画に反映されています パシフィックアイランドフォーラム2050戦略の「テクノロジーと接続の柱」、これは、オンラインの危害に対する文化的に敏感な保護を提供する保護手段の必要性を強調しています。これは、いくつかの人に直面している太平洋の女性にとって特に重要です 世界中の性別に基づく暴力の最高レベル そして、成長するテクノロジーが促進した虐待に対して脆弱です。緊急性は、この地域の人口統計によって高められます。 地域の人口の半分以上は25歳未満です、よりデジタルメディアに関与しているため、AIを誤用したり、AI誤用の犠牲者になるリスクがあるグループ。たとえば、aがあります 上昇傾向 若者や学校の生徒の間で、ディープフェイクを使用していじめやいたずらの仲間を使用して、真の害を引き起こします。
AI強化されたオンライン安全性に取り組むためのフィジーのアプローチは、グローバルなオンライン安全規制当局ネットワークのデジタル成熟度とメンバーシップを考えると、太平洋のモデルを提供します。国の 全国デジタル戦略 「大幅な削減を通じてより安全なデジタル環境を作成するという目標を設定します[s] オンライン詐欺、ネットいじめ、有害なコンテンツで。」その測定値は、「準備」フレームワークと一致します。
オンラインの危害に対して一般の人々を「準備」するために、彼らは持っています オンライン安全性に関する60,000を超える小冊子を配布しました 安全で情報に基づいたインターネット使用とサイバー回復力を促進するためのコミュニティベースのサイバーセキュリティの取り組みをサポートしています。パーソナライズされたAI詐欺の急速な上昇を「抑制」するために、彼らは専用を確立しました 詐欺タスクフォース 電気通信プロバイダーと協力して技術的措置を模索しています。 Imbrited Online Harmsに対して「対応」することで、犠牲者の救済策が改善されています。 レビューの実施 コンテンツテイクダウンプロセスを通じて、憎悪とジェンダーに基づく虐待に対する執行を強化するための彼らのオンライン安全法の法律。
一方、国がデジタルおよびAIの開発にさらに沿っている東南アジアでは、AI対応のオンライン害の国境を越えた性質に対処するために、重要な多国間努力が進行中です。東南アジア諸国協会（ASEAN）が発表されています AIガバナンスと倫理に関するガイダンス これは、特にディープフェイク、詐欺、および偽情報に関連して、生成AIのリスクに対処するためのポリシーの推奨事項を概説しています。さらに確立しました 地域のコンピューター緊急対応チーム AIで増幅されているサイバー詐欺の成長する脅威との闘いに関する調整された地域行動を改善する。最近では、マレーシアが議論を主導しています ASEAN AI安全ネットワークを確立します 責任あるAI周辺の地域の規制およびガバナンスの能力を強化することを目的としています。これらのタイプの地域イニシアチブは、より大きな知識共有と共同インシデント対応を通じて、オンラインの害を抑え、対応するための国家レベルの介入をサポートするために重要です。
より安全なデジタルの世界を育むには、特にエージェントAIの増加とAIへの一般的な相互作用と依存の増加に伴い、AIの絶え間ない進化に適応できるガバナンスフレームワークが必要です。これには、AIモデルに向けられた技術的な保護手段は万能薬ではないことを認識する必要があります。モデルレベルの介入を超えて人間中心の懸念に対処することにより、誤用と被害者のエージェントにより多くの注意を向ける措置には、イノベーションとリーダーシップの重要な機会があります。これらの考慮事項で一般の意識、技術ツール、および政策措置を調整することにより、AIをより効果的に活用して、それが作成するリスクに対処し、オンラインの危害と戦う能力を強化することができます。
#AI強化されたオンラインの害に対処するためのガバナンスによる設計による安全性