デジタル イノベーションとガバナンスは相反するものではなく、切り離せないものです。

オーストラリアの決断は？ ソーシャルメディアを禁止する 16歳未満の人に対して、政府の行き過ぎの一例を示すのか、それともデジタル時代の責任あるリーダーシップがどのようなものを必要とするのかを早期に示唆するのか？オーストラリアの動き以来、 他の政府 同様の制限について議論し始めており、激しい社会的議論を引き起こしている。これらの展開は総合すると、主に市場主導型のデジタルプラットフォームが若者の生活をどのように形作っているのかについての不安の増大を反映している。

その不安は政策立案者を超えて家族や地域社会にまで広がっている。マサチューセッツ州ブルックラインで両親が結成した ブルックライン キッズ アンプラグド デジタルプラットフォームが子供時代をどのように再形成しているかに対する不快感の増大を反映して、子供たちにスクリーンから離れることを奨励する。

差し迫ったリスクの多くは現在、十分に文書化されています。 ユニセフの報告書 多くの地域で子どもたちが前例のない速度で有害なオンライン コンテンツにさらされており、アフリカと東南アジアでは 5 人に 1 人がオンラインで何らかの形の性的危害を経験しています。女性や少女にとって、状況はさらに厄介です。 ディープフェイクの大規模データセットの分析 コンテンツでは、ほぼすべての性的に露骨なディープフェイク動画が同意なしに作成されており、ターゲットとなっている個人の約 99% が女性であることが判明しています。現在利用可能なディープフェイク ツールの 3 つのうち 1 つでは、ユーザーが露骨な性的コンテンツを作成できます。これらの結果は偶然ではありません。これらは、安全性よりも成長、新規性、規模を優先する設計の選択を反映しています。

この現実は、公共の利益に合わせてデジタル イノベーションをどのように管理すべきかという中心的な疑問を引き起こします。一つの答えはすでに明らかです。人間の尊厳と安全を守る責任を産業界だけに任せてはいけません。政府は常に法の支配を守り、国民を危害から守る義務を負っています。その責任は、成長と利益によってインセンティブが形成され、弱者の保護が主な目的ではない民間主体に委託されるべきではありません。

AI 産業はまだ初期段階にあり、政府にその軌道を形作るための狭いながらも重要な機会を与えています。歴史は、社会が被害がすでに発生した後にのみ強力なテクノロジーに対応することがいかに多いかを示しています。ニック・ボストロムはこの危険性を次のように捉えています。 脆弱な世界仮説、一部のテクノロジーは非常に強力になり、一度誤用すると取り返しのつかない損害を引き起こす可能性があると主張しました。核兵器は最も明確な例です。それらを統治するための本格的な国際的な取り組みは、第二次世界大戦末期の広島と長崎への原爆投下後に初めて行われました。最悪の事態がすでに起こってから対応するというパターンは、AI を使って繰り返す余裕はありません。いくつかのリスクは、自国の広島を待つにはあまりにも大きすぎる。

責任あるリーダーシップがどのようなものかを示す初期の兆候はすでにあります。国際レベルでは、 欧州連合 AI システムの開発と展開における透明性、説明責任、リスク管理について、より明確な期待を設定し始めています。米国では、AI ガバナンスが進んでいます。 パッチワークで形を整える 州法、連邦政府機関のガイダンス、および自主基準の遵守。いくつかの州はディープフェイク、AIの透明性、アルゴリズムによる差別などの問題に対処する法律を導入している。 カリフォルニア、例えば、コンテンツがAIによって生成された場合に開示を義務付けたり、雇用などの分野での自動決定システムの差別的使用に制限を設けたりする法案を可決した。他の州では、選挙や嫌がらせに使用されるディープフェイクなど、AIが生成する欺瞞的なメディアを対象とした法律を制定している。

マサチューセッツ州が投資しているのは、 教師のための AI リテラシー プロジェクトリーダーを通じて、 学校のナビゲートを支援する これらのツールが教室に導入されると、機会とリスクの両方が生じます。コミュニティ レベルでは、地元組織がハッカソンを利用して AI の積極的な応用を模索し、同時に責任ある開発を奨励しています。研究コミュニティと政策コミュニティ全体で、バイアス緩和と安全基準に関する初期の取り組みが融合し始めており、他の地域でも適応できるテンプレートが提供されています。この共有されたコミットメントを具体的な基準に変換するには、損害が発生した時点での具体的で強制力のある介入が必要になります。

そのような介入の 1 つは、デジタル プラットフォームの適用要件です。 透かし に AIが生成したコンテンツ 合成メディアを識別および追跡できる方法でシステム上に作成されます。このようなシステムは、コンテンツが AI によって生成または大幅に変更されたことを明確に通知し、その出所に関する情報を保存する必要があります。企業は、ユーザーはウォーターマークを削除する方法を見つけるだろうと主張することがよくあります。そのリスクによって訴訟が弱体化することはあってはならないが、根底にあるコンテンツを目に見えて歪めずに削除するのが難しい、より堅牢で永続的なテクニカルマーカーを開発する取り組みを強化する必要がある。作成と流通の時点に責任を負わせることで、害が発生する場所での被害に対処します。

より強い国家を批判する人たち 関与はいくつかの重要な異議を引き起こします。政府の介入は行き過ぎで個人の自由や自律性を侵害する危険があると主張する人もいる。また、法的解決策よりも技術的解決策の方が望ましい、あるいは危害の証拠は決定的ではなく、相関関係は因果関係を意味しないと主張する人もいます。また、年齢に基づく制限は効果がないか、簡単に回避できること、規制がイノベーションを抑制すること、子どものデジタルライフに関する決定は国ではなく保護者に委ねられるべきであることなどの現実的な懸念もある。

こうした懸念は真剣に受け止められるべきです。しかし、そのどれもが不作為を正当化するものではない。完全な証拠が存在しないからといって、特に子供や女性に被害が過度に及ぶ場合には、信頼できる増大するリスクの存在が否定されるわけではありません。技術的な安全対策は必要ですが、これらのシステムを設計している同じ企業が自らの説明責任の限界も設定している場合には不十分です。親の責任は重要ですが、大規模なエンゲージメントを最大化するようにプラットフォームが設計されている場合、親の責任は公的基準の代わりにはなりません。イノベーションは規制の空白の中でではなく、明確なルールによって信頼、安全、公的正当性が守られる環境で繁栄します。高リスクの分野では、決定的な証拠や完全なコンプライアンスを待ってから行動することは、歴史的には行動が遅すぎることを意味していました。

AI 時代の最も深刻な課題は技術的なものではないかもしれません。それは倫理的です。ハーバード大学での最近のイベントで、ある講演者は、AI 時代における真の進歩は、尊厳と主体性を守る人類の能力であると示唆しました。子どもたちのことを考えるとき、その洞察は特に緊急です。ボットが最も身近な仲間である子供にとって、それは何を意味しますか?アルゴリズムが慰めや承認の源になると、感情の発達はどのように変化するのでしょうか?現実の経験と合成の経験が曖昧になったとき、アイデンティティはどうなるでしょうか?

これらの質問は、テクノロジー企業の範囲をはるかに超えています。それらは公共政策、教育、心理学、そして長期的な人間開発の問題です。何よりも、それらは国家の責任の問題です。

イノベーションに必要なガバナンスが少なくなるわけではありません。テクノロジーの変化の規模とスピードに見合ったガバナンスが必要です。 AI 業界は初期段階にあり、今はこれまでとは異なるやり方を行う貴重な機会を提供しています。問題はもはや政府が行動できるかどうかではない。問題は彼らがそうするかどうかだ。