Facebook、TikTok、その他のソーシャルメディアを規制する明確な方法があります

強力なテクノロジーが米国政府にとって、これほど大きな規制上の課題をもたらしたことはおそらくかつてないでしょう。 1月の州予備選の前に、ニューハンプシャー州の民主党員はロボコールの再生を受信した AIが生成した ディープフェイク音声録音 バイデン大統領が投票しないよう奨励している。 たとえば、アメリカ国民を暴力に駆り立てる政治的なディープフェイクを想像してみてください。 このシナリオを考えるのはそれほど難しいことではありません 新しい研究 ニューヨーク大学からの説明によると、 虚偽、憎悪に満ちた、または暴力的なコンテンツの配布 2024 年の選挙に対する最大のデジタル リスクとしてソーシャル メディアが挙げられます。

私たち 2 人は、以下のような現代史の中で最も重要なソーシャル メディアに関する決定の策定と施行を支援してきました。 リベンジポルノの禁止 Redditと トランプ氏の入国禁止 Twitter上で。 したがって、ソーシャルメディア企業がコンテンツをモデレートするために完全に自主規制に依存することがいかにうまく機能しているかを私たちは直接見てきました。

評決は「全く良くない」。

有害なコンテンツが豊富にある ほとんど規制されていないソーシャルメディア上で、すでに2021年1月6日の連邦議会議事堂での暴動未遂を助長するのに役立っている。 試みた ブラジルのクーデター 2023 年 1 月 8 日。危険はさらに悪化するばかりです。 レイオフヒット 業界、 最高裁判所 そして 会議 これらの問題に正面から取り組むことができず、 不可解なCEO 打ち上げ 会社に劇的な変化をもたらす。 AI が生成したフェイクポルノなど、リアルなディープフェイクを作成するための、ますます洗練された新しいテクノロジーへの幅広いアクセス。 テイラー・スウィフト、カモが広まりやすくなります。

米国のソーシャルメディア企業の現状は、規制のない航空業界に似ています。 飛行時間や遅延を追跡しなかったり、墜落事故を記録してなぜそれが起こったのかを調査しなかったらどうなるかを想像してみてください。 不正なパイロットや乗客の存在がまったく発見されず、それらの人物が今後のフライトからブラックリストに登録されなかった場合を想像してみてください。 航空会社は、何をする必要があるのか、どこに問題があるのかについてあまり理解できなくなります。 彼らはまた、責任を負うことも少なくなるだろう。 安全性と危害を追跡するためのソーシャルメディア業界の標準と指標の欠如により、私たちは最下位への競争に駆り立てられています。

国家運輸安全委員会や連邦航空局と同様に、米国のテクノロジー企業を規制する機関が設立されるべきである。 議会は、ソーシャルメディア企業に対する基本的な安全性とプライバシーのルールを確立し、施行する責任を負う独立した当局を創設することができる。 コンプライアンスを確保するために、政府機関は関連する企業情報や文書にアクセスし、コンプライアンスを遵守していない企業に責任を問う権限を持たなければなりません。 もし、いつ、何かが しくじる、 最近のボーイング社の事故後に運輸委員会がボーイング社を調査できるのと同じように、政府機関は何が起こったのかを調査する権限を持つべきである。

ソーシャルメディアの危害を抑制するのは困難な作業です。 しかし、私たちはどこかから始める必要があり、一部の米国議員がTikTokでやろうとしているように、すでに大きな影響力を持ったプラットフォームを禁止しようとする試みは、終わりのないもぐらたたきのゲームを仕掛けているだけです。

プラットフォームは、削除されたアカウントの数、削除された投稿の数、およびそれらのアクションが行われた理由を追跡できます。 また、プライバシー、安全性、その他の規則違反を犯すために使用された電話機の隠蔽されているが追跡可能なデバイス ID と IP アドレスの全社データベースを構築することも実現可能である必要があります。これには、決定の根拠となった投稿や活動へのリンクも含まれます。人とデバイスをカタログ化します。

企業は、コンテンツをモデレートするためにアルゴリズムがどのように使用されているか、また偏見を避けるための安全策の詳細も共有する必要があります (研究 たとえば、自動化されたヘイトスピーチ検出は人種的偏見を示し、人種に基づく危害を増幅する可能性があることを示しています。 少なくとも、企業はからの支払いを受け取ることを禁止されるだろう。 テロリスト Tech Transparency Project で X (旧 Twitter) が行っていることが判明したように、ソーシャル メディア アカウントの認証を検討しているグループ。

人々は、児童ポルノの禁止、スパムフィルター、追跡したアカウントなどの個々のアカウントの停止など、ソーシャルメディア上ですでにどれだけのコンテンツ削除が行われているかを忘れがちです。 イーロン・マスクのプライベートジェット。 ハラスメント、有害なデータ共有、誤った情報を防止するためにこれらの民間企業を規制することは、ユーザーの安全、プライバシー、エクスペリエンスを拡張するために必要かつ自然なことです。

ユーザーのプライバシーと安全を保護するには、ソーシャルメディア企業がどのように機能するか、現在のポリシーがどのように作成されたか、コンテンツモデレーションの決定が歴史的にどのように行われ、施行されてきたかについての調査と洞察が必要です。 安全チームのメンバーはコンテンツ管理という重要な作業を行い、重要な内部知識を保持していますが、最近では次のような企業で規模が縮小されています。 アマゾン、 ツイッター そして グーグル。 こうした一時解雇により、技術系のキャリアを追求しながらも民間の技術部門で不確実性を感じている人の数が増加していることに加え、これらの問題に取り組むためのスキルと知識を備えた多くの個人が雇用市場に残されている。 彼らは、実用的で効果的なソリューションを作成するために、新しい機関によって採用される可能性があります。

技術規制は超党派の支持を得ている稀な問題だ。 そして2018年、議会は政府のサイバーセキュリティを保護する機関を創設した。 国内外の企業のレガシー技術と新興技術の両方からの脅威に対抗するために、新たな規制機関を創設することは可能であり、そうすべきである。 そうしないと、私たちは次から次へとソーシャルメディアの惨事に見舞われるだけになってしまいます。

アニカ・コリアー・ナヴァローリはジャーナリスト、弁護士であり、コロンビア・ジャーナリズム・スクールのデジタル・ジャーナリズム・トウ・センターの上級研究員です。 彼女は、Twitter と Twitch の元上級政策担当者でもあります。 Ellen K. Pao はテクノロジー投資家兼提唱者であり、Reddit の元 CEO であり、受賞歴のあるダイバーシティとインクルージョンの非営利団体 Project Include の共同創設者でもあります。