安全設計 | テッククランチ

W
スタートアップと市場に関する週刊ニュースレター > Exchange へようこそ。 にインスピレーションを得たものです 毎日のTechCrunch+コラム 名前の由来はここです。 毎週土曜日に受信箱に届きますか? サインアップ ここ。

テクノロジーの再発明能力 ホイールには欠点があります。それは、他の人がすでに知っているあからさまな真実を無視することを意味する可能性があります。 しかし、良いニュースは、新しい創業者が前任者よりも早く自分自身でそれを見つけ出す場合があるということです。 — アンナ

AIと信頼と安全

今年はオリンピックイヤー、うるう年です。 。 。 そしてまた の 選挙の年。 でも、あなたが私を非難する前に、 米国のデフォルト主義、私はバイデン対トランプの続編だけを考えているわけではありません：60か国以上が 国政選挙の実施、EU議会は言うまでもありません。

これらの投票のそれぞれの変動がテクノロジー企業に影響を与える可能性があります。 たとえば、AI 規制に関しては政党が異なれば見解も異なる傾向があります。 しかし、選挙が行われる前であっても、テクノロジーは選挙の誠実さを保証する役割を果たすことになる。

マーク・ザッカーバーグが Facebook を設立したとき、そしておそらく WhatsApp を買収したときでさえ、選挙の誠実さは念頭になかった可能性があります。 しかし、それぞれ 20 年と 10 年が経ち、今や信頼と安全は、好むと好まざるにかかわらず、メタやその他のテクノロジー大手にとって逃れることのできない責任となっています。 これは、偽情報、詐欺、ヘイトスピーチ、CSAM（児童性的虐待の内容）、自傷行為などの防止に取り組むことを意味します。

ただし、AI によってタスクはさらに困難になる可能性があります。 ディープフェイク あるいは、より多くの悪者に権限を与えることによっても可能です。 のゼネラルパートナー、ロタン・レフコウィッツ氏は言う。 グローブベンチャーズ:

これらすべての信頼性と安全性のプラットフォームにはこれが備わっています ハッシュ共有データベースそれで、悪いことをそこにアップロードして、すべてのコミュニティと共有すると、みんなが一緒にそれを止めようとします。 しかし今日では、それを回避するようにモデルをトレーニングできるようになりました。 そのため、アルゴリズムがこれらすべてを回避できるため、Gen AI のおかげで、より古典的な信頼と安全の取り組みさえもますます困難になっています。

思いつきから最前線へ

オンライン フォーラムはコンテンツのモデレーションについてすでにある程度のことを学んでいましたが、Facebook が誕生したときには従うべきソーシャル ネットワークの戦略は存在しませんでした。そのため、この課題に取り組むまでに時間がかかることはある程度理解できます。 しかし、社内のメタ文書から、はるか昔にまで遡って次のようなことが行われていたことを知るとがっかりします。 2017年子どもたちをよりよく守ることができる措置を採用することに内部的にはまだ消極的でした。

ザッカーバーグ氏は、最近講演会に出席したソーシャルメディア技術者のCEO5人のうちの1人だった。 米国上院公聴会 子供のオンライン安全性について。 Meta にとって証言はこれまでのところ初めてのことではありませんが、Discord が含まれていることも注目に値します。 ゲームのルーツを超えて広がりを見せていますが、オンラインの多くの場所で信頼と安全の脅威が発生する可能性があることを思い出させてくれます。 これは、たとえばソーシャル ゲーム アプリでは、ユーザーがフィッシングやグルーミングの危険にさらされる可能性があることを意味します。

新しい企業はFAANGよりも早く株式を取得するでしょうか? それは保証されていません。創設者は多くの場合、第一原則に基づいて行動しますが、それは良いことでもあり、悪いことでもあります。 の コンテンツモデレーションの学習曲線 は本物。 しかし、OpenAI は Meta よりもはるかに若いため、新しいチームを結成していると聞いて心強いです。 子供の安全を勉強するために たとえそれが厳しい監視の結果だったとしても。

しかし、一部のスタートアップ企業は、問題の兆候を待って行動を起こさない。 AI を活用した信頼と安全のソリューションのプロバイダーであり、Grove Ventures のポートフォリオの一部です。 アクティブフェンス 同社CEOのNoam Schwartz氏は、インバウンドリクエストが増えていると語った。

「設立されたばかりの企業や、まだ立ち上げ前の企業から多くの人が私たちのチームに連絡してくるのを見てきました。 彼らは設計段階で製品の安全性について考えています [and] セーフティ・バイ・デザインという概念を採用。 今日、機能を構築するときにセキュリティとプライバシーについて考えるのと同じように、彼らは製品内に安全対策を組み込んでいます。」

この分野のスタートアップ企業は ActiveFence だけではありません。 有線 「サービスとしての信頼と安全」と表現されています。 しかし、特に買収されて以来、それは最大の企業の1つです 9月のスペクトラムラボ、そのため、クライアントにはPR危機や政治的監視を恐れる大手企業だけでなく、始めたばかりの小規模なチームも含まれていると聞いてうれしいです。 テクノロジー業界にも、過去の失敗から学ぶ機会があります。