1729370254
2024-10-19 17:00:00
TechCrunchが継続中の「AIにおける女性」シリーズの一環として、AIに焦点を当てた女性学者やその他の人々に、当然の、そして期限を過ぎたスポットライトを浴びる時間を与えようとしているが、TechCrunchは、データサイエンス担当副社長であるレベッカ・ポートノフ博士にインタビューした。非営利団体 とげ、子供たちを性的虐待から守るテクノロジーを構築しています。
彼女はプリンストン大学に通い、その後カリフォルニア大学バークレー校でコンピューター サイエンスの博士号を取得しました。彼女は、2016 年から働いているソーン社で昇進を続けています。彼女はボランティアの研究員としてスタートし、8 年後の現在、おそらく世界で唯一、機械の製造に特化したチームを率いています。子どもたちを性的虐待から阻止、予防、守るための学習と人工知能。
「プリンストン大学の4年生の時、卒業後に何をしようかと考えていたとき、姉がニコラス・クリストフとシェリル・ウーダンの『Half the Sky』を読むように勧めてくれました。それが私に児童性的虐待のテーマを教えてくれました」と彼女はTechCrunchに語った。と、この本が彼女にこの分野で変化をもたらす方法を学ぶきっかけを与えたと語った。彼女は、特にこの分野での機械学習と AI の使用に焦点を当てて博士論文を書き続けました。
子どもたちを守る使命
ソーンでは、ポートノフ氏のチームが被害者の特定、再被害の阻止、性的虐待資料のウイルス拡散防止に取り組んでいる。彼女は昨年、Thorn と All Tech Is Human の共同の Safety by Design イニシアチブを主導しました。この取り組みは、人々が生成 AI を使用して子供たちに性的危害を加えるのを防ぐことに努めています。
「これは、生成モデルによる不正行為のマテリアルの生成を防止し、そのようなマテリアルをより確実に検出できるようにし、この不正行為のマテリアルの作成に使用されるモデル、サービス、アプリの配布を防止するための原則と緩和策を共同で定義することで、非常に大きな進歩でした。業界リーダーがそれらの基準に従うよう調整することです」と彼女は思い出しました。彼女は、この活動に献身的に取り組む多くの人々に会ったと語った。「でも、すべてが始まった当初よりも白髪が増えました」
実際、これは AI が進化するにつれて直面する最も差し迫った問題の 1 つであると彼女は言いました。 「未成年者の10人に1人は、同級生が他の子供のヌード画像を作成した事件を知っていたと報告しています」と彼女は言う。
「私たちはこの現実の中で生きる必要はなく、すでにこの現実を放置してしまっているのは容認できません。」しかし、この悪用を防止し、減らすために導入できる緩和策はあると彼女は述べた。たとえば、ソーン氏は、ハイテク企業が自社のセーフティ・バイ・デザインの原則と緩和策を採用し、児童性的虐待を助長する自社の生成型 AI 技術や製品の悪用をどのように防止しているかを公に共有するよう提唱している。米国電気電子学会 (IEEE) と国立標準技術研究所 (NIST) は、進捗状況の監査に使用できる企業向けの基準の設定を支援するとともに、政策立案者と協力してこれがいかに重要であるかを知らせます。
「すべての企業と利害関係者を参加させるためには、影響力に基づいた法律が必要となるだろう」と彼女は述べた。
AI分野で女性として働く
ポートノフ氏は、AI 構築の分野で昇進していく中で、人々が彼女のアドバイスを無視し、代わりに技術的な背景を持つ人に相談するよう求めてきたことを思い出します。 「私の返答は？ 「心配しないでください、あなたは技術的な背景を持つ人と話しているのです」と彼女は言いました。
彼女は、準備を整え、自信を持って行動し、善意を前提とすることなど、このような男性が多い分野で働くのに役立ったことがいくつかあると語った。準備ができていることで、彼女はより自信を持って部屋に入ることができますが、自信があるからこそ、好奇心と大胆さを持って課題を乗り越えることができ、「まず理解すること、次に理解されることを求めています」と彼女は続けた。
「善意を前提にすることで、防御的ではなく優しさをもって課題に取り組むことができます」と彼女は言いました。 「その善意が本当に存在しないとしても、いずれ明らかになるでしょう。」
AI への参入を目指す女性たちへの彼女のアドバイスは、常に自分の能力と意味を信じなさいというものです。彼女は、人々が自分について抱いている思い込みによって自分の可能性が決まるという罠に陥りやすいが、現在の AI 革命ではみんなの声が必要になるだろうと語った。
「ML/AI が人間のシステムにさらに統合されるにつれて、私たち全員が協力して、集合的な繁栄を築き、私たちの中で最も弱い立場にある人々を優先する方法でそれが確実に行われるようにする必要があります。」
倫理的な AI の構築
ポートノフ氏は、責任あるAIには透明性、公平性、信頼性、安全性の必要性など多くの側面があると述べた。 「しかし、それらすべてに共通点が1つあります」と彼女は続けた。 「責任を持って ML/AI を構築するには、同僚の技術者だけでなく、より多くの関係者と関わる必要があります。」
これは、より積極的な傾聴とコラボレーションを意味します。 「責任ある AI を構築するためのロードマップに従っているときに、その過程で組織やエンジニアリング チーム以外の誰とも話し合っていないことに気付いた場合は、おそらく間違った方向に向かっていると考えられます。」
そして、投資家がAI新興企業に数十億ドルを注ぎ込み続ける中、ポートノフ氏は、投資家はデューデリジェンスの段階から早い段階で責任を検討し始め、投資を行う前に企業の倫理への取り組みを確認し、その後一定の基準を遵守するよう求めることができると示唆した。会った。これにより「被害を防ぎ、前向きな成長を可能にする」ことができます。
「やるべきことはたくさんあります」と彼女は一般論を語った。 「そして、それを実現できるのはあなたです。」
#における女性たち #レベッカ #ポートノフ博士は有害なディープフェイクから子供たちを守っています