アドビ、GenAI を考慮してバグ報奨金プログラムを拡大

アドビは、HackerOne の専門家によって監督されているバグ報奨金プログラムの範囲を、生成型人工知能 (AI) の開発を考慮して拡大し、脆弱性を発見し、責任を持って開示した倫理的なハッカーに報酬を与えます。Adobe Firefly、その生成型 AI プラットフォーム、およびコンテンツ資格情報サービス。

同団体は、生成型 AI が人々の日常生活により密接に統合されるにつれ、生じるリスクを理解し、軽減することがますます重要になっており、プログラムを拡大し、安全、安心、信頼できる AI をめぐるオープンな対話を促進することを期待していると述べた。透明性を提供し、信頼を向上させながら、新鮮なアイデアや視点を奨励します。

「セキュリティ研究者のスキルと専門知識は、セキュリティを強化する上で重要な役割を果たしており、誤った情報の拡散と戦うのに役立つ可能性があります。」とアドビのエグゼクティブバイスプレジデント兼法務顧問兼最高信頼責任者のダナ・ラオ氏は述べています。

「私たちは、重要な問題を最前線に引き上げ、責任ある AI ソリューションの開発を促進するために、Adobe Firefly やその他の主力製品における Content Credentials の実装を強化するために、より広範な業界と協力することに尽力しています」と Rao 氏は述べています。

Adobe Firefly は、Sensei プラットフォームで開発されて 2023 年 3 月に発売され、デザイナー向けの生成 AI モデルのファミリーであり、クリエイティブ コモンズ、ウィキメディア、フリッカー コモンズからの何百万もの画像、および Adob​​e Stock やその他の画像でトレーニングされています。パブリックドメイン。

アドビは、サービスをバグ報奨金ハンターに公開するにあたり、ハッカーが大規模言語モデル (LLM) の OWASP トップ 10 に特に注意を払い、即時インジェクション、機密情報の漏洩、またはトレーニング データ ポイズニングから生じる問題に注目して、システムの弱点を正確に指摘することを望んでいます。ホタル

コンテンツ認証情報をカバーする拡張の 2 番目の部分は、Firefly を使用して作成されたアイテムの出所に関する透明性を高めるのに役立つと考えられます。 これらは C2PA オープン スタンダードに基づいて構築されており、その作成と編集に関する改ざん防止メタデータとして機能します。 コンテンツ資格情報は、Firefly 以外にも、Photoshop や Lightroom など、多くの Adob​​e 製品にわたって統合されています。

「安全でセキュアな AI 製品の構築は、このテクノロジーのリスクについて最もよく知っている専門家を関与させることから始まります。 世界的な倫理的ハッカー コミュニティは、組織が生成 AI の弱点を特定するだけでなく、そのリスクが何であるかを定義するのに役立ちます」と HackerOne のシニア ソリューション アーキテクト、デーン シェレッツ氏は述べています。 「アドビがコミュニティと積極的に関わったことを称賛します。責任ある AI は責任ある製品所有者から始まります。」

ボンネットの下を覗いてみたいと考えている倫理的ハッカーは、Adobe の専用 HackerOne ページで詳細情報を見つけることができます。また、プライベートのバグ報奨金プログラムへの参加に興味がある場合は、ここから申し込むことができます。

5 月 4 日と 5 日の週末に Bsides サンフランシスコに向かうサイバー プロのために、アドビはバグ バウンティ ビレッジにも出席し、ダンサーたちが「テクノロジーの解釈物語を紡ぎ出す」土曜の夜の「ディストピア」パーティーを後援します。倫理的闘争」。

アドビは、バグ報奨金プログラムを通じて生成型 AI のリスクに対処する措置を講じるテクノロジー企業の増加に加わりました。その中には、生成型 AI の供給に特有の攻撃シナリオを包含するためにバグ報奨金制度である脆弱性報奨金プログラム (VRP) を拡張した Google も含まれます。チェーンは 2023 年 10 月に開始されます。