スケールAIは、メタの143億ドルの投資に続いてデータが安全であることを顧客に安心させようとしているため、リークされたファイルとスタートアップの請負業者は、いくつかの深刻なセキュリティホールがあることを示しています。
スケールAIは、公開Googleドキュメントを使用して、Google、Meta、Xaiなどの有名な顧客向けの作業を追跡し、リンクを持つ人なら誰でもアクセス可能な「Confidential」というラベルのある複数のAIトレーニングドキュメントを残しています。
請負業者はBIに、同社は公開Googleドキュメントに依存して内部ファイルを共有していると語った。これは、少なくとも240,000人の請負業者の広大な軍隊に効率的であり、明確なサイバーセキュリティと機密性のリスクを提示する方法だと語った。
スケールAIはまた、民間の電子メールアドレスや「不正行為」の疑いがあるかどうかなど、数千の請負業者に関する繊細な詳細を記載したGoogleドキュメントを公開しました。これらのドキュメントの一部は、右のURLを持つ人なら誰でも表示および編集することができます。
このため、スケールAIが違反に苦しんでいるという兆候はありません。 2人のサイバーセキュリティの専門家は、そのような慣行が会社とそのクライアントを、請負業者になりすましたり、マルウェアをアクセス可能なファイルにアップロードしたりするなど、さまざまな種類のハッキングに対して脆弱になる可能性があるとBIに語った。
スケールAIは、Business Insiderに、データセキュリティを真剣に受け止め、問題を調査していることを伝えました。
「私たちは徹底的な調査を実施しており、スケール管理されたシステムからドキュメントを公開するユーザーの能力を無効にしています」とスケールAIのスポークスマンは述べています。 「私たちは、機密情報を保護するための堅牢な技術的および政策保護に引き続きコミットしており、常に慣行を強化するために取り組んでいます。」
メタはコメントを拒否しました。 GoogleとXaiはコメントのリクエストに応答しませんでした。
Metaの大ヒット投資をきっかけに、Google、Openai、Xaiなどのクライアントはスケールで仕事を一時停止しました。ブログで 役職 先週、Scaleは、厳格なセキュリティ基準を持つ中立で独立したパートナーであり続けていることを大手ハイテククライアントに安心させました。
同社は、「顧客の信頼を確保することは、常に最優先事項であり、また最優先事項である」と述べ、「顧客の機密情報を保護するための堅牢な技術的およびポリシー保護手段」があると述べた。
BIの調査結果は、セキュリティを確保するのに十分なことをしたかどうか、およびチェックを書く前にメタが問題を認識していたかどうかについて疑問を投げかけます。
機密AIプロジェクトにアクセスできました
BIは、AIの大手ハイテククライアントとの作業を拡大するために結びついた85の個別のGoogleドキュメントで数千ページのプロジェクトドキュメントを表示できました。ドキュメントには、GoogleがChatGptを使用して自分の苦労しているチャットボットを改善する方法など、デリケートな詳細が含まれています。
スケールはまた、Googleによって「機密」とマークされた少なくとも7つの取扱説明書を公開しました。これは、リンクを持っている人なら誰でもアクセスできました。これらのドキュメントは、GoogleがBardで間違っていると考えていること、つまり複雑な質問に答えるのが困難だったこと、そして請負業者がどのように修正すべきかを説明しています。
Elon Musk’s Xaiの場合、スケールは4月の時点で少なくとも10個の生成AIプロジェクトを実行したため、公開Googleドキュメントとスプレッドシートは、今月初めに「プロジェクトキシロフォン」の詳細を示しています。トレーニング文書と700の会話プロンプトのリストは、ゾンビの黙示録から配管まで、プロジェクトが幅広いトピックに関するAIの会話スキルの改善にどのように焦点を合わせたかを明らかにしました。
上部に機密とマークされたメタトレーニングドキュメントも、リンクを持っている人には公開されていました。これらには、「良い」および「悪い」音声プロンプトの例を備えたアクセス可能なオーディオファイルへのリンクが含まれており、AI製品の表現力に設定された標準メタが示唆されています。
BIがインタビューしたいくつかのスケールAI請負業者は、彼らが作ったクライアントがコードネームされているにもかかわらず、タスクの性質や指示のフレーズの方法から、どのクライアントが働いたかを簡単に把握できると述べました。時にはさらに簡単になりました。BIが見たプレゼンテーションには、Googleのロゴがありました。
プロジェクトが匿名化されることを意図していても、さまざまなプロジェクトの請負業者がクライアントや製品を即座に認識していると説明しました。場合によっては、単にモデルを促すか、どのチャットボットが基礎となるクライアントを明らかにするかを直接尋ねるだけだと請負業者は言いました。
AI左請負業者情報を公開します
他のGoogleドキュメントは、スケールの請負業者に関する繊細な個人情報を公開しました。 BIは、ロックダウンされていないスプレッドシートをレビューし、数千人の労働者の名前とプライベートGmailアドレスをリストしました。 BIから連絡を受けたいくつかは、ドキュメントのURLを持っている人なら誰でもアクセスできることを知って驚いたと言いました。
関連するストーリー
ビジネスインサイダーはあなたが知りたい革新的な物語を語っています
ビジネスインサイダーはあなたが知りたい革新的な物語を語っています
多くのドキュメントには、仕事のパフォーマンスに関する詳細が含まれています。
「Good and Bad Folks」というタイトルの1つのスプレッドシートは、数十人の労働者が「高品質」または「不正行為」の疑いのいずれかに分類されます。何百もの個人的なメールアドレスの別のリストのタイトルは、「すべての不正行為者の動き」と題されています。
別のシートは、スケールAIのプラットフォームから「誤って禁止」された1,000人近くの請負業者を挙げています。
他の文書は、賃金紛争と矛盾に関する詳細なメモとともに、個々の請負業者がどれだけ支払われたかを示しています。
システムは「信じられないほどjanky」のようでした
別々のプロジェクトに取り組んだ5つの現在および以前のスケールのAI請負業者は、BIに、Googleドキュメントの公開ドキュメントの使用が全面的に広まっていると語った。
請負業者は、主にフリーランスの貢献者に依存している規模で合理化された操作を使用すると述べました。各請負業者の個々のアクセス許可を管理すると、プロセスが遅くなります。
縮尺AIの内部プラットフォームでは、労働者が自分自身を検証する必要があり、時にはカメラを使用する必要がある、と請負業者はBIに語った。
同時に、AIモデルのトレーニングに関する情報を含む多くのドキュメントは、検証なしで他のドキュメントのパブリックリンクまたはリンクからアクセスできます。
「Googleドキュメントシステム全体は常に非常にjankyなように見えました」とある労働者は言いました。
他の2人の労働者は、もはや取り組んでいない古いプロジェクトへのアクセスを保持していると言いました。
「もちろん危険です」
コロンビア大学のサイバーセキュリティ講師であるジョセフ・スタインバーグは、公共のGoogleドキュメントを介して内部作業を組織することで、深刻なサイバーセキュリティのリスクを生み出すことができるとBiに語った。
「もちろん、それは危険です。ベストケースのシナリオでは、ソーシャルエンジニアリングを可能にするだけです」と彼は言いました。
ソーシャルエンジニアリングとは、ハッカーが従業員や請負業者をだましてアクセスを放棄する攻撃を指します。多くの場合、社内の誰かになりすましています。
数千の請負業者に関する詳細を簡単にアクセスできるようにすると、そのような違反の多くの機会が生まれます、とスタインバーグは言いました。
同時に、セキュリティにもっと投資すると、成長指向のスタートアップが遅くなる可能性があります。
「他の企業が市場に向けてより速く移動するため、実際にセキュリティを正しく行うことに非常に頻繁に負ける企業」とスタインバーグは述べた。
Googleドキュメントの一部が誰でも編集可能であるという事実は、他の人がクリックするためのドキュメントに悪意のあるリンクを挿入する悪い俳優など、リスクを生み出します、とサイバー企業Trace3の地域ディレクターであるStephanie KurtzはBIに語りました。
Kurtzは、企業はInvitesを介してアクセスを管理することから始めるべきであると付け加えました。
「それをそこに置き、誰かがリンクを共有しないことを望んでいるので、それはそこでの素晴らしい戦略ではありません」と彼女は言いました。
ヒントがありますか？メールでこのレポーターに連絡してください [email protected]m または信号とwhatsappで 628-282-2811。 個人のメールアドレスと非加工デバイスを使用します。 情報を安全に共有するためのガイドを次に示します。
#AIのパブリックドキュメントをスケールするAIプロジェクトのセキュリティホールを明らかにする