AI との過剰共有: ChatGPT の会話がどのように利用されるか

私8月28日未明、ミズーリ州の大学キャンパスにある静かな駐車場が、暴力的な破壊行為の現場となった。 45分間で17台の車が窓ガラスが割れ、ミラーが割れ、ワイパーが剥がれ、シャーシがへこんだ状態で放置され、数万ドル相当の損害が発生した。

1か月にわたる捜査の後、警察は靴跡、目撃者の証言、防犯カメラの映像などの証拠を収集した。しかしそれは自白と思われる内容だった チャットGPT それは最終的に19歳の大学生ライアン・シェーファーに対する告発につながった。

事件直後のAIチャットボットとの会話の中で、シェーファーは携帯電話のアプリに大虐殺の様子を説明し、「私はどれだけ気が狂ったんだ？..複数の車からたわごとをぶつけたらどうなる？」と尋ねた。

誰かがこのテクノロジーを通じて自分自身に罪を負わせる史上初の事件とみられ、警察は事件での「厄介な会話」を挙げている。 報告書 シェーファーに対する容疑の詳細を明らかにした。

それから 1 週間も経たないうちに、ChatGPT が再び宣誓供述書で言及されましたが、今回はより注目度の高い犯罪でした。 29歳のジョナサン・リンダークネヒトは、今年1月にカリフォルニア州で数千の家や企業を破壊し、12人を殺害したパリセーズ火災を起こした容疑で逮捕された。 人工知能 燃える街の画像を生成するアプリ。

この2つの事件は、AIが人々を犯罪に巻き込む最後の事件になる可能性は低く、OpenAIの責任者であるサム・アルトマン氏は、ユーザーとチャットボットとの会話には法的保護がないと述べた。アルトマン氏によると、これは初期のテクノロジーに対するプライバシー上の懸念だけでなく、人々がそのテクノロジーと共有したがる機密情報も浮き彫りにしているという。

「人々は人生で最も個人的なくだらないことについてChatGPTに話します」と彼は今年初めにポッドキャストで語った。 「人間関係の問題を抱えている人々、特に若者、セラピストやライフコーチとしてこのサービスを利用しています…そして現在、これらの問題についてセラピスト、弁護士、医師に相談する場合、それに対する法的特権のようなものがあります。」

ChatGPT のような人工知能モデルの多用途性は、プライベートな家族写真の編集から、銀行ローンの申し込みや賃貸契約書などの複雑な文書の解読に至るまで、あらゆる用途に人工知能モデルを使用できることを意味します。これらの文書にはすべて高度な個人情報が含まれています。あ 最近の研究 OpenAI によると、ChatGPT ユーザーが医療アドバイス、ショッピング、さらにはロールプレイングを行うために ChatGPT を利用する人が増えていることが明らかになりました。

他の AI アプリは、仮想セラピストまたはロマンチックなパートナーとして自らを明示的に宣伝しており、より確立された企業が使用するガードレールはほとんどありませんが、ダークウェブ上の違法サービスにより、人々は AI を腹心だけでなく共犯者として扱うことを可能にしています。

共有されているデータの量は、法執行の目的にとっても、それを悪用しようとする犯罪者にとっても驚くべきものです。今年初めに Perplexity が AI を活用した Web ブラウザを発表したとき、セキュリティ研究者らは、ハッカーがこれを乗っ取ってユーザーのデータにアクセスし、そのデータを使って脅迫できる可能性があることを発見しました。

このテクノロジーを管理している企業も、この新たな密接なデータの宝庫を活用しようとしています。 12月からは、 メタ は、AI ツールと人々のインタラクションを利用して、Facebook、Instagram、Threads にターゲットを絞った広告を配信し始める予定です。

AI との音声チャットやテキスト交換は、ユーザーの個人的な好みや購入に興味がある可能性のある製品について詳しく知るためにスキャンされます。そして、それをオプトアウトする方法はありません。

「たとえば、ハイキングについて Metal AI とチャットすると、あなたがハイキングに興味があることがわかるかもしれません」とメタ氏はアップデートを発表したブログ投稿で述べた。 「その結果、ハイキング グループのおすすめ、トレイルに関する友人の投稿、またはハイキング ブーツの広告が表示されるようになるかもしれません。」

比較的穏やかに聞こえるかもしれませんが、 ケーススタディ 検索エンジンやソーシャル メディアを通じて配信されるターゲット広告の割合は、それらがいかに破壊的であるかを示しています。 「お金の助けが必要」などの言葉を検索する人々に略奪的ローンの広告が配信されたり、オンラインカジノがフリースピンで問題のあるギャンブラーをターゲットにしたり、高齢者のユーザーが退職後の貯蓄を高値の金貨に費やすよう奨励されたりしています。

メタの最高経営責任者マーク・ザッカーバーグ氏は、今後どれだけの個人データが大量に流出するかをよく知っている。 新しい AI 広告ポリシー。同氏は4月に、ユーザーがMeta AIに「私たちのアプリ全体で、あなたやあなたが気にかけている人々について、あらゆることを知る」ことができるようになると述べた。彼はまた、かつて Facebook ユーザーを自分のデータを信頼しているとして「バカ野郎」と評した人物でもあります。

「好むと好まざるにかかわらず、Meta は世界中の友人を結び付けることが目的ではありません。そのビジネスモデルは、ほぼ完全にプラットフォーム全体でターゲットを絞った広告スペースを販売することに基づいています」とサイバーセキュリティ企業 Malwarebytes の Pieter Arntz 氏は Meta の発表直後に書いた。

「業界は倫理とプライバシーの大きな課題に直面しています。ブランドとAIプロバイダーは、特にAIツールが機密性の高い行動データを収集し分析する中で、パーソナライゼーションと透明性およびユーザーコントロールのバランスを取る必要があります。」

AI の有用性によって個人のプライバシーと利便性の間のトレードオフが深まるにつれ、テクノロジーと私たちの関係が再び精査されています。同様の方法で、 ケンブリッジ・アナリティカのスキャンダル Facebook などのソーシャル メディア サイトをどのように使用しているかを人々に考慮させることにより、この新たなデータ収集傾向やシェーファー氏やリンダークネヒト氏のようなケースによって、プライバシーがテクノロジー アジェンダの最上位に押し戻される可能性があります。

ChatGPT の立ち上げから 3 年も経たないうちに、現在では スタンドアロン AI アプリを使用する 10 億人以上の人々。これらのユーザーは、多くの場合、知らず知らずのうちに、略奪的なテクノロジー企業、広告主、さらには犯罪捜査官からの搾取の対象となっています。

サービスに料金を支払わない場合、あなたは顧客ではなく製品になるという古い格言があります。この AI の新時代においては、このことわざを書き換えて、製品という言葉を獲物に置き換える必要があるかもしれません。