1729710892
2024-10-23 18:35:00
座席とコンピューター間のインターフェイスは、人間ではなく AI です…マウスとキーボードを使用してコンピューターとそのアプリケーションを操作することは、Anthropic の Claude Sonnet 3.5 による新しいバージョンでできることです。良い方向への進化、そしておそらくは悪い方向への進化。
車を運転したり、メールに返信したり、画像やビデオを生成したり…もうすぐ、 IAAI は、良くも悪くも、私たちの生活の大部分で私たちに取って代わることができるでしょう。最善を期すためには、味方に頼ったほうがよい 倫理 チャットボットを開発する Anthropic 社出身の高潔な人物 クロード。創設者は OpenAI の元メンバーであり、会社の指示により脱退しました。彼らは目先の利益ではなくAIの公益に頼っており、それがもたらす壊滅的な結果を招く可能性がある。そして、逆説的ですが、さらに悪いことに、Anthropic は改良版を公開したばかりです。 クロード 3.5 ソネット。その特徴は、あらゆるものを理解し、対話できることです。 応用デスクトップアプリケーション。言い換えれば、AI は「座席、スクリーン、キーボード」のインターフェイスを置き換えることができます。 賢い人賢い人。
そこで、「」という API のおかげで、 コンピュータの使用 」のように、オープンベータで利用可能な新モデルは、キーストローク、ボタンクリック、マウスジェスチャーを模倣できます。この結果を達成するために、Anthropic は画面上で何が起こっているかを確認し、解読できるようにモデルをトレーニングしました。 経由 キャッチします。次に、画面上のソフトウェア ツールを使用してタスクを完了します。マウスポインタを正しい場所に移動してクリックすると、クロードはその数を数えます。 ピクセル垂直方向と水平方向のピクセル。最終的には、目の前に本物の人間が座っているような錯覚を与えます。 コンピューターコンピューター。
「テレワーク」モードにおけるこのようなシステムの利点はすぐに想像できます。昼寝中にコンピューターの前にいるふりをするのに便利です。私たちはまた、ミズ・アン・アビスの一種を想像することもできます。この能力により、クロードはコンピューターの前で次のことを行うことができる可能性があります。 チャットGPTChatGPT、Gemini、そしておそらく彼自身さえも…
さらに深刻なのは、この自律インターフェイスが悪用されると懸念されることです。実施者 ハッカー コンピュータ上では、アプリケーションの脆弱性を直接悪用することが可能になる可能性がありますが、これはほんの一例にすぎません。 Anthropic は、新しい Claude Sonnet 3.5 が悪い目的に使用される可能性を否定することなく、その使用によって得られる利点を強調しています。
キーボードとマウスの AI
彼らにとって、このツールで何ができるかは用途によって決まります。これを使用すると、それに応じてセキュリティのレベルが向上します。そしてどのような場合でも、人間は特定のプロンプトを提供することで制御を維持します。クロードの行動を指示するのは彼らだ。これは、「 このフォームに記入するためにコンピューターとオンラインのデータを使用します 」とメディアが行ったAnthropicマネージャーへのインタビューによると テッククランチ。たとえば、クロードは、フライトを予約したり、予約を変更したりする能力をテストされました。彼はそのうちの半分しか成功しなかった。とはいえ、人間がオンライン予約インターフェイスで困難に遭遇することも珍しいことではありません。しかし、これはほんの始まりにすぎません…
クロードにとってこれが初めてのことであれば、ユーザーと同じようにコンピューター上でコマンドを実行してネットサーフィンすることになります。 インターネットたとえば、インターネットは新しいものではありません。宇宙AIの世界。コンピュータ上の一部の特定のプロセスは、すでに、 GPT-4o例えば。でもモデルは 人間性 より強力で堅牢になります。また、障害に遭遇したときに、別の方法でタスクを完了しようとすることで自己修正することもできます。彼はまた、何百ものステップを必要とする目標を達成する方法を知っています。
ただし、現時点では、Anthropic は、Claude の新バージョンにはスクロールやズームなどの基本的な操作にいくつかの問題があり、分析システムのせいで特定の操作や通知が見逃される可能性があることを認めています。 スクリーンショットスクリーンショット。要するに、原則が存在するとしても、その原則を流動的に利用しても勝利には程遠いし、虐待行為の実行となるとさらに勝利は得られない。セキュリティの観点からは、現時点では制限により、クロードは ソーシャルネットワークソーシャル ネットワーク、オンライン アカウントを作成し、政府の Web サイトとやり取りします。リスクを最小限に抑えたいという彼らの願望にもかかわらず、これらの制限は、このインターフェースの使用に関して Anthropic 側が一定の興奮を示していることを示しています。
#これが一部の人を心配させる理由です