AI エージェントが登場します。どこまでやらせるべきでしょうか？

日常業務を支援するためにパーソナル AI エージェントをセットアップする必要がありますか?

—援助を求めています

一般的な原則として、日常生活においてあらゆる種類の自動化に依存することは、極端に行うと危険であり、特に個人的なやり取りに関しては、適度に使用した場合でも潜在的に疎外される可能性があると思います。私のタスクリストを整理し、さらに読むためのオンラインリンクを収集する AI エージェントでしょうか?素晴らしい。毎週、両親に簡単な生活の最新情報を自動的にメッセージで送ってくれる AI エージェントでしょうか?恐ろしい。

しかし、より生成的な AI ツールを日常業務に組み込むべきではないという最も有力な主張は、これらのモデルがトレーニングや出力生成中に環境に与え続ける影響であることに変わりはありません。これらすべてを念頭に置き、私はインターネットと呼ばれるこの混乱の輝かしい黎明期に公開された『WIRED』のアーカイブを徹底的に調べて、あなたの質問の歴史的背景をさらに見つけました。少し検索した結果、あなたはすでに AI エージェントを毎日使用している可能性が高いと確信しました。

AI エージェント、または神が禁じた「エージェント AI」というアイデアは、最近の投資を宣伝しようとしているすべてのテクノロジー リーダーにとって最近の流行語です。しかし、ソフトウェアタスクの完了専用の自動アシスタントという概念は、決して新しいアイデアではありません。 1990年代の「ソフトウェアエージェント」に関する議論の多くは、シリコンバレーでの現在の会話を反映しており、テクノロジー企業のリーダーたちは現在、私たちに代わってオンライン雑用を行うように訓練された生成型AIを活用したエージェントが大量にやってくると約束している。

「私が考える問題の 1 つは、エージェントの行動の責任が誰にあるのか、人々が疑問を抱くようになるということです」と、1995 年に初掲載された MIT 教授パティ・メイズへの WIRED インタビューには書かれています。いらないものを代わりに買うこと。エージェントは多くの興味深い問題を提起するでしょうが、私たちはエージェントなしでは生きていけないと確信しています。」

私は 1 月初めにメイズに電話して、AI エージェントに対する彼女の見方が長年にわたってどのように変化したかを聞きました。彼女は個人自動化の可能性については相変わらず楽観的ですが、「非常に単純な」エンジニアは人間とコンピューターの相互作用の複雑さに対処するのに十分な時間を費やしていないと確信しています。実際、彼らの無謀さがAIの新たな冬を引き起こす可能性があると彼女は言う。

「これらのシステムの構築方法は、現在、技術的な観点、エンジニアリングの観点から最適化されています」と彼女は言います。 「しかし、人間の設計の問題に対してはまったく最適化されていません。」彼女は、基礎となるモデルが改善されたにもかかわらず、AI エージェントが依然として簡単に騙されたり、偏った仮定に頼ったりすることに焦点を当てています。そして、誤った信頼により、ユーザーは、AI ツールによって生成された答えを、信頼すべきではないのに信頼してしまうのです。

パーソナル AI エージェントのその他の潜在的な落とし穴をより深く理解するために、この曖昧な用語を 2 つの異なるカテゴリに分けてみましょう。つまり、あなたに栄養を与えるものと、あなたを表すものです。

フィーディング エージェントは、ユーザーの習慣や好みに関するデータを備えたアルゴリズムであり、一連の情報を検索してユーザーに関連するものを見つけます。おなじみですね。カスタマイズされた投稿でタイムラインを埋めるソーシャル メディア レコメンデーション エンジンや、Instagram でキノコのグミを何千回も表示する広告トラッカーは、パーソナル AI エージェントとみなされる可能性があります。 90年代のインタビューの別の例として、メイズ氏は、彼女が望む記事を持ち帰るために微調整された取材エージェントについて言及した。それは私の Google ニュースのランディング ページのように思えます。