ヒルツィク: テクノロジーの誇大宣伝を世界から取り除く

私たちがテクノロジーの誇大広告に溢れていることに気づいた方もいるかもしれません。自動運転車、人間に似たロボット、AI チャットボットはすべて、時として突飛なほど誇張された予測や約束の対象となってきました。

したがって、私たちは、プロモーター、マーケティング担当者、真の信者が提供するこれらのテクノロジーやその他のおそらく世界を変えるテクノロジーについての誇張を和らげることを人生の使命の1つとしているオーストラリア生まれの技術者であるロドニー・ブルックスに感謝する必要があります。

として 以前にも書きましたがブルックスはラッダイトのようなものではありません。それは全く逆です。彼はロボット掃除機ルンバのメーカーであるアイロボット社の共同創設者でしたが、2008 年に同社の最高技術責任者を辞任し、2011 年に取締役会を退任しました。彼は工場や倉庫用のロボットを製造する RobustAI の共同創設者兼最高技術責任者です。 コンピューターサイエンスおよび人工知能研究所の元所長 マサチューセッツ工科大学で。

2018年、ブルックス氏は次の投稿を公開した。 主要テクノロジーの進路に関する古い予測 彼は、自動運転車、有人宇宙旅行、AI ボット、人型ロボットなど、当時も今も世間の話題の中心となっているテクノロジーに焦点を当てました。

「アイデアを持つのは簡単です」と彼はその紹介記事で書いています。 「それらを現実にするのは困難です。それを大規模に展開するのはさらに困難です。」

ブルックス氏は、自分の予測を 3 つの分類穴に分類しました。NIML は「私の生涯には存在しない」、NET は、特定の日付「より早くない」、および「いつか」 [specified] 日付。”

1月1日、彼は自身の著書を発表した。 第 8 回年次予測スコアカード。彼は、長年にわたって「私の予測はかなり当たっていたが、全体的には少し楽観的すぎた」ことに気づきました。

たとえば、2018 年に彼は「複数のタスクにわたって高齢者に身体的支援を提供できるロボット」を予測しました。 [e.g., getting into and out of bed, washing, using the toilet, etc.]」は 2028 年より早く登場することはなく、元旦の時点では「汎用的な解決策は見当たりません」と彼は書いています。

火星に最初の「恒久的」人類植民地が誕生するのは2036年以降になるだろうと彼は当時書いたが、今ではそれを「あまりにも楽観的すぎる」と彼は呼んでいる。同氏は現在、2040年までに人類が火星に着陸し、2050年までに人類が火星に到達することを構想している。

「犬と同じくらい知的で、注意力があり、忠実な」ロボットが誕生するのは、遅くても2048年になるだろうと彼は2018年に推測した。「これは、ほとんどの人が想像しているよりもずっと難しいことだ」と彼は今書いている。 「多くの人は、私たちはすでにそこに到達していると考えていますが、私は、まったくそこに到達していないと言います。」 「6歳児が人間を理解するような形で、自らの存在や人間の存在についての本当の考え」を持つロボットについての彼の評決は、「私の生涯には存在しない」だった。

ブルックス氏は、ハイテクのプロモーターが誇張された約束を巧みに調整する方法の 1 つは、微妙な再定義を行うことだと指摘しています。 「自動運転車」も同様だ、と彼は書いている。もともとこの用語は、「ドライバーが乗車していなくても、遠隔ドライバーが制御入力を提供しなくても、運転できるあらゆる種類の自動車…人間が運転する必要はなく、単に車に目的地に連れて行ってもらうだけの通信ができる自動車」を指していた。

自動運転交通の最大手である Waymo は、自社のウェブサイトで、自社のロボタクシーについて次のように述べています。完全自律型テクノロジーの具現化 乗車から目的地まで常にコントロールできるのです。」乗客は「後部座席に座ってリラックスし、Waymo ドライバーが目的地まで安全に連れて行ってくれるドライブを楽しむことができます。」

ブルックス氏はこの主張に異議を唱えている。 12月20日、サンフランシスコを覆った停電により、ウェイモのロボタクシー車両の多くが路上で立ち往生したとき、完全自動運転の構造にある穴が一つ明らかになった、と同氏は観察する。信号機を読み取るウェイモスは、信号機が暗くなったために交差点を渋滞させた。

同社は後に自社車両を時折認めた 「確認小切手が必要です」 人間が停電した信号機やその他の混乱する状況に遭遇したとき。ウェイモは、12月20日の停電により「こうしたリクエストが集中的に急増」し、その結果「場合によっては対応の遅れにつながり、すでに混雑している道路の渋滞につながった」と述べた。

また、ウェイモが、乗客が降車時に車のドアを完全に閉めなかったなどの理由で動けなくなった車両に物理的に対処するために人間に報酬を支払っていることも知られている。これらは次の方法で呼び出すことができます。 サードパーティ製アプリ Honk、主にレッカー車の運転手が立ち往生している顧客を見つけるために使用されます。

「現行世代の Waymo が正常に動作するには、何か問題が発生したときに介入して人間によるアドバイスを提供するリモート オペレーション センターの人々から、街中を走り回るホンク ギグ ワーカーに至るまで、多くの人的支援が必要です」とブルックス氏は観察します。

Waymo は私に、「完全自律」運転という自社の主張は、車載技術が常に車両を制御しているという事実に基づいていると語った。混乱した状況では、車はウェイモの人間の「フリート対応」チームに電話をかけ、いくつかのオプションのパスのうちどれが最適かを選択するよう求めます。 「車両の制御は常に Waymo Driver によって行われます」、つまり車載テクノロジーによって行われます、と広報担当者の Mark Lewis 氏は私に語った。 「人間が Waymo 車両を遠隔操作することはできません。」

先駆的なロボット設計者であるブルックス氏は、テクノロジー業界が人型ロボットに夢中になっていることに特に懐疑的です。彼は経験に基づいて次のように書いています。1998 年、彼は MIT の大学院生と一緒に人型ロボットを構築していました。当時彼は、人々は自然に「人間のように振る舞う人型のロボット」に慣れるだろうと主張した。 インターフェイスは私たちの脳に組み込まれています「人間とロボットは、これまでSFの世界でしか想像できなかった方法で、近接した場所で協力してタスクを遂行できる」と述べています。

それ以来、人間のように見た目も動作もする汎用ロボットはキメラであることが明らかになりました。実際、多くの状況において、それらは危険です。ロボット設計における未解決の問題の中には、「人間のような器用さ」を備えたロボットを誰も作っていないことがある、と彼は書いている。自社の設計を推進するロボット企業は、自社の提案する製品が「人間が目に見えないものをつかんだり、片手で複数の小さな物体を掴んだり、同時に操作したりできる多指の器用さ」を備えていることを示していない。

二足歩行ロボットは転倒する傾向があり、仰向けに倒れた亀のように「立ち上がるには人間の介入が必要」だ。それらは重くて不安定なため、「現時点では、人間が歩いているときに近づくのは安全ではありません」。

(ブルックスはこれについて言及していないが、1960 年代でさえ、「ジェットソンズ」の制作者は家庭用ロボットが足に頼らないことを理解していました – 彼らのロボットメイド、ロージー、家族の周りに道具が置かれている 車輪の上で、60 年前のアニメーターにはこの認識が自然に備わっていましたが、今日のエンジニアには忘れられているようです)。

ブルックスが観察しているように、「3 歳か 4 歳の子供でも、散らかった家を傷つけずに歩き回ることができます。… 4 歳になると、これまで見たことのないドアハンドルや機構でドアを開け、後ろで安全にドアを閉めることができるようになります。初めて特定の家に入るときにもそれができます。子供たちはあちこち歩き回ったり、上下に歩き回ったり、自分の道を見つけることができます。

「しかし、待ってください、『彼らが踊ったり、宙返りしたり、壁に跳ね返ったりするのを見たことがある』とあなたは言うでしょう。」はい、人型ロボット劇場を見たことがあるでしょう。 「

Brooks 氏の人工知能に関する経験は、今日の多数の大規模な言語モデル (現代のチャットボットの基盤となるテクノロジー) の欠点、何ができて何ができないのか、そしてなぜできるのかについての重要な洞察を与えてくれます。

「大規模言語モデルの基礎となるメカニズムは、質問に直接答えるものではありません」と彼は書いています。 「代わりに、質問に対する答えのように聞こえるものを与えます。それは、正確なことを言うのとは大きく異なります。彼らが学んだのは、世界に関する事実ではなく、質問とこれまでに応答で生成された言葉を考慮して、次にどの言葉が来る可能性が最も高いかという確率分布です。したがって、それらを使用した結果は、ケージに入れずに、本物であるかどうかに関係なく、本物のように聞こえるたくさんの作話になります。」

解決策は、最終的には加工が不要になるほど大きなデータベースが得られることを期待して、LLM ボットをますます多くのデータで「トレーニング」することではありません。ブルックス氏は、これは間違ったアプローチだと考えている。より良い選択肢は、特定の分野での特定のニーズを満たす目的に特化した LLM を構築することです。たとえば、ソフトウェア コーディングやハードウェア設計に特化したボット。

「LLM を有用なものにするためには、LLM の周囲にガードレールが必要であり、今後 10 年間で多くの取り組みが行われることになるでしょう」と彼は書いています。 「彼らはトレーニングから生まれたばかりなので、そのまま野生に放すことはできません。…より多くのトレーニングを行ったからといって必ずしも状況が良くなるわけではありません。ボクシングで状況を改善できるのです。」

ブルックス氏の包括的なテーマは、私たちは新しいテクノロジーができることを過大評価し、新しいテクノロジーが有用になるまでにどれくらいの時間がかかるかを過小評価する傾向があるということです。最も困難な問題は、ほとんどの場合、最後に解決される問題です。人々は、新しいテクノロジーが初期段階と同じスピードで発展し続けると考える傾向があります。

完全自動運転車への取り組みが停滞しているのはこのためだ。車線変更警告や前方の遅い車の存在に合わせて調整できるクルーズコントロールを車に装備することは別のことです。への道 レベル 5 の自律性 自動車技術者協会が定義するように、人間がハンドルを握る必要がなく、あらゆる状況で車両が自動運転できるようになるのは、少なくとも数十年先のことかもしれない。現在、レベル 5 の車両は一般的に使用されていません。

いずれかの世界の涅槃がすぐそこまで来ているというテクノロジー推進者の主張を信じるかどうかは、完全に自由です。 「いつも思っているより時間がかかる」とブルックス氏は最初の予測投稿で書いた。 「まさにそうなんです。」