そのロボットやAIの後ろに人間は隠れているのでしょうか？

アルゴリズムの背後にいる人物には注意を払わない: 実は人間だったオートマトンの簡単な歴史

ブライアン・コントレラス

チャットボットに質問して、意味不明の意味不明な返答を受け取ったことがあれば、「人工知能」が必ずしも高い知能を持っているわけではないことはすでにご存知でしょう。

そして、それがそれほど人工的ではない場合もあります。 これは、大騒ぎになった「Just Walk Out」ショッピング技術を縮小するというアマゾンの最近の決定から得られる教訓の1つだ。このソフトは一見SFのようなものだが、実際には少なからず舞台裏の人間の働きのおかげで機能していた。 。

この現象は「人間の仕事を隠蔽し、また『自動化された』ソリューションの価値を誤って誇張する」ため、「偽装」と呼ばれている、とサンタクララ大学マークラ応用倫理センターのインターネット倫理プログラムのディレクターであるイリーナ・ライク氏は言う。

科学ジャーナリズムの支援について

この記事を気に入っていただけた場合は、受賞歴のあるジャーナリズムをサポートすることを検討してください。 購読中。 サブスクリプションを購入することで、今日の世界を形作る発見やアイデアに関する影響力のあるストーリーを将来にわたって確実に伝えることに貢献することになります。

Take Just Walk Out: Amazon Fresh食料品店やサードパーティストアの顧客が棚から商品を手に取り、自動的に請求を受けて、チェックアウトすることなく店を出ることができる、シームレスな小売体験を約束します。 しかし、テクノロジービジネスのウェブサイトであるインフォメーションに昨年掲載された記事によると、Amazonは一時、インドに1,000人以上の従業員を抱え、Just Walk Out AIモデルをトレーニングし、売り上げの一部を手作業でレビューしていたという。

Just Walk Out テクノロジーに取り組んだ匿名の情報筋は、1,000 件の顧客取引ごとに 700 もの人間によるレビューが必要だったと同誌に語った。 アマゾンは、情報のプロセスの特徴付けに異議を唱えている。 同社の代表者はこう語った。 サイエンティフィック・アメリカン アマゾンは「数字を開示できない」が、ジャスト・ウォーク・アウトでは買い物データに注釈を付ける従業員の数が報道されているよりも「はるかに少ない」という。 アマゾン ウェブ サービス アプリケーション担当副社長のディリップ クマール氏は 4 月 17 日のブログ投稿で、「これは、人間のレビュー担当者が一般的である、精度を重視する他の AI システムと何ら変わりはありません」と書いています。

米国のアマゾンフレッシュ店舗でこの技術が廃止され、顧客が買い物中に商品をスキャンできるショッピングカートが導入されたというニュースをきっかけに、シリコンバレーの誇大宣伝に関する不快な真実に改めて注目が集まっている。 退屈な作業や危険な作業を自動化するとして宣伝されているテクノロジーには、依然として人間が関与する必要があるかもしれません。あるいは、ブルームバーグのコラムニストの一人が述べているように、AI ソフトウェアには「多くの場合、人間のベビーシッターの軍隊が必要です」。

それは決して新しい現象ではありません。 歴史を通じて、聡明な発明家や起業家たちは、実際には人間の通常の活動であるものに「自動化」というレッテルを貼り付けようとしてきました。 たとえば、発明家ヴォルフガング・フォン・ケンペレンが 1770 年代初頭にデビューさせた、ローブを着たロボット「メカニカル ターク」を考えてみましょう。 アトラス・オブスキュラが語ったように、フォン・ケンペレンは観察者に対し、この人型機械はチェスのゲームを完全にプレイでき、自動機械を開いて内部の時計仕掛けの機構を見せびらかすことができると語ったという。

しかし、メカニカルタークは偽物だった。 当時の多くの観察者が疑い始めたように、人間のオペレーターがチェス盤の下の部屋に隠れ、ろうそくの明かりでチェス盤の動きを制御していたのだ。 時計じかけの仕組みは、感銘を受けやすい聴衆のための単なる粉飾にすぎませんでした。

Amazon が現在、現代の AI システムが学習するトレーニング データのラベル付けなど、人間の判断が必要な断片的なオンライン タスクを企業がクラウドソーシングできるようにする同じ名前のプラットフォームを運営しているのは、おそらくふさわしいことでしょう。 結局のところ、オリジナルの Mechanical Turk のスタイルの茶番劇 (名目上は実際には人間の助けに依存する自動システム、またはジェフ ベゾスがかつて「人工人工知能」と呼んだもの) は、現代の Web の共通の特徴であり、技術的に洗練された雰囲気が漂います。時には技術の洗練そのものよりも重要です。

「無生物に命を吹き込むという考えは、古くからある、一見非常に人間的な切望です」とノーザンイリノイ大学のメディア研究教授であり、著書『デヴィッド・ガンケル』は言う。 機械への質問: AI、ロボット、倫理に関する批判的な視点。 メアリー・シェリーの 1818 年の小説と同じくらい多様な物語を指す フランケンシュタイン そして2014年の映画 エクス・マキナ、 彼はさらに、「これらの物語やシナリオの中で、私たちは無生物から新しい生命を創造することで神の役割を果たしています。 そして、この結果を実現したいという願望は非常に執拗であり、避けることができないようです [that] それを現実にするために、私たちは喜んで自分自身を騙し、欺きます。」

ChatGPT や DALL-E などの製品が現在の人工知能ブームの火付け役になる前から、この力学はそれほど野心的ではない AI 製品でも展開されました。 かつて会議のスケジュールを設定したり電子メールを送信したりできる自動パーソナル アシスタントを宣伝した会社、X.ai について考えてみましょう。 X.ai のソフトウェアが本物のように見えた理由は、文字通り生きていたからであることが判明し、2016 年にブルームバーグが報じた。舞台裏では、人間のトレーナーがほぼすべての受信電子メールをレビューしていました。 当時の他のコンシェルジュやパーソナルアシスタントプログラムも同様に人間に依存しており、ブルームバーグのレポートでは、ベンチャーキャピタルの誘致が新興企業に普通のワークフローを最先端のものとして組み立てる動機を与えた可能性があると指摘している。

これは、オンライン化が進む私たちの生活全体に影響を与える力学です。 玄関先までサラダを運ぶ食品配達ロボットは、実際にはビデオ ゲーム愛好家の若い人が遠くから操縦している可能性があります。 ソーシャル メディアのアルゴリズムが猫のミームからポルノを選別していると思うかもしれませんが、実際にはどこかのオフィスにいる人間のモデレーターが最も厳しい判断を下しています。

「これはマーケティング上の魅力だけの問題ではありません」とライク氏は言う。 「これは、実際に意図したとおり、または宣伝どおりに機能する前に、物事を市場に投入しようとする現在の取り組みの反映でもあります。 一部の企業は、『機械の中に人間を入れる』ことを、自動化ソリューションが改善されるまでの暫定的なステップとみなしているようです。」

ここ数カ月間、生成型 AI をめぐる誇大宣伝により、人々が日常の人間の労働を、PR に適した光沢のある偽装の装いで覆い隠す、刺激的な新しい機会が生まれました。 たとえば今年初め、インターネットはジョージ・カーリンの死後のスタンドアップスペシャルをめぐって大騒ぎになった。この番組は、彼の作品に基づいて訓練された機械学習プログラムで故ジョージ・カーリンのユーモアのセンスをシミュレートしたとされるものだった。 しかしその後、カーリンさんの遺産管理団体からの訴訟の脅しを受けて、動画の作成者の一人が広報担当者を通じて、AIが生成したとされるジョークが実際には一般人によって書かれたものであることを認めた。

それは、人間が機械のふりをして、再び人間のふりをするという、不注意な消費者を魅了し、罠にかけ続けている何世紀にもわたる伝統の最新のものでした。