研究者のミラグロス・ミセリ氏：「AI がすべてを自動化するというのは嘘です。それには何百万人もの人々の手作業で不安定な作業が必要です。」テクノロジー

人工知能 (AI) は、言われているほど自動的ではありません。このテクノロジーは、強力なコンピューターのおかげで機能します。 広範なデータベースで計算を実行する。しかし、これらのデータベースは修正してテストする必要があり、企業は一般に賃金が非常に低い多数の労働者にこの手作業を委託しています。場合によっては、タスクが完了するたびに 1 ドルが数セントになることもあります。この現実は本に書かれていました ゴーストワーク （スペイン語、Ghost Work）、メアリー・グレイ著、2019 年出版人類学者でマイクロソフトの研究者であるシダース・スリ氏とその同僚のシダース・スリ氏。

その著作が出版された時点で、社会学者でコンピュータサイエンスの博士であるミラグロス・ミセリ氏（ブエノスアイレス、41歳）はすでにこのテーマを2年間研究していた。彼女が新しく設立されたドイツインターネット研究所 (名前の由来) に雇用されたとき IA のパイオニア ジョゼフ・ヴァイゼンバウム—、アルゴリズムの社会的影響は、非常に理論的な観点から扱われました。ミセリはさらに先に進みたかった。 「誰かがそれらのアルゴリズムの背後にいる人々と話しているのだろうかと思いました。そうやって私はデータ アノテーターにたどり着きました。データ アノテーターは椅子の画像に「椅子」という単語を付けて、機械が区別できるようにし、その後、私たちが開発した概念であるデータ ワーカーにたどり着きました。」と彼は説明します。

それ以来、Miceli はそのテーマを守り続けています。現在、彼女はデータ ワーカーというあまり知られていない分野の主要な専門家の 1 人です。彼女は、DAIR研究所の主任研究員でもあります。 ティムニト・ゲブルによって設立されたGoogleのAI倫理責任者は、会社の業績が芳しくない報告書に署名した直後に解雇された。 12月の今月は、 Ⅲ グローバルなデジタル正義を考える会議バルセロナで開催され、これらすべてについて話します。

聞く。 データワーカーとは何ですか?

答え。 データ ワーカーは、基本的に AI システムをトレーニングするためのデータを作成する人です。このタスクは、自分の声を録音し、自撮り写真をアップロードし、データにラベルを付けて分類し、解釈することで実行できます…多くの人が時々想像していないのは、これが継続的な作業であり、現時点で終了するわけではないということです。システムでは、データ セットの保守、確認、微調整などの手動作業が必要です。

P. これらの業務を遂行するにはどのような資格が必要ですか?

R. このようなことをする人は資格のある労働者ではないという通説があります。しかし実際には、これらは少なくとも高等教育以上の教育を修了した労働者です。博士号を持っていて、このような仕事をしている人にも会ったことがあります。

P. データ ワーカーはどこにいますか?

R. 彼らには、失業率が非常に高いものの、高等教育を受けている、弱い立場にある人々や貧しい人々がたくさんいます。仕事の性質上、実はとても難しいのです。試してみました。一定レベルの形式的な知識だけでなく、職人的な技術も必要です。

P. 例を挙げてもらえますか？

R. 衛星画像のラベル付けとセグメンテーションは非常に一般的な分野です。とても難しいです。まず、マウスをノンストップで動かすのは目と手が疲れます。さらに、画像がぼやけることが多いため、木と人物、家と車を区別するのに細心の注意を払う必要があります。それには、その国の特定の建築物や植生に関するある程度の知識が必要です。そして、間違ったやり方をした場合、何も報酬は得られません。

P. データ ワーカーの状況はどうなっているのでしょうか?

R. これが始まってから今も変わっていない。彼らは完全に不安定で、保護が欠如している状況にあります。ここでは、かつてはと呼ばれていたものを規定します。 ウーバーライゼーション 作業量: タスクの完了にかかる時間ではなく、タスクの完了ごとに支払われます。データ ワーカーの場合、ログインしたり、常に利用できるとは限らない利用可能なタスクを見つけたり、非常に複雑でほとんどの場合英語で使用される指示を理解したりするのにかかる時間はカウントされません。すべては、顧客が後で要求どおりに行われなかったと言い、支払いをしないというリスクを伴います。これは多くの場合に起こりますが、それに加えて、クライアントには提供されたデータを保持する権利があります。

一部のデータ ワーカーは、給与に関する質問などを行うためにプラットフォームからブロックされています。そして、最大手の Amazon Mechanical Turk などの一部のプラットフォームは、お金ではなく、この場合は Amazon で使えるクーポンで支払います。こうして完全独占が実現するのです。もちろん、心理的に不安を引き起こすコンテンツを扱うことで結果が生じるなど、労働者に何かが起こった場合、誰も助けてくれません。多くの場合、彼らは以前に、自分たちの活動の性質を明らかにすることを禁止する機密保持契約に署名しました。一部の労働者は、この理由から、心的外傷後ストレスに苦しんでいるにもかかわらず、セラピストの診察を避けてきたと語った。また、このような素晴らしいプラットフォームのコンテンツモデレーターを務めたことを履歴書に記載することもできません。

P. では、給与計算には載っていないが、このマイクロジョブルートを通じて参入するコンテンツモデレーターはいるのでしょうか?

R. 雇われていないコンテンツ モデレーターもおり、ほとんどのコンテンツ モデレーターはヨーロッパのサードパーティ企業を通じて不安定な契約を結んでいますが、グローバル サウスの国々でも多くのコンテンツ モデレーターがいます。ちなみに、これらの会社は、かつて画像のタグ付けを行っていた会社と同じです。実際、同じ人物が一方のチームからもう一方のチームに交代することがよくあります。一方、コンテンツのモデレーションはデータのラベル付けと同時に行われることが多く、監視している内容がヘイトスピーチであるかどうかを決定し、その情報がアルゴリズムのトレーニングに使用されます。

P. データ ワーカーが何人いるか知っていますか?

R. 数字を出すのは非常に難しいです。保守的な機関である世界銀行は、世界には1億5,000万人から4億2,000万人がいると述べています。私たちが知っていることは、その数が近年急激に増加しているということです。仕事が自動化されるという考えは嘘です。 AI には多くの手作業が必要です。

P. のスピーチ ウーバーライゼーション 同氏によれば、マイクロワーカーは給料を補うために、特定の時間に仕事をしたいと考えているという。 彼らがGlovoで主張しているのと同じこと。そうですか？データ ワーカーはフルタイムですか、それともパートタイムですか?

R. それはまた神話です、はい。データ ワーカーはほとんど存在しません。これは、前述したように、これらのタスクを実行するために必要な複雑さと高度な専門知識に関係しています。 AI モデルが洗練されるほど、データベースを操作する従業員の資格も高くなります。一連の写真から子猫を特定するよう求められた 10 年前とは異なります。それはもう存在しません。これでお金を稼ぐには、毎日働く必要があります。

P. 彼によれば、デジタル マイクロワークの典型的な例は画像のタグ付けでした。今、最も需要があるものは何でしょうか？

R. 私がこの仕事を始めた 7 年前、写真にタグを付けるのが流行っていました。重要なのは質ではなく量だった。 2019年に私たちは労働者に与えられた指示を分析した調査を行いましたが、大多数はそのような方針に沿ったものでした。しかし最近では、言語学や生成 AI に関連したタスク、つまり特定の目的のためにデータをゼロから作成するタスクへの非常に顕著な移行が見られます。たとえば、失業中のアーティストが雇われ、特定の基本的な指示に従ってイメージを作成するよう求められます。 プロンプト。次に、それが Midjourney アルゴリズムに与えられ、その動作が改良されます。あるいは、機械がパターンを抽出できるように、ジャーナリストや作家が年代記や短編小説を書くために雇われます。データベースを充実させるために、方言や少数言語で文章を読んでいる人々も記録されます。

P. このマニュアルが働かなくてもAIは機能するのでしょうか？ 24時間人間によるサポートが必要ですか?

R. このシステムは、労働者が 24 時間、年中無休で対応でき、必要最小限の賃金を支払うように設計されています。そして、その条件が気に入らない場合は、企業は次の国や町に移転することができます。大規模なルール。これは従業員が数百万人いる場合にのみ機能します。もちろん、別の方法もあります。モデルは、小規模ではあるが厳選されたデータセットでトレーニングすると、パフォーマンスが向上します。そのためには何百万人もの労働者は必要ありませんが、優れた専門家と彼らとのコミュニケーションが必要です。匿名性とアルゴリズム仲介の反対。

P. 最新の生成 AI モデルは、インターネット上で利用可能なすべてのデータを使用してすでにトレーニングされているため、新世代にはそれらすべてに加えて、新しい合成または人工的に生成されたデータも含める必要があります。生成 AI によりデータ ワーカーの需要が急増すると思いますか?

R. 予測しなければならないとしたら、データ ワーカーは今後も成長し続けるだろう、ということです。未来は合成データ、つまり機械によって生成されたデータにあると賭けている人でも、それが技術的な観点から難しいことを知っています。あまり詳しくは述べませんが、AIが生成したデータでAIを学習させるとループが発生し、結局同じことの繰り返しになる、無限ミラーゲームのようなものです。したがって、作家、アーティスト、ジャーナリスト、翻訳者は、アルゴリズムが適用されるデータベースを充実させるために役立つデータを生成する必要があり続けるでしょう。

しかし、合成データを使用してモデルをトレーニングできたとしても、アルゴリズム検証タスクにはデータ ワーカーが必要になります。アルゴリズム検証タスクでは、たとえば ChatGPT を使用して座って質問し、その答えが正しいか間違っているかを判断する必要があります。の方が良いです。オプションなど。言語の話を続けると、言語は動的なものであり、変化します。チャットボットは常に完成度を高める必要がありますが、それができるのは人間だけです。なぜなら、私たちはコンテキストを理解し理解しているからです。

P. AI の手動による側面がこれほど不透明なのはなぜだと思いますか?

R. それは完全に意図的です。このテクノロジーは奇跡的で信じられないほど強力であり、私たち全員を殺す可能性があるため恐れるべきであるという神話が売り込まれています。これに加えて、このテクノロジーは黒人労働、不安定労働、何百万もの労働者の搾取労働に基づいているということを付け加えておきます。しかし、この超強力で恐ろしいテクノロジーの神話を売るには、人類の痕跡をすべて消去する必要があります。しかし、AI は大勢のブルーカラー労働者なしでは機能しません。なぜ隠れ続け、彼らを不安定にし続けるのでしょうか？