友人や家族に AI から離れるように勧める AI 労働者を紹介 |人工知能 (AI)

Kリスタ・パウロスキーは、倫理に関する彼女の意見を形作った決定的な瞬間を覚えています。 人工知能。 Amazon Mechanical Turk (企業がデータ入力や AI プロンプトとその出力との照合などのタスクを実行する労働者を雇用できるマーケットプレイス) の AI ワーカーとして、Pawloski は、AI が生成したテキスト、画像、ビデオの品質の管理と評価、および事実確認に時間を費やしています。

約 2 年前、彼女は自宅のダイニング ルームのテーブルで仕事をしながら、ツイートを人種差別的かどうか指定する仕事に就きました。 「ムーンクリケットの歌を聞いてください」というツイートが表示されたとき、彼女は「ムーンクリケット」という言葉の意味を確認する前に「いいえ」ボタンをクリックしそうになったが、驚いたことに、それは黒人アメリカ人に対する人種的中傷だった。

「何度同じ間違いを犯しても気付かなかったかもしれないと考えて、そこに座っていました」とパウロスキーさんは語った。

彼女自身の間違いと、彼女と同じような他の何千人もの従業員の間違いの潜在的な規模が、パウロスキーさんをスパイラルに陥らせました。他に何人の人が攻撃的な内容を知らずに見逃していたでしょうか?それともさらに悪いことに、それを許可することを選択したのでしょうか？

AI モデルの内部動作を何年も目撃した後、Pawloski さんは個人的に生成 AI 製品を使用しないことを決意し、家族にもそれらを避けるよう伝えています。

「私の家では絶対にダメです」とパウロスキーさんは、10代の娘に次のようなツールをどのように使わせていないのかについて言及した。 チャットGPT。そして、社交的に出会う人々に対して、彼女は彼らがよく知っていることについて AI に質問することを奨励しています。そうすれば、AI の間違いを見つけて、そのテクノロジーがいかに誤りやすいかを自分で理解できるようになります。パウロスキさんは、Mechanical Turk サイトで選択できる新しいタスクのメニューを見るたびに、自分のやっていることを人を傷つけるために利用できる方法はないかと自問するが、答えは「はい」であると何度も言う。

からの声明 アマゾン 従業員は自分の裁量で完了するタスクを選択でき、タスクを受け入れる前にタスクの詳細を確認できると述べています。アマゾンによると、依頼者は割り当てられた時間、給与、指示レベルなど、特定のタスクの詳細を設定する。

「Amazon Mechanical Turk は、リクエスターと呼ばれる企業や研究者と、画像のラベル付け、アンケートへの回答、テキストの転記、AI 出力のレビューなどのオンラインタスクを完了する作業者を結び付けるマーケットプレイスです」と Amazon の広報担当者、モンタナ マクラクラン氏は述べています。

パウロスキー氏は一人ではない。 1ダース AI評価者AIの応答の精度と根拠をチェックする作業員らは、チャットボットや画像ジェネレーターの機能と、その出力がどれほど間違っているかを認識した後、友人や家族に生成型AIをまったく使用しないよう勧め始めた、あるいは少なくとも、慎重に使用するよう愛する人を教育しようとしているとガーディアン紙に語った。これらのトレーナーは、Google の Gemini、Elon Musk の Grok、その他の人気モデル、およびいくつかの小規模またはあまり知られていないボットなど、さまざまな AI モデルに取り組んでいます。

従業員 1 名、AI 評価者 1 名 グーグル Google 検索の AI 概要によって生成された応答を評価している彼女は、AI を使用するとしても、できる限り控えめに使用するように努めていると述べました。特に健康に関する質問に対する AI による回答に対する同社のアプローチが彼女を躊躇させ、専門家の報復を恐れて匿名を希望したと彼女は語った。彼女は、同僚が医療問題に対する AI が生成した応答を無批判に評価しているのを観察し、医療訓練を受けていないにもかかわらず、自分自身もそのような質問を評価する任務を負っていたと語った。

自宅では、10 歳の娘にチャットボットの使用を禁止しています。 「彼女はまず批判的思考スキルを学ばなければ、成果物が良いものであるかどうか判断できなくなるだろう」と評価者は述べた。

「評価は、当社のシステムがどの程度うまく機能しているかを測定するのに役立つ多数の集計データポイントのうちの 1 つにすぎませんが、当社のアルゴリズムやモデルに直接影響を与えるものではありません」と Google は声明で述べています。 「また、当社の製品全体にわたって高品質の情報を明らかにするために、さまざまな強力な保護を導入しています。」

ボットウォッチャーが警鐘を鳴らす

これらの人々は、チャットボットがより人間らしいものになるよう支援する数万人の世界的な労働力の一部です。 AI の応答をチェックする際には、チャットボットが不正確な情報や有害な情報を吐き出さないように最善を尽くします。

しかし、AI を信頼できるように見せかけている人々が、AI を最も信頼していない人々である場合、それはより大きな問題を示唆していると専門家は考えています。

メディアリテラシープログラムであるポインターのメディアワイズディレクター、アレックス・マハデバン氏は、「これは、ゆっくりと慎重な検証よりも出荷や拡張を行うインセンティブがおそらく存在すること、そして評価者が与えるフィードバックが無視されていることを示している」と述べた。 「ということは、決勝戦を見たら、 [version of the] チャットボットの場合、彼らが経験しているのと同じ種類のエラーが予想されます。ニュースや情報を求めてLLMにアクセスすることが増えている一般の人々にとって、これは良い前兆ではありません。」

AI 従事者らは、品質を犠牲にして迅速な納期を一貫して重視しているため、自分たちが取り組んでいるモデルに不信感を抱いていると述べています。 Amazon Mechanical Turk の AI 担当者である Brook Hansen 氏は、生成 AI を概念としては信頼していないが、これらのツールを開発および導入する企業も信頼していないと説明しました。彼女にとって最大の転機は、これらのシステムを訓練している人々が受けているサポートがいかに少ないかを認識したことでした。

「私たちはモデルの改善に貢献することが期待されているのに、あいまいまたは不完全な指示、最小限のトレーニング、タスクを完了するための非現実的な時間制限を与えられることがよくあります」と、2010年からデータ関連の仕事に従事し、シリコンバレーで最も人気のあるいくつかのAIモデルのトレーニングに参加したハンセン氏は言う。 「従業員に必要な情報、リソース、時間が備わっていない場合、どのようにして結果が安全で、正確で、あるいは倫理的になる可能性があるでしょうか?私にとって、私たちに期待されていることと、仕事をするために実際に与えられているものとのギャップは、企業が責任や品質よりもスピードと利益を優先していることの明らかな兆候です。」

専門家らは、答えがすぐに得られないときに何も答えずに、自信に満ちた口調で虚偽の情報を流すことは、生成型 AI の大きな欠陥であると述べています。メディアリテラシーを重視する非営利団体NewsGuardによる、ChatGPT、Gemini、MetaのAIを含む上位10の生成AIモデルの監査では、チャットボットの無応答率が2024年8月の31%から2025年8月には0%に低下したことが明らかになった。同時に、チャットボットが虚偽の情報を繰り返す可能性も高くなっていることが明らかになった。 18% から 35% へとほぼ 2 倍になりました、ニュースガードが見つけました。当時、ニュースガードのコメント要請に応じた企業はなかった。

「どんな事実も信用しない [the bot] 「これは倫理的なロボットではありません。」と別の Google AI 評価者は、契約会社と結んだ機密保持契約により匿名を希望しつつ、AI の使用について人々に警告し、大ざっぱな知識しか持たない人々が医療上の質問や倫理に関わるデリケートな質問も課せられるという別の評価者の指摘に同調した。「これは倫理的なロボットではありません。」ただのロボットだよ。」

「私たちはそれを冗談にしています [chatbots] 彼らに嘘をつくのをやめさせることができれば素晴らしいと思います」と、Gemini、ChatGPT、Grokと協力したことがあるあるAI家庭教師は、秘密保持契約に署名し、匿名を希望しながら語った。

「ゴミは入ってゴミは出る」

2024 年初めに Google の製品に対する回答を評価する仕事を始めた別の AI 評価者は、入社して 6 か月が経過した頃に AI を信頼できないと感じ始めました。彼はモデルを難解にするという任務を負っていました。つまり、彼は Google の AI にその限界や弱点を明らかにするさまざまな質問をしなければなりませんでした。この作業員は歴史学の学位を持っており、このタスクに関してモデルに歴史的な質問をしました。

「パレスチナ人の歴史について質問しましたが、質問をどのように言い換えても答えは得られませんでした」と、機密保持契約に署名したこの職員は匿名を希望して回想した。 「イスラエルの歴史について尋ねると、問題なく非常に広範囲にわたる概要を教えてくれました。私たちはそれを報告しましたが、Google では誰も気にしていないようでした。」評価者が説明した状況について具体的に尋ねられたが、Googleは声明を発表しなかった。

この Google 社員にとって、AI トレーニングに関する最大の懸念は、彼のような評価者によって AI モデルに与えられるフィードバックです。 「モデルのトレーニングに使用されると思われるデータがどれほどひどいものかを見た後、そのように正しくトレーニングすることは絶対に不可能であることがわかりました」と彼は言いました。彼は「ガベージイン、ガベージアウト」という用語を使用しました。これは、不良または不完全なデータを技術システムに入力すると、出力にも同じ欠陥が生じることを説明するコンピュータープログラミングの原則です。

同評価者は生成AIの使用を避けており、また「家族や友人全員に、AIが組み込まれた新しい携帯電話を購入しないこと、AIの統合を追加する自動アップデートに可能であれば抵抗すること、そしてAIに個人的なことを何も伝えないことをアドバイスした」と述べた。

壊れやすい、未来的ではない

社交的な会話で AI の話題が出るたびに、ハンセン氏は AI は魔法ではないことを人々に思い出させ、AI の背後にある見えない労働者の軍隊、情報の信頼性の低さ、そしてその仕組みについて説明します。 環境に悪影響を及ぼします。

分散型 AI 研究所で AI の背後にある労働力を研究しているアディオ ディニカ氏は、舞台裏で働く人々について、「これらのシステムがどのように組み合わされているか、偏見、急いでいるタイムライン、絶え間ない妥協などを見ると、AI が未来的であるとは見なくなり、脆弱なものであると考えるようになります」と述べています。 「私の経験では、AIに魅了されるのは常にAIを理解していない人です。」

ガーディアン紙の取材に応じたAI労働者らは、より良い選択をし、周囲の意識を高めることに自ら取り組んでいると述べ、ハンセン氏の言葉を借りれば、AIは「そこに投入されたものが必ずしも最良の情報であるとは限らず、その良さはAIにある」という考えを特に強調した。彼女とパウロスキー氏は、5月にミシガン州教育委員会協会の春季会議でプレゼンテーションを行った。州中から集まった教育委員会メンバーや管理者でいっぱいの部屋で、彼らは会話を引き起こすことを期待して、人工知能の倫理的および環境への影響について話しました。

「ほとんどの参加者は、AI の背後にある人間の労働や環境への影響について聞いたこともなかったので、学んだことに衝撃を受けました」とハンセン氏は述べました。 「洞察力に感謝する人もいましたが、エキサイティングで可能性に満ちていると考えていたテクノロジーについて、私たちが『絶望的で暗い』と非難して、擁護したり不満を抱いたりする人もいました。」

Pawloski 氏は、AI の倫理を繊維業界の倫理に例えています。人々が安い服がどのように作られるのか知らなかった時代、彼らは喜んで最良の取引を見つけて数ドルを節約しました。しかし、搾取工場の話が出始めると、消費者には選択の余地があり、質問すべきであることがわかりました。彼女は、それは AI でも同じだと信じています。

「データはどこから来たのですか? このモデルは著作権侵害に基づいて構築されていますか? 労働者は自分の仕事に対して公正に報酬を受けましたか?」彼女は言いました。 「私たちはこうした疑問を持ち始めたばかりなので、ほとんどの場合、一般の人々は真実にアクセスできません。しかし、繊維業界と同じように、私たちが問い続け、推進し続ければ、変化は可能です。」