イーロン・マスク氏の「覚醒AI」批判はChatGPTがトランプ政権の標的になる可能性を示唆

ミッテルシュテット氏は、トランプ大統領はさまざまな方法で企業を罰する可能性があると付け加えた。同氏は、例えば、トランプ政権がアマゾン ウェブ サービスとの大規模な連邦契約を解除した経緯を挙げているが、この決定はおそらくワシントン・ポストとそのオーナーであるジェフ・ベゾスに対する元大統領の見解に影響を受けたものと思われる。

政策立案者にとって、たとえそれが双方向に影響を与えるとしても、AI モデルにおける政治的偏りの証拠を指摘するのは難しいことではないでしょう。

あ 2023年の調査 ワシントン大学、カーネギーメロン大学、西安交通大学の研究者らは、さまざまな大規模な言語モデルでさまざまな政治的傾向を発見しました。また、このバイアスがヘイトスピーチや誤情報検出システムのパフォーマンスにどのような影響を与える可能性があるかも示しました。

別の研究香港科技大学の研究者らが実施した調査では、移民、生殖に関する権利、気候変動といった二極化する問題に関して、いくつかのオープンソース AI モデルにバイアスがあることが判明した。この研究に携わった博士課程の候補者イェジン・バン氏は、ほとんどのモデルはリベラルかつ米国中心に傾く傾向があるが、同じモデルでもテーマに応じてさまざまなリベラルまたは保守的なバイアスを表現できると述べた。

AI モデルは、必然的にあらゆる種類の視点が含まれるインターネット データの帯に基づいてトレーニングされるため、政治的偏見を捉えます。モデルには特定の有害なコンテンツや偏ったコンテンツの生成を制限するガードレールが組み込まれているため、ほとんどのユーザーは使用するツールの偏りに気づいていない可能性があります。ただし、これらのバイアスは微妙に漏れ出す可能性があり、出力を制限するためにモデルが受ける追加のトレーニングにより、さらなる党派性が導入される可能性があります。 「開発者は、意見を対立させるトピックについてモデルが複数の視点にさらされるようにして、バランスの取れた視点で対応できるようにすることができます」とバン氏は言います。

AIシステムがより普及するにつれて、問題はさらに悪化する可能性があると述べています アシケ・クダブクシュロチェスター工科大学のコンピューター科学者であり、大規模な言語モデルのさまざまな社会的偏見を明らかにする Toxicity Rabbit Hole Framework と呼ばれるツールを開発しました。 「新世代の LLM が AI 生成コンテンツによって汚染されたデータを使ってトレーニングされるようになるため、悪循環が始まろうとしているのではないかと懸念しています」と彼は言います。

カールスルーエ工科大学の博士研究員で、バイアス関連の LLM 分析を行ったルカ・レッテンバーガー氏は、「LLM 内のバイアスはすでに問題になっており、将来的にはさらに大きな問題になる可能性が高いと確信しています」と述べています。ドイツ政治に。

レッテンバーガー氏は、政治団体が他人の意見を優先して自分たちの意見を推進するために、LLM に影響を与えようとする可能性もあると示唆しています。 「誰かが非常に野心的で悪意を持っている場合、LLM を特定の方向に操作することが可能になる可能性があります」と彼は言います。 「私はトレーニングデータの改ざんが本当に危険だと考えています。」

AI モデルのバイアスのバランスを変えるための取り組みはすでにいくつか行われています。去年の３月に１回、 プログラマーはより右寄りのチャットボットを開発した ChatGPT のようなツールで彼が見た微妙なバイアスを強調するために。マスク氏自身は、xAI が構築した AI チャットボット Grok を「最大限真実を追求」し、他の AI ツールよりも偏りのないものにすることを約束しているが、実際にはそうだ。 それはヘッジにもなります トリッキーな政治的問題に関しては。 （熱心なトランプ支持者であり移民タカ派であるマスク氏自身の「偏見が少ない」という見方も、より右寄りの結果につながる可能性がある）。

来週の米国選挙で民主党と共和党間の不和が解消される見込みはほとんどないが、トランプ氏が勝利すれば、反覚醒AIに関する話題がさらに大きくなる可能性がある。

マスク氏は今週のイベントで、グーグルのジェミニ氏がケイトリン・ジェンナー氏の性別を誤るよりも核戦争の方が望ましいと述べた事件に言及し、この問題について終末論的な見方を示した。 「そのようなことをするためにプログラムされたAIがあるなら、誰も性別を間違えないようにするには人類を絶滅させることが最善の方法であると結論付ける可能性があります。そうすれば、将来の性別間違いの可能性はゼロになります」と彼は言う。