から 分散化 – 民主主義のために必要です dept
今週、Elon Musk’s Grok Aiが始まりました 極端な反ユダヤ主義を吐き出す、ユダヤ人についての陰謀理論で対応し、短期間、人々にそれを「メカヒトラー」と呼ぶように言っています。この事件は、1か月前に走った集中AIの危険性についてのアレックス・コモロスケのマニフェストが、波を起こしている理由を完全に示しています。一人がAIシステムでダイヤルを制御すると、ユーザーではなく、自分の興味や世界観を提供するためにそれらのダイヤルを鳴らすことができます。
数日前、イーロンは、彼のチームが「Grokが大幅に改善された」と主張し、「Grokの質問をするときに違いに気付くべきだ」と主張しました。
そして、ええ、ええ。人々は確かに違いに気づいた。
変換は微妙ではなく、偶然でもありませんでした。
Grokがすべてを白いジェノサイドにリンクすることに夢中になった2か月ほど前に同様の事件の後、会社は始まりました システムのプロンプトを公開します githubに。したがって、少なくとも、システムプロンプト側の進行が確認できます。この透明性は、称賛に値するものの、AIシステムがどのように一元化されているか、そしてそれらをどれだけ簡単に操作できるかについて深く厄介な何かを明らかにしています。
つまり、Grokは「メディアから供給された主観的な視点が偏っていると仮定するべきだ」と述べ、「反応は、彼らが十分に実証されている限り、政治的に間違っている主張をすることを敬遠するべきではない」と述べた。それはメカヒトラーであることに向けてそれを引き起こしたようでした。
これらの一見無害な変化は、集中化されたAI制御の根本的な問題を明らかにしています。 「バイアスメディア」とは何ですか？ 「よく実証された」とは何ですか？単一のエンティティ、特に明確なイデオロギーのアジェンダを備えたエンティティをそれらの決定を行う責任で配置すると、中立のAIが得られません。プロンプトを制御する人のバイアスを反映したAIを取得しています。
そして、常にいくつかの形のバイアスがあります どれでも これらのシステムに関して行われた選択。ブライアンクリスチャンの素晴らしい本、 アライメントの問題、AIのバイアスについて考えている人のために読む必要があります。また、バイアスを取り除く方法がない方法を詳しく説明していますが、ノブとダイヤルを担当する人は非常に重要であり、問題のあるインセンティブを持つ人々にそのすべての力を渡すことは、危険な結果につながるでしょう。
Grokに戻る：状況がエスカレートするにつれて、 彼らは削除しました プロンプトの「政治的に間違った」部分：
これから生まれたのは、露骨な反ユダヤ主義ではありませんでした。七面鳥 Grokのすべてのコンテンツをブロックしました それが悪名高い薄い肌の大統領であるTayyip Erdoganをs辱した後。
最終的には、extwitterだけです Grokを完全にオフラインにしました。
反ユダヤ主義についての多くの解説があります（そして、ここ数年にわたってイーロンの反ユダヤ主義の歴史を考えると、これがどれほど衝撃を受けていません）が、ここでの本当の話は、この事件がこの事件が明らかにしていることです 集中化されたAIシステムの固有の危険。 一元化されたソーシャルメディア（Twitterのような）が、Elon Muskのようなファシストの反動者による買収と制御のリスクがあるように、この事件は、中央集中型AIエンジンにも同じことが当てはまることを人々に明らかにするはずです。
これは、Elon Muskの個人的な偏見だけではありませんが、それらは確かに展示されています。それは、何百万人もの人々が情報と相互作用のために依存しているシステムを制御する単一のエンティティを提供するという構造的な問題についてです。そのコントロールが濃縮されると、それは乱用され、捕らえられるか、たまたま担当している人の狭い世界観を単に反映することができます。
4月に戻って、私は「分散化」の「De」は「民主主義」を等しく支持する可能性があると書いたと書いた。他の誰かがあなたが使用するシステムのダイヤルを制御している場合、彼らはそれらを微調整できます。 彼らの 利点と彼らの好み。それは必ずしも伝統的な意味で「操作」ではありません。 Extwitterを使用している人々は、メカヒトラーグロックにナチスに変わるように確信するとは思わないが、それは物語を変え、ユーザーの人々に対する一人の利益を進めている。
Grok事件は、この原則を実証しています。マスクは、ユーザーに反ユダヤ人になるよう説得する必要はありませんでした。多くの人々が権威あるAIシステムとして扱うものから出現させることにより、反ユダヤ主義の陰謀理論を正常化する必要がありました。 「合理的な」談話と見なされるものの微妙な変化は、しばしば明白なプロパガンダよりも強力です。
使用するツールを制御する必要があります。
特に最近、非常に多くの人々が（危険なほど）AIツールを「客観的な」真実のソースとして扱い始めているため、人々はすべてバイアスの対象であることを理解する必要があります。これらのバイアスの一部は、トレーニングデータにあります。いくつかは彼らの体重にあります。そして、今では非常に明確になっているように、システムのプロンプトに直接あります。
問題は単なる偏見ではなく、それはそうです だれの バイアスはシステムに組み込まれます。集中化されたAIが、ユーザーの多様な視点ではなく、ハイテク億万長者の世界観を反映している場合、人工知能を取得していません。私たちは人工的なイデオロギーを取得しています。
私が書いたとき プラットフォームではなくプロトコル、それは本当にユーザーの音声プラットフォームであり、10年前に人々が互いに通信するために使用していたツールの種類についてでした。しかし、それは今日のAIシステムに等しく適用されます。集中化されたものは強力かもしれませんが、目に見えない予想外の方法で微調整して操作する傾向があります（または、メカヒトラーの場合のように、見られ、完全に期待される方法）。
この解決策は、AIを禁止したり、ハイテク億万長者がシステムに埋め込みたいバイアスにとどまっていることを受け入れたりするという解決策ではありません。解決策は、ユーザーの手にコントロールを戻すAIシステムを構築することです。システムのプロンプトを通じてElon Muskの世界観を課すのではなく、独自の値、独自のソース、および独自のフィルターを選択できるシステムです。
私たちの目標が、独裁主義ではなく、民主主義の原動力としてテクノロジーと革新を使用することである場合、民主主義に役立つ基本的な特性を認識する必要があります。
そして、「メカヒトラー」として現れるまで、イーロン・マスクがグロークを微調整するよりも、独裁的な目的に集中化された技術をどのように使用できるかについて、より多くのノースの類推を考えることは困難です。
下に提出：集中化、分散化、イーロンマスク、ファシズム、グロック、システムプロンプト
企業：Twitter、X、Xai
#GrokはMechahitlerになりますTwitterはXになります集中化された技術がファシスト操作の傾向がある方法