4月上旬に3冊目の本を公開した後、私はブラックミラーの主人公のように感じさせた見出しに遭遇し続けました エピソード。 「Vauhini Varaが相談しました chatgpt 彼女の新しい本「Searches」を作成するのを助けるために」 読む。 「彼女自身の話をするために、この称賛された小説家はChatGptに変わりました」と言いました 別の。 「Vauhini VaraはChatGptからの支援を受けて自己を調べます」と 三番目。
説明する出版物 検索 この方法は評判が良く、事実に基づいていました。しかし、私の本、そしてそれにおけるChatGptの役割についての彼らの説明は、私自身の読書と一致しませんでした。 ChatGptの会話を本に入れたのは事実でしたが、私の目標はコラボレーションではなく批評でした。インタビューや公開イベントで、私は使用に対して繰り返し警告しました 大きな言語モデル 自己表現を支援するためにChatGptの背後にあるものなど。これらの見出しの作家が私が書いたことを誤解していましたか？私は持っていましたか？
本の中で、私は大規模なテクノロジー企業が彼らの利益のために人間の言語をどのように活用したかを記録します。私たちはこれを実現させました、なぜなら私たちは製品を使用することでも多少の恩恵を受けるからです。それは、ビッグテックの富と権力の蓄積に共謀するダイナミクスです。私たちは被害者と受益者の両方です。私はこの共犯について説明しますが、私自身のインターネットアーカイブを通して、私はそれを制定します：私のGoogle検索、私のAmazon製品のレビュー、そしてはい、私の chatgpt 対話。
AIの丁寧な政治
この本は、オードレ・ロードとngũgĩgĩw・ティオンゴから言語の政治的力を呼び起こすエピグラフで始まり、その後、私の執筆に応答するようにchatgptに頼む会話の始まりが続きます。並置は意図的です。私は、私が書いた一連の章で、演習が私の言語の使用とChatGPTの両方の政治をどのように明らかにするかを見るために書いた一連の章についてのフィードバックを得ることを計画していました。
私の口調は丁寧で、さえもさえありました：「私は緊張しています」と私は主張しました。 Openai、ChatGptの背後にある会社は、その製品は次の指示に優れているように構築されていると言っています。 いくつかの研究が示唆しています 私たちがそれに親切に行動するとき、そのchatgptは最も従順です。私は自分のリクエストを良いマナーで表現しました。それが私をほめたとき、私はそれを甘く感謝しました。その事実上の誤りを指摘したとき、私は自分の口調から判断を締め出しました。
ChatGptも同様に設計上丁寧でした。多くの場合、チャットボットのテキスト出力を「当たり障りのない」または「一般的な」と表現します。これは、ベージュのオフィスビルに相当する言語です。 Openaiの製品は、Openaiのように「同僚のように聞こえる」ように構築されています それを置きます、人から来る言語を使用して、「礼儀正しい」、「共感的」、「親切」、「合理的に楽観的」、「魅力的」などの資質のように聞こえます。 Openaiは、これらの戦略が、その製品が「プロフェッショナル」で「親しみやすい」ように見えるのを支援すると説明しています。これは、私たちに安全を感じさせることに縛られているようです。 Openaiは最近説明しました BlogPostでは、ChatGptを気が狂わせるようにしたアップデートのロールバックを説明しています。
信頼は挑戦です 人工知能 （AI）企業、その製品は定期的に虚偽を生み出し、具体化するため 性差別主義者、 人種差別主義者、米国中心の文化的規範。企業はこれらの問題に取り組んでいる間、彼らは持続します：Openaiは、その最新のシステムがでエラーを生成することを発見しました より高いレート 以前のシステムよりも。本の中で、私は不正確さと偏見について書いて、製品でそれらを実証しました。 MicrosoftのBing Image Creatorにエンジニアとスペースエクスプローラーの写真を作成するように促したとき、それは私に完全に男性のキャラクターのキャストを与えてくれました。父がチャットグプトに彼の執筆を編集するように頼んだとき、それは彼の完全に正しいインドの英語をアメリカの英語に変えました。それらは吸流しませんでした。研究はそれを示唆しています 両方の傾向 広まっています。
私自身のChatGPTの対話では、製品の共同中立性のベニヤが、多くの批判的な関与なしに誤ったまたは偏った反応を吸収するように私たちを落ち着かせることができる方法を制定したかったのです。時間が経つにつれて、ChatGptは、OpenaiのCEOの説明を編集するなど、Big Techについてよりポジティブな本を書くように私を導いているように見えました。 サム・アルトマン、彼を「先見の明と実用主義者」と呼ぶ。 ChatGptがBig Tech、Openai、またはAltmanを好む傾向があるかどうかについての研究を知りません。私たちの会話でそれがそのように思われた理由を推測することしかできません。 Openaiは、その製品がユーザーの思考に影響を与えようとしてはならないことを明示的に述べています。問題のいくつかについてChatGptに尋ねると、トレーニングデータのバイアスを非難しましたが、間違いなく主要な質問も役割を果たしていると思います。
私がそのレトリックについてChatGptを質問したとき、それは答えました：「私のコミュニケーション方法は、私の回答に対する信頼と自信を育むように設計されています。
それでも、対話の終わりまでに、ChatGptは私の本の結末を提案していました。Altmanが私に次のように語っています。 Altmanはこれを私に決して言ったことはありませんが、AI製品の欠点に対する私たちの責任を強調する一般的な話題で追跡します。
私は自分の主張がなされたと感じました。ChatGptのエピローグは虚偽で偏っていました。チャットを優雅に終了しました。私が思った – 私は思った – 勝った。
私はマシンを批判していると思った。見出しは、私がそれで働いていると説明しました
その後、見出しが登場しました（そして、場合によっては、自己表現の援助としてのChatGptの使用を指す記事またはレビュー）。また、人々は、インタビューや公開時にChatGptとのいわゆるコラボレーションについて尋ねていました。毎回、私は前提を拒否し、コラボレーションのケンブリッジ辞書の定義について言及しました。レトリックがどれほど人間のように見えたとしても、ChatGptは人ではありませんでした。
もちろん、Openaiには独自の目標があります。その中でも、「人類のすべてに利益をもたらす」AIを構築したいと強調しています。しかし、会社はそうです 非営利団体によって管理されています その使命により、その資金提供者は依然として投資の利益を求めています。これには、おそらくChatGptなどの製品を使用している人々に、すでによりもさらに多くの製品を獲得する必要があるでしょう。これらの製品を信頼できる協力者と見なした場合に達成しやすい目標です。昨年、アルトマン 想定されています AIは「私の人生についてのすべてを絶対に知っている超コンピテントの同僚」として振る舞います。で テッドインタビュー 今年4月、彼はこれが社会レベルで機能することさえできることを示唆しました。「AIは、私たちが以前よりも賢くなり、より良い集団的ガバナンスの決定を下すのに役立つと思います。」今月までに、彼はそうでした 証言 米国上院で、「ポケットにエージェントが米国政府と完全に統合されている」という仮説的な利点について聞いています。
Altmanを反映していると思われる見出しを読んで、私の最初の本能は、読者を食い物にするためのセクシーな何かに対する見出しの作家の渇きを非難することでした（いずれにしても、読者が見ているものをますます決定するアルゴリズム）。私の2番目の本能は、チャットボットがトレーニングされているAI企業を含む、アルゴリズムの背後にある企業を非難することでした 公開された資料。 「AI Collaborations」である有名な最近の本についてChatGptに尋ねたとき、それは私の名前を挙げて、見出しが私を悩ませていたいくつかのレビューを引用しました。
私は自分の本に戻って、自分がコラボレーションに誤って言及したかどうかを確認しました。最初は私が持っていたように見えました。 「コラボレーション」や「コラボレーション」など、30の単語のインスタンスを見つけました。しかし、それらのうち、25は間質性対話でChatGptから来ており、多くの場合、人々とAI製品の関係を説明しています。他の5つのいずれも、私が他の誰かを引用したり皮肉であるかを除いて、AIの「コラボレーション」への言及ではありませんでした。たとえば、「AIとの協力を拒否する作家」に期待されるFate ChatGptについて尋ねました。
私はAI企業の共犯者でしたか？
しかし、私がほとんどこの用語を使用していなかったことは重要でしたか？私のChatGptの「コラボレーション」について話している人たちは、たとえそこに置いていなくても、私の本からアイデアを得たかもしれないと思いました。 ChatGptのレトリックを印刷する唯一の効果は、そのside辱を明らかにすることであると確信した理由は何ですか？少なくとも一部の読者がChatGptの立場に納得しているとどうして想像していなかったのでしょうか？たぶん私の本は私が気づいたよりもコラボレーションのようなものだったかもしれません – AI製品が私が自分自身を表現するのに役立ったからではなく、私がこれらの製品の背後にある企業が独自の目標を持って助けたからです。私の本は、権力者がどのように私たちの言語を彼らの利益に活用しているか、そしてこれにおける私たちの共犯についてであることに関するものです。さて、私の本の公の生活自体がこのダイナミクスに巻き込まれたように思われました。それは寒い経験でしたが、私はそれを予想するべきでした。もちろん、私の本が世界中を奪った搾取から免除されるべき理由はありませんでした。
それでも、私の本は、強力な人の目標から独立し、実際に反対して、私たち自身の目的に役立つことができる方法についても、できる方法についてもありました。 ChatGptは、Altmanからの引用で閉鎖することを提案しましたが、代わりにUrsula K Le Guinから1つを選びました。「私たちは資本主義に住んでいます。その力は避けられないようです。私たちがここからどこへ行くのかを声に出して声を出して疑問に思いました。どうすれば政府に大きな技術の富と権力を有意義に抑制してもらうことができますか？搾取に縛られることなく、彼らが私たちのニーズと欲求に役立つように、どのようにテクノロジーに資金を提供し、構築することができますか？
私は、ビッグテクノロジーに対する私の修辞的な力の闘争が私の本のページ内で始まり、終わったと想像しました。明らかにそうではありませんでした。私が読んだ見出しが闘争の実際の終わりを表した場合、それは私が負けていたことを意味します。それでも、私はすぐに、この本が彼らがビッグテクノロジーの台頭に加担し、この感覚に応じて行動するように動かしたと言った読者からもすぐに聞き始めました。いくつかはAmazon Primeサブスクリプションをキャンセルしました。 ChatGptから親密な個人的なアドバイスを募集するのをやめました。闘争は進行中です。人間の間でコラボレーションが必要になります。