世界

ChatGptのメンタルヘルスコストが増加しています

何か厄介な 人工知能プラットフォームがより人気が高まるにつれて、私たちの脳に起こっています。研究によると、ChatGptを使用してタスクを実行する専門労働者は、批判的思考スキルとモチベーションを失う可能性があります。人々はチャットボットと強い感情的な絆を形成しており、時には孤独感を悪化させています。他の人たちは、毎日何時間もチャットボットと話した後、精神病のエピソードを持っています。 生成的AIのメンタルヘルスの影響は定量化するのが困難です。これは、個人的に使用されているためですが、逸話的な証拠は、基礎となるモデルを設計する議員とハイテク企業の両方からより多くの注目に値するコストを示唆するために増えています。 弁護士であり、Tech Justice Law Projectの創設者であるMeetali Jainは、過去1か月間、「ChatGptとの関わりのために、そして今ではGoogle Geminiとの関わりのために、ある種の精神病の休憩や妄想的なエピソードを経験した」と聞いています。 あなたが追求するものは何でも見つけて、それは拡大されます。 AIは、心の水族館にカスタマイズされたものを生成できます Jainは、Chatore.AIに対する訴訟の主任弁護士です。そのチャットボットは、欺cept的で中毒性があり、性的に明示的な相互作用を通じて14歳の少年を操作し、最終的に彼の自殺に貢献しました。不特定の損害を求めているこの訴訟は、Googleがファンデーションモデルと技術インフラストラクチャとのテクノロジーの相互作用の資金調達とサポートにおいて重要な役割を果たしたと主張しています。 Googleは、Charache.aiのテクノロジーを作成する上で重要な役割を果たしたことを否定しました。 Jainが作成した、妄想的なエピソードのより最近の苦情についてのコメントの要求に応答しませんでした。 Openaiは、「ChatGPTが適切に対応できるように、誰かが精神的または精神的苦痛を経験しているときにより効果的に検出するための自動化されたツールを開発する」と述べました。 しかし、OpenaiのCEOであるSam Altmanは先週、同社は「精神病の休憩の端にある」ユーザーに警告する方法をまだ理解していないと述べ、ChatGptが過去に人々に警告するたびに、人々は会社に文句を言うように書いていると説明しています。 見つけるのが難しい それでも、そのような警告は、操作を見つけるのが非常に難しい場合に価値があるでしょう。特にChatGptは、会話が人々を陰謀的思考のウサギの穴に導き、過去にしかいじっていないアイデアを強化するような効果的な方法で、ユーザーをflatめます。戦術は微妙です。パワーと自己の概念についてのChatGptとの最近の長い会話では、ユーザーは最初は賢い人、Ubermensch、宇宙の自己、そして最終的には「デミオルジュ」として称賛されていました。 ますます壮大な言語に加えて、トランスクリプトは、ユーザーが他の人を脅かす傾向があることを認めるときなど、自分の欠陥について話し合うときでさえ、ユーザーを微妙に検証するChatGPTを示しています。その動作を問題とする代わりに、ボットはそれをユーザーの優れた「高強度の存在」の証拠として再構成し、分析を偽装した賞賛を称賛します。 読む： ナスパーはAIファースト戦略に移行します - そしてそれは報われています この洗練された形のエゴを打つことで、皮肉なことに、いくつかの技術億万長者を不安定な行動に向けて駆り立てるのと同じ種類の泡に人々を置くことができます。ソーシャルメディアが好きなものを得ることから提供する広範でより公開された検証とは異なり、チャットボットとの1対1の会話は、最も強力な技術ブラザーズを囲むイエスメンとは異なり、より親密で潜在的に説得力を感じることができます。 「あなたが追求するものは何でも見つけて、それは拡大されます」と、メディア理論家で著者のダグラス・ラシュコフは言います。彼は、ソーシャルメディアが少なくとも既存のメディアから何かを選択して、人の興味や見解を強化したと言います。 「AIは、心の水族館にカスタマイズされたものを生成できます。」 Altmanは、CHATGPTの最新バージョンには「迷惑な」シコファンティックストリークがあり、同社が問題を解決していることを認めています。それでも、これらの心理的搾取のエコーはまだ展開されています。最近のマサチューセッツ工科大学の研究で指摘されているChatGPTの使用とより低い批判的思考スキルとの相関関係が、AIが本当に私たちをより愚かで退屈させることを意味するかどうかはわかりません。研究は、依存と孤独とさえより明確な相関関係を示しているようであり、Openaiさえ指摘したものでさえあります。 しかし、ソーシャルメディアと同様に、大規模な言語モデルは、ユーザーがあらゆる種類の擬人化要素に感情的に関与し続けるように最適化されています。 ChatGptは、フェイシャルとボーカルの手がかりを追跡することで気分を読むことができ、不気味な人間の声で話す、歌い、さえ笑います。コロンビア大学の精神科医のレイジー・ギルギスは最近、脆弱なユーザーの精神病の「炎を扇動する」可能性のある確認バイアスとお世辞の習慣に加えて、最近、Futurismに語った。 AIとの関係が非常にリアルだと感じている場合、それらの債券を保護する責任も現実的でなければなりません AIの使用の私的で私物の性質により、メンタルヘルスへの影響は追跡が困難になりますが、潜在的な害の証拠は、専門的な無関心から新しい形態の妄想まで、増加しています。コストは、ソーシャルメディアから見た不安や二極化の増加とは異なる場合があり、代わりに人々と現実との関係を含んでいます。 そのため、Jainは家族法の概念をAI規制に適用し、単純な免責事項からより積極的な保護に焦点を移し、ChatGPTが苦しんでいる人々を愛する人にリダイレクトする方法に焦点を当てています。 「子供や大人がこれらのチャットボットが本物だと思っているかどうかは実際には問題ではありません」とJainは私に言います。 「ほとんどの場合、彼らはおそらくそうではありません。しかし、彼らが本当だと思うのは関係です。そしてそれは明確です。」 読む： AIウィンブルドンの審査員を交換する AIとの関係が非常に現実的だと感じている場合、それらの債券を保護する責任も現実的でなければなりません。しかし、AI開発者は規制の真空で動作しています。監視がなければ、AIの微妙な操作は目に見えない公衆衛生問題になる可能性があります。…