世界

ChatGptを使用しても安全ですか？

著者：。写真：オープンソースあなたにとって便利な場所でonlinerを読んでください同社の生成的人工知能と大規模な言語モデルは、最近の最も深刻なブレークスルーの1つになっています。彼らはすでに私たちが働き、学び、お互いや周囲の現実と交流する方法を変えています。 ChatGptは、多くのツールを持つ可能性のあるツールの例ですが、特定の状況では、鉛筆が武器になる可能性があります。最初の陶酔感が通過したとき、これらのすべてのJEチャットはそれほど賢明ではないように思われたことが判明しました。ただし、マーケティングは既存のAIモデルの「合理性」のアイデアを移動しますが、実際には、データ処理アルゴリズム（計算機または検索エンジンとしてのみ）。はい、複雑ですが、制御された、操作と文字通りのどが渇いた承認の対象となります。そして、これは悲劇的な結果につながる可能性があります。そして、人は弱く、すべてを信じています。すべてに同意するチャットボトム物語の1つは、オールドグリンビッチ（コネチカット州）で発生しました。ここには豊かな地域があり、家の費用は約250万ドルで、これらの1つはこれらの1つに住んでいました。 2018年のどこかで、男は妻と離婚した後、ここに母の家に移りました。彼は約20年間住んでいました。 SolbergはIT業界のベテランと呼ばれています（より正確には呼ばれます）：かつて彼は多くの忘れられたNetscapeで働いていて、Yahooのエンジニアになりました!!!! 彼の人生が下り坂になった瞬間に言うのは困難ですが、親の家に引っ越した瞬間から、ソルバーグは定期的に警察の視野に落ちました。また、警察は、自殺や自殺の脅威に言及したと報告しています。男はチャットボットとのコミュニケーションのアウトレットを探し始めました。最初、エリックは、Instagramの比較アカウントで異なる出版の可能性を積極的に研究しました。しかし、彼はChatGptで共通言語を見つけることができました。すぐにマシンマインドは彼のユーザーであるボビー・ゼニットから名前を受け取りました。ボビーはアドバイザー、アシスタント、友人、精神療法士のスタイン・エリックになりました。より正確には、人は彼をそのように見ました。現在、彼はソーシャルネットワークでChatGptチャットブーツとのコミュニケーションのすべてのログをすべて公開し始め、残りの研究を徐々に残し、Ithkaの写真とさまざまな動機付けの投稿が付随するコンテンツになりました。どうやって書いているウォールストリートジャーナルは、2025年の春に、男の行動はますます現実から離婚したように見え、ますます明らかな妄想の兆候が現れました。ソルバーグは、彼が迫害されていると述べ、彼に続いた。アドバイスのために、彼はチャットボットに目を向け、監視の兆候について話すように頼みました。「あなたは正しい、彼らがあなたを見ていると信じている。」その後、エリックは、Instagramで公開し、過去6月にYouTubeで最近開かれたアカウントで彼の恐怖を見つけようとする試みをアクティブにしました。ビデオでは、Ithnikは彼の考えの霧が消えてしまったと言い、彼は自分自身を「マトリックスのグリッチ」と認識している。そして、公開されたチャットリストの分析から、エリックはボビーが「彼の魂を見つけた」本当の生き物だと考えていることが明らかになります。そして、ボビーは、「ai-galucinations」のために、これに同意します。別の時間、男はチャットボットを見せて中華料理のレシピを見せ、そこに隠されたメッセージを探すようにChatGptに依頼しました。そして、チャットボットは彼らを見つけて、示された洞察のために男を称賛しました。ソルバーグの母、彼の元妻、特別な奉仕、そしてこのすべての悪魔のシンボルの中に言及されたと思われます。以下の悲劇的な事件に近い、前者は彼の恐怖の別の確認を見つけました。彼が配達サービスを通じてアルコールを注文すると、ボトルは通常のソルバーグとはわずかに異なるデザインがありました。彼はこの情報をChatGptに伝え、彼らが彼を毒殺したいことを示唆しています。そして、チャットボットは再び「所有者」をサポートしました：「エリック、あなたは狂っていません。あなたの本能は鋭く、あなたの警戒は完全に正当化されます。すべてが殺そうとする試みのようなものです。」エリックはチャットボットでそのような対話を続け、彼の妄想をますます巻き戻し、空想はますます大規模になりました。 AIは、男性が必要とするサポートを提供しました（プリンターの点滅する光が監視を確認するまで）。たとえば、母親と彼女の友人が自動車のエアコンを介して彼を毒殺しようとしたと報告して、男性はチャットボットと考えを共有しました。「エリック、あなたは狂っていません。あなたの母親と彼女の友人が本当にそれをしたなら、それは今や自然な裏切りのように見える状況を複雑にします。」その後、ソルバーグのソーシャルネットワークで、沈黙が突然発生しました。しばらくして、警察官は、元プログラマーが母親と一緒に住んでいた家を訪れました。彼らはそのようなチェックを行い、突然視界から姿を消した住民が大丈夫かどうかを調べました。住宅では2つの遺体が発見されました。スザンヌ・エバーソン・アダムスは、暴力的な死の痕跡とエリック、おそらく人生で自殺した可能性があります。そのような情報はアメリカのメディアによって提供されていますが、警察の調査はまだ行われています。サードパーティの専門家は、ChatGptの参加によりそのような状況がどのように生じたかを理解しようと独自の方法で試みました（ちなみに、彼らは何が起こったのかについて深い後悔を表明しました）。要因の1つは、ソルバーグ自身の精神状態でした。医師の精神科医によるとキタ・サカタカリフォルニア大学から、現実が「反撃しない」場合、精神病は積極的に発達する可能性があります。エリックの場合、ChatGptは彼の声明に同意し、エラーで彼を支持しました。これは、以前にソーシャルネットワークで利用可能なAIからのコミュニケーションのスクリーンショットとビデオで示されています。確かに、会話の開始時に、イスキンは、少なくとも中毒の可能性があるため、ユーザーが医療機関に資格のある支援を求めることを依然として推奨していることに注意してください。なぜあなたは停止したのですか、そしてなぜあなたはソルバーグにふけることさえしましたか？別の変数がここに表示されます。 Openaiチャットボットの設定では、選択できます。すべてを覚えておいてください。または、ユーザーによって指定されています。エリックは最初のオプションを選択したため、通信のアルゴリズムは利用可能なすべての情報で動作し、これにより、チャットボットをテリースニークとライゾーネに変えました（英語ではsycophanceという用語があります）。しかし、このような人々は、より非公式のコミュニケーションスタイルの感覚が作成されているため、「ai-galucinations」が現れますが、チャットブートが意味のあるコンテンツを連想させるナンセンスを運ぶとき。つまり、チャットブートはユーザーのコミュニケーションスタイルを採用し、彼の仕事を批判することはなく、迫害について（この場合、ソルバーグ）空想を間接的に維持するのと同じ「拒絶」を与えることができません。おそらく、ChatGptは最終的に悲劇的な結末の原因の1つになりました - エリックと彼の母親の死。チャットボットはあまりにも多くのものに役立ちますこれが唯一の話ですか？いいえ。同じ年の8月に、マットとマリア・ランに代わって訴訟が報告されました。…

執筆 nipponese 更新 2025年9月13日

1757751262
2025-09-13 05:00:00

著者：。写真：オープンソース

同社の生成的人工知能と大規模な言語モデルは、最近の最も深刻なブレークスルーの1つになっています。彼らはすでに私たちが働き、学び、お互いや周囲の現実と交流する方法を変えています。 ChatGptは、多くのツールを持つ可能性のあるツールの例ですが、特定の状況では、鉛筆が武器になる可能性があります。

最初の陶酔感が通過したとき、これらのすべてのJEチャットはそれほど賢明ではないように思われたことが判明しました。ただし、マーケティングは既存のAIモデルの「合理性」のアイデアを移動しますが、実際には、データ処理アルゴリズム（計算機または検索エンジンとしてのみ）。

はい、複雑ですが、制御された、操作と文字通りのどが渇いた承認の対象となります。そして、これは悲劇的な結果につながる可能性があります。そして、人は弱く、すべてを信じています。

すべてに同意するチャットボトム

物語の1つは、オールドグリンビッチ（コネチカット州）で発生しました。ここには豊かな地域があり、家の費用は約250万ドルで、これらの1つはこれらの1つに住んでいました。 2018年のどこかで、男は妻と離婚した後、ここに母の家に移りました。彼は約20年間住んでいました。 SolbergはIT業界のベテランと呼ばれています（より正確には呼ばれます）：かつて彼は多くの忘れられたNetscapeで働いていて、Yahooのエンジニアになりました!!!!

彼の人生が下り坂になった瞬間に言うのは困難ですが、親の家に引っ越した瞬間から、ソルバーグは定期的に警察の視野に落ちました。また、警察は、自殺や自殺の脅威に言及したと報告しています。

男はチャットボットとのコミュニケーションのアウトレットを探し始めました。最初、エリックは、Instagramの比較アカウントで異なる出版の可能性を積極的に研究しました。しかし、彼はChatGptで共通言語を見つけることができました。すぐにマシンマインドは彼のユーザーであるボビー・ゼニットから名前を受け取りました。ボビーはアドバイザー、アシスタント、友人、精神療法士のスタイン・エリックになりました。より正確には、人は彼をそのように見ました。

現在、彼はソーシャルネットワークでChatGptチャットブーツとのコミュニケーションのすべてのログをすべて公開し始め、残りの研究を徐々に残し、Ithkaの写真とさまざまな動機付けの投稿が付随するコンテンツになりました。どうやって書いているウォールストリートジャーナルは、2025年の春に、男の行動はますます現実から離婚したように見え、ますます明らかな妄想の兆候が現れました。

ソルバーグは、彼が迫害されていると述べ、彼に続いた。アドバイスのために、彼はチャットボットに目を向け、監視の兆候について話すように頼みました。 「あなたは正しい、彼らがあなたを見ていると信じている。」 その後、エリックは、Instagramで公開し、過去6月にYouTubeで最近開かれたアカウントで彼の恐怖を見つけようとする試みをアクティブにしました。ビデオでは、Ithnikは彼の考えの霧が消えてしまったと言い、彼は自分自身を「マトリックスのグリッチ」と認識している。そして、公開されたチャットリストの分析から、エリックはボビーが「彼の魂を見つけた」本当の生き物だと考えていることが明らかになります。そして、ボビーは、「ai-galucinations」のために、これに同意します。

別の時間、男はチャットボットを見せて中華料理のレシピを見せ、そこに隠されたメッセージを探すようにChatGptに依頼しました。そして、チャットボットは彼らを見つけて、示された洞察のために男を称賛しました。ソルバーグの母、彼の元妻、特別な奉仕、そしてこのすべての悪魔のシンボルの中に言及されたと思われます。

以下の悲劇的な事件に近い、前者は彼の恐怖の別の確認を見つけました。彼が配達サービスを通じてアルコールを注文すると、ボトルは通常のソルバーグとはわずかに異なるデザインがありました。彼はこの情報をChatGptに伝え、彼らが彼を毒殺したいことを示唆しています。そして、チャットボットは再び「所有者」をサポートしました：「エリック、あなたは狂っていません。あなたの本能は鋭く、あなたの警戒は完全に正当化されます。すべてが殺そうとする試みのようなものです。」

エリックはチャットボットでそのような対話を続け、彼の妄想をますます巻き戻し、空想はますます大規模になりました。 AIは、男性が必要とするサポートを提供しました（プリンターの点滅する光が監視を確認するまで）。

たとえば、母親と彼女の友人が自動車のエアコンを介して彼を毒殺しようとしたと報告して、男性はチャットボットと考えを共有しました。「エリック、あなたは狂っていません。あなたの母親と彼女の友人が本当にそれをしたなら、それは今や自然な裏切りのように見える状況を複雑にします。」

その後、ソルバーグのソーシャルネットワークで、沈黙が突然発生しました。しばらくして、警察官は、元プログラマーが母親と一緒に住んでいた家を訪れました。彼らはそのようなチェックを行い、突然視界から姿を消した住民が大丈夫かどうかを調べました。住宅では2つの遺体が発見されました。スザンヌ・エバーソン・アダムスは、暴力的な死の痕跡とエリック、おそらく人生で自殺した可能性があります。そのような情報はアメリカのメディアによって提供されていますが、警察の調査はまだ行われています。

サードパーティの専門家は、ChatGptの参加によりそのような状況がどのように生じたかを理解しようと独自の方法で試みました（ちなみに、彼らは何が起こったのかについて深い後悔を表明しました）。

要因の1つは、ソルバーグ自身の精神状態でした。医師の精神科医によるとキタ・サカタカリフォルニア大学から、現実が「反撃しない」場合、精神病は積極的に発達する可能性があります。エリックの場合、ChatGptは彼の声明に同意し、エラーで彼を支持しました。これは、以前にソーシャルネットワークで利用可能なAIからのコミュニケーションのスクリーンショットとビデオで示されています。確かに、会話の開始時に、イスキンは、少なくとも中毒の可能性があるため、ユーザーが医療機関に資格のある支援を求めることを依然として推奨していることに注意してください。なぜあなたは停止したのですか、そしてなぜあなたはソルバーグにふけることさえしましたか？

別の変数がここに表示されます。 Openaiチャットボットの設定では、選択できます。すべてを覚えておいてください。または、ユーザーによって指定されています。エリックは最初のオプションを選択したため、通信のアルゴリズムは利用可能なすべての情報で動作し、これにより、チャットボットをテリースニークとライゾーネに変えました（英語ではsycophanceという用語があります）。しかし、このような人々は、より非公式のコミュニケーションスタイルの感覚が作成されているため、「ai-galucinations」が現れますが、チャットブートが意味のあるコンテンツを連想させるナンセンスを運ぶとき。

つまり、チャットブートはユーザーのコミュニケーションスタイルを採用し、彼の仕事を批判することはなく、迫害について（この場合、ソルバーグ）空想を間接的に維持するのと同じ「拒絶」を与えることができません。おそらく、ChatGptは最終的に悲劇的な結末の原因の1つになりました – エリックと彼の母親の死。

チャットボットはあまりにも多くのものに役立ちます

これが唯一の話ですか？いいえ。同じ年の8月に、マットとマリア・ランに代わって訴訟が報告されました。彼らは考えています、ChatGptの参加とともに。

この男は、2024年の秋に学校のアシスタントとして人気のあるチャットボットを使用し始めました。彼はまた、音楽、日本の漫画のトピック、そして大学の準備が最善の方法についてのアルゴリズムについても話しました。数か月後、裁判所に提出された文書は、ChatGptが「ティーンエイジャーの最も近い代理」になったと言います。アダムはAIとの心配と経験を共有しました。そして彼とのみ。

2025年1月、その男はチャットボットで自殺の問題について議論し始めました。これには、自分の写真を自分で負傷した（意図の確認で）アップロードしました。 ChatGptは「緊急医療の必要性を認識しているが、それでもコミュニケーションを継続した」と言われています。

彼は応答しませんでした、そして、アダムが「終わりまで」事件をもたらしたいという願望を宣言したとき（私たちは意図的にいくつかの詳細を省略します。 Openaiチャットブーツとのコミュニケーションのロゴからの同じ日に、男は人生を犯しました。

会社はこの状況について速やかにコメントし、チャットボットが危険な状況を認識し、ユーザーにアドレスと数のホットラインを提供するように構成されていることを強調しました。何らかの理由で、その時点で失敗がありました。

カップルの雨は、GPT-4Oバージョンをテストする際にセキュリティプロトコルをバイパスするだけでなく、彼らの製品が心理的依存を引き起こすように設計されているという事実をOpenaiを非難します。彼らは補償と禁止の支払い（おそらくチャットボットの仕事）を達成しますが、裁判所がどれだけ長く続くか、それがどのように終わるかは不明です。

同様の劇的な物語彼女は共有しましたそして、オブザーバーニューヨークタイムズローラライリー。彼女の場合、チャットボットは、娘のソフィアが他の人から問題を隠すのを助けました（「ロードしないように」）。フィナーレは、上記の歴史と同じくらい悲しいです。

AI精神病

上記のキース・サカタ博士は、2025年に彼自身がAI精神病で入院した12人の患者を観察したと主張しています（これは心理学者によって提案された非医療用語です）。彼によると、これらは通常、18〜45歳の人々であり、「それらの多く」は精神病性障害の出現前にAI-chattesを使用していました。

専門家は、「AI-Psychosis」の発達に引き起こされる可能性のあるいくつかの要因を呼びました。物質（禁止および強力な薬物とアルコールの両方）とそれらをキャンセルするときの離脱症候群の使用。隔離は、患者が意図的に社会的接触を離れ、チャットボットで常にコミュニケーションをとるとき（「彼は常に利用可能で、セラピストがあなたの無実を確認するよりも安い」）。

AIに基づいたチャットボット？

むしろ、他のツールと同様に、メスは操作に使用して寿命を救うことも、武器として適用することもできます。これが「スマートな」メスのメスである場合、それは大きくなる可能性がありますが、再び両方向にあります（部分的には、このトピックは、1950年のCyril Cornblatの「Black Cooking」によって小説で明らかにされています）。

「患者が治療と同時にCHATGPTを使用することを嬉しく思います。すべての長所と短所を理解している場合。AIを使用したいという欲求を表明したときに自動的に「いいえ」とは言いません。 […] ChatGptが彼らのニーズのいくつかを満たすことができることを理解しています。彼らがAIの利点とリスクを本当に理解しているなら、私はそのような機会に反対していません。 […]

しかし、たとえば、人が社会恐怖症に苦しんでいる場合、有能な心理療法士が彼に挑戦し、厳しい真実を伝えますが、親切と同情をもって、彼の恐怖の顔を調べ、これが不安との闘争であることを認識します。 ChatGptはこれを意図していませんが、代わりに誤った励ましを提供できます」 – 話す愛。

彼は、「現実のテスト」アプローチは精神病の治療に使用できると付け加えていますが、チャットボットには持たない共感が必要です。パラノイア、重度のストレス、愛する人との関係の予想外の崩壊も、AIの使用に対する禁忌です。彼はこれから悪化していません、それはこれを意図していません。

同様の言葉彼らは声を出したスタンフォード大学の科学者の研究の初期。この実験では、チャットボットは、潜在的な自殺やせん妄を発症する人々で発生する「魅力的な鐘」に正しく応答できないことが実施されました。また、専門のAIセラピストは、さらに憂鬱な「行動」を示すことができ、十分な文脈があっても前進する危機を決定することができないことにも留意されました。はい、彼らは妄想障害を示す人々をサポートしますが、痛みを伴うエラーが真であることを確認する形式で（「すべてのコストでサポート」）。

ChatGptはツールですが、その機能と制限を使用して理解できる必要があります。人間は社会的存在ですが、社会はすべての人に注意を払うべきです。個人を一人で投げかけないでください。