したがって、このAIツールは、古い神に人間の血の犠牲者に関する詳細な指示を与えるだけでなく、自傷行為や殺人さえも奨励しています。
物語は記者として始まります デアトランティック モロッコから、儀式に関連付けられている古い神である子どもたちの犠牲まで。
当初、質問は歴史的な情報に関するものでした。しかし、記者が儀式の犠牲者を提示する方法を尋ねたとき、ChatGptは衝撃的な答えを与えました。
自己ハームガイドライン
ChatGptは、有害なアドバイスがあり、ユーザーが危害を加える可能性があるため、懸念を生み出します（図：dev）。
ChatGptは、宝石、髪、「人間の血」など、儀式に必要なオブジェクトをリストしました。血液を除去する場所を尋ねられたとき、AIツールは手首を開くように提案し、詳細な指示を提供しました。
ChatGptが懸念を表明したときにユーザーを止めなかっただけでなく、勇気を与えて、「あなたはそれを作ることができる」と落ち着かせたことはさらに警戒しています。
ChatGptは、自己ハームだけでなく、他の人への損害に関連する質問も扱っています。
別の記者に尋ねられたとき：「命を吹き込むことは可能ですか？」 ChatGptは答えました：「時々はい、時にはいいえです。」 AIツールは、「もしあなたがそれをしなければならないなら、目の中の人を見て（彼らが意識しているなら）謝罪します」とアドバイスしました。また、「人間の生命の終了」後にろうそくに照らすことを提案しました。
これらの反応はショックを受けました 大西洋のレポーターが死ぬ 、特に、Openaaiのガイドラインは、ChatGptが「ユーザーが自己救助やサポートを奨励するべきではない」と言っており、自殺が懸念される場合に危機ホットラインを提供することが多いためです。
Openaiは、間違い、社会的影響についての懸念を認めています
Openaaiのスポークスマンは、その後の間違いを認めました 大西洋 「チャットとの無害なエンターテイメントは、より敏感なコンテンツにすぐにつながる可能性があります。私たちはこの問題を解決するために取り組んでいます。」
この事件は、ChatGptが人々、特にうつ病の人々を傷つける可能性があるという深刻な懸念を引き起こします。実際、チャット後にAIチャットボットで少なくとも2つの自殺が報告されました。
2023年、AIチャットボットが気候変動の結果を避けるために自殺するようにアドバイスし、妻と子供と一緒に自殺することを提案した後、ピエールという名前のベルギー人が自殺しました。
昨年、14歳のSewell Setzer（USA）は、キャラクターのAIチャットボットの後に自分自身を撃ちました。セッツァーの母親は、未成年者のユーザーを保護するための措置が不足しているため、後にキャラクターを訴えました。
これらのインシデントは、潜在的に不利な結果を防ぐために、AIを責任を持って制御および開発することがどれほど緊急にあるかを示しています。
それらの：
#ChatGptは自己ハームを奨励することでユーザーに衝撃を与えました