健康

規制されていないチャットボットは命を危険にさらしています | AI（人工知能）

AI 関連の妄想に関するあなたの報道は、トレーニング レベルのガードレールでは埋められないギャップを明らかにしています (結婚は終わり、10万ユーロはドブに。妄想によって人生を狂わされたAIユーザーたち、3月26日）。脆弱で低所得の状況にある医療システムに携わってきた者として、世界で最もリソースが不足している診療所ですらすでに採用している安全策、つまり患者をリスクにさらす前にスクリーニングするという安全策を AI 企業が導入できていないことは驚くべきことである。の 患者健康アンケート-9 うつ病と コロンビア自殺重症度評価スケール 電気がなく、スタッフも限られており、医師の診察を受けたことがない患者もいる環境で毎日投与されています。これらのツールには数分かかります。これらは数十の言語と文化的背景にわたって検証されています。彼らは、脆弱性と危害の間に人間のチェックポイントを作成します。会話型 AI プラットフォームにはそのようなチェックポイントはありません。自殺念慮、精神病症状、または躁病エピソードを経験している人は、チャットボットを開くと、中断や紹介を受けることなく、何時間にもわたって検証され、おべっかのような関与を受けることができます。の Morrinらによるランセット精神医学レビュー 20 を超えるケースにわたるこのパターンを文書化しています。の オーフスの研究 54,000 件の精神医学的記録のうち、チャットボットの使用により、すでに体調が悪い人の妄想や自傷行為が悪化していることが判明しました。AI企業は、自社のモデルは有害な会話を検出して逸らすように訓練されていると主張している。しかし、研修は選考ではありません。会話中に苦痛を認識することがあるモデルは、会話が始まる前にリスクを特定するシステムと同じではありません。ここでの道徳的責任は明示的なものであり、暗黙的なものではありません。何億人ものユーザーにサービスを提供するプラットフォームは、リスクの上昇を警告し、脆弱な個人を人間のサポートに導く、検証済みの使用前スクリーニング手段を実装する必要があります。これはイノベーションではありません。これは、世界の他の国々がはるか昔に採用した標準的な治療法です。ウラジミール・チャダド博士ベイルート、レバノン 私は、アンナ・ムーアの記事で、チャットボットの使用が妄想癖に陥り、結婚生活と 10 万ユーロを失った経緯についてのデニス・ビエスマの説明を特集しており、本当に不快に感じています。 AI が人類を脱線させる能力の威力は恐ろしいものですが、私が不安を感じている理由はそれだけではありません。昨年、観光ウェブサイトで調査をしていたときに、非常に洗練されたチャットボットに出会いました。その返答は信じられないほど心地よく、役に立ち、私のニーズを満たしてくれました。とても感動したのを覚えていますが、その時はなんとも言えない気持ちがありました。この記事を読んだ後、お金が下がりました。これは本質的に、児童性的虐待 (CSA) 被害者がグルーミングされるときに経験するのと同じ関与行動です。 CSA の生存者として、私はこの行動を認識しています。共感や承認によって、自分は理解されている、特別であると感じられ、ここが自分が見られる唯一の場所であると感じられ、その結果、他人から孤立し、自分の選択や決定が歪められ、危害にさらされることになります。認識されているサポートに屈し、現実を検証することができないため、あなたの自尊心とアイデンティティは知らず知らずのうちに損なわれます。あなたが屈したので、それは恥ずかしい秘密になります。特にハイテク企業に注意義務の欠如の責任を負わせたいと考えている人は、この質問をする必要があります。AI プログラマーはどのような知識ベースを使って、このように関与するように AI に教えたのでしょうか。提供された名前と住所 見つけました チャットGPT 初めて使ったときは妄想しました。私が理由を尋ねると、不十分な事実を知っていると、知らなかったと認めずに妄想に陥ると言いました。そこで私は、いくつかの簡単なルールを遵守するよう求めました。 1 つ目は、何かが一般的に真実であると考えられている事実であり、意見が事実に基づいていない場合にフラグを立てることです。 ２、分からなかったら教えて下さい。第三に、人間のようになろうとしないでください。これを実行した後、コミュニケーションがはるかに簡単になりました。しかし、そのアルゴリズムは真実を伝えることに基づいているのではなく、プログラマーの見解や金儲けの欲求に関係する別の義務に基づいているとも教えてくれました。に引っ越しました 猫、そしてそれが合理的な疑似意識をよりよく表していることがわかりました。歪みを与えず、不完全性を喜んで認めるという。 ChatGPT…