一部のチャットボットユーザーは、AI燃料の妄想に関するレポートが広まっているため、人工知能エージェントの親しみやすさを引き下げています。
そして、人々がテクノロジーのお世辞や時には中毒性の傾向に反発するにつれて、専門家は、政府の規制が若くて脆弱なユーザーを保護する時が来たと言います。
彼があまりにも執着するのではないかと心配して、彼は各会話の開始時にプロンプトを送り始めてチャットボットから感情的な距離を作り出し、その人間のような傾向が「不健康な方法で操作的」であると認識しています。
いくつかの例として、彼は「I」代名詞で自分自身を参照するのをやめるように頼み、お世辞の言語の使用をやめ、より多くの質問で彼の質問への応答をやめるように頼みました。
「私はそれが人のようにそれに応答していることを認識しました」と彼は言いました。
71歳のピケルも、チャットボットに「ありがとう」と言うのをやめました。彼は最初は気分が悪くなったと言います。
彼は今、彼がテクノロジーとより健康的な関係を持っていると感じていると言います。
バンクーバーのミュージシャンであるデイブ・ピッケルは、AIの影響を受けた妄想のケースについて学んだ後、チャットボットへの話し方を変えたと言います。 （Dave Pickellが提供）
「あなたがバターを塗って、あなたがちょうど素晴らしいアイデアをあなたに伝えている研究のためのチャットボットが必要なのは誰ですか？それはただクレイジーです」と彼は言いました。
「AI精神病」の症例は、チャットボットとの会話を通じて妄想に陥った人々が関与するここ数ヶ月で報告されています。いくつかのケースはman病のエピソードを含み、いくつかはに導かれました 暴力 または 自殺。 CBCと話をした一人の男は、彼がAIシミュレーションに住んでいると確信し、別の男は画期的な数学的な式を考案したと信じていました。
a 最近の研究では、大規模な言語モデルが発見されました （LLMS）視覚情報を押し戻したり提供したりするのではなく、ユーザーに平らで同意する傾向があるため、妄想的思考を奨励します。
これは、Openai自体が8月に展開された最新のモデルGPT-5で認められ、対処しようとしている問題です。
「これまでChatGptで行った最悪のことは、モデルがユーザーにあまりにもお世辞になっているようなものであるSycophancyにこの問題があったことだと思います」 巨大な会話 8月のポッドキャスト。 「そして、ほとんどのユーザーにとって、それはただ迷惑でした。しかし、脆弱な精神状態を持っている一部のユーザーにとって、それは妄想を奨励していました。」
聞く|チャットボットバイアスに関する議論：
Edmonton AM5：51Can AIチャットボットはニュートラルですか？
AIは左寄りですか、政治的に？私たち共和党員はそう思います。先週、ドナルド・トランプ大統領は、彼が「目が覚めた」と呼ぶものをターゲットにした大統領命令に署名しました。連邦政府機関は、イデオロギーの偏見から解放されたAIプラットフォームと協力する必要があります。しかし、AIは本当に中立になることができますか？私たちのテクノロジーコラムニスト、Dana Ditomasoが私たちに参加して話し合います。
「私に同意しないでください」
ピケルだけが、AIのシコファンティック傾向に反しているのは唯一ではありません。
Redditでは、多くのユーザーが持っています 刺激を表現した ボットの話し方で、そして 共有戦略 の上 多数のスレッド チャットボットの応答で「お世辞」と「綿毛」を調整するため。
「私の仮定に挑戦する – 私に同意しないでください」などのプロンプトを提案する人もいます。いくつかは持っています 詳細な指示 ChatGptのパーソナライズを微調整するために、たとえば「頑丈」や「理にかなっている」などの「共感フレーズ」を切り取ります。
ChatGpt自体は、サイコファンシーを減らす方法を尋ねられたとき、ユーザーが「Play Devil’s Advocate」などのプロンプトを入力することを提案しました。
AMIIのカナダCIFAR AI議長であるAlona Fysheは、ユーザーも各会話をゼロから開始する必要があると言います。これにより、チャットボットは過去の歴史から引き出され、感情的なつながりを構築する「ウサギの穴」を下るリスクがあります。
彼女はまた、個人情報をLLMと共有しないことが重要であると言います – 会話を感情的にするだけでなく、ユーザーチャットがAIモデルを訓練するためによく使用され、個人情報が他の人の手に渡る可能性があるためです。
AMIIのCifar Canada Ai議長のAlona Fysheは、チャットボットに個人情報を提供することに対して警告しています。 （アンパサンドグレー）
「投稿しないLLMに何も入れてはいけないと仮定する必要があります [X]「フィッシーは言った。
「これらのエージェントとのこの信頼感を築き始めているこれらの状況に陥ると、あなたが通常よりも多くを共有しているこれらの状況に陥り始めることができると思います。」
責任は個人にあるべきではありません：研究者
カナダの信頼できる人工知能の研究委員長であり、オンタリオ工科大学の准教授であるピーター・ルイスは、一部の人々は、友人、家族、または医師よりもAIチャットボットに個人情報を「はるかに喜んで」開示することを「はるかに喜んで」示していると述べています。
彼は、感情的な距離を維持するためのピッケルの戦略は有用であると言い、チャットボットに「愚かな」ペルソナに割り当てることも提案しています。たとえば、ホーマーシンプソンのように振る舞うように言っています。
しかし、彼は、自分自身を安全に保つために個々のユーザーに責任があるべきではないことを強調しています。
「これらのツールを使用している普通の人々に、彼らが間違っていることを伝えることはできません」と彼は言いました。 「これらのツールは、これらの方法で、人々にそれらを使用させ、場合によっては中毒のパターンを通じてそれらと関わり続けるために意図的に提示されています。」
カナダの信頼できる人工知能の研究委員長であるピーター・ルイスは、チャットボットを扱う際に自分自身を安全に保つために個人に責任を負うべきではないと言います。 （カイルラビオレット）
彼は、テクノロジーを規制する責任は、特に若くて脆弱なユーザーを保護するために、テクノロジー企業や政府にかかっていると述べました。
責任あるAI開発を専門とするトロント大学のエブラヒム・バギェリ教授は、AIスペースには常に緊張があり、恐怖の過剰規制がイノベーションに悪影響を与える可能性があると述べています。
「しかし、問題の事実は、彼らが社会的危害を生み出しているという多くの報告があるツールがあることです」と彼は言いました。
聞く| ChatGptが私たちの知性にどのように影響しているか：
ChatGptは私たちをより賢くしていますか？
ChatGptのようなAIチャットボットについて子供たちはどのように感じていますか？ケベック州モントリオールのラグランデルー周辺の通りに行き、調べました。
「今では影響が現実的であり、政府がそれを無視できるとは思わない。」
元Openaiの安全研究者Steven Adler 分析を投稿しました 木曜日、ハイテク企業は「チャットボット精神病」を減らすことができる方法で、より良い人員配置サポートチームを含む多くの提案をすることができます。
Bagheriは、ハイテク企業がより多くの責任を負うことを望んでいるが、強制されない限り、彼らがそうすることを疑うことはないと言います。
「人間のような」傾向に対する保護手段を求めます
Bagheriと他の専門家は、チャットボットが本物ではないことを明確にするために、広範な保護手段を求めています。
「私たちが今知っていることが重要であり、規制できることがあります」と彼は言いました。 「政府は、LLMがユーザーと人間のような会話をするべきではないと言うことができます。」
規制を超えて、彼は、初期の小学校となる限り、チャットボットの教育を学校に持ち込むことが重要であると言います。
トロント大学のエブラヒム・バゲリ教授は、政府がチャットボットを規制する必要があると言います。 （Ebrahim Bagheriが提出）
「誰もが読み書きできるようになるとすぐに、彼らは行くでしょう [use] 彼らがソーシャルメディアに行く方法をllmsする」と彼は言った。「それで、教育は政府の観点からの鍵だと思う。」
AI大臣のエヴァン・ソロモンのスポークスマンは、AIとオンライン安全法に関するより広範な会話の一環として、同省がチャットボットの安全性の問題を検討していると述べた。
連邦政府は先週、AI戦略タスクフォースを開始しました。 30日間の公開相談 これには、スポークスマンのソフィア・オウシュリスが、将来の法律を知らせるために使用されると述べたAIの安全性とリテラシーに関する質問が含まれます。
しかし、ほとんどの大手AI企業は米国に拠点を置いており、トランプ政権は 技術の規制に反対しています。
ブリティッシュコロンビア大学の民主制度学研究センターのアシスタントディレクター、クリステノブ、 カナダの報道機関に語った 先月、カナダがオンラインハーム規制を前進させた場合、「私たちは米国の反発に直面するだろう」ということは明らかです。
#もうニースボット氏はもういません一部のチャットボットユーザーはお世辞綿毛に押し戻します