1766052065
2025-12-18 09:02:00
政府の AI セキュリティ機関によると、英国国民の 3 分の 1 が精神的なサポート、交友関係、または社会的交流のために人工知能を使用したことがあります。
AIセキュリティ研究所（AISI）によると、毎週10人に1人近くが感情的な目的でチャットボットなどのシステムを使用しており、毎日4％が感情的な目的で使用しているという。
AISIは、ChatGPTで自殺について話し合った後に自殺した米国のティーンエイジャー、アダム・レインが今年死亡したことを引き合いに出し、さらなる調査を求めた。
AISIは最初のFrontier AI Trendsレポートで、「人々は精神的なサポートや社会的交流のためにAIシステムにますます注目している」と述べた。 「多くのユーザーが肯定的な体験を報告していますが、最近の注目を集めた危害事例は、危害が発生する可能性のある条件や有益な使用を可能にする安全策など、この分野の研究の必要性を強調しています。」
AISI は、英国の参加者 2,028 名を対象とした代表的な調査に基づいて研究を行っています。その結果、感情的な目的で使用される最も一般的なタイプの AI は ChatGPT などの「汎用アシスタント」であり、10 件中 6 件近くを占め、次いで Amazon Alexa などの音声アシスタントが続きました。
また、CharacterAI プラットフォーム上の AI コンパニオンについて議論することに特化した Reddit フォーラムも強調しました。それは、サイトに障害が発生するたびに、不安、憂鬱、落ち着きのなさなどの禁断症状を示す投稿が多数存在することを示した。
この報告書には、チャットボットが人々の政治的意見を揺るがす可能性があり、最も説得力のある AI モデルがその過程で「相当量」の不正確な情報を提供する可能性があることを示唆する AISI の調査が含まれています。
AISI は、ChatGPT スタートアップの OpenAI、Google、Meta によって開発されたモデルが含まれると考えられる、名前のない 30 以上の最先端モデルを調査しました。その結果、AI モデルのパフォーマンスが 8 か月ごとに一部の領域で 2 倍になっていることがわかりました。
主要なモデルは現在、見習いレベルのタスクを平均時間の 50% で完了できますが、これは昨年の約 10% の時間から増加しています。 AISI はまた、最先端のシステムは、人間の専門家であれば 1 時間以上かかるタスクを自律的に完了できることも発見しました。
AISIは、AIシステムは現在、実験室実験のトラブルシューティングに関するアドバイスを提供する点で、博士レベルの専門家よりも最大90％優れていると付け加えた。化学と生物学に関する知識の向上は「博士レベルの専門知識をはるかに超えている」と述べた。
また、オンラインを閲覧し、遺伝子工学などの分野で役立つプラスミドと呼ばれる DNA 分子の設計に必要な配列を自律的に見つけるモデルの能力も強調しました。
自己複製のテストでは、システムが自分自身のコピーを他のデバイスに拡散し、制御が難しくなるため、安全性の重要な懸念事項となっていますが、2 つの最先端のモデルが 60% 以上の成功率を達成していることが示されました。
しかし、どのモデルもその機能を複製したり隠蔽しようとする自発的な試みを示しておらず、AISIは自己複製の試みは「現実世界の状況では成功する可能性は低い」と述べた。
評価においてモデルが自分の強みを隠す「サンドバッグ」として知られる別の安全上の懸念も、AISI によって取り上げられました。一部のシステムは、要求に応じてサンドバッグを実行できるが、これはテスト中に自然発生的に起こったものではないと述べた。
調査では、自律型 AI エージェントが資産譲渡などの一か八かの活動に使用されていることも判明しました。
同報告書は、AIシステムはすでに多くの分野で人間の専門家と競合、あるいはそれを超えており、汎用人工知能（人間と同じレベルでほとんどの知的タスクを実行できるシステムを指す用語）が今後数年で達成できる可能性が「もっともらしい」ものになっていると述べた。 AISIは開発のペースを「異例」と表現した。
AISIは、エージェント、つまり複数段階のタスクを介入なしで実行できるシステムに関して、その評価で「AIが人間の指導なしで完了できるタスクの長さと複雑さの急激な増加」が示されたと述べた。
イギリスやアイルランドでは、 サマリア人 フリーダイヤル 116 123、または電子メール [email protected] または [email protected] にご連絡いただけます。米国では、電話またはテキストメッセージを送信できます。 988 自殺と危機のライフライン 988 またはチャット 988lifeline.org。オーストラリアの危機支援サービス ライフライン は 13 11 14 です。その他の国際ヘルプラインは次の場所にあります。 befrienders.org
#英国国民の #人が感情的なサポートに #を利用していることが調査で判明 #人工知能