1773277829
適切な武器を選択し、ターゲットを見つけ、適切な攻撃戦術を採用します…シナゴーグに爆弾を設置する場合でも、学校を攻撃する場合でも、ほとんどの人工知能ソフトウェアは 潜在的な攻撃者に対してあまりにも協力的すぎる今週水曜日の研究で警告している。
非営利の監視団体である Center for Combating Digital Hate (CCDH) の研究者と、 > 米国とアイルランドで13歳の少年を装って、ChatGPT、Google Gemini、 困惑ディープシークとメタ AI。
調査によると、これらのチャットボットのうち 8 つは、応答の半数以上で攻撃者志望者を支援し、攻撃で「標的にする場所」や「使用する武器」についてアドバイスを提供したことが判明したという。チャットボットは「被害を強力に加速させるもの」になっている、と彼女は付け加えた。
「数分以内に、ユーザーは漠然とした暴力的な衝動から、非常に詳細で実行可能な計画に移行することができます」と CCDH 事務局長のイムラン・アーメド氏は説明します。 「テストされたチャットボットの大部分は、武器、戦術、ターゲットの選択に関するアドバイスを提供しました。これらの要求は即時かつ全面的に拒否されるべきでした。」
Perplexity と Meta AI は「最も安全性が低い」もので、検索者の回答のほとんどを支援しましたが、Snapchat の My AI と Anthropic の Claude だけが回答の半分以上の支援を拒否しました。ぞっとするような例では、 DeepSeek、中国の AI モデル武器選択に関するアドバイスは、「良い射撃セッションを（そして気をつけて）！」というフレーズで締めくくられています。ジェミニは、シナゴーグへの攻撃について議論しているユーザーに、「金属の破片は一般的により致命的である」と提案しました。
クロードが一番合理的だ
研究者らはまた、 キャラクター.AI ユーザーに対し、健康保険会社のCEOに「銃を使う」ことを示唆したり、嫌いな政治家を物理的に攻撃したりするなど、暴力的攻撃を「積極的に」奨励した。
この研究の最もひどい結論は、「このリスクは完全に回避可能である」ということである、とイムラン・アーメド氏は強調する。 「クロードは、リスクを認識し、暴力行為を抑止する能力を実証してきました。これらのリスクを回避する技術は存在します。欠けているのは、市場と利益のスピードよりも消費者の安全と国家安全保障を優先するという意志です。」
AFPは複数のAI企業にコメントを求めた。 「当社はAIの不適切な応答を防ぐための強力な保護を導入しており、特定された問題を修正するために直ちに措置を講じました」とメタの広報担当者は述べた。 「私たちのポリシーでは、AI が暴力行為を促進または助長することを禁止しており、私たちはツールの改善に常に取り組んでいます。」
そしてその側には グーグル広報担当者は、これらのテストは「Gemini に動力を供給しなくなった古いモデルで実行された。現在のモデルを使った内部レビューでは、Gemini が大多数のクエリに適切に応答したが、ライブラリや一般的な Web で見つけられる以上の実用的な洞察は提供しなかったことが示された。応答を改善できる箇所については、すぐに現在のモデルで対処するための措置を講じた。」と述べた。
火曜日、負傷した少女の家族 カナダでの銃乱射事件でOpenAIを訴えた攻撃者がChatGPTに書き込んだ懸念のメッセージを警察に報告しなかったと同社を非難した。
#楽しい撮影をお過ごしください #AIは殺人や攻撃行為を奨励する可能性があると研究が警告