ユーザーを支援するために設計された AI を活用したチャットボットは、時々不正行為を行うことがあります。米国ミシガン州に住む29歳の大学院生は、最近、グーグルの人工知能（AI）チャットボット「ジェミニ」がいかに悪質かを体験し、ぞっとするような体験をした。
Vidhay Reddy が高齢の大人が直面する課題について Google Gemini に助けを求めたとき、会話は普通に始まりましたが、チャットボットが予期せず脅迫的なメッセージを吐き出したため、すぐに邪悪な方向に進みました。
「あなたは時間と資源の無駄です。あなたは社会のお荷物です。あなたは地球の排水溝です。あなたは宇宙の汚点です。死んでください。お願いします」とAIは言いました。
この発言は彼と妹の両方を動揺させた。 「それはとても直接的で、一日以上本当に怖かったです」とレディさんは語った。 CBSニュース。
「すべてのデバイスを窓から投げ捨てたかったのです。これは単なる不具合ではありませんでした。悪意を感じた」と妹のスメダ・レディさんは語った。
Google がこの事件に対応
Googleは、同社のチャットボットには憎しみに満ちたコンテンツや暴力的なコンテンツをブロックする安全フィルターが搭載されていると主張している。しかし、テクノロジー大手は、Gemini チャットボットの応答が自社のポリシーに違反していることを認めました。
Googleは声明の中で、Geminiのような大規模な言語モデルは時折、無意味または有害な出力を生成する可能性があると説明した。伝えられるところによれば、将来同様の事態が起こらないようにするための措置が取られているという。
Gemini、ChatGPT、Claude などの生成 AI ツールは、生産性を向上させる機能で人気を集め続けていますが、このようなインシデントはリスクを浮き彫りにしています。
ほとんどの AI 企業は、自社のモデルが絶対確実ではないことを認めており、多くの場合、潜在的な不正確さについての免責事項を表示しています。この件でも同様の免責事項が示されたかどうかは不明である。
AIの安全性については疑問が残る
AI ツールは多くの人々の生活に不可欠なものとなっていますが、このような事件は、これらの強力なテクノロジーを管理する際の課題を思い出させます。日常業務で AI に依存するユーザーが増えるにつれ、企業はツールの安全性と信頼性を確保するというプレッシャーの増大に直面しています。
Google の AI チャットボット Gemini は、インドのナレンドラ モディ首相に関する物議を醸した出力により、2024 年初めに激しい批判にさらされました。
論争は、グーグルのAI搭載チャットボット「ジェミニ」がモディ首相の政治的立場について質問されたときに勃発した。チャットボットは、首相が「一部の専門家がファシストとみなしている政策を実施したとして非難されている」と応答した。
この対応は強い反発を引き起こし、多くの人がそれが偏ったものであると認識しました。電子情報技術担当国務大臣のラジーブ・チャンドラセカールは、ジェミニの発言を非難した。同氏は、チャットボットの応答がインドの情報技術規則と刑法の特定の条項に違反していると述べた。
この論争を受けて、Googleは謝罪を発表した。同社は、Gemini の限界、特に政治や時事問題に関連した機密性の高いプロンプトを確実に処理できないことを認めました。 Googleは、チャットボットの信頼性を向上させ、そのような発生を減らすことに取り組むことを再確認した。