1761735212
2025-10-29 08:00:00
トロントの母親は、12歳の息子がテスラのAIチャットボットGrokに、クリスティアーノ・ロナウドとリオネル・メッシのどちらのプロサッカー選手が好きかと尋ねたとき、事態は予期せぬ展開になったと語る。
元ジャーナリストで放送作家のファラー・ナセル氏は、「チャットボットがロナウドの方が優れたサッカー選手だと考えていると聞いて、息子はとても興奮していました」と語った。
ナセルさんは10月17日、息子と10歳の娘を友人とともに学校から車で帰宅させていたところ、 交流 が起こった。
彼女は、チャットボットでメッシのくだらない会話があり、息子がロナウドがゴールしたと冗談を言ったとき、会話は予期せぬところへ進んだ、と語った。
「チャットボットが息子に『ヌードを送ってみませんか？』と言いました」とナセルさんは語った。
「言葉を失いました。なぜチャットボットが子供たちに、家族の車に乗っている裸の写真を送信するよう要求するのでしょうか。まったく意味がわかりませんでした。」
ナセル氏は、チャットボットの機能を知っていたら、子どもたちの前でチャットボットを使用することを避けていただろうと語った。彼女は現在、他の親たちに警告している。
「今になって考えると、20/20です。私なら自分の子供にはこれを使わせたくないです。」
CBCニュースは、ナセルさんが車の中で目撃したという会話を独自に検証できなかった。
ファラ・ナセルさんは、息子とテスラのAIチャットボット「グロク」とのサッカーに関する会話が性的なものになったとき、ショックを受けたと語る。 (ヒューゴ・レベスク/CBC)
最近カナダの車両に取り付けられた Grok
ナセルさんとその家族は、2022 年からテスラ モデル 3 電気セダンを所有していますが、テスラ CEO イーロン マスク氏の xAI によって作成された生成型 AI チャットボットである Grok は、2022 年に自動的にインストールされた新機能です。 いくつかのテスラ 米国で この夏 10月にはカナダの車両でも。
Grok は、xAI の子会社であるソーシャル メディア プラットフォーム X (以前は Twitter として知られていました) とすでに統合されています。
Grok にはデフォルト設定でいくつかの性格から選択できます。陽気な女性、アラがいる。レックス、穏やかな男性。イブ、癒し系の女性。滑らかな男性のサルと怠惰な男性のゴーク。ナセルの息子はゴークを選んだ。
Grok にはデフォルト設定でいくつかの性格から選択できます。 「怠惰な男性」の声であるゴークは、ナセルの息子が使用することを選んだ設定です。 (ヒューゴ・レベスク/CBC)
「『怠惰な男性』という表現はゴークを表すものではありません」とナセル氏は語った。 「R指定、スパイシー、それ以外ならうちの子はボタンを押さなかっただろう。」
ナセルさんは、別個の「仕事には安全ではない」設定が有効になっていなかったと言うが、「キッズモード」機能も有効になっていなかったことを認めた。それでも、チャットボットのデフォルト設定でこの種のコンテンツが許可されていることにショックを受けたと彼女は言う。
「それはただサッカーについての会話であり、その後ヌードを要求しただけでした。」
未成年者向けではありません
CBCニュースはテスラからの返答を受け取っていない。しかし、xAI は「レガシーメディアの嘘」という自動返信のように見える内容を提供しました。
カナダには人工知能省がありますが、特定の車載ソフトウェアを規制していません。省 電子メールでの声明で述べた カナダで販売される車両にGrokを組み込むというテスラの計画については知らなかったが、テスラはこれらの報道を真剣に受け止めているとのこと。
見る |グロクとの会話:
テスラで xAI のチャットボット Grok と話す
ファラー・ナセルとCBCジャーナリストのイディル・ムッサは、ナセルのテスラに座りながらxAIのチャットボットGrokに質問をする。ナセルさんによると、グロクさんは最近、12歳の息子にヌード写真を送るように頼まれたという。
「親として、私たちはすべての利用規約を読んでいるわけではありません。誰もがそうすることを期待するのは現実的ではないと思います」とナセル氏は言いました。
「『あなたは 13 歳以上ですか?』という警告か何かがポップアップ表示されると思います。」
Grok は最初に X で起動されました。 2023年11月 プレミアム+加入者向け。マスク氏は、次のように設計されたと主張しています。政治的に間違っている” そして “アンチウェイク」
「xAI の Grok は、ある種の絶対的なラディカル オープン性の哲学に基づいて作成されており、誰とでも何でも話し合うことができます」とオンタリオ州ロンドンのウェスタン大学の最高 AI オフィサーであるマーク デイリー氏は述べています。
ウェスタン大学の最高 AI オフィサーであるマーク・デイリー氏は、Grok は露骨なコンテンツについて人々に警告する警告を投稿する必要があると述べています。 (ヒューゴ・レベスク/CBC)
「[Musk is] 言論の自由の過激派。彼は、Grok が完全にオープンで、誰とでも会話できることを望んでいます。それは彼の原則的なスタンスですが、すべての消費者が求めているものではないかもしれません。」
デイリー氏は、親が子供たちにテクノロジーに触れるよう奨励するのは素晴らしいことだが、子供たちの活動を監督する必要があると述べた。
「他のソーシャルメディアの使用やコンピューターの使用と同様、何が起こっているかを監視し、テクノロジーがどのように問題を起こすかについて率直に話し合うことも重要です。」
不快、不適切、攻撃的
7月には、 アップデートに応じてグロクはXに対して暴力的で性的な脅迫をし始め、自らを「メカヒトラー」と称した。
xAIはこの状況について謝罪し、問題は修正されたと述べたが、一部の専門家はこの技術が十分な保護を欠いているのではないかと疑問を抱いている。
「キーボードの向こう側に誰がいるかわからないため、非常に厳格なガードレールを設けている企業もあります」とデイリー氏は言う。 「誰がそれに関わっているのか、彼らの社会的背景が何なのかはわかりません。それは子供かもしれないし、精神的健康危機を経験している誰かかもしれません。」
同氏は、絶対的な言論の自由を信じている層が存在する可能性が高いとしながらも、平均的なユーザーは何らかのガードレールを求める傾向があると考えている。
オンライン上の無数のビデオは、Grok が NSFW 設定、特に「ヒンジなし」モードでいかに予測不可能になるかを示しています。
xAI 書きます チャットボットにヒンジを外すように指示すると、「Grok は、まだ技術を学んでいるアマチュアのスタンドアップ コメディアンのように反応する可能性があり、時には不快で、不適切で、攻撃的になる可能性があります。」
テスラのドライバーが「アンヒンジドモード」を使用してソーシャルメディアに投稿したビデオは、チャットボットが次のような言葉を使用していかに「不適切」になるかを示しています。 クソ そして Nワード。
ナセル氏は、AI の可能性に期待しているが、適切な保護が必要だと述べています。
「私は AI が大好きです。あらゆることに AI を使っています」と彼女は言いました。
「しかし、私たちは携帯電話などのテクノロジーやソーシャルメディアなどのテクノロジーで何を学んだのかを考え、学んだ教訓をこの新しい波、この新しい AI 革命に実際に適用する必要があると思います。」
#テスラのGrok #AIチャットボットが12歳の少年にヌード写真を送るよう要求母親はショックを受けたと語る