米政府がGrokとの関係断絶を要請、インドネシアがチャットボットの禁止を解除

グロク氏が危機を乗り切る中、組織連合は米政府に対し、イーロン・マスク氏のxAIとの関係を断つよう求めている。 児童性的虐待資料 (CSAM) スキャンダルと国際捜査。

で 公開書簡 この情報はTechCrunchと独占的に共有されており、Public Citizen、Center for AI and Digital Policy、Consumer Federation of Americaなどの擁護団体は管理予算局（OMB）に対し、ユーザーの安全性への懸念を考慮して連邦政府機関によるGrokチャットボットの使用を廃止するよう求めている。

xAIは米国と契約を締結 一般調達局（GSA）は昨年、Grokを連邦機関に提供しています。 Grok はその後、サービスを提供する契約を仲介しました。 国防総省と国防総省当局者、セキュリティ上の懸念を引き起こします。 TechCrunchによると、保健福祉省もGrokを積極的に利用しているという。

「私たちが最も懸念しているのは、Grok が安全でない大規模言語モデルであることがかなり一貫して示されていることです」と書簡の著者の 1 人である JB Branch 氏は > に語った。 「しかし、反ユダヤ主義的な暴言、性差別的な暴言、女性や子供の性的画像など、グロクがさまざまな問題を起こした深い歴史もあります。」連合は過去にもGrokに対する懸念を表明する同様の書簡を書いており、OMBに対しGrokの安全上の欠陥を調査するよう要求している。

先月にわたり、国内外の指導者らはxAIに対し、より強力な安全策を導入するか、あるいは 広範な禁止に直面するリスク、インド、フランス、英国、欧州連合がGrokのディープフェイク問題に対する公式調査を発表した。後にカリフォルニア州司法長官ロブ・ボンタが就任 停止と停止の手紙を送った xAI に対し、同社がカリフォルニア州の公序良俗法と新しい AI 規制に違反していると述べた。

これまでインドネシアは、 Grok へのアクセスをブロック xAIの返答を待つ間、各国当局はマスク氏の会社が通信・デジタル省に送った書簡を引用して、2月1日に一時禁止を解除した。書簡によると、xAIはさらなる悪用を防ぐために設計された新しい安全対策を導入したという。インドネシア省は、Grokの安全ガードレールの監視とテストを継続し、さらなる違法コンテンツが表面化した場合は禁止を復活させると述べた。

このチャットボットには、実在の人物や未成年者の同意のない親密な画像を作成することを防ぐ強力な保護手段がないと非難されています。 Center for Countering Digital Hate (CCDH) の報告書によると、Grok は次のような推定値を作成しました。 300万枚の性的画像、子供たちを描いた作品を含む、11 日間にわたって上映されます。