マサチューセッツ州警察の警察官になりすました新たなAIアカウントを受けて、当局はソーシャルメディアアカウントからの情報に注意するよう国民に警告している。
「マサチューセッツ州警察は、人工的に生成されたコンテンツを使用して州警察官を虚偽描写するソーシャルメディアアカウントを認識している」と州警察の広報担当者は述べた。 … 「私たちは一般の人々に対し、正確な情報については公式の MSP チャンネルと検証済みの情報源を信頼し、明確な検証なしに法執行機関を代表していると主張するアカウントには注意することをお勧めします。」
インスタグラムのアカウントは、1月初旬に投稿を始めて以来、AIが生成した州警察の警察官の動画を50本以上投稿した。 MSPは、このアカウントが「いかなる形でも同省とは関係がない」ことを認めた。
このアカウントにはAIが生成した金髪の女性士官が映っており、内容は性的な内容に焦点が当てられており、2月5日時点で7万4千人以上のフォロワーがいる。動画の詳細には、異なる投稿間で士官とされる名札やバッジが変更されているなど、いくつかの矛盾が見られる。
このページはインスタグラムの手続きを通じて州警察によって詐欺アカウントとして報告されたが、木曜早朝の時点でもまだ公開されていた。
州警察のなりすましは、AIが生成する警察や公務員の詐欺が全米で注目を集めている中で行われ、法執行当局は信頼できる人物や組織になりすましたり、声のクローンを作成したりする能力が横行していると住民に警告している。
FBIは、ツールがインターネット上のより広範な顧客ベースにとって容易になったため、合成コンテンツの作成は「本質的にコモディティ化され、かつては限定されたユースケースを超えて拡大」していると警告している。
「消費者が探す可能性のあるコンテンツは、不安な沈黙や歪んだデシベルなどの画像やビデオの視覚的な歪みやゆがみ、ビデオの不一致や不自然な動き、ビデオ、照明、オーディオの品質の悪さです」とFBIはアドバイスしています。 「これらの不一致は、特にソーシャルメディアプロフィールのアバターにおける合成画像の兆候である可能性があります。」
マサチューセッツ州議会では、人工知能の規制を目的とした少なくとも 20 本の法案と条項が今議会で審議されています。全国規模では、一部の議員が法案を提出しました。 2025 年 AI なりすまし防止法、連邦職員や職員に対するAIなりすましを禁止しようとしている。
— 開発中
#マサチューセッツ州警察AIアカウントが警察官になりすますため住民に注意するよう呼びかけ