1769866980
2026-01-31 13:16:00
セラルーid – 今日のますます洗練されたデジタル世界では、オンライン詐欺が蔓延しています。
最近の調査により、数千のオープンソース大規模言語モデル (LLM) がハッカーやサイバー犯罪者によって世界規模での違法行為に使用される可能性があることが明らかになりました。
こちらもお読みください: ラシヨ氏はプラ・ラハルジャ病院事件の解明に招待され、イシャク氏は東ジャワ地方警察に戻って報告する
サイバーセキュリティ企業 SentinelOne と Censys が約 10 か月にわたって実施した調査によると、公開サーバー上で独立して実行されているオープンソース LLM は、特にガードレールなしで実行されている場合、簡単に乗っ取られる可能性があります。
研究者らは、オープンソース LLM を実行しているコンピュータは、大規模な AI プラットフォームの厳重なセキュリティ システムを突破することなく、フィッシング コンテンツの作成、スパムの拡散、偽情報キャンペーンの実行を指示できると説明しています。これにより、被害者に経済的損失などの損害が生じる可能性があります。
それだけでなく、この調査では、LLM がハッキング、ヘイトスピーチ、オンライン嫌がらせ、個人データの盗難、金融詐欺、さらには子供に対する性的虐待コンテンツの制作に使用される可能性があることも判明しました。
何千ものオープンソース LLM の亜種が存在しますが、公的にアクセス可能なモデルの大部分は、Meta の Llama と Google DeepMind の Gemma の派生モデルです。
残念ながら、数百の実装で、悪意のある AI の動作を制限するはずのガードレールが意図的に削除されていることが判明しました。
SentinelOne の Juan Andres Guerrero-Saade 氏は、これを世界の AI 業界の注目を逃れた「氷山」と呼んでいます。
こちらもお読みください: 消費者が損失を被り、スラバヤのBYD販売が壁充電詐欺で告発される
「この過剰なAI能力はさまざまなことに悪用されている。合法的なものもあれば、明らかに犯罪的なものもある」と同氏は強調した。
地理的な観点から見ると、観察されたオープンソース LLM サーバーの約 30% が中国で動作しており、次に約 20% が米国で動作しています。
この事実は、AI 悪用のリスクが国境を越え、単一の管轄区域で制御するのが難しいことを強調しています。
Global Center on AI Governance の CEO である Rachel Adams は、オープンソース AI の悪用の責任を一方の当事者に負わせることはできないと考えています。
こちらもお読みください: シドアルジョ摂政とDPRDメンバーが詐欺容疑で報告、バレスクリムが事件を捜査に昇格
開発者はすべてのリスクを予測することはできませんが、リスクの文書化から緩和ツールの提供に至るまで注意を払う義務があります。
Microsoft もこのリスクを認識しています。同社は、AIモデルをリリースする前に厳格な評価を実施し、新たな脅威パターンを監視し続けていると述べた。
しかし、Google、Anthropic、Ollamaなどの他のテクノロジー大手は正式な回答を出していない。
編集者 :
ゼイン・ムハンマド
URL : https://selalu.id/news-12222-waspada-modus-penipuan-online-di-tahun-2026-makin-canggih-jangan-lengah
#年はますます巧妙化するオンライン詐欺の手口に注意油断は禁物