ノルウェー警察は、コンピュータープログラムによって作成された虐待資料に関する数十件の通報を受けています。 現在、クリポス氏は、その素材がどのように作られたかを特定することがますます困難になっていると警告している。
– Kripos は、過去 1 年間に AI によって生成された虐待コンテンツについて NCMEC 経由で数十件の情報を受け取りました、と Helge Haugland 氏は NRK に書いています。
ハウグランド氏はクリポスの初期調査部門を率いる。 このグループがノルウェーを代表して、 年間何千ものチップを受け取ります 世界のテクノロジー企業からの虐待画像やビデオについて。
近年、人工知能（AI）の活用により、コンピュータを使った画像や音声、動画の作成がますます容易になりました。
Haugland 氏によると、場合によっては、調査しているコンテンツがコンピューターで生成されたものであるかどうかを判断するのは簡単ですが、現場での開発は早いとのことです。
– 数か月前までは、画像が AI によって生成されたものであることをより簡単に証明できましたが、場合によっては、その制限が素材のより高い「品質」に向けて大幅に変更されており、コンテンツが写真であるかどうかを判断することがより困難になっています。ビデオまたは AI によって生成されたもの。 このような変化は深刻である、とハウグランド氏は書いている。
懸念: セクションリーダーのヘルゲ・ハウグランド氏は、コンピューターで生成された虐待コンテンツに関する情報を数十件受け取ったと述べています。 写真: マーティン・グンダーセン/NRK
虐待に関する情報を受け付け、それを各国の警察当局と共有するのは非営利団体 NCMEC です。 昨年、この団体は、子供たちに次のような内容が含まれたコンピューターで生成された虐待資料に関する 4,700 件の報告を受け取りました。 ロイター通信によると。
コンピューターで生成された虐待コンテンツの増加 2023年6月のレポートで言及されました。 そこでは、ソーンとスタンフォード天文台に関連する研究者らは、虐待コンテンツ専用のフォーラムで共有されているコンテンツのうち、コンピュータで生成されたコンテンツが占める割合は 1% 未満だったが、2022 年 8 月以降大幅に増加したと指摘した。
クリポスは、児童を性的対象とするAI生成画像を作成、伝達、保存することはノルウェーの法律で違法であると述べている。
今年初めに、コンピュータで生成された画像が公開されました。 スーパースター、テイラー・スウィフトの写真がソーシャルメディア X で急速に広まった。4Chan と Telegram のユーザーはマイクロソフトの AI ツールを使用していくつかの画像を作成したと言われている。 404メディアによると。
最も人気のある写真作成サービスには、子供や大人の性的な描写を禁止するルールがあります。 Midjourney は特定のテキスト コマンドをブロックすると述べています そのガイドラインでは。 OpenAIも同様です ChatGPT と Dalle のサービスを提供しています。
警察にとってはさらに難しい
ハウグランド氏は、コンピュータで生成された虐待資料は捜査能力を拘束する可能性があり、そのため進行中の虐待を阻止することがさらに困難になる可能性があると警告している。
– 今後、私たちは、現実世界では行われていない「虐待」にさらされている、存在しない子供たちを特定しようとする危険を冒すことになる、とハウグランド氏は書いている。
自然信仰: この画像は、AI ツール Midjourney によって次のテキスト コマンドを使用して作成されました:「北欧の国の iPhone 写真のリビング ルームにいる女の子。リビング ルームにはまばらに装飾が施されています。カメラを見ています。 -ar 4:3 -スタイル生」。 イラスト：ミッドジャーニー／マリウス・アルネセン
ハウグランド氏は、虐待の内容は本物である可能性があるが、被害者と虐待者の特定をより困難にするためにAIツールによって操作されているという事実に将来的に対処する必要があると考えている。
また、「現実の人々に対する実際の虐待を含むコンテンツ」が、AIによって生成されたように編集される可能性があるという懸念もある。
– 言うまでもなく、この作業のためのリソースはさらに拡張されます。
EUで立法手続きが保留される
昨年、EU内の子どもを保護するための物議を醸した法案の交渉は決裂した。 この法案は、インターネットサービスの監視強化、欧州企業への報告義務の導入、現場での作業を調整するための欧州共同センターの設立など、多くの措置を導入することを目的としていた。
– これは我が国のすべての国民のプライバシーを侵害し、最初に守ろうとしたものよりも有害になります。 この法案に反対する嘆願書に署名した300人以上の研究者の一人がこう書いた。
一時的な措置として そのため、EUは現在の規則を2026年4月まで延長した。これにより、欧州企業は不正行為に関する自主的な通知が可能となるが、米国の場合のようにいかなる種類の報告義務も課されることはない。
海: ノルウェーの企業は、虐待の画像を発見しても通知しない： – 信じられないほど難しく、要求の厳しいジレンマ
2024-02-27 04:56:15
1709012415
#クリポスはコンピューターで生成された虐待コンテンツに警鐘を鳴らしています