ビーゴ大学のエンジニアが AI で作成された画像を検出するシステムを開発

「テキストから画像を生成できるプログラムは、すでに非常にうまく機能し、しかも迅速に動作し始めています。 これは非常にホットな話題なので、AI 自体を使用して、実際の写真と、DALL E、Stable Difussion、OpenArt などのアプリケーションを使用して自分で作成した画像を区別する方法はあるのかという疑問が生じました。 私たちはしばらくの間、他のトピックの画像を区別するニューラル ネットワークと AI システムに取り組んできましたが、この経験を活用するというアイデアが生まれました」と、高周波デバイス グループのフェルナンド マルティン氏は説明します。チームコーディネーターのモニカ・フェルナンデス氏、そしてInvestigoの若者雇用プログラム内で雇用されたロシオ・ガルシア氏も加わりました。

電気通信工学部に所属するマルティンとフェルナンデスは、実際の写真やビデオの出所を特定できるフィンガープリンティングに関する以前の研究をすでに行っています。 そして、光応答不均一性 (PRNU) と呼ばれるこの技術を人工知能によって作成された画像に適用することによって、興味深い結果も得られることを発見しました。

全て デジタル写真には不完全な部分があります実質的に 人間の目には知覚できないしかし、それらはユニークであり、同じモデルであってもそれぞれが異なるパターンを生成するため、それらを作成したカメラに関連付けることができます。

「実際には、指紋は製造上の欠陥によってカメラ センサーが引き起こすエラーであり、画像から計算します。 人工知能で生成されたものの場合、当初はそのようなエラーは見つからないと考えられていました。 しかし、それらは存在します。 私たちは常に結果を得ます。 おそらく、アプリケーションが実際の写真を使用してトレーニングされているためです。 ある意味、彼らはその後継者です 画像。 何が起こるかというと、元の 1 つのチャンバーの代わりに、数百、さらには数千のチャンバーが存在し、それらが混在するのです」とフェルナンド マルティンは説明します。

研究者らはまた、2 番目の技術であるエラー レベル分析 (ELA) の有効性もテストしました。この技術の最初の用途は、フォレンジック イメージング システムの編集や改ざんを検出することでした。 実際の画像の場合、どの部分が変更されたかを判断できます。 AIによって生成され、完全に編集されていることを警告します。

「私たちは、どちらのタイプのフットプリントも機能し、良い結果をもたらすという結論に達しました。 ただし、私たちが推奨するオプションは、両方を二重コントロールとして使用することです。 いずれかが合成画像であると判断した場合、合成画像である可能性が非常に高くなります。 ただし、結果が陰性の場合には一定の割合の誤差があり、これは 2 つを併用することで大幅に減少します」と研究者は強調しています。

雑誌に掲載された作品の著者 センサーは、畳み込みニューラル ネットワーク システムをトレーニングするために、1,000 を超える実際の画像と人工知能で作成された画像を使用しました。 そして、これまでのすべての経験に加えて、彼らはマンモグラフィーからの診断を支援する方法として、訓練を受けた化学技術者であるロシオ・ガルシアによって開発された構造も使用しました。 「放射線科医が検査する前に、それらを疑わしいものとして分類します。そして、このケースではそれが私たちにとって最も効果的でした」とMartín氏は言います。

「検出するシステムはすでにあります。 ディープフェイク、無邪気とは程遠い意図で誰かの顔を他人に着せることを可能にします。 私たちのものは 100% 合成の画像を扱います。 新しいアプリケーションはほぼ毎日登場しており、それらはすべて似ているため、それらのアプリケーションでも効果を発揮する可能性は非常に高いですが、効果を発揮できない可能性もあります」と彼は、その限界と、この技術の最新の状態にあることの複雑さについて付け加えました。分野。

完全に AI によって作成され、何も現実ではない画像を検出するには、他の方法もすでに機能していますが、 アトランティックセンターの専門家によって開発されたものは、商用ソリューションを生み出す有望な候補となる: 「画像をアップロードすると、それが正しいかどうかを尋ねられる Web サイトさえあります。これにより、データベースが強化され、システムが再トレーニングされるからです。 これは、もし飛躍した場合、私たちが今後も続けなければならないことです。」