なぜAIは「ノー」を理解できないのでしょうか？ – 科学はどこまで進んでいますか？

これは人工知能における最大の課題の 1 つであり、研究者にとっては頭の痛い問題です。 「ノー」を理解できるように AI を訓練するにはどうすればよいでしょうか?人間の言語のあらゆる微妙な点の中で、AI に「教える」のが最も難しいのは否定です。計算言語学の研究者は、AI が肯定的な文と否定的な文の違いを区別できないことを長年観察してきました。まるで彼女が見ていなかったかのように。

否定の影響を受ける画像生成 AI

教授 アリソン・エッティンガーシカゴ大学の研究者らは2020年に次のことを示した。 バート 最も人気のある言語モデルの 1 つでは、完成する次の 2 つの文に違いはありませんでした。 ロビンは… » など « ロビンは…ではありません どちらの場合も、答えは鳥でした。他の研究では、否定文に関しては自動翻訳ソフトウェアのパフォーマンスが低いことが強調されています。

2024 年に、次のような研究結果が発表されました。 広範な言語モデルは否定に対して盲目です、 インド、シンガポール、イギリスの研究者らによって実施された研究では、クエリで否定を考慮するこの困難さ、さらには不可能性さえも、画像生成 AI にも影響を与えることが示されました。 ChatGPT などを使用してテストを行うこともできます。AI にメガネをかけていない人の画像を生成するよう依頼すると、画像にはメガネが写っていることになります。象のいない部屋にも同じことが当てはまります。部屋に象を飼う権利が与えられます。

なぜ AI は否定に対して「盲目」なのでしょうか?

これにはいくつかの理由があります。最も理解できるのは、AI が、現実世界に存在する画像や表現を認識し、削除を要求した場合でも、それらをできるだけ忠実に再現するように訓練されているということです。 AIは論理的思考を持たず、論理性を持ちません。もう 1 つのバイアスは、否定的な説明を含む画像がほとんど含まれていない大規模なデータベースによるトレーニングから生じます。 AIは学習します。 これは猫です ” それよりも ” これは猫ではありません »。

もう 1 つの大きな問題は、AI が「」という言葉を含む否定的なクエリに応答することがほぼ不可能であることです。 ない ” または ” ない “。クエリの例” 犬だけど草がない 「：AIはその単語を完全に無視するようです」 ない » またはフレーズ「 ない そして研究者はサイトでそれを説明しています サイエンスプレス ちなみに、ChatGPT のようなソフトウェアは、単語を数値に変換し、類似性によってグループ化します。これは単語のベクトル化と呼ばれます。ただし、否定は文の意味が逆転する複雑なプロセスであり、ベクトル化では数学的に不可能です。

あなたには人間として、こう言う能力があります。 非 » そして、少なくとも現時点では、私たちはなんとか多くのことを学んだものの、まだ理解できていない機械の知性よりも優れている人間の知性によって理解される必要があります。 非 » 言うこともありません わからない »。

こちらもお読みくださいAIは人間の知性よりも強力ですか？