1751075209
2025-06-27 09:00:00
最新のMIモデルはより創造的ですが、虚偽の誤った情報をますます生成しているため、答えを批判する必要があります。
人工知能の進歩と並行して、MIシステムが偽の不正確な情報を生成するときに、SO -Calcald幻覚の現象が発生します、と書いています。 生命。 Openaiの調査によると、O3やO4-Miniなどの最新の高度なモデルは、以前のバージョンであるO1よりもはるかに頻繁に幻覚（33％および48％）です。これらのモデルは、より複雑なタスクを解決し、より正確な結果を提供できますが、それに関連する誤解を招くコンテンツの量は関係しています。
ユーザーは、私たちが提供する情報を完全に信頼することが多いため、この問題は特に重要です。これは、法律、医学、金融などの分野で特に重要です。
幻覚は実際にはMIシステムの創造性の基礎です。指導されたデータからのみコピーしている場合、新しいアイデア、テキスト、ソリューション、つまり、人間の想像力や夢に似ています。
専門家によると、エラーを減らす可能性のある方法の1つは、モデルが外部の本物のデータソースでその回答をサポートする場合のテキスト生成方法の反転です。別のアプローチは、論理的な手順を強制し、自己制御を促進するか、モデルが人間の介入を示唆しているときに不確実性を認識することです。しかし、この現象が完全に排除されることは決してない可能性が高いため、専門家は、私たちの答えが人間の情報源と同じ批判で扱われることをアドバイスしています。
#人工知能が賢くなるほど彼は幻覚を起こします