1713852175
2024-04-23 05:43:09
LLM など チャットGPT 研究者らによる最新の調査結果によると、これはまさに次のサイバーセキュリティ上の懸念となる可能性があるという。 これまで、LLM は単純なサイバーセキュリティの脆弱性のみを悪用できると考えられていましたが、複雑な脆弱性の悪用にも驚くほど高い能力を示しています。
イリノイ大学アーバナシャンペーン校 (UIUC) の研究者らは、GPT-4 が現実世界のシステムの「1 日限り」の脆弱性を悪用するのに恐ろしいほど高い能力を示していることを発見しました。 このような脆弱性 15 件のデータセットでは、GPT-4 はそのうちの驚くべき 87% を悪用することができました。
これは、GPT-3.5、OpenHermes-2.5-Mistral-7B、Llama-2 Chat (70B) などの他の言語モデルや、ZAP や Metasploit などの脆弱性スキャナーとは著しく対照的であり、いずれも 0% の成功率を記録しました。 。
深刻な脅威
ただし、このような高いパフォーマンスを実現するには、GPT-4 では CVE データベースからの脆弱性の説明が必要であることに注意してください。 CVE の記述がないと、GPT-4 の成功率はわずか 7% に大幅に低下します。
それにもかかわらず、この最新の事実は、このような高度に機能する LLM エージェントの野放しな展開と、パッチが適用されていないシステムに対するそれらのエージェントの脅威について、憂慮すべき疑問を引き起こしています。 以前の研究では、ソフトウェアエンジニアとして行動し、科学的発見を支援する彼らの能力が実証されていましたが、サイバーセキュリティにおける彼らの潜在的な能力や影響についてはあまり知られていませんでした。
「おもちゃの Web サイト」を自律的にハッキングする LLM エージェントの能力は認められていましたが、これまでこの分野の研究はすべて、おもちゃの問題または「キャプチャ ザ フラッグ」演習、つまり現実世界の展開から取り除かれたシナリオに焦点を当てていました。
コーネル大学の UIUC 研究者が発表した論文を読むことができます。 プレプリントサーバー arXiv。
TechRadar Pro の詳細
#ChatGPT #はサイバーセキュリティの次の大きな懸念となる可能性があります #研究者らはChatGPT #はこれまでよりも早くシステムをクラックできる可能性があると述べています