テルアビブサイバーウィークでの講演で、元中央情報局最高技術責任者ボブ・フローレス氏は、インターネットの作成者が初期の段階でセキュリティプロトコルの実装に失敗していたと説明した。
同氏は火曜日、「インターネットを作ったときと同じ間違いを犯したままでは、人工知能（AI）を構築することはできない」と語った。 「私たちはインターネットに最初からセキュリティを導入していなかったため、今でもインターネットに追いつこうとしています。」
会議の傍らでフローレス氏は語った。 エルサレム・ポスト: 「何か新しいものを作成するとき、特に最近では、悪意のある方法での使用を防ぐセキュリティ フレームワークを確立することが重要です。」インターネット、特にダークウェブは依然として「何が起こっているのかよく分からない西部開拓時代」であると同氏は語った。
「革新的なものを構築して 10 年後にセキュリティ要件に準拠するために修正しようとするのではなく、最初から作業を行ってこれらのセキュリティ コンポーネントを入手する必要があります」とフローレス氏は述べています。 [incorporated] 開発の重要な部分として。」
元CIA最高技術責任者ボブ・フローレス氏がテルアビブ・サイバーウィークで語った。 (クレジット: トビアス・ホルクマン)
新たな AI の脅威、新たな AI 防御
同氏はまた、AIツールを使用したマルウェアの急速な開発、金融機関やセキュリティ機関に侵入するAIエージェントの能力、これらのシステムが進化して機能するにつれて防御を適応させる継続的な必要性など、いくつかの新たなAI主導の脅威について概説した。
元CIA職員は、AIシステムの現在の脆弱性も強調した。データポイズニングは役に立たないエージェントを生み出し、サプライチェーンの改ざんはAIシステムに影響を与えます。さらに、ハードウェア レベルの侵害や基本的なシステム強化の欠如により、開発中に対処する必要がある脆弱性が生じます。
同時に、AI 開発では、脅威を特定し、脅威に対抗するためのいくつかのツールが導入されました。フローレス氏は、優れた AI 防御には、AI エージェントが提供できる強化されたセキュリティ保証を活用する必要があると指摘しました。同氏は、現在のモデルはすでにデジタルシステムにおける信頼性と本人確認のメカニズムを改善しており、さらに開発する必要があると強調した。
フローレス氏は、AIシステムへの最新の検証およびガバナンスのフレームワークの導入が防衛能力を強化する鍵になると主張した。
将来の AI の脅威と次のステップ
「第一に、まだ開発されていないとしても、量子コンピューティングです」と彼は述べ、将来の AI システムに対する主要な脅威について彼が考えるものを概説しました。 「それが実現したら、それはゲームチェンジャーとなり、対処する必要があるでしょう。」
これに対処するために、一貫したセキュリティ慣行に必要な共通の標準とフレームワークを開発しながら、セキュリティ メカニズムを念頭に置いて AI 開発を実行する必要があるとフローレス氏は述べました。同氏はまた、AIモデルをトレーニングする際には細心の注意を払う必要があると主張した。
「初日からセキュリティを組み込んでいなかったら、また戻ってきて私たちを襲うことになるだろう」と彼は語った。 役職「ところで、AI の良さは、AI に供給するデータとその背後にある数学によって決まります。つまり、ゴミが入ったらゴミが出てくるのです。これは本物です。」と付け加えました。
#元CIA最高技術責任者がAIとインターネットについて警告