Deepmindの新しいAI「Shield」でより安全なソフトウェアを実現

または Googleディープマインド それを提示した コードメンダー、新しい AI ソフトウェアの脆弱性がサイバー犯罪に悪用される前に特定して修復することを約束するツール。この革新的なシステムは、オープンソース プロジェクトの自動「修復」として機能し、セキュリティ開発者の作業負荷を大幅に軽減することを目指しています。

ディープマインドによれば、 コードメンダー セキュリティ上の問題を検出し、既製のパッチを作成し、適用する前に人間の研究者によって評価されます。同社が主張するように、このプロセスは人工知能の速度と精度と専門家の経験と判断を組み合わせて、より信頼性の高いセキュリティモデルを作成します。

コードメンダーのベースは、 双子座の深い思考、最も先進的な Deepmind モデルの 1 つ。このシステムは、ファジングや静的分析から差分テストに至るまで、さまざまな分析ツールを使用して、コード内のエラーの原因を検出し、エラーの再発を防ぎます。このように、既存の問題の修復に限定されず、ソフトウェア全体の保護にも貢献します。

または ラルカ・アダ・ポパ、ディープマインドの優秀な研究者、そして ジョン・フリンの副社長は、このツールの有効性がすでに証明されていることを明らかにしました。 」過去 6 か月以内に Codemender を開発し、すでに 72 件のセキュリティ修正をオープン ソース プロジェクトに提出しており、その中には 450 万行を超えるコードが含まれています」と彼らはDeepmindのブログの関連投稿で述べた。

最も重要なものの 1 つ 興味のあること 彼の コードメンダー です の二重機能。事後対応的に動作し、すでに検出されたエラーを修復するだけでなく、予防的にコード部分を記録して、カテゴリ全体の脆弱性を排除することもできます。同時に、人間の監査人に送信される前に自身の修正を検証する機能を備えているため、セキュリティ保守の時間が大幅に短縮されます。

または グーグル という事実に特に重点を置いています。 コードメンダー これは人の代わりをするものではなく、サポートメカニズムとして機能することを目的としています。目標は、セキュリティ チームを強化して、最も重要な脅威に集中できるようにする一方で、人工知能が最も反復的な問題や技術的に要求の高い問題の特定と対処を行うことです。

その有効性の典型的な例は、libwebp 画像圧縮ライブラリへの介入です。の コードメンダー 自動的に適用される -fbounds-safety アノテーション Deepmind 氏によると、コードの一部には、以前の攻撃を防ぐことができた可能性があるプロセスが含まれています。これらのハイライトにより、コンパイラーはバッファーの制限を制御することが義務付けられ、それによってオーバーフローベースの攻撃のリスクが軽減されます。

または ディープマインド 悪意のある要因による人工知能の利用が増えており、同様に高度な防御ツールの開発が不可欠であることを認識しています。同社によれば、Codemenderはこの方向への一歩であり、人間には到底達成できない速度で脆弱性を監視、検出、修復できる「スマート」システムを開発者に提供するという。

次の段階では、 ディープマインド ～のテストを延長する予定です コードメンダー オープンソースプロジェクトマネージャーと協力して。このツールが信頼できるものであることが判明すれば、より自動化されたセキュリティ ソリューションを求める開発者や企業にこのツールが広く利用可能になるでしょう。

同時に グーグル を改訂しました セキュアな AI フレームワーク 人工知能アプリケーションのセキュリティ基準を強化し、AI を識別するための新しい報酬プログラムを提示しました。このようにして、同社はスマート システムの開発を中心に、より積極的なセキュリティ文化を育もうとしています。

[via]