科学＆テクノロジー

障害は会社に属します

人工知能（AI）を備えたより多くのアゴレラである人々は、この技術の可能性をまだ心配しています 社会の崩壊を引き起こします。ただし、今のところ最も可能性の高いシナリオはそれです ハッカー すぐに彼らはそれを大きく費やすでしょう。説明されているように ビジネスインサイダー JFrogのTechnology Director（CTO）、Yuval Fernbach、 サイバー犯罪者には通常、3つの主な目的があります。それらは、物をオフにしたり、情報を盗んだり、Webページまたはツールの結果を変更したりします。詐欺師、あらゆる会社の労働者のように、 彼らは生産性を向上させるためにAIを使用しています。 それでも、これらの犯罪者を企業に紹介する新しい方法を提示するのは、人工知能モデル自体です。 悪意のあるソースコードは、オープンソースの大きな言語モデル（LLM）に非常に簡単に隠されています、このソフトウェアサプライチェーン会社のマネージャーによると。「私たちは多くの攻撃を見ています」とファーンバッハはこのメディアに語った。そして、JFrogによると、モデルが応答できなくなるようにモデルの過負荷は特に増加しています。「モデルが応答を停止するポイントに到達するのは非常に簡単です」とファーンバッハは言いました。セクターのリーダーは、悪意のあるモデルを削減するために調整し始めています。 JFrogには、モデルが生産に入る前にモデルをチェックするスキャン製品がありますが、ある程度、最後の言葉には各会社があります。悪意のあるモデルの攻撃企業がAIの使用を開始したい場合、Openai、人類、またはメタ（Facebook）などの企業のモデルを選択することを余儀なくされます。 最初の2つの場合、彼らは特許取得済みのモデルを提供するため、セキュリティはやや保証されていますが、 特許モデルはより高価であり、多くの組織がデータを共有するときに不信感を抱いています。オープンなターゲットソースモデルまたは利用可能な数千を選択することがますます人気があります。企業はAPIを使用したり、モデルをダウンロードしたり、ローカルで実行したりできます。 JFROGとInformationWeekが実施した最近の調査のサンプルの約半分は、1,400社に相談して、独自のサーバーでダウンロードされたモデルを実行しました。 成熟した人工知能として、企業はさまざまなスキルと経験を持ついくつかのモデルを統合する可能性が高くなります。 JFROG CTOによると、これらの同じ企業が実行しているAIの高速で無料の実験段階に反して、更新ごとにそれらを徹底的に確認してください。 Fernbachは、新しいモデルごとに、将来のデータの更新または機能が悪意のあるコードまたは単にモデルの変更が含まれる可能性があることを確認しました。 それは結果に影響します。このタイプの過失の結果は重要な場合があります。2024年、カナダの裁判所はエアカナダに付与を命じました 死による割引 の利益を得る方法に関する誤った情報を与えられた旅行者 チャットボット 航空会社の人間の代表者が拒否された後でも、会社の中で。 航空会社は、数百ユーロを払い戻し、法的費用を賄う必要がありました。 JFROGテクノロジーディレクターによると、大規模には、このタイプのエラーは非常に高価になる可能性があります。 実際、大きな銀行 彼らはすでに心配しています 人工知能は反応するよりも速く進歩するからです。JFrog Technology、Yuval Fernbach。jfrogこの問題の大きさを知るために、JFrogは昨年、AIモデルのオンラインリポジトリと関連付けられ、顔を抱きしめました。 100万を超えるモデルの400個には、1％未満の悪意のあるコードが含まれていました（5枚のカードポーカーハンドに4つの等しい文字を撮るのとほぼ同じ確率）。それ以来、ソフトウェア供給組織はそれを計算します 新しいモデルの数が3倍になりましたが、攻撃に7倍になりました。さらに悪いことに、多くの人気モデルには、エンジニアを急いで引き付ける本物のモデルのわずかなスペル障害で名前が構成されている悪意のある詐欺師がいることがよくあります。同じJFROG協議で調査した企業の58％は、オープンソースの人工知能モデルに関するポリシーを持っていないか、それを持っているかどうかを知りませんでした。また、対応した企業の68％には、手動のレビューを超えて開発者によるモデルの使用をレビューする方法がありませんでした。の台頭で 彼 機関、モデルは情報と分析を提供できるだけでなく、タスクを実行し、リスクが増加する可能性があります。知る 私たちの働き方 で…