素晴らしいレースが始まります。これはテレビで放映されたものではありませんが、人工知能の市場シェアを確保するために、世界で最も裕福な企業を熾烈な競争にさらしたものです。
少数の大手テクノロジー企業とその衛星は、インターネット上の公的および民間の情報源から集めた数十億ビットの情報を自社の AI システムに詰め込むために、機械学習とデータセンターのインフラストラクチャに 1 兆ドルもの費用を費やした可能性があります。
これらの企業（Amazon、Google、Meta、Microsoft、OpenAI など）は富裕層であり、情報技術のおかげでそのクリエイターを比類のないほど裕福にしました。彼らの課題は、今持っているものを維持し、次の大きなチャンスである AI で未来を確保することです。
フランチャイズ確保のための猛ダッシュの残念な結果は、大手ハイテク企業が（私も何人かの上級社員に確認しましたが）、新製品の準備が整う前に急いで市場に投入したことです。
レーサーたちは、競合他社に前に出させるよりも、いわゆる幻覚（エラー）の当惑のほうがましだと考えている。
課題は、いずれかの企業がリーダーボードに載っていない場合、Google がよく言及され、失敗する可能性があることです。それは起こるかもしれません: MySpace を覚えていますか?
このスピーディなレースのマイナス面は、安全システムが整備されていない、または有効ではないことであり、特にいわゆるバックドアに関しては、運営上の大惨事につながる危険性があります。
AI 界の 2 人の学者、デレク・レベロンとジョン・サベージによれば、危険な結果を防ぐことよりも市場のスピードを優先することによって、明らかな危険が存在します。
サベージ氏はブラウン大学のアン・ワン・コンピューターサイエンス名誉教授で、レベロン氏はロードアイランド州ニューポートの海軍大学で国家安全保障問題部長を務めている。
「AI システムは、コンピューター プログラムではなく、訓練されたニューラル ネットワークです。ニューラル ネットワークには、実際の出力と目的の出力が厳密に一致するように調整 (トレーニング) されるニューロン入力のパラメーターを持つ多くの人工ニューロンがあります。入力 (刺激) と望ましい出力応答はトレーニング セットを構成し、ニューラル ネットワークをトレーニングするプロセスは機械学習と呼ばれます」と共著者らは書いています。
バックドアは当初、政府の刑事事件や国家安全保障事件を支援するために電話会社によって開発されました。それはAI以前のことです。
サベージ氏は、バックドアは重大な脅威であると語った。なぜなら、悪意のある者はバックドアを通じて、悪意のある情報 (コマンドや指示) をコンピューター一般に挿入し、特に機械学習ベースの AI システムにバックドアを挿入できるからである。一部のバックドアは検出できず、大きな損害を与える可能性があります。
サベージ氏は、軍が時期尚早にAIを利用し、国を安全にするどころか脆弱にすることを特に懸念していると述べた。
同氏は、その一例として、AIの指導下で操縦戦闘機と並行して飛行する無人戦闘機から発射される兵器が挙げられ、ドローンによって発射された兵器がUターンしてすぐに戻ってきて操縦機を破壊するよう指示できる可能性があると述べた。それを戦場や空爆に当てはめてみてください。
サベージ氏によると、研究者らは最近、トレーニングプロセス中に検出不可能なバックドアがAIシステムに挿入される可能性があることを示したという。これは新たな、非常に深刻でありながら、ほとんど認識されていないサイバーセキュリティ上の危険である。
大手ハイテク企業の機械学習システムに数十億語の単語を入力する作業が現在、低賃金国で行われているため、リスクはさらに悪化する。このことは、アメリカのハイテク企業の機械学習システムにデータを供給して時給 2 ドルを稼ぐケニアの労働者に関する最近の「60 Minutes」のエピソードで強調されました。
悪意のある者は、ケニアやその他の低賃金国に危険な誤った情報を挿入することで、米国の AI を攻撃する可能性があります。もちろん、ここでもバックドア攻撃を開始する可能性があり、AI を使用してコードを作成すると、そのコードの制御が失われます。
重大な欠陥を抱えたテクノロジーの導入は、それを補う方法が発見されるまで常に危険を伴います。トラブルインはトラブルアウトです。
ルウェリン・キング PBS の「ホワイトハウス クロニクル」のエグゼクティブ プロデューサー兼司会者です。彼はこれをこう書きました InsideSources.com。
#人工知能の市場シェア争いには危険が潜む #解説