科学＆テクノロジー

Amazonのクラウド「昨年、AIツールが原因で2回の障害に見舞われた」 | アマゾンのクラウドアマゾン

Amazonの巨大なクラウドコンピューティング部門は、自社の人工知能ツールによって引き起こされた少なくとも2回の停止を経験したと伝えられており、同社のクラウドコンピューティング部門に対する疑問が生じている。 AIの受け入れ 人間の従業員を解雇するからです。12月にアマゾン ウェブ サービス（AWS）の業務が13時間中断されたのは、AIエージェントのKiroが環境の一部を「削除して再作成」することを自律的に選択したことが原因だった、とフィナンシャル・タイムズ紙が報じた。インターネットの大部分に重要なインフラストラクチャを提供する AWS は、昨年数回の停止に見舞われました。10月に起きたある事件では、数十のサイトが数時間にわたってダウンし、少数の大企業が所有するインフラストラクチャにオンラインサービスが集中していることについての議論が巻き起こった。ガーディアン紙が10月に報じたところによると、AWSは2016年以来189件、17億ポンド相当の英国政府との契約を獲得したという。同社によると、AIによる障害は小規模な事象であり、顧客対応サービスに影響を与えたのは1件だけだったという。アマゾン 16,000人の雇用を削減する計画を確認した 昨年10月に従業員1万4000人を解雇した後、1月に。同社の最高経営責任者（CEO）アンディ・ジャシー氏は1月、これらの人員削減は企業文化に関するものであり、従業員をAIに置き換えることを目的としたものではないと述べたと伝えられている。アマゾンはフィナンシャル・タイムズへの声明で、今回の障害にAIツールが関与していたのは偶然であり、そのようなテクノロジーが人間のエンジニアよりも多くのエラーを引き起こしたという証拠はないと述べた。 「どちらの場合も、これはAIのエラーではなくユーザーのエラーだった」としている。Amazon は Guardian に対し、AWS に影響を与えたインシデントは 2 件ではなく 1 件だけだったと語った。何人かの専門家はこの評価に懐疑的でした。セキュリティ研究者のジェイミソン・オライリー氏は、「従来のツールや人間によって引き起こされるエンジニアリングエラーは珍しいことではないが、AIが関与する事故とこれらの事故との違いは、AIが『ない』場合、通常、人間は一連の指示を手動で入力する必要があり、そうしている間、自分の間違いに気づくまでの時間がはるかに長いということだ」と述べた。オライリー氏によると、AIエージェントは制約のある環境や特定のタスクに導入されることが多く、システムの再起動やデータベースの削除など、より広範な影響を理解することができず、それがAmazonでのエラーにつながった可能性があるという。「彼らは、稼働しているコンテキスト、顧客にどのような影響があるか、火曜日の午前 2 時にダウンタイムのコストがどのくらいになるかを完全には把握していません」と彼は言いました。「これらのツールにコンテキストを常に思い出させる必要があります。『おい、これは深刻だ。これを詰め込むな』ということです。そして、これを行わないと、ツールは他のすべての結果を忘れ始めます。」昨年、AI エージェントが 設計された テクノロジー企業Replitが開発したアプリは、社内データベース全体を削除し、報告書を捏造し、その行動について嘘をつきました。サイバーセキュリティ専門家のミハウ・ウォジニアク氏は、AIシステムは予期せぬ選択をし、非常に複雑であるため、アマゾンが将来的に内部AIエージェントのミスを完全に防ぐことはほぼ不可能になるだろうと述べた。「アマゾンは、エンジニアをAIに置き換えるという枠組みで進められている大量解雇の場合のように、自社にとって有益な場合には『AI』を取り上げる機会を決して逃さない。しかし、スロップジェネレーターが停止に巻き込まれると、突然それは単なる『偶然』に過ぎなくなる」と同氏は付け加えた。Amazonの広報担当者は、「この短い出来事は、AIではなく、ユーザーのエラー、具体的にはアクセス制御の設定ミスの結果であった」と述べた。顧客のコストを可視化するツールが中国の一部で影響を受けた際、「昨年のサービス中断は極めて限定的な出来事だった」としている。さらに、「このイベントは、コンピューティング、ストレージ、データベース、AI テクノロジ、または当社が運営するその他の何百ものサービスには影響しませんでした。「これらの出来事を受けて、私たちは本番環境へのアクセスに対するピアレビューの義務化など、多数の追加の安全対策を実装しました。Kiro は開発者を制御します。ユーザーは Kiro が実行できるアクションを設定する必要があり、デフォルトでは、Kiro はアクションを実行する前に承認を要求します。」 #Amazonのクラウド昨年AIツールが原因で2回の障害に見舞われた #アマゾンのクラウドアマゾン