科学＆テクノロジー

AIエージェントが台無しになったとき、誰が責任を負いますか？

過去に年、ベテランソフトウェアエンジニアのジェイ・プラカシュ・タクールは彼の夜と週末のプロトタイピングを過ごしました AIエージェントそれは、近い将来、食事やエンジニアのモバイルアプリをほぼ完全に注文する可能性があります。彼のエージェントは、驚くほど能力がありますが、シリコンバレーの最もホットな新しいテクノロジーを活用しようとする企業を待っている新しい法的質問も暴露しています。エージェントはAIプログラムですそれはほとんど独立して行動することができ、企業は顧客の質問への回答や請求書の支払いなどのタスクを自動化できるようにします。 ChatGptおよび同様のチャットボットは、要求に応じて電子メールをドラフトしたり、請求書を分析したりできますが、Microsoftや他のハイテク大手はエージェントが取り組むことを期待していますより複雑な関数- そして最も重要なことは、それをすることです人間の見落としはほとんどありません。テクノロジー業界が最も野心的な計画いつか何十ものエージェントが交換するためにチームを組んでいるマルチエージェントシステムを巻き込む労働力全体。企業にとって、利益は明らかです。時間と人件費を節約します。すでに、テクノロジーの需要は増加しています。テクノロジー市場調査員ガートナー見積もりそのエージェントAIは、2029年までに一般的なカスタマーサービスクエリの80％を解決します。Fiverrは、企業がフリーランスコーダーを予約できるサービスであり、報告「AIエージェント」を検索すると、ここ数か月で18,347％が急増しています。カリフォルニアに住んでいるほとんど独学のコーダーであるThakurは、新興分野の最前線にいたいと思っていました。マイクロソフトでの彼の日の仕事はエージェントとは関係ありませんが、彼はいじくり回っています自動生成、2024年にAmazonで働いて以来、Microsoftのエージェント向けのオープンソースソフトウェア。Thakurは、たった一瞬のプログラミングでAutogenを使用してマルチエージェントプロトタイプを開発したと言います。先週、AmazonはStrandsと呼ばれる同様のエージェント開発ツールを展開しました。グーグルエージェント開発キットと呼ばれるものを提供します。エージェントは自律的に行動することを目的としているため、誤りが金銭的損害を引き起こしたときに誰が責任を負うかという問題は、タクールの最大の懸念でした。異なる企業のエージェントが単一の大規模なシステム内で誤解する可能性がある場合、非難を割り当てると、彼は信じています。彼は、さまざまなエージェントからのエラーログをレビューするという課題を比較し、さまざまな人々のメモに基づいて会話を再構築しました。「責任を特定することはしばしば不可能です」とタクールは言います。最近Googleを去って法律事務所のKing＆Spaldingに参加した弁護士であるBenjamin Softnessは、サンフランシスコのMedia Law Resource Centerが主催した最近の法的会議で、激しい政党が最も深いポケットを持っている人たちを追いかける傾向があると述べました。つまり、エージェントが害を及ぼす場合でも、エージェントが害を及ぼす場合でも、企業は何らかの責任を負う準備ができている必要があります。（その人が過失にあった場合、彼らはおそらくお金のように価値のあるターゲットではないでしょう）。「誰もがコンピューター上の母親の地下室に座っている消費者に到達することを望んでいないと思います」とソフトネスは言いました。保険業界カバレッジの展開を開始しました AIチャットボットの問題については、企業が事故のコストを賄うのに役立ちます。オニオンリングThakurの実験は、彼が可能な限り少ない人間の介入を必要とするシステムでエージェントを結びつけることに関係しています。彼が追求したプロジェクトの1つは、仲間のソフトウェア開発者を2人のエージェントに置き換えることでした。 1つはアプリを作成するために必要な特殊なツールを検索するように訓練され、もう1つは使用ポリシーを要約しました。将来的には、3番目のエージェントが特定されたツールを使用し、要約されたポリシーに従ってまったく新しいアプリを開発することができます、とThakur氏は言います。Thakurがプロトタイプをテストにしたとき、検索エージェントは、Webサイトによると、「エンタープライズユーザーの1分あたりの無制限のリクエストをサポートする」ツールを見つけました（高い賃金のクライアントは、望むだけに頼ることができることを意味します）。しかし、重要な情報を蒸留しようとする際に、要約エージェントは「エンタープライズユーザーの1分あたり」の重要な資格を削除しました。それは、エンタープライズユーザーとしての資格がなかったコーディングエージェントに、外部サービスに無制限のリクエストを作成するプログラムを作成できると誤って伝えました。これはテストであったため、害はありませんでした。それが実生活で起こっていた場合、切り捨てられたガイダンスは、システム全体が予期せず崩壊することになった可能性があります。 #AIエージェントが台無しになったとき誰が責任を負いますか

執筆 nipponese 更新 2025年5月28日

1748426445
2025-05-22 10:30:00

エージェントはAIプログラムですそれはほとんど独立して行動することができ、企業は顧客の質問への回答や請求書の支払いなどのタスクを自動化できるようにします。 ChatGptおよび同様のチャットボットは、要求に応じて電子メールをドラフトしたり、請求書を分析したりできますが、Microsoftや他のハイテク大手はエージェントが取り組むことを期待していますより複雑な関数– そして最も重要なことは、それをすることです人間の見落としはほとんどありません。

テクノロジー業界が最も野心的な計画いつか何十ものエージェントが交換するためにチームを組んでいるマルチエージェントシステムを巻き込む労働力全体。企業にとって、利益は明らかです。時間と人件費を節約します。すでに、テクノロジーの需要は増加しています。テクノロジー市場調査員ガートナー見積もりそのエージェントAIは、2029年までに一般的なカスタマーサービスクエリの80％を解決します。Fiverrは、企業がフリーランスコーダーを予約できるサービスであり、報告「AIエージェント」を検索すると、ここ数か月で18,347％が急増しています。

カリフォルニアに住んでいるほとんど独学のコーダーであるThakurは、新興分野の最前線にいたいと思っていました。マイクロソフトでの彼の日の仕事はエージェントとは関係ありませんが、彼はいじくり回っています自動生成、2024年にAmazonで働いて以来、Microsoftのエージェント向けのオープンソースソフトウェア。Thakurは、たった一瞬のプログラミングでAutogenを使用してマルチエージェントプロトタイプを開発したと言います。先週、AmazonはStrandsと呼ばれる同様のエージェント開発ツールを展開しました。グーグルエージェント開発キットと呼ばれるものを提供します。

エージェントは自律的に行動することを目的としているため、誤りが金銭的損害を引き起こしたときに誰が責任を負うかという問題は、タクールの最大の懸念でした。異なる企業のエージェントが単一の大規模なシステム内で誤解する可能性がある場合、非難を割り当てると、彼は信じています。彼は、さまざまなエージェントからのエラーログをレビューするという課題を比較し、さまざまな人々のメモに基づいて会話を再構築しました。「責任を特定することはしばしば不可能です」とタクールは言います。

最近Googleを去って法律事務所のKing＆Spaldingに参加した弁護士であるBenjamin Softnessは、サンフランシスコのMedia Law Resource Centerが主催した最近の法的会議で、激しい政党が最も深いポケットを持っている人たちを追いかける傾向があると述べました。つまり、エージェントが害を及ぼす場合でも、エージェントが害を及ぼす場合でも、企業は何らかの責任を負う準備ができている必要があります。（その人が過失にあった場合、彼らはおそらくお金のように価値のあるターゲットではないでしょう）。「誰もがコンピューター上の母親の地下室に座っている消費者に到達することを望んでいないと思います」とソフトネスは言いました。保険業界カバレッジの展開を開始しました AIチャットボットの問題については、企業が事故のコストを賄うのに役立ちます。

オニオンリング

Thakurの実験は、彼が可能な限り少ない人間の介入を必要とするシステムでエージェントを結びつけることに関係しています。彼が追求したプロジェクトの1つは、仲間のソフトウェア開発者を2人のエージェントに置き換えることでした。 1つはアプリを作成するために必要な特殊なツールを検索するように訓練され、もう1つは使用ポリシーを要約しました。将来的には、3番目のエージェントが特定されたツールを使用し、要約されたポリシーに従ってまったく新しいアプリを開発することができます、とThakur氏は言います。

Thakurがプロトタイプをテストにしたとき、検索エージェントは、Webサイトによると、「エンタープライズユーザーの1分あたりの無制限のリクエストをサポートする」ツールを見つけました（高い賃金のクライアントは、望むだけに頼ることができることを意味します）。しかし、重要な情報を蒸留しようとする際に、要約エージェントは「エンタープライズユーザーの1分あたり」の重要な資格を削除しました。それは、エンタープライズユーザーとしての資格がなかったコーディングエージェントに、外部サービスに無制限のリクエストを作成するプログラムを作成できると誤って伝えました。これはテストであったため、害はありませんでした。それが実生活で起こっていた場合、切り捨てられたガイダンスは、システム全体が予期せず崩壊することになった可能性があります。