AIエージェントは責任の壁にぶつかります。 Mixusは、高リスクのワークフローで人間の監督を使用してそれを克服する計画を持っています

企業は、重要なアプリケーションにAIエージェントを展開するという課題に直面していますが、AI障害に対する戦略的保護として人間を制御する新しいより実用的なモデルが出現しています。

そのような例の1つはです mixus、「ループの同僚」アプローチを使用して、AIエージェントをミッションクリティカルな作業に信頼できるようにするプラットフォーム。

このアプローチは、完全に自律的なエージェントがハイステークスギャンブルであるという増え続ける証拠に対する対応です。

チェックされていないAIの高コスト

の問題 AI幻覚 企業がAIアプリケーションを探求するにつれて、具体的なリスクになりました。最近の事件では、AIを搭載したコードエディターカーソルが独自のサポートボットを見ました 偽のポリシーを発明します サブスクリプションを制限し、公的顧客のキャンセルの波を引き起こします。

同様に、フィンテック会社のクラルナは有名です 逆コース 動きを認めた後、カスタマーサービスエージェントをAIに置き換えると、品質が低下しました。より驚くべきケースでは、ニューヨーク市のAIを搭載したビジネスチャットボットに起業家にアドバイスしました 違法な慣行に従事する、監視されていないエージェントの壊滅的なコンプライアンスリスクを強調します。

これらのインシデントは、より大きな能力ギャップの症状です。 2025年5月のSalesforceによると 研究論文、今日の主要なエージェントは、シングルステップタスクで58％の時間しか成功し、マルチステップのタスクではわずか35％であり、「現在のLLM機能と現実世界のエンタープライズシナリオの多面的な需要の間の大きなギャップ」を強調しています。

ループの同僚モデル

このギャップを埋めるために、新しいアプローチが構造化された人間の監視に焦点を当てています。 「AIエージェントは、あなたに代わってあなたに代わって行動する必要があります」とMixusの共同設立者であるElliot KatzはVentureBeatに語りました。 「しかし、組織の監視が組み込まれていないため、完全に自律的なエージェントは、しばしば解決するよりも多くの問題を引き起こします。」

この哲学は、Mixusの同僚のループモデルを支えており、人間の検証を自動化されたワークフローに直接埋め込みます。たとえば、大規模な小売業者は、重要な運用データ（販売量、労働時間、生産性比率、本社からの報酬要求）を含む数千の店舗から毎週レポートを受け取る場合があります。人間のアナリストは、データを手動でレビューし、ヒューリスティックに基づいて意思決定を行う必要があります。 Mixusを使用すると、AIエージェントは重い持ち上げを自動化し、複雑なパターンの分析、異常に高い給与リクエストや生産性の外れ値などの異常にフラグを立てます。

支払い承認やポリシー違反などのハイステークスの決定（人間のユーザーが「ハイリスク」として定義されたワークフロー）は、エージェントが一時停止し、先に進む前に人間の承認を必要とする。 AIと人間の間の分業は、エージェントの作成プロセスに統合されています。

「このアプローチは、人間が専門知識が実際に価値を追加する場合にのみ関与することを意味します。通常、重要な影響を与える可能性のある決定の5〜10％の重要な5〜10％です。 「標準的な運用のための完全な自動化の速度を獲得しますが、文脈、判断、および説明責任が最も重要な場合、人間の監視はまさにキックします。」

MixusチームがVentureBeatに示したデモでは、エージェントを作成することは、プレーンテキストの指示で実行できる直感的なプロセスです。たとえば、記者向けのファクトチェックエージェントを構築するために、共同設立者のShai Magzimofは、自然言語のマルチステッププロセスを単に説明し、プラットフォームに、クレームが高リスクであり、評判の損害や法的結果をもたらす可能性がある場合など、特定のしきい値を埋め込むようにプラットフォームに指示しました。

プラットフォームのコア強みの1つは、Googleドライブ、電子メール、Slackなどのツールとの統合です。これにより、エンタープライズユーザーは、コンテキストを切り替えたり、新しいインターフェイスを学んだりすることなく、独自のデータソースをワークフローに持ち込み、選択した通信プラットフォームからエージェントと直接やり取りできるようにします（たとえば、ファクトチェックエージェントは、編集者のメールに承認要求を送信するよう指示されました）。

プラットフォームの統合機能は、特定のエンタープライズのニーズを満たすためにさらに拡張します。 mixusはをサポートします モデルコンテキストプロトコル （MCP）。これにより、企業はエージェントをオーダーメイドのツールとAPIに接続できるようにし、既存の内部システムのホイールを再発明する必要性を回避できます。 JiraやSalesforceなどの他のエンタープライズソフトウェアの統合と組み合わせることで、エージェントはオープンエンジニアリングチケットのチェックやSlackのマネージャーにステータスを報告するなど、複雑でクロスフォームのタスクを実行できます。

戦略的乗数としての人間の監視

企業が実験から生産に移行するにつれて、エンタープライズAIスペースは現在、リアリティチェックを受けています。多くの業界リーダーの間でのコンセンサスは、ループ内の人間がエージェントが確実に実行するための実際的な必要性であるということです。

Mixusの共同モデルは、AIのスケーリングの経済性を変えます。 Mixusは、2030年までにエージェントの展開が1000倍に成長する可能性があり、AIエージェントがより信頼性が高まるにつれて、それぞれの人間監督者が50倍効率的になると予測しています。しかし、人間の監視の合計ニーズは依然として増加します。

「各監督者は、時間の経過とともに指数関数的にAI作業を指数関数的に管理していますが、AIの展開が組織全体で爆発するにつれて、さらに多くの監視が必要です」とKatz氏は言います。

エンタープライズリーダーにとって、これは人間のスキルが消えるのではなく進化することを意味します。 AIに置き換えられる代わりに、専門家はAIエージェントの艦隊を調整し、レビューのためにフラグが立てられたハイステークスの決定を処理する役割に昇進します。

このフレームワークでは、強力な人間の監視機能を構築することは競争上の優位性になり、企業はライバルよりもAIをより積極的かつ安全に展開できるようになります。

「この乗算を習得する企業は、産業を支配しますが、完全な自動化を追いかける企業は信頼性、コンプライアンス、信頼に苦労します」とカッツは言いました。

毎日VBでのビジネスユースケースに関する毎日の洞察

上司を感動させたい場合は、VB Dailyがカバーしています。規制上のシフトから実際の展開まで、企業が生成AIで行っていることについて内部のスクープを提供するので、最大のROIの洞察を共有できます。

私たちを読んでください プライバシーポリシー

購読してくれてありがとう。もっとチェックしてください VBニュースレターはこちら。

エラーが発生しました。