より安全な自動運転車のための軍用ドローンの洞察

自動運転車は、人間のドライバーにとってはありふれた状況に直面することがよくあります。工事現場、スクールバス、停電、または行儀の悪い歩行者に直面したとき、これらの車両はしばしば予期せぬ動作をし、衝突や凍結事故を引き起こし、地域の交通に重大な混乱を引き起こし、初期対応者の仕事を妨げる可能性があります。自動運転車はこのような日常的な問題にうまく対処できないため、自動運転会社は人間のベビーシッターを使用して遠隔から車両を監視し、必要に応じて介入します。

人間が自動運転車を遠くから監視するというこのアイデアは新しいものではありません。米軍は1980年代から無人航空機（UAV）を使ってこれを行っている。初期の数年間、軍は制御ステーションの設計が不十分であったこと、訓練の不足、通信の遅れなどが原因で多数の事故を経験しました。

1990 年代に海軍の戦闘機パイロットとして、私は UAV の遠隔監視インターフェイスを改善する方法を検討した最初の研究者の 1 人でした。私や他の人々がこれらのシステムの作業と観察に何千時間も費やした結果、リモート操作を安全に管理する方法についての深い知識が生まれました。米国の商用自動運転車の遠隔操作がフィリピンの事業者によって行われていることが最近明らかになったことで、自動運転会社が今日の自動運転車のより安全な使用を促進するために苦労して得た軍事的教訓を学んでいないことは明らかである。

湾岸戦争中に西太平洋に駐留していた間、私は航空作戦センターでかなりの時間を過ごし、軍事攻撃がどのように計画され、実施され、当初の計画が必然的に崩れたときに再計画されるかを学びました。博士号取得後、私はこの経験を活かして、米軍の 3 つの部門すべてで UAV の遠隔制御に関する研究を開始しました。現地の演習で、あるいは4000マイル離れたところからUAVを操縦するオペレーターと小さなトレーラーに肩を並べて座り、私の仕事は、遠隔オペレーターの問題点を学び、地球の裏側を飛んでいるかもしれないUAVの監視制御を実行する際に考えられる改善点を特定することでした。

監視制御とは、人間が自律システムを監視およびサポートし、必要に応じて介入する状況を指します。自動運転車の場合、この見落としにはいくつかの形態が考えられます。 1 つ目は遠隔操作です。 人間が遠くから車の速度とステアリングを遠隔制御します。オペレーターは、レーシング シミュレーターに似た、ステアリング ホイールとペダルを備えたコンソールに座ります。この方法はリアルタイム制御に依存しているため、通信遅延の影響を非常に受けやすくなります。

監視制御の 2 番目の形式は、リモート アシスタンスです。リアルタイムで車を運転するのではなく、人間がより高度な指導を行います。たとえば、オペレーターは地図上の経路をクリックして (「パンくずリスト」の敷設と呼ばれます)、車に行き先を示したり、建設作業員からの手信号など、AI が理解できない情報を解釈したりする場合があります。この方法は遠隔操作よりも遅延が許容されますが、依然として時間に敏感です。

軍事ドローン運用から得た 5 つの教訓

35 年にわたる UAV 運用において、軍はドローン運用中に常に 5 つの大きな課題に直面しており、これは自動運転車に貴重な教訓をもたらします。

レイテンシ

遅延（距離やネットワーク品質の低下による情報の送受信の遅延）は、車両の遠隔制御にとって最も重要な課題です。人間には、神経筋遅延という独自の遅延機能も備わっています。完璧な条件下であっても、人は 200 ～ 500 ミリ秒以内に新しい情報に確実に反応することはできません。遠隔操作では、通信ラグがすでに存在するため、リアルタイム制御はさらに困難になります。

初期のドローン運用では、ラスベガス（米国の主要なUAV運用センター）の米空軍パイロットが遠隔操作を使用して中東でドローンを離着陸させようと試みた。指揮と応答の間に少なくとも 2 秒の遅れがあり、事故率は同じ任務を遂行する戦闘機の事故率の 16 倍でした。軍は現地の見通し線オペレーターに切り替え、最終的には完全自動離着陸に切り替えました。これらのUAVのパイロットにインタビューしたとき、彼らは皆、大幅なタイムラグのある航空機の制御がいかに難しいかを強調していました。

自動運転車会社は通常、携帯電話ネットワークを利用してコマンドを配信します。これらのネットワークは都市部では信頼性が低く、遅延が発生しやすいです。これが、多くの企業が完全な遠隔操作ではなく遠隔アシスタンスを好む理由の 1 つです。しかし、リモート アシスタンスでも問題が発生する可能性はあります。ある事件では、リモートビデオフィードで信号が黄色に表示されたときに、Waymoのオペレーターが車に左折するように指示しましたが、ネットワークの遅延により、現実世界では信号はすでに赤に変わっていました。遠隔操作センターを米国からフィリピンに移転した後、Waymo の遅延はさらに増加しました。遅延の問題を解決するだけでなく、セキュリティ脆弱性の監視を強化するためにも、制御をそれほど遠隔にしないことが不可欠です。

ワークステーションの設計

不適切なインターフェース設計により、多くのドローン事故が発生しています。軍は、わかりにくい制御、読みにくい表示、不明瞭な自律モードが悲惨な結果をもたらす可能性があることを苦労して学びました。特定の UAV プラットフォームに応じて、FAA は 2004 年までに人為的ミスによって引き起こされた陸軍および空軍の UAV 墜落事故の 20% から 100% はインターフェイスの設計が不十分であったことが原因であるとしています。

UAV 航空機の墜落の多くは、人間の不適切な制御システムによって引き起こされています。あるケースでは、ミサイルを発射する代わりに誤ってエンジンを停止することが比較的簡単にできるように、コントローラーにボタンが配置されていた。この不適切な設計により、遠隔操作者がミサイルを発射せずに誤ってエンジンを停止するという事故が発生しました。

自動運転業界は、同様の問題のヒントを明らかにしています。自動運転シャトルの中には、既製のゲーム コントローラーを使用するものもありますが、これは安価ではありますが、車両制御用に設計されたものではありません。このようなコントローラーを適応外で使用すると、モードの混乱が生じる可能性があり、これが最近のシャトル衝突事故の一因となっていました。このような問題を回避するには、システムの導入前だけでなく、主要なソフトウェアのアップグレード後にも、大規模な人間参加型テストが必要です。

オペレーターの作業負荷

ドローンのミッションには通常、長期間の監視と情報収集が含まれ、場合によってはミサイル攻撃で終わることもあります。これらのミッションは時には数日間続くこともあります。たとえば、軍が要注意人物が建物から出てくるのを待っている間などです。その結果、リモート オペレーターは作業負荷に極端な変動を経験し、時には圧倒的な激しさ、時には圧倒的な退屈を経験します。どちらの状況でもエラーが発生する可能性があります。

オペレーターがドローンを遠隔操作する場合、作業負荷が高く、すぐに疲労が蓄積する可能性があります。しかし、機内の自律性が作業のほとんどを処理すると、オペレーターは退屈し、満足し、注意力が低下する可能性があります。このパターンは UAV 研究で十分に文書化されています。

自動運転車の運転者は、わかりにくい標識の解釈から行き止まりからの脱出支援に至るまで、さまざまな業務で同様の問題を経験していると考えられます。単純なシナリオでは、オペレーターは退屈する可能性があります。洪水地帯への車の進入や都市全体の停電時の対応などの緊急事態では、すぐに圧倒されてしまう可能性があります。

軍は何年にもわたって、費用対効果がはるかに高いため、1人が一度に多数のドローンを監視することを試みてきた。ただし、認知切り替えコスト (ドローン間の制御を切り替えた後に状況を再度認識すること) により、作業負荷が急増し、高いストレスが生じます。それに加えて、ますます複雑化するインターフェースや通信の遅延が、これを非常に困難にしています。

自動運転車会社も同様の障害に直面する可能性が高い。オペレータの作業負荷をモデル化し、特に緊急作業中に人員配置はどうあるべきか、1 人で効果的に監督できる車両の数を確実に予測できるようにする必要があります。すべての自動運転車に細心の注意を払う専任の人間が必要なことが判明した場合、そのような運用はもはやコスト効率が悪くなります。

トレーニング

初期のドローン プログラムには正式な訓練要件がなく、パイロットによってパイロット向けに訓練プログラムが設計されていました。残念ながら、ドローンの監督は実際に航空機を操縦するというよりも航空交通管制に近いため、軍はドローン操縦者を準備が不十分なまま重要な役割に配置することがよくありました。これにより多くの事故が発生しました。数年後、軍は安全な遠隔操作を行うために必要な知識、スキル、能力を適切に分析し、訓練プログラムを変更しました。

自動運転会社はトレーニング基準を公表しておらず、現在、遠隔操作者の資格を管理する規制もありません。道路上の安全はこれらのオペレーターに大きく依存していますが、そのオペレーターがどのように選ばれ、どのように教えられるかについてはほとんど知られていません。民間航空のディスパッチャーが、自動運転の遠隔オペレーターと非常によく似た、FAA 監督の正式な訓練を受けることが義務付けられているのであれば、民間の自動運転会社にも同様の基準を課すべきである。

緊急時対応計画

航空業界には、通信不能時の事前定義された手順、バックアップ地上管制局、自律性が失われたときの信頼性の高い機内動作など、緊急事態に備えた強力なプロトコルが用意されています。軍事では、ドローンは安全な場所に自ら飛行したり、連絡が途絶えた場合に自律的に着陸したりする可能性があります。システムは、GPS スプーフィングなどのサイバーセキュリティの脅威を念頭に置いて設計されています。

自動運転車は、はるかに準備が整っていないようだ。 2025年のサンフランシスコ停電では、Waymoの車両が車線内で凍結し、初期対応が妨げられ、危険が生じた。これらの車両は、横に寄せるなどの「リスクを最小限に抑えた操作」を実行することになっていますが、多くの車両はそれを実行しませんでした。これは、緊急時対応計画と基本的なフェールセーフ設計にギャップがあることを示唆しています。

軍用ドローン運用の歴史は、自動運転車業界にとって重要な教訓を与えてくれます。数十年の経験から、遠隔監視には極めて低い遅延、慎重に設計された制御ステーション、管理可能なオペレータの作業負荷、厳密でよく設計されたトレーニング プログラム、および強力な緊急時対応計画が必要であることがわかっています。

自動運転企業は、ドローンプログラムで初期に犯した間違いの多くを繰り返しているようだ。リモート操作は、ミッションクリティカルな安全システムではなく、サポート機能として扱われます。しかし、AIが不確実性と闘っている限り、それは予見可能な将来も続くだろうが、人間による遠隔監視は依然として不可欠である。軍は苦しい試行錯誤を通じてこれらの教訓を学びましたが、自動運転コミュニティはそれらを無視しているようです。自動運転業界には、あらゆる場所の道路利用者に損害を与える前に、戦闘環境での間違いから学ぶ機会と責任があります。