元ウーバー幹部、テスラFSD事故はAIによる大きなリスクを明らかにしたと語る

ウーバーの自動運転プログラムの元責任者は、テスラの事故がAIの「過信」についての教訓になったと語る。

で エッセイ 火曜日のアトランティック誌に掲載されたラフィ・クリコリアン氏は、昨年、完全自動運転モードで運転中に自分が運転していたテスラ・モデルXが壁に衝突し、「全損」したと書いた。

「何か違和感を感じた。ハンドルが一方向に揺れ、次に反対方向に揺れ、車が予期せぬ方向に減速した。私は引き継ぐためにハンドルを切った」と、現在 Mozilla の CTO を務めるクリコリアン氏は書いている。

「システムが何をしていたのか、その理由は正確にはわかりません。わかっているのは、あの数秒間のどこかで最終的に壁に衝突したということだけです」と彼は付け加えた。

クリコリアンさんは、サンフランシスコでのボーイスカウトの会合に息子を送り届ける途中に起きた事故で、脳震盪を起こしたが、それ以外は負傷者はいなかったと語った。テスラはコメントの要請に応じなかった。

しかし、2015年から2017年までウーバーの自動運転部門を率い、自動運転車のテストを監督していた技術幹部は、この事件がAIを活用した運転技術について不穏な教訓を学んだと語った。それは、システムが完璧に近づきつつあるとき、スイッチを切るのは簡単だということだ。

「乗客からパイロットに瞬時に戻るよう求められた。まばたきするまでに数か月かかる調整を無効にするためだ」と彼は書いている。

最新の運転支援システムなど テスラの完全自動運転 (FSD) は、ほぼすべての運転状況に対応できます。

ただし、これらの AI システムは完全ではありません。テスラや他のメーカーは、ドライバーに車両を監視し、何か問題が発生した場合にすぐに引き継ぐ準備をすることを義務付けています。

「完璧に動作する機械には監視の必要はない。しかし、ほぼ完璧に動作する機械？そこに危険がある」とクリコリアン氏は書いた。

FSDには事件の歴史がある

FSD が間違いを犯した事例は十分に文書化されています。テスラが直面しているのは 規制調査 ソフトウェアを搭載した車両が道路の逆側を走行し、赤信号を無視して通り抜けようとしたとの報告が多い。 踏切。

同社が直面したのは、 いくつかの訴訟 FSDとその前身であるオートパイロットが関与した死亡事故をめぐっては、昨年には22歳の女性が死亡した2019年の衝突事故をめぐって、2億4,200万ドル強の損害賠償の支払いを命じられた。

イーロン・マスク氏の自動車メーカーは、FSDとオートパイロットのマーケティングに関しても精査されており、カリフォルニアの判事は昨年12月に次のような判決を下した。 テスラの広告 この技術を搭載した自動車が自動運転できると誤って示唆した。

運転支援システムをめぐって苦境に立たされているメーカーはテスラだけではない。

フォードは、デトロイトの自動車メーカーが関与した2024年の2件の死亡事故を巡り、規制当局の捜査に直面している。 ブルークルーズ技術、今月初めに国家運輸安全委員会（NTSB）が公開した文書によると、両運転手は衝突前に注意力散漫になっていたことが示唆されている。

ウーバーは、2018年に運転支援技術がもたらす課題に自らも直面した。クリコリアン氏が退職した1年後、ウーバーの試験車両は安全オペレーターとともに自動運転を行った。 歩行者をはねて死亡させた アリゾナで。

アン NTSBの調査 は、安全オペレーターが環境の監視を怠り、携帯電話に気を取られていたことを発見し、ウーバーの「不適切な安全文化」を批判した。ウーバーは2020年に自動運転車を自社で開発する試みを断念した。