世界

オープンソースロボット工学のデュアル使用ジレンマ

民間部門で開発されたオープンソーステクノロジーは、軍事用途でも使用されるか、単に悪用される能力を持っています。イノベーションが両方の方法で進んでいるため、この二重使用の可能性をエンジニアリング分野全体でナビゲートすることはより重要になりつつあります。オープンソーステクノロジーの「オープン性」は、イノベーションを促進し、誰もがアクセスできるものの一部ですが、残念ながら、軍隊や犯罪者を含む他の人が簡単にアクセスできることも意味します。不正な状態、非国家民兵、または学校の射手が、エンジニアが行うオープンソーステクノロジーと同じ創造性と革新を表示するとどうなりますか？これは私たちがここで議論している質問です。オープンな研究と革新の原則をどのように支持して、アクセス可能なテクノロジーに伴う固有のリスクを軽減しながら進歩を促進することができますか？オープンエンドのリスクだけでなく、特定の課題のオープンソーステクノロジーとその二重用途の可能性について、ロボット工学について議論しましょう。これらの課題を理解することは、エンジニアが自分の分野で何を探すべきかを学ぶのに役立ちます。オープン性の力と危険オープンアクセス出版物、ソフトウェア、および教育コンテンツは、ロボット工学を進めるための基本です。彼らは知識への民主化されたアクセスを持ち、再現性を可能にし、活気に満ちた共同の科学者の国際社会を育成しました。 ArxivやGithubなどのプラットフォーム、およびロボットオペレーティングシステム（ROS）やOpen Dynamic Robotイニシアチブなどのオープンソースイニシアチブは、ロボット工学の研究と革新を加速する上で極めて重要であり、それらがオープンにアクセスしやすいままであることは間違いありません。これらのリソースへのアクセスを失うことは、ロボット工学分野に壊滅的です。ただし、ほとんどのロボット工学技術は軍事使用または有害な目的のために再利用できるため、ロボット工学には固有の二重使用リスクがあります。現在の競合におけるカスタムメイドのドローンの最近の例の1つは、特に洞察に富んでいます。ウクライナの兵士が再利用し、時には民間のドローン技術を強化することで表示された機知に富んでいることは、世界中で受け入れられ、しばしば賞賛されるニュース報道です。それらの創造性は、商用ドローン、スペアパーツ、3Dプリンター、およびオープンソースソフトウェアとハードウェアの可用性の手頃な価格によって可能になりました。これにより、技術的な背景やお金がほとんどない人々は、軍事用途向けにロボットを簡単に作成、制御、再利用できます。確かに、これはウクライナ人が自国を擁護することに力強い効果をもたらしたと主張することができます。しかし、これらの同じ条件は、幅広い潜在的な悪い俳優の機会も提示しています。オープンに利用可能な知識、設計、およびソフトウェアを誤用して、ビジョンベースのナビゲーション、自律ターゲティング、群れなどの機能を備えた既存の武器システムを強化できます。さらに、適切なセキュリティ対策が取られない限り、オープンソースコードの公共性はサイバー攻撃に対して脆弱になり、悪意のあるアクターがロボットシステムの制御を獲得し、誤動作したり、悪意のある目的に使用されるようにします。多くのROSユーザーは、アプリケーションのためにサイバーセキュリティに十分に投資していないことをすでに認識しています。ガイダンスが必要です研究と革新の開放性に起因する二重使用リスクは、多くのエンジニアリング分野にとって懸念事項です。エンジニアリングはもともと軍事専用の活動であったことをご存知ですか？ 「エンジニア」という言葉は、中世に「要塞と武器のデザイナーでありコンストラクター」を説明するために造られました。いくつかのエンジニアリングの専門分野、特に大量破壊兵器（化学、生物学、放射線、核）の開発を含むものは、明確なガイダンスを開発し、場合によっては研究と革新の実施と普及の規制を開発しました。また、知識の普及に関連する二重の使用リスクを緩和することを目的としたコミュニティ主導のプロセスもあります。たとえば、BiorxivとMedRXIV（生物学および健康科学の前リントサーバー）は、公開する前にバイオセキュリティまたは健康リスクをもたらす材料の画面の提出物です。それに比べて、ロボット工学の分野は、ロボット主義者がオープン性に関連するリスクをどのように考え、対処すべきかについて、特定の規制やほとんどガイダンスを提供しません。デュアル使用リスクは、作業がデュアル使用アイテムの輸出規制の対象かどうかを評価するときなど、学生がキャリアに直面する可能性が高いものであるにもかかわらず、ほとんどの大学では教えられません。その結果、ロボット奏者は、インセンティブがあると感じたり、仕事に関連する二重の使用リスクを評価して軽減する装備を備えていない場合があります。これは大きな問題を表しています。なぜなら、オープンロボットの研究と革新の誤用に関連する危害の可能性は、核および生物学的研究のそれよりも高い可能性が高く、どちらもかなり多くのリソースを必要とするからです。オープンソースの設計とソフトウェア、および既製の商用コンポーネントを使用して、「Do-adself」ロボット武器システムの生産は比較的簡単でアクセスしやすいです。これを念頭に置いて、ロボティクスコミュニティが、研究者や企業が自分の仕事のオープン拡散に関連する二重の使用リスクを最もよくナビゲートする方法について、独自のセクター固有のガイダンスに向けて取り組む時が来たと思います。責任あるロボット工学のためのロードマップセキュリティとオープン性のバランスをとることは複雑な課題ですが、ロボットコミュニティが受け入れなければならないものです。イノベーションを抑制する余裕はなく、害の可能性を無視することもできません。この二重使用のジレンマをナビゲートするには、積極的で多面的なアプローチが必要です。エンジニアリングの他の分野からレッスンを引き出すと、教育、インセンティブ、節度、赤いラインの4つの重要な分野に焦点を当てたロードマップを提案します。教育責任ある研究と革新をあらゆるレベルでロボット工学教育に統合することが最重要です。これには、専用のコースだけでなく、コアロボットカリキュラム内のデュアル使用とサイバーセキュリティの考慮事項を体系的に含めることも含まれます。責任あるイノベーションの文化を育成して、ロボット主義者に情報に基づいた意思決定を行い、潜在的なリスクに積極的に対処できるようにしなければなりません。教育イニシアチブには次のものが含まれます。インセンティブ誰もが、自分の仕事を完全にまたは部分的にオープンにすることの潜在的な否定的な結果を評価するよう奨励されるべきです。資金調達機関は、リスク評価をプロジェクト資金の条件として義務付け、その重要性を示しています。 IEEE Robotics and Automation Society（RAS）などの専門組織は、ベストプラクティスを採用および促進することができ、研究者がリスクを特定、評価、軽減するツールとフレームワークを提供できます。このようなツールには、個々の研究者向けの自己評価チェックリストや、学部やラボが倫理的レビューボードを設定する方法についてのガイダンスが含まれます。学術雑誌や会議は、特にリスクの高いアプリケーションにとって、ピアレビューのリスク評価を出版プロセスの不可欠な部分にすることができます。さらに、賞や表彰プログラムなどのインセンティブは、リスク評価と緩和への模範的な貢献を強調し、コミュニティ内の責任文化を促進することができます。リスク評価は、より非公式な方法で奨励され、報酬を与えることもできます。博士号などの指導的地位にある人々ラボの監督者と責任者は、学生と研究者が考えられるリスクについて議論するためのアドホックな機会を構築することができます。彼らはこのトピックに関するセミナーを開催し、NGOの社会科学者や専門家などの外部の専門家や利害関係者に紹介を提供できます。節度Roboticsコミュニティは、高リスク材料の拡散を緩和するために自己調節メカニズムを実装できます。これには次のことが含まれます。深刻なリスクをもたらすコンテンツの普及を防ぐための発行前のスクリーニング作業。段階的なアクセスコントロール（「ゲーティング」）を特定のソースコードまたはオープンソースリポジトリのデータに実装し、ユーザーが自分自身を識別し、意図した使用を指定する必要がある可能性があります。透明性を確保し、これらの節度メカニズムの誤用を防ぐために、明確なガイドラインとコミュニティ監視を確立します。たとえば、RASなどの組織は、ロボット研究とアプリケーションのリスクレベルのカテゴリを設計し、ロボット研究の誤用の実際のケースを追跡および文書化するための監視委員会を作成して、リスクの規模を理解および視覚化し、より良い緩和戦略を作成することができます。赤い線また、ロボティクスコミュニティは、ロボット工学技術の開発と展開のために、赤い線を定義し、実施しようとする必要があります。赤い線を定義する努力は、特に自律的およびインテリジェントなシステムの倫理に関するIEEEグローバルイニシアチブの文脈で、その方向にすでに行われています。ボストンダイナミクス、Unitree、Agility Robotics、ClearPath Robotics、Anybotics、Open Roboticsなどの企業は、汎用ロボットの武器化に関する規制を求める公開書簡を書きました。残念ながら、彼らの努力は範囲が非常に狭く、ロボット工学の最終用途をさらにマッピングすることには多くの価値があります。倫理的に受け入れられるまたは問題と見なされるものは非常に主観的であるため、コミュニティが標準的な赤い線に同意することは絶対に困難です。プロセスをサポートするために、個人と企業は、自分の仕事の容認できない使用であると考えるものを振り返ることができます。これにより、オープンリサーチとオープンソース設計ソフトウェアの受益者が正式に同意する必要があるというポリシーと利用規約が得られる可能性があります（特定の使用オープンソースライセンスなど）。これは、アクセスを取り消し、ソフトウェアの更新を拒否し、テクノロジーを悪用する人々を訴えるかブラックリストに登録するための基礎を提供します。ボストンダイナミクスを含む一部の企業は、すでにこれらの措置をある程度実装しています。オープンな調査を行っている人や会社は、この例を再現することができます。開放性は、ロボット工学を含む多くのエンジニアリング分野の革新と民主化の鍵ですが、誤用の可能性も増幅します。エンジニアリングコミュニティは、二重使用のジレンマに積極的に対処する責任があります。教育やリスク評価から緩和、赤い線まで、責任ある慣行を受け入れることにより、開放性とセキュリティが共存するエコシステムを促進することができます。課題は重要ですが、利害関係は高すぎて無視できません。研究とイノベーションが世界に社会に利益をもたらし、世界の不安定性の推進力にならないようにすることが重要です。この目標は、「人類の利益のためにテクノロジーを進める」というIEEEの使命と一致すると信じています。エンジニアリングコミュニティ、特にロボット奏者は、社会からの反発を防ぎ、潜在的に逆効果的な措置またはオープンサイエンスを傷つける可能性のある国際規制を先取りするために、これらの問題に積極的に取り組む必要があります。 #オープンソースロボット工学のデュアル使用ジレンマ