OpenAIのロボット工学チームの上級メンバーが、同社が最近発表した米国国防総省との提携をどのように進めてきたかについての懸念を理由に辞任した。
ロボット工学とハードウェアを専門とする技術スタッフのメンバーを務めていたケイトリン・カリノフスキー氏は、同社が次の計画を明らかにした後、「原則」に従って辞任したとソーシャルメディアに投稿した。 AI システムを利用できるようにする 安全な国防総省のコンピューティング システム内。
この協定は、先進的なAIツールを国家安全保障業務に組み込むという米国政府による広範な推進の一環であり、この傾向は監視と許容される用途についてハイテク業界全体で議論を引き起こしている。
で 公開投稿 カリノフスキー氏は自身の決断について次のように書いている。「私はOpenAIを辞めました。ロボティクスチームと私たちが一緒に作り上げた作品をとても大切に思っています。これは簡単な決断ではありませんでした。」
同氏は、OpenAIが国防総省との合意を発表するまで、特定のAI利用に関する政策上のガードレールが十分に定義されていなかったと述べた。 「AIは国家安全保障において重要な役割を果たしている」とカリノフスキー氏は書いた。 「しかし、司法の監視のないアメリカ人の監視や、人間の許可のない致命的な自治は、彼らが得た以上の熟考に値する方針である。」
カリノフスキー氏はまた、OpenAIの最高経営責任者サム・アルトマン氏のことを引き合いに出し、「サムとチームを深く尊敬しており、我々が一緒に構築したものを誇りに思っている」と述べ、懸念は社内の特定の幹部ではなくプロセスにあることを強調した。
OpenAIの広報担当者はNPRに対し、同社は国防総省との合意が「国内監視の禁止と自律型兵器の禁止という越えてはならない一線を明確にしながら、AIの責任ある国家安全保障利用のための実現可能な道筋を作り出す」と信じていると語った。
さらに、同社は「人々はこれらの問題について強い意見を持っていることを認識しており、当社は従業員、政府、市民社会、世界中のコミュニティとの議論を継続していく」と述べた。
カリノフスキー氏の辞任は、米国政府への技術供給を巡って人工知能の大手開発者間の競争が激化する中で行われた。ここ数週間、連邦政府機関は OpenAI に注目し、 グーグル 自社モデルの軍事利用を巡り、ライバル企業であるアンスロピック社との緊張が高まったため、AI システムの開発に向けた取り組みが強化されました。
アントロピックの CEOが反対の声を上げた 同社のソフトウェアを国内の大量監視や自律型兵器などの用途に使用することを許可しており、この姿勢はピート・ヘグセス国防長官を含む国防当局者との衝突につながり、国防当局はあらゆる「合法的な」作戦に商用AIツールを導入する柔軟性が必要だと述べた。
OpenAI 内での Kalinowski の役割は、企業の規模が拡大するにつれてロボット工学組織を構築することに重点を置きました。彼女は LinkedIn のプロフィールに、これには物理的なインフラストラクチャや機械に関連した AI への取り組みへの同社の拡大をサポートするための採用も含まれると書いた。
カリノフスキーさんは、同じ分野で働き続けるつもりであることを示唆した。 「少し時間はかかっていますが、引き続き責任ある物理 AI の構築に非常に集中しています」と彼女は書いています。
#OpenAIロボット工学リーダー国防総省AIとの取引に関する懸念で辞任 #KGOU