AI にはロボット工学の第 4 法則が必要です

1942 年、伝説的な SF 作家アイザック アシモフは、短編小説「Runaround」の中でロボット工学の 3 原則を紹介しました。この法律は後に彼の独創的な物語集で普及しました。 わたし、ロボット。

• 第一法則: ロボットは人間に危害を加えたり、不作為によって人間に危害を加えたりすることはできません。
• 第二法則: ロボットは、第一法則に抵触する場合を除き、人間から与えられた命令に従わなければなりません。
• 第三法則: ロボットは、第一法則または第二法則に抵触しない限り、自らの存在を守らなければなりません。

これらの法律はフィクション作品から引用されたものではありますが、数十年にわたってロボットの倫理に関する議論を形作ってきました。そして、仮想ロボットと考えられる AI システムがより洗練され普及するにつれ、一部の技術者は、人間と対話する AI に必要な潜在的な保護手段を検討するのにアシモフのフレームワークが役立つことに気づきました。

しかし、既存の 3 つの法律だけでは十分ではありません。今日、私たちはアシモフもほとんど想像できなかった前例のない人間とAIのコラボレーションの時代に突入しています。生成 AI 機能、特に言語と画像の生成の急速な進歩により、身体的危害と服従に関するアシモフの当初の懸念を超える課題が生じています。

ディープフェイク、誤った情報、詐欺

AI を利用した欺瞞の蔓延は特に懸念されます。 FBIの2024年によると インターネット犯罪レポート、デジタル操作やソーシャルエンジニアリングを伴うサイバー犯罪は、103億米ドルを超える損失をもたらしました。欧州連合サイバーセキュリティ庁の 2023 年 脅威の状況 ディープフェイク（本物のように見える合成メディア）がデジタル アイデンティティと信頼に対する新たな脅威として特に強調されました。

ソーシャルメディアの誤った情報は野火のように広がっています。パンデミック中に勉強した 広範囲に そして、生成型 AI ツールの普及により、その検出がますます困難になっているとしか言えません。さらに悪いことに、AI が生成した記事も同様に説得力があるか、 さらに説得力のある AI を使用して説得力のあるコンテンツを作成するには、従来のプロパガンダよりも非常に高度な作業が必要です。 少しの努力。

ディープフェイクは社会全体で増加しています。ボットネットは、AI が生成したテキスト、音声、ビデオを使用して、あらゆる政治問題に対する広範な支持があるという誤った認識を作り出す可能性があります。ボットは電話をかけたり受けたりできるようになりました。 人になりすます。聞き慣れた音声を模倣したAI詐欺電話が増加中 一般そして、AI がレンダリングしたオーバーレイ アバターに基づいたビデオ通話詐欺がブームとなり、詐欺師が愛する人になりすまし、最も弱い立場にある人々をターゲットにすることがいつの日でも予想されます。余談ですが、私の父親は私のビデオを見て驚きました。 流暢なスペイン語を話すと彼は、私がこの言語の誇り高き初心者であることを知っていたからです (Duolingo で 400 日しっかり!)。このビデオはAIによって編集されたと言えば十分だろう。

さらに憂慮すべきことに、子供や十代の若者は AI エージェントに対して感情的な愛着を形成しており、実際の友人とのやり取りとオンライン上のボットとのやり取りを区別できない場合があります。すでに、 自殺とされる AIチャットボットとのやり取りまで。

2019年の著書の中で 人間に適合する、著名なコンピューター科学者のスチュアート・ラッセルは、AIシステムが人間を欺く能力は社会的信頼に対する根本的な挑戦であると主張している。この懸念は最近の政策イニシアチブ、特に注目すべきものに反映されています。 欧州連合の AI 法これには、AI インタラクションの透明性と AI によって生成されたコンテンツの透明性のある開示を要求する条項が含まれています。アシモフの時代には、人工エージェントがオンライン コミュニケーション ツールやアバターを使用して人間を欺く方法を想像することもできませんでした。

したがって、アシモフの法則に追加を加える必要があります。

• 第 4 法則: ロボットやAIが人間になりすまして人間を騙してはなりません。

信頼される AI への道

明確な境界線が必要です。人間と AI のコラボレーションは建設的である可能性がありますが、AI による欺瞞は信頼を損ない、時間の無駄、精神的苦痛、リソースの誤用につながります。人工エージェントは、私たちと人工エージェントとのやり取りが透明性と生産性を確保するために、自らを識別する必要があります。 AI によって生成されたコンテンツは、人間によって大幅に編集および調整されていない限り、明確にマークされる必要があります。

この第 4 法の施行には以下が必要となります。

• 直接的なやり取りにおける AI 開示の義務化、
• AI が生成したコンテンツの明確なラベル付け、
• AI識別技術基準、
• 施行のための法的枠組み、
• AI リテラシーを向上させるための教育的取り組み。

もちろん、これはすべて言うは易く行うは難しです。 AI が生成したテキスト、音声、画像、ビデオに透かしを入れたり、検出したりする信頼性の高い方法を見つけるために、大規模な研究活動がすでに進行中です。私が求めている透明性の実現は、解決された問題からは程遠いです。

しかし、人間と AI のコラボレーションの将来は、人間と人工エージェントの間の明確な区別を維持するかどうかにかかっています。 IEEE の 2022 に記載されているように、倫理に沿ったデザイン「このフレームワークでは、AI システムの透明性は、国民の信頼を築き、人工知能の責任ある開発を保証するための基礎となります。」

アシモフの複雑な物語は、規則に従おうとするロボットでさえ、しばしば自分たちの行動の意図しない結果を発見することを示しました。それでも、アシモフの倫理ガイドラインに従おうとする AI システムを導入することは、非常に良いスタートとなるでしょう。