人間の誤用により人工知能はさらに危険になる

OpenAI 最高経営責任者（CEO） サム・アルトマン 期待しています AGI、または 汎用人工知能—ほとんどのタスクで人間を上回る AI が登場 — 2027 年か 2028 年頃。イーロン マスク氏の予測は次のいずれかです。 2025年か2026年、そして彼は持っています 主張した 彼は「AIの危険性の脅威で眠れなくなっていた」と語った。そのような予測は間違っています。として 制限事項 現在の AI の実態がますます明らかになるにつれ、ほとんどの AI 研究者は、より大きくて強力なチャットボットを構築するだけでは AGI につながらないという見解に達しました。

しかし、2025 年になっても、AI は依然として大きなリスクを引き起こすでしょう。それは人工超知能によるものではなく、人間の誤用によるものです。

これらは、弁護士が AI に過度に依存するなど、意図しない悪用である可能性があります。たとえば、ChatGPTのリリース後、多くの弁護士がAIを使用して誤った法廷会見を生成したとして制裁を受けているが、どうやらチャットボットがでっち上げる傾向に気づいていないようだ。で ブリティッシュコロンビア州弁護士のチョン・ケ氏は、AIが生成した架空の事件を訴訟提起に含めたとして、相手方弁護士への費用支払いを命じられた。で ニューヨークSteven SchwartzとPeter LoDucaは、虚偽の引用を行ったとして5,000ドルの罰金を科されました。で コロラドザカリア・クラビル氏は、ChatGPTを使用して生成された架空の裁判例を使用し、その間違いを「司法インターン」のせいにしたとして、1年間の停職処分を受けた。リストは急速に増えています。

その他の誤用は意図的なものです。 2024 年 1 月、性的に露骨な テイラー・スウィフトのディープフェイク ソーシャルメディアプラットフォームが氾濫しました。これらの画像は、Microsoft の AI ツール「Designer」を使用して作成されました。同社には実在の人物の画像の生成を避けるためのガードレールがあったが、スウィフトの名前のスペルを間違えただけでガードレールを回避するのに十分だった。マイクロソフトはそれ以来、 修理済み このエラー。しかし、テイラー・スウィフトは氷山の一角であり、同意のないディープフェイクは広く拡散している。その理由の一つは、ディープフェイクを作成するためのオープンソースツールが公開されているためだ。世界中で現在進行中の法律は、被害を抑えることを期待してディープフェイクと戦うことを目指しています。それが効果的かどうかはまだわかりません。

2025 年には、本物と作り物を見分けるのはさらに難しくなるでしょう。 AI によって生成された音声、テキスト、画像の忠実度は驚異的であり、次にビデオが登場します。これは「嘘つきの配当」につながる可能性がある。つまり、権力のある立場にある人々が、自分たちの不正行為の証拠を偽物であると主張して否認することになる。 2023 年、テスラ 主張した イーロン・マスク氏の2016年のビデオは、CEOがテスラの自動操縦装置の安全性を誇張して事故を引き起こしたという疑惑に対応したディープフェイクだった可能性があるという。インドの政治家は、自分の政党の汚職を認めた音声クリップが改ざんされていると主張した（彼のクリップの少なくとも 1 つの音声は改ざんされていた） 検証済み 報道機関による本物として）。また、1月6日の暴動の被告2人は、自分たちが出演した動画はディープフェイクだったと主張した。どちらもそうだった 有罪判決を受けた。

その一方で、企業は社会の混乱を利用して、根本的に疑わしい製品を「AI」と名付けて販売しています。このようなツールが人々を分類し、彼らについての結果的な決定を下すために使用される場合、これはひどく間違った方向に進む可能性があります。たとえば、人材採用会社 Retorio は、 主張 その AI はビデオ面接に基づいて候補者の仕事への適性を予測するとしているが、ある研究では、このシステムはメガネの存在や無地の背景を本棚に置き換えるだけで騙される可能性があることが判明しており、表面的な相関関係に依存していることが示されている。

また、医療、教育、金融、刑事司法、保険などの分野でも、現在 AI が人々の重要な人生の機会を奪うために使用されています。オランダでは、オランダ税務当局が AI アルゴリズムを使用して、児童福祉詐欺を犯した人物を特定しました。それ 不当に告発された 何千人もの親が数万ユーロの返済を要求することも多い。その余波で、首相と閣僚全員が辞任した。

2025 年には、AI リスクは AI が自ら行動することからではなく、人間が AI を使って行う行為によって生じると予想されます。それには、次のような場合も含まれます。 らしい うまく機能し、過度に信頼されている（ChatGPTを使用している弁護士）。うまく機能するのに悪用される場合（合意のないディープフェイクと嘘つきの配当）。そしてそれが単に目的に適合しない場合（人々の権利を否定する場合）。これらのリスクを軽減することは、企業、政府、社会にとって大きな課題です。 SF の心配に気を取られなくても、十分難しいでしょう。