「灰色の白鳥」事件がAI革命を崩壊させる可能性はあるだろうか？私たちが備えるべき3つのリスクは次のとおりです

「ブラック・スワン」という用語は、実際に起こるまで誰も気づかなかった衝撃的な出来事を指します。これは代名詞になっています リスク分析 以来 『ブラック・スワン』という本 ナシム・ニコラス・タレブ著は 2007 年に出版されました。頻繁に引用される例は 9/11 攻撃です。

「」について聞いたことがある人は少なくなりました。灰色の白鳥”.から派生 タレブの作品、灰色の白鳥はまれですが、より予見可能な出来事です。つまり、大きな影響を与える可能性があることはわかっているものの、十分な準備をしていない（または準備しようとしない）ということです。

新型コロナウイルスはその良い例でした。世界的なパンデミックの前例は存在しましたが、とにかく世界は不意を突かれました。

彼は時々 という用語を使用しますタレブはハイイロハクチョウの大ファンではないようです。彼は以前 不満を表明した 彼の概念はしばしば誤用され、それが次のような事態につながる可能性があるということ ずさんな考え 本当に予測不可能なリスクというより深い問題について。

しかし、予測可能性の幅があることを否定するのは難しく、いくつかの大きなショックが来ることは容易に想像できます。おそらく、これが最も明らかなのは、人工知能 (AI) の世界でしょう。

卵をひとつのカゴに入れる

ますます世界経済の将来と 人間の繁栄 は、AI 革命という 1 つの技術的なストーリーに結びついています。変わりました リスクに関する哲学的な質問 起こり得る未来にどのように対応するかについて、数兆ドル規模のジレンマに陥っています。

AIチップ市場を独占する米国のテクノロジー企業エヌビディアは、 最近5兆米ドル（約7兆7000億豪ドル）を超えた 市場価値で。 「マグニフィセント・セブン」と呼ばれる米国ハイテク株 – アマゾン、アルファベット (グーグル)、アップル、メタ、マイクロソフト、エヌビディア、テスラ – が現在構成されている S&P 500 株価指数の約 40%。

これらの企業の破綻、そして株式市場の破綻の影響は、財務面だけでなく破線の面でも世界レベルで壊滅的なものとなるだろう。 進歩への希望。

AIの灰色の白鳥

AI の高揚感を突然停止させる可能性のある、経済的領域を超えたリスクには、大きく 3 つのカテゴリがあります。彼らが灰色の白鳥であるのは、私たちには彼らが来るのが見えているのに、おそらく彼らに備えていない（あるいは、しようとしない）からです。

1. 治安とテロの衝撃

コード、悪意のある計画、説得力のある偽メディアを生成する AI の能力により、 悪役の力を倍増させる。安価なオープンモデルは、ドローンの群れ、毒素、サイバー攻撃の設計に役立つ可能性がある。 ディープフェイク 軍の命令を偽ったり、偽の放送を通じてパニックを広めたりする可能性がある。

おそらく、これらのリスクの中で「ホワイト・スワン」（比較的予測可能な結果を伴う予見可能なリスク）に最も近いものは、以下のようなものから生じます。 中国の台湾侵略。

世界最大の AI 企業は以下に大きく依存しています。 台湾の半導体産業 先進的なチップの製造に。紛争や封鎖があれば、世界の進歩は一夜にして凍結されてしまいます。

2. 法的ショック

一部のAI企業は、インターネットから収集したテキストや画像をモデルのトレーニングに使用した疑いですでに訴訟を起こされている。

最もよく知られた例の 1 つは現在進行中の事件です。 ニューヨーク・タイムズ対OpenAI、しかし、あります 同様の紛争がたくさんある 世界中で。

主要な裁判所がそのような使用が商業的搾取に当たるとの判決を下した場合、出版社、アーティスト、ブランドから巨額の損害賠償請求が引き起こされる可能性がある。

いくつかの画期的な法的判決により、大手 AI 企業はさらなるモデル開発の一時停止を迫られ、AI の構築が事実上停止される可能性があります。

3. 1 つのブレークスルーが多すぎる: イノベーションの衝撃

イノベーションは通常称賛されますが、AI に投資している企業にとっては致命的なものになる可能性があります。自律的に動く新しいAI技術 市場を操作する （あるいはすでにそうしているというニュースさえ）現在の金融安全システムは時代遅れになるだろう。

そして、高度なオープンソースの無料 AI モデルは、今日の業界リーダーの利益を簡単に蒸発させてしまう可能性があります。 1月の記事でこの可能性を垣間見た ディープシークディップ、中国で開発された比較的安価で効率的なAIモデルの詳細が米国のハイテク株の急落を引き起こしたとき。

なぜ灰色の白鳥への備えに苦労するのか

リスクアナリスト、特に金融分野のアナリストは、過去のデータに基づいて話をすることがよくあります。統計は安心感を与えてくれる 一貫性と制御の幻想。しかし、未来が常に過去のように振る舞うとは限りません。

私たちの中の賢い人たちは 慎重に確認された事実に理由を適用する そして市場に対して懐疑的である 物語。

より深い原因は心理的なものです: 私たちの心は物事をコード化しています 効率的に、多くの場合、どちらかに依存します シンボル 非常に複雑な現象を表現します。

私たちが世界の表現を作り変えて、差し迫った大きなリスクに対して行動を起こす価値があると信じるには長い時間がかかります。 気候変動への反応が遅い。

灰色の白鳥にどう対処すればよいでしょうか？

リスクを常に認識しておくことが重要です。しかし、最も重要なのは予測ではありません。私たちは、タレブが言う、より深い種類の回復力を設計する必要があります。反脆弱性”。

タレブ氏は、システムは完璧な先見性に依存するのではなく、衝撃に耐えられるように、あるいは衝撃から恩恵を受けるように構築されるべきだと主張します。

政策立案者にとって、これは、一連の大きなショックに耐えられるように規制、サプライチェーン、制度を確実に構築することを意味します。個人にとって、それは賭けを多様化し、選択肢を開いたままにし、歴史がすべてを教えてくれるという幻想に抵抗することを意味します。

何よりもAIブームの最大の問題はそのスピードだ。私たちがその灰色の白鳥を描くよりも早く、世界的なリスク情勢を再形成しつつあります。いくつかは衝突して原因となる可能性があります 壮絶な破壊 私たちが反応する前に。