SB 1047 にシリコンのカーテンが下りる – ヘルスケア ブログ

マイク・マギー著

健康、環境、テクノロジー、政治のいずれについて話していても、最近の共通点は情報のようです。そして、驚くことではないが、AI の導入により、情報過多や誤った情報に対する私たちの最悪の恐怖がさらに強まることに成功した。 「AIのゴッドファーザー」として、 ジェフリー・ヒントン氏は、10 年間 AI への取り組みを率いてきた Google を辞める際に、「悪意のある者たちが AI を悪いことに利用するのをどうやって防ぐことができるのか、理解するのは難しいです。」と告白しました。

ヒントンは 75 歳の英国人駐在員で、世界中を飛び回っています。 1972 年に、今日 AI の基礎となっているニューラル ネットワークの研究を開始しました。当時の彼は 大学院生 エディンバラ大学で。数学とコンピューターサイエンスが彼の人生そのものでした。しかし、それらは十分に進化した社会的良心と共存しており、それが彼に1980年のポストを放棄させた。 カーネギーメロン むしろ、以下を含む可能性のある目標を掲げて国防総省の資金提供を受け入れるべきである。 「ロボット兵士」

4年後 2013年に彼はトロント大学に快適に再定住し、そこでデータを何度も分析することで画像識別を学習できるコンピューター ニューラル ネットワークを作成することに成功しました。これが Google の目に留まり、ヒントン氏は一夜にして 4,400 万ドルの富を手に入れました。ヒントンも獲得した チューリング賞、 2018 年に「ノーベルコンピューティング賞」を受賞。 2023 年 5 月 1 日 彼はさまざまな安全上の懸念を理由に無礼に辞めた。

彼は黙って行かなかった。当時、 ヒントンがリードを奪った「私たちは、最も強力な AI モデルが、生物兵器へのアクセスの拡大や重要インフラへのサイバー攻撃など、近い将来深刻なリスクを引き起こす可能性があると信じています。」という科学者らの公式声明に署名しています。これはカリフォルニア州ニューサム知事に署名を促す取り組みの一環だった。 SB1047 この法律は、業界が自主的に推進することをすでに約束していた規制を成文化するためにカリフォルニア州議会が可決したものである。彼らは失敗しましたが、それについては後ほど詳しく説明します。

Googleを辞任する際、ヒントン氏は言葉を交わさなかった。とのインタビューで、 BBC、彼は生成 AI について「非常に恐ろしい…これはまさに最悪のシナリオ、悪夢のようなシナリオです。」と説明しました。

ヒントンは、複雑な数学とコンピューターの概念を簡単な言葉で説明する才能を持っています。

彼が言ったように、 2023 年の BBC「私たちが開発している種類の知能は、私たちが持っている知能とは大きく異なるという結論に達しました。私たちは生物システムであり、これらはデジタル システムです。そして、大きな違いは、デジタル システムでは、同じ分銅セット、同じモデルのコピーが多数存在することです。そして、これらすべてのコピーは個別に学習できますが、知識は即座に共有されます。つまり、10,000 人の人がいて、1 人が何かを学ぶと、自動的に全員がそれを理解するようなものです。そしてそれが、これらのチャットボットが一人の人間よりもはるかに多くのことを知ることができる理由です。」

ヒントンの成績表 2023 年には人間が機械よりも優位に立っていましたが、それほど差はありませんでした。 「現在、私たちが目にしているのは、GPT-4 が人間の持つ一般知識の量をはるかに超えているということです。推論に関しては、それほど優れているわけではありませんが、簡単な推論はすでに実行されています。そして、進歩の速度を考えると、状況はかなり早く改善されると予想されます。したがって、私たちはそれについて心配する必要があります。」

今週、ギャビン・ニューサム知事はベンチャーキャピタリストや業界の有力者を支持し、ヒントン氏らに反対し、AI安全法SB 1047への署名を拒否した。 公式声明 「これが国民を守る最善のアプローチだとは思えない」と述べた。多くの人は、彼の主な懸念は情報技術企業のサポートと存在感を失うことであったと信じています（世界最大の AI 企業 50 社のうち 32 社 カリフォルニアに拠点を置く）規制環境が厳しくなった場合には、別の州に移管されます。

それでも、ニューサム氏は他の全員とともに、生成 AI の推論能力が日々向上し、潜在的に知覚力を備えるようになり、時計が刻一刻と進んでいることを知っています。ガードレールは当然のことであり、最終的にはおそらく次のようになります。 欧州連合の AI 法 義務付けられた透明性プラットフォームを備えています。

透明性とガードレールを重視することで、この用語が一般化しました。 「シリコンカーテン」 そして、2011 年の古典小説の著者であるユヴァル・ノア・ハラリのような人間のコミュニケーションの世界の専門家の注目を集めました。 『サピエンス全史』 2500万部売れた。彼の最新の本の中で、 ネクサス、 ハラリは、バイデン/ハリスの民主主義と、トランプ大統領が選択する目的地と思われる独裁政権との本当の違いは「情報の扱い方」であるという事実をうまく主張している。

ハラリ氏によれば、 一方、ガバナンスの形態の 1 つは「透明な情報ネットワーク」と自己修正的な「会話と相互関係」を支持します。もう1つは、「データの管理」に焦点を当てながらその「真実の価値」を損ない、「盲目的で権利を剥奪された服従」を示す被験者を好みます。

そしてAIは？ハラリ氏によれば、民主主義社会はAIのダークサイドをコントロールする能力を維持しているが、テクノロジー企業やエリート金融家が自らをコントロールすることを許すことはできないという。ハラリ氏は、「シリコンカーテン」が急速に下り、人間が作成し、無意識のうちに解放したアルゴリズムによって追い越され、締め出される近未来を目の当たりにしている。

マイク・マギー医師は医学史家であり、THCB に定期的に寄稿しています。彼はの著者です コード・ブルー：アメリカの医療産業複合体内。 (グローブ/2020)