AIの警告により、ノーベル賞受賞者も自身の研究のリスクについて警告した受賞者の仲間入り

コンピューター科学者のジェフリー・ヒントン氏が火曜日に機械学習の研究でノーベル物理学賞を受賞したとき、彼はすぐさま、自分の研究が推進に役立っているテクノロジー、つまり人工知能の力について警告を発した。「それは産業革命に匹敵するだろう」と発表直後に同氏は語った。 「しかし、体力で人を超えるのではなく、知力で人を超えることになるでしょう。私たちは、自分たちよりも賢いものを手に入れることがどのようなものかを経験したことがありません。」ヒントン氏はAIの潜在的な危険性を警告するためにGoogleを辞めたことで有名で、この技術のゴッドファーザーと呼ばれている。現在はトロント大学に所属しており、「人工ニューラルネットワークによる機械学習を可能にする基礎的な発見と発明」に対して、プリンストン大学のジョン・ホップフィールド教授と賞を分け合った。そしてヒントン氏は、AIが社会の一部をより良い方向に変革し、例えば医療などの分野で「生産性の大幅な向上」につながる可能性があることを認めている一方で、「考えられる多くの悪い結果、特に脅威」の可能性も強調した。これらのことが制御不能になっているのです。」「この全体的な結果として、最終的には私たちよりもインテリジェントなシステムが制御を握るようになるのではないかと心配しています」と彼は言う。ヒントンは、自身が開拓に貢献した技術のリスクについて警告した最初のノーベル賞受賞者ではない。ここでは、自分の作品について同様の警告を発した他の人たちを見てみましょう。アイリーン・ジョリオ=キュリーとフレデリック・ジョリオは1935年にノーベル化学賞を共同受賞した。 - Hulton Archive/Archive Photos/Getty Images1935: 核兵器1935年のノーベル化学賞は、最初の人工的に作られた放射性原子の発見により、フレデリック・ジョリオとアイリーン・ジョリオ＝キュリー（受賞者マリー・キュリーとピエール・キュリーの娘）夫妻のチームによって共同受賞された。それは、がん治療を含む医学の重要な進歩に貢献するだけでなく、原爆の製造にも貢献する研究でした。同年のノーベル賞受賞講演で、ジョリオットは、将来の科学者は「爆発性の核変換、真の化学連鎖反応を引き起こすことができるだろう」という警告で締めくくった。「もしそのような核変換が物質内で拡散することに成功すれば、利用可能なエネルギーが膨大に解放されることが想像できるだろう」と彼は言う。 「しかし、残念なことに、感染が地球上のすべての要素に広がった場合、そのような大変動が解き放たれた結果は、不安の念を持って見ることしかできません。」それにもかかわらず、ジョリオット氏は、それは「 [future] 捜査当局は間違いなく、必要な予防策を講じながら解明を試みるだろう。」1928年にペニシリンを発見したアレクサンダー・フレミング卿は、1945年に医学分野でノーベル賞を受賞した。 - -/Getty Images[1945:抗生物質耐性アレクサンダー・フレミング卿は、ペニシリンの発見と細菌感染症の治療におけるその応用により、エルンスト・チェインおよびエドワード・フローリー卿とともに1945年のノーベル医学賞を受賞しました。フレミングは 1928 年に最初の発見を行い、1945 年にノーベル賞講演を行うまでに、すでに世界に対して重要な警告を発していました。それらは彼らを殺すのに十分であり、同様のことが時々体内で起こった」と彼は言った。「ペニシリンが店で誰でも買える時代が来るかもしれない」と彼は続けた。 「そして、無知な人間が簡単に過量摂取し、微生物を非致死量の薬物にさらすことで耐性を作ってしまう危険性がある。」フィラデルフィア小児病院の感染症内科医であり、抗菌管理プログラムのメディカルディレクターであるジェフリー・ガーバー博士は、これは「何年も前から非常に重要で先見の明のある考えだった」と述べた。フレミングの最初の発見からほぼ1世紀後、世界保健機関によると、抗菌薬耐性（細菌などの病原体の治療薬に対する耐性）は世界の公衆衛生に対する最大の脅威の1つとみなされており、2019年には127万人が死亡した。一人で。フレミングの警告の重要な部分は、低用量の考え方ではなく、抗生物質の過剰な広範な使用だったのかもしれない。「まったく不必要に抗生物質が投与されることが増えています」とガーバー氏はCNNに電子メールで語った。そして、「私たちが保有するほぼすべての（場合によってはすべての）抗生物質に耐性を持つ虫を見かけることが増えています。」ポール・バーグは1980年12月にストックホルムでノーベル化学賞を受賞した。 - トッベ・グスタフソン/Reportagebild/Pool/AP1980: 組換え DNAバイオテクノロジー産業の活性化に貢献した技術である組換え DNA の開発で 1980 年にノーベル化学賞を受賞したポール・バーグ氏は、彼の研究の潜在的なリスクについて、他の受賞者ほど厳しい警告を発しませんでした。しかし同氏は、生物兵器戦争、遺伝子組み換え食品、病気の原因となる欠陥のある遺伝子を正常に機能する遺伝子に置き換える医療形態である遺伝子治療など、遺伝子工学が引き起こす可能性についての懸念を認めた。1980年のノーベル賞講演でバーグ氏は特に遺伝子治療に焦点を当て、このアプローチには「多くの落とし穴と未知の点があり、その中には、リスクについては言うまでもなく、特定の遺伝病に対する実現可能性と望ましさに関する疑問がある」と述べた。「私には、この方針に沿って研究を進めようとするなら、ヒトの遺伝子がどのように構成され、どのように機能し、制御されているかについて、より詳細な知識が必要になるように思えます。」と彼は続けた。数十年後のインタビューで、バーグ氏は、1975年にアシロマーとして知られる会議で、同技術の潜在的な危険性を認識し、ガードレールに取り組むために、すでに公の場で同分野の科学者たちと結集していたと述べた。ノーベル賞のウェブサイトに掲載された記録によると、「組換えDNAや遺伝子工学についての懸念は科学者たちから出たもので、それは非常に重大な事実だった」と2001年に同氏がサイエンスライターのジョアンナ・ローズに語ったという。バーグ氏は、リスクとそれらを検証する必要性を公に認めることで、「私たちは、言ってみれば非常に多くの国民の賞賛と寛容を獲得したので、どうすればリスクを防ぐことができるかという問題に実際に取り組み始めることが許された」と述べた。私たちの仕事から何か危険なものが出てきますか？」2001年までに、「これまでに行われた経験と実験により、私たちが本当に可能だと信じていた当初の懸念は、実際には存在しなかったことが判明した」と同氏は述べた。現在、遺伝子治療は医学の成長分野であり、鎌状赤血球症、筋ジストロフィー、一部の遺伝性失明の治療法が承認されていますが、依然として投与が複雑で非常に高価なため広く使用されていません。この技術の初期の頃、1999 年にこの技術により臨床試験に参加した 17 歳のジェシー・ゲルシンガーさんが死亡し、研究がどのように行われたかについて倫理的な問題が生じ、この分野の研究が遅れました。そしてバーグ氏自身も懸念を表明したものの、1980年のノーベル賞講演を楽観主義と「前進する必要性」を呼びかけて締めくくった。「組換え DNA の画期的な進歩は、何世紀にもわたって人類の興味をそそられ、悩ませてきた問題に対する、新しくて強力なアプローチを私たちに提供してくれました。」と彼は言いました。 「私もその挑戦にはひるむつもりはありません。」ジェニファー・ダウドナは、遺伝子編集の新しい方法の研究で2020年にノーベル化学賞を受賞した。 - ノーベル賞支援活動/ブリタニー・ホセア＝スモール/配布資料/ロイター2020: 遺伝子編集4年前、ジェニファー・ダウドナとエマニュエル・シャルパンティエは、CRISPR-Cas9と呼ばれるゲノム編集法の開発でノーベル化学賞を共同受賞した。ダウドナ氏は講演の中で、公衆衛生、農業、生物医学にわたるテクノロジーの「並外れたエキサイティングな機会」について詳しく説明しました。しかし、彼女は、遺伝子変化がその個体に限定される体細胞と比較して、遺伝子変化が子孫に受け継がれるヒト生殖細胞に適用する場合には、研究をより慎重に進める必要があると述べた。「生殖細胞のゲノム編集を植物に利用したり、例えば人間の病気のより優れた動物モデルを作成するために利用したりすることを考えると、遺伝性により、生殖細胞のゲノム編集が非常に強力なツールになります」とダウドナ氏は述べた。 「生殖細胞系列編集を人間に利用する可能性によって引き起こされる膨大な倫理的および社会的問題を考えると、状況は大きく異なります。」革新的ゲノミクス研究所を設立したダウドナ氏は今週CNNに対し、「特にその研究が社会に広範な影響を与える場合、発見の悪用の可能性について科学者が適切に警告することは重要な責任であり、有益な公共サービスである」と信じていると語った。「CRISPRの科学に最も近い私たちは、これが私たちの健康と世界を前向きに変えることができる強力なツールである一方で、潜在的に極悪に使用される可能性があることを理解しています」と彼女は述べた。 「私たちは、その二重利用能力が原子力などの他の革新的なテクノロジーと併用できることを確認してきましたが、今回は AI…