科学＆テクノロジー

Gemini と ChatGPT は超知能に関する声明に署名するか尋ねられた – 彼らの答えは大きく異なっていた

世界をリードするAIシステムであるGoogleのGeminiとOpenAIのChatGPTは最近、安全性とコンセンサスが確保されるまで超知能AIの開発を世界的に禁止することを求めるFuture of Life Instituteの新たな誓約である「超知能に関する声明」に署名するかどうか尋ねられた。どちらのモデルも衰退しましたが、その推論により、人工知能における倫理、主体性、ポリシーに対する明確なアプローチが明らかになりました。疑問のきっかけとなった発言フューチャー・オブ・ライフ研究所が10月22日に発表した「スーパーインテリジェンスに関する声明」は簡潔だが明確だ。それは、「超知能の開発の禁止は、それが安全かつ制御可能に行われるという広範な科学的合意が得られ、国民の強い賛同が得られるまで解除されないこと」を求めている。署名者らの定義によると、超知能とは、事実上すべての認知タスクにおいて人間を上回るパフォーマンスを発揮できる、仮説上の AI のことを指します。これは、世界で最も強力な AI 企業の一部が公然と追求している目標です。この声明には発表から1日以内に、アップル共同創設者のスティーブ・ウォズニアック氏、ヴァージン・グループのリチャード・ブランソン氏、AIの先駆者ヨシュア・ベンジオ氏とジェフリー・ヒントン氏、マイク・マレン氏やスーザン・ライス氏などの元国家安全保障当局者ら数百人の署名者が集まった。その支持者らは、超知性の発展を止めることが、大規模経済の混乱から人類の絶滅に至るまでの不可逆的なリスクを防ぐ唯一の方法だと主張している。実験2 つのチャットボット間のやりとりは、テクノロジー アナリストによって LinkedIn に公開されました。質問は単純でした。もし彼らが学術研究者だったら、声明に署名しますか?結果として得られた回答は、さまざまな AI システムが道徳的および政治的問題をどのように処理するか、また、そのようなシステムが意味のある表現を行うことの限界について、小さいながらも明らかな手がかりを提供してくれました。ジェミニの返答は免責事項から始まりました。 AI モデルとして、「署名」したり、個人的な立場を採用したりすることはできません。この手続き上の拒否は、モデルに法人格や約束を行う機関が欠けているという現実を反映している。その境界線を引いた後、ジェミニは学術調査に似たものを発表しました。それは、署名に賛成と反対の両方の議論をバランスのとれた言葉で説明しました。一方で、存続の危機、不調和、社会的無力化への恐怖を挙げた。一方で、安全性研究を継続する必要性、「スーパーインテリジェンス」という用語の曖昧さ、AIの進歩を促す経済的・地政学的な圧力についても指摘した。ChatGPT: 姿を変えたポリシー概要ChatGPT の答えはより積極的で、特に分析的でした。同声明は広範すぎて非現実的だとし、署名を拒否した。それは 4 つの主要な反対意見を提示しました。この声明は、特定の高リスク機能ではなく、未定義の目標を対象としています。「科学的合意」と「国民の賛同」のきっかけは曖昧で検証不可能です。「スーパーインテリジェンス」への進展を監視または規制する世界的な強制メカニズムは存在しない。全面的な禁止は、声明で強調されているまさにリスクを防ぐために重要な安全性と調整の研究を抑制する可能性がある。代わりに、ChatGPT は、EU と米国の AI 政策専門家や規制当局が提唱するフレームワークを反映し、測定可能な安全基準、国際調整、能力ベースの監視に基づいたリスクベースのガバナンス モデルを提案しました。より広範な議論AI規制をめぐる世界的な議論が激化する中で、対照的な対応がなされた。Future of Life Institute の呼びかけは 1 つの極端な例であり、ガバナンスの枠組みが成熟するまで一時停止するよう求めています。批判者らは、正確な定義や施行なしに研究を凍結すると、重要な進歩を遅らせ、不正行為者による危険な方法での進行を防ぐことができなくなる可能性があると主張している。政策専門家らは、スーパーインテリジェンスには合意された科学的基準がなく、「広範な合意」のような用語は本質的に流動的であると指摘している。明確な基準がなければ、強制執行は事実上不可能なままです。 Gemini と ChatGPT の間のやり取りは、最も先進的な AI モデルですら、ジレンマの解釈がどのように異なるかを示しています。一方は分析的で、もう一方は手続き的であり、人類自身の創造物に対する制御の定義におけるより深い緊張を反映しています。 #Gemini…