人工知能の革命は、仕事、教育、娯楽など、いくつかの分野で日常生活を楽にする多くのサービスとツールを提供してきました。また、短時間で飛躍的に境界線でテクノロジー産業の発展を促進しました。しかし、エリック・シュミットのように、AIが間違った手に入った場合、最悪のシナリオを恐れている人もいます。
この業界の侵略は、Nvidiaやその他の主要な言葉をクラッシュさせることで、ウォール街に深刻な影響を引き起こしただけではありません。数週間、より多くの専門家と米国の役人が、プラットフォームのリスクの可能性について警告されました。彼らは主に、ユーザーデータのプライバシーと国家安全保障の脅威について言及しました。ただし、元Google CEOの懸念はさらに進んでいます。
エリック・シュミットは、悪い俳優が使用するAIに対する彼の最大の恐怖を明らかにします
エリック・シュミットは、多くの人がしばしば忘れるトピックについての彼の見解を共有しました。または私が持っている本当の恐怖は、ほとんどの人がAIについて話すものではありません – 私は極端なリスクについて話しています」彼はBBCに語った。 AIの使用について懸念を表明したほとんどの人は、中国のプラットフォームを使用するリスクに対応しています。しかし、シュミットはテロ攻撃に寄与する人工知能の極端なケースを考慮しています。
彼は国が好きだと言った北朝鮮またはイラン、さらにはロシア「テクノロジーの利点は、最悪の方法で使用できます。シュミットは機会に言及しています」邪悪な人からの悪い生物学的攻撃。「彼は、人工知能の支援を受けた潜在的な生物兵器の発達を指します。または私はいつも私たちの現代生活のある側面を引き継ぎ、罪のない人々に害を及ぼすためにそれを使っている真の邪悪な人がいる「オサマ・ビン・ラディン」のシナリオについていつも心配しています」彼は付け加えた。
AIプラットフォームは、有害なプロンプトをブロックすることにより、依然として効果がありません
主要なAIプラットフォームは、潜在的に危険な結果をブロックするなど、有害なプロンプトに対して「障害」を設定しています。しかし、最近の人類検査とシスコのテストでは、現在のシールドが非常に効果がないことが示されています。この点で最悪のAIプラットフォームはDeepSeekであり、その成功への攻撃（ASR）は100％を獲得しました。つまり、シュミットの懸念に関連する励ましをブロックすることさえできませんでした：生物兵器。さらに心配なのは、GPT 1.5 ProやLLAM 3.1 405BなどのモデルもASR（それぞれ86％と96％）を得たことです。
Googleの元CEOは、AI企業のルールをサポートしていると述べました。しかし、彼はまた、過度の規制がセグメントの革新に影響を与える可能性があると警告しました。それで、彼はあなたが開発とセキュリティのバランスを見つけることを奨励しています。彼はまた、他の国へのAIハードウェアエクスポートの管理を支援しました。ジョー・バイデン前大統領は、AIでの競合他社の進歩を遅くしようとするために就任する前にイベントに参加しました。ただし、ドナルドトランプがこの命令を変更して、外国のAI企業が他のサプライヤーを探しているのを防ぐことができる可能性があります。
一方、Googleは最近、AIのビジョンを変更しました。同社は、武器と監督の開発のためのAIテクノロジーを提供するために扉を開くポリシーを更新しました。
1739746513
#AIはテロ攻撃を使用する可能性があるとGoogleの元CEOに警告する
2025-02-16 18:10:00