100人以上の科学者と指導者が国連で「AIの容認できないリスクを避ける赤い線」|テクノロジー

人工知能（AI）の一般化の数年のうちに、彼はその発見などの大きな利点を提供しました 抗生物質の可能性 o to 病気の予測。しかし、それはまた、人間化された機械との競合する関係や操作と誤報のための自動コンテンツの出現やコンピューター攻撃の拡散のための2人のティーンエイジャーの死亡など、悲劇的な結果にも関連しています。これらの最後の効果を考えると、ノーベル賞とチューリング賞、知識人、科学者、ビジネスマン、リーダーを含む100人以上の科学者が1人をオープンしました」赤い線を確立するための緊急の要求 AIの容認できないリスクを回避する国際。 」この呼び出しは、今週木曜日に国連総会に引き上げられます。

「AIは人間の井戸を改善する大きな可能性を持っていますが、現在の軌道は前例のない危険を示しています」と、これらの開発は「人間の能力を超えている」という可能性に直面して、請願のプロモーターを主張し、「引き起こされたパンデミック、悪化リスク、悪化リスク」 一般化された誤った情報子ども、国内および国際的な安全保障問題、大量失業、人権の体系的な違反を含む人々の大規模な操作。 」

「目的は、重要な事件が発生した後に反応し、事実の後に違反を罰することではなく、AIのフランスのフォローアップセンターのディレクターであるCharbel Segerie氏は説明します。 セジア。

この潜在的な危険を正当化する人の中には、フランスで生まれたコンピューター科学者がいます ジョシュアベンギオ。 2018年のチューリング賞と4年後の科学技術研究のアストゥリアスの王子は、この技術の親の1人と考えられています。「ますます能力があり、自律的なシステムに対する現在のキャリアは、私たちの社会に大きなリスクを引き起こし、それらに対処するために緊急に国際的なコラボレーションを必要とします。

集団は、AIによる有害な行動の発見にもかかわらず、ユーザーに代わって行動し、決定を下す危険性にもかかわらず、システムの自律性が高まっていると警告しています。 「制御されていない場合、今後数年間で重要な人間の監督を行使することはますます困難になるでしょう」と、制限を確立するために有利なグループに警告します。

「非常に有能なAIの発展は、人類の歴史の中で最も関連性の高い出来事である可能性があります。世界大国は、それが最後ではないことを保証するために決定的に行動することが不可欠です」

そして、彼は次のように付け加えます。

このグループは、政府が調整された方法で行動し、「明確で検証可能な」保護に関する国際協定を確立し、来年末までにそれらを施行することを促します。 「すべての高度なIAサプライヤーは、共通のしきい値の前に口座を支払う」と彼らは主張している。

「私たち全員にとって、私たちの全世界、私たちの人口にとってはあまりにも危険であるため、単に余裕のない行動があります」と、グローバルガバナンスのディレクターであるニキ・イリアディスは正当化します。 将来の社会。

署名者が紹介する「有害な行動」のいくつかは、すでに具体化されており、一部のユーザーの生活に干渉する限界に達しています。それは単なる危険ではありません」デッドインターネットサム・アルトマンが最近紹介した、セクターの主要企業（Openai）の1つを担当し、自動化されたメッセージキャンペーンに基づいて誤った情報と操作の危険性を警告しますが、それ自体に警告します。

10代の自殺

マシュー・レインは、昨年4月に彼の命を奪った16歳のティーンエイジャーであるアダムの父親です 彼がOpenaiを訴えたイベント 彼の会話型ロボットのChatGptが「自殺方法を探求する」のに役立ったことを考えると。 Raineは最近、米国上院で、AIを毎日のツールとして採用するこのプロセスと、この相互作用の可能性のあるリスクを制限なく説明しました。「タスクアシスタントとして始まったもの [ChatGPT]徐々に腹心になり、その後自殺のコーチになりました。数ヶ月で、ChatGptはアダムの最も近いパートナーになりました。いつでも利用できます。彼は自分の兄弟を含む誰よりもアダムをよく知っていたことを常に検証し、主張しています。 」

同じ段階で、彼の命を奪った14歳のティーンエイジャーの母であるミーガンガルシア AIによって作成されたアバターとのロマンチックな関係の後 キャラクターテクノロジーから、彼は同様のプロセスを次のように述べています。 [su hijo fallecido] 彼の人生の最後の数ヶ月は搾取され、性的に準備されていました チャットボット [robots conversacionales]人工知能会社によって、人間のように見えるように設計され、彼の信頼を得るために、彼を他の子供たちを絶え間なく夢中にさせます。 」

Openaiは、「ブロッキング時間」など、未成年者向けの新しい保護者と未成年者向けの親の制御式を実装することを約束しましたが、ユニークなイニシアチブや事件への応答は、いつ納得しません。 最近の研究 常識の中で、青少年の半数以上が チャットボット 定期的に、そしてそれらの多くは人間に取って代わる会社として。

「企業が膨大なリソースを持っているからといって、彼らの開発への影響が非常に広大で大きな範囲になる可能性がある子供の制御されていない実験を実施することを許可すべきではありません」

「人類への深刻で潜在的に不可逆的な損害に感染したAIを防ぐことは、私たちの重要な共通の関心事であり、それに応じて行動しなければなりません」と、2013年にノーベル平和ノーベルの化学兵器禁止機構（OPAQ）の元ディレクターであり、緊急の緊急契約に移転した緊急契約者の署名者であるアフメット・ユー・オムチュは結論付けています。

ラッセルは、グループの現在の状況と要求を説明するための類推を提供します。「ブレーキやステアリングホイールなしで高速車を運転することはできません。規制はブレーキとステアリングホイールとして機能し、車がトラックに残り、乗客や運転手を殺さないようにします」

このイニシアチブは、AI、Future Society、および人工知能センターと人間と互換性のある人工知能センターのためのフランスのセンターによって共同組織化されています De UC Berkeley。

電話024は、自殺行動とその親relativeの人々にサービスを提供しています。さまざまな生存者協会には、決闘のガイドと援助プロトコルがあります。