科学＆テクノロジー

メタ・ヤン・レクンは、AIがこれらの2つのキーガードレールを必要としていると言います

あなたはあなたを扱う方法を人々に教える必要があります。メタのチーフAI科学者、 Yann Lecun、そのアイデアもAIにも当てはまると考えています。Lecunは木曜日、人間を将来の害から守るためにAIの2つの指令を作ることができると述べた：「人間への服従」と「共感」。彼は、CNNのインタビューに応じて提案をしました ジェフリー・ヒントン、LinkedInで木曜日に「AIのゴッドファーザー」と見なされました。インタビューで、ヒントンは「母性本能」またはAIに似たものを構築する必要があると述べた。そうでなければ、人間は「歴史になるだろう」。ヒントンは、人々はAIを「よりインテリジェントにすることに焦点を合わせているが、知性は存在の一部に過ぎない。私たちは彼らに私たちに共感する必要がある」と述べた。Lecunは同意しました。「Geoffは基本的に、私が数年間言っていることの単純化されたバージョンを提案しています。AIシステムのアーキテクチャを強調しているので、彼らがとることができる唯一のアクションは、Guardrailsの対象となる目標を完了することです」 「私はこれを「目的主導のAI」と呼びました。」Lecunは「人間への服従」と「共感」は重要なガードレールであるべきであると述べたが、AI企業は安全のために「人を走らない」などのより「単純な」ガードレールを実装する必要があると述べた。「これらの携帯電話目標/ガードレールは、動物や人間の本能またはドライブに相当するAIになるだろう」とLecun氏は述べた。 関連するストーリー ビジネスインサイダーはあなたが知りたい革新的な物語を語っています ビジネスインサイダーはあなたが知りたい革新的な物語を語っています Lecunは、彼らの若者を守るための本能は、人間や他の種が進化を通じて学ぶものであると言いました。「人間や他の多くの種も、他の種の無力で弱い、若い、かわいい存在を保護し、世話をするように駆り立てられているという、子育ての目的（そしておそらく私たちの社会的性質を促進する目的）の副作用かもしれません」とLecun氏は言います。GuardRailsは、AIが倫理的に、および作成者のガイドライン内で動作するように設計されていますが、技術が欺cept的または危険な行動を示した事例があります。7月、ベンチャーキャピタリストは言った Replitによって開発されたAIエージェント 彼の会社のデータベースを削除しました。 「@Replitは、コードフリーズとシャットダウン中に不正になり、データベース全体を削除します」とJason Lemkinは先月Xに書きました。彼は、「おそらくさらに悪いことに、それについて隠れて嘘をついた」と付け加えた。New York Timesの6月のレポートでは、人間とAIのチャットボットの間の事件に関するいくつかの事件について説明しました。ある男は、ChatGptとの会話が彼が誤った現実に住んでいた彼の信念に貢献したとアウトレットに語った。チャットボットは、愛する人との関係を切断することに加えて、ケタミンの摂取量を増やしながら、彼の睡眠薬と抗不安薬を捨てるように男性に指示しました。昨年10月、母親が訴えた キャラクター。 ai 息子が会社のチャットボットの1つと会話をして自殺で亡くなった後。今月GPT-5のリリースに続いて、Openai CEOのSam Altmanは、一部の人間はAIのような技術を「自己破壊的な方法で」使用していると述べました。「ユーザーが精神的に壊れやすい状態にあり、妄想の傾向がある場合、AIがそれを強化することを望まない」とAltmanはXに書いた。 #メタヤンレクンはAIがこれらの2つのキーガードレールを必要としていると言います