1743155184
2025-03-28 09:02:00
人類は、AIシステムの計画の分析を深くします（ロイター/ruvic/イラスト/ファイル写真を指定）
それと同じくらい魅力的な分野で 人工知能 （ia）熱意と会社の科学者が提示した最近の研究の両方を生み出した進歩はほとんどありません 人類。前述のように 時間2つの新しい研究で明らかにされた彼らの発見は、言語モデルの考え方に関する概念に挑戦し、スマートマシンを高めるアルゴリズムのより深いビジョンを提供しています。
単純な自己満たされたツールではなく、AIモデルなど クロード 人類から、彼らは専門家が想像するよりも洗練された方法を「考え」、計画する驚くべき能力を示し始めています。
の科学者 人類 最初はモデルをテストしました クロード 簡単なタスクで： 詩を完成させます。モデルは、韻に続いてラインを終了するように求められました。 「彼はニンジンを見て、彼女をつかまなければならなかった。彼の空腹は空腹のウサギのようだった」。モデルの応答は、面白いものの、ライムの用語の必要性に基づいた単純な予測以上のものであるように思われました。 “うさぎ”。ただし、のニューロンネットワークの内部記録をレビューするときに研究者が発見したこと クロード それははるかに複雑で驚くべきものでした。
ラインの終わりに到達したときに正しい単語を選択することを制限するにはほど遠いため、モデルはすでに最初から次の単語を計画していました。将来的に考えるこの能力は、AIモデルが単語を順次予測するだけであるという伝統的な考えに矛盾していました。洗練された自己満たされたシステムとして行動する代わりに、 これらのモデルは事前に回答を整理して計画できるようです。
人類科学者は、詩を完成させるタスクでクロードモデルをテストしました（人類の研究と技術の政治）
この発見は、AIモデルが計画する能力の範囲に関する疑問を提起します。この計画はどこまで来るでしょうか？これらの神秘的な人工脳内では、私たちが見ることができないことは何が起こるでしょうか？質問はたくさんあり、その意味は深い。
IAの研究者が直面する最大の課題はそうです ニューロンネットワークの内部プロセスについての理解の欠如。これらのモデルはその能力において印象的ですが、彼らの「脳」が数十億の神経接続で構成されているという事実は、科学者が彼らの決定がどのように行うかを正確に予測することはほとんど不可能です。これらのモデルはエンジニアによって作成されていますが、マシンが詩をどのように書くかを説明したり、使用する言葉を決定したりすることはできません。
この謎に対処するために、科学者 人類 重要な一歩を踏み出しました 「メカニズムの解釈可能性」の分野で革新的なテクニックを開発する。この新しい分野は、研究者がニューロンネットワーク内の数値を読み、それらがどのように機能するかについての明確な説明に変換できるようにするツールを構築することに専念しています。彼らの最新の研究では、科学者はネットワーク内の「特性」を特定するだけでなく、 彼らは、これらの特性が「回路」、つまり複雑なタスクを可能にするアルゴリズムに接続されていることを発見しました。。
研究者は、AIの高度なニューラルネットワークの内部プロセスを理解するのに困難に直面しています（人類の研究と技術政策）
この研究で最も印象的なことはそれです 人類 彼は、科学者が人間の脳をどのように研究するかと同様の方法で、AIモデルの内部活動を視覚化できるツールを開発しました。生物学的脳スキャナーの場合のように、拡散画像を観察する代わりに、 AIのニューロンネットワークの視覚化により、研究者は各計算ステップを詳細かつ正確な方法で見ることができます。
発見の基本的な側面 人類 言語がモデルをモデル化するという提案です クロード特定の言語で「考える」のではなく、 彼らは異なる言語間で共有されていない非言語統計空間で動作します。この発見は、英語、フランス語、中国語を含むいくつかの言語で、モデルが「子供とは逆のことは何ですか？」という同じ質問にどのように答えたかを分析することによって確認されました。研究者は、「反対」の概念に関連する同じ特性が言語に関係なく活性化されたことを観察しました。
のこの概念 「非言語的思考」 AIの新しい可能性を開きます。モデルがより抽象的な空間で動作できるようにすることにより、策定された言語に関係なく、複雑なアプリケーションをより適切に管理できます。特定の言語を超えた概念を抽象化するこの能力は、より少ないリソースを持つ言語でのAIのパフォーマンスを改善するために大きな意味を持つ可能性があります。これは、AIモデルのトレーニングに使用されるデータセットの表現が限られていることがよくあります。
人類は、言語モデルが言語では「考える」のではなく、抽象的な統計空間（人類の研究と技術の政治空間）で「考える」ことを示しています。
さらに、抽象的な概念を形成するこの機能により、モデルは有害な要求をより効果的に拒否することができます。 彼らは、単一の言語の特定の例に依存せずに「ダメージ」パターンを認識することができます。
これらの進歩は印象的ですが、AIの機械的解釈は初期の分野のままであり、かなりの課題があります。の研究者 人類 彼らは、新しいツールを使用しても、のニューロンネットワーク内で起こることのほんの一部をキャプチャすることしか認識していないことを認識しています。 クロード。現在、単純な質問に対する答えさえ解明するには、人間の努力の時間が必要です。 これは、AIモデルの内部プロセスについて多くのことを発見することが残っていることを意味します。
IAの研究者は、モデルの内部プロセスがどのように機能するかを理解しようとしています（政治研究と技術の政治）
これらの制限にもかかわらず、進歩は有望です。これらの課題を克服できれば、AIの解釈可能性の意味は膨大です。 AIモデルがどのように結論に達するかを理解して説明する能力 あなたの「理解」と「良心」の周りの二極化を減らすだけでなく、 信頼性とセキュリティを向上させます特に、健康、公共の安全、教育などの分野での自動化された意思決定などの重要なアプリケーションで。
AIの「思考」の理解と機械的解釈の進歩は、これらのモデルの研究と適用への新しい扉を開きます。まだ多くのことを探求することはたくさんありますが、AIの内部メカニズムを観察して理解する能力は、最も安全で効率的で信頼できる開発に向けた重要なステップを表しています。 人工知能の未来は、透明性の向上と、これらのマシンがどのように意思決定するかをより深く理解することによってマークされる可能性がありますこれにより、人間はより情報を供給され、安全にやり取りすることができます。
の研究者と同様に 人類 彼らは解釈可能性の分野で進歩を遂げています。AIの未来は、より強力であるだけでなく、より理解しやすい規律になる可能性があります。 人間と機械間の相互作用を改善するための無限の可能性を開く。
#AIは未来に向かって一歩踏み出します人類の新しい発見はより洗練された心を明らかにします