エンタメ

[Guide Labs, ‘해석 가능한’ LLM Steerling-8B 공개] 単純な事実引用元の確認からユーモアのセンスや性別の概念のような複雑な内部表現まで、開発者が望むように探索可能。

Guide Labsが「解釈可能」LLM Steerling-8Bを公開 ブラックボックスAIを超えて、内部追跡可能な知能時代到来 ディープラーニングモデルの「なぜ？」という質問がAI開発の高質な課題だった。 xAIのGrok政治偏向の修正高軍奮闘やChatGPTの幻覚現象のように、数十億パラメータを持つニューラルネットワークの内部を探索することは不透明だった。サンフランシスコのスタートアップGuide Labsがこのジレンマを解決する新しい道を提示し注目されている。 Steerling-8B：すべてのトークンの起源を追跡する Guide Labsは80億パラメータ規模のオープンソースLLM Steerling-8Bを公開した。このモデルの核心は「解釈可能性（Interpretability）」を設計原則としたアーキテクチャだ。 モデルが生成するすべてのトークンは、学習データの正確な起源を追跡できるように設計されています。単純な事実引用元の確認からユーモアのセンスや性別の概念などの複雑な内部表現まで、開発者が望むように探索可能である。 CEOジュリアス・アデバヨは「1兆以上の性別エンコーディングパターンのうち10億が選択的に制御できなければならない」とし、既存モデルの脆弱性を指摘した。 MIT研究からの革新的なアプローチ アデバヨと最高科学責任者のアヤ・アブデルサラム・イスマイルは、MIT時代からこの概念を研究してきた。 2018年の論文で既存の解析方法の信頼性不足を証明した彼らは、モデルを最初から「概念階層」に構造化する方式を採択した。 この過程は初期データにもっと注釈が必要だが、他のAIを活用して効率的に大規模な訓練を実現した。その結果、Steerling-8Bは従来モデルの90％性能を達成しながら学習データ消費を減らした。 アデバヨは「神経科学なしでモデルを透明に設計する工学的解決策」と強調した。 産業別の適用と将来の見通し この技術は、消費者AIから規制産業まで幅広い波及力を持つ。著作権遮断、暴力コンテンツ統制、金融ローン評価における人種偏向の除去などに有用である。科学分野では、タンパク質折りたたみモデルのように「なぜこの決定を下したのか」を説明するために不可欠です。 Guide LabsはY Combinator出身で、2024年11月にInitialized Capitalから900万ドルのシード投資を誘致した。次の目標は、より大きなフロンティアクラスのモデル開発とAPI /エージェントサービスを提供することです。 アデバヨは「原始的な訓練方式を超えて解釈可能性を民主化すれば、知能モデルが神秘的な決定者ではなく信頼できるパートナーになるだろう」と明らかにした。 (パク・セフン記者+TC+AI) #Guide #Labs #해석 #가능한 #LLM #Steerling8B #공개 #単純な事実引用元の確認からユーモアのセンスや性別の概念のような複雑な内部表現まで開発者が望むように探索可能