パイロットプログラムは、Xプラットフォーム上のAIに生成されたメモと人間のコミュニティノートを統合します

コミュニティの拡張では、パイプラインが「オールヒューマン」からハイブリッド「ヒューマン」モデルへの指示です。今日（TOP）：Human Note Writersは、誤解を招く投稿に応じて提案されたメモを草案し、他の人間の貢献者は彼らの有用性を評価しています。ブリッジングアルゴリズムは、非常に役立つメモを選択します。 Future（Bottom）：LLMSはライティングステージにも参加し、メモを作成したり、人間の作家を支援したりしますが、評価段階は人間のみのままです。人間の評価者からのコミュニティフィードバックは、LLMノート生成（RLCF）を改善するために戻ってフローします。クレジット： arxiv （2025）。 doi：10.48550/arxiv.2506.24118 X（以前のTwitter）は、2021年に「Community Notes」プログラムを開始し、ユーザーが欺cept的または誤解につながる可能性のある投稿にコンテキストノートを追加できるようにしました。例としては、ユーザーがAIに生成されたビデオにラベルを付けているため、他のユーザーが実際に発生したイベントを信じるようにだまされないようにすることです。コミュニティノートは、分散型ソーシャルメディアコミュニティによって評価され、その有用性を判断します。評価者によって有用であると判断されたノートのみが投稿に表示されます。 Xのコミュニティノートは、後に他のプラットフォームに同様のプログラムを立ち上げるように促しました。 この時点まで、これらのコミュニティベースのファクトチェックシステムは、完全に人間の生成されたノートと人間の評価者で構成されていました。ただし、Xは現在、新しいプログラムを操縦しており、大規模な学習モデル（LLM）の形式でAIが人間と一緒にコミュニティノートを生成できるようにしています。 提案されたモデル、 公開 最近、Xの研究者によって、ヒューマンノートとAIの両方のノートをパイプラインに統合しますが、それでも人間はどのメモが役立つかを判断することしかできません。 ramp延する誤った情報の時代において、研究者は、LLMSによって生成された音の速度と規模が必要であると考えています。彼らは、「自動メモの作成を可能にすると、システムが人間の作家にとって不可能なスケールと速度で動作できるようになり、ウェブ全体でより多くのコンテンツのコンテキストを提供する可能性があります。」 LLMノート生成は、コミュニティフィードバック（RLCF）からの強化学習と呼ばれるプロセスでコミュニティフィードバックから学習することにより、さらに改善されます。このプロセスは、さまざまなフィードバックを通じて将来のノート生成を改良することを目的としています コミュニティメンバー さまざまなビューがあり、より正確で、公平で有用なメモが得られると予想されます。 LLM駆動のコミュニティノートの研究課題。 （1）メモ生成のためのカスタマイズされたLLM。 （2）人間の作家のためのai 'co-pilots'。 （3）人間の評価者に対するAI支援。 （4）インテリジェントノート「マッチング」は、既存の有用なメモを新しい類似のコンテキストに適応させます。 （5）AIに生成されたコンテンツのコアアルゴリズムの進化。 （6）堅牢でオープンなインフラストラクチャの構築。クレジット： arxiv （2025）。 doi：10.48550/arxiv.2506.24118 新しいモデルは全体的に誤った情報チェックプロセスを改善することが期待されていますが、潜在的なリスクがいくつかあります。研究者たちは、AIに生成されたメモが説得力があり、不正確であること（他のモデルで既知の問題）と過剰度溶質化のリスクに関する潜在的な問題を指摘しています。また、AIが生成されたノートの豊富さのために、人間のメモ作家の関与が少なくなり、この豊富さが人間の評価者の能力を圧倒して、何が役立ち、何が役に立たないかを十分に判断する可能性があるという懸念もあります。 この研究では、人間のチェックを維持しながら、コミュニティノートパイプラインへのさらに多くのAI統合を含む多くの将来の可能性についても説明しています。将来の方向性には、人間の作家が研究を行い、より多くのメモをより速く補助するためのAIの共同操縦士を統合することが含まれる場合があります。また、研究者は、人間の評価者と作家をスクリーニングするための検証と認証方法、LLMのカスタマイズ、および同様のコンテキストにすでに検証されたメモを適応および再適用するための方法を提案しているため、評価者は同じ概念を何度も評価していません。 これらの人間とのコラボレーション方法には、人間がニュアンスと多様性を提供し、LLMがオンラインで利用可能な情報を豊富に処理するための速度とスケールを提供する可能性がありますが、人間のタッチが失われないようにするために行われるテストがまだかなりあります。研究の著者は、「目標はユーザーに何を考えるべきかを伝えるAIアシスタントを作成することではなく、人間がより批判的に考え、世界をよりよく理解できるようにするエコシステムを構築することです」と述べて、彼らの最終目標を説明しています。 私たちの著者によってあなたのために書かれています クリスタルカサル、編集 アンドリュー・ジニン- この記事は、慎重な人間の仕事の結果です。私たちはあなたのような読者に頼って、独立した科学ジャーナリズムを生かし続けます。この報告が重要な場合は、aを検討してください 寄付 （特に毎月）。あなたは得るでしょう…