ウィキペディアは記事内での AI の無制限の使用を禁止しています

まとめ

• ウィキペディアは、記事の作成と編集における AI ツール (LLM) の使用に厳しい制限を課しています。
• その主な理由は、正確性、検証可能性を確保し、「幻覚」を回避するためです。
• 編集者は現在、AI を通じて作成されたテキストに対して唯一かつ排他的な責任を負い、出典の精査が必要となります。
• 実質的に人間の介入を伴わない完全に自動化された記事の作成は明示的に禁止されています。
• この決定により、合成コンテンツの氾濫に対する最大のデジタル百科事典に対する新しい保護フレームワークが創設されました。

または ウィキペディア 次のような大規模言語モデル (LLM) の使用を厳しく制限する厳格な規制を直ちに導入します。 チャットGPT そして ジェミニ、記事の作成と編集において。新しいポリシーでは、人間による徹底したレビューと絶対的な検証可能性が求められており、編集者は AI システムの不正確さや「幻覚」に対して全責任を負います。

ウィキメディア財団とボランティア編集者のコミュニティは、ガイドラインを大幅に改訂しました。生産的な AI ツールの急速な進化により、プラットフォームに前例のない課題が生じています。 LLM は驚異的な速度でテキストを生成できますが、事実をでっち上げ、存在しない参考文献を作成し、歴史的または科学的データを改ざんする傾向があり、百科事典の中核である信頼性を直接脅かしています。

彼女によると 公式ドキュメント、AIの使用は全面的に禁止されているわけではありませんが、厳しい監視下に置かれています。 AI は研究、構造化、言語編集の補助ツールとして使用できますが、 生成されたテキストを批判的な評価なしに直接転送することは、基本的な運用ルールの違反とみなされます。。

「幻覚」と検証可能性の問題

この決定に至った最大の技術的ハードルは幻覚現象です。現代の言語モデルは、真実や客観性の概念を実際には理解せずに、次に考えられる単語を予測するようにトレーニングされています。

彼女のために ウィキペディア、すべての主張には信頼できる二次情報源が添付されている必要があるため、LLM は悲惨な結果になることがよくありました。ユーザーが記事を充実させようとして、言葉は完璧だが完全に虚偽の情報を含むテキストを埋め込んだ事例が記録されています。さらに悪いことに、 人工知能は、存在しない書籍や科学論文への「空想的な」引用を作成し、管理者の作業を非常に困難にしました。

新しいポリシーでは、検証可能性に対する責任が完全に追加を行うユーザーに移されることが明確になります。作者が AI によって生成されたコンテンツをアップロードし、それが不正確であることが判明した場合、プラットフォームからの永久追放に至る可能性のある即時罰則が科せられます。

自動ボットと大量生産

新しいポリシーの追加の章は、ボットの使用に関するものです。歴史的に、Wikipedia は自動スクリプト (Lsjbot など) を使用して、構造化データベースに基づいて動物種や地理的位置に関する何千ものスタブを生成してきました。

ただし、コンテンツの大量生産に LLM を使用することは明示的に禁止されています。違いは予測可能性です。従来のボットは、特定のハードデータを取得し、事前定義されたテンプレートに入れます。 LLM は確率的に機能します。つまり、LLM の動作と生成される出力を事前に完全に制御することはできません。コミュニティは、百科事典がテキスト生成アルゴリズムの実験場になることを許可しないことを明確にしています。

著作権と法的問題

ウィキメディア財団は、正確さに加えて、ウィキメディア財団が作成した作品の著作権をめぐる曖昧な法律も考慮に入れています。 AI。 Wikipedia コンテンツを利用可能にするクリエイティブ コモンズ ライセンスには、明確な所有権と再配布権が必要です。

LLM は著作権で保護された素材を使ってトレーニングされることが多いため、そのテキストを管理されていない状態で Wikipedia に統合すると、プラットフォームが法的リスクにさらされる可能性があります。新しい規則は法的な盾としても機能し、人間の著作権がこの事業の主力であり続けることを保証します。

テックギア提供

ウィキペディアの動きは、デジタル的自衛の究極の例だ。生産的な AI は、百科事典のスタイルを完全に模倣できる成熟レベルに達していますが、現実を理解するメカニズムはありません。

ギリシャのウィキペディア コミュニティにとって、このポリシーはおそらくさらに重要です。ギリシャ語版の管理者の数は英語版よりも少ないため、AI によって生成された記事の洪水を「手動」で管理することは事実上不可能です。同時に、 LLM は、翻訳ミス、間違った用語、我が国の地域的または歴史的事実の誤解により、ギリシャ語でのパフォーマンスが低下することがよくあります。。

人間を責任の中心に置くという決定は技術恐怖症ではなく、知識を保存するための必要条件です。ツール 人工知能 これらはスケルトンの構築や言語校正には非常に役立ちますが、 権威、批判的思考、情報源の研究は、今のところ、厳密に人間の特権のままです。ウィキペディアは、安価で高速だが潜在的に有害な大量の合成コンテンツを拒否することで、品質と検証可能性を適切に確保しています。