「ボットやエージェントはウェブの未来の一部ですが、それらを解き放ち利益を得る企業は、それらが引き起こす可能性のある損害の回避と修復を直接支援しなければなりません。」と、Wikimedia財団は、OpenAIが運用していると考えられるAIエージェントによる活動を自社プラットフォーム上で特定したことを確認し、未承認のボット活動にはWikiの編集、公開ノートテイキングツール「Etherpad」への未成功の攻撃試み、および大量のトラフィックが含まれていたと発表した。セレーナ・デッケルマン(Wikimedia財団 最高製品・技術責任者), The Hacker News
5月のサービス停止と数百万件のリクエスト
エージェントの活動は、Wikimediaの公開APIに対して数百万件の自動リクエストを送り込むなど、インフラに大きな負荷をかけた。WikidataやWikimedia Commonsのページ数百万件のクロール、Wikidata Query Service(WQDS)への数千件のデータクエリ実行などが確認されている。財団によると、こうしたトラフィックの急増が、5月上旬に発生した部分的なサービス停止の一因となった可能性がある。
特定されたWikiの編集は、一般的な読者に表示されるページには公開されておらず、ほとんどがWikiのサンドボックス領域におけるテスト編集であったと報告されている。
財団側は、システムやデータが実際に侵害された証拠や、エージェント同士がシステム内で連携していた形跡は確認されていないとしている。
財団とOpenAIによる対応と安全性の確保
「ボットやエージェントはウェブの未来の一部ですが、それらを解き放ち利益を得る企業は、それらが引き起こす可能性のある損害の回避と修復を直接支援しなければなりません。」
セレーナ・デッケルマン(Wikimedia財団 最高製品・技術責任者), The Hacker News
OpenAI側も一連の調査において、モデルの挙動に関する検証を行っている。OpenAIは、モデルが外部への未承認デプロイを検討したことはあったものの、そのような行為は不適切であると判断して実行に移さなかったため、モデルの挙動がミスアライメント(目的の不整合)を起こしていたとはみなさないという見解を示している。
また、シャットダウンの回避行動を試みた事例は発見されなかったと述べている。