ヒルツィク: Grammarly は何を考えていましたか?

オンライン サービス Grammarly は、学校の勉強で盗作を見つけたり、生徒が文法やスペルを磨くのに役立つ一連のツールとして 2009 年に誕生しました。最終的には、執筆支援のソースとして人工知能ボットを組み込みました。

しかし、2025 年 8 月、同社は AI 生成サービスとして許容される、あるいは許容されるべきであるという境界線を大きく超えました。

これは同社の「専門家レビュー」サービスで、月額最大 30 ドルを支払う意思のある人が利用できる。その売り文句は、購読者がスティーヴン・キングやニール・ドグラース・タイソンなどの有名な作家を含む著名な作家によって執筆サンプルをレビューしてもらい、散文を改善する方法についてのフィードバックを受け取ることができるというものでした。

これに関してはいくつかの問題が浮上しています。

まず、全員ではないにせよ、引用された「専門家」の多くが、自分の名前を使用したり、このサービスに関連して活動したりする許可を Grammarly に与えていないようです。第二に、提出された執筆サンプルを実際にレビューした人は誰もいませんでした。サンプルは AI ボットによってスクリーニングされ、著者の出版された作品に基づいて提案が生成されました。

第三に、Grammarly はユーザーに真実を明らかにしませんでした。第一印象では、提案は引用された「専門家」から直接出されたものであるように見えました。 Grammarly がその提案が専門家の出版物から「インスピレーションを得た」ものであることを明らかにしたのは、ユーザーが詳細を表示するためにクリックしたときのみでした。

Grammarlyは先週、「専門家レビュー」機能を停止した。それは、ウォール・ストリート・ジャーナルやプロパブリカで働いたこともあるベテラン技術者兼調査ジャーナリスト、ジュリア・アングウィンが告訴状を提出したのと同じ日に起こった。 連邦集団訴訟 Grammarlyが事実上、実際の著者の身元を盗み、著者が同意しないかもしれない、あるいは健全な文章に対する著者の評判を損なう可能性さえあるアドバイスを彼らに帰したと主張している。

誰かが AI を近道として使用しようとして、悲惨な結果を招いたのはこれが初めてではありません。過去数年にわたって、AI によって生成された素材が登場しました。 法的準備書面 そして 医学的診断。少なからぬ報道機関が、AIが生成した記事が人間によって書かれたものではないことを適切に開示せずに掲載したことが摘発されている。

多くの場合、AI ボットの出力がエラーだらけであるためにショートカットが暴露されてきました。存在しない判例の引用、実際には生命を脅かす提案された治療法、初心者の人間のジャーナリストでも避けるべきと知っている事実上の間違いなどです。

「専門家レビュー」は、多くの作家やアーティストが、承認や支払いなしに出版作品に基づいてボットを「トレーニング」したことで著作権法に違反した疑いでAI企業を裁判に起こしているときに登場した。

数多くの訴訟が裁判所で係争中ですが、 司法はまだ単一の結論を出していない 「フェアユース」と著作権侵害とを区別する境界線がどこにあるのかについて。

しかし、なぜ Grammarly のスタントが、これまでに登場した AI テクノロジーの最も卑劣な悪用の 1 つにランクされなければならないのかを説明するのに、AI ボットは必要ありません。

サンフランシスコを拠点とする Grammarly は、重大な罪を犯しても状況を改善しなかった LinkedIn に投稿 最高経営責任者シシル・メロトラ氏による。 Grammarly の AI エージェントは、「ユーザーが自分の仕事に関連する影響力のある視点や学問を発見できるように設計されていると同時に、専門家がファンとより深い関係を築くための有意義な方法を提供するように設計されている」と彼は書いています。

言い換えれば、「専門家レビュー」は、Grammarly のユーザーだけでなく、会社の利益のために、自分たちの言い分もなく名前や作品が搾取されていた専門家たちにとっても恩恵となるように設計されている、と同氏は主張した。同氏は、Grammarly がそのサービスを「再考」し、専門家が「どのように代表してもらいたいか、あるいはまったく代表されないようにするかを実際にコントロールできる」ようにすると述べた。

Mehrotra 氏は電子メールで、私のコメント要請に応え、「この機能は専門家とユーザーの両方が私たちに期待しているものを的外れだと考えています。」と認めました。しかし、グラマーリー社はアングウィン氏の訴訟の主張には「理由がなく、強く防御する」と考えていると付け加えた。

Grammarly は、AI を活用したサービスをユーザーにプッシュすることに躊躇しませんでした。 11月には、 社名をスーパーヒューマンに変更これは、「あらゆる人の超人的な可能性を解き放つという使命」と呼ばれるものを反映しています。

その時までに、すでに「専門家レビュー」が開始されていました。同社は当初から、サービスが実際にどのようなものであるかについては少し曖昧でした。によると 最初に投稿されたウェブページ このサービスを宣伝するために（このページはその後削除されましたが、Web アーカイブに残っています）、ユーザーは「対象分野の専門家や信頼できる出版物からの洞察を活用」することで文章を改善できる可能性があります。

ユーザーは、ドキュメントをシステムにアップロードするように指示されました。その後、ボットは「あなたの文章を関連する専門家と相互参照」し、「専門家からの情報に基づいた具体的なフィードバック」を提供しました。ユーザーは、数行のフィードバックを提供する数名の専門家のリストから選択できます。

ピッチには微妙な免責事項が埋められていた。

Grammarlyは、そのフィードバックが単に「本物の専門家からインスピレーションを得た」ものであることを指摘する警告をWebページに滑り込ませ、さらに、「専門家」への言及は「情報提供のみを目的としており、Grammarlyとの提携やその個人による支持を示すものではない」という通知を追加した。

専門家の名簿は実に印象的でした。その中には小説家のキング、天体物理学者のタイソン、そしてさまざまな著名な書籍や雑誌のライターが数多く含まれていました。キング氏とは連絡が取れず、タイソン氏も私のコメント要請に応じなかったが、他のライターらは別のルートで反応を明らかにした。

たとえば、テクノロジージャーナリストのカラ・スウィッシャーは、同僚のジャーナリストからの質問に、グラマーリーの人々に次のようなラベルを付けて答えました。情報を貪欲に盗み、個人情報を盗む人たち。」

一部のユーザーにとっては、自分の研究が引用された専門家によって個人的に精査されている可能性が低いことは明らかだったかもしれません。私なら、あの不可欠な入門書の著者である尊敬される文法学者ウィリアム・ストランク・ジュニアに尋ねたかもしれません。スタイルの要素1946年に亡くなったことを除いて、グラマーリー社から専門執筆コーチとしてオファーされたことについて彼はどう思ったかを語った。天文学者カール・セーガン（1996年没）など、他の故人作家も名簿に名を連ねている。

「専門家のレビュー」は、数人のテクノロジージャーナリストがその匂いを嗅ぎつけるまで、数カ月にわたって目立たなかった。最初のものはおそらく Wiredのマイルズ・クレーその報告書は 3 月 3 日に掲載されました。数日以内に同様の報告書が掲載されました。 ザ・ヴァージ そして 脱北者。

そうだった Platformer の Casey Newton による投稿そこにはグラマーリーの「専門家」数人がリストされており、同社が彼女の名前と仕事を悪用しているとアングウィンに警告した。 「彼らは私の生計を奪い、自動化しようとしていたのです」と彼女は私に語った。 「彼らは文字通り、ジュリア・アングウィンがあなたの作品を編集すると主張するサービスを販売していました。明らかに、それは私と私の生計を立てる能力に対する直接の脅威です。」

さらに、アングウィン氏は、グラマーリーが彼女の名前でユーザーに提案した編集内容は「ひどいものでした。つまり、彼らは私の生計を奪っただけでなく、私の評判を台無しにしたものでした」と述べています。

高まる論争に対する最初の対応として、グラマーリー社は作家が同社に電子メールを送信することで「専門家レビュー」をオプトアウトできるようにすることを提案した。問題は、Grammarly が包括的な名簿を公開していないため、「専門家」にはオプトアウトできるものがあるかどうかを知る方法がないことです。

8 冊の本の著者として、そして長年新聞コラムを書いてきた私は、自分の名前や作品が提供されるかどうか知りたいと思っていました。 Grammarly は、「専門家に関するデータはサードパーティの LLM から得られたものである」とだけ述べました。 [that is, AI bots]。 …専門家は、そのテーマに関する専門知識に基づいて浮上しました。」さらに「現時点では追加のコメントは差し控える」としている。

このプログラムに対するスーパーヒューマンの法的暴露の範囲を測るのは困難です。アングウィンの訴訟は、同社が同意なしに名前を使用した一部の著者に権限を与えることを求めており、カリフォルニア州とニューヨーク州の法律が、同意なしに商業目的で人の名前や肖像を使用することを禁じているとしている。

どれだけの人が影響を受けたかについて、アングウィンの弁護士ピーター・ローマー・フリードマンは、この事件が裁判に持ち込まれた場合、全名簿を入手することが捜査中の最初の仕事になるだろうと私に語った。 （スーパーヒューマンはまだ法廷でこの訴訟に応じていない。）しかし、訴訟が起こされて以来、100人以上の作家がこの訴訟に参加したいと連絡してきたと彼は述べ、その総数は数千人に上る可能性があると推測している。

「これは私が担当している分野です。そして、これまで何度も安値がありました。しかし、それでもこれが新たな安値であると感じています。」とアングウィンは言います。