書籍アプリは AI を使用してユーザーを「ロースト」しました。代わりにアンチウェイクになりました

人気の寓話 ソーシャルメディアアプリ 自らを「本の虫と食いしん坊」の安息の地と称するこの企業は、2024 年にユーザーが読んだ本を要約する AI を活用した年末の要約機能を作成しました。遊び心と楽しいことを意図していましたが、要約の一部は不快なものになりました。妙に好戦的な口調。例えば、作家ダニー・グローブスの要約では、彼を「多様性の信奉者」とレッテルを貼った後、「ストレートでシスの白人男性の視点を求める気分になったことはあるのか」と尋ねている。

一方、本の影響力を持つティアナ・トラメル氏の要約は、次のようなアドバイスで締めくくられている。

Trammell さんはびっくりしましたが、Threads で Fable の要約について自分の経験を共有した後、すぐに自分が一人ではないことに気づきました。 「障害と性的指向」について不適切なコメントをまとめた人々から、「複数のメッセージを受け取りました」と彼女は言う。

のデビュー以来、 Spotify ラップ、年次総括機能はインターネット上で広く普及しており、ユーザーが読んだ本やニュース記事の数、聴いた曲、完了したワークアウトの概要を提供します。一部の企業は現在、AI を使用して、これらの指標の表示方法を完全に作成または強化しています。たとえば、Spotify は現在、 AI が生成したポッドキャスト そこではロボットがあなたの聴取履歴を分析し、あなたの好みに基づいてあなたの生活を推測します。 Fable は、OpenAI の API を使用してユーザーの過去 12 か月の読書習慣の概要を生成することでトレンドに乗りましたが、AI モデルが反覚醒の評論家のようなコメントを吐き出すとは予想していませんでした。

ファブルはその後、ThreadsやInstagramを含むいくつかのソーシャルメディアチャンネルで謝罪した。 動画を投稿しました 違反行為を行った幹部の発言。同社はキャプションで「今週の読者サマリーの一部によって引き起こされた傷を深くお詫び申し上げます」と述べた。 「我々はもっと良くやっていきます。」

Fableのコミュニティ責任者であるキンバリー・マーシュ・アリー氏は、出版前に『WIRED』に対し、同社はAI概要を改善するための一連の変更に取り組んでいると語った。その中には、AI概要を望まない人のためのオプトアウトオプションや、以下のことを示す明確な開示も含まれる。 AIが生成したものです。 「当面は、読者をふざけて読者を煽るモデルの部分を削除し、その代わりにモデルはユーザーの本の好みを単純に要約したものです」と彼女は語った。

出版後、マーシュ・アリー氏は、代わりにファブル社がAIが生成した2024年の読書概要と、AIを使用した他の2つの機能を直ちに削除する決定を下したと述べた。

一部のユーザーにとって、AI の調整は適切な対応とは感じられません。ファンタジーとロマンスの作家 AR Kaufer は、ソーシャルメディア上のいくつかの要約のスクリーンショットを見て愕然としました。 「彼らはAIを完全に廃止すると言う必要がある。そしてAIについてだけでなく、影響を受けた人々への謝罪を伴う声明を発表する必要がある」とカウファー氏は言う。 「スレッドでのこの『謝罪』は不誠実な印象を与え、アプリが『ふざけている』と言及することで、あたかも人種差別主義者/性差別主義者/障害者差別の引用を何らかの形で言い訳しているかのようです。」この事件を受けて、カウファーさんはフェイブルのアカウントを削除することを決めた。