TikTokは若者に対するリスクを認識していたと法的文書で主張

ケンタッキー州が起こした訴訟で暴露された内部文書と通信によると、TikTokはそのデザイン機能が若いユーザーにとって有害であり、子どものサイト利用時間を制限することを目的とした公に宣伝されているツールがほとんど効果がないことを認識していたという。

詳細は、ケンタッキー州の訴訟の編集された部分の一部であり、全米のさまざまな州による同社に対する2年以上の調査中に発掘された内部通信と文書が含まれている。

ケンタッキー州の訴訟は今週、12の州およびコロンビア特別区の司法長官によって提起された別の告訴と並行して提起された。 TikTokは司法省からの別の訴訟にも直面しており、TikTok自体も1月中旬までに米国内で禁止する可能性がある連邦法を巡って司法省を提訴している。

この編集された情報は、ケンタッキー州司法長官事務所によって誤って明らかにされ、ケンタッキー公共ラジオによって最初に報告されたものだが、さまざまなトピックに触れており、最も重要なのは、TikTokが若いユーザーがプラットフォームにどれだけの時間を費やしているのか、そしてそれがどれほど誠実であるかをどの程度知っていたのかということである。それは過剰な使用を抑制することを目的としたツールを展開するときでした。

訴状では、未成年者によるTikTokの利用以外にも、この短編動画共有アプリがプラットフォーム上で「美しい人」を優先しており、公表しているコンテンツモデレーション指標の一部が「大いに誤解を招く」ものであると内部で指摘していると主張している。

AP通信が確認したこの編集されていない訴状は、州当局が封印を求める緊急動議を提出した後、水曜日にケンタッキー州判事によって封印された。

TikTokの広報担当者アレックス・ハウレック氏はコメントを求められた際、「裁判所の封印を受けている情報を公表するAP通信の行為は非常に無責任だ」と述べた。残念ながら、この苦情は誤解を招く引用を厳選し、時代遅れの文書を文脈から切り離して、地域の安全に対する私たちの取り組みを誤って伝えています。」

「当社には、未成年の疑いのあるユーザーを積極的に削除するなどの強力な安全策があり、デフォルトの利用時間制限、家族のペアリング、16歳未満の未成年者向けのデフォルトのプライバシーなどの安全機能を自主的に導入しました」とハウレック氏は準備した声明で述べた。 「私たちはこうした取り組みを支持します。」

若者の間でのTikTokの利用

訴状では、TikTokが若いユーザーがプラットフォームに夢中になるまでにかかる時間を数値化し、ユーザー維持率の向上を目的としたプレゼンテーションでその結果を社内で共有したと主張している。 TikTokが言う「習慣の瞬間」とは、ユーザーがTikTokアカウントを取得してから最初の1週間で260本以上の動画を視聴したときに発生する。訴状によれば、一部のTikTok動画は8秒程度で再生されるため、この問題は35分以内に発生する可能性があるという。

ケンタッキー州の訴訟ではまた、若いユーザーの間でプラットフォームがすでに「天井に達している」と結論付けたTikTokの2020年春のプレゼンテーションも引用している。その時点で同社の推定では、17歳未満のスマートフォンユーザーの少なくとも95％が少なくとも毎月TikTokを利用していたことが訴状には記載されている。

TikTok は、若いユーザーが動画の視聴に費やす時間や、毎日何人がプラットフォームを使用するかなど、若いユーザーの指標を追跡します。訴状によれば、同社はこれらのレビューから収集した情報をアルゴリズムに供給し、人々の興味に合わせてコンテンツを調整し、ユーザーエンゲージメントを促進していると述べている。

TikTokは、プラットフォームがユーザーにどのような影響を与えているかを調べるために独自の内部調査を行っています。訴訟では「TikTank」と呼ばれる社内のグループを挙げ、同プラットフォームでは強制的な使用が「蔓延」していると内部報告書で指摘している。また、アルゴリズムが「本当に優れている」ため、子供たちがTikTokを見ているという匿名の幹部の言葉も引用している。

「しかし、それが他の機会にどのような影響を与えるかを認識する必要があると思います。そして、私が他の機会と言っているのは、文字通り、睡眠、食事、部屋中を動き回り、誰かの目を見ることを意味します」と匿名の幹部は訴状によれば述べた。

時間管理ツール

TikTokには未成年者の1日の利用時間制限が60分あり、この機能は10代の若者がプラットフォームでの時間を管理できるようにすることを目的として2023年3月に導入された。しかし、ケンタッキー州の訴状は、ユーザーが簡単に回避または無効化できる時間制限は、何よりも広報ツールとして意図されていたと主張している。

訴状によると、TikTokは時間制限機能の成功を、十代の若者がプラットフォームに費やす時間が短縮されたかどうかではなく、他の3つの指標によって評価しており、その1つ目は「メディア報道を通じてTikTokプラットフォームに対する国民の信頼を向上させたこと」だった。

訴状には、十代の若者のスクリーンタイムの削減は成功指標として含まれていないと述べた。実際、同社は、時間制限機能によって十代の若者たちのTikTok利用が10パーセント以上減少した場合、機能の「設計を見直す」計画を立てていたと主張している。

訴状によれば、TikTokが実験を行った結果、制限時間は10代の若者がアプリに費やした平均時間よりわずか1分半短縮されたことが判明した（訴状によれば、1日あたり108.5分から107分だった）。しかし、動きがないにもかかわらず、TikTokはこの機能をより効果的にしようとはしなかった、とケンタッキー州当局者は言う。彼らは、この機能の非効率性は多くの点で設計によるものだと主張している。

訴状によると、Zhu WenjiaというTikTok幹部は、TikTokの「コア指標」への影響が最小限である場合にのみ、この機能を承認したという。

TikTokは、CEOのShou Chew氏を含めて、TikTokがプラットフォームから離れることを促すためにユーザーに送信するビデオなど、アプリのさまざまな時間管理ツールについて語った。しかし、TikTok幹部は社内会議で、これらの動画は「有益な」話題ではあるものの、「完全に効果的ではない」と述べた。

TikTokはプラットフォーム上で「美しい人を優先」している

ケンタッキー氏は、TikTokの顔フィルターがユーザーに与える可能性のある悪影響を詳述するセクションで、プラットフォーム上のコンテンツが「狭い美の基準を永続させる」可能性があることを社内で知っていたにもかかわらず、TikTokのアルゴリズムが「美しい人を優先」してきたと主張した。

告訴状では、アプリのメイン「For You」フィードに「魅力的ではない主題が大量に表示されている」と内部報告書が指摘したことを受けて、TikTokがアルゴリズムを変更したと主張している。

「被告らは、TikTokのアルゴリズムを変更してFor Youフィードに表示される『魅力的ではない被写体』を減らすことで、若いユーザーに悪影響を与える可能性があるにもかかわらず、狭い美の規範を促進する積極的な措置を講じた」と訴状にはある。

TikTokの「流出」率

この訴訟はTikTokのコンテンツモデレーションの慣行にも狙いを定めている。

同社は内部コミュニケーションを引用し、同社のモデレーション指標は「大いに誤解を招く」ものであり、その理由として「当社はキャプチャしたコンテンツのモデレートには優れているが、これらの指標は見逃したコンテンツを考慮していない」と述べている。

告訴状では、TikTokは重大な「漏洩」率、つまりサイトのコミュニティガイドラインに違反しているにもかかわらず削除も管理もされていないコンテンツがあることを認識しているが、開示していない、と指摘している。他のソーシャルメディア企業も、プラットフォーム上で同様の問題に直面しています。

TikTokの場合、訴状によると、「流出」率には、小児性愛を常態化するコンテンツが約36パーセント、未成年の性的暴行を美化するコンテンツが50パーセント含まれているという。

この訴訟では、同社がモデレーションに関して世間を誤解させ、「価値が高い」とみなされる一部の人気クリエイターにサイトのガイドラインに違反するコンテンツの投稿を許可したとも非難されている。