TikTok が新規ユーザーや子供たちに見せる動画のほぼ 60% は AI で作られています

TikTok が新しく作成したアカウントに推奨する動画 10 件中ほぼ 6 件は、 人工知能で生成されたコンテンツ 品質が悪い。これは、ビデオ編集プラットフォーム Kapwing による調査によって裏付けられています。Kapwing は、20 のカテゴリに属する​​ 10,742 件の出版物を分析し、 新規ユーザーの「For you」セクション。

これら 500 件の初期推奨事項のうち、294 件は次のように分類されました。 「AIスロップ」、自動的に作成され、ほとんど注意を払わずに作成され、主にビュー、購読、またはインタラクションを蓄積するために配布されたコンテンツを説明するために使用される表現。結果によると、この割合は 59% であり、Kapwing が新しい YouTube ショート アカウントを使用して同様の操作を行って検出した 21% よりもほぼ 3 倍高くなっています。

このデータは、TikTok で利用可能な全コンテンツの 59% がこのカテゴリに属する​​ことを意味するものではありません。この分析は、レコメンデーション システムがユーザーの興味、インタラクション、消費習慣に関する十分な情報を得る前に、プラットフォームが提供する第一印象に焦点を当てています。
その兆候が現れるまでは、 TikTokは幅広い視聴者を対象とした人気コンテンツを提供します とりわけ、言語と場所に合わせて調整されます。研究によると、この初期構成は現在、AI が生成したビデオによって占められており、簡単に認識できる視覚的、物語的、音声的な公式を再現していますが、価値はほとんどなく、場合によっては誤った情報を広めています。

自動動画の存在感を最大限に発揮する子供向けコンテンツ

この調査では、20 のカテゴリの人気タグに関連付けられた 10,742 本のビデオのサンプルも分析されました。彼 子供向けコンテンツ 「AI スロップ」の割合が最も高かったのは、調査した 2,000 個のうち 1,147 個で、全体の 57.4% でした。

一部の特定のレーベルではさらに存在感が高くなります。 #CartoonKids では、レビューされた 100 本のビデオのうち 97 本が人工知能によって生成されました。 #cartoons と #babysong では、その割合は 83% に達しましたが、#forkids では 79% でした。
これらのビデオは通常再利用されます 有名な子供向けキャラクター 一貫性のない状況では、合成音声を使用し、物体や図形が連続性なく形を変えるアニメーションを表示します。これらには、十分な監督なしに迅速に作成された歌、物語、教育コンテンツも含まれます。

これらの作品に、大人なら認識できるエラーが含まれているが、小さな子供には検出できるほどの知識がまだない場合、問題は特にデリケートになります。 Kapwing が取り上げた例には、次のようなキャラクターを使用した就学前学習ビデオが含まれます。 「セサミストリート」 クッキーの数え方を教えるためですが、話されている数字は示されているオブジェクトと一致しません。

「私はこれを産業規模の AI によって生成された子供向けの誤った情報だと考えています。発達中の脳にとっては非常に危険です。」シカゴ大学小児科教授のダナ・サスキンド氏は報告書に引用された声明の中でこう述べた。
専門家は、最初の数年間に受けた経験が影響を与えると警告している。 神経結合の形成。 この観点から見ると、学習の決定的な段階で誤った概念を繰り返し伝達することはリスクに及びます。

この現象は、初期かつ広範なスクリーンへの露出と同時に発生します。カプウィングは英国の組織 1001 Critical Days Foundation からデータを収集しています。 2 歳未満の乳児と子供の 70% 以上が画面付きのデバイスを使用しています、そして10人に1人は通常、1人の前で眠ってしまいます。

科学、健康、歴史も飽和度が高い

子ども向けコンテンツに次いで、低品質の AI 動画が最も多く存在するカテゴリーは次のとおりです。 科学と教育、35％。 健康、33.8%。そして 歴史、33.5%でした。

これらの領域に集中すると、問題に情報の側面が追加されます。エンターテイメントビデオの制作が不十分だと、単に拒絶反応や無関心を引き起こす可能性がありますが、 健康、歴史的、または科学的な説明 でっち上げられたデータは誤解を招く可能性があり、専門家が作成した情報源と直接競合する可能性があります。
自動生成により、人間の制作では難しいスピードで画像、プレゼンター、音声、スクリプトを簡単に作成できます。ただし、この機能により、各ステートメントの正確性を検証することなく、大量のコンテンツを公開することもできます。

その対極にあるのは、人間の創造物が引き続き明らかに多数派を占めるカテゴリーです。分析されたフィットネス ビデオの 1.6%、ミュージック ビデオの 1.5%、ファッション ビデオの 1.3% のみが低品質の自動コンテンツとして分類されました。

アルゴリズムが学習する前のTikTokの第一印象

TikTok のレコメンデーション システムは、次のようなシグナルに基づいて調整されます。 総再生時間、スキップした動画、いいね、フォローしているアカウント、トピックの好み。 しかし、人が最初に口座を開設するときには、これらの変数はどれも利用できません。

カプウィングの実験では、その初期段階を正確に観察しようとしました。研究者らによると、調査のために作成されたアカウントに表示された最初の投稿はすでにAIが生成した低品質の動画で、後に削除されたという。
最初の 500 件の推奨事項を検討した結果、チームは 294 件がそのカテゴリに該当すると判断しました。カプウィングは、この結果を次の結果として解釈します。 一般的なプラットフォームの飽和状態：2025年11月までに、TikTokはすでに13億本のビデオを人工知能によって生成されたものとしてラベル付けしていました。

最初の経験は、プラットフォームとプラットフォームがアルゴリズムに提供するシグナルについてユーザーが抱く認識に影響を与える可能性があります。自動化されたコンテンツがファーストコンタクトの大部分を占めると、それらの美学や物語の定型がTikTokの文化的正常性として提示されることになるかもしれません。研究者のローランド・マイヤーは、「プラットフォーム リアリズム」の概念を使用して、生成モデルがどのように現実を直接再現するのではなく、プラットフォームの人間のコンテンツにすでに存在するパターンの集合体であるかを説明しています。その結果、すでに注目を集める能力を実証しているスタイル、構造、テーマが均質化する傾向があります。

TikTokは2025年11月に、ユーザーが 人工知能によって生成されるコンテンツの量を増減する それは彼らの推奨事項に記載されています。さらに同社は、この種の出版物を楽しんでいる人もおり、彼らには自分の存在を調整する能力がもっとあるべきだと主張した。
同プラットフォームはまた、人工知能に関連する読み書き能力と安全性に関するコンテンツをサポートするための200万ドルの教育基金も発表した。また、生成された説明でユーザーが重大なエラーを検出した後の一部の自動要約の使用も削減されました。

カプウィングの場合、これらの措置は “受け身” 根本的な問題は解決されません。調査データによると、自動化されたコンテンツは、新規アカウントのエクスペリエンスや、特に敏感な視聴者を対象としたカテゴリーにおいて中心的なスペースを占め続けていることがわかっています。
報告書には以下の内容も含まれています 多くのユーザーの否定的な反応。 AI で生成された一部の投稿では、この種のコンテンツを拒否するコメントにより、動画自体よりも多くのインタラクションが蓄積されます。これは、大量の制作が必ずしも好評を意味するわけではないことを示しています。

ノルウェー、初等教育における生成AIを禁止

この研究は、未成年者と学習ツール、生成ツールとの関係について制度上の懸念が高まっている状況の中で行われた。ノルウェー、8月末から禁止へ 1 年生から 7 年生までの生徒に対する生成人工知能の使用、およそ 6 歳から 13 歳までの年齢に相当します。

ノルウェーのジョナス・ガール・ストア首相は、これらのツールによって未成年者が学習の基本的な段階を飛ばしてしまうリスクがあるとして、この決定を正当化した。 「学校で最も重要なことは、子供たちが読み書き、数学を学ぶことです。」と指摘した。
14 歳から 16 歳までの生徒は、教師の直接の監督下でのみ生成 AI を使用できます。教育当局は 17 歳から、これらのツールの自主的かつ適切な使用を奨励します。

就学禁止は、未成年者が自宅から生成ツールにアクセスすることを妨げるものではありませんが、管理された空間における制度上の制限を設けています。そしてそれがそれです 人工知能 クリエイターが利用できる物語、ビジュアル、教育リソースを拡張できます。問題は、自動化が人間によるレビュー、精度、判断に取って代わられる場合、および推奨アルゴリズムがその有用性を評価する前に大量生産に報酬を与える場合に発生します。