After Babel

分享此文章

TikTok正以工业级规模危害儿童

最近在法律文件中披露的文本，用该公司员工自己的话语，讲述了一个令人震惊的故事

Jon Haidt 和 Zach Rausch 2025年1月9日

分享此文章

明天，美国最高法院将决定是否介入，阻止或推迟一项法律的实施，该法律将禁止TikTok在美国运营。如果未被阻止，该法律将迫使TikTok于1月19日停止在美国的运营，除非其中国企业所有者（Bytedance）出售给不受外国对手控制的买家。该案件完全取决于与国家安全和言论自由有关的宪法论据。大法官们不会听取关于成瘾、抑郁、性剥削或任何其他对儿童造成的诸多危害的证据，这些危害已在14个州的总检察长提起的单独诉讼中被指控在TikTok上广泛存在。

即将到来的禁令也将在公众舆论中进行裁决，因为美国人试图决定失去对TikTok的访问是否是抗议或庆祝的理由。在这篇文章中，我们认为美国人应该欢迎TikTok的消失，因为该公司正在以工业级的规模对儿童、青少年和年轻人造成伤害。

我们的证据主要来自这14位总检察长的研究。他们的一些简报已在网上发布供全世界查看。这些简报包括数百条引文，摘自内部报告、备忘录、Slack对话和公开声明，其中TikTok的高管和员工承认并讨论了他们的公司正在对儿童造成的伤害。我们将证据组织成五个危害群：

1. 成瘾性、强迫性和有问题的使用
2. 抑郁、焦虑、身体畸形、自残和自杀
3. 色情、暴力和毒品
4. 性勒索、儿童性虐待材料（CSAM）和性剥削
5. TikTok 知道未成年人使用情况，但采取的行动很少

我们表明，*公司内部人士意识到多种广泛而严重的危害，*并且他们经常在公司领导的命令下行事，以最大限度地提高参与度，而不考虑对儿童的危害。正如一份内部报告所说：

“强迫性使用与一系列负面心理健康影响相关，例如分析技能丧失、记忆形成、情境思维、对话深度、同理心和焦虑增加，”此外，“干扰基本个人责任，如充足的睡眠、工作/学校责任以及与亲人联系。”1

尽管这些危害是已知的，但该公司通常选择不采取行动。例如，一位TikTok员工解释说，

“当我们进行更改时，我们确保核心指标不受影响。” 这是因为**“领导者不接受不健康和强迫性使用的问题”，解决这个问题“不是任何其他团队的优先事项。”**2

尽管下面的证据都是公开的，但据我们所知，没有人汇编并结合来自公司内部人士和内部报告的直接引文，涵盖多个声称的危害。我们认为这份汇编为父母提供了重要的信息，他们可能想了解一下拥有一部分孩子注意力并影响他们社交发展的公司的性格和商业行为。3 父母可能想知道TikTok知道其家长控制无效且很少使用：

在另一份内部文件中，TikTok承认**“用户研究”表明“家庭不使用家庭配对”，并且“家庭配对不能解决父母最关心的问题”，包括“不适当的内容、冒犯性的互动和缺乏隐私。”**4

即使家长控制有效，并且父母选择保护他们的孩子免受不良影响，他们也无法做到，因为TikTok的内容审核很差。一项内部研究发现，“泄露率”（不良内容通过审核员）如下：35.71% 的**“恋童癖正常化”内容；33.33% 的“未成年人性招揽”内容；39.13% 的“未成年人身体虐待”内容；30.36% 的“引导未成年人离开平台”；50% 的“美化未成年人性侵犯”；以及 100% 的“恋童癖化未成年人”**。5

对于那些认为社交媒体相对无害的人，我们敦促您阅读下面描述的引文和内部研究，其中TikTok的员工讨论了他们每年对数百万美国儿童造成的广泛而多样的危害。6

订阅

1. 我们从TikTok那里得到了什么

来源：Shutterstock

这篇文章的灵感来自肯塔基州总检察长提交的一份法律简报，该简报被不当编辑。编辑是总检察长办公室在向公众发布简报之前，会将一些最具破坏性的启示和引文涂黑的过程。被编辑的部分通常包含商业秘密和其他公司有合理理由保密的文本。7

但是，当肯塔基州总检察长办公室准备发布他们针对TikTok的简报时，负责编辑的人只是用黑色矩形覆盖了相关文本。即使您在阅读PDF时看不到文本，您也可以使用光标选择每个黑色部分，复制它，然后将其粘贴到另一个文件中以阅读隐藏的文本。这样做非常有趣——自己尝试一下！或者只是阅读我们的版本，其中我们已经为您完成了此操作。8

在这篇文章的其余部分，我们将组织现在可供我们使用的直接危害证据，这些证据直接来自TikTok的员工和领导者。我们在这里只给出一些亮点，但您可以在单独的Google文档中查看我们更全面的相关引文列表。

我们借鉴了州总检察长在其针对TikTok的诉讼中提交的四份简报9：肯塔基州诉TikTok，犹他州诉TikTok，内布拉斯加州诉TikTok和纽约州诉TikTok。您可以在脚注 9 中了解更多信息。

分享

2. 他们相信或知道他们正在造成的危害

[请注意，在下面的危害群 1 到 5 中，粗体文本直接引自公司员工和内部备忘录。非粗体文本是直接引自指定总检察长简报的指定部分，该部分设置了来自公司内部人士的相关引文。[括号中以斜体显示的文本是我们——Jon和Zach的注释。] 对于每种危害，我们都从四份简报中提取，并且我们用主要媒体记者的报告来补充某些部分，这些记者发现了相关信息，或者通过在TikTok上为未成年人设置虚假帐户来运行自己的实验。]

危害群 1：成瘾性、强迫性和有问题的使用

[在TikTok造成的危害中，最广泛报道的危害之一是它吸引年轻人并让他们一次停留数小时的能力。TikTok的算法被广泛认为是保持用户滚动浏览的最佳算法。皮尤研究中心在2024年发布的一份报告发现，33%的美国青少年（13至17岁）表示他们“几乎总是”在社交媒体平台上，其中16%表示仅在TikTok上。（我们估计，2023年美国大约有2180万青少年（13-17岁），这意味着大约有340万美国青少年声称他们几乎总是使用TikTok）。]10 您可以在下面看到，TikTok旨在创造这种强迫性使用，这反过来会导致有问题的使用障碍和行为成瘾，然后加剧其他四个群的危害。即使它的许多员工认为他们的产品对儿童的发展不利，该公司也会这样做。]

肯塔基州简报 (KY)

• KY P. 7, PARA 18

  • TikTok的高管和员工承认他们针对年轻的美国人，并声明：
    • “最好让年轻人成为早期采用者，尤其是美国的青少年。为什么？他们[原文如此]有很多时间。”
    • “美国的青少年是黄金受众……。如果你看看中国，青少年文化不存在——青少年非常忙于学校的学习考试，所以他们没有时间和精力玩社交媒体应用”。

• KY P. 8, PARA 19 [已编辑但可检索的文本]

  • TikTok知道其平台造成的有害影响会严重损害数百万美国儿童和青少年的心理健康并伤害他们。其高管承认：
    • “产品本身已经融入了强迫性使用。”
    • “孩子们观看TikTok的原因是因为算法非常好。……但我认为我们需要意识到这可能对其他机会意味着什么。当我谈到其他机会时，我实际上指的是睡眠、饮食、在房间里走动以及看着别人的眼睛。”

• KY P. 20, PARA 64 [已编辑但可检索的文本]

  • 关于TikTok的2021年战略的内部演示文稿将该公司描述为处于“争夺注意力的军备竞赛中[.]”
  • [以下是KY简报第67段中已编辑的图表。它表明，在拥有智能手机的2970万17岁以下的美国用户中，TikTok已达到饱和状态。这意味着他们无法获得更多的年轻用户，但他们可以从每个用户那里获得更多的时间，尤其是当他们将他们从竞争平台中拉走时。]

• KY P. 40, PARA 121 [已编辑但可检索的文本]

  • 在2019年一份未命名的TikTok被告内部文件中，该文件总结了按年龄的使用情况，作者得出结论：“正如预期的那样，在大多数参与度指标中，用户越年轻，表现越好”。

• KY P.40, PARA 125 [已编辑但可检索的文本]

  • “TikTank”*[研究影响TikTok的问题的TikTok内部小组]*报告观察到，“Tiktok特别受年轻用户的欢迎，他们对社交奖励形式的强化特别敏感，并且几乎没有有效自我调节的能力”。

• KY P. 55, PARA 181 [已编辑但可检索的文本]

  • 正如关于推送通知的内部指南所解释的那样，TikTok的推送通知的一个关键目标是**“在正确的时间使用正确的内容激活和吸引用户，以鼓励用户更多地打开应用程序并停留更长的时间”。 TikTok使用不同类型的推送通知来实现此目标。例如，TikTok的“兴趣推送”旨在“激活用户，以便他们返回应用程序”**。

• KY P. 67, PARA 223 [已编辑但可检索的文本]

  • “TikTok的成功很大程度上可以归因于强大的开箱即用的个性化和自动化，这限制了用户的自主性[.]”

犹他州简报 (UT)

• UT P. 4, PARA 11

  • 尽管内部承认LIVE对未成年人构成**“残酷的”风险——鼓励“成瘾和冲动购买虚拟物品”，导致“经济损失”，并使未成年人处于“发展风险”**——TikTok继续使用操纵性功能来增加用户在应用程序上花费的时间和金钱。 [这段引文引用了TikTok的LIVE功能]

内布拉斯加州简报 (NE)

• NE P. 14, PARA 52

  • 被告表示，TikTok令人难以置信的广告成功归因于其用户**“与其他平台相比完全投入和沉浸其中”。被告将TikTok描述为“信息密度领先的平台”，因为它具有“算法和较短的视频格式”，这些“算法和较短的视频格式”会“创建持续的参与周期”**。

• NE P. 20, PARA 72

  • 正如被告解释的那样，TikTok的成功**“很大程度上可以归因于强大的……个性化和自动化，这限制了用户的自主性”和“利用许多胁迫性设计策略的产品体验”，包括“无数功能”——如“[无限滚动，自动播放，持续通知]”和“'老虎机'效应”——这些“可以被认为是操纵性的”**。

• NE P.21, PARA 76

  • 被告承认，青少年特别容易强迫性地使用TikTok平台。内部文件强调，未成年用户**“对社交奖励形式的强化特别敏感”，“几乎没有有效自我调节的能力”，并且“没有执行功能来控制他们的屏幕时间”**。

• NE P. 27, PARA 97

  • 在一个“TikTok战略”演示文稿中，被告庆祝用户在平台上花费大量时间。被告解释说：“TikTok在大多数人的生活中都是这样的”，指的是在线帖子，内容是**“上tiktok 5分钟，3个小时过去了”和“我的夜间习惯：看3个小时的tiktok视频，尝试遵循舞蹈步骤，意识到你跳舞很烂并为此哭泣，继续看tiktok视频，睡觉”**。

• NE P. 27, PARA 99

  • 正如一份内部报告所指出的那样，在调查了关于社交媒体对青少年影响的学术文献后，“TikTok特别受年轻用户的欢迎，这些用户被认为更容易受到在线伤害和强迫性使用的负面影响”。

• NE P. 28, PARA 102

  • 另一份基于对TikTok用户进行深入访谈的内部报告发现，过度使用TikTok会导致**“负面情绪”，“干扰[用户的]义务和生产力”，并导致“对他们生活的负面影响……”，包括“失眠、错过截止日期、学习成绩差、迟到等等”。报告称“许多参与者描述说，他们使用TikTok干扰了他们的睡眠，这限制了他们第二天的生产力和表现”，并且“[每个参与者都表示，与其他社交媒体平台相比，在TikTok上进行时间管理特别困难”**。

• NE P. 33, PARA 115

  • 但在内部，被告承认真相，真正的用户报告**“感觉他们被困在我们的算法认为他们喜欢的兔子洞里”**。

纽约州简报 (NY)

• NY P. 16, PARA 88

  • Alexandra Evans，再次在成为TikTok高管之前，共同撰写了一份报告，解释了胁迫性设计如何影响青少年：“有说服力的设计策略利用了人类渴望社交和受欢迎的自然愿望，利用个人害怕不社交和受欢迎的心理来延长他们的在线使用时间。对于年轻人来说，身份需要不断的关注、策划和更新。在关键的发展阶段，被同伴群体接受可能非常重要。”

危害群 2：抑郁、焦虑、身体畸形、自残和自杀

[这些是我们在《焦虑的一代》中主要关注的危害，但正如您在其他四个群中看到的那样，TikTok造成的危害远远超出了心理健康问题。]

肯塔基州简报 (KY)

• KY P. 60, PARA 196 [已编辑但可检索的文本]

  • 在数字健康文件中，被告承认**“提供延续狭隘的美丽规范的效果……有可能对我们社区的福祉产生负面影响”**。

• KY P. 65, PARA 213 [已编辑但可检索的文本]

  • TikTank*[研究影响TikTok的问题的TikTok内部小组]报告还发现*“强迫性使用与一系列负面心理健康影响相关，例如分析技能丧失、记忆形成、情境思维、对话深度、同理心和焦虑增加**。”此外，“强迫性使用还会干扰基本个人责任，如充足的睡眠、工作/学校责任以及与亲人联系”。

• KY P. 84, PARA 260 [已编辑但可检索的文本]

  • 在一个实验中，被告的员工创建了测试帐户并观察了他们陷入负面过滤器气泡的过程。一位员工写道：“在关注了几个'painhub'和'sadnotes'帐户后，我花了20分钟才进入'负面'过滤器气泡。尽管我最近的生活精神状态良好，但负面内容的密集密度让我心情低落并增加我的悲伤感”。另一位员工观察到**“有很多视频提到自杀”，其中包括一个视频问道：“如果你可以杀死自己而不伤害任何人，你会吗？”**

***图。Pg. 121 para. 261：“**一旦TikTok算法确定青少年用户对赌博、毒品或减肥感兴趣，该算法将始终如一地向他们展示过量的该内容。” 来源：华尔街日报。

• KY P. 98, PARA 309-310 [已编辑但可检索的文本]

  • 309.被告知道这些R1审查并没有抓住大量违反社区准则的内容，或者将内容限制为适合年龄的群体。
  • 例如，关于自杀和自残内容审核的演示文稿指出，R1审核员并不总是说视频中显示的语言，审核员不了解上下文，并且审核员没有收到新指令的政策提醒。

内布拉斯加州简报 (NE)

• [没有来自TikTok员工的直接引文，但请参见第36-43页，其中包含简报的一部分，该部分描述了发送给由总检察长办公室创建的虚构帐户的视频，这些帐户假装是13岁，15岁和17岁的内布拉斯加州居民。“在滚动浏览TikTok的'为你推荐'feed几分钟后——在帐户搜索任何视频或“关注”任何用户之前——TikTok的算法反复将每个内布拉斯加州青少年帐户暴露于公开成熟或其他不适当的内容”其中一些视频发送给年轻女孩——仅基于她们的年龄和性别——显然鼓励年轻女孩饿死自己。]
• [一些视频还清楚地庆祝自杀是摆脱心理痛苦的方式。]

图像。Pg. 40, para. 109。 “一段视频显示一名女子对着镜头微笑，文字是“[m]e盯着我的妈妈，在恳求她让我独自出去散步，明明知道这将是她最后一次看到我。”该视频的观看次数超过79.4万次，点赞数超过19.13万次。”

危害 3：色情、暴力和毒品

[TikTok上广泛接触到色情、暴力和毒品相关内容。这些内容通常在新闻源和通过TikTok的“直播”功能观看。尽管裸露、色情、性暴露内容、非自愿性行为、分享非自愿性亲密图像和性招揽违反了TikTok的准则，但内容很容易访问并推荐给用户。]

肯塔基州简报 (KY)

• KY P. 38, PARA 115 [已编辑但可检索的文本]

  • 在讨论如何回应[华尔街日报]系列文章的内部文件中，TikTok员工承认其流程中存在重大失败，包括但不限于以下事实：“华尔街日报分享的46.5%的性化和毒品内容不受[现有审核]政策的约束（ANSA 55%，毒品 24%）。” 同样，“性化和毒品内容的审核泄漏率为73.5%（ANSA 58%，毒品90%）。” 造成此审核失败的原因是**“最普遍的政策标题是性暴露语言和提及毒品”，而“隐式语言[例如，编码语言]通常用于视频中，并且审核员无法捕获[原文如此]”**。

• KY P. 53, PARA 168 [已编辑但可检索的文本]

  • 令人震惊的是，该报告 (TT Live & US Safety Summit，“Project Meramec”) 还确认**“未成年人可以轻松访问直播feed”，并且“[没有]与年龄相关的feed策略”。此外，该报告承认“我们在该项目中的一项关键发现已成为Live业务的主要挑战是，获得最高参与度的内容可能不是我们希望在平台上的内容。交易性性内容包含数百个信号，这些信号会通知[算法]以及LiveOps的成功指标 - 礼物数量、主持人直播频率、评论数量等。”**

• KY P.106, PARA 341 [已编辑但可检索的文本]

  • 尽管TikTok吹嘘其彻底的内容审查流程，但它并未披露重要的**“泄漏”率，该率衡量未被审核或删除的违规内容的百分比。在内部，TikTok知道某些内容类别通过其审核流程泄漏的速率，包括：35.71% 的“恋童癖正常化”内容；33.33% 的“未成年人性招揽”内容；39.13% 的“未成年人身体虐待”内容；30.36% 的“引导未成年人离开平台”；50% 的“美化未成年人性侵犯”；以及“100% 的“恋童癖化未成年人”**。

犹他州简报 (UT)

• UT P. 5, PARA 13

  • TikTok还知道，LIVE正在被用于洗钱和其他犯罪活动。
  • PARA 14：2021年，TikTok启动了“Project Jupiter”，以调查有组织犯罪正在使用LIVE通过TikTok的赠送功能洗钱的嫌疑。TikTok发现，犯罪分子正在LIVE上销售毒品和运行欺诈活动。[TikTok有一个虚拟货币系统，用户可以相互“赠送”。]
  • PARA 15：TikTok承认，LIVE上的性剥削和非法活动是**“有争议的”，并且因其自己的货币化计划而恶化。尽管内部承认“性暗示性LIVE内容正在上升”，但TikTok拒绝警告消费者这些危险。相反，TikTok计划“更好地利用货币化方法，例如赠送和订阅来获得收入……”**。

• UT P. 10, PARA 32

  • 该部门的诉前调查还证实，TikTok的平台促使了非法药物向未成年儿童的销售，就在我们家门口——包括轻松允许TikTok用户向盐湖城的儿童提供销售和运送诸如Xanax、Valium和MDMA等药物。

[](https://www.afterbabel.com/p/<https:/substackcdn.com/