纽约市对 Meta、Snap、字节跳动和谷歌提起诉讼,指控 Instagram、Snapchat、TikTok 和 YouTube 平台 “故意设计的令人上瘾的产品” 对于青少年。这一程序与我们之前的一篇社论产生了共鸣:如果我们像监管烟草一样监管社交网络会怎样?
在 300 多页的投诉中,市政府坚称这些公司故意使用与 烟草和博彩业,以最大化在线时间和广告收入。
“通过大量利用老虎机中使用并被烟草业利用的行为和神经生物学技术,被告故意将一系列旨在最大限度地提高年轻用户参与度的功能集成到他们的平台中,”诉状指出(§3)。
从烟草到算法多巴胺
纽约的法律策略是 针对卷烟制造商和制药公司提起的诉讼 阿片类药物危机的起源。在这两种情况下,公司都知道他们的产品会让人上瘾,但选择继续发布它们以保留利润。
该市现在正在将这种推理应用到数字技术中,考虑到注意力依赖是一种现代形式的成瘾,算法取代了尼古丁。
“被告的平台经过设计和编程,有条不紊地(但不可预测地)分配多巴胺奖励。这种对神经回路的利用正是老虎机用来维持成瘾的方式”(第 118 条)。
用户的每一个手势都相当于拉动老虎机的杠杆,线程滚动,等待重新开始,奖励到来
“当我们滚动浏览 Instagram feed 时,我们就像在玩老虎机,看看接下来会出现哪张图片”(§120)。
这些机制,描述为 “间歇性可变奖励”,基于心理学中的一个众所周知的原理,即不确定性会增加等待并维持重新开始的需要。
青少年、经济和弱势目标
投诉强调,青少年既是脆弱人群,又是有利可图的目标。
“与成人相比,儿童和青少年的冲动控制能力较差,评估风险或调节情绪的能力也较低”(§71)。
“儿童在经济上有利可图,特别是当他们上瘾或强迫性地使用被告平台时”(第 68 条)。
该市制定的文件引起了人们的注意 大脑奖赏回路受损,与化学成瘾中观察到的结果相当。
“与其他成瘾产品一样,被告的平台通过扰乱大脑奖励回路的功能来吸引用户”(第 81 条)。
“这些大脑改变类似于与赌博或药物滥用等成瘾行为相关的改变”(§177)。
公共成本不断增加的社会祸害
指控的核心在于以下概念: “公害”,相当于对集体善的攻击。
“这场危机对社会秩序和公共卫生造成了严重破坏……对集体福祉造成持久和永久的损害”(§907)。
“纽约市的每个原告机构都必须投入大量资源——资金、人员、时间——来应对这场青少年心理健康危机”(§912)。
投诉特别提到了一项计划 7700 万美元 设立在公立学校招募心理学家和社会工作者,资金将在未来几个月内耗尽(§902)。争论的焦点是,与阿片类药物一样, 数字依赖的成本由公共当局承担,而不是那些挑衅它的人。
意图是问题的核心
该市律师认为,这些平台的行为是 “有意识地忽视公众的权利”,借鉴自主要公共卫生试验的语言。
“被告的行为构成了故意疏忽和故意无视纽约原告的权利”(§914)。
“被告知道或应该知道,针对年轻人会造成伤害并严重扰乱学校和公共机构的运作”(第 918-920 条)。
其目的不是获得赔偿,而是迫使 平台设计结构修改,特别是删除某些激励功能(无限滚动、“条纹”、过滤器)。
加州先例和跨大西洋之战
此案被添加到由法官领导的已在进行的联邦集体诉讼中 伊冯·冈萨雷斯·罗杰斯因对 Epic Games 与苹果之间的诉讼进行仲裁而闻名。到 2024 年,它已拒绝驳回基于公害的投诉,为数千起类似诉讼铺平了道路。
就欧洲而言,它的行动是有预期的,因此 数字服务法 和 英国儿童友好设计规范 已经对说服性设计施加了限制。
走向分心资本主义的终结
通过将注意力依赖同化 公害纽约开启了数字资本主义监管的新阶段。
“该市制定了一个行动框架,旨在保护年轻人免受危险接触所谓的“环境毒素”:不受监管的社交媒体”(§15)。
这句话概括了该文件的哲学,社交网络不再被视为一个简单的交流空间,而是一个 精神污染物 影响公众健康。继烟草和阿片类药物之后, 算法又进入了风险产品的历史。