科技公司在推动人工智能进入学校的同时，面临着日益增多的儿童安全诉讼。
在本文中
GEMI
SNAP
META
Didem Mente | Anadolu | Getty Images 科技公司多年来一直向家长宣称，他们正在努力让自己的产品对儿童更加安全。但针对 Meta、Google 和 Snap 等公司的正在进行的陪审团审判、和解及相关诉讼表明，他们做得还不够。
最新的案例本周出现。Snap 秘密和解了一起案件，声称其技术对两名青少年用户造成了严重的心理困扰。Meta、TikTok 和 YouTube 此前已在同一案件中与原告达成和解。而 Google 本周因一名儿童在与 Google Classroom 中的 Gemini AI 聊天机器人聊天后据称遭受心理危机而被其父母起诉。
随着人工智能公司追求万亿美元的估值，而成熟的互联网巨头在将先进人工智能模型推向教室的同时，正投入巨资开发这些模型，人们的担忧正在加剧。发展心理学家 Kate Blocker 表示，旨在最大化用户参与度的产品和功能可能对用户产生不利影响，因此需要“在技术设计上进行更广泛的系统性变革，尤其是在儿童使用这些产品时”。
“我认为，在设计这些产品——人工智能、社交媒体等等——时，考虑儿童安全非常重要，而不是等问题出现后才亡羊补牢，”非营利组织 Children and Screens 的研究与项目主任 Blocker 表示。
McNicholas & McNicholas 的新兴诉讼主管 Joseph McNally 表示，Snap 本周的和解避免了 CEO Evan Spiegel 在洛杉矶法院出庭作证，这延续了科技公司因今年各种备受关注的儿童安全相关审判而试图将自己与公众审查隔离开来的总体趋势。
该案是与 Meta 和 YouTube 今年早些时候败诉的社交媒体人身伤害审判相关的几起诉讼之一。更多审判计划于三月开始。
“我认为这次和解以及该领域的其他和解是科技公司扭转局面的尝试，不仅因为我认为他们面临着真正的法律挑战，而且他们产品的声誉、公司的声誉也确实受到了打击，”McNally 表示，他曾担任加利福尼亚中区联邦检察官代理。
Snap 发言人在一份声明中表示：“双方很高兴能够以友好方式解决这一问题。”
Snap 发言人说：“我们已经建立了安全措施，推出了安全教程，并与专家合作。因为安全永无止境，我们仍致力于不断加强我们社区的安全、隐私和福祉。”
watch nowVIDEO4:4604:46Meta settlement 'imposes significant regulatory changes,' says fmr. Assistant AG Jonathan KanterSquawk on the Street但仍然存在一起涉及 Meta、TikTok、Snap 和 YouTube 的联邦案件，以及众多全国范围内的学区，还有各州检察长的诉讼。今年 8 月，Meta 同意支付近 $17 billion 以在儿童心理健康案件中与一群州检察长达成和解。一些州检察长仍在继续针对 Meta 的竞争对手提起类似的诉讼。
McNally 表示，社交媒体诉讼有助于让家长和公众了解该行业如何设计供青少年和儿童使用的产品。
“这是一场持续的技术军备竞赛，”他说。“通常缺失的是如何平衡你对这场军备竞赛的参与、产品的实用性以及产品安全性。”
对教室的更多审查
Google 本周因行动过快而面临更多批评。《纽约时报》周二报道称，不允许学生使用 Google AI 工具的 K-12 学校将失去搜索权限。Google 负责教育的副总裁 Chris Phillips 告诉《时报》，“搜索和人工智能已经深度融合。”
这与针对 Google 的新诉讼同时发生，该诉讼围绕一名青少年据称的自杀危机，父母将其归咎于该公司的 Gemini AI。原告律师声称，“尽管 Gemini 存在已知风险，Google 仍仓促将” Gemini 集成到面向学童的 Chromebook 电脑中。
Google 发言人在一份声明中表示：“我们正在审查诉讼中的指控，我们对此非常重视。我们与医学专业人士和学术专家广泛合作，开发了帮助年轻人在需要时找到关键支持和可信资源的功能。”
几十年来，Google 及其互联网同行一直能够依赖 Section 230。
这项联邦立法于 1996 年通过，保护社交媒体公司免受因用户发布的内容而提起的诉讼。这就是为什么原告律师和州检察长一直关注据称由技术平台设计（而非其内容）造成的危害。
watch nowVIDEO3:4903:49If Section 230 was eliminated it would be absolutely devastating for the internet: social media expert Andrew SelepakPower Lunch一些原告正在对 AI 公司使用同样的策略。OpenAI 面临着来自州检察长和原告律师的几起诉讼，这些诉讼借鉴了社交媒体诉讼的思路，声称 ChatGPT 的设计可能对儿童构成风险。
随着该公司计划可能进行大规模的首次公开募股（IPO），诉讼可能会成为日益增长的财务风险。OpenAI 的竞争对手 Anthropic 计划本月上市，尽管 Claude 的创造者禁止儿童使用其产品，但其在招股说明书中强调了这个问题。
“这清楚地表明，科技公司预期的诉讼风险比十年前更多，”旧金山大学法学院教授 Michele Neitz 表示。
Blocker 表示，当前人工智能驱动的聊天应用程序的高度个性化使得“稍微不可预测”，难以确定这些应用会对孩子们说什么。她强调，在出现伤害之前，必须从一开始就对这些产品进行测试和评估，以确保儿童的发展安全，“在伤害发生后才进行评估”。
Blocker 表示，这场集体诉讼帮助公众了解不良产品设计选择的潜在风险。而且它可能成为科技行业变革的催化剂。
Blocker 说：“确实有希望这将推动真正的系统性变革，既在监管层面，也在公司内部决策层面，”
如果您有自杀念头或正处于困扰状态，请致电 Suicide & Crisis Lifeline 的 988 号热线，获得受过专业训练的咨询师的支持和帮助。
观看：人工智能挑战是市场缺乏计算能力。
现在观看VIDEO4:3504:35Speak out on issues that directly impact your company, says General Catalyst's Ken Chenault Squawk Box选择 CNBC 作为您在 Google 上的首选来源并且永不错过来自最受信赖的商业新闻的任何时刻。
