元生财研
返回新闻
财经新闻

‘AI clog’:英国公共机构应对聊天机器人生成投诉的攻势

来源 · The Guardian Business
Graphic illustration shows a man in suit and tie cowering under his office desk as long, snaking arms protrude from an envelope symbol on his computer screen.
Graphic illustration shows a man in suit and tie cowering under his office desk as long, snaking arms protrude from an envelope symbol on his computer screen.

“2024年只是涓涓细流,现在却成了攻势。”工党议员办公室的高级个案工作者霍莉·威肯斯正在解释应对激增的AI生成信函的日常现实。

“我们收到的邮件有一半都是某种形式的AI生成,”她说,并补充说,尽管她有十年的经验,但这使得请求和投诉的阅读和处理变得更加复杂、耗时。“这绝对更费力。”

在本十年初,申请工作、撰写投诉或反对地方规划申请通常需要付出相当大的努力:需要花时间研究主题、填写表格或写一封听起来正式的邮件,往往还需要专业知识。

直到最近几年ChatGPT(本月即将迎来四岁生日)、Claude、Copilot、Gemini及其他生成式AI工具的快速增长,情况才发生了改变。这些聊天机器人通过提供免费(尽管有时不可靠)的法律顾问、行政助理或私人助理,帮助外行变成专家。

AI工具的开发者承诺为雇主及其员工带来巨大的生产力提升:枯燥、常规的任务可以自动化,并更快地完成,让人类劳动力有更多时间从事创造性工作。经济的部分领域已出现这些收益的迹象,AI被认为是今年英国GDP增长好于预期的部分原因。

“我们收到的邮件有一半都是某种形式的AI生成,”议员办公室的高级个案工作者霍莉·威肯斯说。

然而,英国企业、地方政府、法院、学校和其他公共机构报告称,它们被大量AI生成的投诉、信函和法律挑战淹没,这些大幅增加了它们的工作量,而资源早已捉襟见肘。

评论人士称这一现象为“AI clog”(AI堵塞)。

“人人都有了免费律师”

随着低质量“AI slop”(AI垃圾)的概念变得主流,组织正发出警报,称其运营因不断增加的信函量而陷入瘫痪。

这些内容用户只需片刻即可创建,但人类员工筛选和回复却需要大量时间。柏林赫蒂学院数字治理中心、合作AI基金会和GovAI的研究人员将用AI生成的请求轰炸公共机构称为“agentic flooding”(代理洪水)。

“每个行业都面临非常相似的问题,”地方政府律师协会(LLG)首席执行官德博拉·埃文斯说,该组织代表在地方政府工作的5,600名律师。

“显然,AI是一个很棒的工具,能让人们非常非常快地完成事情,并能让投诉听起来极其专业、非常正式。”

地方政府面临的投诉数量激增,涉及从成人社会护理服务到垃圾桶未收走或反对规划申请等问题。“地方政府只有一笔钱,不会因为投诉增加而获得额外资金,”埃文斯说。

在AI出现前,反对地方规划申请需要花费一些时间和精力。摄影:Christopher Thomond/《卫报》

地方政府认为信函的长度表明其为AI生成,特定措辞的使用或要点的使用也是如此。

“这是个真实的问题,”恩菲尔德议会领袖、议员亚历山德罗·乔治乌说。“越来越多的居民用它来上诉议会决定,例如停车上诉显著增加。”

信息权利监管机构——信息专员办公室(ICO)发现,许多公共机构在2025年收到的请求更多。它指出,AI生成的请求可能“非常长、重复,并包含无关评论或错误指向的要求”,范围更大,且写作方式使得更难识别请求的信息是什么。

在聊天机器人广泛使用前,地方政府收到的投诉平均长度约为两页。埃文斯说,现在大多数长达以前的10倍。“你会看到一些巨大的投诉。我目前知道最糟糕的一个大约有200页长,”她说。

尽管如此,ICO警告说,那些看似使用AI起草且包含不准确内容的请求仍需由人类回答。

埃文斯说,AI工具往往将投诉视为法律索赔。“它会开始引用法规并提取判例法,但不一定与你所在的司法管辖区界限相关。它可能会找到一些来自加拿大或其他地方的绝佳判例法。[AI]也略微容易产生幻觉,因此偶尔会编造内容。”

向地方政府的投诉激增,涉及规划申请、停车罚单和垃圾收集等问题。摄影:Fotomaton/Alamy

一些企业主担心,AI过度支持和认可的倾向可能给人们错误的信心去追究法律案件。

“现在人人都有免费律师了,”一家科技初创公司的创始人抱怨道。其一前员工因表现问题被解雇,正通过就业法庭质疑解雇决定,尽管该企业家坚持称程序处理得当。“从措辞就能看出来[投诉是AI生成的],语气也不同。”

在就业法庭案件长期积压的背景下,该创始人预计等到案件开庭时,他们将已花费30,000英镑的法律费用。

根据最新政府数据,4月至6月新增的就业法庭索赔较去年同期激增28%,达到14,000起单一申请人案件。该季度结案数量也有所下降,导致6月底未结单一索赔达70,000起。

跳过新闻通讯推广after newsletter promotion

据汉密尔顿·纳什的雇员关系专家吉姆·摩尔称,创始人的经历绝非独一无二。他的许多客户收到的信函要么完全由AI生成,要么严重依赖AI工具的措辞。

雇主收到的投诉被描述为“不必要的冗长”,且包含“修饰或夸大的指控,将相对轻微的事件描绘成严重过失”。

摩尔表示,许多AI生成的投诉“遗漏了投诉最重要的一点——你想要什么解决方案?大多数时候,它们的措辞听起来很吓人,却忘了列明投诉人想要的解决办法。”

伦敦交通局(TfL)在2025-26年度收到创纪录的4,769份信息自由请求,上诉数量出现“显著增加”,据信是由AI生成的。照片:马丁·戈德温/《卫报》

部分请求的法定回复时限,给因AI生成信函而堵塞的公共机构带来了进一步压力。

负责首都公共交通系统的公共机构伦敦交通局(TfL)在2025-26年度收到创纪录的4,769份信息自由(FoI)请求,比2023-24年度的前一个峰值增长5%。

根据其审计与保证委员会近期会议纪要,发送给TfL的上诉数量也在上升。报告称,疑似由AI生成的上诉出现“显著增加”,这些上诉“往往包含高度技术性且往往不准确的断言和假设”。

威斯敏斯特被淹没

一些议员的办公室也难以应对。

邓弗姆林和多勒选区工党议员格雷姆·唐尼的办公室主任沃尼·桑德兰表示,应对激增的AI生成请求让她的员工“精疲力竭”。“他们被压榨到极限,工作时间超过了薪资对应的工时,”她说。

她指出,AI代理能帮助那些无法独立起草信函的人,但表示她的办公室最近决定不再回应自动化的“点击给你的议员发邮件”活动,以便专注于选民的请求。

代表议员办公室员工的GMB工会发现,个案工作量激增现象普遍。“AI并没有减轻议员办公室的负担,”议员和贵族员工分会主席丽莎·吉尔莫尔说。“在办公室自行统计数据的地方,个案工作量翻倍甚至更多,员工持续承担着这些工作,没有喘息机会。”

“AI并没有减轻议员办公室的负担,”GMB工会的丽莎·吉尔莫尔说。“个案工作量翻倍甚至更多。”照片:武克·瓦尔西奇/索帕影像/快照

埃文斯警告,地方政府每在处理投诉上花费一英镑,“就是一英镑没花在别处,这就是为什么控制局势很重要”。她说,一些申诉专员服务现在对投诉设定字数限制,或设计在线模板以限制可附加的信息量。

其他人担心组织可能开始使用AI工具筛选AI生成的信函,形成机器对机器的对话。但正如埃文斯所言,这并非没有代价,且会“失去人性化关怀”。

威尔特郡议会表示正在探索使用AI工具总结长邮件并起草初步回复,而格洛斯特郡斯特劳德地区议会的一个委员会则讨论了如何使用微软的Copilot协助撰写报告和呈现信息。

研究人员还建议,当局可尝试通过增加申请难度、收取提交请求费用或屏蔽政府网站上的机器人程序,来遏制AI洪流。

英国政府已向公务员发布使用AI工具的建议,包括核实提供的事实、不输入个人数据,以及确保人工审查工作并做出最终决定。

技术记者杰米·巴特利特接触了许多分享AI堵塞经历的人。“公共机构和公司很可能不得不使用某种形式的AI开始筛选内容,或制定更严格的规则规定接受什么、不接受什么,”他说。“否则我担心它们会完全不堪重负。”

Hollie Wickens stands outside the door of 10 Downing Street. She has long curly fair hair and wears glasses and a pale blue blouse.
Hollie Wickens stands outside the door of 10 Downing Street. She has long curly fair hair and wears glasses and a pale blue blouse.
A planning notice on a post in Scopwick, Lincolnshire.
A planning notice on a post in Scopwick, Lincolnshire.
Overflowing green recycling wheelie bins waiting for collection on a pavement in London with cardboard boxes and bags of rubbish in front.
Overflowing green recycling wheelie bins waiting for collection on a pavement in London with cardboard boxes and bags of rubbish in front.
A red double-decker London bus at a bus stop. It is the 363 to Elephant and Castle.
A red double-decker London bus at a bus stop. It is the 363 to Elephant and Castle.
The Houses of Parliament and Big Ben seen across the River Thames on a clear autumn day with a blue sky.
The Houses of Parliament and Big Ben seen across the River Thames on a clear autumn day with a blue sky.
元生财研

让金融信息更透明,让科技走近每一位投资者

YouTube

投资有风险,市场有波动。本站 AI 分析仅供参考,不构成任何投资建议,不保证收益。新闻、行情、会员权限和模型服务以后端实际接入为准。

© 2024 元生财研