Meta AI客服遇阻后启用人工拨号,隐私争议浮现
Muse是Meta今年秋季推出的个人AI助手,定位是让机器人代替用户完成发邮件、购物、预订旅行等日常事务。发布两周以来,它一直占据美国应用下载排行榜榜首,累计下载量突破250万次——Sensor Tower提供的数据显示这一数字仍在快速攀升。
但这个看似顺风顺水的AI产品,很快撞上了一堵看不见的墙:它打电话的时候,对方一听是机器就直接挂断。
为了解决这个问题,Meta从8月开始内测一项名为"人工礼宾"的功能——让受过培训的人类承包商在后台悄悄接听转交的请求,代替Muse给商家或机构打电话并跟进处理。上周,这项功能向半数员工开放。
一封内部帖子显示,启用人工坐席的直接原因是AI通话成功率太低。一名员工曾尝试让Muse致电保险公司协商事宜,对方一听是AI就中断了通话。
另一份内部测试数据给出了对比:由人工拨打电话可将成功率提升至95%至98%,而纯AI通话的成功率则显著偏低。
95%的成功率背后是人,不是算法
这组数字揭示了一个不太体面但很现实的行业困境:尽管AI已经能写邮件、做行程规划甚至进行语音对话,但在需要与真实人类协商的场景中,它仍然难以克服对方的天然排斥。
这不是技术能力问题,而是社会行为问题。商家的客服人员接到机器人来电的第一反应通常是拒绝交互,因为他们没有义务也没有时间应对AI。这意味着,无论AI多么先进,只要最终环节需要一个愿意配合的真实人类来完成谈判或确认,AI就需要退居幕后。
这并不是Meta首次面临类似的场景。十年前,Facebook还在运营Messenger服务时试水过一款名为"M"的数字助手,后来的媒体报道估计,该助手约70%的任务实际上由人类员工完成。十年之后,"人肉AI"的策略仍在科技公司的工具箱里。
区别在于,"M"助手时代的人工介入是设计之初就公开的部分架构,而这次Muse的"人工礼宾"是在用户毫不知情的情况下悄悄启用的。
隐私条款的裂缝从内部打开
争议的引爆点来自Meta自己的员工。
在一篇引发大量讨论的内部帖子中,员工指出让承包商处理用户的电话请求存在明显的信息泄露风险。有人写道:"我们距离不必要的信息被泄露给人工坐席,只差一个程序漏洞。"
具体案例已经出现。一名员工让Muse致电宽带运营商协商账单,通话记录显示,那名人类承包商在通话中发表了带有种族主义色彩的言论。另一名员工则质疑:如果连基本的话术规范都做不到,还有什么理由相信这些外部承包商会妥善处理用户的隐私数据?
这种担忧并非空穴来风。Meta在发布Muse时着重强调了自己的安全架构——每个AI智能体拥有独立的"虚拟机",不同用户的会话在云端专用计算机中隔离,密码等敏感信息保存在单独的加密存储中。这套"虚拟机隔离加加密存储"的组合构成了产品最核心的安全卖点,而人工坐席的出现,恰好绕过了所有技术性防护。
数据一旦流入人类承包商的系统边界之外,之前所有的加密和隔离措施都失去了意义。因为最终的对话是由坐在另一个城市、拿着最低工资的第三方外包人员在听、在说。
Meta超级智能实验室的一名副总裁在内网发帖承认,在未做适当披露的情况下启动承包商拨打电话测试是一次失误,并已暂时将功能回滚。她向举报种族言论的员工道歉,并表示涉事坐席今后不再参与任何Meta项目。
AI无法替代的最后一英里
表面看,这是Meta一家公司的产品策略问题。但往深处看,这个细节暴露了整个AI商业化落地的一条结构性难题:AI可以解决标准化流程,却无法处理那些需要说服、议价和情感互动的"最后一公里"。
理发预约、门店库存查询、承包商询价——这些场景的共同特征是双方都需要一定程度的灵活判断,而这些正是当前大语言模型最难稳定发挥的领域。更关键的是,即使AI能做到90%的准确率,剩下的10%也需要人类兜底,否则用户体验就是灾难性的。
对于Meta来说,人工兜底的直接代价是运营成本的大幅上升。虽然目前尚未披露具体的单位成本数据,但参照客服行业的通用经验:一条自动化消息的处理成本通常在几美分级别,而一次完整的人工通话至少涉及每分钟数美元的话务成本和坐席管理开销。当AI通话的成功率远低于人工替代方案时,这个差距会被进一步放大。
值得玩味的是,在争议爆发的同一天,Meta的股价出现了小幅下跌0.6%,而过去两周内它的涨幅已经超过20%,市值增加了逾2000亿美元。市场似乎还没有完全消化这条新闻的分量——或者说,投资者更关注的是Muse带来的增长故事,而非产品底层的技术瓶颈。
接下来需要关注的三个信号
第一,AI通话能力的迭代速度。内部帖子提到公司正在爬坡式改进AI通话能力,如果能在未来几个月内显著提升AI自主呼叫的成功率,人工兜底的规模将被压缩,成本和隐私风险也随之降低。反之,如果人工依赖度居高不下,Meta将需要在商业模式上做重大调整。
第二,监管机构的回应节奏。美国联邦贸易委员会和加州监管机构近年来对消费者数据处理一直保持高压态势。如果人工坐席接触到大量用户的财务、健康和消费偏好数据且缺乏明确告知,这可能成为一桩具有标杆意义的合规诉讼案件。
第三,用户对"人工介入"的接受度。Meta发言人声称员工反馈极为积极,但这不能代表终端消费者的态度。如果用户在付费或授权使用AI助手时得知自己可能被随机分配给一个陌生的人工坐席,产品的信任基础是否还能维持,这是一个尚未有定论的问题。
AI的终极目标是消除人的参与。但当现实要求你必须把人请回来的时候,这个故事才刚刚开始。


