品玩

科技创新者的每日必读

打开APP
关闭
硬核技术

好人不认识,盗窃拦不住,这样的防盗 AI 让沃尔玛员工怒了

​员工忍不住吐槽:“它就是个瞎子。”

光谱

发布于 2020年6月7日

AI 能做很多事情,也有很多事情做不好,这没什么。但如果有人宣称 AI 能做某件事,还拿它赚钱,结果它反而添了很多麻烦,那就是个大问题了。

沃尔玛目前就面临着这样的问题。

从2017年开始,一些沃尔玛门店员工隔三岔五就要和自助结账的顾客道歉:因为他们上的一套防盗 AI,总是错抓好人,公司却并没有暂停使用系统或者作出显著改变的打算。

《连线》杂志近日报道,一群阿肯色州沃尔玛总部的员工近日实在受不了公司的不管不顾,制作了一则影片,爆料给各家媒体,展示门店使用的防盗 AI 到底有多坑。

出于保护爆料者的目的,这段影片并没有公开。不过根据媒体描述,影片展示了沃尔玛采用的这套防盗 AI,不但经常放过漏网之鱼,还会因为顾客将个人财物放在结账台上这种再平常不过的事情,向店员发出盗窃警报。

影片其中一幕展示了防盗 AI 连续三次犯了错误:

试验者拿了两大罐花生酱,摞在一起,自助收银台只扫了一罐,试验者把两罐一起装到包里——AI 并没有报警;

试验者又拎着两桶牛奶,在条码扫描机前晃了一下,同样只扫到了一桶,试验者成功把两桶都装了起来,AI还是没有报警;

紧接着,试验者又把自己的手机放在机器上面,没有穿过扫描的区域,AI 立刻报了警……

其中,最后一类错误属于最令前述的沃尔玛爆料员工感到担忧。因为它会导致诚实的消费者无端遭受盗窃的指控。尽管门店员工往往可以很快消除误会,但这仍然是一种非常糟糕的用户体验。

一些接受了媒体采访的沃尔玛员工指出,这套防盗 AI 系统会“频繁地将无辜的行为误认为可能的盗窃行为。“这就是那种烦人的科技,一个假装在保护财产的假 AI。”一位员工表示。

过度营销的AI防盗

沃尔玛的防盗 AI 技术供应商是一家爱尔兰公司 Everseen。该公司开发的这套技术,能够在超市结账区根据每一台机器的扫描反馈,再结合计算机视觉等先进技术,实时识别潜在的盗窃行为。

具体来说,系统可以对摄像头拍到的画面进行分析,如果发现了问题,通知可以直接发送到员工的智能手表或手机等电子设备上,这样他们就可以立即响应,中止不法分子的行为,或者解决顾客在结账时遇到的困难。

而且,Everseen 还提供一个全面的数据监控面板,可以为超市管理者和企业主生成一个细化到门店、结账通道和员工个人的实时报告,借助数据和 AI 的力量,更精确地打击盗窃,降低零售业的损耗 (shrinkage, 即不明原因的库存减少)。

根据美国国家零售联合会的报告,盗窃行为在2018年美国零售业的损耗中占比高达35.7%,造成损失167亿美元,折合每分钟有近3万美元的商品被盗。

而沃尔玛是美国零售业的巨头,最大的连锁超市之一,每年盗窃导致的损耗就高达30亿美元,占了全行业将近五分之一。可想而知,沃尔玛打击盗窃的意愿有多强烈。

在一条宣传视频中,Everseen 宣称:“这是全世界第一个基于云端的智能POS 分析解决方案。我们的数码眼睛拥有完美的视力,而且它完全不需要休息或请假。”

该公司还宣称,系统能够识别出95%的结账区域异常行为。

但是一些沃尔玛员工认为,Everseen 实际上是个“瞎子”。因为 AI 总是漏掉真实的盗窃行为,他们给它起了个外号:NeverSeen…

这些员工对《连线》杂志表示,他们此前已经多次在内部指出过 Everseen 所谓的防盗 AI 的技术漏洞,却被公司管理人士否认。最后实在受不了了,他们才决定和媒体爆料。

Everseen 防盗 AI 宣传视频截图
Everseen 防盗 AI 宣传视频截图

员工意见得不到积极回应

这样的问题,在美国仍未摆脱新冠病毒侵扰的当下尤其令人担忧。因为门店员工必须在 AI 检测到异常行为时介入,也就不得不违反6英尺的社交距离政策。

根据美国媒体报道,由于疫情影响,沃尔玛已经有相当多的员工感染,至少20人死亡。Everseen 防盗 AI 的错误会继续造成员工突破安全距离,提高他们受感染的风险。

沃尔玛回应媒体称,经过对 Everseen 的大范围使用和检测,相信防盗 AI 达到了公司的标准,并表示已经对系统进行了全面的升级,警报数量总体上已经减少了。

至于爆料员工指出的误报问题,沃尔玛表示这并非普遍现象。Everseen 也表示,其警报系统在沃尔玛门店员工介入事件中只占不到一成,并不会在疫情期间提高员工的感染风险。

不过,爆料员工指出,他们对 Everseen 防盗 AI 系统的不满早在疫情到来之前就有了。他们发给《连线》杂志的邮件显示,他们在2017年和18年都在内部提出过 Everseen 系统的问题,但是一直得不到积极回应。

更令他们感到不解的是,明明有更靠谱的解决方案摆在公司面前,可公司就是不听。

具体来说,沃尔玛的收银台开发商 NCR 在2018年收购了另一家防盗 AI 公司 StopLift。这些爆料员工无法理解,为什么在整合难度更低的前提下,沃尔玛不愿意尝试该公司的解决方案。

并且,沃尔玛旗下的前沿技术研发团队“智能零售实验室” (IRL) 也开发了其自己的防盗解决方案。总部负责防盗技术的员工了解到的信息是,IRL 方案的准确率比 Everseen 的要好得多。但是根据《华尔街邮报》,该方案并没有被大面积铺开,截至今年2月只在大约50家门店进行了尝试。

关于 Everseen 的防盗 AI,沃尔玛方面总体上拒绝承认问题的严重性。因此,在未来的一段时间内,吃亏的将只会是增大感染风险的门店员工,以及被错怪的无辜消费者。

下载品玩App,比99.9%的人更先知道关于「硬核技术」的新故事

下载品玩App

比99.9%的人更先知道关于「硬核技术」的新故事

iOS版本 Android版本
立即下载
光谱

高级主笔@PingWest US team,报道科技、生活方式、游戏、娱乐。新闻线索请加微信 lichtspektrum 并适当表明身份。

取消 发布