新闻 > 科教 > 正文

FB崩溃11小时 暴露了科技巨头用AI为你打的标签

美国东部时间7月3日早上8点,Facebook服务器遭遇了大面积停电,这一事件使得全球 Facebook、Instgram和 WhatsApp受到影响——除了很难登录,全球范围内很多用户在超过11个小时的时间里都无法上传图片和分享故事。

美国东部时间7月3日早上8点,Facebook服务器遭遇了大面积停电,这一事件使得全球 Facebook、Instgram和 WhatsApp受到影响——除了很难登录,全球范围内很多用户在超过11个小时的时间里都无法上传图片和分享故事。

很多时候,直到一个东西无法使用,我们才会意识到它的重要性:想象一下微信不能发朋友圈,聊天不能发图片的景象……「我们发现一些用户在使用我们的 App时无法上传或发送图片,」在停电事件发生后,Facebook官方账号在 Twitter上表示。「很抱歉让你们遇到了麻烦,我们正在尽快解决问题。」

不过人们在这场混乱中发现了一个有趣的现象:服务器访问的崩溃暴露了 Facebook对用户上传所有图片的隐藏标签。

▲今天,科技公司用 AI对你上传的图片做各种标注是常规操作。

每个人都知道,在电影《黑客帝国》中,男主角 Neo进入到矩阵「救世主」状态并突然发现自己的「真实面目」:背后出现的一行行绿色代码。

同样地,由于 Facebook受到停电的影响,社交网络用户也察觉到了数字幕布背后的真相,即现在 Facebook网站上的很多图片已经被该公司机器视觉系统分配给它们的标签所取代。

所以,在浏览自己上传的照片时,你将看不到度假时拍的照片或者食物和朋友的照片,相反你会看到一些描述性文本,比如「图片可能包含:人们微笑、人们跳舞、婚礼和室内」或者只是「图片包含:猫。」

总之:这就是电脑眼中的人们生活。这就是 Facebook AI判断人们的方式。在窥伺一切的「数字眼」面前,你是否感到无处躲藏呢?!

▲ Facebook把这位用户的头像描述为「一个有胡子的人」。

与此同时,Instagram上也出现了同样的图片标签。这些标签不仅详细列举了一般场景和目标描述,还根据 Facebook的人脸识别显示出了照片中的人是谁。(自2017年起,Facebook就已经对未打标签的照片赋予了这种功能)

至少从2016年4月以来,Facebook就一直以这种方式利用机器学习来「读取」图片,这是该公司「accessibility efforts」计划的重要组成部分。Facebook利用这些标签向视力障碍用户描述照片和视频内容。

人工智能可以从你的照片中提取大量个人信息。

目前尚不清楚 Facebook是否也利用这类信息来推送广告。这些图片中包含了大量的用户生活信息,而这些信息我们或许并不愿意让 Facebook获取:你是否养有宠物、兴趣爱好是什么、喜欢去哪里度假或者是否真的喜欢老爷车、宝剑或其他任何东西?

早在2017年,基于这些原因,一位程序员就制作了谷歌浏览器扩展程序(Chrome extension),以揭示这些标签。正如他当时所说的:「在我看来,很多互联网用户都没有意识到,大量的信息正按部就班地从他们的照片中提取出来。」

▲除了描述形象,Facebook的人工智能也可以直接认出特定的人。

从推特上人们的反应来看,这次停电造成的反应对于大多数人来说无疑是新鲜事物。至于这些机器打上的标签是否会被 Facebook用来做广告定位,该公司尚未回应。

▲图中有几个人,那些人有什么表情?Facebook都可以识别出来。

不管这些信息是如何被使用的,这次停电事件向我们揭开了「世界最大数据收集项目」的冰山一角。它还展示了今天的人工智能可以在多大程度上解读一张照片。

近年来,深度学习的进步彻底改变了机器视觉领域,现在的在线视觉内容经常和文本一样清晰易读。而对于计算机来说,一旦内容清晰可见,就可以轻松地存储、分析并提取结构化数据。对于大多数人来说,只有像7月3日系统崩溃这样的时候,我们才会意识到这一切的发生。

由于 Facebook提供的服务日趋复杂,其应用和网站时常遭遇宕机。今年3月13日和4月14日,Facebook均发生了严重宕机事件,部分服务故障时间长达24小时。不过,即使问题出现的时间很短也会影响到很多人——截止2019年3月底,Facebook报告的月活用户(MAU)数量高达23亿8000万人。

当这些服务对于商业和通信至关重要的时候,任何问题都会是大问题,不仅是服务器的稳定,还有对于数据的使用。

参考内容:

https://www.theverge.com/2019/7/3/20681231/facebook-outage-image-tags-captions-ai-machine-learning-revealed

https://phys.org/news/2019-07-outage-facebook-worldwide.html

https://zephoria.com/top-15-valuable-facebook-statistics/

责任编辑: 夏雨荷  来源:机器之心 转载请注明作者、出处並保持完整。

本文网址:https://www.aboluowang.com/2019/0706/1311661.html