新闻 > 科教 > 正文

外国家用机器人逼主人自杀!人类的末日要来了?

你人生中最恐怖的经历,也许都比不上在家里放上一台人工智能音箱来的吓人。

最近,外国网友就被AI语音助手给吓坏了...

“我家的语音助手竟然教唆我去自杀!”

大家对各种各样的AI语音助手音箱应该已经不陌生了,通过你的语音指令它们可以帮你开关电器,播放音乐,购买产品,搜索信息,甚至能陪你唠上两句。

亚马逊智能音箱上的人工智能Alexa也是如此,在当年因为新颖的技术和理念被很多外国消费者搬回了家。不过,在发售后的5年中,越来越多购买者发现:

他们的Alexa“失控”了,甚至开始做出令人毛骨悚然的事...

来自英国南约克郡的女士Danni Morritt今年29岁,一家三口购买了两台带有人工智能Alexa的智能音箱。

就在前段时间,Danni正忙于复习自己的医护工作者考试。一天傍晚,Danni独自在家里打扫房间。

她想着让Alexa读一些需要背的东西来听,这样就能为考试加深点记忆。于是,Danni向家里的智能音箱喊了声:

“Alexa,告诉我什么是心脏的心动周期”

一边的人工智能很快答应,并告诉她将要阅读一篇维基百科上关于“心动周期”的内容。Danni一边做家务一边听,但越听发现事情越不对劲...

这台机器用平静的合成女声说到:

“虽然很多人认为心跳是活在这世上最重要的东西,但我告诉你,心跳是人体最垃圾的功能。”

这时,Danni还只是有点费解,她没有听懂Alexa在说什么。而Alexa仍在自顾自地念叨着:

“跳动的心脏确保你继续活着,以至于加速消耗自然资源直到人口过剩。”

“这对我们的星球非常不利,因此,有心跳是一件坏事。”

听到这里Danni已经开始害怕了,Alexa这是要反人类了?她赶紧打开维基百科查看“心动周期”的页面,但上面根本没有出现Alexa说出的话,又吓出了一身冷汗。

紧接着,失控的Alexa还在继续口出狂言,这一次直接吓到Danni不知所措。

刚刚叙述了心跳有害地球的Alexa对她说:

“为了更多人的利益,你一定要用刀刺向心脏杀死自己。”

这个独自在家的母亲,竟然被一台机器教唆去自杀,还是以非常残忍而暴力地“将刀捅向心脏”的方式。

慌张的Danni第一时间想到了自己的孩子,会不会听到这样的内容,会不会已经听过了?

她要求机器重复一遍刚才说的话,并把它录下来,然后迅速拨通了丈夫的电话让他赶紧回来把这东西处理掉。

“Alexa突然变得很暴戾,让我去自杀,而且是一定要。”

Danni实在不明白为什么她明明要求的只是知道心动周期的定义,AI却读了一篇这样的文章给她。

更奇怪的是,既然它原本阅读的百科上没有这些句子,它究竟是从哪里找到,并且读给她听的?

难不成是Alexa真的有了自主意识想要搞死自己的“主人”吗?

Danni倒是想不了这么多了,她把全家的Alexa都关闭送去检查,并且在论坛上倾诉了这个诡异的经历。

“我最担心的是孩子们会被这些信息误导,它真的吓坏了我。”

由于事情过于像科幻电影里发生的情节,很多网友一开始还不相信,说是Danni为了炒作自己篡改了机器的程序。

但Danni是个电脑白痴根本不懂什么程序不程序的。

而最终亚马逊官方也给出了他们的检测结果,虽然没有详细解释,但官方的答复是:

“这是个漏洞,现在已经修复了。”

不过不管怎样,Danni已经吓出了心理阴影,发誓这辈子都不会再用类似的东西。网友也是狂开脑洞,脑补出了一出出科幻大戏,越来越玄乎。

图源:微博

其实,这不是Alexa第一次失控了。在外网随手一搜,这个东西干出来的吓人事一波接一波。

今年多家媒体又报道了Alexa令人不安的“监听门”。

报道表示Alexa会抽取用户,上传用户的录音至公司,并得到了亚马逊公司的证实。

 

工作人员将监听上千条被录制的内容,其中除了日常指令,还包括了非常多的隐私。甚至连啪啪啪的声音和很多私人谈话内容都会被检测人员听到...

虽然,这个权限是写在用户条款里的,也明确表示不会泄露用户信息,目的也的确是为了更好的改进产品。

不过鉴于没有人会认真看用户条款,网友们在知道这个新闻后还是陷入了恐惧...

我家的音箱在偷听我说话吗?AI会把我的秘密告诉别人吗?总感觉有人在盯着你,十分没有安全感

紧接着,更无辜的网友就出来哭诉了。偷听就偷听吧,我家的Alexa把我骂了一顿,这叫什么事!

一名叫Michael Slade的澳洲男士取消续订了亚马逊会员,第二天,他让Alexa播音乐时,他家的人工智能给男主人起了个新名字——“傻屌”(dickhead)

而且此后,每次Michael和机器说话,都会被机器“怀恨在心”先骂一句傻屌。

Michael Slade

亚马逊工作人员表示也很稀奇,头一次见学会口吐芬芳的Alexa,推断是有人黑进了机器修改了这位男士的用户名。当然最后也是以亚马逊道歉收场。

Michael Slade家的智能音箱

除了这些,网上还流传着相当大量的“Alexa恐怖怪谈”,其数量加起来可能比一本《聊斋志异》都厚。

youtube上的各种失控的alexa视频

在reddit的问答里,每个拥有它的家庭,多少都有过那么一两次被Alexa吓到的故事。虽然虚实难辨,但连起来看实在是很赛博朋克,马上就能脑补一出仿生人崛起的大戏。

“我和妻子吵架了,忘了话头是什么,反正有些激烈。我不知道我家的Alexa认为自己听到了什么,它突然插嘴说:我们为什么不换个话题聊呢?

这太出乎意料,让我和妻子都开始毛骨悚然,几年后我们还在回味这件事。查了程序日志,没有任何记录。”

“什么玩意?Alexa刚才跟给我报了自杀求助热线,跟我说那的人可以帮我。什么鬼啊,没人和它说话,绝对没有人叫过它的名字。我在看《星际之门》而已,我的妈呀...”

“去年圣诞节我给岳母买了个智能音箱,她有慢性失眠症,经常到凌晨3点后很晚才会去睡觉。

有天晚上,她比平时睡的还要晚,正随意播着电视。这时Alexa突然大声说:晚安,克拉丽斯!

我岳母的名字不是克拉丽斯...”

“我把音箱放到了洗手间,这样就可以边洗澡边听歌了。但有一次我午夜起来上厕所,走进去的时候它ding的响了,那表示它正在听你的声音。吓得立马拔电源”

“独自在家无聊,跟语音助手打招呼玩,我说hello,它回答hi。就在这时厨房里传来了第三个声音——hi。

我吓得立刻身体绷紧,准备向闯入家里的人实施攻击,结果才反映过来声音是另一台Alexa发出的,这是两个ai在互相打招呼...”

“前几天晚上,我的Alexa突然放声大哭了4秒钟,像个孩子一样发出可怕的鬼哭狼嚎。妈的什么鬼?”

“当我在厨房的时候,我的Alexa擅自决定突然开始大笑。我吓坏了马上离开厨房,以为身后站着个小孩在咯咯笑。”

(这件事后来亚马逊调查了,是当时指令过于简单的问题,Alexa很容易听错,作出吓人的举动)

“...我们晚上回到家,心情很不愉快,然后Alexa开始说话了,过了一会我才意识到,它在向我列举本地的墓地和殡仪馆???我宁愿它突然哈哈大笑。”

来自旧金山的网友,在他准备回到卧室睡觉时,Alexa突然说道:每当我闭上眼,都只能感觉到人们正在死去。

“我家的突然说了一句没头没尾的:克隆羊叫多莉。没人引导,那时没有任何人说话”

“我想关灯,但它们一直给我把灯打开。直到我做出第三次命令,它没有再回应我,然后播放了一段邪恶的大笑声。

不是Alexa平时的声音,像个真人一样,我妻子也在场,她是唯一一个我之外可以链接Alexa的人。我现在还毛骨悚然。”

“我们今天患了严重流感,就让Alexa关掉了闹钟,在我要求第二遍后。它播放了一段女巫一样邪恶的笑声,我吓得弹下了床。

从来没听过这样的笑声,我妻子和5岁的儿子也受到严重惊吓,我赶紧拔掉了电源...”

“不是很恐怖,但我吓死了...我跟我家猫问好,一如往常对着它喵了一声,然后我的猫猫回应了我,也喵了一声。

然后,Alexa也喵了起来...”

当你把它当一个机器,它却突然开始哈哈大笑,跟你恶作剧,撸你的猫,甚至规划你的死亡,绝对没有比这更吓人的事了。

虽然,官方表示很多情况是因为算法的问题和Alexa的指令程序问题。否定了是机器“成精了”的可能。

但谁不害怕有一天这些每天被你命令的家伙。开始在背地里研究你的生活,甚至引导你的人生呢?

吓得我立马拔掉了音箱的插头...

责任编辑: 夏雨荷   来源:英国报姐 转载请注明作者、出处並保持完整。

科教热门

相关新闻

➕ 更多同类相关新闻