原文：10AI Failures in 2017
来自：SYNCED
译者：夜风轻扬

译者注：2017年无疑是AI技术大放异彩之年，但是在这些令人瞩目新技术的风光后面，还有哪些不为人所知的失败呢？请见下文。

今年，人工智能（AI）程序 AlphaGo 和 Libratus分别战胜了人类围棋和扑克界的最优秀选手。尽管这些里程碑式的成就，显示了近年来人工智能的巨大进步，但是依然有很多人对这项新兴技术的成熟性存有疑问–尤其是今年人工智能界发生的许多糗事。

新技术在出现之初，经常会犯一些人类不会犯的错误，这里就列举一些人工智能界2017年出现的比较引人瞩目的乌龙事件。

一张面具攻克苹果人脸识别事件

利用人脸识别技术来解锁iPhone X，被视为目前最安全的AI解锁方法，苹果公司宣称该方法出现错误的几率是百万分之一。越南一家名叫BKAV的公司，使用一个利用3D打印生成的价值150美元的塑料面具，再通过化妆术就攻克了这项技术。BKAV首先扫描被测试人员的面部，然后利用3D打印机产生面部模型，再在该模型上粘上纸剪的眼睛和嘴巴以及一个硅胶捏的鼻子。这个事件在业界激起轩然大波，提高对于消费设备隐私，以及AI技术安全的重视。

亚马逊的Echo智能音响引发报警事件

广受欢迎的亚马逊 Echo 是功能强大的智能音响。但是万事没有绝对。一个德国人不在家的时候，他的 Echo莫名其妙的打开了，开始在三更半夜大声播放音乐，并且惊扰了四邻。不堪其扰的邻居报了警，警察只能破门而入关闭了音响。

Facebook聊天机器人关机事件

今年七月，有件事备受关注，两个Facebook聊天机器人因以旁人看不懂的语言进行交流而被关闭。随后有关超智能语言的流言四起，Facebook不得不出来解释说这些神秘字符不过是语法编码的疏忽造成的。

拉斯维加斯自动驾驶巴士首秀撞车

今年11月的拉斯维加斯，一辆自动驾驶大巴在一片喧闹声中开始了她的首秀–魔术师Penn & Teller也在排队等候乘车的名人中。然而仅仅两个小时后，大巴就和一脸货车相撞。尽管在技术上，大巴对这次交通事故没有责任-但是乘客还是抱怨大巴不够智能，不能在卡车慢速接近的时候及时避开。

Google 即时通信工具Allo表情符号事件

一名CNN员工在使用Google Allo时发现，收到带头巾人的表情符号后，会自动回复一把手枪的符合。Google尴尬地解释说这个问题已经修复，并且发表声明进行道歉。

汇丰银行（HSBC）语音身份鉴别应用双胞胎事件

汇丰银行语音身份鉴别应用是采用AI技术的安全系统，可以帮组用户通过语音命令来访问各自的账户信息。尽管该银行声称该应用和指纹身份鉴别系统一样安全可靠。一名BBC记者的孪生兄弟，通过模仿记者的声音，经过七次尝试，最终进入了记者的账户。汇丰银行随后立即修改这个错误，把失败尝试的次数设置为三。

Google AI识“枪”为“机”事件

MIT的一个研究小组，通过对一张步枪照片进行简单调整，就骗过了Google的云视觉API，让其误认为直升机。这种方法，又称为“不利样本”，通过对图像进行人眼难以察觉的修改，来诱导计算机进行错误分类。在过去，只有攻击者知道目标计算机内部机理的情况下，不利样本才会有效。而MIT小组在不了解系统信息的情况，略施小计就引发的误分类。

修改道路标识欺骗自动驾驶汽车事件

研究者发现通过采用涂抹或者粘贴对“停止”标志进行仔细修改，可以让自动驾驶汽车对这些标志进行误判。把停止标志里的词改为“love”或者“hate”，可以欺骗自动驾驶汽车的机器学习系统，让其误以为是“限速45”标志，并且屡试不爽。

AI颜色命名事件

机器学习研究者 Janelle Shan训练一个神经网络来产生新的绘画颜色，并给每个颜色起个名字。颜色看起来赏心悦目，但是它们的名字确实千奇百怪。即使经过很少的训练，该模型依然将天蓝色标记为“灰色阴”，将暗绿色标记为“灰褐色”。

亚马逊虚拟助手Alexa购物事件

亚马逊虚拟助手Alexa可以帮组在线购物。但是有时候是不是过于热情了？在1月，圣迭戈新闻频道CW6报道称，一个6岁的小女孩只是告诉Alexa她想要个玩具屋，随后就“被订购”了 一个，价值170美元！这还不够，当电视里的主持人重复小女孩的话，说“我喜欢小女孩说‘Alexa 给我定一个玩具屋’”，一些观众家的Alexa “闻声而动“，忙不迭地下单给户主订购玩具屋！