Google Photos混乱了：将黑人标记为大猩猩

黑人程序员艾尔萨尼表示Google Photos将他和朋友的照片标记为大猩猩

据《华尔街日报》网络版消息，谷歌在人工智能方面一直处于领导地位，但本周其图片应用Google Photos的一处重大失误显示出，谷歌的人工智能技术还有很长的路要走。

据一位名叫杰克·艾尔萨尼（Jacky Alcine）的程序员在Twitter上透露，Google Photos将两位黑人标记成了“大猩猩”。

“Google Photos你完全搞错啦，我的朋友不是大猩猩”，他在Twitter上写道。

谷歌随后向艾尔萨尼表示了抱歉，并表示正调整算法以修复该漏洞。

“我们很震惊，对于此事我们表示由衷的道歉”，谷歌一位发言人表示。“很明显，对于图片自动标记功能我们还有很多工作要做，未来我们会努力阻止此类事件再次发生。”

谷歌数周前刚刚推出Google Photos。当用户在该应用搜索图片时，谷歌会利用机器学习技术将照片分类，从而实现自动为图片添加标签等功能。当谷歌移除大猩猩类别后，该类别将不会再出现。

“我们虽然完成了很多，但还有很多工作仍待完成，不管怎样我们都会非常努力的”，谷歌社交主管约纳坦·尊阁（Yonatan Zunge）在Twitter上回复艾尔萨尼时说道。谷歌正努力提高肤色识别功能，将会更加注意对照片中人物的标签，他补充说。

这段小插曲显示出了人工智能和机器学习的不足之处，尤其是这些技术被运用于消费者身上时。未来谷歌仍有可能发布存在潜在缺陷的软件，之后再更新修复。虽然这种模式可以更快地向消费者推出产品，但如果漏洞比较严重的话，可能会使招致用户不满。

谷歌今年年初推出了YouTube儿童版应用，意图通过自动过滤、用户反馈可人工排查的方式将成人内容排除在外。但该系统疏漏了一些不适当的内容在该儿童版应用上，引起了用户的抱怨。谷歌发言人当时声称，要实现“100%的精确度是几乎是不可能的”。

当推出Google Photos时，谷歌承认该应用并不完美。但“大猩猩”标签事件让谷歌算法系统的缺点暴露的更加明显。

“我们需要从根本上改变机器学习系统，为其加入更多语境以使其能够理解文化敏感性”，人工智能初创公司Sentient Technologies的首席科学家巴巴克·浩德杰特（Babak Hodjat）表示。

他表示，机器学习系统不明白黑猩猩和大猩猩的区别并没多大问题，但如果将人标记为大猩猩则会显得非常无礼。

谷歌的系统可能并没有“浏览”足够的大猩猩图片以使其明白人和大猩猩的区别——更不会明白这种错误对人类意味着什么，他说。

“人类对于文化方面的差异很敏感”，浩德杰特说。“机器做不到这一点，它们没法理解这种类型的语境”。