YouTube的Notre Dame-9/11流感突出了AI的盲点

2019-08-06 11:03:53

YouTube可能还需要更多人类。那些摧毁阴谋理论的机器还没有削减它。随着周一世界各地的人们转向YouTube观看巴黎圣母院大教堂的烧毁,一个自动化系统附上了有关9月11日纽约恐怖袭击的背景资料,以直播火灾视频。

火灾的原因尚未确定,但当局表示这似乎是偶然的,而不是纵火或恐怖主义。

背景说明是由YouTube最近制定的一个系统发布的,旨在打击众所周知的关于登月或9/11等事件的阴谋。在这种情况下,该算法可能产生相反的效果,引发对火灾原因的猜测以及可能背后的原因。

这是人工智能失误的最新例子,也是我们在人工智能变得足够聪明以理解细微差别和背景之前还有很长的路要走的迹象。

在一份声明中,YouTube解释说,背景信息 - 来自不列颠百科全书的条目 - 被错误地放在那里,旨在保护用户免受在某些新闻事件后传播的假材料的影响。

YouTube的算法有不恰当的错误和标记视频的历史。哈佛大学尼曼新闻实验室主任约书亚本顿周一在一篇博客文章中指出了几篇文章。

例如,去年秋天,YouTube 在密歇根州立大学(Michigan State University)为“犹太人”(Encyclopedia Britannica)的“犹太人”(Encyclopedia Britannica)条目录制了教授退休的视频,并将大卫之星(Star of David)置于图像之下。教授Ken Waltzer曾担任该大学犹太研究项目的负责人,但Benton指出,视频标题或描述中没有任何内容提到任何犹太人。

YouTube的算法,大概是为了击败反犹太人的阴谋,不知何故单独这样做了。

当YouTube去年夏天宣布其反阴谋行为时,它表示将与人们普遍信任的消息来源,例如维基百科和不列颠百科全书,反驳虚假信息。它表示,无论视频是否支持阴谋论,它都会将这些来源的背景添加到具有共同阴谋主题(例如,疫苗接种,学校枪击或1995年俄克拉荷马城爆炸案)的视频中。

大型,值得信赖的新闻机构展示了圣母大火的视频。然而,YouTube的人工智能没有例外。

周一,该公司迅速修复了Notre Dame错误并表示其系统“有时会拨错电话”。它关闭了火灾视频的信息面板,但没有说它是否更广泛地看待这种做法。

本顿说:“我认为他们在做多少好事方面都来回徘徊。” “它确实解决了我们在Facebook和YouTube以及任何其他渴望全球扩展的技术平台上看到的核心问题。有太多的内容需要监控,你不能让人类监控每一个视频。”

相反,我们的机器显然仍然在工作中学习。

“当赌注很低时,出现问题是一回事,”本顿说。“当这是世界上最大的新闻报道时,看起来他们可能会有更多的人看到它。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。