在克赖斯特彻奇之后 Facebook承认AI无法阻止暴力直播

2019-06-17 13:05:11

许多人都在问为什么人工智能(AI)没有自动检测上周的攻击视频,”Facebook诚信副总裁盖伊罗森在今天发表的博客文章中表示。“AI多年来在许多领域取得了巨大进步,这使我们能够主动检测我们删除的绝大部分内容。但它并不完美。“

在可怕的克赖斯特彻奇恐怖袭击导致50人死亡之后,许多人质疑互联网的作用。一位作家认为这感觉就像第一次网络本地大规模射击,因为犯罪者宣布了他们对8chan的意图并将攻击流向Facebook - 之后更广泛的在线社区介入,在YouTube,Twitter和Reddit上无休止地分享了这段视频。

作为攻击者选择的流媒体平台,Facebook在悲剧中受到了特别的审查 - 包括需要多长时间才能做出反应以及它是否应该做得更多。Facebook随后发布了一个时间表,指出该视频在直播期间被观看的次数少于200次,而在主持人删除之前有4000次。为了转移一些责任,它指出“没有用户在直播期间报道了视频”,并且“视频开始后29分钟和现场播出后12分钟,”原始视频的第一个用户报告出现了广播结束了。“

简而言之,Facebook表示它不能在直播期间进行干预,因为它甚至都不知道这次袭击。

但Facebook的自动检测智能可以识别“违反我们社区标准”的内容呢?好吧,事件发生之后,Facebook确实设法对原始镜头进行哈希处理,并设置其算法以在Facebook和Instagram上查找和删除视觉上类似的视频。“一些变体如屏幕录制更难以检测,因此我们扩展到其他检测系统,包括使用音频技术,”Facebook副总裁兼副总法律顾问Chris Sonderby当时在另一篇博客文章中指出。

Facebook表示,在最初的24小时内,它在上传时删除了120万次攻击视频,之后又删除了300,000份。如果不出意外,这凸显了Facebook面临的巨大规模。拥有超过20亿用户,适度必将是一场艰苦的战斗,这是世界上所有人工智能都无法消除的。至少不是完全的。

限制

Facebook的一个更棘手的挑战是Facebook Live,它的服务让人们能够将自己的生活传播到世界 - 有时包括极度堕落的行为。AI需要大量的“训练数据”来做出明智的决定 - 例如删除特定的照片或视频。Facebook Live不仅支持以前从未见过的不可预测的内容,在严重暴力行为的情况下,Facebook表示(“谢天谢地”)没有足够的类似内容来训练其AI系统。

此外,Facebook 越来越多地接受实时视频游戏流媒体,这对于经过训练以识别暴力活动的AI系统来说是一个特殊问题。

“如果我们的系统标记了数千个来自直播视频游戏的视频,我们的评论员可能会错过重要的真实视频,我们可以提醒第一响应者在当地寻求帮助,”罗森说。

Facebook的人工智能面临的另一个巨大障碍是人们在许多方面仍然比机器更聪明,并且非常善于找到自动过滤器的方法。在新西兰恐怖袭击的情况下,一个“坏演员的核心社区”勾结重新上传不同版本的视频,略微编辑以规避Facebook的系统。事实上,Facebook表示它确定了超过800种“视觉上截然不同”的视频变体。

当然,并非所有这些都被恶意改变。有些人通过使用手机录制屏幕或从屏幕上拍摄镜头然后与朋友分享来为视频的发行做出贡献。这些视频被重新录制,重新编辑,重新格式化等等 - 导致庞大的视频库,这些视频的大小不同,足以让人们忘记Facebook的AI系统。

解决方案

所有这一切都不应影响人工智能在帮助Facebook等公司调节内容方面可以发挥的真正有用的作用。就在上周,Facebook透露它现在正在使用机器学习来主动检测复仇色情内容。

但人们将继续在监控用户生成的内容方面发挥重要作用,这比以往任何时候都更加清晰。此外,Facebook将不得不在一个对人类无法监控的平台上重新评估其审核方法 - 即使在人工智能的帮助下。

根据罗森的说法,Facebook现在正在寻找通过改进其音频匹配技术来发现同一视频的不同版本的方法。此外,他说,Facebook正在寻找方法,以确保审查现场直播的恐怖主义视频可以更加可靠地“加速”,并将内容提交给人类主持人 - 请记住,该公司表示在直播过程中没有得到一份报告。Facebook补充说,它的加速优先级主要集中在预防自杀,但它现在将这些努力扩展到其他类型的视频 - 听起来它可能需要提出一个全新的类别,如“谋杀”或“大规模杀戮”。 ”

“我们正在重新审视现场和最近现场视频的报道逻辑和体验,以扩大可加速审查的类别,”罗森说。

一个可能的解决方案是为实时视频添加时间延迟,但根据罗森的说法,考虑到通过网站流式传输的视频数量太多,这无法解决问题 - 换句话说,人们仍会看到视频几分钟后。

“更重要的是,考虑到用户报告的重要性,增加延迟只会进一步减慢视频的报告,审核,并且第一响应者会被提醒提供实地帮助,”罗森说。

如果人们对AI已经准备好自己解决平台的内容审核问题有任何挥之不去的期望,请考虑一下:Facebook已经在全球范围内雇用了大约15,000名人类内容审核人员。虽然不得不花费一天时间观看可怕的照片和镜头对精神健康的影响是一个严重的问题,但这些人类主持人也提醒人们,人工智能还有很长的路要走,才能将其留给自己的设备 -如果那一天到来

“人工智能是我们在平台上打击恐怖主义内容的一个非常重要的部分,虽然它的有效性不断提高,但它永远不会是完美的,”罗森补充道。“无论是我们团队中的人员审阅内容还是使用我们服务的人员并向我们报告内容,人们都将继续参与其中。”