向社交网络上的恐怖主义开战,你可能还需要一点点算法

恐怖组织 ISIS 在社交网络上进行招募和宣传已经让科技公司倍感头疼,政府部门也开始要求 Facebook、Twitter 和 Google 等公司加强力度移除恐怖组织的极端言论。但是无论是 Facebook 还是 Google 在内容审查上都没有太多经验,所以恐怖主义极端言论仍在社交网络上盛行。

现在,一个非营利组织组织开发了一个智能算法,能够自动识别和删除恐怖主义极端言论。于此同时,社交网络的用户也开始担心言论自由会算法破坏,还有人担心这种做法会让恐怖主义组织更加激进。

这个非营利组织是位于纽约的 Counter Extremism Project (CEP),专注于在互联网上追踪恐怖组织,他们开发的这个算法名叫 eGLYPH。

eGLYPH 使用了一种将字符组成的字符串转换为固定长度的数值或索引值的哈希算法(Hash),来为每个被认定为与恐怖主义有关的图片、视频和音频分配一个固定数值,并根据这些数值自动删除每个被上传到社交网络上的相关文件。

eGLYPH 的开发者是美国达特茅斯学院计算机科学教授 Hany Farid,这个算法的原型是微软在 2008 年发布的儿童色情检查算法 PhotoDNA。但经过改进之后,eGLYPH 不仅可以识别被更改了大小和修剪过的图片,还能识别视频和音频。Youtube 为了保护视频版权也是用了类似的算法 ContentID 来为每个视频分配一个固定的数值。

CEP 已经建立了一个关于极端言论的数据库,名叫 National Office on Reporting Extremism (NORex),它将被开放给研究人员和社交媒体公司。目前 eGLYPH 已经完成了最后的测试,不久后科技公司就能从 NORex 数据库中调取数据,并用 eGLYPH 算法删除恐怖组织的极端言论了。

launch-of-isis-page-islamic-state

在此之前,欧洲和美国的立法机构已经多次要求科技公司在监管恐怖主义言论方面做出努力。上个月,英国的一个立法机构在一份报告中指出,Facebook 和 Twitter 这样的科技巨头在与 ISIS 的网络战斗中“有意识地”失败了,暗示这些公司对恐怖主义言论的监管不够积极。

但科技公司们纷纷出示数据表示自己正在努力。上个月,Twitter 官方博客宣布它从 2005 年年中到现在已经关闭了 36 万个恐怖组织账号,其中有 23 万个是今年关闭的。

在这篇博客里,Twitter 还宣布该公司已经开始和相关技术公司合作研发自动审查极端言论的算法,并强化其举报系统。6 月份,路透社也报道称 Facebook 和 Youtube 正在研发与 eGLYPH 类似的哈希算法审查系统,虽然 CEP 说他们正在和这两家公司讨论将 eGLYPH 算法应用在他们的社交网络上。

另一方面,这种将用户言论交给算法审查的做法也引发了人们新的担忧。人权组织早就指出过 Facebook 和 Twitter 已经成为了言论自由的看门人,他们现在担心这种自动化的系统可能会导致更加普遍的言论审查。

关注网络人权的 Electronic Frontier Foundation 组织的国际自由表达部门干事 Jillian York 说:“自动化的审查可能会带来误伤,让人们正常的言论表达受到限制。”

这种担忧也不是没有理由的,社交网络是目前人们最普遍使用的一种表达工具,而科技公司则在自己的社交网络上掌握着言论的生杀大权。但是如果这种审查被交给了算法或者机器人,你会觉得放心吗?

订阅更多文章