“谷歌Facebook开始部署文案封杀系统 可自动删除极端主义视频”

本篇文章1315字，读完约3分钟

腾讯科技信息6月25日电据外电报道，相关人士称，互联网上最大的视频观看网站正在悄悄地利用自动屏蔽系统删除网站上的极端主义副本。

这是互联网企业向前迈进的一大步。 极端主义分子的攻击范围逐渐扩大，从叙利亚蔓延到比利时和美国，全世界的政府开始向网络公司施加压力，要求删除网站上宣传暴力的文案。

谷歌(微博)旗下的视频网站youtube和社会交流互联网脸书包括在这些互联网企业中。 为了阻止或迅速拆除伊斯兰国家组织的视频和其他类似拷贝，部署了自动化的封锁系统。

这项技术开发的最初目的是识别和删除受视频网站版权保护的副本。 允许互联网公司搜索自动分配给每个视频的特殊数字指纹，并立即删除所有与数字指纹匹配的拷贝。

这样的阻止系统会阻止被认为不可接受的副本重新公开，但无法自动阻止以前从未看过的视频。

这些公司没有证实他们采用了这种技术，也没有证实他们是如何使用这种技术的。 但是，熟悉该技术的人可以对照客户发布的视频和被禁止的拷贝数据库，识别不可接受的新视频，如斩首视频和煽动暴力的演讲视频。

这些知情人士不愿意探讨在使用该技术审查录像的过程中需要多少人才。 他们也不想证明被禁止的拷贝数据库的视频最初是如何被认定为恐怖拷贝的。

随着互联网企业继续就这一问题与企业内部、同行其他公司和其他感兴趣的利益相关者进行讨论，这项新技术将不断得到优化。

网络企业不愿意发声

4月底，美国总统巴拉克&bull； 奥巴马( barack obama )和其他欧美国家的领导人平均每个人都表达了对网络活动激进化的担忧。 因此，包括alphabet企业youtube网站、微博网站twitter、facebook、网站安全运营商cloudflare在内的多家互联网企业，在压力之下召开电话会议，讨论非营利组织发起的反极端主义项目，

这些讨论强调了这些世界上最有影响力的企业在应对恐怖主义、自由言论、政府和公司权力边界等问题上所扮演的重要角色和面临的困难。

目前没有企业公开支持这个反极端主义组织的系统。 事实上，他们担心外部力量会介入以保护自己网站的安全。

这与版权和儿童色情有点不同。 因为版权和儿童色情制品显然是不合法的复制品。 乔治·华盛顿大学极端主义项目的副主任谢默斯&bull； 休斯( seamus hughes )说。

休斯表示，极端主义文案是一个宽泛的概念，不同的互联网企业会给出不同的评价标准。

过去，大多数互联网公司依赖客户查看违反服务条件的副本，现在许多网络仍然这样做。 被客户标记的副本将在人类自行审查并发现违反服务条款后立即删除。

根据上述知情同意书，目前采用自动封闭系统的企业没有公开此事。 原因之一是担心恐怖分子可能会学习操作自己的系统，或者实行高压政策的政权组织可能会要求利用这一技术审查政治对手。

这些企业谈论它没有任何好处。 cloudflare公司的首席执行官马修&bull； 根据王子( matthew prince )，谁会公开夸耀自己的审查制度呢？

上周，在反极端主义项目首次公开讨论拷贝封锁系统并敦促大型互联网企业使用后，这些知情人士证实，互联网企业在路透社使用了该系统。

检查政策可能会受到外部的干扰

相关人士表示，4月电话会议由脸书全球政策管理专员莫妮卡&bull； 由比科特( monika bickert )牵引。 在会议上，facebook展示了各种各样的处理方案，包括反极端主义项目提出的处理方案。

这个反极端主义组织是弗朗西斯&bull； 汤姆森( frances townsend )和马克&bull； 由华莱士( mark wallace )等人创立。 汤姆森是美国前总统乔治&bull； 沃克和布鲁； 布什( george w. bush )提供国土安全保障方面的咨询服务； 华莱士在2004年布什竞选总统的竞选活动中担任副社长。

相关人士表示，这些互联网企业担心外部组织会决定不可接受的拷贝。

这次电话会议提出的其他处理方案还包括建立新领域的非营利组织和扩展现有领域的组织功能。 他们正在讨论的处理方案中还包括数字指纹技术。

各领域组织的模式可以参考非营利组织全国失踪和被剥削儿童中心( National Center Formissing and exploite DChildren )。 该组织利用一个叫做photodna的系统来识别已知的儿童色情图像。 该系统已被微软免费授权采用。

5月，微软向达特茅斯大学计算机科学家哈尼&bull提供资金和技术支持，帮助法里德( hany farid )与反极端主义组织合作开发photodna技术，并帮助利益相关者识别恐怖拷贝。

相关人士表示，在这次电话会议上，人们对反恐项目的提案表示了些许不安。 facebook的比科特也承认了他们的担忧。 她拒绝公开就这次电话会议和脸书的努力发言。 只是，他在声明中指出，脸书为了删除违反反恐政策的副本，正在与业内人士合作寻找更有效的方法。

最近几周，facebook向其他公司发送了问卷调查，征求他们对合作处理这一问题的各种方案的意见。

alphabet企业发言人威廉&bull； 菲茨格拉德( william fitzgerald )也拒绝对此次电话会议和该公司的自动封锁系统发表评论。

推特发言人称，这家企业正在判断反极端主义项目提出的处理方案，目前还没有最终决定。

一位谷歌前员工表示，除了打击盗版、与视频制作者分享收入等话题外，公司还讨论了如何利用content id (拷贝识别)系统已有很长一段时间。 相关人士表示，谷歌的复制识别系统比facebook早，在技术上更先进。

美国总统反恐高级顾问丽莎&bull摩纳哥( lisa monaco )在一份声明中表示，白宫欢迎旨在帮助企业更好地应对网络恐怖主义威胁的各种计划。 (音乐学)

来源：UI科技日报