在欧盟出手治理网络暴力的背后,是东南亚劳工们无尽的心理创伤

摘要

欧盟要求几大科技巨头在 24 小时内删除相关的不当言论,但这背后有不少东南亚劳工的辛酸。

欧盟出手治理网络不当言论

打开各种带有网络社交互动性质的网站或 App,最让你讨厌看到的是哪些内容?对于具体的某一个人来说,你或者他当然都会有不同的喜好,但无疑有一类内容是你我这绝大多数的普通人所无法容忍的,那就是带有伤害性质的非法言论。

具体的内容我想不用我举例,你和我都能从一些网友恶意的留言和上传的内容中看到这些令人不悦的内容。事实上,这个现象不仅仅是在中国,它已经成为了一个世界性的问题。如果有朋友了解过 Twitter,那你可能会知道 Twitter 之所以走到今天这个青黄不接的局面,有很重要的一个因素就是他们没有能够很好地处理自己网站上的那些恶意的内容,导致了大量的用户弃其而去,即使是被认证的名人们也无法得到保护。在 2014 年 8 月,著名歌星 Robin Williams 的女儿 Zelda 就因为屡受恶毒的攻击而退出了 Twitter。

ff_contentmoderation_g-768x1024.png

而最近,随着欧洲难民危机的逐渐升级,在各种社交平台上,围绕此事所产生的各种言论也愈演愈烈。处在风口浪尖的德国就在之前召集了 Facebook、Twitter 和 Google 这几家科技巨头,要求他们在 24 小时内处理掉自己平台上的相关不当言论。

而今天,欧盟委员会宣布,他们已经和 Facebook、Twitter、微软和 YouTube 这几大科技巨头达成了协议,这些公司将会审查那些出现在他们平台上的大量伤害性内容,并在 24 小时内删除。

在声明中,欧盟委员会委员 Vĕra Jourová表达了他的立场:「最近发生的这些恐怖袭击事件提醒了我们去消除网络非法仇恨言论的紧迫性。很不幸,社交媒体成为了恐怖组织影响年轻人、种族主义言论蔓延的工具之一。而我们的这个协议是向前的一大步,它能确保互联网仍然是一个自由与民主的集中地,并且欧洲的法律和价值观能够在这里被尊重。」

在之后的声明中,这四家科技公司都表示,他们将继续致力于打击非法仇恨言论,但同时仍然允许信息在其平台上的自由流动。

你在社交网络上看到的很多内容背后,都有他们的创伤

然而事实上,我们目前所看到的这些最主流社交平台上的内容都是已经被审查过了的,其中最主要的代表自然就是 Facebook。作为全球用户量最大的社交平台,它当然要做好内容的监管工作,但你可能不知道的是,在你所看到的那些内容背后,都有许多人的辛勤的劳动。

在过去的一些年当中,Twitter 和 Facebook 都依赖于将这些审查工作承包给外部的初创公司,而其中很大的一部分都在菲律宾。在不久之前,一篇名为《你吃的每条鱼,都可能沾着另一个人的血和泪》的文章传遍了朋友圈,它讲述了泰国海洋水产品捕捞行业里广泛存在了几十年的罪恶行径。而对于在菲律宾的这些内容审查者来说,他们的处境虽然没有那么糟糕,但也很值得我们这些「被服务对象」的关注。

ff_contentModeration_f.jpeg

Wired 在 2014 年 10 月发表了一篇长文讲述了这些菲律宾审查员的故事。他们每天要在条件非常简陋的工作环境中对着电脑工作很长时间,而每个月拿到的工资却不足 500 美元。但除了这些客观的工作条件之外,更值得人们关注的是他们的心理变化。就像 Wired 的记者在一开头所描述的那样:

「当我进入那个很大的工作机房之后,我看到了一位很热情的 21 岁女孩,她棕色的头发上还戴着几个俏皮的发饰。但她面前的屏幕上却显示的是一幅极其令人作呕的图片:一个女性性器官中插着两根假阳具。」

而事实上,他们每天都要对着这些非常恶心低俗的内容工作,从色青图片到恐怖组织的斩首视频,长时间的折磨之后,这些人都会遇到相似的应激障碍问题。甚至有许多整体健康顾问组织为了协助这些内容审查者走出心理障碍而纷纷成立。而根据相关人士的估测,全世界从事着这类社交内容审查的人超过了 10 万。

ff_contentmoderation5_g-1024x768.jpg

然而可能熟知这一切的科技巨头们却对这些熟视无睹。当你向他们询问有关事项的时候,他们总是向你不厌其烦地阐述他们对于用户体验的追求,但却拒绝透露任何有关此事的细节内容。Wired 在文章中就写道:许多科技公司和这些内容审查承包商之间签订的都是严格保密的协议,其中甚至禁止公司里面的员工同其他的竞争对手谈论相关的事宜。

西安大略大学从事媒体研究的教授 Sarah Roberts 就表示:「这也许能让我们看到我们对于互联网和科技的误解,事实上,他们也都是由人类操纵的。」

也许 AI 能改变这一切

不过,在看了以上的这些负能量内容之后,我们也不必对这些科技公司丧失信心,因为他们也在努力改变这一切。而 AI 技术可能就是他们最有力的武器。

Facebook 在 AI 上的努力众所周知,而他们也正在将其中的一些成果运用到自己的产品中去。根据 Facebook 机器学习技术在工程方面的应用的负责人 Joaquin Candela 的说法,在 Facebook,目前已经有 25% 的工程师在日常使用他们内部的 AI 平台去做他们的工作,其中,他们已经在使用 AI 去排列动态消息的顺序、为视力障碍人士阅读照片上的内容等等。而他们也正在努力让 AI 技术取代人工做我们的内容审查者。

facebook-ai-candela.jpg

            (Joaquin Candela 在 MIT Technology Review 会议上做的展示)

「有趣的是,我们现在已经发现,由 AI 算法呈报的不合适图片数量已经超过了由人所报告的,」Candela 如此说道。但情况还未到一个完全乐观的局面,因为要做到完全覆盖,在目前还不现实。

根据 Facebook 在核心机器学习技术方面的负责人 Hussein Mehanna 的说法,在 Facebook 上,每分钟就有超过 40 万则新的动态发布,而在各种名人及公开主页上的留言则超过了 1.8 亿条。而这也为 Facebook 处理不当内容带来了很大的挑战。

因此,只靠自己完成这件事显然是不现实的,所以从去年开始,Facebook 邀请了 Netflix、Google、Uber、Twitter 这几家科技公司一起来商讨有关 AI 技术的应用问题,目前它们的这个圆桌会议已经开到了第四或第五轮。

当然,目前 AI 还只能代替一部分人的工作,但毫无疑问它在这方面的潜力远远不止如此,在不远的将来,AI 肯定会代替人类完成绝大部分的此类工作。但我们需要在这条路上继续努力,同时,也不要忘记那些为此受到了很大伤害的内容审查者们。



文章头图来自 Wired

最新文章

极客公园

用极客视角,追踪你最不可错过的科技圈。

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

顶楼

关注前沿科技,发表最具科技的商业洞见。