从盛名到骂名,算法的 2017 和走在十字路口的科技公司

摘要

已成国民应用的 Facebook、 今日头条们需要思考一个更严肃的问题:在算法帮助下获得海量用户、占据了用户每天大量使用时长后,如何让用户花费的每一秒钟更有价值?

公元九世纪的波斯数学家穆罕默德·本·穆萨·赫瓦兹米不该被遗忘。

去世几个世纪之后,赫瓦兹米的作品传入欧洲,给当地带来了小数和代数的概念,也为今天的计算机技术打下了基础。赫瓦兹米的拉丁语名字后来也成为了英语中算法(algorithm)的名称。

但这个名字,在 2017 年却开始背负起了更多争议。


从盛名到骂名

将特朗普送上权力顶峰的美国总统大选是 2017 年绕不开的网络热议话题,在这一话题下,Facebook 上广泛传播的政治广告成为了主角之一。10 月,Facebook 的创始人马克·扎克伯格亲自道歉,承认 2016 年的总统大选期间,有数千个煽动社会分化和政治问题的广告在 Facebook 上投放,而这些广告的主人是一家来自俄罗斯的网络机构。

扎克伯格在 F8 大会上就网络直播杀人事件对受害人家属表达慰问

这些广告之所以能够获取如此大量且准确的曝光,是因为背后操作的俄罗斯公司对 Facebook 的信息流算法有着非常深入的研究。在美国众议院情报委员会前不久举办的听证会上,调查小组最高民主党官员 Adam Schiff 就向 Facebook 的律师抛出了这样的指责:「俄罗斯社交媒体成功影响竞选的一个原因就在于,他们了解你们的算法,这些算法强调的内容,要么让人恐惧,要么让人愤怒。」

算法放大了人们的恐惧,并帮助外来力量干涉一个国家的民主,这样的故事让人感到毛骨悚然。在过去的这一年里,人们对待算法的态度已经悄悄发生了变化。几年前,托高速成长的科技公司们的福,算法在那时还代表着前沿技术和高端的计算机智能水平,几乎等同于政治正确,Google 用算法将搜索结果排序,Facebook 用算法为用户呈现他们喜欢看到的内容,这些都给人们的生活带来了积极的改变。

可是在过去的一年里,科技公司滥用算法的另一面开始越来越多的被关注,算法也受到了前所未有的重视,比起前两年的积极反馈,2017 年公众对算法的态度发生了 180 度的大转弯。


被拉下神坛的算法

Google 旗下视频网站 YouTube 使用的算法就在前不久获得了不小的批评声,YouTube 有一款针对儿童的频道,所有内容的抓取都由算法自动完成,但这一算法甚至还「诱导」孩子们看一些不良的视频。

「一切都在推动我们走向算法引导的定制化产品,这让我非常担心,」美国前总统奥巴马的首席战略师 David Axelrod 曾如此表达过对政治和媒体未来的担忧。

但除了担心之外,也有人提出了不一样的看法。马里兰大学的教授 Frank Pasquale 就对 Facebook 将算法「拉下神坛」表达了赞许,「总统大选背后的一系列事件让人们开始真正理解算法系统的力量。」Pasquale 认为,比起以往,今天的算法失去了当年的威信,它更容易被质疑、被讨论。Pasquale 认为这种改变的分水岭是欧盟最高法院在 2014 年做出的一个决定,即从 Google 等互联网大公司的手中夺回公民的「被遗忘权」。「这是早期关于算法系统的竞争和公共义务的争论。」

有关算法的争议同样发生在地球另一端。

元旦假期之前,今日头条被网信办约谈的消息成了2017年最后的热门新闻。24 小时的关停整改之后,今日头条宣布关闭社会频道,同时封禁、禁言 1101 个低质内容的自媒体账号,此外,1 月 4 日还有消息称,为了加强内容审核,今日头条正在大规模招聘内容审核编辑岗位,总的招聘规模在 2000 人左右,党员优先。

截至2017年 8 月,今日头条的月活跃用户已经超过 2.4 亿,这个快速成长起来的信息巨兽已经成为许多国内用户在手机端获取信息的主要来源。但随着今日头条的规模渐大,用户的使用时间越来越长(截至去年 1 月的数据,今日头条月活跃用户平均每天使用今日头条超过 70 分钟),这款基于人工智能算法的信息流产品也逐渐暴露出了另一面。

对今日头条算法的争议从来就不少,但客观来说,今日头条依托于今日头条App,火山小视频,抖音,悟空问答等一系列高用户黏性的产品矩阵已经悄悄占据了数亿用户大量的消费时长,算法让扑面而来的碎片化的信息更有逻辑的被组织,解决了绝大多数用户对于信息的温饱需求,越来越多的用户事实上也在用脚投票成为头条的用户。

从商业的角度,占据足够多用户足够长的时间无疑是一个产品成功的标志,这是无数产品人梦寐以求的结果。但是作为一个国民级应用,这显然不应该是衡量产品的唯一标准。人们的信息消费正在升级,在被满足的同时,用户希望看到更多有价值有营养的优质内容,面对这些升级了的需求,显然不是靠捕捉用户兴趣,不断讨好用户这些既有的算法逻辑就能够满足的。


是算法的问题还是人的问题?

当然,针对 Facebook 和 Google 等公司的指责不该只针对算法和技术上的问题,而应该更针对发明算法的人和公司。这也是为什么参加听证会时,代表 Facebook 出席的是其首席法律顾问,而不是某个服务器。「我们不能把机器学习系统看做纯粹的技术问题,」微软的研究员 Hanna Wallach 说道,「他们本质上变成了社会技术领域的东西。」

但现在,Facebook 和其他公司所承受的压力有时会让算法成为人类和企业失败的替罪羊,有些说法甚至指出算法是有一定程度的自主性,这种将责任全权归咎到技术上的说法非常不负责任,同时也减少了我们实质上修复算法脚本问题的机会。

国内视频网站快手的创始人宿华就曾在极客公园的Rebuild 2017 大会上谈起了「算法的价值观」的问题。「算法本身是没有价值观的,但是算法是人去定义、搭建的。做算法的工程师、团队是有价值观的。机器不会无中生有产生一个算法,算法是背后有一群很优秀的人,去分析用户的问题、诉求,最后想出一套办法把它变成程序、代码,然后在计算机上运行。这样整个过程下来,实际上算法里面蕴含的是团队的价值观。」

宿华在极客公园 Rebuild 大会上

宿华同时说到了快手在内容审查上有着多道人工审核的流程,除了简单的审核以外,快手甚至还有「内容评级」和「专家委员会」的机制。

「妖魔化」算法是偷懒的做法,它会让我们容易对算法何以无处不在的原因视而不见。算法是唯一能让我们理解计算机时代海量数据的方法,它提供了一种优雅而有效的方式来让事情变得更加美好,甚至,让世界变得更加美好。


智能的算法与「手动」的平衡

不仅仅是算法,在过去这一年中,携程因为「捆绑销售」而被网友诟病,360 因为水滴直播引起了巨大争议,这些事件无论是规模还是性质都远远超出了产品本身,甚至引发全民热议,成为了社会各界都关注的严肃问题。


隐私权是科技发展过程中不可避免的一个议题,360 宣布关停水滴直播的同一天,Facebook 也因为产品设计隐私问题而引发了争议。当天,Facebook 宣布上线新功能,在用户同意开启后,Facebook 会自动帮用户圈出上传照片里的人脸,并给照片中的每个被圈出的人发出提醒信息。

新功能上线没多久就在网络上引发了网友的热议和恐慌,Facebook 出于保护用户隐私推出的提醒功能,无意间却也戳中了用户的隐私敏感点,当天,Facebook 慌张地发出公告,宣称这一功能必须由用户主动打开才能应用。

2017 年,很多科技公司的日子都算不上顺风顺水。越来越多的人们开始批评科技大公司们,算法问题也好,产品侵犯公民权利也好,甚至垄断、不公平竞争等等,针对这些的批评声背后,其实反映了科技公司在近几年逐渐成为社会主流力量的趋势。

无论是国内还是在全世界范围内,市值最高的公司们大多是互联网和科技领域的公司,科技公司的力量正在无限崛起,科技、互联网产品正在无限地融入人们的生活之中,原本只限于茶米油盐的生活,正在成为搜索引擎、电商平台和社交媒体的舞台,在科技力量崛起的过程中,人们的抵抗情绪日益高涨,这其实也是科技公司们不可回避的一个挑战。

每天,越来越多的人们花费越来越长的时间在 Facebook 和今日头条这样的产品上,这些产品其实已经获得了商业上的巨大成功,而在这之后,逐渐成为国民应用、互联网上水电煤的 Facebook 们需要开始思考一个更加严肃的问题:在拥有了如此大量的用户群、占据了这么长的用户时间之后,他们如何能让用户花在其上面的每一秒更有价值?

依托算法的优势,新兴的科技产品能够从传统产品中快速夺走用户的使用时间,但当这些基于算法的产品成为成长壮大为主流产品时,单纯使用原本用来「攻城拔地」的算法可能已经不再适合新的情况。算法当然是未来,但属于未来的完美算法还远远没有到来,在那之前,如果科技巨头们不「手动」弥补算法的缺陷,普通用户很可能对算法失去信任,这不仅会打击到产品本身,对原本属于算法的未来也将产生不可小觑的负面影响。

所以,在过去的 2017 年里,人们已经充分见识到了算法的威力,更认识到了算法的一些弊端,未来在2018年,我们会见到更多像 Facebook、YouTube、快手和今日头条一样聘用人工内容审查员的做法和解决方案,也许有人会认为这样一点都不智能,但在实现真正的智能之前,这是必不可少的一段曲折与摸索。 


部分内容编译自:Wired

插图&头图来源:视觉中国

责任编辑:早优夫斯基

最新文章

极客公园

用极客视角,追踪你不可错过的科技圈.

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

张鹏科技商业观察

聊科技,谈商业。