全球未来AI规则制定者们将在两天后聚集北京,共同谈论责任与未来

摘要

全球未来AI规则制定者们将在两天后聚集北京,共同谈论责任与未来

经历了几次繁荣与低谷的人工智能,在去年 Alphago 打败李世石之后,成为让无数人着迷的话题,也让越来越多的人开始思考技术发展与社会伦理之间的关系,正如英国《金融时报》所言,科技行业的确做到了一些神奇的事情,但我们的未来不能完全交给科技行业来决定。
因此,科学家之外,国际上有更多的人和机构在针对人工智能可能带来的就业、法律、伦理等社会影响进行研究和思考,为技术造福人类做更深远的探索,包括各国政府机构、国际组织、学术机构、产业界等等。
今日头条研究院的报告,提出目前我们大概可以将所有探讨和从事人工智能技术与社会研究的机构分成四大类:政府机构、国际组织、产业界和学术界,这四类机构呈现出如下几种状态(如图所示):




一、政府机构将技术和社会影响研究同步推进
多国政府将人工智能视为新的国际战略发展机遇,在大力推进技术创新的同时,也意识到人工智能的发展可能会产生一些社会影响。随着人工智能这项通用技术未来向各行各业大规模的渗透,其发展将对当前政府管理和国际治理提出新的挑战。美国、英国、日本等多个政府发布相应的规划中均考虑了这一点。我们正处在人工智能社会大规模应用的早期阶段,未来的经济社会影响尚不明确,各国都在尝试和提前布局这方面的研究。
二、国际组织争先恐后提高影响力
一些现有的国际组织非常活跃的组织或参与相关活动,争先恐后的提高影响力和话语权。
·联合国各机构在 ITU 的牵头下于 2017 年 6 月汇聚了全球众多意见领袖在日内瓦召开了 AI for GOOD 的大会,从技术标准、安全规范到道德伦理、就业和男女平等,是目前为止规格较高规模较大的一次会议,9 月联合国犯罪和司法研究所在海牙成立第一家联合国人工智能和机器人中心。
·其他政府间国际机构和非政府间国际机构,例如 OECD 和世界经济论坛很早就在围绕先关话题开展广泛的讨论。AAAI、ISOC、IEEE 等偏技术类的国际机构也逐渐加入了社会经济和道德伦理等议题。
三、学术机构参与积极踊跃
目前全球各大学术机构也在广泛开展和参与各项研讨,议题主要分四类:
·一类思考关注通用智能和超级智能阶段的问题,在理清人工智能与人类的关系,并将自己的研究观点带入到各项国际进程中。具有代表性的是剑桥大学新成立的新莱弗尔梅未来智能中心(Leverhulme Centre for the Future of Intelligence),他们联合了牛津大学,剑桥大学,帝国理工和加州大学伯克利分校的力量在全球范围内开展合作,研究人员大部分是哲学家,霍金也出席了此研究机构的开幕式并发表了演讲。在思考这类问题的代表性机构还有 Future of Life Institute 和 MIRI。
·另一类是更关注于现阶段或不远的将来人工智能将对社会经济产生的影响,以及治理平台和规则的设计。最具代表性的机构是:哈佛大学伯克曼互联网与社会中心和麻省理工大学媒体实验室。哈佛大学伯克曼互联网与社会中心有丰富的制度和规则设计的经验,参与了互联网根区文件的规则制定机构 ICANN 的组建和设计。今天人工智能走向大规模商业化,对治理提出了新的挑战和需求,与当初的互联网领域存在一定的相似性。哈佛大学伯克曼互联网与社会中心获得多个基金会 2700 万美元的赞助,正在和麻省理工媒体实验室一起开展基于事实的道德伦理和治理方面的研究。这个项目的研究人员来自跨学科跨领域的较多。
·还有一类是关注产业发展和社会影响评估。具有代表性的是斯坦福大学的人工智能百年项目,其中关于人工智能指数的研究,汇集了计算机领域的科学家们,尝试帮助人们对人工智能发展水平进行准确的衡量。这不仅有助于投融资领域对人工智能应用市场有准确的把脉,也有助于社会科学家准确判断社会影响的程度。
·另外,我们看到像 NIPS 偏技术类的学术会议也逐渐加入了社会经济和道德伦理等议题。
四、产业界正未雨绸缪
应对技术对社会带来的风险与挑战,是全球化的科技公司需要承担的社会责任。产业界非常关注人工智能对社会影响,最终希望人工智能能更好的商业化,更可持续的服务好人类社会。我们看到,广泛参与全球各项进程的讨论的大部分是美国的科技巨头和部分投资类的机构,主要呈现几种形态:
·内部主动成立研究小组开展研讨。例如,微软成立了人工智能伦理委员会(AETHER),他们旨在考虑开发部署在公司云上的新决策算法。Google 成立了自己的人工智能伦理委员会,正在测试如何纠正机器学习模型的偏差,如何保证模型避免产生偏见。投资机构也成立了这个领域的研究机构,如 Open AI。
·成立联盟等行业组织,例如亚马逊,微软,谷歌,IBM 和 Facebook 联合成立了一家非营利性的人工智能伙伴机构(Partnership on AI),苹果于 2017 年 1 月加入该组织。
·委托第三方的研究机构开展研究,如 Tesla1000 万美元委托 Future of Life Institute 开展的研究,并于 2017 年 1 月初在加州举办了 Beneficial AI 大会,发布了「23 条阿西洛玛 AI 原则」,主要倡导 AI 研究的目标应当是打造惠及社会大众的智能,而不是无目标的智能。
·咨询公司也非常关注这个领域的进展,包括普华永道等,并在持续发布相关研究报告。
总的来看,目前全球还处于早期研讨阶段,全球目前就这些议题尚未达成共识,也未形成一个能将各利益相关方诉求聚在一起,制定相应的国际行为准则或规范的核心平台。
中国在人工智能领域的发展备受国际社会的关注。十九大报告提出推动人工智能和实体经济深度融合,中国政府发布了《新一代人工智能发展规划》,将人工智能的发展上升到了国家战略的高度。人工智能时代不同于其他几次工业革命,中国是有机会引领全球发展,这就意味着其对经济社会的影响可能没有前车之鉴,需要同步开始研究。《新一代人工智能发展规划》非常重视这一点,战略咨询委员会中不仅仅有科学家,还有社会学家。
我们看到,优越的政策环境、繁荣的应用创新和丰富的用户数据为中国人工智能产业发展提供了非常好的条件。中国产业界积极建立人工智能实验室,推动人工智能商业化。今日头条目前已将机器学习、文本分析、自然语言理解、计算机视觉和数据挖掘等人工智能技术应用在信息分发、社交、娱乐等多个领域,智能地连接人与信息。今日头条也是国内人工智能企业中率先进入美国、巴西等海外市场,并将人工智能技术及应用向海外输出的企业。
全球对中国科技企业充满着期待,国际社会关于人工智能与社会相关的讨论和行动未来也势必对中国科技企业国际化产生一定影响。加强国内外产业界和学术界的合作与沟通,关注人工智能与社会的研究,为中国用户关心的问题寻求更多全球的视角,让人工智能更好的造福人类,是今日头条研究院的一项重要的工作。
12 月 1 日,今日头条在北京举办以「人工智能与人类文明」为主题的「全球思想盛筵」邀请到众多国际人工智能标准与行业规则制定者共同探讨人工智能时代下人类的未来,包括:
UrsGasser(哈佛大学法学院教授、哈佛大学伯克曼互联网与社会中心主任)
关注领域:国际治理
项目名称:Ethics and Governance of Artificial Intelligence
项目单位:哈佛大学伯克曼互联网与社会中心、麻省理工大学媒体实验室
项目介绍:https://cyber.harvard.edu/node/99772
Yoav Shoham(斯坦福大学人工智能百年项目负责人)
关注领域:AI发展指数
项目名称:One Hundred Year Study on Artificial Intelligence (AI100)
项目单位:斯坦福大学
项目介绍:https://ai100.stanford.edu/
Irakli Beridze (联合国人工智能和机器人中心主任)
关注领域:人工智能和机器人的安全与监管
项目名称:第一个联合国人工智能和机器人中心于 2017 年 9 月在荷兰海牙成立
中心介绍:http://www.unicri.it/in_focus/on/UNICRI_Centre_Artificial_Robotics
Micheal L. Best(联合国大学计算机所主任)
Carla (国际电联EQUALS项目负责人)
关注领域:科技与女性
项目名称:EQUALS
项目单位:ITU, UN WOMEN, UNU
项目介绍:http://www.itu.int/en/mediacentre/Pages/2016-PR38.aspx
Cyrus Hodes(哈佛肯尼迪学院人工智能倡议执行主任)
关注领域:国际治理
项目名称:The AI Initiative
项目单位:The Future Society
项目介绍:http://ai-initiative.org/
John C. Havens(IEEE人工智能与道德伦理倡议执行主任)项目名称:The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems
关注领域:道德伦理
项目单位:IEEE标准局
项目介绍:http://standards.ieee.org/develop/indconn/ec/autonomous_systems.html

同时,还有Oxford项目研究组的成员...

他们将在此讨论「全球人工智能最新趋势」、「全球人工智能社会经济挑战」、
『人工智能与社会责任——科技公司需要做什么」等涵盖行业未来、技术边界与社会责任等全球共性话题。

打开极客公园App阅读更多内容

最新文章

极客公园

用极客视角,追踪你最不可错过的科技圈。

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

顶楼

关注前沿科技,发表最具科技的商业洞见。