在全球人工智能高峰论坛上,我们听尤瓦尔·赫拉利聊起 AI 和人类的关系

摘要

尤瓦尔·赫拉利是谁?以色列人类学家,《人类简史》《未来简史》作者。

我们应该怎样借助人工智能的力量推动社会发展?人工智能技术会怎样代替人类的工作?未来城市究竟和人工智能有什么样的关系?

关于这些问题,在 7 月 9 日杭州市人民政府主办的主题为「未来已来」的「全球人工智能高峰论坛」上,我得到了一些新的答案。本次大会上,汇聚来自科技领域的最具影响力的科学家以及学者们,他们对上面这些问题作出了诸多探讨,而演讲台的话筒完全交给了他们。

图灵奖获得者、康奈尔大学教授约翰•霍普克洛夫特 (John Hopcroft),讲述了人工智能数十年来的发展以及快速崛起背后的深刻含义,并对比了中美关于人工智能研究方面的异同,他认为「中国和德国在政府层面对于正在发生的科技变革有更多的意识。不过中国关注更多的是人工智能的应用而不是背后的理论,美国关注更多的是它背后的理论,这是教育系统上的区别。」所以应该考虑改变教职工和学校的评估矩阵,对基础研究领域投入更多。

vbox5011_MOXI6802_104758_small.JPG

阿里巴巴技术委员会主席王坚,则讲到「人类历史上最伟大的发明就是城市」,所以人工智能对于城市智慧化发展将会具有深刻的影响,并认为等到「大脑被连到互联网」的时候,将会是人类新的开始。

vbox4071_5M0A7603_120042_small_v1.JPG

本次演讲中,《未来简史》作者尤瓦尔·赫拉利的内容也非常引人思考,作为《人类简史》以及《未来简史》的创作者,他通过人类历史的简述和生活体验的类比,探讨了人类从诞生以来将要面对的最深刻的一次变革——AI 革命,认为人类从「有机体变为无机体」后将会「走出地球之外」。

在尤瓦尔·赫拉利看来,现在的人工智能虽然发展迅速,但不过是对于「智能」的研究,并没有触及到「意识」的层面,因为人类自己也很难知道意识究竟是什么。所以,当我们讨论人工智能时,应当明白这背后的危险性是我们自己的意识,要尝试去了解人类的喜怒哀乐背后的深层根源,会对人工智能具有帮助作用,因为「智能」和「意识」像硬币两面决定着人工智能的发展。

vbox4071_5M0A7497_111752_small.JPG

因为演讲内容较长,前面不过多赘述,感兴趣就直接来看看尤瓦尔·赫拉利当天的演讲:


我今天想跟大家说的,是人工智能和意识的关系。人工智能和人工意识,处在很伟大的变革边缘,这不仅仅是在历史上,实际上也是从地球有生命开始最伟大的一个变革。

地球诞生大概在 40 亿年前,40 亿年是一个很长的时间,但人类生命的变化当中没有什么发生了根本的变革,所有都是自然的选择而最终导致的结果。不管你是很小的泥巴虫,还是很大的恐龙。或者说,你可能只是一个人,你都参与到了这样的自然选择过程当中,因为你是有机物组成的。

而现在的变革,特别是 AI 以及生物科学的发展,在未来几十年,会改变人类变革的基本原则。我们的生命会由智能设计而控制,这并不是神所做的智能设计,而是人类的智能设计,是电脑、云计算所驱动的革命。同样,我们的生命会从一个有限的有机体变成无限的无机体。我们现在要创造第一个无机的生命体,这个生命体会超出我们的想象。

另外一个革命,是第一次走出地球以外。40 亿年来,生命都是存在于地球上的,因为物竞天择适应了星球的特别环境,所以不管是对人还是植物,它都没有办法在外太空生活,不论在月球,还是在金星,我们没有办法适应。所以电影中看到一个人坐上宇宙飞船搬到另外的星球生活,那只是电影,是科幻。但我们从有机体到无机体,从机器人到人工智能的过程,将会让我们在其它星球上生活变得可能,也变得更加容易。

人类需要重新认识工作

这样的变革对于人类来说会有很大影响,特别是对经济、政治。最明显最快速的就是在就业市场。因为随着 AI 发展,它会在很多任务上超过人类的表现。从驾驶到医疗诊断,成千上百万的人会没有工作。因为你不再需要出租车司机、卡车司机。

就像 19 世纪的工业革命,创造了新阶层,也革除了旧阶层。21 世纪 AI 的革命同样也会创造一个不工作的阶层,或者无用阶层。他们没有任何经济价值,也没有任何政治力量。这件事可能会在未来几十年发生,所以我们今天就要非常严肃的思考这个问题。不仅仅是为了开发新的经济模型,或者政治模型来解决这个问题。同样也是因为我们需要决定,对于今天的孩子来说要教他们什么,这样的话他们就会有工作,20 年之后会有相应的技能。

一个坏消息是,没有人知道未来的就业市场会是什么样。所以没有人能够预料我们未来的孩子应该学什么。今天做的很多工作到 40 年,50 年之后,肯定会被取代,他们需要重新改变自己,并在有生之年不断学习。我们要教给孩子的内容,是让他们有一个心理的灵活度,一个平衡度,如何不断适应自己的心理状态,适应生活。因为对于世界而言,最大的不变就是变化

vbox5011_MOXI6895_112323_small.JPG

人工智能也会在情感智能上比人类更出色,人类最后一道防线就是机器人、计算机还没拥有情感智能。如果说医生这个职业,计算机比人类在医疗诊断方面更好,它们可以非常迅速去处理和搜索海量的医疗数据,那么 AI 很快会比人类医生表现更好。但有人说我们还是需要人类医生,因为你跟医生有情感交流,医生有情感智能,可以非常好的识别出病人的情感,喜怒哀乐,并很好的照顾病人情绪,这是世界上任何一个好医生都能够做的事情。

但就算是诊断心理上的疾病,人工智能也可能比人类的医生更好。因为情感到最后其实也是一个生物模式,人类的医生要如何去识别一个病人的情绪状态呢,基本上他们会分析一些信息。从身体状况的表现和身体发出的信号来判断情绪,比如我讲的话和表现出的表情,识别出病人脸部肌肉上微妙的变化。从愤怒的脸到悲伤的脸,或者到开心的脸,他们会有细微局部的肌肉变化,医生才可以识别出病人。

人工智能也可以识别一个人愤怒的语调,或者快乐的语调,这叫模式识别。人工智能会比人类医生在未来的语音识别、脸部识别上做得更好,可以更好监督病人外部的一些表征,身体的一些动作,脸上的表情。人工智能可以比人类医生做更多,甚至是人类医生从来没做过的,也就是可以实时监控人类身体内的一些情况。我的血压,现在的心率,大脑部分的活动。如果把 AI 和生物治疗传感器连接在一起,人工智能会比人类更强大。甚至在情感智能上更胜一筹,可以更好回应人类情绪上的一些反应。

研究人类意识能够帮助发展人工智能

但有一件事情,人工智能是不能够和人类媲美的。这件事情在不久的将来也是会不断保持这样一个状态,人工智能在这方面不能战胜人类,那就是我们的意识。现在你会看到很多智能上的融合,但是人们对于智能和意识的定义还比较模糊。我想和大家说一下两者的区别,智能是解决问题的能力,比如说要诊断一个疾病,找出最好的诊断方式,解决问题需要智能

意识,在另一个层面来说是感知外部世界的能力,感受到快乐,感受到愤怒,感受到爱情等等。对于人类或者其他哺乳动物来说,都是通过情感,通过意识、感受来解决问题。它们是使用智能和意识的综合体来解决问题,我们看到这两个词会感到很困惑,而过去人工智能还没有发掘出意识,它们只是不断的发展智能。它们在意识上的发展是零,计算机在很多方面都会比人类好。比如说解决问题方面,但它们不能解决一些人类使用意识和情感感受来解决的问题,这是人工智能不能够达到的。

我认为大家对于这两个词有很大的误解,可能因为受到很多科幻小说的影响,我个人也非常喜欢科幻小说。但我认为有些科幻小说会带给大家很大的误解,让大家错误的了解什么是智能,什么是意识。因为科幻小说把一些事情都颠覆了,颠倒了。在很多科幻小说中讲到了机器人、计算机、人工智能,说计算机和人工智能得到了一些非常复杂的意识能力。它有了感觉,它有了情感。要么就是和科学家坠入爱河,要么变得非常愤怒,想要毁灭人类,这是 95% 科幻小说的情节。

他们对于 AI 的理解是错误的。因为到 2017 年为止,我们没有根据认为计算机会发展出意识,或者说计算机需要发展出意识来超过人类。也有可能计算机会不断演进,不断发展,朝着超级智能体的方向发展,但这是通过不同的方式。哺乳动物也在不断的进化演进,变成越来越智能的哺乳动物。过去几百万年也渐渐发生、产生出了意识。而计算机是采用了截然不同的路径,达到了和人类、哺乳动物一样的结果。

哺乳动物的演进历史是非常漫长的,他们需要几百万年的历史。而电脑、计算机,它们采取了捷径,在短短数十年采用了截然不同的方式,并发展出了极高的无意识的智能。我们正在经历这个大的发展,也许过几百年,几千年,人类会和机器融合在一起。

为什么计算机现在还没有意识,是因为人类作为计算机的创造者,对于意识的理解和它的含义知之甚少。我们对于大脑的理解,对于智能的理解是越来越多的。我们知道通过智能可以创造出智能的机器,但是我们不理解什么是意识。所以到现在为止,我们还不能够创造出一个有意识的机器。

意识不是一个有机体,它不像是我们的手、眼睛或者是腿。意识是一个主观的东西,像爱、疼痛、愉悦这种感觉。而这种感受是一个接一个的,比如说爱恨交织,或者愤怒交加,这才是组成了大脑意识的元素。

所以大家对于意识和大脑其实也有困惑,它们两者是互相关联的,但它们不是同一个东西。大脑是什么呢,它是一个非常复杂的组织,里面有很多神经元,很多化学物质。意识控制的是主观的信息流,我们每时每刻都感受到一些感觉,恨、爱。它不是非常形而上的东西,它是世界上最普遍的东西,也就是我们每时每刻所感受到的,这就叫做意识。

现在一些科学的结论,尤其是生命科学中,解释了大脑、意识,并说意识是从大脑中得出的,大脑产生了意识。它也解释了大脑是一个生物化学的载体,让我们能够处理数据,做出决策。

总结一下,在过去 150 年生物化学研究中,从达尔文开始,人们得出的是,生物体就是算法,这是一个最大的理论结果,是进化论的精髓。生物体,比如说人类、哺乳动物,都是算法。他们是机器,处理数据的机器,做出决定。所以我们的感受,我们的感官是这个大算法中的一部分。

意识研究依旧「前路漫漫」

那么,到底是什么感情,它该如何处理,如何做出决策,如何计算,如何处理这些数据。我们想象一个非常典型的问题,生物体每天都会面对的一个问题:狒狒在非洲的大草原上,他看到前面一棵树上有香蕉,它想吃香蕉。但是在树的不远之处还有一头狮子,现在狒狒面临两难的抉择,它需要做出一个决策,去拿香蕉,可能就会被狮子吃掉。或者做另外一种决策,这种问题的本质其实就是数学计算可能性的问题,到底哪个可能性更大。

vbox5011_MOXI6906_113412_small.JPG

如果狒狒不吃香蕉,死的几率多大。如果它吃香蕉,狮子吃掉它的可能性有多大,必须要计算两者的可能性谁更大。所以我需要去采集很多数据,关于香蕉的数据,上面有几个香蕉,香蕉的大小是多大。它们是青香蕉,还是熟香蕉,这会有完全不一样的结果。然后看一下狮子在哪里,是大狮子还是小狮子。它是刚吃过饭还是很饿,所以要采取一些数据,还要评估自己的身体到底有多饿。计算这个可能性可以帮助它做正确的决策,这需要几秒钟的时间收集数据,然后再做出决策,那么狒狒到底要怎么做呢。

它没有拿出一只笔一张纸计算可能性,所有狒狒的身体结构、意识、神经网络、大脑,正在不断的进行计算。在几秒钟的时间,它已经获取了大量的数据,对于这些香蕉树或者狮子的数据。并且在它的大脑中,数百万的神经元正在不断的燃烧,计算可能性。最后的结果不是数字的形式出现,它的结果是以一种情感,一种感受的形式出现。如果说被狮子吃掉的可能性太大,它就会产生一种非常害怕的情感。狒狒可能会逃走,感到很害怕。

如果说这头狮子在睡觉,有很多香蕉,它就可以去采香蕉,它的决定非常有勇气。狒狒就会挺起胸膛,爬树上吃香蕉。这是现在关于意识,关于感受的一些理论来源,它的例子能够帮助我们计算各种可能性,并且得出最后的结果,这也是世界对于我们生活的一种行事方式。

还有两个问题,在这个理论当中还有一些漏洞。我觉得科学的想法是对于宗教相悖的,宗教想要无所不知。科学对于不知道的知识是敬畏的,如果说有一些东西不知道,科学家会做出研究得到答案。在讲到意识和认知时,还有一些是我们不知道的,我们并不知道大脑是如何产生认知或者是意识的。我们可以找到其中的相关性,可以看显微镜或者扫描,看其中的联系。但我们不知道的是它到底是怎么发生的,也就是意识到底是怎么样做到的。

有上百万的神经元在发出相应的信号,是怎么样导致害怕、爱、疼痛的感觉,这方面我们一无所知,我们还不知道一个好的理论。讽刺的是,我们能很好的了解大脑,但我们为什么需要这个认知?很多年之前,当我们对大脑一无所知时,认知可以很容易做相应的解释。为什么狒狒从狮子那边逃跑,因为它害怕。为什么它想要吃香蕉,因为它渴望这个香蕉。

现在我们能够做更好的解释,并且能够明白神经元发出信号和处理的过程。狒狒看到一个狮子,然后一个神经元发出信号,到另外一个神经元,最后再到腿,让狒狒开始逃跑。我们做的研究对于认知有了更多的问题。如果没有这样的现象,没有主观的感知,可能神经元就没有发出信号。但它发出这个信号,是不是因为它有害怕的感觉呢。还是说只因为我们心理的感知,我们在这方面一无所知。

大概不久之前刚刚出来的一个理论:我们需要认知,是为了创造对于这个世界的理解,或者说大脑的理解。并且把我们自己放入到这个世界当中,如果说我是一个动物,我想要知道这个世界是怎样的,这样的话就需要大脑来让我有这样的意识。

随着人工智能的发展,我们知道可以在没有意识,没有认知的情况下做到一些东西。就像无人驾驶汽车可以在非洲大草原上跟动物一样奔跑一样,它可以在地上跑,但也需要地图。它需要一个自我处理系统,但它在这方面做得很好,不然也没有办法安全在道路上行驶。可实际上它并没有认知,无人驾驶的汽车可以和其它汽车做一个沟通,但当一个大卡车过来时,它并不会感到害怕。

我们对于认知的了解缺少相应的方法,或者是工具。如果我们想要研究大脑的话,就有很多非常成熟的工具。比如说有核磁共振、显微镜等等。用这样一些工具,我们可以看到这个神经元在动作。但却看不到我们的感觉,或者说害怕、痛苦、爱。

所以今天,我也不知道未来会怎么样,在 2017 年唯一一个能够接触到的认知,就是我们自己的认知。我可以看到你们的大脑,可以研究你们的大脑,而且是用非常成熟的工具,但是我却看不到你们的认知。我没有办法直接接触到你的感觉,你的情感,这是非常难的科学研究。

尝试更多方法的努力

科学最基础的一个原则,是在做研究时需要直观的看到它。认知呢,我们没有办法看,没有办法直接观察,唯一能看的就是我们自己的认知。如果说我们想要看认知时,可能会被恐惧、爱、愤怒所覆盖。

有一些比较古老的文化,在中国,在印度,或者在世界其它的地方,他们在几千年前开发出一种方法,能够帮助我们系统的观察自己的大脑,这种方法就是冥想。冥想一般都是和宗教相连的,很多情况下都是这样的。冥想实际上是一个工具,特别是对于这些邪教或者宗教的工具,但并不意味着这是它唯一的功能。比如我们可以使用书,科学家也可以使用书,科学家也可以试着用冥想的方法直接观察认知发生了什么。

我自己的一个例子。在牛津大学读博士时,我学到了维帕萨纳冥想。冥想的技能,在生活当中不管发生了什么,它都和身体感知连接得非常紧密。观察认知的方法就是观察身体的感知,因为认知和世界的联系中都有感知在其中。对于外部发生的事情都有感知,不管是气候变化还是邮件上看到的信息,或者是新闻,或者是过去的记忆,都会做相应的反应。

认知唯一感受到的,唯一做出反应的是自身身体的感知。所有生活当中发生的或者即将发生的,你都会有身体的感知,并且做出相应的反应。不管是说产生渴望,或者说快乐,或者说不开心的感觉。或者你不喜欢,你都会有感觉,这就是为什么在外界发生了同样事情时,不同的人会有不同的反应。

比如说在 2001 年「9.11」时,成千上万的人在电视上看到恐怖袭击的发生,发生在纽约的世贸大厦。但并不是所有人的反应都是一样的,有的人感觉到害怕,有的人觉得非常生气。甚至有人会感觉到非常开心,特别你就是那个恐怖组织的成员。同样一件事情,你的反应却不一样。因为在电视上的画面和你大脑的反应之中,这中间是有一个不同的身体感知。我们的恐惧对于厌恶、开心、爱的感知是不一样的,所以要调查来研究认知。

vbox5011_MOXI6913_114742_small.JPG

比如我要对愤怒了解得更多,为什么我要愤怒。通常我们看到外面的世界,来找到为什么我会生气,谁让我生气。这实际上是从外在关注愤怒,可能有人说了你不喜欢听的,才让我非常愤怒。这样的话,我需要对这个人进行控制,或者对这个情况进行控制。这样的话,我就不会再有这样不开心的愤怒感。但如果说你真的想了解到底愤怒是什么,那么你就需要观测在身体里面到底发生了什么时候,特别是在我感到特别生气时发生了什么。

有人四十、五十岁了,但他从来也没有观察过愤怒的基本过程。他们没有花过哪怕 5 分钟的时间,来观察到底愤怒是什么?我的认知或者身体当中对于愤怒是一个什么感觉?如果观察的话,会发现包括痛苦,这都不是外界世界的感觉,是认知生成的一种感觉,它是一种反应。

我并不是在说不要研究大脑,或者说智能只去研究认知,意识。我们需要找到很多好的研究,通过大脑的研究与智能联系在一起。认知,就像是硬币的另一面,像在挖一个地道,如果从两边开始的话会更容易一些。我们的大脑和认知就是硬币的两面,我们现在还不知道它们具体的关系,却已经知道它们就是硬币的两面。我们也知道它们并不是一样的,同样会花一些精力来研究认知或者意识,而不仅仅是着重于智能或者大脑。

了解认知或者意识是非常重要的。因为这其中所蕴藏的是人工智能会带来的巨大变革。我们要用这力量做些什么?作为历史学家,我在看历史时,看到的是在几千年前人类在获取权力上都做得非常好。但在权力转化为快乐方面做得并不是太好,我们并不知道怎么做。这就是我们比孔夫子那个时代、石器时代的人更有权力,但并不意味着我们比那个时候快乐上万倍的原因,因为这和认知相关。我们比祖先拥有更多,也期待更多,这也是人类认知对于快乐最大的反应。

我们的认知,对于快乐最大的反应是渴望得到更多。不管能够达成什么结果,或者能够拥有什么权力。如果我们没有办法了解或者改变认知的更深层次结构,那没有什么让我们最终满足。这当中存在着危险性,我们对于这样的创造和建造越有权力,就越会成为不容易满足,且不负责任的一群人。(编辑:早优夫斯基)

谢谢大家。

最新文章

极客公园

用极客视角,追踪你最不可错过的科技圈。

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

顶楼

关注前沿科技,发表最具科技的商业洞见。