诺兰专访:AI 不是原子弹,但将其捧上神坛最危险

摘要

人类放弃责任,才是最危险的。

这可能是英国著名导演克里斯托弗·诺兰,发布新片最好的时机,没有之一。

在《信条》(Tenet)因为新冠疫情「折戟」之后,导演的新片《奥本海默》(Oppenheimer)即将于一个月后开画。

这部讲述「原子弹之父」罗伯特·奥本海默生平的影片,聚焦于一个富有魅力和智慧的男人,如何率领「地球上最聪明的大脑」,攻克物理学难题的同时,发明了世界上最危险的武器的故事。

诺兰及其同辈人成长中对于「核威胁」的恐惧,在当下有了新的回响。

只不过,这次原子弹有了新的名字,叫 AI

ChatGPT 技术让人工智能再次大火,而对于新技术的恐惧和兴奋呈同样态势。数百位 AI 专家一同发布联名信,声明人工智能可能带来的「灭绝人类」的威胁。

连线 Wired 近期刊载了克里斯托弗·诺兰导演的专访长文,导演在其中阐述了对于当下热议的「AI 威胁」的看法,以及人工智能和 70 年前核威胁的比较。

曾经在《星际穿越》中用爱拯救人类的诺兰却认为,AI 最大的威胁,是人类有一种本能的欲望,希望将其造物捧上神坛,进而摆脱自己需要承担的一切责任

导演一针见血地指出,相对于奥本海默一辈科学家在科学与当权者之间的挣扎和反抗,当下 AI 从业者的「求监管」,是「虚伪」的。

同时,作为执着于胶片的老派电影人,诺兰对于生成式 AI 在影视创作领域的发展抱有期待,但自己想做的,还是「要给演员一个真实的氛围和环境」。

人类最大的危险,是放弃责任。」诺兰在采访中说道。

标题:How Christopher Nolan Learned to Stop Worrying and Love AI

链接:https://www.wired.com/story/christopher-nolan-oppenheimer-ai-apocalypse

作者: MARIA STRESHINSKY

编译:靖宇

以下为采访对话原文,编者进行了不改变原意的修整

毁灭世界,原子弹第一

问:感觉你和艾玛(诺兰的妻子,他一直以来的制片人)的工作,从某种程度上,一直在为《奥本海默》做准备。

诺兰:这就是我对这部电影的感觉。

我对所做的每个项目都有这种感觉。因为我试图在以前所学的基础上继续前进。每当你完成一部电影,都会有一些问题悬而未决。因此,在下一部电影中,你会把留下来的问题捡起来。

在《奥本海默》中,非常有字面意义,《信条》(Tenet,诺兰的前一部电影)中就提到了奥本海默。

问:所以他在你的脑海中已经存在了一段时间。

诺兰:奥本海默的故事已经伴随我多年。这是一个令人难以置信的想法——有人试图通过计算,来寻找理论和现实世界之间的关系,然后有一个非常小的可能性,他们将摧毁整个世界。然而,他们还是按下了按钮。

问:非常戏剧性。

诺兰:我是说,这简直是最戏剧性的时刻,在整个人类历史上来看。

问:很多人可能不知道,当我们在 1945 年投下炸弹时,这不仅是一个可怕的时刻,也正是这个时刻,让人们了解到人类现在拥有了可以消灭整个人类的能力。

诺兰:我对奥本海默的感觉是,很多人知道这个名字,知道他与原子弹有关,在美国历史的关系中还发生了一些复杂的事情,此外就没了。

坦率地说,对我来说,这就是我的电影的理想观众。那些什么都不知道的人将会得到最疯狂的体验因为这是个疯狂的故事。

问:你是指他的个人故事?

诺兰:观众应该了解,因为他是有史以来最重要的人之一。

诺兰御用演员希里安·墨菲在片中扮演奥本海默|豆瓣电影

问:电影里有一句台词,有人对奥本海默说,你可以让任何人做任何事。类似这样的话。他是一个出色的管理者,对一切了如指掌,在那个房间里,有些科学家在做 X,而在另一个房间里,那些科学家在做 Y,他是一个能把这一切记在脑子里的人。

诺兰:他知道如何通过他的角色的戏剧性来激励人们,投射他自己的光辉。他给所有的科学家、官员,每个人一个聚焦的目标。

问:他拥有真正的魅力。

诺兰:魅力,这是个完美的词。它让一切得以成形,这部电影经常涉及到这一点,正是他的魅力,让这些学者、这些理论家能够走到一起,用他们自己的双手建立起如此巨大、如此重要的东西。这是个奇迹。

问:谈到建立一个巨大的东西,我最近在温哥华的 TED 会议上,最有趣的会议之一是一系列关于生成式人工智能的谈话。很多发言者都提到了原子弹、核武器。最后一位发言者是一位技术专家——他谈到了人工智能不可避免的武器化。

演讲结束时他说,维持世界秩序的唯一途径是拥有更好的人工智能武器。那是一种威慑。这听起来很像人们对原子弹的看法。感觉你的电影找到了最合适的发行时机。

诺兰:我认为这种关系是一个有趣的问题。这是不一样的。但这是最好的比喻——这就是为什么我在《信条》中使用它——不假思索地向世界释放一项新技术的危险性。这是一个警告性的故事。我们可以从中吸取教训。

话虽如此,我确实相信,就改变和危及世界的技术而言,原子弹是独一无二的

问:而且这些技术的起源是不一样的?

诺兰:有根本的区别。

研究原子分裂的科学家们一直试图向政府解释:(核能)是自然界的一个事实,来源于上帝、或任何创世者。这只是关于自然的知识,它不可避免地将会发生。没有人可以隐藏它,我们没有创造,也不拥有它。他们是这么看的。

问:换句话说,他们觉得自己只是揭示了已经存在的东西。

诺兰:而我认为你很难对人工智能提出这样的论点。当然,肯定有人会这样做。

问:你一定是在炸弹的阴影下长大的。

诺兰:我是在 20 世纪 80 年代的英国长大的,我们有一系列核裁军之类的运动,人们非常、非常清楚核武器的威胁。当我 13 岁时,我和朋友们相信,我们最终会在核灾难中死去。

问:但你们没有,世界在继续前进。

诺兰:有一天,我和史蒂文·斯皮尔伯格谈起这个问题,他是在 60 年代古巴导弹危机的威胁下长大的。一样一样的。

在人类历史上,有些时候,核战争的危险对我们来说是如此的触手可及、触目惊心,以至于我们对它非常了解。当然,我们也只能担心这么久,然后继续前进,开始担心其他事情。问题是,危险实际上并没有消失。

问:对。我的意思是,我觉得一个月前,我们都在担心某些国家可能真的会使用核武器。

诺兰:我记得 80 年代的情况是,对核战争的恐惧已经退去,转而对环境破坏的恐惧。这几乎就像人类无法对单一一种威胁保持长时间的恐惧,我们与恐惧有一种复杂的关系

是的,某些国家一直在利用这种末日威胁和这种恐惧来摇旗呐喊。这让人非常不安。

导演诺兰工作照|环球影业

将 AI 捧上神坛,才最危险

问:和人工智能末日的威胁一样让人不安?

诺兰:好吧,人工智能在武器系统方面的增长,以及它将产生的问题在很多年前就已经非常明显,很少有记者费心去写它。现在有一个聊天机器人可以为当地报纸写一篇文章,突然就成了一个危机

问:我们这些做媒体的人,多年来一直在这样做。盲目追求。我们中的一些人正在写关于人工智能的文章,因为它可以使我们失去工作。

诺兰:这就是问题的一部分。对我来说,人工智能是一个非常简单的问题,这就像算法这个词。我们看到公司使用算法,现在是人工智能,作为逃避其行为责任的一种手段

问:请多解释两句。

诺兰:如果我们认可人工智能是全能的观点,我们就是认可它可以减轻人们对其行为的责任——在军事上、社会经济上等等。

人工智能最大的危险在于,我们将这些神一样的特性归于它,从而让我们自己摆脱了困境

我不知道这其中的神话基础是什么,但纵观历史,人类有这种倾向,即创造虚假的偶像,以我们自己的形象塑造一些东西,然后说我们有神一样的力量,因为我们做出了这些东西

问:这感觉非常,非常正确。就像我们正处于那个临界点。

诺兰:正是如此。

问:有了这些大型的语言模型,机器甚至下一步可能开始自学。

诺兰:洛杉矶时报上有一篇关于 ChatGPT 和 OpenAI 的有趣文章。它基本上 ChatGPT 是一个销售手段,OpenAI 现在是一家私人公司。他们有世界上最伟大的销售机器,而这是一个非常危险的东西。也许我们不应该推向大众,因为现在每个人都想要 AI 助手了。

这并不意味着这里没有真正的危险,因为我觉得有。但我个人,这只是我的观点,我认为危险在于放弃责任

问:人们一直说需要有一个国际机构来监管 AI。

诺兰:但这是科技公司最古老的政治伎俩。对吧?这就是,你知道,SBF 与 FTX 做的事(加密币交易所崩盘丑闻);扎克伯格多年来一直要求被监管。因为他们知道,我们选出来的官僚,根本搞不清这些问题。

问:正如我们从国会听证会上看到的那样?

诺兰:他们又能说啥呢?我的意思是,这是非常专业的东西,当权者对创作者和奥本海默——让我还是带回到奥本海默。

奥本海默的问题是,他非常看重战后科学家的作用——他们作为专家,必须弄清楚如何控制核力量。但当你看到发生在他身上的事情时,你就会明白,那是永远不会被允许发生的。

这是科学和当权者之间非常复杂的关系,它从未像奥本海默的故事那样被残酷地暴露出来。我认为可以从中吸取各种教训

奥本海默同样需要周旋于当权者和科学之间|Total Film

问:比如说?

诺兰:所以他试图从体制内开展工作,而不是转身就说,你知道,我们需要的是爱,或者有的没的。他的方法非常实际,但还是被击垮了。这是非常复杂的,我认为现在的这些「发明家」,他们说「我们需要被监管」是非常虚伪的

问:奥本海默希望科学能够被分享。

诺兰:他使用的是坦诚(Condor)这个词。坦诚。

问:他的想法似乎随着氢弹的出现而发生了变化?

诺兰:不,他也相信氢弹的事。这事有点意思,因为在某种程度上,有点剧透。但在另一个方面,那是历史,你能谷歌搜索。

在这个重要时刻,随着氢弹计划的推进,他开始发表演讲,他说,「我希望我能告诉你我所知道的。我不能。如果你知道我所知道的,你会明白,我们都必须分享信息。本质上讲,这是我们避免毁灭世界的唯一途径。

所以坦率是他认为最实际的手段。他认为联合国在未来是一个强大的机构,有真正的行动能力。他认为对全球对原子能的控制,才是确保世界和平的唯一途径。显然,这并没有发生。

问:他没有预见到现在正在发生的事情,民主国家的缓慢衰落。

诺兰:我认为他根本没看到这一点,当时还是一个非常乐观的时刻。

问:这就是为什么要有一个世界性的人工智能管理机构。

诺兰:对。但这是与拒绝受地域限制的科技公司打交道时的问题。

从制度上讲,科技公司被鼓励、并被允许规避政府监管。这已经成为一种「道德观」

顺便说一下,这把我弄的好像认为硅谷很邪恶,所有这些人都很可怕。我不这么认为。这只是体制(System),它就是这么运行的。

问:在安全问题层面,核武器的制造需要特定元素,但 AI 没有这个限制。

诺兰:在第二次世界大战期间,英国的核弹计划是非常复杂的。他们有很多伟大的科学家。但丘吉尔政府意识到,他们只是没有足够的资源。所以他们把他们的一切都给了美国人。他们说,你们有体量,远离前线有,有工业基础。

在我的研究中,我读到一个统计数字,关于参与制造第一颗原子弹的美国人的数量——大概在 50 万左右。数家公司参与,这是一个巨大的物理过程,这就是为什么到今天,一个国家偷偷做核试验很容易被发现。因此,有一些事情给我们一点保证,这个过程可以被管理。

而我认为这些限制,没一个适用于人工智能。

问:对,确实不使用于 AI——特别是当我们所谈论的人工智能的一些东西是一种「更软」的威胁。飞速蔓延的虚假信息,技术上的失业。

诺兰:确实,但我不太——我觉得人工智能仍然可以成为非常强大的工具。我对此持乐观态度,我真的很乐观。

但我们必须把它看作是一种工具,挥舞它的人仍然必须保持对挥舞该工具的责任。如果我们赋予人工智能以人类的地位,就像我们在某些时候对公司所做的那样,那么是的,我们将有巨大的问题

AI 很好,但坚持传统

问:你是否看到人工智能中的美妙之处,特别是在电影制作方面?

诺兰:哦,当然。整个机器学习应用于深度伪造技术(Deepfake),这是在视觉效果和音频方面的一个非凡的进步。从长远来看,在环境营造方面,例如造出一扇门或者窗子。如果将事物外观、事物的反光等等大量数据汇成数据库,它将是非常强大的工具。

问:你会用 AI 去创作吗?

诺兰:我是非常老派的「模拟」(Analog)电影人。我用胶片拍摄,试图给演员一个完整的现实。

我对技术的立场,就其与我的工作的关系而言,是我想把技术用在它最好的地方。例如,如果我们做一个特技,一个危险的特技。你可以用更显眼的威亚来做,然后再后期抹掉,类似这样的事情。

问:意思是这将提高视觉效果的便利性和效率。

诺兰:这不是空手套白狼,它是从一个更详细、更数据驱动的想法出发的。它可能最终打破动画和摄影之间的屏障,因为它是一个混合体。

如果你告诉一个艺术家,比如说,画一张宇航员的照片,他们是根据记忆或参考资料来进行发明。有了人工智能,这是不同的方法,你实际上是在使用整个图像的历史

问:使用真实的图像。

诺兰:使用真实的图像,但以一种完全的、根本性的重建方式——这当然会引起重大的艺术家版权问题,而这必须得到妥善处理。

影片试图还原奥本海默和爱因斯坦的交流场面|环球影业

问:让我们回到科学和你的电影上来。在你客串编辑的 2014 年 12 月的《WIRED》杂志中,有一句话,你说:「讲故事和科学方法之间的关系让我着迷。这并不是真的关于智力上的理解。那是一种把握某种事物的感觉」。跟我说说你对科学的热爱吧。

诺兰:嗯,我一直对天文学和物理学问题感兴趣。我在《星际穿越》中探索了这个爱好。当我弟弟(乔纳森·诺兰)写剧本时,他会看爱因斯坦的思想实验,他发现其中一些实验有一种特别的忧郁感,而那都是与时间中的部分有关的。

比如,被分开的双胞胎,一个被带走回来后,另一个长大了一些,你知道吗?爱因斯坦在思考物理学,和你如何做这些思想实验,你如何构思这些想法,有非常相同的「文学性」(literary quality)。物理学家需要的可视化过程与文学创作没什么不同

问:你在电影的剪辑阶段有这样的感觉吗?

诺兰:我在电影制作的每个阶段都有这种感觉。我的很多工作是试图表达对事物形状的直觉和感觉。这可能很困难,也很复杂。

问:我发现,如果我正在创作一个故事,但我不知道结构、流程,那就有问题了。我无法以一种有意义的方式谈论这个作品。

诺兰:我以一种非常地理或几何学角度来思考结构和模式。多年来,我试图采用一种从头开始的结构方法,但最终它是一个非常本能的过程: 这种感觉是否有一个叙事的形状,以及它是如何形成的?我很着迷地意识到,物理学家进行着非常类似的过程。真的很有趣。

问:也许这是对《星际穿越》的致敬,但物理学家似乎总是如此深爱物理学。

诺兰:我热衷于追求真理,热爱科学方法。我讨厌看到它被媒体中的科学家或代表科学家发言的媒体所歪曲。纯粹的科学方法,以及科学不断寻求自我反驳的想法,让它比宗教或者其他任何东西,都更能提升人类的思维。

问:在这次采访之前,我和我母亲一起看了你的电影。她感觉你的电影可能传递一种非常反消极主义的信息。《敦刻尔克》、《星际穿越》、《蝙蝠侠》。或者,这是乐观主义?

诺兰:《盗梦空间》的结尾,正是如此。有人对那个结局有一种虚无主义的观点,对吧?但同时,他也向前看了,和他的孩子们在一起。这种模糊性不是一种情感上的模糊性。对观众来说,这是一种智力上的模糊。

有趣的是,我认为《盗梦空间》和《奥本海默》的结局之间,有一种有意思的关系可以探讨。奥本海默有一个复杂的结局、复杂的感情。

问:早期观众的反应如何?

诺兰有些人离开电影时处于绝对崩溃状态。他们说不出话来。那些存在于历史和事实层面的恐惧,电影都有表现。但对人物的爱,对关系的爱,和我之前所有的作品一样强烈。

导演在洛杉矶的家中,影片由其子拍摄|MAGNUS NOLAN

问:还有主题的复杂性。

诺兰:奥本海默的故事,是所有不可能的问题的集合、不可能的伦理困境、悖论。他的故事中没有简单的答案,只有困难的问题,而这正是故事如此吸引人的原因。

我认为我们能够在影片中找到很多值得乐观的东西,但有这样一个压倒一切的大问题在上方悬着。我觉得有必要在结尾处提出一些问题,让人们在脑中回味,并引发讨论。

问:在原子弹投下之前和之后,奥本海默的脑子里会想什么?你认为在他会怎么想?

诺兰:答案就在影片中。我是以第一人称写这个剧本的。这是我对西里安(希里安·墨菲,片中奥本海默饰演者)说的: 你是观众的眼睛。他做到了。大部分的故事,我们都没有超出他的经历。这是我传达这个问题答案的最好尝试。

问:我对将看到完整作品这事有点紧张。

诺兰:我想你可能要等很久才行。这是一种强烈的体验,因为它是一个强烈的故事。我最近给一个电影制片人看,他说这是一部恐怖电影,我并不反对。

有趣的是,你之前用了虚无主义这个词,我不认为我的作品能和虚无主义沾边。但当我开始完成这部电影时,我开始感觉到这种颜色,在我的其他电影中没有,纯粹的黑暗。它就在那里,这部电影与之抗争

问:会影响到你吗?你睡得好吗?

诺兰:我现在睡得很好,完成制作时感到松了一口气。但我非常喜欢看这部电影。我想当你看到这部电影时,你就会明白。被可怕的事情所吸引是一种复杂的感觉,你懂吗?恐怖空间就是如此展开的。

问:你的孩子看过吗?

诺兰:是的。

问:他们以前知道关于奥本海默的事情吗?

诺兰:在我开始写剧本时,我告诉我的一个儿子,他真的对我说:「但现在没有人真正担心这个问题了,核武器。」两年后,他就不这么说了。世界又变了。

这对我们所有人来说都是一个教训,但对年轻人来说尤其如此。

世界变化很快

头图来源:MAGNUS NOLAN

最新文章

极客公园

用极客视角,追踪你不可错过的科技圈.

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

张鹏科技商业观察

聊科技,谈商业。