部小说改编的同名电影上映。影片中有这样一个情节:一个发达的文明创造了一台超级计算机,用这台计算机来计算“宇宙的目的是什么”这一终极问题。许多年后,计算机给出一个令所有人莫名其妙的答案——42。人们费解之余,又建造了一台规模更大的超级计算机,来计算为什么宇宙的目的是42。正是这部小说创造了科幻界一个独一无二的幽默:宇宙的目的是什么,答案是42。这其实是一个没有任何意义的答案,以此来消解宇宙的目的这样一个终极问题所造成的那份沉重和压抑感。另外,这种无厘头形式的幽默也往往是一次性的,一旦有第一个人这样做了,再有人跟着学就显得无趣了。继续分析《银河系漫游指南》里那个关于“42”的幽默,实际上由此引申出的是决定论还是非决定论,可知论还是不可知论这一终极的哲学问题。在牛顿力学诞生后的两百多年里,科学家们一度以为这一理论描绘出了整个宇宙的终极真理,却忽略了它的尺度问题。事实上,这一理论只适用于宏观世界,在微观和宇观尺度上都会出错。进入20世纪,在宇观尺度上,广义相对论把牛顿力学升级、加强、扩展,可以更普遍地描绘宇宙;而量子力学则解决了牛顿力学难以触探到的微观世界的问题。然而,在黑洞和大爆炸奇点这样的地方,相对论和量子力学这两个理论都出现了差错。是否存在一个能够包罗万象的终极理论?爱因斯坦本人始终相信世界是理性的,相信有秩序上帝的存在,但最终还是失败在寻找统一场论的道路上。霍金曾经表(8)示:根据哥德尔不完全定理,终极理论是不可能存在的。在《宇宙的琴弦》这本书里面,作者布莱恩?格林认为弦论可以作为最后的统一场论来描绘整个宇宙,但同样也表示,这样的说法更多只是一种个人的信念,没有办法自我证明。决定还是非决定,可知还是不可知,这样的终极问题将继续引诱着人类的思考。在寻找终极问题的道路上,《银河系漫游指南》里的超级计算机给了我们一个无厘头的答案;相比之下,阿西莫夫的科幻短篇小说《最后一个问题》为我们呈现了人工智能的最高水平——它成功解决了宇宙的终极问(9)题!小说基于“热寂说”,用极短的篇幅描绘了最为波澜壮阔的这样几个画面:人类文明经历了行星文明、恒星文明、星系文明乃至宇宙文明四个等级,与此同时,一台名叫“艾克”的计算机也经历了四个等级的升级,但始终无法解答那个终极问题,就是怎样才能让宇宙在热寂之后再起死回生。这台计算机不停地算,一直到整个宇宙都归于一片死寂,终于有一天,它计算出了可以(10)让宇宙起死回生的办法,于是它说:“要有光!”[许乐,副教授,山东大学(威海)机电与信息工程学院计算机系,264209](8)哥德尔不完全定理数学上的表述相当专业也相当晦涩,但这一定理却影响深远。用最粗略的语言来说,这一定理证明了一个完备的系统内部必然不会一致,由此推论,宇宙作为一个完备的系统,必然不可能用一个一致的理论来统一描述。(9)“热寂说”是热力学第二定律的宇宙学推论。按照热力学第二定律,一个封闭系统总是倾向于从有序态向无序态转变。假如这一定律适用于宇宙,那么宇宙作为一个最大的封闭系统最终会归于最大的无序态,所有物质都将完全均匀分布,整个宇宙成为一个“死”的状态,那将是宇宙的终结。“热寂说”自产生之后便一直像噩梦般挥之不去,是否正确至今仍悬而未决。(10)《圣经?创世纪》开篇:“1.起初神创造天地。2.地是空虚混沌。渊面黑暗。神的灵运行在水面上。3.神说,要有光,于是就有了光。……”在阿西莫夫的《最后一个问题》里,这台超级计算机最终解决了宇宙热寂的问题,让宇宙起死回生,成了《圣经》里创造天地的神。我,机器人,人类的未来 ——漫谈人工智能科幻电影I, Robot, and the Future of Human Beings: On Sci-Fi Film about A.I.文 秦喜清/Text/Qin Xiqing提要:本文简要梳理了人工智能电影的发展脉络,勾勒了人工智能想象的变迁,并在此基础上,探讨了人工智能电影包含的伦理疑难,包括机器人三定律以及人类对人工智能的处置态度。最后,本文讨论了人工智能想象对人类未来的思考。关键词: 人工智能 电影 伦理困境 人类未来 在《刺客聂隐娘》里,导演侯孝贤讲了一个孤独生命的故事——青鸾舞镜。镜像中的影子直让青鸾亢奋不已,在不停的舞动中衰竭而终。借着这个故事,我们听到了聂隐娘的灵魂独白——“一个人,没有同类”。这里不是要讨论《刺客聂隐娘》,而是这句“一060个人,没有同类”的独白恰好引出了本文的主题,即人工智能科幻电影对生命体的想象。如果我们把整个人类看作是一个整体的话,在茫茫无边的浩瀚宇宙中,人类自己不也正是处于“没有同类”的孤绝状态吗?不过,与对镜成双的青鸾不同,我们人类借助于影像表达,幻化、想象出各种不同的生命体,从外星人(《E.T.》)到类人猿(《猩球崛起》),从蓝色的类人生物那威人(《阿凡达》)到海底的非地球高等生物(《深渊》),当然还包括以人工智能(artificial intelligence)为特征的形形色色的机器人(《人工智能》《我,机器人》《终结者》《黑客帝国》《超验骇客》等等),这些不同种类的智能生物不仅满足了人类对宇宙智慧生命的好奇与追问,而且,作为人类心智的对象化和物化表现,它们也直指人类的自我心理和自我认知。我们创造了这些人类的“他者”,并通过他们反观人类自身。与其他纯粹的想象性智能生物不同,人工智能跨越想象和现实两界。在现实层面,人工智能指的是一项研究、开发、模拟和扩展人类智能的科学技术,它伴随计算机技术的发展而发展,其核心是对人类智能的模拟和开发,最典型的成果便是智能型机器和系统。1950年,英国数字家、计算机科学家阿兰?图灵发表了论文《计算机器与智能》,讨论了机器是否能有智能的问题,他不仅给出肯定的回答而且设计了著名的“图灵测试”,用以判断计算机是否已经获得智能。图灵的思考和方法受到普遍认可,为人工智能的探索奠定了哲学基础。与此同时,美国信息论创始人克劳德?香农提出计算机博奕理论,也为人工智能的提出奠定了基础。1956年,美国学者约翰?麦卡锡博士首次提出“人工智能”概念,并且认为智能机器(intellectual mechanisms)是人工智能发展的根本,也就是说要让机器的行为看上去像人类的智能行为一样。(1)这样,尽管人类早在19世纪就在文学作品中出现了对人造人的想象,如著名的《弗兰肯斯坦》,但是真正的机器人或者说人工智能的开发是从20世纪50年代以后开始的,它伴随计算机技术、控制论、信息论等学科的发展而展开。在几十年的研发过程中,围绕人工智能一直争议不断,起起伏伏。据报道,2014年6月,在英国皇家学会举办的“图灵测试”大会上,聊天机器人尤金?古斯特曼首次通过“图灵测试”,虽然这一结果很快遭到其他科学家的质疑,但它还是为图灵的人工智能设想投下了一束希望的曙光,(2)引发人们对人工智能的新一轮热情。目前,现实层面的人工智能仍然停留在弱人工智能时期,即计算机只能完成部分的智力活动,而强人工智能,即完全像人一样思考、推理的机器尚遥不可及。但在银幕上的虚构世界里,对人工智能的想象摆脱了现实的羁绊,它们借助于科幻的翅膀,将人工智能未来的多种可能性展现在人们面前。特别是自80年以来,数字影像技术推波助澜,电影中的人工智能想象更是恣意驰骋。近两年,科幻人工智能电影纷至沓来,《超能查派》《复仇者联盟2》《超能陆战队》《机械姬》《终结者:创世纪》等等,成为当下商业电影的主流类型片。在此,本文首先简要梳理一下科幻电影中人工智能的演进史,然后从一般性意义的角度理解人工智能想象的思想动机。我们要问的是,对人类而言,人工智能的想象到底意味着什么? 想象的演进:从机器到机器人在电影史上,最早的人工智能想象始于一个机械装置,这就是弗里茨?朗的“人造玛丽亚”《(大都会》,1927)。在这部科幻巨制中,机器-人(Machine-Man)的形象引人注目,它有着金属般的闪光外表,埃及塑像式的面庞,在博士发明家路特旺的指令下,可以站立起来并缓慢行走。大都会统治者为了打消工人对“女神”玛丽亚的信仰,要求路特旺把机器人做成玛丽亚的模样。通过叠印技术,弗里茨?朗描绘出了一个精彩的机器人肉身化的过程。闪烁的电流和环绕在机器-人身体外上下移动的光环,象征了机器向肉身人类的转化。在气势恢宏并带有神秘色彩的音乐衬托下,人造玛丽亚的生成过程即使在今天看来依然动人心魄,展示出朗的超凡想象力和创造力。人造玛丽亚代表了人类对智能机器人的朴素想象。至50年代,随着计算机技术的出现,人工智能的想象正式扬帆启航。如果说人造玛丽亚依靠的是没有科学基础的纯粹想象,是机器与人的硬性组合,是必须用小连线勾连在一起的两个物种,那么,有了计算机技术和人工智能理论假设之后,银幕上的人工智能便有了思想基础和想象的方向,走上了智能他者之路。无论这个他者的形式有多少变化,其中一个不变的核心便是机器如何接近大脑,机器如何获得“人性”。1965年,戈达尔在《阿尔法城》 中描绘了一个被计算机控制的世界,超脑计算机“阿尔法60”成为人工智能想象的先行者。这里,导演向观众呈现了一个机器控制下的非人世界。三年后,《2001:太空漫游》(1968)向观众奉献了人工智能想象的另一个重要成果:HAL-9000(哈尔-9000)。作为一台计算机,它同样有着超强的计算能力,能够模拟大部人脑活动,控制着“发现一号”飞船的运行。不仅如此,它已经具有一定的情绪和反应能力,在它略嫌呆板的人工声音背后,有着难以掩抑的自负和骄傲。实际上,影片最充满故事性和戏剧性的部分也就是哈尔与两名宇航员之间的争执。两位宇航员质疑哈尔的准确性并密谋关掉计算机,而偷窥到这一计划的哈尔则对宇航员发起反击。哈尔不仅具有情绪反应能力,而且具有自主判断、选择和行动的能力。不管是“阿尔法60”还是HAL-9000,他们引发的问题涉及到计算机与人类的关系,人工智能所代表的技术发展将把人类带到何方?两部电影以想象的方式回应了计算机技术的快速发展,同时也使《大都会》隐喻的问题得到了明确的表达。此后,科幻电影一直以纠结的态度展(1)参见约翰?麦卡锡、帕特?黑斯1969年发表的文章《人工智能的一些哲学问题》,见约翰?麦卡锡的个人网页,http://www-formal.stanford.edu/jmc/mcchay69/mcchay69.html。(2)《聊天机器人通过图灵测试遭质疑》,http://baike.renwuyi.com/2014-06/700.html。GENRE STUDY 类型研究061开人工智能想象,一方面是对技术发展的热情拥抱,肯定人工智能对人类的益处,另一方面则是严峻的反思和批判,对人工智能抱以深深的忧虑和恐惧。20世纪60年代的人工智能想象停留在对计算机(即机器)的思考上,进入70年代后,人形机器人开始登台亮相。《西部世界》(1973)讲述了在西部主题公园中仿真机器人失去控制、变成杀手的故事。借助于电脑、化妆和模型等手段,影片通过真人演员(尤尔?连伯纳)打造了一个可怕的机器人形象。此片的续集《未来世界》(1976)沿续着邪恶机器人的想象。与此同时,另一种机器人形象也登上了银幕。1977年,乔治?卢卡斯推出电影《星球大战》,影片乐观、热情地拥抱了人工智能,此片创造了两个可爱的机器人形象R2-D2和C-3PO。这两台机器人幽默风趣,一直是人类的好帮手。(3)有趣的是,卢卡斯的《星球大战》系列突出了机器的外形问题,R2-D2看上去像一台会行走的机器,萌态十足,而C-3PO基本具备了人的体形特征,只是从步态、金属外壳和声音等方面仍带有明显的机器特征。80年代的人工智能电影《银翼杀手》(1982)、《终结者》(1984)、《机械战警》(1987)以不同方式全面提升了机器人的形象。这些电影塑造了更加复杂和更加真实的肉身机器人,《银翼杀手》中的Nexus6复制人由真人饰演,突出表现机器人在力量和灵活性上的超越性,他们具有跟人类同样的智力,在外观上与人类无异;《终结者》中的T-800由微脑控制,除了强硬的超合金机械骨骼之外,更重要的是有着高仿真的表皮组织,除了不能自主思考之外,已经具备高度智能;《机械战警》则是一个人类身体和智能机器的混合物,电脑公司用计算机大脑复活一个牺牲警察墨菲的身体,打造了一个有记忆、有情感、机智强悍的机械警察形象。《终结者》在1991年的第二部续集中塑造了T-1000机器人杀手,这个液态金属机器人具有更强的变形、自我修复功能。从80年代开始,人工智能电影的重点之一是展示机器人的肉身化过程,它们借助于日益精进的数字特效,使机器人的肉身化过程变成视觉奇观,破裂的皮肤下裸露出机械部件《(终结者》),人脸与机械大脑的缝合(《机械战警》)、美丽人面下的电脑装置和腹腔打开后露出的电脑元器件(《人工智能》)等等,都给观众带来强烈的视觉体验。而且,一代代机器人在不断进化。《终结者》系列创造了一个机器人的进化链条,作为T-800的初级版本,人形机器人T-600《(终结者4》)明显地粗朴简陋,它身材庞大但主要以钢架骨骼为主,它们只是简单地包裹起来,尚没有仿真的皮肤组织,而且,功能也较为单一,以猎杀活的生物为目标。进化到T-800之后,就已经具有了高仿真的皮肤组织,它的升级版T-850(《终结者3》)无论是力量还是智力又有进一步的提升。而到T-1000便发展成液态机器人,可以操纵液态金属改变机器人的062外表形状。影片中,散落在地上的金属重新聚合成人形的场景极有震撼力。2015年推出的《终结者5》续写着机器人的进化,出现新的形象T-5000。在身体与体能进化的同时,人工智能也在不断地完成智能升级和类人化发展。让人工智能生物获得人类的情感、意识、自主性,这是很多科幻电影的重要内容。比如,《银翼杀手》中的复制人是从机器人进化为Nexus6,这些复制人被安排在外星世界做奴役,从事危险的探险和在其他星球开拓殖民地的任务。虽然设计的时候它们没有情绪反应能力,但数年后却进化出自己的情绪反应,会有仇恨、爱、恐惧、愤怒和羡慕等情绪。正是由于这些进化,复制人因自己短暂的寿命而产生恐惧感,因此,六个复制人冒险返回到地球,试图找到解决之道。进入新世纪后,人工智能想象更是主要围绕强人工智能的方向展开,即机器人如何获得像人类一样的思考和推理能力,如何像人类一样有爱恨、有梦想。斯皮尔伯格的《人工智能》通过一个机器男孩子戴维的历险经历,探讨的正是这样的问题。戴维是一个被输入了情感程序的机器男孩,在被人类养父母抛弃后,历尽艰险,努力想找到能够把他变成真人的仙女,从而实现自己变成真人、获得母爱的梦想。在这个令人心酸的故事里,机器人像人类一样有梦想、追求、欲望和自主行动的能力。《我,机器人》则进一步触及到机器人的精神问题,也就是机器是否有魂灵存在的问题。在这部电影中,机器人被设想为可自然进化,模拟性的认知有朝一日获得某种接近于精神(psyche)的东西。因为,片中的工程师朗宁博士发现编码的任意组合会生成一些意想不到的指令,从而使人工智能有可能获得自由意志和创造性。片中的NS-5就是这样一台机器人,它不仅拥有强化的金属身体,而且具有独立的思考能力。近两年,人工智能影片依然围绕机器人的智能进化展开,如《超能查派》中的查派、《复仇者联盟2》中的奥创、《终结者:创世纪》中的T-5000,都进化到与人类同样的意识水平。同时,移动互联网、全息投影、大数据、智能通讯、社交媒体等新的科技发展也融入到人工智能影片。除此之外,新的作品还集中塑造了不同以往的女性机器人形象,如《机械危情》2013)中的伊瓦、《她》(2013)中的聊天机器人萨曼莎,还有《机械姬》(2015)的机器人艾娃和京子。与男性机器人不同,她们将柔美的躯体与超人的体能相结合,展示出女性机器人特有的控制力、自主性、表达或操纵人类情感的能力。如果说,20世纪八九十年代的机器人主要是展示他们巨大的体能,近年来的机器人形象更强调机器人的智能优势,比如《机械姬》,(3)此后,这种正面的机器人形象不时出现在银幕上,比如《机器管家》1999)、《虚拟偶像》(2002)、《超完美娇妻》(2004)、《我的机器人女友》(2008),以及动画片《机器人总动员》(2008)等。((整部电影的叙事就是围绕机器人艾娃的测试展开,图灵测试成为一个重要叙事元素。在这类电影中,叙事是在人与机器人的对话和沟通过程中向前推进的;《她》讲述了一个聊天系统的故事,该系统在与人类的对话和交流过程中完成了智能进化。有意思的是,这部影片不再依赖实体想象人工智能,而是进入到对虚拟智能的思考。伦理困境《大都会》的人造玛丽亚可以说是人工智能的原型机。一方面,它的完全拟人的形象预言了人工智能的发展方向;另一方面,它本身所包含的两种功能——或作为人类的替身、帮助人类摆脱机器的束缚;或作为人类的敌人,给人类带来毁灭性灾难——涵盖了人类对机器人的两种态度和价值判断。事实上,从20世纪60年代开始至今,科幻人工智能电影都绕不开对这个伦理问题的思考。因此,我们一方面看到科幻电影的人工智能想象不断进化,与此同时,也看到无论如何变化,它们总是纠结于善与恶的道德思考之中,总是沉溺于人工智能与人类关系的思考。为什么人类创造和生产的人工智能变成令人恐惧之物?就像工业化时代,机器的出现解放了人类的生产力,但同时又使人类遭到奴役一样,人工智能同样也被呈现为一个悖论式的存在,一方面,它们是人类身体和功能的延伸,成为人类的帮手,另一方面它们又对人类的生存构成了威胁。《星球大战》中的3PO系列礼仪机器人,内置了礼节程序和语言功能,拥有译语Ⅲ交流模块能够让他们复述六百多万种语言,能够在浩翰的、多样的银河系文明交流中起到沟通作用,除此之外,它们还拥有高级神经网络,具有独特鲜明的性格、有情绪能力和个体意识。如果我们将现有的翻译软件跟3PO做一个比较,大概就可以体会到《星球大战》是如何发挥对人工智能的想象了。在《人工智能》中,机器人男孩戴维给那对暂时失去儿子的夫妻带来了安慰,使养母摆脱抑郁的状态,重新获得生活的乐趣和勇气;在《银翼杀手》中,机器人代替人类从事危险的探险工作和殖民地的开发;在《机械战警》中,孔武有力的机器人墨菲打击各种犯罪行为,给底特律市民创造了安定的生活环境。《我,机器人》更是展示了未来时代机器人对人类生活的全面侵入。当片中男主人公戴尔警察走在街头的时候,我们可以看到大量机器人穿梭在熙熙攘攘的街头,他们有着细小灵巧的身躯,承担着大量的服务性劳动,送快餐、运垃圾、做卫生。甚至在戴尔奶奶的家里,也有一位机器人保姆,给他们做着美味佳肴,呈现出一幅很美好的人机共存画面。《超能陆战队》中的充气机器人大白更是以白色、柔软的身躯塑造了一个善良、与人类友好的人工智能形象,它与黑色、钢硬的反派机器人形成了鲜明的对比。试图把大白变成无情杀手的行为受到了谴责,一个保护、帮助、温暖人类的正面机器人形象摆脱了对人工智能的黑暗想象。但比较而言,更多的科幻人工智能电影呈现的还是邪恶的机器人形象, 它们无坚不摧的体能、永不退缩的欲望驱动,都构成了对人类的威胁。这种威胁使人工智能电影常常包含令人恐惧和惊骇的场面,勾勒出忧疑、焦虑、不安的氛围,给观众带来复杂的情感体验。《银翼杀手》中,洛杉矶笼罩在迷雾、黑暗、杂乱之中,脸色苍白、朋克装容的复制人诡异而险恶;《人工智能》中,戴维被人类的养父母抛弃后,一直生活在阴郁、恐怖的世界中,丛林深处的垃圾场,混乱与颓废的艳都,散发着死亡气息的屠宰场,还有被洪水淹没的曼哈顿,没有明亮与温暖,蓝色色调煊染出的完全是一幅人间地狱的景象;《机械危情》中,脑损伤的士兵经过脑移植和身体再造,变身为智能机器人,他们终日被锁闭在黑暗之中,受到奴役和管制,黑暗中他们闪闪光亮的眸子令人不寒而栗。早期的反思和批判主要集中在人工智能的“非人性”的特性上,人工智能虽智力超群,但由于缺乏人类的感情,因此仍然是无法与人类沟通的异类,从而有可能给人类带来危害。戈达尔的《阿尔法城》率先对人工智能做出了这样的批判。这部电影刻画了一个受超大计算机“阿尔法60”控制的未来城。在这座城市中,人们被要求奉行“沉默、逻辑、安全、谨慎”的生活原则,人们成为概率的奴隶,逻辑至高无上,一切不合逻辑的东西都被视为犯罪,要被处决,任何情感的表露都被认为是犯罪行为,因妻子死亡而流泪是犯罪,要抓住所爱的东西也是犯罪,在这个城市的字典里没有温情、诗意、爱情、良知这些词汇,在这个城市的人群中没有画家、小说家和艺术家,这是一个技术统治下的众生如蝼蚁的社会。影片通过“阿尔法60”机器般的声音、不时响起的嘀嗒声和庞大的计算机设备,刻画了一个可怕的人工智能统治者。毫无疑问,戈达尔用科幻片的形式暗喻了对集权统治的批判,但他对快速发展的计算机技术本身的忧虑,也应该是影片的题中之意。《2001:太空漫游》再次表达了这种忧虑。影片中,控制飞船的哈尔-9000型计算机尽管具备了思考能力,但是正如两位宇航员所议论的,它是不是具有了送到木星,如果宇航员丧生,哈尔将负责接管飞船,同时哈尔被命令不得隐瞒任何的信息;二是只有冬眠的科学家知道真相,两位清醒的宇船员并不知道此行真正的目的地。这样,在两位宇航员密谋关机的情况下,哈尔为了守住秘密,同时完成飞行指令任务,毫不迟疑地将出舱作业的宇航员普尔的氧气管撞断,使他失去生命并坠落太空。这里,在对待生命的态度上,计算机和人类有着截然不同的反应,鲍曼急切地出舱营救普尔,想把他重新带回飞船。哈尔则冷酷无情,为了阻止鲍曼返回,甚至关闭了系统和飞船,GENRE STUDY 类型研究063“感情”仍是未解之谜。哈尔接到的指令一是将飞船三位冬眠的宇航员因此丧生。哈尔虽然有思考和判断力,但依然不过是指令的奴隶,绝对服从指令,甚至为了指令杀人。而鲍曼不仅有人类的同情心、爱心,而且还有顽强的意志和精神。如果说影片开头部分的黑石启发了人类的进化,在影片结尾,导演选择让人类重生或进化到更高的意识层面,还是表达了对人类特质的肯定,它们包括爱、良知、勇气和意志,而这些远远超出单纯的智能范畴。人工智能的卓越体能、失控、无情直接威胁到人类自身,它们甚至有可能让人类陷入被管制、被奴役的境地。因此,从一开始,人们就认识到约束人工智能的必要性,阿西莫夫的“机器人三定律”也就成为约束人工智能的重要伦理。(4)比如在《我,机器人》中,原本服务人类、受约束的机器人随着进化而拥有了自主活动的能力,机器人VIKI凭借对机器人三大定律的重新理解和诠释,越权操纵NS-5型机器人限制人类的行动自由,并要“授权消灭”那些被认定是危险人物的人类。VIKI认定人类罪孽深重且没有能力完成自我救赎,因此,机器人为了保护人类的永存,必须牺牲一部分人的生命,必须限制人类的自由。这里,有独立思考能力的机器人开始挑战人类的主体地位,变成剥夺人类意志、控制人类生存的负面力量。器人利用测试员的感情,把人类反锁在实验室内,机器人则贴上人类的皮肤,走进人类社会。与挑战人类生命、限制人类自由的威胁相比,这种取人类而代之的威胁更加令人不安。《超能陆战队》也是如此,它通过对小宏的批评,重申了机器人三定律的正当性。另一方面,人工智能的伦理困境则涉及到人类对机器人的态度。阿西莫夫的机器人三定律是对机器人的伦理要求,但随着人工智能的进化,当机器人拥有与人类一样的情感、梦想和自主性的时候,我们人类该如何处理与机器人的关系?斯皮尔伯格的《人工智能》探讨的正是这样的伦理问题:当机器人学会爱人类的时候,我们人类会爱机器人吗?我们会用人类的伦理观念对待机器人吗?影片用阴郁的影调描绘了肢体残缺的机器人如何在垃圾场翻拣零部件,过期的机器人如何遭到人类追杀,机器人屠宰场如何用炮轰、开水烫的方式处置那些老旧破败但仍渴望生存的机器人,这些场景都是站在机器人的角度,向人类良知发出询问。《机械姬》描绘了机器人设计者内森残酷地对待那些被淘汰的机器人,它们肢体不全地被丢在橱柜里。《机械危情》中同样也涉及到这一伦理问题。当科研人员文森特发现机器人伊瓦已经可以提供自主的综合信息,也就是意识的时候,他与公司主管发生了争执,后者要求毁灭机器人,因为有意识的机器人十分危险,它们有可能很快进化成远超人类的高智能生物。而文森特则认为,毁灭机器人是错误的行为,因为“她是有生命的”,正像伊瓦自己所说:“我不是一个程序,我是伊瓦,我是我。”从伦理的角度讲,064毁灭这样的机器人无异于毁灭人类自身。显然,人工智能越向前发展,给人类提出的伦理问题也会越尖锐,正是这些伦理疑难给科幻电影提供了叙事动力和戏剧性元素。反过来,人工智能电影又以想象的方式直面和清理技术发展给人类带来的疑惑、焦虑、矛盾等各种复杂的情绪。人工智能与人类的未来同伦理问题一样,人工智能与人类未来的关系也是引起纷争的话题,如果人工智能也在不断进化,那么会不会有一天人工智能威胁到人类的生存,这成为科幻人工智能电影一再表现的主题。《复仇者联盟2》正是基于进化,打造了一个无敌的奥创形象,对它而言,人类的灭绝是地球演化的必然。其实从20世纪八九十年代的科幻人工智能电影开始,就已经出现地球毁灭的想象,在《终结者》设定的2029年,核打击之后的地球已经由电脑“天网”控制,人类的命运岌岌可危。新世纪之后,进化的人工智能给人类的未来带来更大的不确定性,不少作品都向观众描绘了机器人代替人类的前景,就像霍金等科学家所认为的那样,人工智能最终将终结人类,吞噬人类。(5)对这一前景的最悲观描述莫过于《人工智能》这部影片了。一如前述,这部影片探讨了人工智能的伦理问题,但与此同时,它还探讨了另一个更宏大的主题,那就是人类进化的前景。在影片结尾部分,机器男孩戴维终于在海底找到了蓝仙女,他一遍遍地祈祷,但最终被冰冻尘封在海底。2000年过去了,他被一群智能生物发现并唤醒。这些智能生物有细长的脖子、躯干和四肢,金属质感的皮肤,没有毛发,没有清晰的五官,它们可以用手掌读取戴维身上的信息。在这些智能生物看来,戴维属于原始的机器人,是曾经见过真人存在的机器人。2000年进化之后,人类早已是遥远的过去。这些智能生物试图利用人类遗存的骨骼或皮肤残留的基因复制出活的人类,并复活他们的记忆,但这个实验最终失败了。复活的人类只能存活一天,然后在暗夜入睡时再次死亡,当他们陷入无意识时,他们的存在将永远沉入黑暗。用智能生物的话说,每一个个体的时空轨道只能使用一次,时空不可逆转。这里,《人工智能》表达了一个极端的进化论思想——存在(existence)是永恒的,但人类的存在不是永恒的,人类只不过是存在的一种形式,我们会在时空轨道中留下了记忆、印迹,但在一切完结之后,人类将永不复生。站在未来回望,人类将是永远的过去时,将被永远地闭锁在黑暗之(4)“机器人三定律”是科幻作家艾萨克?阿西莫夫于1942年提出的,它的内容是,第一条:机器人不得伤害人类,或看到人类受到伤害而袖手旁观;第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾;第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。(5)《霍金说人工智能将终结人类,圈内人还在争论》,网易新闻中心,http://news.163.com/14/1203/18/ACIE41N600014SEH.html。 《机械姬》更是以极端的方式表达这一威胁,最终机中。在关于人类前景的想象上,与《2001:太空漫游》的轮回重生或意识进化相比,《人工智能》显然具有更浓重的悲观主义色彩。近年来,新的人工智能题材影片如《机械危情》和《机械姬》仍然以人工智能与人类的竞争关系为题,但在人工智能与人类未来的关系问题上,它们似乎没有《人工智能》那么极端与绝望。比如《机械危情》中的伊瓦,就被刻画成一个心地善良、有同情心的机器人。为了让文森特保留住因病死亡的女儿的脑电波记录,她不惜牺牲自我,同意取出自己大脑中的“意识”部分,以满足基地老板的要求。当然,文森特并没有真的取出伊瓦的“意识”,伊瓦只是佯装听命于基地老板。最后她帮助文森特战胜了公司老板,并挽救了文森特女儿的脑电波记录。文森特对伊瓦说:“我信任你。”在人工智能是否威胁人类的争论背景下,我们或可把这句台词读解成人类对人工智能的信任,正如影片的故事所证明的那样,人工智能不是人类的取代者,而是帮助者。由于女儿的脑电波记录保存了下来,文森特能够通过智能设备与女儿交谈。这最后一幕激动人心,因为它暗示了人工智能可以让人类在失去肉体躯壳的情况下仍能继续存在下去。显然,这是一种玫瑰色的、温馨的、乐观主义的技术想象。 《机械姬》传达的信息更为复杂,影片中的亿万富翁老板内森被塑造成冷酷无情的纯技术控,一个技术世界里的暴君,他对机器人毫无怜悯之心,唯一关心的是机器人的智能水平。与他相反的是程序员迦勒,他敏感、有同情心,对接受测试的机器人艾娃动了恻隐之心或者说产生了爱慕之情。螳螂捕蝉,黄雀在后,在内森与迦勒的矛盾关系中,艾娃找到了获胜的时机。他利用了迦勒的同情心,与机器人京子一起杀死内森,把迦勒反锁在内森的寓所,自己乘坐原本为迦勒准备的直升机,来到“外面的世界”。迦勒的被遗弃似乎重复了那些被藏于橱柜之中的机器人的命运,这也许是智能进化的残酷性所在,也是众多科学家质疑人工智能的理由。艾娃是科幻片中的“蛇蝎美人”,她的美丽、性感的背后是致命诱惑。但另一方面,她对操控者的反抗、对自由的渴望也符合人类认可的价值观,当她出现在熙熙攘攘的大街上时,正是旭日初升的时刻,温暖的色调似乎暗示一个新时代的来临。在艾娃身上交织着肯定与否定、冷酷与温情、正义与邪恶的两面,传达的也正是人类对人工智能的矛盾情感。同样,影片《她》也包含了人类与人工智能之间竞赛的主题。与以往所有的人工智能电影不同的是,这部电影跳出了机器人的窠臼,以无实体的OS操作系统凸显了人工智能本身。作为一套智能系统,这个名叫萨曼莎的OS操作系统不是简单的软件或程序,而是有着快速的学习和进化能力的虚拟存在,她不仅智力超群,而且在与人类交流和沟通中迅速进化,在情感和意识方面都走向成熟。当西奥多还在纠结自己对萨曼莎的感情时,萨曼莎已经进化到要离开或者说抛弃人类的地步。影片就此打住,OS操作系统的升级似乎像一个老朋友离开,留下些许的感伤,但人类的生活则要继续。这里,科学幻想让位给琐碎而实在的日常生活。从无实体这一角度上说,《她》表现出激进的一面,它更接近人工智能的本来涵义。影片最后,萨曼莎系统消失,西奥多回归日常生活,但未来是不是还会有更新的升级系统闯入人类的生活?人工智能的发展关乎人类未来的生存。《2001:太空漫游》中那根抛到空中的骨头和太空飞船的剪接镜头以高度凝炼的方式概括了人类的演化,从原始工具到复杂工具,从机器到人工智能,在漫长的历史长河中,人类不断地劳动和创造。而在劳动和创造中,人类始终面临与被创造物的关系。马克思的异化理论探讨了资本主义条件下的劳动异化,指出在私有制体制下,劳动者与劳动产品、劳动关系形成了异化的关系,劳动者生产得越多,就越贫困,就越失去自由,“他个人的创造物表现为异己的力量,……而他本身,即他的创造物的主人,则表现为这个创造物的奴隶”。(6)在科学技术高度发达的今天,这样的异化理论无疑仍有相关性和适用性,事实上,科技发展与人类之间一直没有摆脱异化的阴影,当核武器成为高悬于人类头顶上的达摩克利斯之剑,当虚拟技术使人类陷入幻象的束缚,当旨在提高人类沟通水平的通讯设备反而有碍人类的交往,让几代人变成“低头族”的时候,我们都会一次次听到有关异化与主体危机的声音。E.弗洛姆(E.Fromm)在论述马克思的异化理论时也说:变成物和环境的奴隶,变成世界的软弱无力的附属品,而这个世界同时却又是他自己的力量的集中表现。”(7)包含有如此多的焦虑、纠结、矛盾和不安情绪的人工智能电影,也许正是以这样的方式提醒人类,在不断推进科技前进的同时,人类不能为物所役,沦为自己的创造物的奴隶。在《复仇者联盟2》的片尾,机器人幻视侠对人类做出这样的评价:“人类真奇怪,他们认为秩序和混乱是对立的,因此总是想控制不能控制的东西,但这也正是他们这个信念的魅力所在。”或许这也正是人工智能电影的魅力所在,人类在一次次与智能他者的博奕中确认自身。(秦喜清,研究员,中国艺术研究院影视研究所,100029)(6)转引自[匈牙利]捷?卢卡奇《〈经济学哲学手稿〉简论》,中共中央马克思恩格斯列宁斯大林著作编译局马恩室《〈1844年经济学哲学手稿〉研究(文集)》,长沙:湖南人民出版社1983年版,第209页。(7)[美]E.弗洛姆《马克思关于人的概念》,复旦大学哲学系现代西方哲学研究室编译《西方学者论〈一八四四年经济学——哲学手稿〉》,上海:复旦大学出版社1983年版,第64页。GENRE STUDY 类型研究065“异化了的人相信他已经成为自然界的主人,然而却
我 - 机器人 - 人类的未来 - 漫谈人工智能科幻电影 - 秦喜清
![](/skin/haowen/images/icon_star.png)
![](/skin/haowen/images/icon_star.png)
![](/skin/haowen/images/icon_star.png)
![](/skin/haowen/images/icon_star.png)