Banner

超越《西部世界》:未来人与机器关系将驶向何方

产品详情

  2016年,一部名为《西部世界》的HBO剧集在人工智能界与影视界同时掀起了一股风暴,脑洞大开的剧情、多线叙事的视角加上混搭的科幻与西部风格,使得该剧一上映便好评如潮。编剧从多角度探讨了目前AI领域极为关注的几个问题:机器能否以及何时“活过来”、机器能否以及何时超越人类、人与机器的关系将驶向何方。

  剧本对前两个问题的设定十分清晰:首先,机器能够“活”过来,当机器产生意识的时候,他们就是“活生生”的了。其次,机器能够超越人类,剧中女主角之一“梅芙”淋漓尽致地体现了这一点,她通过威胁其修理员,获得了最高级的智力至少超越了负责修理她的人类。而第三个问题,该剧则留下了巨大的悬念:它们的崛起会对人类的生存产生威胁吗?它们会接管人类的世界吗?

  关于机器与其创造者关系的话题,早在一个世纪之前就有讨论。1920年问世的捷克科幻小说《罗素姆万能机器人》讲述了一个机器人“觉醒”的故事,故事结局是机器人对其制造者发起反抗并最终与人类同归于尽,世界重新陷入了混沌。

  1948年,维纳《控制论》出版,更引发了更多人对这一问题的思考。美国作家库尔特冯内古特发表于1952年的《自动钢琴》就是这里面的代表作,它描述了机器人在替代大部分人类的脑力劳动后,人类幡然醒悟并进行了一场与机器人对抗的起义故事。1955年,弗兰克莱利的《赛博和福尔摩斯官》则预言了未来的法院里,智能高效的机器取代了人类法官。小说的结局是最新型的机器人法官因被要求计算梦的重要性而崩溃。

  机器人能比人类更快、更精确地达成目标,而且不会生病、不会罢工、不会酗酒它们几乎是理想的员工。这引起了诺贝尔文学奖得主波特兰罗素的反思:“人类还有存在的必要吗?”

  上世纪60年代关于机器能否获得智能的讨论,分为了两个派别。支持的一派认为机器一定能,至少在某些方面能够超越人类智能;反对的一派则认为,除非预先向机器中进行输入,否则机器不会有任何输出。对这类讨论,维纳严厉地批评了那些认为机器不会获得智能的人,并认为“机器能够并肯定会超越它们的设计者的某些局限性它们可能既高效又危险”。

  在维纳发表其文章后不久,科幻作家的亚瑟克拉克发表了《人类的退化》。他在文中指出,生物进化已经让位于一个更为快速的过程:技术进化。“直白而残酷地说,机器将会接管一切”。有杂志用一棵进化树阐明了这一切:从微生物到鱼类、恐龙、猴子、尼安德特人到现代人类,最后是机器。克拉克甚至提出:“不久的将来人类就会意识到,机器不但可以思考,未来的某一天还会思考着如何离开地球。”

  《西部世界》中也处处可见“控制论”的影子。特别是本剧结尾透出的机器人对于“意识”的探索,与控制论中“目标搜寻”机制所要表达的思想不谋而合;整个剧集中对于人与机器人关系的探索,亦与维纳“人与奴隶”的对比异曲同工。

  我们该怎么样看待“智能机器”这一新崛起的“物种”?在福特设计的最后一个剧情中,女主角之一迪乐芮意识到,“西部世界”是一个花园、是一个牢笼,而机器人们就像是《罗素姆万能机器人》中被置入了特定功能的“人造工人”。机器人接待员们,为了苦苦追寻它们内置的目标而活,原地打转,始终不得脱离这一牢笼像是人类豢养的宠物甚至奴隶。

  同样的目标搜寻机制,表现在剧中的泰迪身上,是对迪乐芮义无反顾的寻找与保护;表现在另外一个“智力超常”的女主角梅芙身上,是对于女儿执着的爱。尽管极端渴望自由、极度渴望认识“人类”的世界到底是啥样子,但在该季最后,梅芙仍然决定回到“西部世界”,寻找她的女儿。就像剧中的“机器人上帝”罗伯特福特所要表达的,目标是一个机器人所有身份认同之建立所围绕的基石(cornerstone)。而正是这种目标搜索机制,促进了机器人意识的产生,使其具备了“人性”。梅芙的“人性”战胜了她被设置的目标。在西部世界中干尽坏事的William,在看到故事剧集中梅芙对于女儿的爱,挣扎着不肯死去的时候,亦感叹道:“和一个人一模一样”。

  由此看来,问题的症结在于机器人是不是真的会“意识觉醒”。我们假设,机器人有朝一日真的会觉醒,觉醒之后,机器人真的会洗刷人类并接管世界吗?虽然不无可能,但人与机器可能更倾向于一种互利共生的关系。《西部世界》中设定的机器人并没有自复制以及制造机器人接待员的能力,他们也将需要人类的帮助,实现长久的生存。就像提出了互联网思维的J.C.R. Licklider使用榕小蜂与无花果的关系来阐释人机关系一样:“人类更善于制定问题和答案、查明相关性以及在不可预见的紧急状况下作出适当反应;相比之下,机器更擅长准确地存储和检索大量信息、快速计算以及建立和记住例行的程序指令表”。或许未来,更重要的是,人与机器人,如何借助彼此的优势,实现互利共生。”