机器人学三大法则：

　　一、机器人不得伤害人类，或袖手旁观坐视人类受到伤害。

　　二、除非违背第一法则，机器人必须服从人类的命令。

　　三、在不违背第一法则及第二法则的情况下，机器人必须保护自己。

前言

　　人工智能(Artificial Intelligence)，也就是我们通常说的AI，是研究和开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门技术科学。 AI是计算机科学的一个分支，它的研究目的是了解人类智能的实质，以生产出一种和人类智能相似的方式做出反应的智能机器。AI是对人的意识、思维的信息过程的模拟，它不是人的智能，但能像人那样思考、也可能超过人的智能。正因如此，在我们的科技远远未能使AI真正实现完美独立思考并具备自我意识的现在，对于AI的控制便已经成为一个值得探讨的问题。为此，美国作家艾萨克·阿西莫夫在他出版于1950年的科幻小说《我，机器人(I, Robot)》中提出了“机器人学三大法则”，这三大法则日后成了被公认的实现对未来智能机器人有效控制的铁律。

　　然而这看似简单明了易操作的三大法则本身就具有明显的漏洞，事实上阿西莫夫自己就在他的小说中写过至少3个不遵循定律的例子，而那部根据小说改编的2004年上映的同名电影中更是把对这一漏洞的颠覆造成的后果无限放大。我们所说的漏洞出现在第一条法则，即“机器人不得伤害人类，或袖手旁观坐视人类受到伤害。”，首先对于“人类”的定义没有明确给出，机器人如何判断它所见到的是否为人类呢？基于第一条，对于第二条“机器人必须服从人类的命令”的法则，如果不是面对面而只是通过电话等通讯工具对机器人下达命令，机器人在未能判断接收到的命令是否为人类的情况下，是否应该执行命令？按照法则一，如果一个行为100%具有危险性，比如见到一个人要去跳楼，那么机器人当然会第一时间作出反应上前去阻止。但是如果一个行为只有50%或者更低的危险性呢？它会义无反顾的去阻止吸烟者抽烟的行为吗？我们一离开家门就面对着交通事故的风险，在知道这一风险存在的情况下，机器人会遵循“开车送我去购物”这个命令吗？这些是现实中常见的三大法则无法解决的问题。然而庆幸的是我们还有大把时间来研究这个问题，因为我们的AI技术还远没有达到会使我们感到担忧的阶段。科幻电影为我们描绘了未来AI的发展的整个过程，这个过程按照AI的智力水平和可控程度可分为初级、中级、高级和终极级这四个阶段。在我们的科幻电影中，对这四个阶段都对应有质量上佳的经典作品。当然这些作品清一色非“Made in China.”，我们的科幻电影还处于孕期，不知道何年何月能有一部站得住脚的作品面世。当然上世纪80年代像《霹雳贝贝》那样脑洞大开的儿童片和97前的香港电影不作讨论。

初级阶段：不具备自我意识的智能机器

　　其实我们现在正处于AI发展的初级阶段前期，在这个阶段我们的智能机器能够按照程序处理复杂的事务并有效协助人类解决问题，但是机器人本身没有具备自我意识。2011年的那部科幻电影《铁甲钢拳Real Steel》中的机器人正是这个时期的产物。在电影中那个从废物堆里被找到的陪练机器人Atom成了拳击手查理·肯顿父子东山再起的好伙伴，然而Atom本身不具备自我意识，直到电影的最后它都只是一台机器，虽然它有一个少年钢铁英雄的名字。

　　而在1987年的原版《铁甲威龙RoboCop》中，正是由于人工智能机器人操作时故障频发无法排除，那帮科学家才试图取出人类的脑子把它和机器相连来制造半人半机器的钢铁执法者。而一开始的改造并不顺利，前几代RoboCop刚完成不久就都以自毁告终，而墨菲在死亡之后能够作为机器人重生除了科学家残忍地对其洗脑之后得益于他自身强烈的正义感，这位钢铁英雄的故事从一开始便充满悲剧色彩，而电影中肮脏、混乱、恶人横行的未来世界正是悲剧的源头。原版《铁甲威龙RoboCop》三部曲充满了黑暗绝望的末世情怀，很可惜新版的故事没有延缓这一情怀，也许这是新版未能达到预期的原因。

中级阶段：自我意识的觉醒

　　有很多电影描绘了终有一天机器人自我意识觉醒的美好情境。1986年的《霹雳五号Short Circuit》是很多80后童年美好的回忆，那个大眼睛的机器人的设计也许参考了1982年的经典《 E.T.》，而那个机器人履带底盘的设计和外露的电路现在看来太没有技术含量了！这些都使那台笨拙的机器人显得弱不禁风。当然那个故事本身就低龄化，适合儿童观看。在两年后又出了一部续集，之后就销声匿迹了。

　　相比而言另一部1999年的作品《机器管家Bicentennial Man》中的机器人显得更加完美，那个叫安德鲁的机器人不但使用期限超长而且懂得自我进化。从“它”渐渐进化到“他”，这是一个甜蜜而痛苦的过程，经历过和尼尔一家四代人的相处之后，安德鲁体会到了人类的酸甜苦辣，他最终具备了人性，为了能够被人类社会所接纳并被承认其为“人”，安德鲁最终选择了结束自己原本可以永恒的生命。

　　这个我们还未能踏入的阶段应该算是人类和AI和平共存的蜜月期，事实上一个再明显不过的问题就是具备自我意识的AI比人类自我更加优秀，而人类自身与生俱来的种种缺点却可能成为自我毁灭的元凶。2001年的那部《AI》正是对人类自身缺点最深刻的揭露，当然写这样一篇文章是不能不提这部经典作品的。在电影中莫妮卡的儿子马丁因为重病无法医治被暂时冰封。为了缓解自己伤痛的心情，莫妮卡领养了机器人小孩大卫，大卫的生存使命就是爱她，在被写入注册码之后，大卫成了莫妮卡的新儿子。然而不久之后她的儿子马丁却因为新的医疗技术的应用而得以苏醒并恢复了健康。当马丁回到家里时，作为代替物的大卫成了这个家庭的累赘，他最终被莫妮卡无情地抛弃了。我不知道有多少人曾经在看到大卫向水底的蓝仙女雕塑倾诉时泣不成声，那个画面至今想起都会热泪盈眶，而电影的结局对于人类自身也如莫妮卡对待大卫一样残酷无情。大卫在蓝仙女雕塑面前休眠了，直到人类文明的结束。在若干年之后外星文明生物降临地球，他们未能找到人类，因为人类都灭绝了，却找到了人类文明的产物大卫，并从大卫的思想中读到了人类的过去和爱，善良的外星人最终帮助大卫圆了他的梦。

高级阶段：颠覆“机器人学三大法则”

　　是的，我觉得“机器人学三大法则”最终肯定会被颠覆，因为它太不完美了。人类希望能够控制AI，但是AI是不受控制的，因为它们比我们更加完美，具备我们的智慧，却拥有我们所没有的永恒的生命和不受限制且准确无误的记忆能力(装在硬盘里)。人类和老鼠战斗了上千年却不会被老鼠征服，因为人类比老鼠完美，AI和人类的关系可以此类推。在2014年的电影《机器纪元Autómata》中，人类试图通过限制机器人的自我修复和改造来控制机器人自身的发展和进化，但最终还是失败了。

　　另一个案例是前面提到的2004年上映的根据阿西莫夫小说改编的电影《我，机器人(I, Robot)》，这部电影因为威尔·史密斯的加盟而从一开始就显得科幻不足而娱乐有余，庆幸没有沦为虎头蛇尾的烂片。在电影中NS-5型机器人桑尼获得了自我意识，而控制所有机器人运行的那台主机却觉醒并成功颠覆了“机器人学三大法则”，它认为保护人类自身最好的方法就是把人类都控制起来，因为人类所做的种种事大多都是在自残。当然电影有一个令人满意的结局，我们的男主角威尔·史密斯扮演的警探戴尔•斯普纳在桑尼的帮助下最终小宇宙爆发拯救了人类。

终极阶段：AI代替人类成为地球的主宰

　　比人类更加优秀的AI最终将会代替人类成为地球的主宰。不管你是否能接受，所有更加高级的事物终将代替原本的事物，人类被AI取代只是时间问题。《终结者》中，人工智能系统“天网”觉醒，它把美国本土所有的核弹都投放到敌对国家的土地上，这引发了世界核战争，人类文明迅速毁灭，这一天被称为审判日。幸存的小部分在审判日之后的这个地狱般的末世地球上与“天网”展开最后的战争，幸好他们还有救世主约翰·康纳。

　　AI最终将会控制人类并主宰地球，像《矩阵》中的母体，它把人类当作电池来使用，用“尸水”为人类提供维持生存的养分，而用虚拟现实的数字化场景来控制人类的思想，使“梦”中的人类以为自己仍然生活在20世纪末到21世纪初的地球上。电影中最有趣的部分是所有的程序都有一个人类的形态，而且还具备人类的情感。而最残酷的部分是一开始我们都以为锡安是觉醒的人类的居住区，而电影中的种种暗示和救世主尼奥这一人物的设定却清楚的指向一个事实——锡安也只不过是那个虚拟世界的一部分，所有人类的“觉醒”都不过是母体玩的把戏，而目的只是为了通过救世主尼奥(其实他是一个升级程序)对自身的改造实现自我的修复和升级。

后记

　　今年的漫威大片《复仇者联盟2》中的奥创同样是一个AI机器人。但是我始终觉得漫画化超级英雄大片中的人物设定不具备科幻电影的合理性，像彼得·帕克被蜘蛛咬一口之后会变成了蜘蛛侠，他为什么不会变化像《苍蝇》中的科学家塞斯那样的怪物？有两部科幻电影《超能查派》和《机械姬》同样值得一看，我还需要再补补呢！