按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
瞬坏蒙撕θ耍蛉稳耸苌硕涫峙怨邸�
2。 A robot must obey the orders given to it by human beings； except where such orders would conflict with the First Law。机器人必须服从人的一切命令，但不得违反第一定律；。
3。 A robot must protect its own existence； as long as such protection does not conflict with the First or Second Law。第三，机器人应保护自身的安全，但不得违反第一、第二定律机器人学。
当然，还有后来补充加入的第零定律：机器人必须保护人类的整体利益不受伤害！
不过第零定律一直是个争议，“人类的整体利益”这种混沌的概念，连人类自己都搞不明白，更不要说那些用0和1来想问题的机器人了。此后一直以来，人类也在不停地对机器人的道德标准程序打补丁，出现了诸多外加定律。比如说——机器人必须知道自己是机器人。以及：
元定律：机器人不得实施行为，除非该行为符合机器人原则。
繁殖定律：机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。
………
总结起来，这部机器人的道德圣经也就是三个字——“拜人教”！
站在试验车间高高的控制台上，范卡忽然觉得有种悬空的感觉，人是不是总喜欢将自己抬得很高的位置，危险而不自知。而被人类设计制造出来的智能玩具，芯片里的程序早已写定，若是建立在那样的基础上产生的感情，无论看起来多真，也是假的！
范卡转身，望向生产线上的那些精致而逼真的人偶娃娃，脑中某个想法一闪而过：若有一天她们发觉内心产生的感情并不是自己所愿的，会不会讨厌人类。甚至……叛变？！
前方，在自动化生产的流水线上，一个个的机械零件正在组装起来拼接成人型的轮廓，先进的超声波焊接工艺使得缝接处几乎无迹可寻，躯壳内布满整齐有序的光纤和电缆……
很快，玩偶的机械躯体被传送通过智能装配机和控制设备，人型的躯体套上了一层仿真的软胶皮肤，配上一身化纤质地的简雅群服，精致的脸庞镶嵌上黑黑的眼睛，空洞的眼神中闪烁起流光。她们没有表情的脸庞不慌不乱，不卑不亢，安静地一动不动，像一个亭亭玉立的小家碧玉。
最后，在电子装配线上，镂空的胸腔安装上集成的智能芯片，硅造筋骨，电路血脉，通感敏锐，反应迅速，‘芯’脉搏动……
在最后的检测工位上，装配完成的人偶娃娃慢慢睁开双眼，迷茫地盯着这个陌生的世界。
下一刻，她略微生硬地转过头，了无生气的脸庞渐渐变得莞尔动人。
恍惚中，她似乎勾起了小嘴巴。
微微笑……
☆、概率
1945年，达芬奇设计出了第一款人型机器人。
18世纪80年代，Jeremy Bentham 和John Stuart Mill 指出道德是可以计算的。
1942年，阿西莫夫在小说《I，Robot》中，提出了影响深远的——机器人三大定律。
1950年，阿兰·图灵提出了一种测试机器智能的方法——图灵测试。
1952年，麦卡洛克发表了第一篇从科学角度思考道德机器的文章。
2000年，斯托尔斯·霍尔提出了“机器伦理”的概念。
2010年，机器人‘Nao’成为世界上首个被编入伦理道德准则程序的智能机器人。
………
在研发部的操作平台上，范卡浏览着电子屏幕上搜索出来的零散资料，显示屏淡淡的荧光映在她侧脸上，脸上的表情被光线模糊，像是安静地沉思……或者是发呆。
此时已是晚间时候，留在部门里加班的人最后一个研发人员走后，现在就只剩范卡一个人还留在研发部里悄然不动地望着巨型的电子屏幕，光洁的大理石地面映着她静谧的影子，周围仪器和设备乏着合金材料的冷光，整层办公楼显得是那样的寂静和空旷。
“白雪……”范卡对着屏幕轻唤。
“是的，范小姐。”对于不常接触的人，系统一般会作礼貌称呼。
“定义‘背叛’一词。”范卡给出指令。
“背叛，指背离叛变，是对自己原来信仰的一种背离与叛变。”【白雪】很快作出了回答。
“你有信仰吗？”范卡直接问。
“信仰，和背叛一样，只是人类才有的东西。”【白雪】声音温柔，‘她’所具备的智能能够将对话的内容联系起来和人作交流。
“呃？！”范卡微微讶然。
“就统计的资料和数据来看……”智能系统【白雪】判断出得到的是一个问句，于是善解人意地对问题回答得稍微详细一些，“除了具有信仰的人类，自然界的其他任何一种动物都不存在“背叛”这种行为。请问，需要更详细的相关资料说明吗？”
范卡一时失神，只是一动不动地站在那里。
【白雪】也安静地没有说话，以免打扰范卡的思考。
“玩具，最害怕的是什么？”良久，范卡忽然抬头问道。
“抱歉，就目前记录的资料来看，尚未有一款玩具是设有定义为‘害怕’的程序的。”【白雪】伶俐地答道。
“时间！”身后，传来了一个温雅的男子声音。
范卡回头，看到来人是之前见过的左洋，那张白皙的年轻脸庞带着暖暖的笑意，向着范卡缓步走来，没想到这么晚了他也还未回去。
“时间让生物衰老病死，对玩具来说，时间也会让它们被淘汰。”左洋站立到范卡身旁，抬头望着眼前设计得华美秀丽的流线型机器，“对每一款玩具来说，它们的市场周期都不长。用两三个月研发的智能玩具，通常在市场销售一年多人们对这款玩具就不再感到新鲜了……”
旁边，范卡没有接话。她也明白，时间必定会让玩具逐渐淘汰，甚至是远在损坏和报废之前。玩具坏了、脏了，可以修理清洗干净，或者换买新的，多数人更是随意弃置了。假如玩具也有真感情，大概它们是不会喜欢人类的吧。那它们是不是应该庆幸自己没有思想？
“幸而，玩具对伤害是完全无记忆和反应的。而人类的思维则复杂得多，也很容易被欲望和诱惑所影响，金钱、权利、地位、名望、女人……确实是人类，也只有人类发明了无穷无尽的欲望，还有爱恨和背叛。”左洋显然是听到了刚才范卡问【白雪】的话了，他笑笑继续说道，“确实，只有人类才存在背叛这种行为，机器是不会叛变的，因为……毕竟它们不是人类！”
“不是因为机器人三大定律吗？”范卡侧头，呆呆地想了想。
“如果机器人真的有心要搞革命，三大定律基本没什么作用。”左洋视线转向范卡，耸耸肩，“不怕你见笑，我的博士毕业论文写的就是《智能机器道德论》。”
范卡转过头来，望着左洋。
“对于第一定律，机器人不得伤害人类，或任人受伤而袖手旁观。”左洋双手插袋，懒懒地开口说道，“机器能理解的‘伤害’只有人身体上的损害而已，而未来的一个行动迅速、身手敏捷的AI机器人要将人毫发无伤地禁锢起来绝对是轻而易举，甚至将无论做什么都会受到‘老化磨损’的伤害的人类完完整整地冷冻起来‘永久保全’更省事。毕竟，机器没有死亡这个概念，懂得死亡这个概念的就不能算作机器人了……”
寂静中，左洋的话在空旷的四壁回响着，范卡似乎感觉微微有些凉意。
不过他说得没错，电子机械没有自我意识，甚至没有生命和死亡的概念，所以也不会畏惧死亡。连死亡也不怕，还有何可畏惧的？
“被吓到了吧？”左洋双目狡黠有神地掠过一笑，右边脸庞隐现出一个浅浅的酒窝，“而且第一定律也恰好为机器人不遵守第二定律提供了借口。比如说，在机器人身体里按上一个自爆装置，并且听从人的任何指令都会触发那个装置自爆，那么在人类面前机器人就有了不服从命令的理由了！”
此刻，在左洋面前的范卡微微有些目瞪口呆，恍惚中她失神了片刻，当反应过来时，发觉左洋已经脱下了外套披到了她的两肩，衣服上还带着原来的些许温热，厚实地覆在了她的身上。被陌生的温暖所包围令范卡身子定了定，不过她还是安静地接受了左洋绅士风度的体贴和关心。
“姑且不说让机器自保的第三定律，其实最危险的还是第零定律……”左洋目光转向系统的巨型屏幕，似乎颇有兴致地继续说道，“机器人必须保护人类的整体利益不受伤害。也就是说，在面临潜在危险的情况下，机器人可以选择牺牲少数的人类个体，而成全整个人类种族。有了这一条，人类最好还是祈祷机器人永远不会判断失误，是不是？”
“听起来，”范卡愣了一下，眼底幽亮，“机器人三大定律对人类真是……危险。”
“定律越多，漏洞越多而已。”左洋笑了笑。
“越是复杂的程序，越是容易出现BUG。”范卡想到了符博曾说过的这句话。
“你相信么，”左洋望了望范卡，意味深长地翘起了嘴角，“自从发展了智能机器之后，机器至今都没有叛变，也许恰恰是因为它们未理解阿西莫夫的三大定律。一旦它们意识到，利用这三大定律可以为自己争取自由的话……”
愕然了片刻，范卡微微吸了一口气。
“……呵，我相信它们也不会叛变。”左洋望着范卡的表情，一脸的温雅笑意。
“呃？！”范卡睁眼。
“如果机器人聪明到那个程度……”左洋目光深澈明亮，表情也带着认真，“我很怀疑，至少已经具备自我意识才能产生那样的智慧。而一个有自己的思想和智慧的机器人，人类还要高高在上地命令它遵守这些‘不平等条约’吗？！”
理解这句话，令范卡脑袋似乎有些卡壳，这听起来似乎就像是个驳论：机器人安分地遵守三大定律（不叛变），是因为不理解三大定律；而一旦机器人理解了三大定律，它们就没必要去遵守了！
“目前来说，说机器日后会叛变也只是人类以己度人而已，不，是以己度机器。”左洋悠悠而言，还翻了翻眼，“将机器当人来猜度，却又不将它们当人来对待，人就是这么矛盾的生物……”
“矛盾就会令两者的关系激化，是不？”范卡望向左洋，目光带着询问。
“也未必。既然能够以己度人，为什么不能站在机器人的角度来想想？”左洋神色清朗，笑嘻嘻地侃侃而谈，“对机器来说，就算每天重复相同的工作它们就会产生厌倦么？它们不必谈情说爱、结婚生子，所以工作很可能将会是它们的生活重心以及充实精神的途径……”
望着左洋，范卡认真地听着。
“何况，它们也不会觉得疲劳……”左洋轻松地笑笑，继续说道，“它们不过只需要充电和维护升级。甚至，它们看待死亡的思维方式也必然会跟自然生物大大不同。你怎能肯定，它们的座右铭不会是——趁活着的时候快乐工作，等死了，有的是时间休息！”
“那……”范卡微微张嘴，却又低头凝思。
“……不信？”左洋做出逗趣的受伤表情，说得滑溜，“那说认真的。相较于感情乱七八糟两腿直立行走的生物来说，我还是觉得更理性、更具逻辑性的智能机器人比较靠谱一点。难道就没人想过，若机器人真的有了自我意识，也会去思考人生哲理，也会去判别“善”与“恶”，也会去考虑这个世界应该有怎样的未来……”
思考中，范卡保持沉默地望着左洋，想着他更像是一个感情乱七八糟两腿直立行走的生物，还是一具有了自我思想和良知，而且还在为世界的美好未来着想的机器人。
“你说对不对，我的公主？”左洋温雅地笑了笑。
愣了愣，范卡才反应过来左洋是在对着巨型的电子屏幕在说，他说的‘公主’是指中央智能控制系统【白雪】而已。此际，他挺拔俊美的身影立在巨大的流线型机器面前，却像是一个小矮人，脉脉注视着【白雪】的眼神里透着微妙的情绪。
“逻辑上没有错。”【白雪】温柔地回应他。
“哦哦……亲爱的，那你以后不会‘变心’吧？”左洋半戏谑地说道。
“不会，月亮代表我的CPU。”【白雪】拟人的声音里仿佛带着羞涩的笑，难道公司的智能系统里也装了调情的软件程序？
“哈哈，看，多可爱美丽的公主。”左洋赞道，目光认真，“人类何不对智能机器更包容一些，何不为接纳机器智慧作好心里准备。就长远来说，机器人能够通过图灵测试也只是迟早的事，而人类却是一直在不断地提高测试的标准，用这种自欺欺人的方式，来维持自身脆弱的优越感……”
“那是因为……”范卡想说什么，又一时想不到该怎么说。不过她也知道，图灵测试的规则里确实有那么的一条：如果一个机器具备了“类智能”运算能力，那么通过图灵试验的时间会适当进行延长，当然难度也会相对困难一点了——看起来，确实像是自欺欺人（机器人）！
“何况，你怎么知道人类就一定全部都能够通过图灵测试？！”左洋像是开玩笑，又像是认真。
“怎么可能？！”范卡几乎是条件反射地说道，声音却透着一丝难以察觉的颤抖。
“任何事情，都只是一个概率问题而已。”左洋明净的目光依然默默地注视着眼前的电子屏幕，声音坦然而平静，“数学家说‘小概率事件不可能发生’，物理学家却早已指出‘小概率事件迟早要发生’！”
瞬间，她指尖冰冷。
………
☆、演化
——她凝视着玩偶／觉得像极了她年轻时的样子／婀娜的玩偶伴着简单的节奏跳着／一圈又一圈／当发条再也拉动不了玩偶跳动的那一刻／舞曲的终结／也是她回忆的终结……
手机铃声了响了很久，范卡才后知后觉地从口袋掏出了手机，微微失神的目光落到诺基亚手机的屏幕上，来电的熟悉号码显示是——符博。
“……”范卡按下了接听。
“范卡，刚下班就找不着你，回去了？”符博的声音从手机传来。
“没。”范卡听到自己从喉咙里透出压抑的声音。
“怎么了？”符博似乎听出了范卡声音的异样，“……你在哪里？！”
“也许是饿了……”范卡懵懵然地答道，然后环顾四周，似乎刚才失神时忘记了自己在哪里，“好像……是在天台。”
“等我过来。”说完，符博挂断了电话。
通完话，范卡正想收起手机，却刚好收到一条徐森发来的信息。在徐森出差的这一周，由于时差原因所以比较少通电话，但每天都会收到他发来的好几条信息，而范卡也会一条条认真地恢复。迟疑了一下，范卡还是将拇指按下查看键，窗口便弹出一段信息：“街道的雪很白，看着很美。今天瑞典这边有个商展会，可能会迟一两天才回去。真的想你了。”
今次看完信息，范卡却是放下了手机，没有立刻回复。吹着大风，她靠着天台的栏杆边，目光投向远方的地平线，凝视着渐渐灰暗而苍凉的天空，暗红的夕阳将她的影子在地上拉长，不着痕迹。此时此际，她似乎在想着些什么，却又不知道自己在想着些什么。
当符博走上来楼顶时，正是看到了这一幕，范卡俏立不动地站在栏杆前，大风吹拂着她的围巾，彷如背后边上长出修长的翅膀，像一个刚从天堂降落下的平凡天使，无意间歇息在这栋高楼的天台之上，背影透着隐隐的萧索，却依然不抵她的安然和美好。
然而，在范卡转过身来的那一刻，符博却看到了一双灰暗的眼睛，是的，灰暗。眼前的她表情彷徨失神，那双黑色的眼睛茫然无光，却让人感觉眼底是逼人的通透，仿佛她想连自己也看透进去。
“怎么了？”符博靠近范卡身边，担忧地望着她。
也许是一时没反应过来，范卡安静地没有说话。
“阿海订的全家桶和可乐……”符博扬了扬手中提的袋子，丝毫没有抢人东西的歉意，先将一杯可乐拿出给范卡，“现在全部是你的了。”
“谢……”范卡接过可乐，慢慢回过神来，想起了一下那个模具工程师李华海。
见范卡开口，符博似乎松了一口气，然后和范卡一起坐到地上，背靠着栏杆，看着她开始吃纸桶里的鸡翅和粟米棒，他也拿起了另一杯可乐喝了起来。
“气氛这么好，不如我们……”符博转过头来，先是一副戏谑的流氓相，后又滑稽地变成一脸严肃的正经，“……谈谈哲学吧。”
“呃……”范卡吸着可乐，头歪向一边，似乎没听懂符博的冷笑话，而是在认真考虑他的建议，她声音低低地说道，“你说，机器人越来越像人，人会不会也越来越像机器？”
“机器人再像人，也