未来智能机器人会威胁到人类生存吗？

不论是走进人类日常生活还是参与战争，都要求机器人具备较强的判断力、极大的可靠性和对人类的绝对服从。我们的硅脑助手们能做到这些吗？

机器人早已不是什么新鲜玩意，反而大有方兴未艾之势。从客厅到战场，我们都能发现它们的身影。然而，不论是走进人类日常生活还是参与战争，都要求机器人具备较强的判断力、极大的可靠性和对人类的绝对服从。我们的硅脑助手们能做到这些吗？且随我们前往未来实验室探查一番。

机器人，人类最好的朋友？

会跳舞、洗碗、照料病人的机器人……这已经不再是科幻小说的情节了！不久的将来，这种智能机器人会走进我们的日常生活。可是，要是有一天它不和我们做朋友了呢？

2009年2月，巴黎阿尔德巴朗司（Alde-baran RoboTIcs）的一间办公室。身材矮小的Nao抬眼打量着让-保罗，认出了后者上装翻领上的一枚徽章。于是，它用略带颤抖的声音与来宾攀谈起来：“你戴着和我一样的徽章啊！”让-保罗就好像听到孩子第一次开口说话，不禁又惊又喜。原来，Nao不是有血有肉的人类，而是一个机器人！它的外表完全没有“终结者”的影子，倒像是结实可爱的皮诺曹。眼下，它正在阿尔德巴朗公司里进行演示。身为当地政界人士的让-保罗，是专程来见识即将在全球上市的这款“法国制造”机器人的。Nao的问世，预示着伴侣机器人将如海啸般席卷而来。第一波浪潮就是正在涌现的娱乐型机器人。它们和Nao一样，会跳舞，可以根据要求演奏所有MP3的曲子，甚至还能做帮助主人复习英文课这类实用性很强的工作。第二波浪潮是将于2020年左右出现的家用机器人，这些“田螺姑娘”会料理家务、洗碗、收拾房间。而在2050至2060年间，能像真正的护士那样护理病人的机器人也将闪亮登场！

简而言之，未来将是机器人的天下。这不是阿尔德巴朗公司的一家之见。日本和韩国也持相同观点，它们在机器人研究上大步推进，投入的经费动辄高达数百万欧元。这两国科学家的目标，是10年内在市场上推出面向大众的家用机器人，其售价大约为7000或8000欧元，相当于法国雷诺低端系列汽车洛根（Logan）的价格，意在使每个家庭都能承受。总之，未来社会的图景中将充斥着大量机器人，这已不再是科幻小说，而是可以预见的现实。

简而言之，未来将是机器人的天下。这不是阿尔德巴朗公司的一家之见。日本和韩国也持相同观点，它们在机器人研究上大步推进，投入的经费动辄高达数百万欧元。这两国科学家的目标，是10年内在市场上推出面向大众的家用机器人，其售价大约为7000或8000欧元，相当于法国雷诺低端系列汽车洛根（Logan）的价格，意在使每个家庭都能承受。总之，未来社会的图景中将充斥着大量机器人，这已不再是科幻小说，而是可以预见的现实。

显而易见，事情由此变得复杂起来。因为，在所有科幻作家撰写的机器人故事里，为主人面包涂上黄油的机器人无一例外地都会有丧心病狂的时刻——把面包刀捅进主人的肚子里。

机器人没有小鱼聪明

类似悲剧会真的上演吗？对于这个推测，阿尔德巴朗公司联络负责人巴斯蒂安·帕朗（BasTIen Parent）并不以为然，他说：“机器人不可能为所欲为，它们只是工具而已，只能按照事先编好的程序行事。”也就是说，要动脑筋干出危险的勾当，机器人还不够聪明。毫无疑问，目前的情况确实如此，可是将来会怎样呢？因为明天的机器人不会只是简单的操作者，它们能够发挥主动性，会变得极为聪明伶俐。美国人工智能专家汉斯·摩拉维克（Hans Moravec）最近发表在《科学美国人》（ScienTIfic American）上的一篇文章里预测，到2050年，机器人的智慧将与人类相当！之所以得出这个结论，是基于一个简单的事实：机器人就是有腿的计算机。因此，它们的智商直接取决于其计算能力。在过去的40年中，这项能力已经有了爆炸性增长！

在信息技术传奇式发展的20世纪70年代，计算机每秒钟处理100万条指令，还要费上九牛二虎之力。而如今，上乘的手提电脑每秒钟可以轻松应对100亿条指令！这个数字实在令人叹为观止。可是，与动物智力相比，机器人还不及一条小鱼聪明。汉斯·摩拉维克说道：“以目前的发展速度看来，在20多年后，将会出现每秒钟能够处理100万亿条指令的机器人，足以与人类的智力相媲美。这样一来，机器人不仅能够进行思考，而且速度飞快！眼下那些只会演奏密纹唱片、总是被同样的障碍绊住的傻乎乎的机器人终将被淘汰。未来的机器人将拥有强大的判断能力，能够对发生的意外情况进行分析并采取相应的对策。我们可以想象这样一个场景：机器人在厨房里走动，突然砰的一声，它碰倒一只花瓶，听到花瓶落在地面上摔碎时的响声后，机器人马上进行检查。发生了什么事呢？它的电路开始工作，追溯到此前几秒以便弄清真相。机器人会想：‘在这之前花瓶是摆在家具上的，我刚刚从家具旁经过，一定是碰到了家具或是花瓶。所以，我得离房间里的家具更远一点才行。’”

换句话说，这个机器人能够自行确定参数，不过不是自动生成中央计算机中的信息编码行，而是修改用于调节行为的程序中的可变量，例如机器人身体与墙壁之间应当隔开的距离。机器人还能够通过网络下载自身缺少的软件。可问题是，程序往往会发生执行错误。如果程序设计缺陷干扰了机器人的行为，会发生什么情况呢？你知道，计算机病毒会使屏幕上光标反向，上推鼠标时，光标下移，而下拉鼠标时，光标上移。如果机器人身上发生类似故障，它就会变得像公牛一样具有攻击性，也许会导致无法预料的结果。

坦率地说，目睹当今最先进的机器人，真让人有些不寒而栗。以日本前卫机器人HRP-3为例，如果亲眼看见它操作手电钻的样子（HRP-3是与一家大型公共工程公司合作研制完成的），人们不禁会双手合十，祈祷它只在木材或钢材上钻孔，千万别在其他地方打洞啊。

一个BUG就足以让机器人把你撕碎

对于研究人员而言，祈祷是不够的。他们正在想方设法寻找对策，使与我们共同生活的机器人不会危及到人类的安全。早在上世纪40年代，科幻小说作者艾萨克·阿西莫夫（Issac Asimov）已经对想象中人类面临的这个挑战深感不安。他在《机器人》一书里幻想在机器人体内植入一种良好行为代码。其中涉及的三个简单法则，被认为涵盖了机器人威胁人类的各种情况。只要稍有违反法则的情况，机器人便会立即中断工作……

今天，机器人专家都无一例外地熟知这些规则。然而，要把它们转化为代码却非常复杂。因为在计算机程序中，连续命题是二进制的，答案只有两种：是或否。机器人要么上楼，要么下楼；不是向右，便是向左。不能处于两者之间。著名的三大法则没有给出如此明确的答案。阿西莫夫规定，机器人应当“保护其生命”。什么是机器人的“生命”，机器怎么能意识到自己的“生命”呢？

正因如此，人们必须另辟蹊径，日本和韩国正朝这个方向努力。专家们正在编写确保机器人行为无害的运行规则，并声称不会立足于原来的三项法则。日本一个最新版本的工作文件多达60页！当然，编写者已经考虑到给机器人配备所有可能的和想象得到的传感器，比如力量传感器。有了它，机器人就不会在和人握手时，像对付核桃壳似的把人的手骨捏碎。

不过，文件编写者承认，即便采取了这些预防措施，意外还是会发生。为此，人们提出了一系列建议，将来有可能直接编入指导机器人行为的程序。全世界的机器人专家们将对这些软件不断进行修订和完善。一旦某个机器人出问题，受害者和相关方将把事故的来龙去脉记录到面向所有用户的庞大数据库中。这样，法国研究人员可以从中找到中国机器人发生这类问题后的解决方法，反之亦然。机器人可以下载以信息文件的形式保存的解决方法，从而完成软件更新并提高安全性，就像今天的计算机所采取的方法一样。这样可以最大程度地限制“机器人的威胁”。当然，完全避免威胁是做不到的，因为我们永远无法阻止人类将用于犯罪。正如阿尔德巴朗机器人公司的巴斯蒂安·帕朗所言，机器人只是工具而已。疯子、心理病态的杀手或嫉妒的丈夫可以改变其预定的用途，把它变成杀人机器。即便人们费尽心机，机器人的危险将会始终存在。因为，无论机器人存在与否，人类本身都没有发生任何改变……