当前位置:首页 > 消费电子 > 消费电子
[导读]据英国《新科学家》杂志报道,2004年,由威尔-史密斯主演的美国影片《机械公敌》在全球上映,其中描述了芝加哥警察对付学会了独立思考并且脱离了人类控制的机器人的故事.当然,影片中人类最终战胜了机器人,但科学家们警告

据英国《新科学家》杂志报道,2004年,由威尔-史密斯主演的美国影片《机械公敌》在全球上映,其中描述了芝加哥警察对付学会了独立思考并且脱离了人类控制的机器人的故事.当然,影片中人类最终战胜了机器人,但科学家们警告说,这样的威胁目前正在不断迫近,人类应该提早考虑应对之策.

科学家们描述了这样一个“人工智能的世界”:可能在20年或30年后,人工智能机器人就可以和人类做朋友了,但50年后,人工智能将成为人类最大的威胁.世界最终会因人工智能超过人类而爆发一场战争,这场智能战争也许会夺去数十亿人的生命.科学家们认为,人工智能迟早会超过人类.人脑的运算能力是10的16次方/秒,而人工智能机器的运算速度高达10的40次方/秒,是人脑水平的 10的24次方倍.那时候他们对待人类可能就像拍死一个蚊子这么简单.但人工大脑并不会立即控制人类,此前还会有一段与人类“和平相处”的时期.这一时期它不断接近但尚未超越人的智力水平,因此“聊天机器人”、“家务机器人”、“伴侣机器人”将使人类的生活充满乐趣.但这样的美景并不会长久,人工智能的继续发展将使人类面临灾难.

科学家们表示,在灾难来临前,人类将会分为三派:宇宙主义者(主张发展人工智能的人)、地球主义者(反对发展人工智能的人)和人工智能控制论者(将自己改造成机器人的人).也许在人工大脑对付人类之前,这三类人会先展开人类内部的斗争.

考虑到上述这些可能发生的威胁,美国耶鲁大学伦理学家温德尔-瓦拉克、美国印地安那州立大学认知科学家柯林-阿伦提出了6种有望避免悲剧发生的应对之策.

1、将它们存放在低危环境中

    要确保所有的计算机和机器人永远不会做出可能导致事先无法预测的后果的决定.

    成功的可能性:极低.工程师们现在已经建成了计算机和机器人系统,但它们的行为好象并不总是可以预测.消费者、工业界以及政府部门需要那种能够执行各种任务的技术,而为了满足这种需求,企业也将会不断提高产品的数量和性能.为了实现这一战略,就必须立即深入发展计算机和机器人技术.

2、不要给它他们武器

    成功的可能性:为时已晚.现在已经出现了半自动机器人武器系统,如巡航导弹、无人驾驶飞机等.一些持枪机器人也已经被派往伊拉克境内负责战场摄影,但很明显它们实际上并未真正部署.

    但是,军事决策者们却好象对机器人士兵的研发非常感兴趣,并将其看作是未来战争中降低人员伤亡的一种重要手段.如果想要停止自动化武器的建设,现在好象为时已晚,但是如果想要对机器人所携带的武器或是对它们可以使用武器的前提条件进行限制,好象还并不太晚.

3、为他们制定行为准则

    成功的可能性:中等.科幻小说家艾萨克-阿西莫夫的著名规则就是分等级排序的:最重要的是,机器不应该伤害人类或对它们的伤害无动于衷;其次,就是机器人应该服从于人类;而机器人的自我保护则属于最低等次的优先级.

    然而,阿西莫夫只是小说家,并不会真去研制机器人.在他的小说故事里,他列举了可能会仅仅因为这些简单的规则而产生的一系列问题,比如,当同时收到由两个人发出的相互冲突的两道命令时,机器人该如何执行?

    阿西莫夫的规则使得机器人难以判断.例如,机器人如何理解一名正在对患者进行切割手术的外科医生其实是在帮助患者呢?实际上,阿西莫夫的机器人故事已经非常清楚地说明了基于规则的道德限制.然而,规则可以成功地对机器人的行为进行限制,但同时也将其功能局限于一个有限的空间内.

4、为机器人编制特定程序

    研制机器人的目的应该是“为最广泛的人群创造最大的利益”,或是“对待他人就像你希望被对方对待的程度一样”.因此,机器人的研制应该从更为安全的角度考虑,而不是放弃一些简单化的规则.

    成功的可能性:中等.由于这些规则的局限性,一些伦理学家在试图寻找一条可以压倒一切的原则,用于评估机器人的所有行为.

    但是,对于一些刚刚提出的简单原则,其道德价值和局限性就会成为人们长期争论的话题.例如,牺牲一个人生命来挽救五个人的生命,这看起来好象是合乎逻辑的.但是医生却不会因为这个逻辑,而去牺牲一个健康人仅仅是为了为五个病人提供他们所需要的器官.那名机器人又如何看待这条逻辑呢?有时,在给定的规则下确定最佳选择是极其困难的.例如,判断到底哪一种行为可能会产生最大的利益,这可能需要大量的知识以及对世界上各种行为的影响的理解.当然,做出这种思考也需要大量的时间和计算能力.

5、像教育孩子一样教育它们

    在“成长”过程中,机器人也应该不断学习人类对各种行为的是非判断,以提高它们对各种行为的敏感性.

    成功的可能性:有希望.虽然这一战略的实施还需要一些技术方面的重大突破,但科学家们已经研制出能够像人类一样学习的机器人.当然,目前的工具还非常有限.

6、让机器人拥有感情

    像人类的一些功能,如同情、感情以及对非语言社会暗示的理解能力,都可以让机器人拥有更强的与人类互动能力.科学家们已开始着手为家用机器人添加这些类人类功能.

    成功的可能性:研发感情丰富的机器人必将有助于实现上面三条刚刚讨论过的问题的解决方案.人类在做出决策时以及在与他人合作的过程中对对方观点、手势或意图的理解能力,依赖的主要信息来源于我们的情感.

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

9月2日消息,不造车的华为或将催生出更大的独角兽公司,随着阿维塔和赛力斯的入局,华为引望愈发显得引人瞩目。

关键字: 阿维塔 塞力斯 华为

加利福尼亚州圣克拉拉县2024年8月30日 /美通社/ -- 数字化转型技术解决方案公司Trianz今天宣布,该公司与Amazon Web Services (AWS)签订了...

关键字: AWS AN BSP 数字化

伦敦2024年8月29日 /美通社/ -- 英国汽车技术公司SODA.Auto推出其旗舰产品SODA V,这是全球首款涵盖汽车工程师从创意到认证的所有需求的工具,可用于创建软件定义汽车。 SODA V工具的开发耗时1.5...

关键字: 汽车 人工智能 智能驱动 BSP

北京2024年8月28日 /美通社/ -- 越来越多用户希望企业业务能7×24不间断运行,同时企业却面临越来越多业务中断的风险,如企业系统复杂性的增加,频繁的功能更新和发布等。如何确保业务连续性,提升韧性,成...

关键字: 亚马逊 解密 控制平面 BSP

8月30日消息,据媒体报道,腾讯和网易近期正在缩减他们对日本游戏市场的投资。

关键字: 腾讯 编码器 CPU

8月28日消息,今天上午,2024中国国际大数据产业博览会开幕式在贵阳举行,华为董事、质量流程IT总裁陶景文发表了演讲。

关键字: 华为 12nm EDA 半导体

8月28日消息,在2024中国国际大数据产业博览会上,华为常务董事、华为云CEO张平安发表演讲称,数字世界的话语权最终是由生态的繁荣决定的。

关键字: 华为 12nm 手机 卫星通信

要点: 有效应对环境变化,经营业绩稳中有升 落实提质增效举措,毛利润率延续升势 战略布局成效显著,战新业务引领增长 以科技创新为引领,提升企业核心竞争力 坚持高质量发展策略,塑强核心竞争优势...

关键字: 通信 BSP 电信运营商 数字经济

北京2024年8月27日 /美通社/ -- 8月21日,由中央广播电视总台与中国电影电视技术学会联合牵头组建的NVI技术创新联盟在BIRTV2024超高清全产业链发展研讨会上宣布正式成立。 活动现场 NVI技术创新联...

关键字: VI 传输协议 音频 BSP

北京2024年8月27日 /美通社/ -- 在8月23日举办的2024年长三角生态绿色一体化发展示范区联合招商会上,软通动力信息技术(集团)股份有限公司(以下简称"软通动力")与长三角投资(上海)有限...

关键字: BSP 信息技术
关闭
关闭