天天中文网

手机浏览器扫描二维码访问

第7章 禁果计划（第2页）

要想让机器人也能像人一样，在执行任务时能够独立判断是该冒险完成任务，还是该为了自身安全隐蔽，就必须让机器人有价值判断能力。

但是，一旦机器人有了价值判断能力，就可能会产生私欲，接着可能会与人类为敌。

如何才能让机器人既有价值判断能力，又忠诚于人类呢？这也是这个项目难度极高的原因之一。

这个研究项目是一个绝密的项目，因为一旦泄露被坏人利用，灾祸可能殃及全人类。

科学院之所以把这个任务分配给江玉，一是考虑江玉超乎常人的智慧和才能，二也是考虑到保密和规避法律的问题，毕竟在月球的保密成本更低。同时，地球上的法律在月球是否适用，还是一个正在争议的问题。

在接这个任务之前，江玉研究机器人已经有四五年的经验了，曾经开发过机器人警察的集群作战控制及互相掩护等功能，所以她对这个新项目的难度是很了解的。

她的第一个感觉是，这是一个无比庞大的项目，可能今生今世永远也做不完。如果顺利，机器人的智能在未来会越来越接近人类，成为人类的亲密助手和伴侣。如果不顺利，比如研究的方向是错误的，可能所有的努力都是一场空。如果一旦有反人类的组织先于政府掌握了机器人人格化的技术，人类也有可能遭受灭顶之灾。

为了少走弯路，江玉决定要进行周密、谨慎的预研工作。

她把手下召集在一起，在保密室开始讨论项目预研的技术路线。

大家对这个新课题都表现出极其浓厚的兴趣，你一言我一语讨论得很热烈，有时候两个人争论起来别人想插话都难，最后由江玉把大家的思路汇总了一下，形成了一个机器人人格化的基本思路：

要赋予机器价值观，就需要赋予机器人一些欲望和情绪，因为欲望和情绪是价值判断的基础，而最基本的欲望可以分为两对参数：

一、荣耀和耻辱；

二、勇敢和恐惧。

基本情绪可以分为六对参数：

一、危险和安全；

二、满足和不满；

三、痛苦和快乐；

四、愤怒和喜悦；

五、向往和厌倦；

六、烦躁和平静。

他们基本上达成了初步共识，认为，如果机器人能够感受并处理这两个欲望参数和六个情绪参数，应该就具备了一定的基本价值观和自我意识，或者至少具备了高等动物水平的自我意识。

一个研究员还给这个项目起了一个可爱的别名，叫“禁果计划”。因为赋予了机器人这些代码和传感器之后，机器人就有了欲望和情绪，就像亚当和夏娃偷吃了禁果一样，从此便产生了罪恶，所以叫禁果计划。

「早期对机器人欲望和情绪的模拟是比较粗糙的，需要不停地积累经验不断完善。」