对话美国权威机器人专家Hod Lipson ：机器人终将拥有自主意识
| 经济观察网 记者 任晓宁 一个外表丑陋的机械手臂，用笨拙的方式捕捉红色小球到透明玻璃瓶子。手臂发生破损，换了另外部件，新手臂思考了一会儿，做出各种伸缩动作乱晃，适应后继续捕捉小球。
看起来简陋又笨拙的行为，背后一个可怕而又令人惊喜的事实是，这个手臂并没有直接写入伸展、捉球命令代码，它的行为都是自己模仿学习，自己独立思考。思考过程中，它学会了辨认小球，也学会了识别自己的身份。
这段11月3日，腾讯科学WE大会上展示的视频，让经济观察网记者一瞬间想到了许多科幻题材影视剧。美剧《西部世界》第一集结尾，机器人女主角德洛瑞丝一巴掌拍死了扑到脸上的苍蝇，那是她自我意识的觉醒。最后一集，德洛瑞丝把枪口指向了人类，开始屠杀人类复仇。
这些影视剧疯狂的想象，会不会真的成为现实？美国权威机器人专家Hod Lipson在接受记者在内的媒体采访时说，机器获得自我意识，是这个世上不可避免的一件事。不过他是一个AI乐观者，他本人对这一切感到兴奋，他认为它带来的好处将会远远的超过它的风险。
Hod Lipson是“粒子机器人”研究团队的领头人之一、美国哥伦比亚大学创意机器实验室总监，也是世界范围内研究机器人的顶级科学家。2009年，他在TED上提出对自主思考机器人的构想，成为TED人工智能系列最受欢迎的科学家之一。2019年3月，他研究的粒子机器人登上了Nature杂志封面报道。他目前所做的研究，是让机器人模拟生物，复制人类生命的运行，能自我创造，能自我复制，甚至有自我意识。简而言之，让机器跟人类越来越像。
他的研究已经取得了进展。除了上述提到的机械手臂，Hod Lipson还研究出可以自己学会走路的蜘蛛机器人。与一般需要写入命令代码的深度学习算法不同，粒子机器人一开始就不用输入代码，而是自己摸索，它们一开始张牙舞爪到处乱舞，直到4天后，蜘蛛机器人意识到自己是一个四条腿的蜘蛛，半天后，受损后被更换的新机械手臂再一次意识到了自己并继续抓小球。
机器人自我学习能力的背后，是一个个单独的圆盘状单元，它们也被称作粒子。研究人员发现，如果把三个粒子放在一起，粒子在接受指令伸缩时，就会与另外两个“邻居”产生互动，你推我拽，完成直线行走。加入更多的粒子之后，便可以完成更复杂的事情。
目前对外界展示的机器人，看起来还非常简陋。这主要受限于目前的计算能力。Hod Lipson说，他希望能够模拟成百上千个粒子细胞一起运作的状况，事实情况是，目前只能模拟几十个。如果想让粒子机器人像人类身体一样运行，数百万、上千万的细胞一起运作。
什么时候计算能力能提升到模拟成百上千个粒子？没有准确的时间。不过作为科学家，最擅长的就是根据既有历史进行推测。Hod Lipson展示了一张表格，显示过去100多年以来，每一美元能够买到的计算能力的变化。过去10年间，计算能力增加了5倍以上，更早之前的100年，几乎是一条平缓的横线。与前100年的横线相比，过去10年的计算能力提升速度是一条陡峭上升的直线。
Hod Lipson说，这个趋势将会继续下去，“假如再过10年回顾今天，那时候的人们会笑话我们，因为他们看到我们今天的计算能力太差了。”
对于机器人真正获得自我意识的时刻，现在也无从确定。可能是10年后，也可能是100年后。他唯一坚信的是，我们这一代人的孙辈，会见到有意识的机器人。
如果机器人真的有了意识，又回到一开始的问题：它会不会对人类带来危险？
这个可能关乎人类未来的问题，目前无解。Hod Lipson承认，想确保人工智能完全用于好的事情，并不容易。研究AI多年，他说，任何这样的问题都没有一个简单的答案。但是，我们必须走上这样一个历程，并且正在一步一步往前走。我们现在唯一能做的，就是要公开讨论机器人可以做什么，不可以做什么，要不断地进行研究。
以下为媒体对话HodLipson实录，经济观察网略有删减。 问：您真的会觉得机器人会拥有自主意识吗？你担心它拥有自主意识吗？ Hod Lipson：我的回答是肯定的，也是否定的。因为我认为不可避免的会出现这样一天，这个世界上的机器获得自我意识。这是一个非常伟大的事件，因为我们现在在逐步给这些机器系统一点一点添加智能。最终，它们会给自己找到一个模型，它们最终要想明白，并最终明白自己是什么，自己能做什么和不能做什么。
这件事情将在10年之后发生，还是100年之后发生，我也不知道。但是，我比较确信的是我们的孙辈所生活的世界里，机器将会有自我意识。
我是否对此感到担心呢？ 我个人在这个问题上保持乐观态度。我认为自主意识的机器人带来的好处将会远远超过它的风险，因此我们要追求发展这样一个技术，因为我们现在已经发展和运用了很多机器，而这些机器的数量将会越来越多，它们也会越来越复杂，总有一天人类将无法直接照顾这么多、这么复杂的机器人，我们要想办法让机器人自己来照顾自己。
问：如果50年之后人和人工智能共生，在这样的环境下，人们会面临哪些伦理和社会上的挑战？ Hod Lipson：所有伦理问题，目前应该还是没有答案的。其实就在5年前，人工智能技术就已经开始发展了，但是没有人对它感到兴奋，它只是一个学科而已，也没有任何人担心它有一天会接管了全世界。
但是，在过去5年间，这一技术真的腾飞了。突然之间好像大家都在问这些伦理问题，但是正如我前面说过的那样，我们对这些伦理问题还没有答案，这个技术肯定会继续发展，而有自我意识的机器人也终将出现。
提问：随着机器人自主意识越来越强烈，你觉得该怎么引领未来机器人、人工智能与人类命运的和谐发展？ Hod Lipson：如何确保技术总是以好的方式得到运用，这一点是非常难的。确保人工智能完全用于好的事情并不容易，因为这个技术非常易用，也不需要投入很多钱就能够用上。技术本身既可以被用来做好事，也可以被用来做坏事，关键在于人类文明和人类社会想怎么把它用于好的事情，而不是坏的事情。
关于怎么办，目前我们还没有完全想清楚。将来是让人工智能去监督人工智能？还是采取别的办法？但总的来说最终要靠人类的伦理，指导我们在一个机器能够自主做出决定的新世界里，确保这些技术仍然用于好的事情。
应该说任何这样的问题都没有一个简单的答案，但是我们必须走上这样一个历程，并且一步一步的往前走，我们现在要公开讨论它应该可以做些什么，不可以做些什么，我们要不断地进行研究。
在这个过程中，人类会逐步做出什么能做、什么不能做的决定。实际上在人类历史上我们发现了既强大又危险的技术，比如说核技术、基因技术的出现，基因技术如果被误用或滥用，它的结果也会很糟糕。比如化学的发展，它也有可能会被人用于做坏事，但是最终人类社会都选择把这些技术用于好的地方。
所以，在人类历史上我们曾经多次发现这些强大而危险的技术。但在大部分的情况下，人类社会作为一个整体做出了正确的决定。所以我本人是乐观的，我相信这次人类社会整体也将做出正确的决定。虽然，在某个时点上可能有少数人会做出少数错误的、不好的决定，但是作为一个整体，我们会做出正确的决定。
提问：您的这项研究适合于哪方面的实际应用，比如医学或者其它？未来还有哪些可以提升的方向？ Hod Lipson：我们的计划和预期是，必须把它做的更小。我们在设想这样一种机器人的时候，我们希望能够模拟成百上千个细胞一起运作的状况。事实上，我们现在能做到的只是几十个细胞进行这样的运行。我们希望有一天能够达到数百万、上千万的细胞一起组成的粒子机器人来运作，就像我们的身体一样。我们身体里有数十亿、上百亿的细胞，它们共同形成了我们。
要这样做的话，就需要把它做的更小，需要使用纳米技术，或者说至少是微米技术，这是我们的下一个目标。因为在它的每一个部件足够小之前，是不可能有实用场景的，如果它足够小，能够做到很多有趣的事情。
我们希望能够有一种物理的机器，使它能够实现循环，它就由数百万、上千万的小部件组成，形成一个小粒子的生态系统。只有实现这样的生态系统，才有机会使我们维持使用很多机器的人类文明生生不息，因为这些机器自己可以照顾自己，但这是一个非常长远的目标，这不是一个明天就能用上的技术。
问：单个粒子机器人现在的收缩状态直径是15厘米，您刚刚提到在它做的足够小之前是不太可能应用的，大概要等多少年时间才有可能做到微米级、纳米级？在这期间会遇到什么难题？如果真的做到纳米级、微米级，这个粒子机器人具体落地应用场景大概是什么样的？可以举几个例子描述一下吗？ Hod Lipson：需要多少年才能达到你说的这个尺度，我确实不知道答案。这个研究的进展并不仅仅取决于研究的难易程度，还涉及到是否能够得到资金支持，是否有学生对这个课题感兴趣。
我个人仍然觉得它会在我们的有生之年达到微米，或者说比微米更小。我不会真的想像那时候就能做到纳米级，但是或许我们只要做到毫米级的，比如说像小的砂糖颗粒一样，那时候就可以做这样的细胞。
现在没有办法把毫米级的粒子机器人送到人类的血管中去，或者我们现在想像的那些医学中特别先进的应用，还是做不到。但是它应该可以成为一些机器的组成部分，让这些机器能够行走、恢复、重复使用。
在一些地方可能把材料运过去非常昂贵，比如在外太空，我们就需要重复使用机器人，它们能够根据任务的需求，改变自己的形态。我个人想像，这可能是这种机器人比较早的应用形态。 |
