麻省理工终身教授:面对人工智能危机,中国有独特领袖优势

来源:长江商学院 2018-10-11 18:30:31

人工智能变革的今天,我们如何看待自己的未来?

听听未来生命研究所创始人、麻省理工学院物理学终身教授,《生命3.0》、《穿越平行宇宙》作者迈克斯泰格马克教授怎么说:

过去的一段时间中,人工智能的发展非常令人难以置信。几年之前,我们没有想象会有自动驾驶的汽车,现在火箭都可以自己进行降落了。

之前人工智能还没有办法在围棋上打败人类,现在大家也都知道了AlphaGo Zero不仅可以打败围棋方面人类最好的选手,同时也在国际象棋上打败了人类最好的棋手。

实际生活中,AI在商务领域方面已经有了很多实际应用。中国在支付宝、微信支付当中,已经非常领先了。而在医疗方面,有一个研究显示,AI和人工的医生来比,它在肺癌、前列腺癌症诊断方面做得更好。

AI取得的这些成就让我们想到一个问题:到底AI最终的目标在哪,它可以走到哪一步?在所有任务上都能达到人的智能水平吗?我们把这个称为AGI(通用人工智能),这个概念可能让人们认为很多工作我们不用做了,可以通过AGI来完成。

如果我们的确实现了AGI,下一步怎么样呢?人会扮演什么样的角色呢?

如果机器什么都能做得好,比我们做得好,比我们的成本还低,那么人的角色呢?

我现在所推崇的想法,那就是对于AGI,想清楚人类会犯怎样的错误,来保证我们正确行事。

我们都意识到了这是一个全球性的挑战。

这个挑战规模很大,并且补救措施必须是全球行动,必须要有全球的协调,没有哪个国家能够独善其身。

中国实际上有着一个独特的优势,能够有这样一个领导地位,有两个原因:

原因一:

中国有大量的科学家储备。

在中国我们不仅仅可以让AI变得更加强大,同样还可以让它变得更加可信赖。

原因二:

中国是世界上最古老的现存文明之一,持续了几千年。和西方相比,中国有着很多的长期思维的计划传统,这是西方世界所缺乏的。

大家也知道,在西方世界非常难去设定一些长期的计划,持续到下次选举。

当我还是一个学生的时候,有很多人说要修高铁,现在20多年了还没有开工。与此同时,中国已经做完了。

在这方面中国可以扮演一个非常重要的角色,把中国在技术方面的实力和长期规划的智慧结合起来,希望中国在AI方面采取一个领先者的地位。

我们组织了很多会议,让很多AI研究员聚集到一起来讨论怎么样增加AI的智慧。

上一次会议有23个原则,被世界各地的AI研究员签署。

我在这里给大家复述其中两三点。

第一个原则:

我们应该避免武器和军备竞赛,应该把技术应用到可以帮助人们的方面。

比如说生物、化学,更多的应该有助于人们找到一些疾病的治疗方法,而不是引起致命的损伤。

我们希望在生物和化学武器方面有一些国际化的禁用,这样就可以不用担心生化武器落入恐怖组织手中。

我也非常高兴看到中国做为一个大国,在3月时第一次站出来说要反对自动致命性武器的发明。中国做出的这一个努力非常重要。

我们看到中国的影响力变得越来越大,同时也看到了联合国付出的努力,希望可以使这一切变为可能。

第二个原则:

希望可以通过AI以及自动化创造出来更多的财富,使得所有人都可以从中受益。

我认为我们全球GDP可以通过用机器替代人类的方法进行一个大爆炸,但是如果我们没有办法通过这个方法让人人受益的话,那就是我们的错误。

在科技和道德方面,我们希望可以确定的是,能够让整个社会变得更加和谐、更加一致、更加团结。

最终,我认为在AI的安全性研究方面,我们需要有更大的投资:

既然我们希望AI可以控制我们更多设备,AI可以对于我们的生命产生更大、更重要的影响,就必须要保证现在计算机系统中不能有那么多的黑客、Bug。

因为如果黑客能够随便黑进来的话,可能使得AI对自己产生非常负面的影响,我们要保证AI的目标和我们的目标是一致的。

这意味着如果我们最终达成了AGI的话,我们会面临一个很大的风险,如同在好莱坞的一些电影中看到的情况:

AI会变成一个魔鬼一样的东西,更可怕的是AI的复杂程度非常高,而它的目标与我们完全不同。

黑犀牛这个种族完全灭绝的原因仅仅在于,我们比它们聪明很多,而且我们的目标跟它们也不同。

所以,如果AGI比起我们要智慧很多的话,我们不想让自己成为黑犀牛这样的一个角色,我们希望AGI能够与我们的目标保持一致,将我们的目标作为它们的最终目标进行发展。

我们应该更多的关注最终成果,而不是只是面对明天、后天的选择。

如果我们没有办法做到这一点,保持一个非常远大的目标,有可能我们会达到人类历史上能够得到的最差的结果。

我们应该更多的着眼于我们整个星球,如何通过技术控制发展方向,最终达到我们最想期待的未来,所有的人都能够从中受益。不仅仅是好一点,而是好的非常多。

现在我们可以想一下,2018年比起明朝或者说石器时代的时候都变得更好,为什么?

是因为技术的发展,之所以我非常感谢文明,也是因为用这种智能的方式我们得到了更好的生活。

通过人类、人工智能两者的结合,我们可以很好的解决现在我们面临的问题。

总而言之,我们现在所面临的就是一个选择,我们可以完全无动于衷,并且不去进行长远的思考,只是非常盲目地开发,相信所有的技术发展都是对我们有利,不断地来重复现在我们所做的工作,我们总是相信所有的技术都会让一切变得更好,根本不去进行技术发展的控制,不去进行任何目标的制定。

或者我们另外一个选择,我们有非常宏伟的目标,并且不断地向着这个目标来进行推进,使得人人可以从中受益。

所以,我们希望最终达成的AI不仅仅取代我们,而是使得我们变得更好。

以上内容整理自迈克斯泰格马克教授在长江商学院与湛庐文化合作举办的第23期“长江大讲堂·生命3.0,重新定义AI的未来”上的演讲 来源 | 笔记侠授权整理,长江商学院略有编辑

点击查看原文

相关链接