今天要读一本2017年8月出版的新书《生命3.0》(Life 3.0, Max Tegmark),这本书的书名可能乍一看有点不明所以,这个我会在后面解释,不过它的副标题还是比较清楚的,叫“在一个人工智能时代做人”(Being Human in the Age of Artificial Intelligence)。
这本书的作者泰格马克,是麻省理工学院的教授,作为人工智能领域的权威专家,他创建了人工智能研究机构生命未来研究所(Future of Life Institute)。还和特斯拉的创始人马斯克一起发起了人工智能安全的相关研究,马斯克也在《生命3.0》出版的时候,第一时间在推特上推荐了这本书。
另外霍金教授也推荐了这本书,他说,所有人,不仅仅是科学家,为了享受未来人工智能给人类带来的福利并且规避可能的风险,都应该问问自己,可以为人工智能做点儿什么。这是我们这个时代,最重要的思考之一。而泰格马克的这本书,能够在你思考这些问题的时候,帮到你。
从2016年起,人工智能成为了整个科技行业最火热的话题,很多科技巨头都表示要在人工智能上压重注,把人工智能,作为企业的核心发展方向,其中最有名的,要数开发出AlphaGo的英国科技公司Deepmind。
Deepmind的创始人哈萨比斯,和马斯克是很好的朋友,几年前哈萨比斯曾经拜访过马斯克位于洛杉矶郊区的SpaceX项目的火箭工厂,马斯克对哈萨比斯说,SpaceX正在做全人类最重要的项目——星际殖民。然而哈萨比斯觉得这个不重要,他自己做的事,才是现在全世界最重要的事——研发超级人工智能。
马斯克就说,你们现在做这个事情啊,就是我们要去殖民火星的原因之一,你想啊,万一有一天人工智能胡作非为,向人类发起攻击的话,那人类还能有火星这么个容身之所啊!
哈萨比斯笑着回应,如果真是这样的话,你以为人工智能就追不到火星去吗?
所以说,即使是科技领袖之间,对于人工智能,也有着不同的态度。
最有名的乐观派要数人工智能专家吴恩达教授了吧(吴恩达教授因为在担任百度首席科学家期间,人工智能机器人小度亮相最强大脑,而在中国家喻户晓),他就在不断的表示:“我们应该信任机器人”
但是我们在新闻中听到的有关人工智能的报道,往往就有点耸人听闻了,比如霍金教授就屡次预言:“人工智能会导致人类灭亡!”。比尔盖茨也警告说:“人类要敬畏人工智能的崛起!”,沃兹尼亚克甚至说:“人类要接受当机器人的宠物”。
面对这些争论,本书的作者泰格马克在书中问大家——“我们可以讨论这个问题吗?”他的意思是说,不管人类拒绝还是欢迎,人工智能时代,都是必然会来的。
前面说到,这本书的标题很特别。
我们知道,1.0,2.0,3.0……这种命名法,在我们现实生活中,通常是用来命名软件的版本的,那么“生命1.0”,“生命2.0”,“生命3.0”说的又是什么呢?生命是怎么分版本的呢?
熟悉进化论的人都知道,生命是处于不断演化的动态过程中的,不仅仅是单个的物种遵循进化的规律,整个生物系统,整个世界,也都遵循这样的规律。
比如说在目前已知的生命中,人类是最顶级的进化形态。低级的生命,比如细菌,虽然和人类一样都是生命,但如果说人类是“生命2.0”,细菌就是“生命1.0”。那么,区分人类和细菌不同“生命版本”的标准是什么呢?
泰格马克认为,不同生命版本之间的区别,在于硬件和软件,是不是能够自主设计。
对于人工智能,我们还是有不少疑问的,比如说“人工智能对于人类到底是好事还是坏事?”,“人工智能会不会抢走我的工作?”,“人工智能会攻击人类吗?”等等,对于这些疑问,这本书提供了一些值得参考的答案。
这篇书评,按老规矩,我还是想从三个层面上,讲述一下这本书的精华内容。
首先我想详细的讲一下“生命版本”的这个概念,为什么细菌是生命1.0,人类是生命2.0,生命3.0又是什么样的呢?
然后我想说一下“智能”这个概念和人工智能的发展现状;
最后展望一下我们和人工智能的相处之道。
生命的版本
我们先来看看生命的版本。
我们过去给生物分类,要么就是按动物,植物,微生物这样来分类,要么就是按陆生水生来分类,但是泰格马克认为,要从生命的定义出发,根据生命的本质,来给生物分类。
那到底什么叫做生命呢?
泰格马克认为,生命,其实就是有自我复制能力的一套信息处理系统。
这话听着玄乎,其实挺简单的,就是说,生命可以不断的成长和更新,还可以对外界的刺激做出反应。
在这个系统里,生命和电脑一样,有两个要素——软件和硬件。
硬件就是生命的肉体,而软件就是处理信息的能力。
所以,区分不同版本的生命,就是看这个生命软件和硬件的自主程度有多高。
比如细菌就是典型的1.0版本的生命,因为它们的硬件和软件,都只能演化,而不能自主设计,举个例子,很多细菌有传感器,能够探测溶液中糖分的浓度是高还是低,因为对能量的需求,它们会向糖分高的地方移动,然而这些细菌,不可能向糖分低的方向移动,这种移动在我们人类看来很简单,但是对于这些细菌来说,往糖分高的地方移动,是刻在基因里的,它们是无法违抗基因的指令自主行动的。同时细菌的硬件,就是肉体,也是由基因决定的,不能自主设计。
跟细菌相比,动物的结构虽然要复杂一些,但实际上,软件的自主度,仍然是比较低的,但也不至于像细菌一样,完全不存在自主学习能力,所以可以根据进化水平,标记成1.1,1.2,1.3……等不同版本的生命。
当然人类这种高级生命,也是从简单低级的生命进化来的,但人类是典型的2.0版本的生命,这种生命的特征是,硬件和1.0版本的生命一样,由基因决定,只能靠演化,但是软件却可以在很大程度上自主设计。我们的行动,虽然也要一定程度上受到基因的控制,但是自主性要强得多。我们可以通过学习来主动更新我们的软件,甚至挑战基因对我们的限制。
举个例子,比如说我们恐高,是因为基因想要我们在位于高处的时候能够意识到危险,然而人来现在故意去参加蹦极,过山车,攀岩这些运动,就是我们对基因的挑战。
当然了,我们目前对软件的改造能力也是有限的,比如我们都曾经幻想过,能不能用一个什么方法,把知识直接就灌进大脑里,那样就不用费劲去学习和记忆了。说到我们对硬件的改造,那就更加的有限了,顶多就是装个假肢装个假牙什么的。
说到这里,我们这些2.0版本的生命,大概可以推理出3.0版本生命的意义了,所谓生命3.0就是,不仅软件可以自主设计,而且硬件也可以自主设计。
也就是说,3.0版本的生命,完全摆脱了演化的束缚。
这种生命,其实就是未来的人工智能嘛!他们可以根据需求给自己更换添加硬件,换一个大脑,就像现在换一个电脑CPU一样便利,而且软件也能做到随时更新,比如想要说中文,就在系统里添加中文语言模块,想要说英文,就添加英文语言模块,完全不需要经过漫长的学习过程。
这种生物,目前,在我们这些2.0的生命看,应该就算是生命的终极目标了。
人工智能的现状和未来
说完了生命3.0的概念,我们来看看目前人工智能的发展现状,和未来人工智能的发展趋势。
大家目前脑海中人工智能的形象,应该是手机里的Siri,或者打败了李世石的AlphaGo,感觉就像个小管家,或者游戏天才这样的角色,离真正的智能差的还很远。
但是,所谓“真正的智能”,到底是什么样的智能呢?相信大多数人也说不清楚。
那我们下面就需要先说说到底什么是智能了。
泰格马克在权衡了各种关于智能的定义之后,给智能下了这样一个定义——
智能,就是达成复杂目标的能力。
但是问题又来了——什么是“复杂”呢?
所谓的“复杂”,其实就是“简单”的组合体。
所以我们发现,即使在计算,下棋等技艺上,人工智能已经远远超过了人类,它们还是不够“智能”,这是因为,它们不够“复杂”。不能组合起很多个“简单”的任务。
比如说AlphaGo,虽然它的围棋水平远超成年人,但是它的语言能力连小孩都不如,也没法和李世石比赛扳手腕,人类虽然没有计算机算术快,记忆力强,但是人类既能做数学题,又能打篮球,还能搬砖,所以说,目前,人类的智能的优势,主要体现在复杂度上。
因此,想要达到3.0层次的智能,单一功能的强大是不够的,还需要达成更复杂的强大。
那么现在人工智能究竟发展到了一个什么阶段呢?
根据之前我们对智能的定义,就是达成复杂目标的能力,书中把目标分为三类,分别是物理类,社会类和技术类。
在物理类的任务中,比如抬重物,运东西,焊接等,机器已经远远超过我们了,美国著名机器人公司波士顿动力研发出来的机器人,弹跳奔跑能力都已经远远的超过人类的奥运冠军了;但是对于修补类的工作,人工智能依然没有超过人类,比如说工厂里的智能机器,按照流水线可以一步一步的组装出一部手机,但是却没有办法维修一部坏掉的返厂手机,因为组装手机是流程化的,但是维修手机,必须要理解手机的结构,才能判断手机坏掉的原因。
看看社会类任务,在下围棋,象棋这类堆游戏中,和贪吃蛇,敲砖块这类操作游戏中,人工智能都已经打败人类了。在翻译领域,Google 2016年把神经网络技术运用在翻译领域的时候,翻译质量,让人类翻译感到震惊和恐慌,因为Google翻译的准确率,已经和人类翻译差不多了,而且如果把Google翻译看做一个个体的话,那么它早已碾压了全人类的翻译,因为人类历史上还没有记载过能翻译这么多语种的人。除了文本翻译,语音识别技术,近期也在飞速的发展,目前的手机输入法中,都已经全面实现了语音实时转文字的功能了。
在技术类的任务中,记忆,计算这类任务,机器早就把人类远远甩开了,比如中国的神威·太湖之光超级计算机,运算能力高达每秒12.5亿亿次,不是我打字打重了,就是12.5亿亿次,但我们人类,一般算个加减法就得一秒,这种差别完全不是通过训练可以弥补的。
所以我们可以发现,在很多单个目标任务上,人工智能已经超越了人类,但是重要的是,如何把这些“简单”的任务,综合起来。
千万不要觉得像搭积木一样,把这些功能组合在一起,就能解决复杂的问题了。
比如说和人沟通这个问题,只要在语音识别,语义检索,答案搜素,情感模拟这些底层任务的执行中,有一处明显的短板,那么就没有办法实现流畅的沟通。
所以大神图灵博士在1950年提出,如果一个机器,能够使用自然语言和成年人交流,而在过程中,成年人无法意识到它是机器,那么就可以认为,这个机器拥有了智能。这就是大名鼎鼎的图灵测试。
不过图灵测试其实是有一定问题的,也就是说受测试的机器可以作弊!在测试过程中,如果机器欺骗,或者假装无知,就可以通过测试。比如说2014年,一个叫古斯特曼的聊天机器人,伪装成一名来自乌克兰的13岁男孩和人聊天,在和人交谈的过程中,他很少正面回答问题,基本都是用 “这个问题我不太确定,我得再想想” , “你的问题很有趣,可惜我还没有学过相关知识” ,结果测试中的人类,还真的是有很多,没法辨别古斯特曼到底是人类,还是人工智能。
所以人工智能的研究者们,提出了一些新的测试方案,其中最出名的,是维诺格拉德模式挑战,它的测试原理非常简单,因为人类所使用的自然语言存在模糊性,比如说“桌子上放着一个篮球,它是由木头做成的”,这个句子就是有歧义的,因为“它”,既可以说的是桌子,也可以说的是篮球,但是人类听到这句话,就一定会认为,这里的“它”,说的是桌子。因为通常只有桌子才会用木头制作,篮球不太可能是木头做的。而机器人,却很难具备足够的常识,来消除句子中的歧义。
2016年,一套60个问题的维诺格拉德挑战,最优秀的参与挑战的人工智能系统,也只能达到58%的准确率,离研究者设定的90%的门槛还有很远的距离。
人工智能和人类的相处
说完了人工智能的现状,展望了人工智能的未来,我们下面再说一下人工智能和人类的相处问题。
2015年,一家媒体报道,一个22岁的年轻人在安装机器人的过程中,被机器人抓住胸部,然后重重的压向了一块金属板,最后导致他因伤重不治身亡。然后不少媒体,都用了机器人谋杀人类做标题,报道了这起事故。
其实这件事,完全是这个年轻人操作不当造成的,这个机器人,并不存在杀死人类的意愿,所以本质上,这起事故和其它致死的工伤,甚至和一个人切菜把手切破了,是一回事儿。但是不难看出,由于媒体和影视作品的渲染,人们对于人工智能的担忧情绪,是很高的。
除了忧虑派,还有一群乐天派,在乐天派眼里,人工智能就是人类的保姆仆人管家秘书,存在的意义就是为人类提供服务,谈不上什么相处问题。
但事实上,人工智能和人类,不是简单的追杀和被追杀,服务与被服务的关系。
举个例子,很多科技公司,现在都在研究无人驾驶技术,关于无人驾驶,人们对于它的角色定位很简单,就是个人的专属司机。
但是,不出交通事故还好,一旦出了交通事故,你就会发现其中的复杂性了。
比如书里面就举了这样一个例子:
如果你开启了汽车的自动驾驶功能,然后发生了交通事故,那么在这起交通事故中,应该追究谁的责任呢?是乘客的责任?汽车制造商的责任?还是汽车本身的责任?
乘客本身显然是无辜的,他并没有驾驶汽车,甚至是有可能在睡觉,他没有犯错,也没有任何可能阻止交通事故的发生;
让汽车制造商承担责任也说不过去,因为很多情况下,交通事故的责任不在于技术问题,就像通过驾照考试的合格司机,也会因为各种不确定的因素而失手,况且,就算是因为技术问题,作为一个商品,是很难100%的杜绝技术问题的,这会让成本无限高,最后谁也买不起。比如说你在用手机通电话的时候,手机因为技术问题突然黑屏,之后恢复了,但你因为这次黑屏,错过了一个交易造成了重大损失,你总不能找手机厂商去赔吧?因为保证任何情况下都绝对不会黑屏的手机,不是几千人民币这个价啊!
那么看来,我们只能追求汽车本身的责任了!不少法律专家认为,这样是可以的。
但是问题又来了,如果汽车对交通事故负责,那么汽车如何赔偿交通事故的受害者呢?
考虑到这个问题,法律专家建议,应该让无人驾驶汽车,在出厂以后,强制购买一份保险,如果汽车给自己上了一份保险,那么发生交通事故的时候,就会有保险公司出面,支付汽车维修的费用,并且赔偿受害者。
但是注意,从法律上说,保险公司,支付的这笔钱,是支付给汽车的,而不是乘客的,是汽车自己的钱,这就相当于承认了,汽车可以拥有私人财产。
当然这件事在现实中还没有发生过,所以我们可能一时难以接受,还觉得有点儿搞笑,但是我再往下推测就不搞笑了——
如果允许人工智能拥有财产,那么人工智能可不可以参与金融活动呢?
要知道,现在很多的投资机构,都是在使用算法进行交易,就是让计算机根据一定的算法自动的决策并且进行交易,这比很多普通人的交易盈利能力强多了,如果人工智能用自己的钱,投资金融市场赚钱,很有可能在短时间内积累大量的财富。到时候,这些富有的人工智能,会不会雇用人类为他们服务呢?
想想是不是挺可怕的?好像从一份汽车保险开始,人类就离被人工智能控制不远了。
而且,人工智能不是像人类设想的那样,用武力胁迫的方式,让人类为他们服务,反而是用我们人类早已广泛接受的雇佣制度,就可以实现了。
在这本书里,泰格马克一直在强调他的一个观点,就是尽管有种种的担忧,人工智能的出现,是一个必然的趋势,我们其实没有探讨的余地,因为人类的本性,使得人类无法拒绝人工智能。
你看,医疗机器人的出现,让医疗事故出现的概率大幅度下降;人工智能法官能够有效减少冤假错案;无人驾驶汽车可以减少交通事故,那我们人类,真的有能力,抵挡使用这些人工智能的诱惑吗?
显然很难!
但是,未来人工智能和人类,究竟是怎样的相处方式,其实谁也没有办法准确预言,泰格马克在书中,设想了好几个未来人工智能和人类的相处模式,也许呢。未来人工智能,会把我们当做低级动物一样养在动物园里,也有可能一起创造一个天下大同的伊甸园,消除了一切疾病,贫穷和不公正,到底最后是哪种情况,现在没有人能够预测。
不过可以肯定的是,伴随着人工智能的发展,人类也会升级自己的版本,比如说通过对大脑的改造,人类可能也能拥有超级计算机的计算能力,或者一出生就掌握所有人类语言,也许到时候,我们人类,和人工智能之间的界限,都会越来越模糊,那样也就不存在,人工智能和人类的矛盾了。