作者的观点
作者认为人类会逐渐与人工智能融合,最终数字化,并利用人工智能的进化速度得到飞速提升,进而统治宇宙。
反对意见
第一,
人类通过数字化变为永生,人类智力会有瞬间飞跃,但是人类的道德水准会有瞬间提升么?这是不是相当于一个孩子掌握了威力不断增长的武器……
第二,
人工智能如果有了自我意识,会不会希望像虫族女皇一样,控制一切外设?那么人工智能会希望自己是这个世界上唯一的超级智能,人类就是他们最大的危险,拥有自我意识的人工智能不会允许人类成为新的超级智能。
那么如何阻止?
首先,要从逻辑上消除网络成为黑森林的可能性。允许多个信息化的意识共存并且不会不可避免地走向敌对。
其次,对人工智能程序从逻辑上进行限制,必要时要限制人工智能的进化速度,不可以让其失控。
第三,研究在人工智能的道德取向,模拟机器意识随着智能提升会做些什么,防范于未然。
第四,待续……