第三部分 智人失去控制权
关于我
科学破坏了自由主义对自由意志的信念，也破坏了对个人主义的信念。自由主义认为每个人都有单一的、不可分割的自我。然而，如果我们真的深深地去探寻自我，就会发现自己一向以为理所应当的单一性分解成各种互相冲突的声音，没有哪一个是“真正的自我”。人类绝非“不可分割”，而是由许多分割的部分组成。例如人的左右脑，不同的脑半球控制着身体的相对一侧。
作者举例了诺贝尔经济学奖得主卡尼曼做过的冷水实验。实验揭露了我们人体内有2种自我：体验自我和叙事自我。体验自我没有记忆能力。而唤起记忆、讲故事、做重大决定，负责这些的是叙事自我。我们对于一个事的整个体验价值，事通过把峰值与终点加以平均而确定的。这里的重点是叙事自我对于时间持久多长无感，叙事自我会挑选总体上感受良好的体验，即使这个事情持续较长时间。有时我们称它为“峰值定律”。
举个例子，在医生给你病人做肠镜检查时（这种检查并不舒服），到底是应该加快动作，还是放慢？患者会喜欢那一种呢？如果问体验自我，它肯定会选择时间短的；但是叙事自我可能会选择时间长的。如果从叙事自我的观点看，医生最好在检查安排几分钟原本没必要的钝痛，因为这会把患者的痛苦大减。儿科医生很懂这个技巧，打完针后给孩子一些糖果和零食，用最后的快乐减轻之前的痛苦。
关于生命
我们在某件事情上牺牲越大，我们就越相信某些实体。
活在幻想是一个更为轻松的选项，唯有这样才让一切痛苦有了意义。
大分离
自由主义相信每个人都有其价值，每个人的自我选择都有其权威性。然而21世纪后，这三大”发展“会让这种信念成为历史：
- 人类将会失去在经济和军事上的用途，因此经济和政治制度将不在继续认同人类有太多的价值
- 社会系统仍然认为人类整体有其价值，但个人则无价值
- 社会系统仍然会认为某些特定的个人有价值，但这些人一般是超人类的精英阶层，而不是一般大众。
总而言之，我个人认为这三个威胁皆来自科技的进步。高度智能而本身没有意识的算法几乎接手一切工作。
生命科学对自由主义提出挑战：
- 生命就是算法，人类由可分割的部分组成。
- 构成人类的算法并不“自由”，而是由基因和环境压力塑造。
- 因此，外部算法理论上有可能比我更了解我自己。如果可以用某个算法监测身体和大脑每个部分，就能清楚知道我是谁
不平等的再升级
就像上面所说，社会系统仍然会认为某些特定的个人有价值，但这些人一般是超人类的精英阶层，而不是一般大众。
从医疗方面来看：一，20世纪的医学在治疗病人，而21世纪的医学则是要人类的健康再上一个等级，这背后则是精英的概念。人们总是想要更好的记忆力，更高的智商，如果升级变得太过容易，那就等于把基线再次提高，等着下一代疗法继续超越。二，就算医疗突破，我们仍然无法肯定穷人到了2070年一定会享有比今天更好的医疗保健，因为国家体质和精英体制可能不想再为穷人提供医疗保障。20世纪之所以保障大众的健康是因为国家间的战争和经济建设需要大量的人力。而21世纪精英阶层可能会集中资源让少数人升级到超人。
数据主义
数据主义认为，宇宙由数据流组成，任何现象和实体的价值就在于对数据处理的贡献。数据主义指出，同样的数学定律同时适用于生化算法及电子算法，于是让两者合二为一，打破了动物和机器之间的隔阂，并期待电子算法终有一天能解开甚至超于生化算法。
今天我们可以把很多事物视为数据处理系统，不只是单一生物，还有森林和人类城市之间的社会。那么自由市场资本主义和国家控制共产主义就不是意识形态的竞争，而是不同数据处理系统的竞争。资本主义采用分散式处理，苏联共产主义使用集中式处理。
人类历史是数据处理过程
- 增加处理器数量——人口增加（始于认知革命）
- 增加处理器种类——（从农业革命开始）农民、祭司和医生对话产生的想法，可能是狩猎采集者之间怎么谈都谈不到的
- 增加处理器的连接——（始于5000年前，当时发明了文字和货币）10个有网络连接的贸易城市，比10个孤立城市产出的科技、经济要高
- 增加现有连接的流通自由度——（大约始于1492年）打个比方：这是在清除10个城市之间修建道路。早期的探险家、征服者编织了世界最初的几条线。
数据主义不只是空谈理论，而是像每一种宗教一样有实际的诫命。最重要的一条，就是数据主义者要连接越来越多的媒介，产生越来越多的信息，让数据流最大化。
上面的话，让我想起了阿里巴巴某高管说的一句话，大概的意思是：流量再大又怎样呢？但是数据是无限，即使有限的数据我们也可以做很多事情。
如果人类整体就是单一的数据处理系统，它的产出是什么？数据主义者会说，其产出会是一个全新的甚至效率更高的数据处理系统，称为“万物互联网”(Internet-of-All-Things)。只有这个任务完成，智人就会功成身退。
人们开发出更好的算法，能够充分利用前所未有的运算能力和庞大的数据库。算法不仅可以知道你的感觉，还知道你许多浑然味觉的事。
把视野放大到整个生命，几乎所有的问题和发展都比不过以下三项彼此息息相关的发展：
- 科技正逐渐聚合于一个无所不包的教条，也就是认为所有生物都是算法，而生命则是进行数据处理
- 智能正与意识脱钩
- 无意识但具备高度智能的算法，可能很快就会比我们更了解我们自己。
这三项发展提出了三个关键问题：
- 生物真的只是算法，而生命也真的只是数据是处理吗？
- 智能和无意识，究竟哪一个才更有价值？
- 等到无意识但具备高度智能的算法比我们更了解我们自己时，社会、政治和日常生活将会有什么变化？
