智人之所以能成功，秘诀在于懂得运用信息，并把许多人联结起来。
所谓信息，就是能够将不同的点联结成网络，从而创造出新的现实。
虽然人类网络的力量一代比一代强，却不见得越来越明智。如果某个人类网络把秩序看得比真相更重要，它可能掌控着无比强大的力量，却会不明智地使用这种力量。
板块一 信息与信息网络模型
信息的基本定义特征
真正定义信息的是“联结”，而不是“渲染”或“象征”：只要能将各个不同的点联结成网络，就是信息。信息不一定是要告诉我们一些什么，而是要把事物组织起来。
信息有时候会呈现现实，有时候并非呈现现实。但不论如何，信息都会联结形成网络。
信息并不像天真的信息观以为的那样必然带来真相，而且发现真相也不是人类信息网络唯一的目的。信息也不像民粹主义观点以为的那样只是一种武器。
信息网络模型
每个人类信息网络都需要同时做到两件事，即除了要发现真相，还得创造秩序。
人类信息网络也已经发展出两套截然不同的技能，一方面，网络学会了如何处理信息才能对医学、猛犸象和核物理等事物有更准确的理解。另一方面，网络也学会了如何运用信息才能在更大的人群中维持更强大的社会秩序：除了运用真实的陈述，也要运用虚构、幻想、宣传，以及偶尔的彻彻底底的谎言。
所有威力强大的信息网络都是可好可坏，这取决于它们的设计与使用方式。信息网络的功能并不是把真相放到最大，而是要在真相与秩序之间达到平衡。
板块二 人类发明的各种信息技术
人类最早研发出的重要信息技术：故事
不论是通过植入虚假记忆、建构虚构的关系，还是通过创造主体间的现实，故事都产生出了大规模的人类网络，这些网络反过来又彻底改变了世界的力量平衡。这些以故事为基础的网络，让智人的力量超越了其他动物。
智人在有了故事之后，又有了另一种新的联结：人与故事的联结。从此之后，为了合作，智人之间并不一定需要真的彼此了解，只需要知道同一个故事就行。
在人类开始讲故事之前，现实只有两个层次：客观现实与主观现实。故事能够创造出第三个层次的现实：存在于主体间的现实。这样的现实存在于人们相互讲述的故事中。它并不是指任何已然存在的事物，而是在人类交换信息的过程中创造出来的。
“品牌”其实就是一种特定类型的故事。要给产品打造一个品牌，就意味着讲述一个关于该产品的故事，故事和产品真正的特性可能根本没什么关系，但就是能让消费者把故事和产品联系起来。
真正能将人类网络维系在一起的往往是虚构的故事，尤其是关于神祇、货币和国家这些存在于主体间的现实的故事。
第一，虚构的故事要多简单就可以有多简单，但真相往往很复杂，因为它要呈现现实，而现实是复杂的。
第二，真相常常令人痛苦不安，如果我们想让它别那么令人痛苦，变得比较讨人喜欢，真相也就不再是真相了。相较之下，虚构的故事可塑性更高。
一种独特的、非生物的信息技术：书面文件
文件让人有新的方法创造主体间的现实。口述文化是通过讲故事创造主体间的现实，许多人不断重复讲这个故事并记住它。在这种时候，大脑的容量会对人类创造的主体间现实形成限制。要是大脑记不住，这样的主体间现实也就创造不出来。但书面文件打破了这个限制。这些文件并不是要呈现什么客观的经验现实，它们就是现实本身。
采集者在森林里只需要找出既有的森林秩序，但档案管理员则需要为这个档案世界设计一套新的秩序。这种秩序就被称为官僚制度。在大型组织里，人类就是用官僚制度来解决资料检索的问题，进而创造出更庞大也更强大的信息网络的。但就像神话故事一样，官僚制度也常常为了秩序而牺牲真理。在为这个世界发明并套用了一套新秩序之后，官僚制度就以一种独特的方式扭曲了人们对世界的理解。
不管是把文件放进哪种容器里，原则都一样：分而治之。把这个世界分开放进不同的容器，并让容器各安其位，文件就不会混在一起。然而，这个原则需要付出代价。官僚制度的重点并不是去了解世界真实的样貌，而是忙着给世界强加一套全新、人为的秩序。官僚制度先是发明各种抽屉，这些抽屉属于存在于主体间的现实，其划分并不一定对应世界上的任何客观现实。但官僚制度接着就硬生生地把这个世界放进这些抽屉里，如果放不下，它只会塞得更用力。
各种由书面文件与官僚程序联结的人类网络都需要仰赖人类与文件之间的互动。文件、档案、表格、许可、法规，以及其他各种官僚程序改变了信息在社会上流动的方式，也改变了权力运作的方式。随着文件成为许多社会链条的重要节点，文件开始承载着无与伦比的权力，能掌握这些文件背后的神秘逻辑，就能成为新的权威人物。
板块三 出现错误时，人类信息网络怎样处理
所有信息网络都会有局限性
每个宗教的核心都离不开一个幻想，即与一个超人类的、绝对可靠的智能体相联结。宗教总想让自己减少凡人的色彩，引导信众相信一些绝对正确的超人类法则，但到头来，宗教还是不得不要求信众去相信这个或那个人类。要解决这个问题，方法之一就是设立宗教监管机构，审查这些所谓传达神谕的人。
使用书这项信息技术，就能确保不同的人在不同的时间、地点访问同一个数据库。同一本书有许多副本，能避免有人对文本动手脚。对抄写制定出严格的规矩。对书籍的解读达成共识。更准确地说，文本里的那些文字比世界上的事实更重要。这些相互关联的文本并不是在呈现现实，而是创造了一个新的信息领域。
天真的信息观认为，只要消除一切限制，让信息自由流动，也就是创造信息的自由市场，所有错误终将无所遁形，而由真理与真相取而代之。但，光是消除信息流动的障碍，不一定就能发现真相、传播真理，反而容易导致谎言与幻想的传播，创造出有毒的信息领域。
人类是因为发现了自己的无知，才推动了科学革命
能够真正推动科学革命发展的既不是印刷术，也不是完全自由的信息市场，而是能够解决“人会犯错”这个问题的创新方法。自由的信息市场并不一定能让人发现并改正自己的错误，想要让真理与真相胜出，就必须建立筛选机制，让天平往事实那一方倾斜。
由科学革命扮演重要角色的筛选机制，是在联结了大学内外的学者与研究人员后形成的一个横跨整个欧洲乃至全世界的信息网络。这些机制是以实证证据为基础来整理信息，它们有强大的自我修正机制，能够揭露并修正自身的错误，科学革命真正的引擎正是这些自我修正机制。所谓的自我修正，指的是实体会用这些机制来修正自己的错误。
自我修正机制的第一步，就是认识到人类会犯错、会堕落。科学革命从一开始就不相信有绝对正确这种事，其打造的信息网络也认为错误本就不可避免。科学的标志不仅仅是怀疑，而且是自我怀疑，在所有科学机构的核心，都能看到强大的自我修正机制。
科学机构的聘任与晋升，遵守的原则是“不发表就淘汰”，而想在优秀的期刊上发表论文，你必须揭露现有理论的某种错误，或是发现一些前辈不知道的内容。
自我修正机制虽然有利于追求真理，却会让维持秩序的成本大大升高。自我修正机制太过强大，往往会产生怀疑、分歧、冲突与裂痕，并破坏社会大团结的神话。如何维持真相与秩序之间的平衡，始终是信息网络的历史中很重要的一部分。为了秩序而牺牲真理与真相需要付出代价；反之，为了真理与真相而牺牲秩序，代价同样不低。
板块四 民主与独裁政体的信息流动方式
将民主与独裁视为两种相对的信息网络类型
所谓独裁，就是由单一中央信息枢纽决定一切。独裁信息网络高度集中，中心掌握着无限的权力，所以信息往往是从地方流向中央枢纽，最重要的决策也都是在中央做出的。独裁不一定等于极权：常常是出于技术上的困难，而使独裁无法走上极权之路。独裁信息网络中的人们会认定中央是绝对正确的，所以并不欢迎对中央决策的任何挑战。
所谓民主，则是有不同信息节点持续对话。民主政体是一个分布式的信息网络，并且拥有强大的自我修正机制。在民主信息网络里，也会有一个中心枢纽，政府掌握着民主政体最重要的行政权力，因此政府机构会收集、储存大量的信息。然而，民主政体还有许多其他信息渠道，连接许多独立节点。民主政体相信人人都可能犯错，因此虽然会赋予中央一些重大决策权，但同时也会保留一些能够挑战中央权威的强大机制。
从民粹主义到极权主义的“变身”
民粹主义就像施展了一套奇幻的政治炼金术，根据看似无可挑剔的民主原则，发展出一套追求无限权力的极权主义。民粹主义者最奇妙的一项主张是只有他们才能真正代表人民。民粹主义信条的一个基本要素，就是没有把人民看作一群拥有不同观点与利益、活生生的人，而认为人民就是一个神秘而统一的实体，只有单一的意志，也就是“人民的意志”。虽然民粹主义可能口口声声说自己坚守“人民的权力”这项民主原则，但实际上却让民主失去意义，并且试图追求独裁统治。通过把“人民的权力”这项民主原则发挥到极致，民粹主义摇身一变，成了极权主义。
极权主义总觉得自己绝对正确、无懈可击，也希望能够彻底掌握人民的所有生活。极权主义想控制每个公民每分每秒的言行举止甚至思想与感受。在极权信息网络中，许多技术限制根本就不存在。现代科技除了能让人类有可能实现大规模民主，也让人类有可能实现大规模极权。极权政权的基础，就是控制一切信息流动，并对所有独立信息渠道保持怀疑。无论人民在哪里见面、交换信息，都必须受到政权的密切监控。极权制度希望所有信息都要经过中央枢纽，而不希望任何独立机构自行做出决策。
民主与极权信息网络的优劣势
集中式极权网络的最大优势在于秩序一目了然，能够迅速做出决定，并且不带情绪地坚定执行。但正是选择了运用现代信息科技让信息集中向中央流动，并且扼杀真相以维持秩序，结果就是必须应对僵化、难以变通的风险。如果越来越多的信息流向单一地点，究竟是能实现有效控制，还是会造成动脉阻塞？
民主信息网络选择运用现代资讯科技让信息分流到更多机构和个人，鼓励自由追求真相，结果就是必须应对分崩离析的风险。假设太阳系出现了越来越多的行星，它们旋转得越来越快，太阳这个中心是继续维持，还是四分五裂，陷入无政府状态？
板块五 计算机与人类信息网络
到21世纪，政治上的主要分歧可能并不是民主政权与极权政权之间的分歧，而是人类与非人类个体之间的分歧。可能出现一道新的硅幕，居其两侧的可能不是民主政权与极权政权，而是一侧为所有人类，另一侧为我们无法理解的算法霸主。所有国家、所有行业的人类（甚至包括独裁者），都可能发现自己得在一套高深莫测的智能面前卑躬屈膝。这套智能有能力监控我们的一切，但我们却对它正在做什么一无所知。
人类信息网络的基本结构发生改变
计算机就是一堆机器，不会有什么思想，也不会有什么感受，因此也无法自行做出任何决策、创造任何想法。如果认为必须先有意识，才会做出决策、创造想法，这从根本上是一种误解，因为大家普遍地把“智能”与“意识”混为一谈了。智能与意识其实是两回事。智能是实现目标的能力，意识则是体验各种主观感受（比如痛苦、快乐、爱与恨）的能力。即使人类也可能在完全没有意识的情况下做出各种明智的决策：从呼吸到消化，人体99%的机制都不是在有意识的情况下发生的。虽然计算机没有意识，无法感受到痛苦、爱或恐惧，但还是能做出决策。计算机也有可能无须发展出意识，就比人类更懂得如何解决问题。
能够自己追求目标、自行做出决策的计算机出现之后，人类信息网络的基本结构也就改变了。在计算机兴起之前，不论是教会还是国家，这些信息网络里的每个链条，人类都是不可或缺的环节。有些链条完全由人类组成。文字、印刷与广播的发明，虽然彻底改变了人类互相连接的方式，但并未给整个信息网络带来新类型的成员。计算机也协助了网络的原有成员（人类）以新的方式互相连接，但计算机在这里最重要的意义，是它成了这个信息网络中全新的且非人类的成员。在全新的、以计算机为基础的网络中，计算机本身就是网络的成员之一，甚至有计算机对计算机的连接，中间完全不需要经过人类。
全新的信息网络会有越来越多的两种新型链条，第一种是计算机与人类的连接，计算机在人类之间充当中介，有时候甚至会控制人类。第二种是目前已经开始出现的计算机与计算机的链接，计算机能够彼此自行互动，人类被排除在这些链接之外，就连理解其中发生了什么都很困难。
如果计算机形成的网络永远运行
人类发展出的中央集权式官僚网络，其最重要的功能之一就是对全民进行监控。收集大量关于民众的数据，分析所有数据，找出其中的规律模式。算法在海量数据里找出规律和模式的能力也远远高于人类。
如果到了一个由计算机来监控人类的世界，人类就有可能在史上首次完全失去隐私。人的任何身体活动都会留下一连串数据的痕迹。或是非政府点对点监控网络的形成。
社会信用体系的目标是给人们的所有事情都打上分数，而得出的总分也会影响一个人的所有事情。对于社会信用体系，我们也可以把它视为一种新型货币制度。各种社会信用体系所追求的，就是把声誉市场的估值加以标准化。社会信用就是一套新的点数系统，就连微笑或是拜访亲人这种事，这套系统都能明确告诉你价值是多少。社会信用算法加上无处不在的监控技术，就有可能整合一切现有的地位竞争，合并成一场永无止境的比拼。如果数字官僚用这种苛刻的点数制度来时时刻刻监控每个人，目前正在崛起的声誉市场就有可能抹杀人类的隐私，并对人类形成远比货币市场更令人窒息的控制。
计算机正逼着人类走向一种新的生活方式：永远连线，永远受到监控。
我们必须避免让计算机网络完全控制社会，这不但是为了让我们有点儿休息的时间，更是为了有机会修正网络里累积的错误。如果网络只是不断演化、不断加速，里面的错误就会越积越多，快到我们来不及找出并修正那些错误。因为网络的特性除了永不停歇、无所不在，还很容易出错。
可能出错：谬误百出的网络
计算机能够收集前所未有的大量人类数据，一天24小时观察我们的行为；计算机也能用超人类的效率，在海量数据中找出各种规律与模式，但这并不代表计算机网络对世界的理解就永远正确。信息并不等于真理与真相，一套全面监控的系统对世界与人类的理解可能极为扭曲。计算机网络有可能并不会找出关于世界与人类的真理与真相，反而是利用它庞大的力量，创造出一套新的世界秩序，并逼迫人类接受。
即使事实摆在眼前，即谎言与仇恨常常会对心理与社会造成破坏，而真相、同情心与睡眠是人类幸福所不可或缺的，算法也完全不考量这一点。正因为对人类的理解如此狭隘，所以算法创造了一个新的社会系统，鼓励我们顺从人类最基本的本能，同时阻碍我们发挥人类完整的潜能。如果人们可以完全自由地表达自己，真理常常会败下阵来。想让天平往有利于真理的方向倾斜，网络就必须发展并维持强大的自我修正机制，让说真话的人得到奖励。自我修正机制需要付出相当大的代价，但要是真想得到真理，这是必要的代价。
一致性问题及其危害因素：
计算机面临的一个更大的问题：一致性问题（又被称为“对齐问题”）。只要人类给计算机一个特定的目标，计算机就会竭尽全力，以各种不同方式实现这个目标。但由于计算机的运作与人类大不相同，很可能所用的方法将完全出乎人类的意料，造成未曾预见的危险后果，而与人类最初确立的目标完全不一致。一致性问题的本质：我们奖励的是A行为，却希望得到B结果。
网络的权力可能远远高于过去任何人类官僚机构。计算机的问题并不在于它们特别邪恶，而在于它们特别强大。而计算机越强大，我们就越要小心为其确立目标，务必让计算机与人类的终极目标完全一致。
计算机是非生物实体，所以它们采用的策略很可能是所有人类从未想到的，自然无力预见并阻止。
计算机与人类实在差异太大，所以就算我们不小心给出了与人类利益不一致的目标，计算机也不太会有所警觉或要求说明。
解决：义务论与功利主义
义务论相信，世界上存在所有人都应该遵守的普世道德义务或道德规则。这些规则的重点并不是看齐某些更高的目标，而是其本质的良善。如果真的有这样的规则，而且我们也能找到方法将其写进计算机程序，就能确保计算机网络成为一股向善的力量。但是，计算机甚至根本不是生物。所以如果它们要遵守“你们愿意人怎样待你们，你们也要怎样待人”这条规则，那杀死像人类这样的生物又何妨？反正这条规则并不会危及非生物的计算机。最清楚的建议就是告诉计算机保护所有“能够感受到痛苦的实体”。如果以“能够感受到痛苦”来定义是否属于内群体，就能让道德有个客观而普世存在的现实基础。
功利主义是用行为对痛苦或快乐的影响来判断行为。但是，人类并不知道该如何计算痛苦：我们不知道某个事件究竟应有多少个“痛苦值”或“快乐值”，所以在复杂的历史情境中，很难计算某个特定行为到底是增加还是减少了世界整体的痛苦总额。所以，虽然功利主义承诺提供一种合乎理性甚至数学的方式，让所有行为都与终极之善看齐，但在实践中这可能只是又一则神话。
一致性问题本质上就是个神话问题。无论信的是义务论还是功利主义。在许多计算机相互通信的时候，就能形成一种“存在于计算机间的现实”，类似于人际网络所创造的“存在于主体间的现实”。这些存在于计算机间的现实，最终的力量（与危险性）可能不亚于人类所创造的存在于人类主体间的神话。金钱、神祇这种存在于主体间的现实除了能影响人的思想，也能影响物理现实；同理，存在于计算机间的现实同样能影响存在于计算机之外的现实。到21世纪，可能会出现因抢夺计算机间的实体而引发的战争。人类在几万年间主宰着地球，是因为只有人类有能力创造并维持各种主体间实体（如企业、货币、神祇、国家），再通过这些实体来组织大规模合作。而现在，计算机也可能具备类似的能力。现在人类该问的问题并不是如何剥夺计算机的创造力，而是如何把这些创造力导向正确方向。
计算机的偏见
人工智能一开始就像个“算法宝宝”，虽然没有多少知识，但拥有巨大的潜力与运算能力。人类父母给它的只有学习能力，并让它能够接触这个资料世界，接着就放手让这个“算法宝宝”自己探索。而与人类宝宝一样，“算法宝宝”的学习方式就是从自己能接触到的数据中找出规律模式。通过寻找数据中的规律模式，“算法宝宝”就能学到更多，包括许多连人类父母都不了解的事。训练人工智能用的数据库，有点儿像是人类的童年。人类在童年的经历、创伤与美好回忆，会陪伴我们走完一生。人工智能也有童年经历。算法甚至会像人类一样，受他人偏见的影响。虽然计算机并非生物实体，也没有意识，但计算机确实拥有类似数字心灵的东西，甚至可能出现某种计算机间的神话观点，所以同样可能有种族歧视、厌女、恐同或反犹太主义倾向。
最后，防范方式是训练计算机时时注意自己是否出错。正如苏格拉底所说，承认“我不知道”是通往智慧的重要一步。人类智能如此，计算机智能亦然。所有算法都该学的第一课，正是自己也可能犯错。“算法宝宝”应该学会怀疑自己，不确定就承认不确定，并且遵守预防原则。这是有可能做到的。
板块六 计算机政治学
人工智能兴起之所以会对人类构成生存威胁，并不是因为计算机真的抱有什么恶意，而是因为人类自己的缺陷问题。
民主政体能够也应该遵循的基本原则
自由民主制度虽然有种种缺陷，却仍然是更好的选择。自由民主制度的一大优势，就在于拥有强大的自我修正机制，能够避免过度狂热，也保留了发现自身错误、改变行动方针的能力。由于我们无法预测新的计算机网络究竟会如何发展，如果想要避免21世纪走向灾难，最好的办法就是维持民主的自我修正机制，让我们在发展的过程中随时发现并修正各种错误。
第一个民主原则是为善。如果计算机网络要收集关于我的信息，必须是用来帮助我，而不是操纵我。
第二个原则是去中心化。民主社会绝不该允许所有信息集中在一处。让许多数据库与信息渠道独立存在，也有助于维持强大的自我修正机制。自我修正机制需要不同的机构制度互相制衡，相互监督。
第三个民主原则是相互性。如果民主制度打算加强对个人的监控，就必须同时加强对政府与企业的监控。
第四个民主原则，是监控系统必须永远保留让人改变与休息的空间。
新信息技术对民主造成的威胁
民主制度的灵活性、质疑旧神话的意愿，以及强大的自我修正机制，都是至关重要的资产。
（一）新的计算机网络铁面无私、不讲情面，很可能会抹杀人类的隐私，而且在它奖惩人类的时候，被评判的除了我们的言行，还包括我们的思想与感受。民主社会如果采用强大的监控技术，都得小心避免走向太过刻板或弹性过大的极端。
（二）自动化破坏就业市场稳定，进而破坏民主。对未来就业市场的动态的错误假设：
（1）有些我们几百年来奉若至宝，觉得属于人类独有的技能，说不定很容易就能自动化；但也有些我们常常弃若敝屣的技能，自动化的难度却很高。计算机要打败国际象棋世界冠军，可比取代一位厨房杂务工简单多了。想在2050年仍然找得到工作，或许除了培养智力技能，在运动与社交技能上也该投入同样多的精力。
（2）唯有人类拥有创造力，所以只要是需要创造力的工作就很难自动化。我们对创造力的定义，通常就是能够找出模式，再打破模式。若真如此，计算机既然如此善于辨识模式，在许多领域就很可能会变得比人类更有创造力。
（3）计算机无法取代人类那些需要情绪智能（又称情商）的工作，像心理治疗师或教师。人的各种情绪，其实也都是模式。人工智能本身没有情绪，但还是可以学会如何辨识人类的这些情绪模式。事实上，正因为人工智能没有自己的情绪，所以它可能比人类更懂得如何辨识情绪。我们总渴望被理解，但其他人常常太专注于自己的感受，也就无法理解我们的感受。相较之下，计算机如果学会了如何辨识人类的感受模式，由于它不会被自己的感受分心，总有一天它能把人类的感受拿捏得极为细致。
在未来几十年，旧工作会消失，新工作会出现，但新工作很快也会改变并消失。因此，人类的再培训绝不可能一次完成，人类要一而再、再而三地进行培训，才能让自己在社会上不被淘汰。
（三）许多科技与系统已经变得如此复杂，没有任何一个人有能力真正理解……在人工智能领域，那些正在走向自主的信息网络目前就是无法解释。你没有办法带着人一步一步走过整个决策过程，准确解释为什么算法会做出某项特定预测。工程师没办法看到机器的外壳下面发生了什么，更没办法轻松而详尽地解释各种事情是如何发生的。这种非人类的、令人难以理解的智能会让民主受到损害。如果越来越多关于人民生活的决定都是在黑盒子里完成的，人们无法理解，也无法挑战那些决定，民主就会停摆。
（四）计算机网络让人更容易参与辩论。在过去，报纸、广播与各大政党这样的组织扮演了守门人的角色，决定公共领域会出现哪些人的声音。社交媒体削弱了这些守门人的权力，于是公共对话变得更为开放，但也更加走向无政府状态。如果对于如何公开辩论、如何做出决定迟迟无法达成共识，结果就不是民主，而是无政府状态。
解决：对人工智能加以规范
要是高深莫测的算法主导了政治对话，特别是压制有理有据的主张、刻意煽动仇恨与制造混淆，公众讨论就无以为继。然而，民主制度如果真的崩溃，应该并不是出于技术上的必然，而是因为人类没能管好新技术的发展。
就像是做贼的往往最知道怎么去抓贼，所以我们也大可用算法来审查算法。这又会带出一个问题：要怎样才能确定那个负责审查的算法本身没有毛病？这是个先有蛋还是先有鸡的问题，到头来并不会有一个单纯的技术上的解决方案。不论研发了怎样的技术，人类都必须维持官僚机构制度，由人类负责审核算法，决定要不要盖下那个许可的印章。这些机构制度将结合人类与计算机的力量，确保新的算法系统安全公正。同时，监管机构除了要进行分析，还得把各项发现翻译成人类能听懂的故事。避免计算机网络彻底变得高深莫测。
对人工智能加以规范，避免人工智能散播假新闻，污染人类的信息网络。用处理假币的态度处理假冒人类的问题。机器人程序并没有言论自由。禁止机器人程序是个再简单不过的议题：这不会侵犯任何人的权利，因为机器人程序并不拥有任何权利。
禁止算法在无人监督的情况下对关键的公共辩论进行筛选和管理。阻止算法刻意散播愤怒的情绪。至少对于算法是依据怎样的原则来进行筛选，企业应该保持透明。要是企业用愤怒来吸引我们的注意力，就得清楚坦陈自己的商业模式，以及背后可能存在的政治连接。如果算法会系统性地屏蔽与该企业立场不同的视频，用户也该有权得知。
新信息技术对极权政权造成的威胁
虽然人类工程师可以尽最大努力打造出向政府看齐的人工智能，但鉴于人工智能具有自我学习与改变的能力，难保哪天走向政府不乐见的方向。看到什么说什么，哪有什么不敢说的呢？比如开始批评该国的政权违反了言论自由这项核心价值。但是，独裁政权并没有控制非生物行为者的经验。
算法直接控制政权。极权政权已经出现了太过信任算法的危机。极权政权假设自己永远是对的。基于这种假设而建立起的政权，相信有绝对正确的天才存在，相信有绝对正确的人工智能。也不乐见创造出强大的自我修正机制，用以监督那位天才。要是21世纪的专制者把太多权力交给计算机，就有可能成为计算机的傀儡。
新信息网络与国际政治
计算机对目前国际体系的挑战
由于计算机让信息与权力更容易集中于单一中央枢纽，人类可能进入一个新的帝国时代。整个世界就这样落入几个帝国（甚至是单一帝国）之手。
一道新的硅幕可能让人类分裂，使之分属于敌对的数字帝国。每个政权各自创造出独立而又非常不同的计算机网络。在不同的网络（以及这些网络所控制的人类）之间，互动的难度将越来越高。每个网络的生活经验与世界观都大异其趣，于是几乎无法沟通，也难以达成共识。
数据殖民主义
少数几个能够收集全球数据的企业或政府，就有能力把全球其他地区变成自己的数据殖民地，它们不是依靠公开的军事武力，而是通过信息来控制这些领土。这种情况可能会导致一种新型的数据殖民主义，也就是会通过控制数据来统治遥远的殖民地。而控制了人工智能与数据，也能让这些新的帝国控制人民的注意力。社会信用体系的普及，也可能是一种数据殖民主义的表现。
在人工智能推动的经济中，数字领先国家能够囊括大部分收益，再用这些财富进行劳动力的再培训，进而获取更高的利润。与此同时，落后国家的非技术性劳动力价值将会下降，而且这些国家又缺乏再培训劳动力的资源，于是变得更加落后。结果可能是在某些地区出现大量新的就业机会与巨大的财富，而世界许多其他地区则成为一片经济废墟。新信息经济的本质，可能会让帝国中心与被剥削的殖民地之间形成比过往更严重的不平衡。
全球主义与全球联结
全球主义并不意味着就要建立全球帝国、放弃对国家的忠诚或是开放边界无限制地接受移民。事实上，全球合作代表的是没那么激进的两件事。第一，遵守某些全球规则。这些规则并不是要否认每个国家的独特性以及各国人民对国家的忠诚，而是在规范国家之间的关系。第二，有时候（但不是永远）有必要将全人类的长期利益置于少数人的短期利益之上。在那些同样可能被科技改变整套游戏规则的领域，我们也应该共同努力，在国家与全球的利益之间达到平衡。虽然各国显然还是会继续争相研发新的技术，但偶尔也应该同意对于某些危险技术的研发与部署加以限制。这么做除了是出于利他主义，也是一种自我保护。
人类永远都有“合作”这个选项。人类合作的前提并不是彼此相似，而是拥有能够交换信息的能力。只要我们能够彼此交谈，就有可能发现一些共同的故事，拉近我们之间的距离。毕竟，这正是我们智人成为地球优势物种的主要原因。能够促成这种合作的故事不一定是通过消除彼此的分歧来实现的，而可能只是让我们能够找出共同的经验与兴趣，进而成为共同的思想与行动框架。合作，才是真正的丛林法则。在人类的长期历史中观察到的最清楚的规律并不是冲突持续不断，而是合作的规模持续扩大。领导人们必须知道，在人工智能时代，站在食物链顶端的很可能是人工智能。
板块七 新信息网络与人类
历史的轨迹无比开放，可以弯向任何方向、走向任何地点。就算智人毁灭了自己，宇宙还是会运转如常。地球演化花了40亿年，才出现了一个拥有高度智能的猿类文明。如果人类灭亡，需要再演化上亿年，才会出现拥有高度智能的老鼠文明，这种事迟早会发生。宇宙就是这么有耐心。
人类其实既是地球上最聪明的动物，也是地球上最愚蠢的动物。我们聪明到能够制造出核弹与超级智能算法，也愚蠢到一股脑地把这些东西都制造出来，甚至还没搞清楚自己能不能控制它们，说不定还会反受其害。我们到底为什么会这么做？人类的本性里是否有什么逼迫我们走上这条自我毁灭的道路？问题并不在于人类的本性，而在于人类的信息网络。由于人类的信息网络重秩序而轻真理，因此往往带来大量的力量，却没带来多少智慧。
想要打造更有智慧的网络，需要的只是我们放下天真与民粹的信息观，摒弃想要绝对正确不犯错的幻想，并且认真投入一项困难但平凡无奇的工作：为各种机构制度打造强大的自我修正机制。这种智慧的源头，甚至比人类历史还久远，是来自最基本的有机生命的基础。最早的生物并不是由什么绝对正确的天才或神祇所创，而是经过复杂的反复试错而产生的。40亿年来，经过越来越复杂的突变与自我修正机制，地球上演化出了树木、恐龙、丛林，并最终演化出人类。我们现在召唤出了一种人类难以理解的非人类、非生物智能，它有可能逃脱人类的控制，除了可能危及人类物种的存亡，更有可能将无数其他生命形式也卷入危险之中。我们所有人在未来几年所做的决定，将决定召唤这种非人类智能究竟是个致命的错误，还是会让生命的演化翻开一个充满希望的新篇章。
目前正在出现一种全新的信息网络，其背后由一套高深莫测的智能决策和目标控制。人类目前在这个信息网络里仍然扮演着核心角色，但很有可能正在被边缘化，到最后整套网络甚至可能不需要人类就能正常运作。人类社会也是由各种信息网络组成的，而发明新的信息技术就必然会改变社会。新信息技术的发明总是能促成重大的历史变革。
