先是一句名言。然后出场各种相关人员，对他们进行采访。先是让他们自我介绍，然后表达他们各自的观点。最后，提问“哪里出了问题？”

无人能回答。

开始放小电影。先是一段新闻播报，指出各方对于手机问题的关注，指其弊端。对青少年心理影响。矛盾爆发。大姐小哥小妹，父亲母亲。小妹11岁沉迷于手机，大姐质问母亲，母亲无奈说她班上同学都有。小哥责怪大姐强制别人生活。继续新闻播报，指出更严重的弊端。民族主义被煽动，开始暴行。并出现人员伤亡。继续指出更广泛的危害，虚假信息时代。社交媒体正在侵蚀社会体系。

继续采访，这次是一段演讲。我们现在出现了各种各样的问题，是否在这些背后有一个原因，导致它们一同出现？（很好的思维）这个问题没有名字，它只有一个源头……主讲人陷入沉思。放回忆。“这个是世界是疯了吗？”

特里斯坦·哈里斯——谷歌前设计道德伦理学家。人道技术中心 合作创始人。通过别人介绍说“他被誉为硅谷中最有良心的人”（第三人效应）在产品中引进“道德伦理设计”的要素。继续采访，他说他对自己的谷歌邮件成瘾，但那里的技术人员没有一个不想让它变得不成瘾。他们从颜色形状等等角度去考虑。他感觉我们迷路了。于是，他每天晚上回家花几个小时，打算做一件呼吁25-35岁的白人设计师做一个决定。他做了一个展示，并把这个展示发给了与他关系最近的15-20的同事。第二天很多人电脑都开着这个展示，下午到达了400人的在线观看。很多邮件发来，每一个部门都同意这个正在影响他们的生活乃至于孩子的生活。我以为我开启了一场变革，大家都重视了这个问题，谷歌也必须要认真对待。

突然，查无音讯。一切恢复如初。

第二个人的采访。他说很多行业都羡慕谷歌，它的赚钱方式太优雅了。脸书的盈利总管说，我们想要赚钱，那么广告模式可能是最优雅的那一种。小视频播放。妈妈发了视频给孩子，是一个脱口秀天才，谈论应该删除社交软件。姐姐表示赞同，哥哥认为他要屏蔽他妈的邮件了。他认为母亲对手机的使用完全不如他们。只会用来找菜谱、看健身视频，以及看看他身边的人在干什么。哥哥打开脱口秀视频，放脱口秀。这个脱口秀的采访，脸书谷歌只是放了一个大机器在运转，什么都不干，那么我们为什么要给他们钱呢？（机器的维修不要钱吗？哦，好吧，他确实是个天才，他在诱发出我们是商品这个结论。）

继续一系列人的采访。我们使用谷歌并不付费，但广告商在付费。广告商是顾客，我们是商品。

“如果你没有花钱买产品，那你就是被卖的产品。”

“很多人认为谷歌只是一个搜索框，脸书则是关注我朋友们在做什么。但这两个东西一直在竞争你的注意力。”

“思考如何最大程度的争取你的注意力，如果让你心甘情愿分出你人生的几分钟给我们。”

“产品其实是我们行为和认知的，逐渐的，一点一点的我们未察觉到的变化。行为和认知的变化才是产品，而且是唯一可能的产品。是他们拿来赚钱的东西。改变你做的事，改变你的思维模式，改变你这个人。”

“每个行业都希望的是，他们投放一定的广告，并且获得回报。他们卖的是确定性，为了在这个生意中获得成功，你必须要有优秀的预判能力。优秀的预判能力始于一个必要条件。你需要很多的数据。”

“人们在网上做的一切，被监控被追踪被评估……具体到你停在一张图片上看了多久。

“所有这些我们不经意间不断流露出的数据，都被输入到这些系统中，几乎不用人类看管，会做出越来越好的预判。预判出我们要做什么，我们是怎样的人。”

“有人误读为，卖出去的是数据。但其实他们在做出预判我们行为的模型，拥有最优秀模型的公司就赢了。”

“这样做的公司有3个目标。一个是参与度目标，增加你的使用，让你一直滑动屏幕。有一个增长目标，让你不断回来，尽可能多地邀请朋友，让他们再邀请更多的朋友。还有一个广告目标，确保一切按预期发展。我们尽可能的从广告上多赚钱。 每一个目标都由一个算法驱动。算法的作用是找出 给你展示什么 让数据上涨。”

小视频与采访一起进行。

“任何足够先进的技术都极其类似于魔术。”——亚瑟·C克拉克

“魔术师就像是最早的心理学家和神经衰落学家。他们是最先明白人类思想原理的人。他们在人类身上实时检测着很多东西。魔术师知道很多事，很多你思想中自己都没有意识到的某一部分。这是让幻觉起作用的关键。世界的任何伟人，他们并不会比别人更了解自己的思想有多么脆弱。这是一个完全不用的科学领域。这个学科领域对所有人都适用。”

“正向心理学强化。你每次刷新都是新的内容。你不知道你什么时候或者是你能刷到什么？它的原理就像赌城的老虎机。你使用它的产品还不够，我们还想侵入你的大脑，在你脑子中植入一个无意识的习惯。让你在更深层次被编程。你自己都没有意识到。这不是偶然，这是设计好的手段。当你收到你被朋友在一张照片中圈出的时候，你就会下意识的去查看，这不是你能选择忽略的事情。他们利用根植在人类本性的东西。”

“你应该问自己的是“为什么他们不把照片放进（消息提醒）来，这样看见照片就会容易的多。””

“脸书发现了这个，这是个增加调控的好办法，他就让大家在照片中互圈吧。”

为什么有对方正在输入……？因为是为了让你知道，防止你下线。

为什么有表情？因为防止你有事不回复，而自动填充。

“有一整个学科，这个领域叫“增长量黑客学”，无数的工程师团队，他们的工作就是黑入人们的心理，让他们有更多的增长量，他们得到更多的用户注册更高的参与度。能让你邀请更多的人。”

“各种操作迭代 种种操作之后，知道我们发现最重要的现象是什么吗？让任何个体在10天内邀请7个朋友。”——查马斯·帕里哈皮提亚 脸书前增长总裁。

他创造了科学A/B测试。

“脸书做了一个实验，他们称为“海量规模蔓延实验”，我们怎么样利用脸书上的潜意识符号，让更多人在中期选举投票？他们发现，他们能够做到。他们得出的一个结论，现在我们知道，我们能影响现实世界中的行为和情感。而根本不用触发用户意识，他们完全不知道。”

“你在利用人类脆弱的心理挣钱。”——希恩·帕克 脸书前总裁。

“自行车刚刚出来的时候，我们没有怨言，不会抱怨它拉远了父母与孩子的距离，他们天天出行，不会有人说它毁了民主社会。如果一个东西是工具，他就会忠诚地坐在那里，耐心等待。如果一个东西不是工具，它会在你身上索求，引诱你操控你，想从你身上获利。我们已经走过了以工具为基础技术环境，来到了以致瘾和操控为基础的技术环境。这是技术环境的改变。社交媒体不是原地等在哪里被使用的工具。它有自己的目标，有自己的方法去实现这些目标。利用你的心理来对付你。”

（每次都用名言划分）

“只有两个行业把他们的客户叫做“使用者”，非法毒品与软件。——爱德华·塔夫特”

大家说出自己最无法摆脱的软件，有推特有邮件……

"即便知道这些手段的原理，我还是容易受到它们的影响。"

“你晨起排尿前会拿起手机吗？还是你排尿时会拿起手机看一看？因为只有这两个选择。”

“我试过用意志力克制，纯意志力。意志力在做一种努力，兽性在做另外一种努力。“

小视频“厨房保险柜”

“我们有最基本的愿望和别人联系，这直接影响着奖赏通路中的多巴胺释放。这个机制背后是几百万年的进化让我们聚在一起，群居生活。找到伴侣，繁殖我们的物种。所以毫无疑问，社交媒体这种载体，他会优化人们之间的联系，自然会有致瘾的可能性。“

矛盾激化。妈妈锁手机，妹妹强行拿出手机。哥哥手机屏被误伤，哥哥与姐姐矛盾激化。妈妈调和，提出条件，一周不碰手机，换一个新屏幕。

“我们管理自己的生活建立在获得的完美。因为爱心，大拇指，点赞这些短期信号会给我们带来奖赏。这是短期的，你需要承认，这让你更加空虚，于是你会继续这样做，它会将你逼入这样的一个恶性循环。你会想“我接下来要做什么？”因为我还想要这种感觉。”

“美国青少年群体，出现了大幅增长的抑郁和焦虑，大概就在2011-2013年开始的。这个国家中，每十万少女中每年会因为割腕或者自残进医院治疗的人数在2010-2011年是非常平稳的。之后就飞速增加。大一点的，增加了67%。进入青春期前的少女，增加了189%，将近3倍了。更可怕的是，自杀也呈同样的趋势。大一点的少年15-19岁，与本世纪初相比，增加了70%。青春期的少女，本来是十分低的，现在增加了151%”

“96年出生的孩子，那些孩子是在初中使用社交媒体的。整的一代人都更加抑郁更加焦虑更加脆弱。他们更不愿意冒险。他们拿到驾照的比率下降了。出去的约会，有过任何形式浪漫互动的人数骤减。这一代人，有了真正的改变。每一个住院的家庭，都有一个受伤破碎的家庭。”

“我们以前有一些保护措施，小孩子们观看周六动画片的时候，我们关心儿童。我们会说“你不能给这个年龄段的孩子看广告。”然后有了youtube儿童频道，所有的保护措施所有的管理规定都不见了。”

“我们不确定怀疑孤独的时候，我们给了自己一个数码安慰。这点让我们处理这些情绪的能力退化了。”

“有这一种说法“我们去适应它。”我们要学着与这些设备共存，就像我们学着和其他事物共存一样。但这个说法没有注意到的是有些东西明显是全新。 ”

“或许这其中最危险的是，这是由技术驱动的，在成指数的向前发展。（计算机处理能力）大体上，如果你看从20世纪60年代，计算机处理能力增长了万亿倍。我们身边没有任何其他东西以这个速率增长。汽车也不过仅仅实现了翻倍。更重要的是，我们人类……我们的生理 我们的大脑 根本没有丝毫的进化。”

“有上千名工程师和超级计算机有着与你不同的目标，那么这个游戏谁能赢呢？谁会赢?”

“当你想到人工智能，人工智能会毁掉世界，你会感觉人工智能是会杀人的。但人们已经忽略的是，人工智能已经在运营着当今世界了。”

“我想说，算法是内嵌在代码中的观点，算法不是客观的。算法被某种成功的定义优化。所以，你能想象，一个商业公司的成功定义，需要依靠算法，那就是商业利益，通常都有利润。”

“你给电脑一个目标说“我想要这个结果。”电脑自己去学习怎么实现，这就是机器学习的概念。”

“算法有着自己的思想，虽然是人写的。它写出的目的，是你建立一个机器，这个机器会自己改变。”

“我们给他看他所有喜欢的信息，但我们从未想过这些信息是否会对他比较好。”

“试想一下，你在用脸书，你的对手是人工智能，它知道你的一切，能够预测你未来的举动，你对它却一无所知。这根本不是公平的竞争。”

“我们都在担心着这个时刻，当技术会超过人类的力量和智慧。什么时候技术会取代我们的工作，比我们更有智慧？但有更早的时刻，技术超越人类弱点时，这个弱点就是上瘾，这个超越的点就是上瘾。两极分化，激进化，激化愤怒，激化虚荣，一切的根源，它在压制人类的天性，在挫伤人性。”

“脸书会根据你的地区推送不一样的，相对于维基百科，无论你在哪里看，都是一样的词条。如果词条因为什么发生改变，那是很可怕的事情。”

“当时输入 气候是  。你会看到，根据你所居住的地区不同，会出现不同的结果。”

“有些地方你会发现气候变化是一场骗局。有些地方你会发现气候变化是对自然的破坏。这个功能不是提供气候变化的真相，而是取决你在哪里使用谷歌搜索以及谷歌对你个人兴趣的了解。”

“即使是两个朋友，他们有着一样的朋友圈，他们看见的脸书推送也是不一样的。他们生活在两个不一样的世界。因为这些都是基于计算机的计算，对于每一个人来说，怎么样才是最完美的。”

"这一个27亿人的楚门的世界，每一个人都有着自己的现实自己的事实。"

“为什么楚门那么久都没发现他生活的世界本质？因为我们接受了呈现在我们面前的世界就是现实。就是这么简单。”

“随着时间的推移，你会有一种错觉，觉得每一个人都认同你。因为给你推送的新闻中，每一个人都和你极其相似。一旦你达到了这个状态，你就很容易被操控了。和你被魔术师操控是同样的原理。魔术师给你看纸牌魔术，跟你说“选一张牌 哪张都行”你没有意识到，他们早就给你设计好陷阱了。于是你选的那张牌，是他们想让你选的。这就是脸书的工作原理。脸书坐在那里说，选择你的朋友，选择关注你的联系人。那就是胡扯，它是魔术师，它负责新闻推送。”

“我们都不过是在基于一系列事实行事，当大范围发生时，你就再也无法考虑甚至消化，与你创造出的世界观相悖的信息了。 那就意味着其实我们不是客观的，有建设性的个体。”

“你开始想“为什么有哪些人如此愚蠢？”他们也看到了我不停看到的这些信息。他们怎么会看不到相同的信息。问题的答案是“他们没有看到相同的信息。” ”

“我们讨论的很多问题，比如政治的两级分化。”

“人们认为算法，给他们真正想要的，但其实不然。算法其实是在试图找打几个非常强大的兔子洞。试图找到哪一个兔子洞，最贴近你的生活。只要你看了它推荐的一个视频，它就会不停的推荐。”

“这种情况，并不是有人刻意为之。只是推荐系统一直在做而已。以至于著名篮球运动员凯里·欧文，说他相信地球是平的，后来又道歉。他把责任推给YouTube的一个兔子洞。地球是平的这个阴谋论被算法推荐了几亿次，很容易去想，只有几个愚蠢的人被说服了。但算法每一天都在变得更加聪明。今天，它说服人们相信地球是平的。但是明天，它就会说服你相信一个完全虚假的事情。”

“11月7日，披萨门。至今不能确认它来自哪里。买一个披萨等于贩卖一个人口。只要你对脸书表明你愿意相信阴谋论，脸书就会推荐你进去相关小组。最终这件事情达到高潮，一个男子持枪出现。决定他要给地下室的那些孩子自由。而这个披萨店，根本没有地下室。”

"麻省理工学院的一个研究表明，说推特上传播的虚假新闻比真实新闻传播速度快6倍。"

"我们创造了一个偏心于虚假消息的体系。并不是因为我们想这样做。而是因为虚假信息比真实信息能让各个公司赚到更多钱，真实信息比较无聊。"

"那些传播新冠病毒虚假信息的来源，积累了5200万人参与。"

“我们看到的新冠病毒，只是发生在我们系统中的一个极端案例。社交媒体放大了增长迅速的谣言，和增长迅速的道听途说，以至于我们都不知道什么是真的了，不管我们关心的是什么问题。”

“脸书的一个问题是，作为一个有劝说性质的工具，他或许是历史最伟大的发明。现在你想一想，如果落到独裁者或者集权主义者手中，会怎样？如果你想控制你们国家的人民，从未有过像脸书这样有效的工具。”

“一个严重问题在于，一些政府与不良人士，把社交媒体当作武器。导致了真实的线下伤害。其中一个案例就是缅甸。大规模强奸，大屠杀。已经导致70万 罗兴亚族穆斯林逃出这个国家。“

“这种情绪高涨的鼓吹以前并不是没有出现过。只是它的出现，让操控言论性传播变得异常容易，也不用花多少钱。  ”

“让我们对于自己是一个什么样的人，有什么样的信仰，越来越少的控制权。”

“想象一个没有人相信真相的世界。所有人都相信政府在欺骗他们。”

“我们技术人员创造了动摇和侵蚀社会结构的工具。所有国家都在发生，世界各地都在发生。”

“第三方的政党的操纵没有黑入。俄罗斯所做的是，利用脸书为合法广告商与合法用户创造的工具，用到了罪恶的用途中。就像远程控制的战争。一个国家可以操纵另外一个国家，都不用真正的入侵实体边境。”

“如果每个人都有权执着于自己的真相。就真没有必要妥协，没有必要让人们团结了。事实上，真的没有必要让人们互动。我们需要对现实有一些共同的理解。不然，我们就不是一个国家了。 ”

“如果我们不能认同真相，我们就不能找到问题的解决方法。”

“技术并不是人类存亡的威胁。是技术能够把社会中最坏的东西带出来的能力。社会中最坏的东西，才是人类存亡的威胁。如果技术创造了社公众混乱，愤怒、无礼、彼此缺乏信任、孤独。疏远、两级分化……让人更加分散注意力，无法集中在真正问题上。那只是社会，现在的社会无法自愈。转移形成了一种混乱的形式。这影响着每一个人，即使你不使用产品。这些事情变成了数码的科学怪人，让这个世界变成他们想象中的样子。我认为平台应该负起责任，当他们接大选广告，就要为大选负责，当他们接儿童频道，就要为儿童的心理负责。”

“我最担心的是，在最短时间内，是内战。”

“再过20年，我们可能因为我们故意无知而毁掉我们的文明。无法应对气候变化，民主瓦解。最终衰弱成一种奇特的独裁技能障碍。”

“世界最后一代人会是怎么样的？你不知道你在矩阵当中，那么你怎么从矩阵当中醒来呢？”

“不论乌托邦还是毁灭，都是一场一触即发的接力赛，直接通往最后一刻。‘——巴克敏斯特·富勒

"你会认为我们这是片面的悲观，不是的。这是乌托邦也是毁灭。当你按一下一个按钮，10s后就出现了一辆汽车，我们可以去我们想去的任何地方。这太神奇了，简直就是魔法。"

“我们制作“点赞”功能按钮时，我们的全部动机是“我们可以在世界中传播积极和爱吗？”时间快进到当下，青少年会因为没有足够多的点赞而抑郁这个想法，或者会导致政治的两级分化，当时是无法想象的。”

“我不认为这些人最开始的目标是邪恶的。只是这个商业模式有问题。”

“规模做得越大，于是难让任何人改变。”

"我认为我们应当接受，公司专注于挣钱是合理的。不合情理的是，当没有监管、没有规定、没有竞争，公司在充当实际政府部门，然后他们说”我们可以监管自己“这肯定是骗人的，这怎么可能呢？“

“经济奖励可以说运营着世界。所以这个问题的任何解决方案，一定要符合经济奖励。 ”

“我们有法律制裁其他的市场。我们制裁了人类器官贩卖的市场，我们制裁人类奴隶市场，因为他们都有不可避免的破坏性后果。”

“我们的生活中，死去的树比活着的树更有经济价值，死去的鲸比活着的鲸更有价值。这是目光短浅，这是为了利益牺牲一切的信仰。”

“我们看到公司利用强大的人工智能，凌驾在我们的智能之上，研究怎么拉拢我们的关注。让我们去看，与他们想让我们去看的事情。而不是让我们去看我们的价值观，我们的目标，与我们生活最为一致的东西。 ”

“技术的工作方式，不是物理学规律，它不是一层不变的，这些都是像我们这样的人类，做出的选择。人类可以改变这些技术。”

“现在的问题是，我们是否愿意承认 这些后果是我们杰作的直接产物”

“这些东西是我们建立起来的，我们有责任去改变他们。”

“我可以要求这些产品进行人道设计。我们可以要求不被当作被提取的资源对待。”

“我们的动机可以是，“我们怎么样让这个世界变得更好？””

“人类历史上，每一次变得更好，都是因为有人站出来说，“这样太蠢了，我们可以做的更好。”是批判者推动着改进。批判者才是真正的乐观主义者。”

“你认为这一天能实现吗？”

“必须要实现。”

（结尾是积极的。采访彩蛋。）

“我们需要一个奇迹才能让我们走下这条路，这个奇迹当然是集体意识。”

“我不恨它们，我只想改革™，别让他们毁掉了世界。”

“减少你收到的通知数量，关掉通知，关掉所有应用的通知。”

“永远不要接受YouTube上给你的任何推荐视频。永远自己去选择，这是另外一种抗争的方式。”

“在你分享之前，查找一下事实，思考一下信息来源，谷歌搜索一下。如果这个东西感觉是以触发你的情感按钮为目标，很有可能确实是。 ”

“如果你点击了钓鱼链接，你就是在创造一个经济奖励，延续这个已经存在的系统。”

“你在生活中一定要获得不同的信息。我会在推特中关注我不认同的人。因我想到不同的观点。”

“我小孩子完全不许用社交产品，这是家规。”

“我想出了三个简单原则。第一原则，每天晚上的固定时间，所有设备不能进入卧室。不管什么时间，睡前半小时，所有设备全都拿出去。第二个原则，高中之前禁止使用社交媒体。我个人认为，这个年龄应该是16岁，初中已经够难了，上高中前别用了。第三原则是和你小孩研究一个时间预算。你每天想在你的设备上花多少时间？你觉得合适的时间是多少？他们通常会说出一个很合理的时长。”

“删除，下线，外面的世界很美好。”

https://www.acfun.cn/v/ac17846815

#日更：24