本文含有微量剧透成分。
《Psycho-Pass》(中文名:《心理测量者》)是在2013年上映的一部动画。当初就已经火得不行,可惜因为各种机缘巧合,没有在新番档追上这部番。而现今补番的时候,我发现我错过了一场疯狂却有趣的思想实验。
动画的舞台设定在了一百年后的日本。那时候日本拥有一种将人的犯罪可能性进行量化的指标「精神病质」,并将指标交给巨大的计算机「西比斯」进行测量。如果一个人的犯罪可能性不满一定数值,那么他/她会被定义成不可能犯罪;相反,如果这个数值过高,那么他/她就需要接受所谓的「治疗」,并且不能自由活动。如果指标已经高的离谱,刑警使用连接到「西比斯」的手枪「判决者」 将允许刑警当场处死。
乍看上去,似乎这是「理性」的胜利,一切判断不依靠参杂人的经历、思想与意志,全部都可以量化,一切皆能够客观。但是有趣的是,这个系统带来的是另一种特别的独裁。动画当中拥有着人工智能能力的系统「西比斯」居然能够跟刑警谈判,只因系统希望能够留下一个人。而更多的人,因为「绝对正确」的系统而放弃挣扎,听从系统的指示,去相应的地方去工作。
写到这里,不禁想起了爱范儿上一段小剧场式的评论:
「你说我们在控制这些设备,是什么意思?」
「这些设备都有自己的开关,我们可以依照自己的意愿来开关它。」
「虽然我们可以自由开关它,但是我们无法离开它。关闭灯泡,就没有了光;关闭了空调,就没有了冬暖夏凉;关闭了手机,我们就没有了外界沟通。所以,应该是设备在控制我们。」
本身这段话虽然没有考虑到AI,但是这让我们反思科技依赖性的残酷:技术本身就存在一种微妙的依赖性(例如,原始人因为需要温暖便创造了钻木取火这种技术,而原始人需要依赖这种技术来取暖),若将技术人格化,那么技术就是自私的——它存在的意义便是让人依赖于它。科技在发展到现阶段已经承担着「帮我们解决问题吧」的作用,拥有了更多的决定权。你一定看过亚马逊的「为你推荐」推广吧,那就是算法的功劳。但是我们却希望自己能够拥有自由,特别是对于人生这种事情,更多的人希望能够自己去操控大局,而不是被别人所左右。(讽刺的是,许多人希望依靠技术或其他的「神力量」等等知晓未来。)
而这种悖论的极致也在Psycho-Pass上体现了出来。当亲眼目睹因为「西比斯」系统不合理性而一心想反抗这个系统的主人公常守朱在「西比斯」中枢前与其对话之时,却失去了毁掉这个系统的勇气——毁掉这个系统,等于毁掉了包括自己在内的既得利益者的利益,因为系统本身所带来的不定气氛将会立即爆炸。「西比斯」系统本身因「帮我决定谁是犯罪者吧」的一劳永逸的想法创造出来,甚至肩负着稳定社会的作用。但是最后发现系统并非全能的时候,大家都才恍然意识到,这个系统已经无法被脱离,它只能继续控制着这个社会。而这个社会早已变成了一种比「老大哥」更为令人恐惧的存在——它决定了你的一生。
这是一个明显的零和社会。这样的系统和社会产生了既得利益者,同时轻易而明显地将非得利者的利益直接转移给了既得利益者。这种情况下,一定会有非得利者认为不公平。而无论像是「西比斯」这样的系统还是社会系统都有其漏洞,动画中的槙岛圣护便成功利用了这两个系统的漏洞以及非得利者的心态,成功制造了暴乱。他首先利用非得利者的戾气和「判决者」本身的bug成功让非得利者在系统的眼睛底下侵犯了既得利益者的利益(甚至是基本的生存权),而这种侵犯带来的就是一种恐惧,最后就演变成了暴动。
任何一种乌托邦都是脆弱的,即使它披上科技的外衣也是如此。而披上科技外衣的乌托邦令人恐惧的地方在于将乌托邦制度人格化,让乌托邦的存在意义变成了让我们依赖、臣服于它,虽然它改变不了脆弱的本质。
动画剧情上,依然有「老虚」虚渊玄招牌的狗血类「碟中谍」和杀人不眨眼剧情,动画的最后也活脱脱变成了港产警匪片,「最后一战」被设定在了工厂,然后就是警追匪成功,最后感情交好的警匪推心置腹了一段,「警察身受感动,然后开枪打死了匪徒」。虽然老套,但是整体的可看度依然非常高。
如果你看完了整个动画依然希望能够更多了解乌托邦的本质,这部动画本身就是一个庞大的书单,你可以顺着提到的书籍,慢慢阅读。