character-vs-character
技术在“精神病-通过”中的作用:分析公共安全系统
Table of Contents
乌罗布奇将军的网络朋克动画Psycho-Pass构建了一个令人寒冷的、令人信服的未来,即安全和控制之间的界限溶入一个单一的、全景的数字权威。 在这个世界的中心,一个庞大的网络,它持续测量每个公民的心理压力,并在他们行动前指定一个量化的“犯罪系数”识别潜在罪犯。 该系列不仅将这一前提用作阴谋手段,而且还作为社会将正义定义交给机器时所发生的持续哲学上的询问。 在审查Psycho-Pass中,我们不仅探索了执行秩序的工具,而且还探索了在算法负责判断灵魂时产生的深刻的人的代价。
锡比尔系统:建筑、计量和判决
斯比尔系统通常被描述为生物光谱系统,但这个标签掩盖了它的复杂程度。 斯比尔将实时脑波扫描、情感模式分析、遗传标记和环境数据转化为动态的、有色码的读物,称为“心理-Pass ” 。 公民通过无处不在的街道扫描仪、个人装置甚至他们穿的衣服不断被监测,这些扫描仪将心理测量数据输入了斯比尔的中央处理中心。 该系统最著名的衡量标准“犯罪协同”是个人犯罪可能性的数字反映,它不是来自过去的行为,而是源于他们心理状态中潜在的压力、敌意或偏差。
三个核心组成部分定义了西比尔的操作逻辑:
- ” 精神病-精神病发作:[ 一种视觉清晰的心理光谱,其中云色的色调表示犯罪倾向增加。 一旦公民的色调越过了不透明的门槛,他们就会被标榜为干预,即使没有犯罪。
- 犯罪系数: 实时指数,决定执法对策的水平。系数低于100一般表示一种健康的精神状态。高于这一数值,触发了从咨询到非致命压制到立即消灭致命性措施的升级措施。
- 线性扫描: 读取大脑生物电磁电动的科技骨干。 西比尔不需要理解一个人的动机;它简单地量化了他们的灵媒“声音 ” , 并据此将其分类。
系统的判决是绝对的。 没有法庭、无罪推定和人对高犯罪率协同效应是否与实际意图相关的看法。 “相对罪犯”的概念 — — 尚未触犯任何法律但精神模式表明其会这样做的人 — — 成为永久的社会身份。 这些人一旦被打上烙印,要么被隔离治疗,要么被“主治”终止,如果他们的系数仍然危险地升高。 西比尔的建筑将监视、心理健康诊断和行政惩罚合并为单一的、不可上诉的程序。
统治者和技术官僚执行者
投机小说史上没有任何武器比《支配者》更能体现判决和处决的合并。 《支配者》是发给公共安全局刑事调查部的实地人员,它是一个手枪大小的设备,直接与西比勒相连,并根据其目标的犯罪效率读数而假定不同的射击模式。 武器界面显示的是活泼的心理-帕斯分析,其语音合成器宣布了授权行动 — — “非致命的帕拉利泽 ” 、 “ 致命的消灭者 ” , 或罕见的“绝杀者” , 以绝对消除目标的有机物质。
统治者不仅仅是枪支;而是法官、陪审团和行刑者,他们被压缩成一个手持终端。 巡视员或执行官未经西比尔同意不能扣动扳机。 如果目标犯罪系数达不到致命武力的门槛,触发锁就会被扣。 这一设计将道德决策从人类代理人身上移除,完全转移到系统的算法评估。 尽管这理论上可以防止警察因人偏见而残暴,但同时也可以剥离道德机构的执行者,将其转化为西比尔意志的机械延伸。
支持统治者是一个无处不在的监控基础设施:全街全息摄像头、在室内环境巡逻的微型场馆以及公民自愿使用的公共终端。 甚至个人住宅照明的花纹也根据他们的心理-心理-心理状况进行调整。 技术创造了一个无缝的执法生态系统,公共空间既充当保护者,又充当告密者,地面特工只是已经知道哪些羊有可能误入歧途的系统的牧羊人。
心理计量学会的道德困境
心理学派斯[ 故意避免把西比勒描绘成直截了当的反派。 相反,它挑逗了一系列道德矛盾,这些矛盾与当代关于人工智能和治理的辩论有着深刻的共鸣。最直接的冲突是[ 隐私和先发制人[。 西比勒要发挥作用,每个公民都必须放弃内心最内心的心理隐私。思想、淡化的情绪和潜意识的冲动都是执法的原始数据。 系列问,当社会成员不断意识到其错误的敌对思想可能导致其云雾并号召国家干预时,社会是否能够保持自由。
与此相关的一个难题是重新定义犯罪本身。 在西比尔统治下,犯罪不再是一种行为,而是一种状态。 犯罪协同法官的潜力而不是行为。 反向是对基本法律原则,如[行为 reus(有罪行为)和无罪推定的挑战。 在西比尔的日本,没有犯罪的人只能因为算法预测他们会犯罪而被监禁或杀害。 该系列强调悲剧后果,比如像Shushei Kagari这样的人物,此人在5岁时被标为潜犯 — — 远在任何不法行为发生之前 — — 并且由于一个从未实现的预测而生活在机构控制之下。
自由意志和决定主义之间的矛盾也深重。 如果人类行为可以通过分析脑波和压力激素来先发制人地描绘,那么选择的概念就成了虚幻。 西比尔的存在本身就意味着自由意志是一个令人安慰的神话。 但系列反复显示那些藐视其犯罪效率读数的人物 — — 犯罪而不蒙蔽其仇恨,或者尽管意图令人发指,却保持了明显的心理变态。 这一异常现象后来由系统本身的隐藏组成所解释,暴露了算法决定性的弱点,并再次证明了人类意志的不可预料性。
执法者本身是潜在的罪犯,他们被公共安全局用来追捕其他潜在的罪犯,因为他们的精神状态更适合作恶,他们同时是国家代理人和受害者,他们被剥夺了基本权利,但却指望执行一个谴责他们的制度,这反映了被强迫为压迫性结构服务的边缘化群体的历史模式,请观众在技术制度将整个人群归类为永久危险时考虑人的代价。
公众接受、恐惧和监督的正常化
系列最微妙的成就之一是描绘了人们如何接受 — — 甚至渴望 — — 万物皆然的安全机器。 表面上,西比尔已经实现了许多现实世界政府所承诺的:犯罪率特别低,以及人们在任何时间都感到安全地走上街头的社会。 公民们在精神上清晰的回报是事业进步、社会威望以及获得治疗艺术和娱乐。 这种积极的强化为系统创造了强大的支持者,许多居民认为西比尔的批评是鲁莽的忘恩负义。
然而,在这种多发的表面之下,焦虑会潜伏。 保持清晰的心理-心理状态所需要的不断自我监测会成为一种心理劳动。 人们会抑制愤怒、悲伤和不同意见,因为担心情绪动荡会玷污他们的情绪。 系列显示,那些服入虚拟现实或开具镇静剂的人会平息影响,基本上以真正的情感存在换取安全。 这种静静的绝望感揭示了一个不仅将安全,而且将情感调节外包给外部算法的社会。
反抗运动确实存在,尽管它们被贴上危险的心理变态的标签,而高犯罪率的Coecators则证明它们被判罪是正当的 — — 这是延续西比尔权威的循环逻辑。 少数反对这种制度的人,如魅力强烈的对立派马基岛雄雄,在生物学上无法被西比尔判断,因为他们的犯罪意图并不会掩盖他们的动机。 它们对一个将精神健全与正义等同的政权来说,这种存在成为哲学危机。 因此,这一系列事件表明任何技术官僚公共安全系统都非常脆弱:它只能统治那些能够衡量的人,而那些超出其参数的人既会隐形又无法控制。
技术作为双刃剑:预防和控制
纸上说,西比尔先发制人的司法模式似乎是理性治理的顶峰。 预防犯罪资源得到高效分配,暴力事件在升级前就被制止,而且人类警官主观偏见被推定消除。 但系列不断表明,旨在保护的相同工具可以重新用于控制。 安全与压迫之间的界限没有固定;它会随着谁在系统内确定门槛而变化。
斯比尔最有可能被滥用的原因在于其不透明。 公民们不了解犯罪系数是如何计算的,也没有任何权利质疑他们的评估。 算法是一个黑匣子,而系统本身 — — 正如第一季高潮所揭示的 — — 是由曾经被视为无症状但具有高度社会操纵能力的个人组成的网络大脑。 换句话说,对公共安全的最终权威是社会变态思想的集体,而系统却从未登记为威胁,因此无法消除这些思想。 这一启示将Sibyl-enforce司法的每一行为重新描绘成系统声称要根除的非常犯罪病理学的部署。
技术的运用也改变了社会关系。 公民之间的信任因为任何人都可能报告别人的阴森。 邻居们成为线人不是出于恶意,而是出于对系统的有条件反射责任。 社会结构不是通过安全而得到加强,而是变得十分脆弱。 系列迫使观众问:完全安全的代价是否是信任的解除、亲密和情感的真实性,贸易是否真正值得?
光学、生物动力和西比尔的哲学根
斯比尔系统将泛光学原理 — — 少数观察者 — — 化为文字,但完全通过向人类观察者授与。 相反,人们将算法的目光内化,不断自我调节行为,以保持在可接受的地步之内。 其结果是像福尔高所描述的那样,多管机构的社会,权力的运行不是通过过度暴力,而是通过对知道自己总是有可能被判断的个人的自我审查。
生物力量 — — 国家通过管理生命、健康和身体的技术对人口进行调节 — — 在西比尔以数字形式出现。 系统不仅惩罚罪犯,还管理着全体公民的心理生活,像公共卫生标准那样优化了集体心理-心理-心理。 治疗、艺术甚至营养都经过了调整,以保持心理正常化。 这种人类繁荣的有益方法用统计健康取代了道德考虑,而这一想法与现代健康跟踪应用软件和情绪监测AI有着不愉快的共鸣。
政治哲学家Giorgio Agamben[的“例外状态”概念也在系列中有所体现。 潜在的罪犯是西比尔政权的同性恋者(Homo Sacer),这个人物被排除在法律保护之外,但作为一个工具与这个体系相联。 执行者存在于一个永久的法律灰色地带,同时在法律保护之内和之外。 通过这些理论视角分析西比尔体系,[Psycho-Pass[,将自己从警察程序提升为对现代主权性质的持续冥想。
现实世界平行:预测性警务和监督资本主义
分析历史犯罪数据以预测未来可能发生的犯罪地点和谁可能犯罪。 这些系统在培训数据中加强了种族和经济偏见,有效将社区定罪而不是防止伤害,因此,在对公众进行监管的情况下,对没有人监督的算法的警告变得更加迫切。
私人企业通过情绪分析、语音压力检测和可穿戴的生物鉴别技术收集情感数据,这些生物鉴别技术往往被包装成健康或生产力工具。 治疗监测和强制正常化之间的界限比以往更窄。 当一家企业运用情绪跟踪软件评估员工“参与 ” 和预测更替时,它会进行一个温和但结构相似的“心理-Pass”扫描。 系列数据充当了警示镜,用于在没有相应的道德防护装置的情况下快速推进精神医学量化工作。
从心理-心理-心理:在自动化未来保护人类的经验教训
普西乔-帕斯的持久力量不是它的预言而是它的挑衅。 它迫使观众面对一个令人不快的问题:如果我们能够完全准确地预防犯罪,我们是否愿意牺牲不完善、效率低下和常常不公正的人类法律机构来换取算法确定性? 连连像西比尔这样的善意的系统 — — 一个真正减少暴力犯罪的系统 — — 都可能成为深刻压迫的工具,因为它从它的操作者身上抹去责任和主体的尊严。
任何未来将AI纳入公共安全的举动都必须以透明性、可竞争性和人的监督为重。 公民必须有权理解和质疑用于判断他们的衡量标准,如果没有包括有力的道德考虑在内的人文审查程序,任何算法都不应该对生死拥有最终的发言权。 此外,这种系统的设计者必须说明,对社会最危险的个人往往是最容易通过测试的人 — — 操纵规则而不是破坏规则的迷人、认知上无意识的精神病人。
保护精神状态不受管制的空间同样重要。 不受算法惩罚而感到愤怒、悲伤和不同意见的权利是自由社会的基础。 一个每个神经抽搐和皮质溶胶都受到监控 — — 并且可能受到惩罚 — — 的世界可能安全,但并非人类。 心理学-Pass[提醒我们,正义不是数据集,而混乱、模糊和经常令人厌烦的人类判断过程带有任何机器都无法复制的道德重心。 当我们站在将AI更深入地植入公民基础设施的口角上时,西比尔系统仍然是一个令人着迷的思维实验和一个严峻的警告:一个实时衡量灵魂可能最终忘记灵魂价值的社会。