character-vs-character
技术在"心理学-心理学"中的作用:分析公共安全系统
Table of Contents
乌罗布奇的网络朋克动画Psycho-Pass构建了一个令人寒冷的、可信的未来,即安全和控制之间的界限溶入一个单一的、全能的数字权威。 在这个世界的中心,一个庞大的网络,持续测量每个公民的心理压力,并在他们行动前指定量化的“犯罪协同 ” 。该系列不仅将这一前提用作阴谋手段,而且还作为社会将正义定义交给机器时所发生的持续哲学质询。 在研究“ ”Psycho-Pass中,我们不仅探索了执行秩序的工具,而且还探索了在算法负责判断灵魂时产生的深刻的人的代价。
西比勒系统:建筑、计量和判决
斯比尔系统通常被描述为生物光学系统,但这个标签掩盖了它的复杂程度。 斯比尔将实时脑波扫描、情感模式分析、遗传标记和环境数据转化为动态的、有色码的读取,称为“心理-Pass ” 。 公民通过无所不在的街道扫描仪、个人装置,甚至他们穿的衣服不断被监测,这些衣服将心理测量数据输入了斯比尔的中心处理中心。 该系统最出名的衡量标准“犯罪协同”是个人犯罪可能性的数字反映,它不是来自过去的行为,而是来自于他们心理状态中潜在的压力、敌意或偏差。
三个核心部分定义了西比尔的操作逻辑:
- ” 精神病-精神病症:[ 一种视觉清晰的心理谱,其中云色的花花纹表示犯罪倾向增加。 一旦公民的花纹越过了不透明的门槛,即使没有犯罪,也会被标榜为干预。
- 犯罪系数: 实时指数,决定执法反应的水平。系数低于100一般表示一种健康的精神状态。高于这一数值,触发了从咨询到非致命压制到立即消灭致命性措施的升级措施。
- 线性扫描: 读取大脑生物电磁电动的科技骨干。 西比尔不需要理解一个人的动机;它只是将他们的通灵“声音”量化并据此分类。
系统的判决是绝对的。 没有法庭、无罪推定和人对高犯罪率协同效应是否与实际意图相关的看法。 “相对罪犯”的概念 — — 尚未触犯任何法律但精神模式表明将触犯法律的人 — — 变成了永久的社会身份。 这些人一旦被打上烙印,要么被隔离治疗,要么被“支配者”终止,如果他们的系数仍然危险地上升。 西比尔的架构将监视、心理健康诊断和行政惩罚合并为单一的、不可上诉的程序。
统治者和技术官僚执行者
投机小说史上没有任何武器比《支配者》更能体现判决和处决的合并。 支配者是发给公共安全局刑事调查部的实地特工,是直接与西比勒相联的手枪大小装置,并根据其目标的犯罪效率读取不同射击模式。 武器的界面显示的是活泼的心理-Pass分析,其语音合成器宣布了授权行动 — — “非致命的帕拉利策 ” 、 “ 致命的消灭者 ” , 或罕见的“绝杀者” , 以绝对消除目标的有机物质。
统治者不仅仅是枪支;而是法官、陪审团和行刑者,他们被压缩成一个手持终端。 巡官或执行者未经西比尔同意不能扣动扳机。 如果目标犯罪系数达不到致命武力的门槛,触发锁就会被扣上。 这一设计将道德决策从人类代理人身上移除,完全转移到系统的算法评估。 尽管这理论上可以防止警察因人偏见而残暴,但同时也可以剥去道德机构的执行者,将其转化为西比尔意志的机械延伸。
支持统治者是一个无所不在的监控基础设施:全街全景相机、在室内环境巡逻的微型地盘以及公民自愿使用的公共终端。 即使是个人住宅照明的花纹也根据他们的心理-心理-心理状况进行调整。 技术创造了一个无缝的执法生态系统,公共空间既充当保护者,又充当告密者,而地面上的特工只是已经知道哪些羊有可能误入歧途的系统的牧羊人。
心理计量学会的道德困境
斯比勒的理论是“一个简单易行的反派 ” 。 心理学派斯[ 故意避免把西比勒描绘成一个直截了当的反派。 相反,它挑逗了一系列道德矛盾,这些矛盾与当代关于人工智能和治理的辩论有着深刻的共鸣。最直接的冲突是[ 隐私和先发制人[ 之间的冲突。 西比勒要发挥作用,每个公民就必须放弃最内心的心理隐私。思潮、情绪和潜意识冲动都是执法的原始数据。 系列问,当社会成员不断意识到其错误的敌对思想可能导致其云并号召国家干预时,社会是否能够保持自由。
与此相关的一个难题是重新定义犯罪本身。 在西比尔统治下,犯罪不再是一种行为,而是一种状态。 犯罪协同法官的潜力而不是行为。 反向是对基本法律原则的挑战,比如行为 reus(犯罪行为)和无罪推定。 在西比尔的日本,没有犯罪的人只能因为算法预测他们会犯罪而被监禁或杀害。 系列强调悲剧后果的是像Shushei Kagari这样的人物,此人早在5岁时就被标为潜伏罪犯,而且由于一个从未实现的预测,他一生生活在机构控制之下。
自由意志和决定主义之间的矛盾也非常深。 如果人类行为可以通过分析脑波和压力激素来先发制人,那么选择的概念就成了虚幻。 西比尔的存在本身就意味着自由意志是一个令人安慰的神话。 然而,系列中反复显示那些藐视其犯罪效率读数的人物 — — 犯罪而不蒙蔽其仇恨,或者尽管意图令人发指却保持了明显的心理变态。 这一异常现象后来由系统本身的隐藏组成所解释,暴露了算法决定性主义的脆弱性并重新揭示了人类意志的不可预测性。
执法者本身是潜在的罪犯,他们被公共安全局用来追捕其他潜在的罪犯,因为他们的精神状态更适合作弊,他们同时是国家代理人和受害者,他们被剥夺了基本权利,但却被期望执行一个谴责他们的制度,这反映了边缘化群体被胁迫为压迫性结构的历史模式,请观众在技术制度将整个人群归类为永久危险时考虑人的代价。
公众接受、恐惧和监视的正常化
系列最微妙的成就之一是描绘了民众如何接受 — — 甚至渴望 — — 一个无所不在的安全机构。 表面上,西比尔已经实现了许多现实世界政府所承诺的:犯罪率特别低,以及人们在任何时间都感到安全地走上街头的社会。 公民们在精神上清晰的回报是职业进步、社会威望以及获得治疗艺术和娱乐。 这种积极的强化为系统创造了强大的支持者,许多居民认为西比尔的批评是鲁莽的忘恩负义。
然而,在这种多发的表面之下,焦虑会潜入。 保持清晰的心理-心理状态所需的不断自我监测会成为一种心理劳动。 人们会抑制愤怒、悲伤和不同意见,因为担心情绪动荡会玷污他们的情绪。 系列展示的是那些服入虚拟现实或开具镇静剂以平缓影响的人,基本上以真正的情感存在换取安全。 这种静静静的绝望感揭示了一个不仅将安全,而且将情感调节外包给外部算法的社会。
反抗运动确实存在,尽管它们被贴上危险的心理变态的标签,而高犯罪率的Coecators则证明它们被判罪是有效的 — — 这是延续了西比尔权威的循环逻辑。 少数公开反对这一体系的人,如魅力对立派马基岛肖戈,在生物学上无法被西比尔审判,因为他们的犯罪意图并不会掩盖他们的动机。 他们的存在成为将精神健全与正义等同的政权的哲学危机。 因此,这一系列事件表明任何技术官僚公共安全体系都非常脆弱:它只能统治那些它能够衡量的,而那些超出其参数的人既会隐蔽又无法控制。
技术作为双刃剑:预防和控制
纸上说,西比尔先发制人的司法模式似乎是理性治理的顶峰。 预防犯罪资源得到高效配置,暴力事件在升级前就被制止,而且人类警察的主观偏见应该被消除。 但系列持续显示,旨在保护的相同工具可以重新用于控制。 安全与压迫之间的界限没有固定;它会根据谁在系统内确定门槛而变化。
斯比尔最有可能被滥用的原因在于其不透明。 公民们不了解犯罪系数是如何计算的,也没有权利质疑他们的评估。 算法是一个黑匣子,而系统本身正如第一季高潮所揭示的那样,是由曾经被视为无症状但具有高度社会操纵能力的个人组成的网络大脑所组成的。 换句话说,对公共安全的最终权威是一群社会变态思想,而系统却从未登记为威胁,因此无法消除这些思想。 这一启示将西比尔-强化司法的每一行为都重新描绘成系统声称要根除的非常犯罪病理学的部署。
技术的运用也改变了社会关系。 公民之间的信任因为任何人都可能报告别人的阴森。 邻居们成为线人不是出于恶意,而是出于对系统的有条件反射责任。 社会结构不是通过安全而得到加强,而是变得十分警惕。 系列迫使观众问:完全安全的代价是否是信任的解除、亲密和情感的真实性,贸易是否真正值得?
光学、生物动力和西比尔哲学根
斯比尔系统将泛光学原理 — — 少数观察者 — — 化为文字,但通过完全向人类观察者授与来反射。 相反,人们将算法的目光内化,不断自我调节,使其保持在可接受的地道范围内。 其结果是,像福克托所描述的那样,多管活体的社会,权力的运行不是通过过度暴力,而是通过对知道自己总是有可能被判断的个人的自我审查。
生物力量 — — 国家通过管理生命、健康和身体的技术对人口进行调节 — — 在西比尔以数字形式出现。 系统不仅惩罚罪犯,还管理着全体公民的心理生活,将集体心理-心理-心理的优化像公共卫生标准一样。 治疗、艺术甚至营养被校正以保持心理正常化。 这种人类繁荣的有益方法用统计健康取代了道德考虑,而统计健康与现代健康跟踪应用软件和情绪监测AI有着不愉快的共鸣。
政治哲学家Giorgio Agamben[的“例外状态”概念也见于系列。 潜在的罪犯是西比尔政权的同性恋者 — — 这一数字被排除在法律保护之外,但作为一个工具与制度相联。 执行者存在于法律保护内外的永久法律灰色地带。 通过这些理论视角分析西比尔体系,[Psycho-Pass将自己从警察程序提升为对现代主权性质的持续冥想。
现实世界平行:预测性警务和监督资本主义
分析历史犯罪数据以预测未来犯罪可能发生的地方和可能实施犯罪的人。 这些系统普遍批评[ 强化了培训数据中的种族和经济偏见,有效地将社区定罪而不是预防伤害。 节目中关于在不由人监督的情况下进行算法判决的警告随着辖区尝试风险评估工具以指导保释、假释和判决决定而变得更加迫切。
在私人部门,公司通过情绪分析、语音压力检测和可穿戴的生物鉴别技术(通常包括包装、健康或生产力工具)收集情感数据。 治疗监测和强制正常化之间的界限比以往更窄。 当公司运用情绪跟踪软件评估雇员“参与”和预测更替时,公司会进行比较温和但结构相似的心理-Pass扫描。 系列数据是世界的警示镜,在这个世界上,精神医学的量化正在快速推进,而缺乏相应的道德防护设施。
从心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-经验-心理-心理
普西乔-帕斯的持久力量不是它的预言而是它的挑衅。 它迫使观众面对一个令人不快的问题:如果我们能够完全准确地预防犯罪,我们是否愿意牺牲不完善、效率低下和常常不公正的人类法律机构来换取算法确定性? 连系列的答案都非常谨慎。 即使是像西比尔这样心怀诚意的系统 — — 一个真正减少暴力犯罪的系统 — — 也可能成为深刻压迫的工具,因为它从它的操作者身上抹去责任和主体的尊严。
任何未来将AI纳入公共安全的举动都必须优先考虑透明度、可竞争性和人的监督。 公民必须有权理解和质疑用于判断他们的衡量标准,如果没有包括有力的道德考虑在内的人文审查程序,任何算法都不应该对生死拥有最终发言权。 此外,这种系统的设计者必须说明,对社会最危险的个人往往是最容易通过测试的人 — — 操纵规则而不是打破规则的迷人、认知上未蒙蔽的精神病人。
保护精神状态不受管制的空间同样重要。 不受算法惩罚的愤怒、悲伤和异见的权利是自由社会的基础。 在一个每一次神经抽搐和皮质溶胶都受到监控 — — 并且可能受到惩罚 — — 的世界中,可能安全,但并非人类。 心理学-Pass [提醒我们,正义不是一个数据集,而混乱、模糊和经常令人厌烦的人类判断过程带有任何机器都无法复制的道德分量。 当我们站在将AI更深入地植入公民基础设施的口角上时,西比尔体系仍然是一个令人着迷的思维实验和一个严峻的警告:一个在现实时间中衡量灵魂可能最终忘记灵魂价值的社会。