动画系列 心理学-Pass构建了一个近未来日本,由全能的生物特征监视系统管理,该系统扫描公民的精神状态,并分配一个数字的“心理学-Pass”分数,表明他们的犯罪行为倾向。从表面上看,西比尔系统通过在表现前消除威胁而承诺一个和平的社会。 旁观者,叙述系统地摧毁了这种先发制人治理的道德假设。通过让执法人员听从能够读取心灵而不是心的算法,系列人员在技术饱和的世界中面对关于正义、机构和道德本质的不适问题。 本文通过当代伦理辩论的镜头,从哲学、犯罪学和现实世界技术的平行角度审视了 的科幻元素,以说明为什么这一表现对我们时代来说仍然是一个紧迫的比喻。

锡比尔系统和犯罪前科建筑

以]Psycho-Pass[为中心,是Sibyl系统,它是一个庞大的街道扫描器网络、可穿戴传感器和深层学习算法,它们不断测量一个人心理情绪状态的“特征 ” 。 如果公民的阅读跨越预先确定的门槛,它们就被指定为潜在的罪犯。 这一分类使得公安局所体现的执法部门能够拘留或极端情况下消灭个人,使用支配者——一种只在目标的犯罪协同度超过致命基准时才能起火的变形手枪。 该系统将菲利普·迪克(]《少数群体报告》中著名的犯罪概念拼写出来,但增加了心理层面:犯罪并不是在一种愿景中看到的将来事件;它是一种固有的潜力,据称可以衡量。

犯罪前的道德问题有三个:第一,它打破了思想和行动之间的区别。在西伯利亚,这些人不是因为他们的所作所为而受到惩罚,而是因为算法的预测而受到惩罚。第三,西伯利亚系统的运作没有透明度,其内部工作是保密的,甚至检查人员也完全不懂如何作出判决。公民不能对自己的心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-

监视、隐私和全光效应

精神病患者(FLT:0) — — 精神病患者 — — 囚犯们在狱中设计出了现代全景,将观察的可能性内部化,并相应调节他们的行为。 在系列中,公民们学会抑制情绪,避免压力的刺激 — — 书籍、音乐、关系 — — 避免了他们的阴影。 这种自我控制情绪是监控状态的最终胜利:它不再需要物理干预;它只是训练人们成为有魅力的对象。

精神分裂的丧失并不是仅仅被视为一种不便,而是对人类身份的一种生存威胁。 拥有私人思想、在不受外界判断的情况下与黑暗冲动作斗争的能力是道德发展的前提。 当精神分裂的每一个波动都得到量化和暴露时,个人就会失去培养同情、悔恨或个人成长所需的空间。 系列回响了当代围绕爱德华·斯诺登所揭示的大规模政府监控以及科技公司所实践的商业数据威望的辩论。 在智能设备不断获取情感数据的世界中,公共和私人之间的界限模糊不清。 美国公民自由联盟的A 报告强调从面部识别到情感分裂的摄像机等普遍监控技术如何可以以与心理分裂社会相对照的方式冷却言论和集会。

定義對自由意志:哲学核心

斯比尔系统的存在本身就意味着一种人类行为的决定性模式 — — 一种思想、情感和行动是神经和心理投入的可预见产出。 节目通过主角阿坎内·津森(Akane Tsunemori)不断反对这种影响,他一再做出超出西比尔预测范围的选择。 如果机器能够精确地测量你潜在的犯罪倾向,并预测你的未来,那么你从什么意义上讲,你是一个自由的代理人。 斯比尔系统的存在本身就意味着一种人类行为的决定性模式 — — 即思想、情感和行动是神经和心理投入的可预见产出。 节目通过主角阿坎内·津森(Sibyl)来推动人们反对这种影响,而后者却一再做出超出西比尔预测范围的选择。 她独立判断的能力,即根据共性而不是统计概率采取行动,成为了遏制控制的能力。

这种紧张感描绘了一个世纪以来的哲学裂痕。 硬派决定者认为,所有事件,包括人类的决定,都是由先前的国家来决定的;如果西比尔能够获取关于一个人的大脑和环境的完整信息,那么其预测将是永恒的准确的。自由派认为,在量子层面上的不决定主义或非物质意识允许真正的选择。协作派寻求一个中间基础,主张如果从个人的欲望和审议中进行某项行动,即使这些愿望本身已经确定,那么自由意志是有意义的。西比尔政权抹去了中层:犯罪协同者绕过一个人的推理,并强加一个外部标签。对于一个同情者来说,一个感到愤怒但选择不采取暴力行动的自由意志的人;西比尔只认为愤怒和判断它是一种潜在的威胁。因此,这一系列成为为什么背景、意图和第二顺序反思的有力说明——道德判断——在学术工作中[[[F:0] 的“自由知识”和“哲学的输入”中反映中,这是不可或缺的。

后期罪犯作为道德悖论

潜伏罪犯的图象体现了西比尔系统的核心道德悖论。 这些人在法律上被谴责为一种处置,然而许多人保留了明确的对与错感,并积极打击其有分寸的冲动。 系列问道:一个有暴力思想却从未对他们采取与罪犯同等的道德行为的人? 通过惩罚内在国家,这个系统摧毁了道德沙漠原则 — — 即人们只应该为自由选择的行为而受责怪的想法。 在这样做的时候, psycho-Pass 钻研神经学,显示我们都包庇着侵略性或反社会冲动;守法的公民之所以区别于行使抑制控制,而不是没有冲动。 西比尔逻辑忽略了这种关键的微妙之处,将一切悖常思想视为一种有待发生的犯罪。

算术比喻和客观的幻想

尽管Sibyl把自己看成一个纯粹科学和公正的仲裁者,但Psycho-Pass 潜然暴露了在判断中凝聚的偏见。 该系统的训练内容是反映社会价值和偏见的数据。 来自社会经济低层或那些有非传统生活方式的人的特征常常触发犯罪高端的系数,不是因为它们本身具有危险性,而是因为它们的心理特征偏离了一种人造规范。 系列表明,“清晰的色彩”是一种文化构造,用数学语言来装扮成中立。 这反映了真实世界对人工智能系统的评论,这些系统在算法客观的幌子下复制了不平等。

在治安方面,PredPol等预测工具被批评为将巡逻过度地指向犯罪报告较高的社区,这反过来反映了对有色人种社区的历史过度管制,从而形成了一种反馈循环,从而固化了偏见。 A RAND公司关于预测性治安的研究[[发现,如果不仔细设计,这种系统可以扩大而不是纠正人类偏见。 同样,Sibyl对综合心理数据的依赖意味着那些表达压力、焦虑或愤怒情绪的人——在边缘群体中更有可能加剧的人——受到惩罚。 因此,系列预示着当代对公平、问责和算法治理透明度的关切,提醒我们,黑盒AI不是比设计它的人更客观的目标。

技术道德判决的非人性化影响

一种反复出现的动机是“心理-心理学家”[ 中依赖Sibyl系统的人的道德推理萎缩。 执行者和检查者被教导绝对相信统治者的判断;如果武器不部署,目标就不是真正的威胁。 这种机械道德剥夺了思考、权衡背景、感受夺命的重负的必要性。 结果,一群执行者情绪脱节,他们努力将直觉的正义感与系统的冷酷法令调和。 系列证明,将道德决定外包给技术并不使这些决定变得容易 — — 它只是将道德负担转移到一个不敏感的机构上,往往带来灾难性的后果。

社会非人化已经超越了执法。 公民将同样的逻辑内化,避免帮助那些因担心接近被骚扰者而陷入困境的人,从而掩盖了自己的心理-心理。 同情变成了一种责任;团结,一种统计风险。 这种令人寒栗的社会动态反映了心理学家瑟里·图克勒的观察,他写道技术如何削弱面对面同情和道德勇气的能力。 在这样一个世界上,旁观者可以在决定干预之前扫描受害者的威胁程度,而社区责任的结构就被破坏。 节目警告说,通过算法监测优化安全的社会有可能丧失使安全有意义的人性。

真实世界平行:从动漫到预测分析

虚构的Psycho-Pass在当代执法实践中发现一些令人无法想象的回响。 世界各地的几个警察部门都尝试过预测性分析平台,将风险分数分配给个人或地点。 例如,芝加哥战略主题列表用一个算法来根据公民作为受害者或肇事者参与枪支暴力的可能性来排位。 该系统的逻辑与Sibyl相似:通过分析逮捕记录、社交网络联系和其他数据,试图预测未来的危险。 A Chicago Tribune调查 揭示了该列表存在严重的准确性问题和过度针对黑人居民,与该清单的偏颇为相似,反映了在动因中产生的偏差问题。

此外,生物特征监测融入公共场所已不再是推测。 部署在机场和边境口岸的情感识别摄像机试图衡量旅行者的意图;健康监测应用可以从语音模式和智能手机的使用中推断出精神状态。 这些技术往往作为公众福利的工具而销售,具有将细微的人类经验转化为简化风险计量的内在风险。 Psycho-Pass仍然具有相关性,因为它将已经出现的趋势的逻辑终点戏剧化:一个将隐私转化为完美安全幻觉的社会,以及为了安抚机器的确定性而创造道德力量的社会。

安全的代价:平衡秩序和自主

社会道德的紧张是集体安全和个人自主之间的权衡。 西比尔体系的支持者们认为,它已经消除了暴力犯罪,并带来了前所未有的和平时代。 系列从未否认22世纪的东京比20世纪的东京更加安全。 但人们却问:付出的代价是放弃个人自由、隐私的侵蚀、任何不符合统计模式的人的边缘化以及道德机构的空洞。 与自由主义政治哲学的结合,认为通过消灭自由保障安全的国家不仅仅是一个州,而是一个身着公共卫生语言的高科技暴政。

平衡并非仅仅是抽象的;它出现在关于监视立法、数据保留任务和反恐措施的每一个当代辩论中。 以预防罕见灾难事件为名进行大规模数据收集的功利主义微积分反映了西比尔先发制人的逻辑。 心理学派斯(Psycho-Pass)认为,纯粹的功利主义,从尊重人等道德原则中不调和,可以证明可怕的侵权行为是正当的。 该系列的细微反派,特别是Shogo Makishima,是以秩序的名义扼杀个人的产物。 以Sibyl无法阅读的刑事无常态人物为名的马奇岛,构成了最终挑战:如果一个系统只能对那些生活在其参数之外的人进行衡量,那么那些生活在其参数之外的人会怎样呢? 因此,它表明即使他们与整体福利相冲突,也支持尊重权利的多元道德框架的倡导者。

将道德纳入技术设计:从]心理学-心理学派斯中吸取的教训[

如果]Psycho-Pass [是一个警告性的故事,它也为设计者、决策者和公民提供了建设性的见解。 首先,透明度是不容谈判的。 Sibyl的恐怖部分源于其不透明;用户和主体都对如何做出判决一无所知。 在现实世界,解释性AI和算法影响评估必须成为标准做法。第二,任何影响基本权利的决策体系必须包含人的监督与有意义的上诉权。 Akane的弧度表明,当一个良心的人被赋予质疑和推翻算法产出的自由时,正义就更好了。 第三,必须仔细审查一个为价值拉定型假设而优化的制度。 Sibyl优化了心理度常态,而不是为正义;同样,将效率高于公平性的惯犯预测工具将强化不平等。

道德审查局、不同的发展团队以及持续的公共对话对于防止Psycho-Pass[所描绘的技术官僚主义障碍至关重要。 随着我们把人工智能更深入地纳入刑事司法、保健和教育,我们必须抵制放弃对机器的道德责任的诱惑。 技术应该是一种能扩大人类判断的工具,而不是使其过时的替代物。 技术系列最终重申了混乱、可谬误但最终是人类伦理考虑的不可替代价值 — — 随着我们的工具变得更加聪明,这一信息越来越响亮。

结论

科学理论理论的理论理论理论和理论理论的理论理论理论。 心理学理论的理论理论理论远不止于一个黑暗的网络惊悚器。它是一种持续的哲学理论性探究,探讨社会通过量化人类灵魂来策划犯罪时会发生什么。通过对Sibyl系统的描绘,该系列揭示了先发制人正义、隐私和道德权威的侵蚀以及客观算法判断的幻觉。 动因主义的阴暗的幻象并不是遥远的科幻;它们夸大了预测性治安、情感监视和数据驱动治理中真实的技术趋势的反映。 通过这些主题, Psycho-Pass 向观众挑战,要求他们审查自己在日益以自由换取安全的文化中的共犯。 公正社会的真正措施,即这个系列所坚持的,不能被缩减为数量 — 要求不断自觉地运用人类智慧、共通和道德勇气。