哲学在Dystopian Anime:什么工作像“精神病传” 启示社会道德的虚构

西比勒系统哲学架构

为了理解Psycho-Pass揭示了社会道德结构,首先必须认识到Sibyl系统是长期哲学思想实验的实现。它作为Jeremy Bentham的Panopticon和功用计算引擎的混合体运作。在Panopticon,一个监狱设计中,一个单人看守可以观察所有囚犯,而不知道他们是否在被监视,监视的持续可能性会迫使他们遵守。Michel Foucault后来修改了这个比喻来描述现代社会的纪律机制,在现代社会中,权力被内部化,个人规范他们自己的行为。Sibyl系统是终极的Panopticon:扫描是连续的,评估是不透明的,判断是直接的。公民们成为自我政治主体,不断意识到他们的精神状态可能背叛他们。这重新定义了观众对通过这种普遍监督获得的安全是否与人的尊严相容性的调查。

从本塔姆到大数据:监视的演变

本特姆最初的Panopticon是建筑学; Foucault的解释是社会政治。 Psycho-Pass 将这一说法更新到数字时代,那里收集的数据是心理和情感的。系统不仅观察行动,而且还量化意图、情绪和潜在犯罪。 这一从行为监视到认知监视的飞跃回溯了现实世界关于执法中预测治安和使用人工智能的辩论。 例如,一些司法管辖区用来确定保释或判决的算法风险评估类似粗糙的Sibyl系统,引起同样的伦理问题。 如果机器学习模型得出结论,一个人有重犯的可能性,那么先发性判断是否应该超越其他司法考虑? 动因论将后果外部化:在它的世界,高犯罪率单是能够触发致命武力的,而是由自主系统做出的决定。

进一步阅读本特姆在Panopticon上的斯坦福哲学百科全书条目[,该条目详细介绍了全景监控的理论基础.

自由意志和预想算法的定时格言

自由意志的否定是内心深处最不安的潜伏状态之一。如果一个人的未来犯罪在任何行为发生之前都能在心理中被理解,那么人类机构就会崩溃成一系列预先规定的概率。该系列与观众面对的是硬性决定主义:个人不会选择成为罪犯;他们出生或被改造为犯罪,然后被察觉。这个决定性框架挑战了报复性正义的根本基础,认为人们因为自由选择违法而应当受到惩罚。在西比尔的宇宙中,惩罚成为隔离而不是道德谴责的形式,从而抹去道德责任的概念。 由读犯罪系数的统治者组成的MWPSB的侦探们不是司法代理人,而是制定预先判决的决定性算法的工具。

配合主义和为机构而斗争

一些哲学家提出了中间立场: 共性主义, 认为自由意志和决定主义可以共存, 如果我们正确定义自由。 从这个角度讲, 即使西比尔读到心理倾向, 一个人仍然有内在的意志, 直到行动的时刻。 诸如Shinya Kogami这样的人物, 离开MWPSB去追求自己的正义, 体现了共性主义的反叛。 他承认他过去和心理特征的影响, 但坚持遵循自己的道德信念。 他的轨迹挑战着系统的全面视线, 暗示着人类机构可能存在于预测和颁布之间的空白中。 这种矛盾反映了现实生活中对遗传倾向、社会经济因素和犯罪行为的讨论: 即使我们能够识别风险因素, 是否消除个人责任? 许多法律制度都采取了细致的方法,考虑减轻情节,而不会完全放弃责任的概念, 以及 psycho-Pass 将谈判完全化。

为了更彻底地探索自由意志辩论,参见斯坦福哲学百科全书关于兼容性[,该书为决定主义与道德责任的调和提供了广泛的论据和反对.

乌蒂亚主义正义:最伟大的恐怖为最伟大的数字

斯比勒体系运作于一种与理论最极端的提法相抗衡的功利微分法. 尤利特主义,正如杰里米·本塔姆和约翰·斯图尔特·米尔(John Stuart Mill)所经典阐述的那样,主张道德上正确的行动是最大限度地实现总体幸福或将痛苦降到最低。在 Psycho-Pass[中,体系的全部合法性在于声称少数先发制人的潜在罪犯可以防止更大的社会伤害,从而最大限度地提高集体福祉。 公务员指出,这种冷冷的算术会大幅度降低犯罪率和有序的社会。 然而,一系列行为却通过显示人类的代价而持续地破坏这一正义逻辑:由于创伤而具有高犯罪协同效应的无辜者、检举人认为对稳定的威胁以及毒害每一个健康的社会纽带的潜伏。

特罗莱问题制造系统

道德主义者经常通过特罗莱问题来说明功利主义内部的紧张关系:一个逃跑的推车会杀死五个人,除非你把它引到一个会杀死一个人的轨道上。 Sibyl将这一思想实验并把它放大为整个治理模式。它不断决定谁才是牺牲者,但它却在没有民主审议或透明标准的情况下隐蔽地这样做。 系统的不失当性是一个政治假象;它下面是系列后期所揭示的可怕真理。 这一启示功能是对任何技术官僚制度的一种批评,它降低了道德复杂性,而降低了量化优化。 通过解开系统内部的不一致,叙述论认为,纯粹的功利主义框架,特别是用不透明的算法执行时,不可避免地会产生破坏其自身道德主张的深刻不公正。

对于更深入地潜入这种困境的伦理层面,请参考斯坦福百科全书对特罗莱问题的处理,该书将经典思想实验与当代伦理理论联系起来.

自动判决系统中的冷漠的腐蚀

哲学方面的另一个方面是Psycho-Pass,它涉及将道德判断外包给机器的个人的心理转变。 检查员和执行者依赖支配者的理解,认为它是无可置疑的生死仲裁者。随着时间的推移,这种依赖会削弱他们同情和道德推理的能力。触发的手指抽搐不是来自个人的信念,而是来自遵守数字指标。这一转变反映了现实世界对关键决定自动化的关注。当算法确定贷款批准、雇用决定或监禁判决时,人类操作者可能会放弃道德责任,而服从“客观”机器。其后果是双重的:第一,个人受到伤害成为数据点而不是个人;第二,人类决策者失去了道德考虑的做法,使他们在系统残忍中串通。

汉娜·阿伦特和西比尔世界的邪恶的封建

汉娜·阿伦特在阿道夫·艾希曼审判期间提出的“邪恶的野蛮”概念描述了普通人如何通过毫无疑义地遵循官僚程序来犯下暴行。在Psycho-Pass[中,检查专员不认为自己是处决者;他们是一个经科学验证的协议的管理者。这种脱离道德机构的状态被冷酷地描绘出来。这个系统的设计确保了没有人能感受到杀人的全部重心。统治者的声音宣布了判决,武器行为是自动的。责任的传播是系列批评的基石:一个不仅使惩罚机械化的社会不仅犯下暴力,而且使公民的良心丧失了道德反省力,几乎不可能。整个机构是一个案例研究,研究技术调解如何将罪恶化,直到它成为惯例。

道德真理的技术确定

心理学派斯 冒险进入元伦理学,认为西比尔体系已经成为道德真理的最终仲裁者。“好”一词在操作上由系统计算出来。这是道德自然主义的一种激进形式,道德属性被降低到可衡量的心理状态。系统将压力、侵略和潜在敌意量化,并将偏离规范基线等同于邪恶。但这暴露了自然主义谬论:仅仅因为可以衡量大脑状态并不意味着“追求”可以从中产生。动因反复显示人物尽管道德上正直,但被标为危险的人物,而其他人掩盖其恶意意图。系统的真实性不是客观道德的反映,而是服务系统自身稳定的构象。这提醒了观众,无论如何进步,都有可能将道德判断投向任何技术。

机器中的鬼:意识和道德立正

之后关于Sibyl系统——它包括一个犯罪无症状的大脑网络——的启示,使哲学层更加令人不安。这些大脑被保留下来,他们的意识被用来进行集体判断。这引起了合成或断裂智能的道德考虑问题。如果该系统本身就是一个道德上令人厌恶的实体,由它本会谴责的心灵组成,那么它的判断就没有任何道德合法性。这种扭曲的作用是演绎性的矛盾,破坏了系列的整个道德框架。它还回响了网络流行的传统,特别是Masamone Shirow的 Ghost在壳中,其中人类思想和技术的融合促使人们重新评价哪些实体值得权利和道德承认。在 Psycho-Pass中,该系统同时是执法者,违反了反对利用手段人类的最基本道德规范。

个人对集体:谁承担道德负担?.

在整个系列中,人物们都努力解决个人良知与社会秩序要求之间的冲突。主角阿坎·鹤森是一位罕见的检查员,拒绝让制度完全包含她的道德自主性。她一再质疑即时处决,试图了解犯罪系数背后的人。她的做法将道德道德引入了一种以道德守法和功利主义计算为主的环境。她不盲目遵循规则或尽量提高结果,而是培养同情和实际智慧的美德,寻找尊重人的尊严的替代方法。她的发展表明,没有个人抵抗系统性压力,道德进步是不可能的。因此,系列文章认为,社会的道德结构不是由完美的制度所塑造的,而是由面对复杂情况而谨慎判断的人所塑造的。

现实世界的共鸣:监视资本主义和预测性司法

在美国,美国和中国的“大众”政策是“一个“一个”政策。 ”“一个”政策。 ”“一个“一个”政策是“一个”政策。 ”“一个”政策是“一个“一个”政策。 ”“一个”政策是“一个”政策。 ”“一个“一个”政策是”政策是“一个”政策。 ”“一个“一个”政策是”政策是“一个”政策。 ”“一个“一个”政策是”政策是“一个“一个”政策是”政策。 ”“一个“一个”政策是”政策是“一个“一个”政策”政策 。 ” 。 “一个“一个“一个”政策是”政策是”“一个“一个”政策 。 ” 。 ” ”

比较Dystopian Visions:从]1984年到少数群体报告

心理-Pass不是孤立地出现;它存在于一种丰富的关于研究监视、预惩罚和技术政治的“心理分裂”的叙述的家族学中。乔治·奥威尔的1984年 给了我们电讯屏幕和大哥哥,但其愿景是粗糙的极权控制。菲利普·K·迪克的《少数人报告》引入了犯罪前概念,其中预知性变种人预测了谋杀发生前的情景。 PSycho-Pass 将这些现象混合起来: 监视像Orwell的思想警察一样是内化的,但预测机制却是技术科学的,就像迪克的预科。结果是一个独特的后人类障碍,道德既是一种扫描,也是永远无法传播的。比较这些工程揭示了外部观察向内部心理监测的进展,标志着现代监视技术的强化。

对于对dystopian文学及其哲学影响的概括, 互联网百科全书"哲学"条目在dystopias上的条目[提供了一个有用的分类学.

冷漠的极限:一个系统能理解人类的痛苦吗?

哲学批评中最尖锐的一句话嵌入在 Psycho-Pass中,这是任何定量系统在认识定性人类经验方面的认知限制。 主人公读了心理通、修饰、清晰、光辉的语气,但这些是心理状态的比喻,无法抵抗数字的减少。 遭受严重创伤的强奸受害者可能会登记高犯罪系数;患有创伤后精神紧张症的士兵可能会被标注为潜在的威胁。 该系统无法区分正义的愤怒、临床抑郁症和罪恶的恶意,因为它缺乏理解背景、叙述和意义的能力。 这是对道德科学的持久梦想的深刻评论。 系列表明,通过技术建立一个完美公正的系统的任何尝试都必然失败,因为它无法捕捉到最初引起道德考虑的细微的人类生活结构。

反叛作为道德的必然性

系列最终支持的不是无法无天的精神,而是对过度伸张的必要纠正. 柯加米的仇杀,慎岛的破坏性自由,以及后来的反抗都凸显出,消除异见可能性的道德体系已经是不道德的. 即使西比尔的计算完全准确,它垄断正义将是专制的. 道德机构要求自由说不,藐视,从良心中行事,即使付出巨大的个人代价。这与存在先于本质的存在主义的信念相呼应:人类通过他们的行为,而不是通过预先设定的标签来定义自己. 在 Psycho-Pass中,叛乱行为本身就是对自称更了解的机器的人的尊严的重申. ,因此,观众们没有一种舒适的解决方案,而是面对一种永恒的伦理挑战:我们愿意为安全牺牲什么,遵守从什么角度变成共谋?

结论:织造我们自己的道德布局

心理学派斯远不止是一个令人发指的犯罪刺激者;而是对道德未来的哲学沉思。 通过将监视理论、实用主义、决定性主义和技术伦理结合起来,系列迫使我们面对我们设计的系统反映我们自己道德选择的不适真理 — — 以及这些选择在无人质疑时会变得可怕。随着人工智能和大数据日益嵌入日常治理之中,西比尔系统提出的问题需要具体答案。我们是否把预测算法作为支持人类智慧的咨询工具,或者赋予它们致命的权威?答案不在于技术能力,而在于我们集体的意愿,即维护道德判断的混乱、不完美领域。 社会结构不是机器所塑造的;而是人们每天选择容忍、质疑和抵制什么。