Dystopian anime 作为一种强大的透镜,我们可以通过它来检查我们自己社会的隐含假设。 心理医生 而不是仅仅用黑暗的未来来娱乐;他们就自由、正义,以及在无所不在的技术的阴影下成为人类意味着什么,进行精心的哲学辩论。 心理医生 环绕着西比尔系统,这是一个扫描公民精神状态并指定犯罪协同效应的生物分子网络,这是衡量他们犯罪可能性的尺度。 这个前提不仅仅是阴谋手段,而是邀请我们仔细研究我们世界的道德结构。 在本篇文章中,我们将探索贯穿系列的深层哲学流,将它们与数百年的道德困境和紧迫的当代问题联系起来。

西比勒系统哲学架构

来了解什么 心理医生 了解社会道德结构,首先必须认识到西比尔系统是长期哲学思想实验的实现。它是一种由杰里米·本特姆的泛光学和实用计算引擎组成的混合体。在泛光学中,一个单一的看守可以观察所有囚犯而不知道他们是否在被监视的情况下,监视不断的可能性会迫使他们遵守。米歇尔·福考特后来修改了这个比喻,描述了现代社会的纪律机制,在这种社会中,权力被内化,个人调节自己的行为。西比尔系统是终极的泛光学系统:扫描是连续的,评估是不透明的,判断是即时的。公民们成为自我政治主体,不断意识到他们的精神状态会背叛他们。这重新定义了观众对通过这种普遍监督获得的安全是否与人的尊严相容的询问。

从本塔姆到大数据:监视的演变

本特姆最初的泛光学是建筑学;福考尔的解释是社会政治学. 心理医生 数据被收集到的时代是心理和情感的。 系统不仅观察行动,而且还量化意图、情绪和潜在犯罪。 这一从行为监视到认知监视的飞跃回溯了现实世界关于预测性治安和执法中使用人工智能的辩论。 比如,一些司法管辖区用于确定保释或判决的算法风险评估类似于粗糙的Sibyl系统,引起同样的道德关切。 如果机器学习模式得出结论,一个人有很高的再犯罪概率,那么先发制人的判决是否应该超越其他司法考虑? 动因将后果外部化:在世界上,高犯罪率单凭一己之力就能触发致命武力,而是由自主系统做出的决定。

进一步阅读本塔姆在 普诺普通上哲学条目斯坦福百科全书详细介绍无所不在监控的理论基础。

自由意志和预想算法的定时格言

里面最让人不安的暗流之一 心理医生 如果一个人的未来犯罪在任何行为发生之前就能够被从他们的心理中读到,那么,人类机构就崩溃成了预先设定的一系列概率。该系列与观众的对抗是难以确定的:个人不会选择成为罪犯;他们出生或被塑造为犯罪,然后被察觉。这一决定性的框架挑战了惩罚性正义的根本基础,认为人们因为自由选择违法而应当受到惩罚。在西比尔的宇宙中,惩罚变成了一种隔离而不是道德谴责的形式,从而剥夺了道德责任的概念。 由统治者组成的MWPSB的侦探们,他们阅读犯罪系数,不是司法代理人,而是一种威慑性算法的工具,他们颁布了预先判决。

配合主义和为机构而斗争

一些哲学家提出了中间立场: 共和主义, 认为如果我们正确定义自由, 自由意志和决定主义可以共存。 从这个角度来说, 即使西比尔读到心理倾向, 一个人仍然有内在的意志, 直至行动的时刻。 比如真也·科加米, 他离开MWPSB去追求自己的正义, 体现了共和主义的反叛。 他承认他过去和心理特征的影响, 但坚持遵循自己的道德信念。 他的轨迹挑战着系统的全面凝视, 暗示着人类的代理可能存在于预测和颁布之间的空白。 这种紧张反映了现实生活中对遗传倾向、 社会经济因素和犯罪行为的讨论: 即使我们能够识别风险因素, 是否消除个人的问责制? 许多法律制度都采取了细致的方法, 考虑减轻情节,而不完全放弃责任的概念, 并且不考虑责任的产生, 并且 心理医生 戏剧化的正是谈判。

更彻底地探讨自由意志的辩论,见 斯坦福哲学百科全书关于协和主义,它为调和决定主义和道德责任提供了广泛的论据和论据。

乌蒂亚主义正义:最伟大的恐怖为最伟大的数字

希比尔体系运作于一种功利主义微积分,这种微积分与理论中最极端的提法相冲突。 正如杰里米·本特姆和约翰·斯图亚特·米尔(John Stuart Mill)所经典阐述的那样,尤蒂利亚主义主张道德上正确的行动是最大限度地实现总体幸福或将痛苦降到最低。 心理医生系统的全部合法性在于声称少数先发制人的潜在罪犯可以防止更大的社会伤害,从而最大限度地提高集体福祉。 公务员为这个冷酷的算术辩护,他们指出犯罪率和有序的社会。 然而,这一系列数据却持续地破坏这一正义逻辑,显示人的代价:由于创伤而犯罪率高的无辜个人、举报人认为稳定受到威胁,以及毒害每一个健康的社会纽带的潜在恐惧。

特罗莱问题制造系统

道德主义者经常通过特罗莱问题来说明功利主义内部的紧张:一个逃跑的推车会杀死五个人,除非你把它引到一个会杀死一个人的轨道上。西比尔将这一思想实验并把它放大为整个治理模式。它不断决定谁是牺牲者,但它在没有民主审议或透明标准的情况下,是隐蔽地这样做。 系统的不失当性是一个政治假象;它下面是系列后期所揭示的可怕真理。这一启示功能是对任何技术官僚制度的一种批评,它降低了道德复杂性,从而降低了量化优化。 将系统内部的不一致之处加以澄清,说明一个纯粹的功利主义框架,特别是用不透明的算法执行,不可避免地会产生破坏其自身道德主张的深刻不公正。

欲深入探讨这些难题的道德层面,请参见: 斯坦福百科全书对特罗莱问题的处理将经典的思想实验 与当代伦理理论联系起来

自动判决系统中的冷漠的腐蚀

还有一个哲学层面 心理医生 检查者和执行者依靠支配者的理解,认为这是无可置疑的生死仲裁者。随着时间的推移,这种依赖削弱了他们同情和道德推理的能力。触发的手指不是来自个人的信念,而是来自遵守数字指标。这一转变反映了现实世界对关键决定自动化的关切。 当算法确定贷款批准、雇用决定或监禁判决时,人类操作者可能会放弃道德责任,服从“客观”机器。其后果是双重的:第一,个人受到伤害成为数据点,而不是个人,第二,人类决策者失去了道德考虑的做法,使他们在系统残忍中串通一气,甚至不承认这一点。

汉娜·阿伦特和西比尔世界的邪恶的封建

在阿道夫·艾希曼审判期间提出的汉娜·阿伦特的"邪恶的野蛮"概念,描述了普通人如何通过毫无疑问地遵循官僚程序来实施残暴行为. In. 心理医生检查官们并不认为自己是行刑者; 他们是一个科学上有效的协议的管理者。这种脱离道德机构的状态被令人寒心地描绘出来。系统的设计确保了没有人能感受到杀人的全重。 统治者的声音宣布判决,武器自动行动。这种责任的传播是系列批评的基石:一个不仅使惩罚机械化,而且使公民的良心消亡的社会,使得道德反省几乎不可能。整个机器是技术调解如何消毒直至习惯化的案例研究。

道德真理的技术确定

心理医生 冒险进入元伦理学,认为西比尔系统已经成为道德真理的最终仲裁者。“好”是用系统计算出来的。“好”是由操作来定义的。这是道德自然主义的一种激进形式,道德属性被降低到可衡量心理状态。 道德体系将压力、侵略和潜在敌意量化,并将偏离规范基线等同于邪恶。但这暴露了自然主义谬论:仅仅因为可以衡量大脑状态并不意味着“需要”可以从中产生。动因反复显示那些尽管道德上正直但被标记为危险的人物,以及那些掩盖其恶意意图的人物。 道德体系的真理不是客观道德的反映,而是服务于体系自身稳定的构思。 这提醒了观察者,无论多么先进,都有可能将道德判断投向任何技术。

机器中的鬼:意识和道德立正

之后关于Sibyl系统的启示——它包括一个犯罪无症状大脑网络——使哲学层更加令人不安。这些大脑被保留下来,被集体判断所利用,这引起了对合成或断裂智能的道德考虑问题。如果该系统本身就是一个道德上令人厌恶的实体,由它所谴责的思想组成,那么它的判断就没有任何道德合法性。这种扭曲的作用是演绎性的矛盾,破坏了系列的整个道德框架。它还反映了网络流行的传统,特别是Masamune Shirow的传统。 壳里鬼,人类思想和技术的融合促使人们重新评估哪些实体应当享有权利和道德承认。 心理医生系统同时是执法者 违反最基本的道德规范 以工具化人类

个人对集体:谁承担道德负担?.

在整个系列中,人物们都努力解决个人良知与社会秩序要求之间的冲突。主角阿坎内·鹤森是一个罕见的检查员,拒绝让制度完全包含她的道德自主性。她一再质疑即时处决,试图了解犯罪系数背后的人。她的做法将道德道德引入了一种以道德守法和实用主义计算为主的环境。她不盲目遵循规则或尽量提高结果,而是培养同情和实际智慧的美德,寻求尊重人的尊严的替代方法。她的发展表明,没有个人抵抗系统压力,道德进步是不可能的。因此,系列著作认为,社会的道德结构不是由完美的制度所塑造的,而是由面对复杂情况而谨慎判断的人所塑造的。

现实世界的共鸣:监视资本主义和预测性司法

哲学辩论: 心理医生 科技公司收集行为数据来描述用户,政府在公共空间中部署面部识别,预测分析为刑事司法决定提供依据。 在中国,社会信用体系在量化公民可信度方面进行了实验,而西方民主国家则在反恐立法之后对大规模监控的道德进行争论。 动因是一个警告性故事:一旦有衡量人类灵魂的基础设施,它就能够重新用于控制而不是福利。 虚构的不是遥远的未来,而是夸大了的现今。 系列的相关性在于它毫不妥协地描绘绝对安全如何侵蚀安全所要保护的自由。

比较Dystopian 远景:来自 1984年,华为市. 改为: 少数群体报告

心理医生 其背景是探索监视、预判和技术政治的“Distopian”叙事。 乔治·奥威尔(George Orwell)的著作是一部关于“在不孤立的情况下”的著作。 1984年,华为市. 给我们电视和大哥的,但它的愿景是 粗糙的极权控制。 少数群体报告 引入了犯罪前的概念,其中预知变种人预测谋杀发生前. 心理医生 混合化的这些:监视像奥威尔的思想警察一样内化,但预测机制却像迪克的预科一样具有技术科学性。 结果是一种独特的人类后脱节现象,道德既是一种扫描,也是永远无法达到的。 比较这些作品,可以发现从外部观察到内部心理监测的发展,标志着国家力量的强化,这反映了现代监视技术的轨迹。

欲广泛概述堤岸主义文学及其哲学影响, 互联网百科全书 哲学条目distopias 提供了有用的分类学。

冷漠的极限:一个系统能理解人类的痛苦吗?

一种最尖锐的哲学批评 嵌入在 心理医生 任何数量系统都具有认知性,可以掌握人类的定性经验。 主人公读了心理通经(psychops)—— hue, 清晰, brillion(bleimance)—— 但这些是心理状态的比喻, 抵制数量减少。 严重创伤的强奸受害者可能会登记为高犯罪率; 患有创伤后精神紧张症的士兵可能会被标为潜在的威胁。 系统无法区分正义的愤怒、临床抑郁症和犯罪恶意,因为它缺乏理解背景、叙述和意义的修饰能力。 这是对道德科学的持久梦想的深刻评论。 系列表明,通过技术建立一个完全公正的系统的任何尝试都将不可避免地失败,因为它无法抓住最初引起道德考虑的人类生命的细微结构。

反叛作为道德的必然性

系列最终支持的不是无法无天的精神,而是纠正过度接触的必要纠正。 柯加米的仇杀、慎岛的破坏性自由以及后来的抵抗都突出表明,消除异见可能性的道德体系已经是不道德的。即使西比尔的计算完全准确,它垄断正义将是专制的。道德机构要求自由拒绝、藐视、良心行为,即使付出巨大的个人代价。这与存在先于本质的存在主义的信念一致:人类通过自己的行动而不是通过预先确定的标签来定义自己。 心理医生叛乱行为本身就是对声称知道得更清楚的机器的人类尊严的重申。 因此,这一系列事件给观众留下的不是一个舒适的解决办法,而是一个永恒的道德挑战:我们愿意为安全牺牲什么,遵守在什么时候成为同谋?

结论:织造我们自己的道德布局

心理医生 这套理论集将监视理论、实用主义、决定性主义和技术伦理结合起来,迫使我们面对我们设计的系统反映我们自己的道德选择的不适事实 — — 以及这些选择在无人质疑的情况下会变得可怕。 随着人工智能和大数据日益嵌入日常治理之中,西比尔系统提出的问题需要具体答案。 我们是否将预测算法作为支持人类智慧的咨询工具,或者赋予它们致命的权威?答案不在于技术能力,而在于我们维护混乱、不完善但最终是人类道德判断领域的集体意愿。 社会结构不是由机器所塑造的;而是由人们每天选择容忍、质疑和抵制的东西所塑造的。

进一步探讨这些主题,请考虑阅读 电子边境基金会在监视和公民自由方面的资源将这些哲学焦虑 建立在持续的法律和政治斗争中