动画系列 心理医生 构建一个几乎未来的日本,由一个无处不在的生物特征监测系统来管理,该系统扫描公民的精神状态,并分配一个数字的“心理-Pass”分数,表明他们倾向于犯罪行为。 从表面上看,西比尔系统承诺通过在威胁显现之前消除威胁来建立一个和平的社会。 在那个先发制人背后,叙述系统地摧毁了这种先发制人的治理所基于的道德假设。 通过让执法人员听从能够读取心灵而不是心智的算法的摆布,系列人员就不得不面对一个技术饱和世界中不适的正义、代理和道德本质问题。 心理医生 透过当代伦理辩论的视角, 借鉴哲学、犯罪学和现实世界技术的相似性, 来说明为何这场演出对我们这个时代来说仍是一个紧急的比喻。

锡比尔系统和犯罪前科建筑

中心到 心理医生 这是一种Sibyl系统,它是一个庞大的街道扫描器、可穿戴传感器和深层学习算法网络,它们不断测量一个人精神状态的“丘”位。 如果公民的阅读跨越了预定的门槛,它们就被定为潜在的罪犯。 这种分类使得公安局所体现的执法部门能够使用支配器拘留或极端情况下消灭个人,而这种操纵枪只有在目标的犯罪系数超过致命基准时才能起火。 该系统由此将Philip K. Dick所著称的预犯罪概念化为文字。 少数群体报告犯罪并不是未来在视觉中看到的事件;它是一种内在潜力,据称在目前可以衡量。

预案的道德问题有三个:首先,它打破了思想和行动之间的区别;在西比尔统治下,一个人不是因为自己的行为而受到惩罚,而是因为算法预测他们可能变成什么。 动作 reus犯罪是大多数法律制度所依赖的。 其次,这种制度造成了一种永久性的“相对罪犯”阶层,个人即使从未犯下过有害行为,也遭到排斥和剥夺权利。 这套制度表明这些人被限制在专门区域或被迫从事低水平的工作,从而创造了一种自我实现的预言,即社会排斥会加剧心理压力,使潜在的犯罪标签更高。 第三,Sibyl制度的运作没有透明度;其内部运作是保密的,甚至检查人员也并不完全了解判决是如何作出的。 公民不能对他们的心理-心理-心理-心理-心理-心理-心理-心理-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神-精神- 调查机器偏差. . . . . . . . .

监视、隐私和全光效应

心理医生 不断的可见度创造了现代泛光学,让人想起Michel Foucault对Jeremy Bentham监狱设计的修改,囚犯们在其中将观察的可能性内化,并相应调节他们自己的行为。 在上述系列中,公民们学会抑制情绪,避免压力刺激——书籍、音乐、关系——避免他们的仇恨云雾。 这种情感自我控制是监视状态的最终胜利:它不再需要物理干预;它只是训练人们成为有教养的主体。

隐私的丧失 心理医生 个人的心理压力和自我成长需要的空间。 系列反应了当代围绕爱德华·斯诺登所揭示的大规模政府监控以及科技公司所推行的商业数据维系的辩论。 在智能设备不断获取情感数据的世界中,公共和私人之间的界线模糊不清。 美国公民自由联盟的报告 突出显示从面部识别到情感探测相机的普及性监控技术,如何可以冷却言论和组装,以与心理-Pass社会相像的方式.

定義對自由意志:哲学核心

脑海中最有野心的线索之一 心理医生 斯比尔系统的存在本身就意味着一种决定人类行为的模型 — — 即思想、情感和行动是神经和心理投入的可预见输出。 节目通过主角阿卡内·鹤森督察(Akane Tsunemori)来反对这种影响,他一再做出超出斯比尔预测范围的选择。 她独立判断的能力,因为基于同情而不是统计概率采取行动,成为了决定力控制的能力。

这种紧张感描绘了几百年来哲学上的裂痕。 强硬的确定者认为,所有事件,包括人类的决定,都是由先前的国家因果决定的;如果西比尔能够获取关于一个人大脑和环境的完整信息,那么其预测将是永恒准确的。 关于自由意志的自由主义者(而不是与政治标签混淆)认为,量子层面的不确定性或非物质意识允许真正的选择。 协作主义者寻求一种中间基础,主张,如果行动从个人的欲望和审议中流动,即使这些愿望本身已经确定,自由意志也是有意义的。 西比尔政权抹去了中间基础:犯罪协同者绕过一个人的推理并强加外部标签。 对于一个同情者来说,一个感到愤怒但选择不采取暴力行动的人,西比尔只看到愤怒,判断它是一种潜在的威胁。 因此,这一系列论成为了为什么背景、意图和第二顺序反思是道德判断所不可或缺的 — — 学术工作中对刑事责任的深刻认识在学术工作中有所反映。 斯坦福哲学百科全书 有关前知识与自由意志的条目. . . . . . . . .

后期罪犯作为道德悖论

潜伏的罪犯的图象体现了西比尔体系的核心道德悖论。 这些人在法律上被谴责为一种处置,然而许多人保留一种明确的对与错感,并积极打击他们有分寸的冲动。 系列调查问:一个人是怀有暴力思想,但从未像罪犯那样在道德上对他们采取行动吗?通过惩罚内在国家,这个体系摧毁了道德沙漠的原则,即人们只应该为他们自由选择的行为而受责备。 心理医生 神经学研究的发现表明,我们都暗藏着侵略性或反社会冲动;守法公民的区别在于行使抑制性控制,而不是没有冲动。 西比尔逻辑忽略了这种关键的细微差别,将每一个不正常的思想视为一种等待发生的犯罪。

算术比喻和客观的幻想

虽然西比尔以纯粹科学公正仲裁人的身份出现 心理医生 系统在数据方面接受了培训,这些数据反映了社会所存在的价值观和偏见。 来自社会经济低层或那些有非常规生活方式的人的特征往往引发更高的犯罪系数,不是因为它们本身具有危险性,而是因为它们的心理特征偏离了一种人造规范。 系列表明,“清晰的色彩”是一种文化构造,用数学语言来表达中立性。 这反映了真实世界对以算法客观性为幌子复制不平等的人工智能系统的批评。

在治安方面,PredPol等预测工具被批评为将巡逻过度地导向犯罪报告较高的街区,这反过来又反映了对有色人种社区的历史过度治安,形成了一种反馈循环,从而固化了偏见. A. RAND公司关于预测性警务的研究 类似地,西比尔对综合心理数据的依赖意味着那些表达压力、焦虑或愤怒情绪的人 — — 更容易在边缘群体中加剧 — — 受到惩罚。 因此,系列预测了当代对算法治理的公平、问责和透明度的关注,提醒我们黑盒AI与其编程者相比,更客观。

技术道德判决的非人性化影响

重复出现的动机 心理医生 机械道德剥夺了思考、权衡背景、感受生命之重的必要性。 结果,一群执行者情绪脱节,而检查者则努力将直觉的正义感与系统的冷酷法令相调和。 系列调查表明,将道德决定外包给技术并不能使这些决定变得容易 — — 它只是把道德负担转移到一个往往具有灾难性后果的不友好机构身上。

社会非人化已经超越了执法。 公民将同样的逻辑内化,避免帮助处于困境中的其他人,因为担心接近被扰动的人会掩盖自己的心理-心理。 同情变成了一种责任;团结,一种统计风险。 这种令人寒心的社会动态反映了心理学家瑟里·图尔的观察,他写道技术如何削弱面对面同情和道德勇气的能力。 在这样一个世界上,旁观者可以在决定干预之前扫描受害者的威胁程度,而社区责任的结构就破裂了。 节目警告说,通过算法监测来优化安全的社会有可能丧失使安全有意义的人性。

真实世界平行:从动漫到预测分析

虚构的 心理医生 当代执法实践中的反响令人难以置信。 世界各地的几个警察部门都尝试过预测分析平台,将风险分数分配给个人或地点。 例如,芝加哥战略主题列表用一个算法来根据公民作为受害者或犯罪者参与枪支暴力的可能性来排位。 该系统的运作逻辑与Sibyl相似:通过分析逮捕记录、社交网络联系和其他数据,试图预测未来的危险。 A 芝加哥论坛报调查 名单中出现严重准确性问题,过多地针对黑人居民,这与动画中提出的偏见关切相呼应。

此外,生物特征监测融入公共场所已不再是推测。 部署在机场和边境口岸的情感识别摄像机试图衡量旅行者的意图;健康监测应用可以从语音模式和智能手机的使用中推断出精神状态。 这些技术通常作为公共福利工具而销售,具有将细微的人类经验转化为简化风险衡量标准的内在风险。 心理医生 之所以仍然具有相关性,正是因为它使已经发生的趋势的逻辑终点戏剧化:一个将隐私交换成完美安全的幻觉的社会,以及道德代理以安慰机器确定性的社会。

安全的代价:平衡秩序和自主

道德紧张的核心 心理医生 集体安全与个人自主之间的权衡。 西比尔体系的支持者认为,它已经消除了暴力犯罪,并带来了前所未有的和平时代。 系列从未否认22世纪的东京比20世纪的东京要安全。 但该系列问道:付出的代价是放弃个人自由、隐私的侵蚀、任何不符合统计模式的人的边缘化以及道德机构的空洞。 这场演出与自由主义政治哲学一致,认为通过消灭自由来保障安全的国家不仅仅是一个国家,而是用公共卫生语言来表达的高科技暴政。

这种平衡不仅仅是抽象的;它出现在关于监视立法、数据保留任务和反恐措施的当代辩论中。 以预防罕见灾难事件为名进行大规模数据收集的功利主义微积分反映了西比尔先发制人的逻辑。 心理医生 这表明纯粹的功利主义,不受尊重人等道德原则的驱使,可以为可怕的侵权行为辩护。 系列中细微的反派,特别是Shogo Makishima,是以秩序的名义扼杀个人的系统产物。 Makishima,一个无法阅读的无症状罪犯,构成了最终的挑战:如果一个系统只能统治那些能够衡量的人,那么那些生活在其参数之外的人会怎样呢? 因此,这个节目倡导一个尊重权利的多元道德框架,即使他们与整体福利冲突时也是如此。

将道德纳入技术设计:从 心理医生

如果出现 心理医生 这一点在现实世界中是值得注意的。 其次,必须把人的监督与有意义的上诉权纳入任何影响基本权利的决策体系。 阿卡内的弧度表明,当一个良心的人被赋予质疑和推翻算法输出的自由时,正义就更好了。 第三,必须严格审查一个对价值放荡的假设最优化的系统。 Sibyl对心理计量常态的优化,而不是正义的优化;同样,将效率高于公平性的再犯预测工具将强化不平等。

道德操守审查委员会、各种发展小组和不断进行的公共对话,对于防止技术官僚的不良行为至关重要。 心理医生 技术应该成为扩大人类判断力的工具,而不是使其过时的替代手段。 技术系列最终重申了混乱、易落但最终是人类伦理考虑的不可替代价值 — — 随着我们的工具变得更加聪明,这一信息越来越响亮。

结论

心理医生 这部系列作品不仅是一个黑暗的网络惊悚片,还是一种持续的哲学性讯问,以量化人类灵魂来设计犯罪。 通过对Sibyl系统的描绘,它暴露了先发制人正义、隐私和道德权威的侵蚀以及客观算法判断的幻觉。 动漫的反常景象并不是遥远的科幻;它们夸大了预测性警务、情感监视和数据驱动治理中的实际技术趋势。 心理医生 挑战观众去审视自己在日益自由换取安全的文化中的同谋。 公正社会的真正衡量标准,即系列标准,不能被削减到一个数字上 — — 它要求不断、自觉地运用人类智慧、同情心和道德勇气。