心理医生 这部系列电影是2012年首次播出的标志性网络平板动画,由制作I.G制作,由玄武渊源编剧。 该系列想象了22世纪的日本,一个庞大的生物测定扫描仪和心理测量分析网络,被称为“生物测定”和“生物测量”网络。 Sybil 系统公民受到不断的监视,他们的情绪和心理状态下降到数字化。 犯罪系数读数高于某一阈值的人在犯罪实际发生之前就被系统执行者扣留,或者在极端情况下被系统执行者消灭。 叙述方式是一种令人抓狂的惊悚,但其真正力量在于系统被认为不易犯错时爆发的人机冲突之后。 这一后果以及它所施加的道德评价继续远远超出屏幕,提供了一种先验的透镜,通过它来检查我们自己与监视技术、预测算法和道德判断力的外包给机器的加速纠缠。

锡比尔系统:技术利维坦

处于核心 心理医生 斯比勒系统是一个庞大的人工智能,它集聚了社会每个个体的心理测量数据。 与单一的超级计算机或单体程序不同,Sybil后来被揭示为由数百个非同寻常的人类大脑组成的集体意识。 这种怪异的曲折突出了系列的中心主题:即使是所谓的完美机器也必须最终与人类本性混乱、不合理的现实作斗争。 系统为每个人指派了一个共同意识。 心理医生——衡量其潜在犯罪——并强制执行以下理论: 预防、预防和预防被标注为潜在罪犯的人往往在他们犯下任何非法行为之前就被公共安全局的检查员和执行者逮捕或致命地消灭。

犯罪协同和先发制人的司法

电话 犯罪系数 这是一种由生物鉴别读数产生的指数,即心率、瞳孔扩张、声压模式和脑波活动,它可以量化一个人触犯法律的倾向。如果数字跨越了法律定义的危险区,那么实地官员部署的支配武器就自动决定适当的反应:非致命性瘫痪器或致命的消除器。没有审判、没有律师和上诉。系统的效率除了消除传统的暴力犯罪之外,还完全没有正义的概念。社会已经用一个不完美的人类判断过程来换取一个经测算法立即作出流化的判决。结果就是今天犯罪学家在研究时警告过什么是令人寒栗的肖像。 算法风险评估 类似COMPAS的累犯工具,它被证明在客观的表面下植入了种族和社会经济偏见(Propublica对机器偏倚的调查 报告强调了这些危险。

客观道德的幻想

瑟比尔的权威在于它公正、数据驱动,因此在道德上优于可谬误的人。 这种信念通过宣传、社会条件和统治者的真正威胁而得到积极的维持。 然而,系列揭示了这种技术专制主义的核心:道德不能被降低为一套可量化的投入。 通过去除人们的同情、考虑和背景理解能力,瑟比尔系统不仅使那些被它评判的人失去人性,而且剥夺了社会对道德推理的共同责任。 冲突的后果揭示了这种放弃是多么危险。 当系统本身被证明是不可谬误的,能够同时是虚假的正反派和蓄意操纵的 — — 人民没有道德词汇或体制框架来应对启示。 幻觉的破裂,社会契约也随之而产生。

人类-机器冲突:反抗算术统治的叛乱

人类与机器的冲突 心理医生 这场战争并非简单的肉肉战争。 这场战斗是通过其人物行为发动的哲学战,每个人物都代表着对道德体系化的不同反应。 探长阿坎·鹤森(Akane Tsunemori)努力调和她维护法律的责任与她日益认识到法律的不人道。 执行者小谷信也(Shinya Kogami)完全有缺陷,因为个人追求报复,而系统剥夺了他的权利。 而对抗者Shogo Makishima(Sybil的心理测量扫描独有的免疫力)成了一个试图通过揭露其矛盾来摧毁这个系统的恐怖主义哲学家。 通过这些数字,叙述力量们质疑一个剥夺个人道德选择权的制度是否能够真正公正。

机构代理人的关键字符

亚卡内·津莫里(Akane Tsunemori)的圆弧性可以说是最有启发性的。 她一开始是一个模范公民,其犯罪效率一直清晰,证明她内部化的遵守。 然而,当她亲眼目睹了体系的残酷性时,她并没有放弃;相反,她留在机构内,努力从内部改革。 她的决定反映了一种深刻的人文主义立场:法律不是不可接触的神,而是当法律变得不公正时可以和必须重塑的人类文物。 相比之下,Kogami体现了对这个可能性的否定。 他认为Sybil是无可挽回的腐败,选择个人复仇,而不是在曾经定义他的社会中生活。 Makishima是第三个极激进的解放主义者,认为真正的自由只能存在于所有控制系统的毁灭中,即使这意味着制造混乱。 这三个观点共同描绘出对算法治理的抵制,冲突的后果也显示了每个人如何给世界留下印记号。

哲学碰撞:定心论对自由意志

整个冲突背后有一个深刻的哲学问题:如果机器能够以接近完美准确的准确性预测你的未来行为,你是否仍然拥有自由意志?Sybil系统在人类心理学的决定性模式下有效运行,假设潜在的犯罪倾向可以被识别,个人没有有意义的能力偏离这一轨迹。这是一场非凡的道德赌博。它回响了古老的争论。 预定日期 财务报告和已审计财务报表 和谐主义,但随着当代的曲折:在现实世界的预测性治安和判决算法中,同样的预设被编码成决定人们命运的软件。 研究表明,预测性工具并不仅仅是预测犯罪 — — 它们创造了反馈循环,强化了它们声称衡量的规律(例如:在计算时,预测性工具的预设是用来衡量犯罪)的。预测治安中算法偏差分析人类机器冲突的后果 心理医生 戏剧化地描述当这种决定性逻辑被推向最终结局时会发生什么:一个已经忘记如何想象其他未来,或者如何宽恕的社会。

后宫:一个寻找灵魂的社团

系列及其随后的电影的高潮——包括 系统罪魁祸首 三部曲和 心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-3——描绘一个试图拼凑在一起的世界的复杂画面. 西比尔被暴露出来并不是一个完美无缺的神,而是一个自觉的、自觉的、错误的实体,开始承认自己的局限性. 后果对任何一方来说都不是干净的胜利,而是人类机构与技术监督之间一场混乱的、持续的谈判. 几个关键转变决定了这一时期.

机构评估和改革

最引人注目的发展是系统决定允许一定程度的人的监督。 Sybil将Akane Tsunemori带入其最内层 — — 不是作为无助的组成部分,而是作为反对能力的平等的参与者。 这一象征性的变化标志着从绝对算法权威转向更协作的模式。 尽管改革的结构仍然十分不完善,但承认任何系统都无法在道德上自给自足。 外部审计、不同的声音和保留人文审查现在都被认为是基本保障。 这反映了当代要求建立一种系统的呼声。 人间跳动 授权大赦国际作出从自主武器到司法判决的高度决策。

新社会运动的兴起

普通公民开始在基层恢复自主权。 冲突期间逃离城市的潜在罪犯的地下社区形成了自己的自治飞地。 这些团体完全拒绝Sybil体系的道德计算,而是选择了自愿的、社区正义。 这些系列并不使定居点变得浪漫 — — 他们充满了自己的危险 — — 但它们是全景学的切实替代。 它们表明即使在完全监视的世界中,人类的复原力也能挖掘出真正的自由空间。 随着中国社会信用实验和其他形式的算法治理的扩大如此虚构的抵抗言论提供了宝贵的想象力资源。

技术问责和共同妥协

后果还提出了以下概念: 技术问责 公共安全局已经重组,并建立了新的监督机制来防止滥用统治者权力。 最重要的是,Sybil系统本身开始将其自身的不透明视为一种责任而不是力量。 它开始为其决定辩护,至少是选择人类操作者。 这一走向可解释性的举措与欧盟《数据保护总条例》所载的原则相呼应,其中包括一项原则。 解释权 虽然系列从未完全解决安全与透明度之间的紧张关系,但它确实表明,治理的未来必须涉及动态平衡,而不是盲目地服从黑盒推理。

现实世界的反思:从心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理-心理

与《公约》的持久相关性 心理医生 在全球,政府和公司正在部署在结构与伦理方面都与Sybil框架相呼应的系统。 预知的治安算法、公共场所的情感识别软件和社会信用评分机制都基于同样的基础假设,即行为可以量化、预测和先发制人地管理。 系列中人机冲突的后果对那些建立这些现实世界系统的人来说是一个严谨的警告性叙事。

算术比喻与人类成本

两者中最清醒的教训之一 心理医生 刑事司法技术是 算法偏差社会才知道,只有出现裂缝时,这个系统才做出有严重缺陷的判断,即基于创伤、精神疾病甚至简单的异议引发的压力反应来针对人们。 现实世界的工具也表现出同样的倾向。COMPAS的累犯算法发现,黑被告被错误地标为高风险,其比例是白人被告的近两倍。 这些错误并不是错的;它们是在已经将结构不平等化的数据上培训机器学习模型的可预见结果。 如果不严格审计,不承诺公平,算法系统就会扩大他们声称要消除的不公正。

监视资本主义和侵犯隐私

执法之外, 心理医生 也预示着学者肖沙娜·祖博夫所说的崛起 监视资本主义社会系统不仅监测犯罪,它收获并传播了整个人口的心理数据,每一次情绪,每一次闪烁的怀疑,都成为经济和政治秩序的原料。 今天,我们的数字足迹同样被挖掘出来,以预测和操纵行为,往往没有有意义的同意。 系列的结局凸显出真正的复苏不仅需要体制改革,而且需要文化上重新确认隐私是一项基本权利。 当冲突后世界的公民开始加密自己的生物鉴别和形成离网社区时,他们的行为与现代关于数据收集的限度和退出普遍监测的权利的辩论有着深刻的共鸣。

持久教训和道德要求

从叙述弧中提取 心理医生但这些教训不仅仅是智力上的练习,而是已经形成的未来的生存战略。

关键监督的必要性

赤内·鹤森的旅程告诉我们,盲目服从自动化权威是暴行的良方。 无论系统有多先进,都必须受到持续、独立的监督。 这种监督必须被赋予权力,以阻止行动、要求透明,并倡导被机器困在其中的个人。 算法审计委员会检查长或公民审查小组的原则是一样的:人类必须保留对影响人类生活的决定的最终责任。 放弃这一义务就是让后裔进入Sybil最终不得不承认的道德真空。

在自动化系统中维护人类判断

系列中反复出现的动机是统治者即时判断与人类裁量权的道德力量的矛盾。 系列最终与后者是对立的,即使它承认人类判断有缺陷。 答案不是放弃技术,而是设计支持而不是取代道德推理的界面。 在从医学到刑事司法的领域中,研究表明当算法被作为审议而不是最终仲裁者的工具时,结果会改善,决策者仍然参与其工作的道德层面。 斯坦福百科全书关于人工智能伦理学的条目 提供了如何建立这种框架的出色概览。

以道德为核心设计技术

也许是最深刻的遗产 心理医生 道德评估、参与性设计过程和拒绝将效率视为最高价值都是必要的。 另一种选择是,世界,正如系列最黑暗的时刻一样,我们为保护我们而建立的工具成为了压迫的工具。

最终 从灰烬中崛起 这不仅是一个虚构的诗篇的副标题,它恰当地描述了当一个社会意识到它已经把太多的力量交给了它的机器时必须发生的事情。 心理医生 这场冲突使我们意识到复苏是可能的,但需要勇气、诚实和对人类生命的混乱和不可减少的价值的坚定承诺。 由于我们自己的世界正在走向更加一体化的算法治理形式,系列事件庄严地提醒我们,这种冲突的火焰并非不可避免 — — 它们是我们现在所作选择的产物,如果我们学会在为时已晚之前追究我们创造者的责任,它们就可以避免。