烏羅布奇的網路化動畫 Psycho-Pass 构建了一個令人寒冷的、令人信服的未來, 安全與控制之間的分界溶解成一個全能的數位權威。 在這個世界的中心, 一個巨大的網路, 一個不停地測量每個公民的心理氣息, 并指定量化的「犯罪合力」 , 在他們行動前先找出潛伏的罪犯。 系列使用此前提不只是一個陰謀裝置, 而是一個社會把公義的定義交給一個機器的持久哲學審問。 在研究了在 Psycho-Pass 中, 我們探索了不仅执行秩序的工具,而且探索了在算法被委以來判斷人靈魂時产生的矛盾、道德破壞和人體代價。

西比爾系統:建築、衡量和判斷

斯比爾系統通常被描述為生物學泛光學,但標籤的精密度卻被其遮蓋。 西比爾將实时腦波掃瞄、情感模式分析、基因標記和环境數據整合成一個动态的、有色碼的讀物,叫做心理-Pass。 公民通过無處不在的街道掃描器、個人設備、甚至穿戴的衣服,被監控,這些衣服將心理測量數據傳入斯比爾的中央處理中心。 该系统最著名的衡量尺度是犯罪系数,它從數量上反映了一個人犯罪的可能性,而不是從過去的行為中,而是從他們心智狀態中感受到的潜在壓力、敌意或偏見。

三個核心元件定義了Sibyl的運作邏輯:

  • 人們的心靈清晰度是一股模糊的光谱,其中的雲彩色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色色
  • 犯罪效率 : 一個实时索引,它決定了執行反應的高度。 系数低于100通常表示精神狀態健康。 以上值引發了從心理咨询到非致命的鎮壓到立即致命的消滅等的升級措施。
  • 斯比爾不需要理解一個人的動機; 它只是把他們的靈感「聲音」量化,

該体系的判斷是绝对的。 没有一个法庭、沒有无罪推定,以及人對高犯罪率的协同是否與实际意图相關的審判。 “罪犯”概念本身 — — 尚未触犯任何法律,但其精神模式表明其會如此的)就成了永久的社会身份。 这些人一旦被打上烙印,要么被隔离治疗,要么被“主動者”终止,如果其系数仍然危险地升高。 西比爾的建構因此把監控、心理健康诊断和行政处罚整合成一個单一的、不可上诉的程序。

總裁與技術專家

假設的虛構史上最能体现判斷和處決的都是主動機。 掌權機是發給公安局刑事調查部的外勤特工的,它是一個直接和Sibyl相連的手槍裝置,并根据其目標的"犯罪效率"而承担不同的射擊模式。 武器界面顯示了活性精神-Pass分析,其语音合成器宣布了授权的行動 — — “非致命的帕拉利策 ” 、 “ 致命的消滅者 ” , 或者在少數情况下,是完全消除目標有机物的“解毒器 ” 。

總裁不只是一個武器;是法官、陪審團和行刑者被壓制成一個手持式終端。 探員或執行者未经西比爾同意不能扣動扳機。 如果目標的"犯罪系数"未達致命武力的门槛,扳機鎖就會被扣。 這個設計移除了人體特工的道德决策,完全轉而到系統的算法評估。 儘管這理论上可以阻止警察因人性的偏見而發動的暴行,但這也會把道德機構的執行者剥离,把他們變成西比爾意志的机械延伸。

支持統治者是無所不在的監控基础设施:全街全息攝影機、巡邏室内環境的微型地盤以及公民自愿使用的公共终端。 甚至一個居民的照明氣息也根据他們的心理-Pass狀態而調整。 科技造就了一個無缝的實施生态系统,公共空间既充当保護者又充当告密者,而地面的特工只是一個已經知道羊群可能會失誤的系統的牧羊人。

心理學社會的道德困境

人們會覺得這只是一個問題, 包括「精神」、「精神」、「精神」、「精神」、「精神」、「精神」、「精神」、「精神」、「精神」、「精神」、「精神」、「精神」、「精神」、「精神」、「精神」等,

一個相关的困境是重新定义犯罪本身。 在西比爾,犯罪不再是一种行為,而是一种状态。犯罪合力法官的潜力而不是行為。這反轉是对基本法律原則的挑戰,如actus reus(犯罪行為)和无罪推定。 在西比爾的日本,一個沒有犯罪的人只能因為算法預言而被监禁或殺人。 系列强调的就是像舒賽·卡加里(Shushei Kagari)这样的人物的悲惨后果,他五歲時被標為潛在罪犯,早于任何不義行為之前,而且他一生都生活在机构控制之下。

自由意志與自由意志的衝突也深陷其中。 如果人的行为能先發制人地由腦波和壓力激素分析來描述,那么選擇的概念就成了幻覺。 西比爾的存在本身就意味著自由意志是令人安慰的神話。 然而,系列中反复顯示了那些違背犯罪效讀法的人物 — — 犯罪而不蒙蔽其心臟,或者那些不顾可怕意图而保持清醒精神的人物。 這種反常现象,後來由系統本身的隱蔽构成來解釋,暴露了算法定律的脆弱性,重新顯出人類意志的不可预测性。

強制者的不適合角色增加了另一層。 強制者本身是潜在的罪犯,被公共安全局用于追捕其他潜在的罪犯,因为他们的精神狀態更符合悖逆。他們既是國家的代理人,也是其受害者,他們被剥夺了基本權利,卻被期望來實施一個制度來懲罰他們。這能反映被強制到為壓迫性结构的被排斥群体的历史模式,請觀眾在一個技术制度把整個人區归类為永久危險時,考慮人的代价。

公開接受、恐懼和監控的正常化

該系列最微妙的成就之一是描绘了人民如何接受 — — 甚至渴望 — — 一個無所不在的安全机构。 表面上,西比爾传达了許多现实世界政府所承諾的:犯罪率非常低,以及人們在任何時刻都感到安全走上街頭的社會。 公民們的心靈清晰得到了提升、社會威望以及享受治疗艺术和娱乐的回报。 这一积极的强化為制度创造了一個强大的支持者,很多居民認為西比爾的批判是鲁莽的忘恩負道。

但這張畫面之下,焦慮沉浸。 保持清醒的心理-精神體系需要的自我監控,這成了一種心理勞動。人們平息憤怒、悲傷和異議,害怕一瞬間的情感动荡會玷污他們的氣氛。這一系列畫面顯示了那些服飾虛擬現實或處方鎮靜劑的人,以平靜其影響力,基本上以真正的情感存在換取安全。這靜靜的絕望暴露了一個不僅將安全,而且情感调控外包到外部算法的社會。

反抗運動確實存在,尽管他們被稱為危險的精神變態者,而高犯罪率的合力者也證明了他們被定罪的意義 — — 一個將西比爾的權力永久化的循环邏輯。 反對此系統的少数人,如魅力的對手馬島翔夫,在生物上是無法被西比爾批判的,因为他们的犯罪意图并沒有遮掩他們的惡意。 它們的存在成了一個哲学危机,對一個把精神健全和義義義相當的政权來說,它就代表了任何技术官僚公共安全系統的关键弱点:它只能控制那些它能衡量的人,而那些不在它參數內的人既會變成隱形又不可控制的。

科技作為雙刃劍:防控

文中,西比爾先發制人的司法模式似乎成了理性治理的最高端。 预防犯罪的資源被高效分配,暴力事件在升级前就被制止,而且人警的主观偏見被稱為被消除。 然而,系列作品卻一直表明,可以重新設計用于控制目的的相同工具。 安全與壓迫的界限並沒有固定;它會隨誰在系統內定下门槛而轉動。

斯比爾最有可能被虐待的原因在于其不透明度。 公民不了解犯罪系数是如何计算的,也无权质疑其评估。 算法是黑匣子,而正如第一季高潮所揭示的,系统本身是由一些曾经被视为无症状但具有高度社交操縱能力的个体组成的网络大脑组成的。 换句话说,公共安全的最终权威是一群社会变态思想,而系统由于从未被登记为威胁而不能消除。 这一启示重新塑造了Sibyl-en-deceformed 的每一件行为,以取代系统声称要根除的非常犯罪病理的部署。

科技的部署也重塑了社會關係。 公民之间的信任因任何人可能告發他人的陰霾而消逝。 鄰居不是出于恶意,而是因對系統的反射性責任而成為線人。 社會結構不是靠安全而加强,而是靠警惕而變得不易。 系列迫使觀眾問:完全安全的代价是否是信任的消滅、親密和情感的真實性, 交易是否真的值得?

泛光通、生物力量、西比爾的哲學根

斯比爾系統用字面化了泛光學原理 — — 少数观看者 — — , 卻完全用人觀察者來反射它。 相反,人們把算法的目光內化,不停地自我调节,以保持可接受的地帶。 結果就是像福考爾描述的多管机构社會,其權力的運作方式不是過份暴力,而是通过自審,而是由那些知道自己永遠可能被審判的人。

生物力量 — — 国家通过管理生命、健康和身体的技术对人口进行调控 — — 在西比爾以數位形式存在。 系統不僅懲罰罪犯,它管理全公民的心理生活,把集体精神-心理-心理的改善像公共卫生的衡量标准一樣。 治疗、藝術、甚至营养都被校正以保持心理正常化。 这种促进人类繁荣的有益方法取代了伦理的考量,而统计健康是一種與現代健康感應的不適合。

政治哲學家 基奧·阿甘本[的「例外狀態”概念也見于系列。 潜在的罪犯是西比爾政权的同性戀者(Homo Sacer ) , 一個被排除了法律保护而被束之以肘為工具的人物。 執行者存在于法律保護内外的永久法律灰色區。 通过這些理論透镜分析西比爾系統,[ Psycho-Pass 把自己從警察程序提升到對現代王權性质的持續冥想。

真實世界平行:預期性治安和監控資本主義

假設性科技 Psycho-Pass[ 似乎很神奇,但其核心机制的對應性日益显著。 洛杉磯和芝加哥等城市的执法机构使用的預測性治安算法分析歷史犯罪數據,以預測未來可能發生犯罪的地方和可能实施犯罪的人。 這些系統被广泛批評[ , 以强化訓練數據中存在的种族和经济偏見,有效地將社群定罪而不是防止傷害。 該節節目的預告在沒有人監督的情況下,越來越來越迫切,當各司法體試用风险评估工具來導導釋、假和判決。

中國的社會信用系統[,是把金融歷史、社會行為和政治守法整合成一個可信任分數的無數倡议,它把西比爾合成了不同的數據流,成為了一個统一的判斷尺度。 尽管中國的系統仍然比西比爾分離,而且其目標是量化和獎勵公民品,同时懲罰偏差的偏差,以同樣的技術理想為目的。 兩項計劃都建立在以下的假設之上:總的知名度能導致全體安全,而且兩者都低估了這些系統被那些有資源的人操控數或精神錯誤以逃避偵測的方式。

私人企業通过情感分析、聲音壓力測試、以及易穿戴的生物學工具收集情感資料,而這些工具通常都是健康或生产率工具。 治療監控和強制正常化之間的分界比以往更窄。 當一家公司部署情緒追蹤軟體以估計員的「投入」和預測轉換時,它會進行更溫和但结构相似的心理-帕斯掃瞄。 系列是當精神學量化在沒有相应的道德防護器的情况下快速進展的世界的警示鏡。

精神病痛的教訓:在自動未來中保障人性

普西喬-帕斯的持久力量不是它的預言,而是它的挑戰。 它迫使觀眾面對一個不適合的問題:如果我們能完全准确地防止犯罪,我們是否愿意犧牲不完善、效率低下和常常不公正的法學机构來換取算法的确定性? 系列答案是十分小心的。 即使是像西比爾這樣心懷善意的系统,真正减少暴力犯罪,只要它從它的臣民中移除了責任和尊嚴,它也能成為一個深刻的壓迫工具。

任何將來AI融入公共安全的情況都必须以透明、可爭性和人的监督為重。 公民必須有權理解和質疑用以判斷他們的衡量尺度,任何算法都不可能在生命和死亡问题上有最后的发言权,而人性審查程序包括強烈的道德考量。 此外,這些制度的设计者必须考慮到,对社会最危險的人往往是最容易通過考驗的人 — — 即那些有魅力、有智慧、無污點的瘋子,他們操縱規矩而不是打破規矩。

保持精神状态不受管制的空间同样重要。 不受算法性处罚的憤怒、悲傷和異議是自由社會的基础。 一個每一個緊張的抽搐和皮质溶液突顯都受到監控的世界 — — 可能會受到懲罰 — — 可能安全,但這不是人性的。 心理-Pass [ 提醒我們,公道不是一個数据集,而混亂、模糊和常常令人厭倦的人類判斷过程具有道德重點,任何機器都無法复制。 当我们站在把AI更深入地嵌入公民基础设施的關鍵上時,西比爾系統仍然是一個令人著迷的思試驗和一個嚴峻的警告:一個在現時衡量靈魂的社會可能最终會忘記靈魂的价值。