由於「Sibyl系統」, 掃描公民的心理狀態, 并指定犯罪合力的標準。 這個前提不只是一個陰謀的設計, 而是一個審查世界道德建構的邀請。 在文章中, 我們將探索這一系列的深層哲學現象, 將它們與數百年的道德困境和緊急的現代問題联系起来。

西比爾系統的哲學建構

了解什么是 的 精神- 精神- 精神- 精神- 精神- 精神- 精神- 精神- 精神- 精神- 精神- 精神- 精神- 精神。

從本塔姆到大數據:監控的進展

本特姆最初的Panopticon是建築性的; Foucault的解釋是社會政治性的。 Psycho-Pass 更新到數位時代, 收集到的資料是心理和情感的。 系統不僅觀察行動, 反而可以量化意向、心情和潛伏的犯罪。 這個由行為監控到认知監控的跳跃回應了現實世界對於預測治安和在执法中使用人工智慧的爭議。 例如, 某些司法體裁中用以決定保釋或判決的算法风险评估, 像是粗糙的Sibyl系統, 引起相同的道德問題。 如果机器學模型認為一個人有重犯的概率, 是否該先發判斷可以推翻其他司法考量? 動態化其后果: 在它的世界,高犯罪率單靠它就能觸動致命的武力, 是由一個自主系統做出決定。

更詳細地了解本塔姆在Panopticon上的哲學百科全書,

自由意志和預估算法的定義格言

自由意志的不滿是自由意志的隱瞞否定。 如果在任何行為發生之前, 一個人的未來犯罪可以被從精神中讀到, 那么人類機構就倒塌成一系列被預定的概率。 系列對觀眾來說是硬定型的: 個人不選擇成為罪犯; 生下來或被塑造成犯罪, 然后再被發現。 這個定型框架挑战了復原性公義的根本基础, 人們認為自己是罪惡的罪惡, 因為他們選擇了違法。 在西比爾的宇宙中, 懲罰就成了隔离而不是道德的训斥, 抹去了道德責任的概念。 MWPSB的偵探員, 和讀犯罪聯合力的道者們不是司法的代理人, 而是制定預定型算法的工具。

配合和為代理机构而作的奋斗

有些哲學家提出中間理由: 共性, 認為自由意志和定義主義可以共存, 只要我們正确定義自由。 依此看來, 即使西比爾讀到心理倾向, 一個人仍然有內心的意志, 直到行動時刻。 實也科加米(Shinya Kogami)等人物, 他離開MWPSB去追求自己的公道, 代表了共性叛亂。 他承認他過去的影響及其心理面貌, 但堅持要遵循自己的道德信念。 他的轨迹挑战了系統的全體觀, 暗示了人類的機構可能存在于預測與立法之間的空隙。 這張力反映了真實生活中關於基因先進的討論、 社会经济因素和犯罪行為的討論: 即使我們能辨明风险因素, 這是否消除了個人的責任? 很多法律系統都采取了细致的態度, 以不完全放棄責任概念而考慮減輕重情节, 以及 psycho-Pass[[FLT: 1] 完全把談弄得了。

更徹底探索自由意志論辯, 參見斯坦福哲学百科全書,

尤利塔尼亞的公理:最恐怖的數量

Sibyl系統的運作原理是一種與學說最極端的公式相對的功用微計。 由Jeremy Bentham和John Stuart Mill所傳統地宣稱的Utilitarianism 宣稱, 道德上正確的行動是使总体幸福最大化或痛苦最小化的。 在 Psycho-Pass [ 中, 系統的全體合法性在于宣稱, 少数先發式清除的潜在罪犯可以防止更嚴重的社会傷害, 从而最大化集体福利。 但這件冷的算術是由公务员所為之辯護, 指點出大幅降低犯罪率和秩序化的社会。 然而, 系列的規定會以顯示人的代价而來破壞這條理: 無辜的、因外傷而高的犯罪合力、告人認為對穩定的威胁以及毒害一切健康的社會關係。

特羅萊問題製造系統

種族主義者常透過特羅利問題來說明功利主義內的緊張: 一個逃跑的推車會造成五人死亡, 除非你把它引向一個會殺掉的人的軌道。 Sibyl 把它當做一個完整的治理模式。 它總是決定誰是被犧牲的人, 但這不光彩地做了, 沒有民主的審判或透明的标准。 系統的不易性是政治假象; 其下是系列中揭示的一個可怕的真理。 這種啟示功能是对任何技術官僚制度的评论, 以降低道德的複雜度, 以至量化的优化。 故事說, 一個纯粹的功利主義框架, 特别是當它被不透明的算法所實現時, 必然會產生深深的不公義, 破壞它自己的道德要求。

關於更深入地潛入這些困境的道德层面,請參考斯坦福百科全書對特羅萊問題的處理[,這把經典思想實驗和現代道德理論联系起来.

自動判決系統中的冷漠

一個更深的哲學方面是 [[FLT: 0]] 心理- Pass [[FLT: 1] 。 關乎那些將道德判斷外包給機器的人的心理變化。 檢察員和执行員們依靠主裁判的觀察, 認為是毫無疑問的生與死仲裁者。 隨著時間推移, 這項依赖使他們同情和道德推理的能力受到損壞。 扳機指頭抽搐不是來自個人的信念, 而是來自遵守數據指示。 這反映了世界對重要判決的自动化的關注。 當算法決定贷款批准、雇佣決定或監獄判時, 人體操作者可能放棄道德責任, 推向"客观" 機。 其后果是兩重點: 第一, 個人受傷害的人變成了數據點,而不是一個人;第二, 人體決者失去了道德審判的行為, 使他们在系統上串通的殘。

漢娜·阿倫特和西比爾世界的邪惡的封鎖

漢娜·阿倫特在阿道夫·艾希曼的審判中提出了"邪惡的封鎖"概念,他描述了普通人如何可以毫不疑問地遵循官僚程序而犯下暴行。在 Psycho-Pass[中,檢察官不把自己看成是行刑人;他們是科學上有效的程序的管理者。這與道德機構的分離被冷酷地刻畫。系統的设计确保了沒有一個人能感受到殺戮的全重。 總裁官的聲音宣告了判決,武器是自動的。 責任的傳播是系列批判的基石:一個使懲罰機化的社會,不仅會使公民的良心喪心,而且使道德反射幾乎不可能。

道德真理的技术确定

假象是道德自然主義的極端形式, 道德性能會降低到可衡量心理狀態。 道德性能會將壓力、侵略和潛伏的敵意等同於標準上的偏差與邪惡。 但這暴露了自然主義的谬論: 光是能衡量腦力狀態, 並不意味著"追求"能從中衍生出來。 動畫一再顯示出那些被標記為危險的人物, 無論他們道德上是否正直, 以及那些掩蓋自己惡心的人物。 道德性能反映的不是客观道德, 而是一個有利于本體本身穩定的建構。 這提醒觀者注意, 向任何科技投降道德判斷的危險, 不管有多進步。

機器中的鬼: 理智和道德

後來關於Sibyl系統的揭發物——它包括一個犯罪無常的腦子网络—— 引發了一個更令人不安的哲學層。 這些腦子被保留, 它們的意識被利用來做集体判斷。 這引發了合成或消解智能的道德考量。 如果系統本身是道德上令人厭惡的體體, 它由它會被批評的智囊组成, 那么它的判斷就缺乏任何道德合法性。 這扭曲了功能, 作為演戲性的矛盾, 使系列中整個道德框架不穩定。 也呼應了網路傳統, 尤其是Masamune Shirow的 [[FLT: 0]] Ghost, , 即人的思想和技术的集結使人們重新評論到哪些实体值得權利和道德認同。 在 Psycho-Pass中, 系統是法律的強化, 也違反了最基本道德的規則, 反對人類的用工具化。

個人對集体:誰承受道德負擔?

主角Akane Tsunemori是一位少有的檢察官, 她拒絕讓這個系統完全融入她的道德自主性。 她一再質疑即時處決, 試圖了解犯罪「高效益」背后的人。 她的態度將道德引入了一個以道德守法和功利計算為主的環境。 她不盲目遵循規則或最大化結果, 而是培植同情和實際智慧的美德, 尋找尊重人的尊严的替代方法。 她的發展表明, 沒有抵抗系統壓力的人,道德進步是不可能的。 因此, 系列論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論論

真實世界的共振:監控资本主义和預告性司法

科技公司收集行為資料以描述使用者、政府部署在公共空间的面部認證、以及預測分析, 以來為刑事司法決定提供線索。 中國的社會信用系統實驗可以量化公民的可信度, 而西方的民主主義則在反恐立法下討論大规模監控的道德。 動畫只是一個警示性故事:一旦打分人的靈魂的基础设施存在,它就可以重新用于控制而不是福利。虛構不是一個遥远的未來,而是一個夸大現象。 系列的现实意义在于它毫不妥协地描繪了追求绝对安全如何侵蚀安全所要保护的自由。

比較 Dystopian 远景:從1984 到 少数群体報告[]

其背景是研究監控、預判和技術的多數變種人, 喬治·奧威爾的[1984 給了我們電子屏幕和大哥, 但它的視線是粗糙的極權控制。 Philip K. Dick的 《少數人報》引入了犯罪前概念, 其中先天性變種人預言了謀殺案發生前的內部。 Psycho-Pass 混合了這些: 監控像奧威爾思想警察一樣是內部化的, 但預測机制是技術學, 像迪克的預測。 結果是一種獨特立的后人間阻塞, 道德既是一种掃描, 也永不易傳。 相對這些工作, 顯示了外部位觀察, 內部觀察, 標識到現代的監控的狀態。

對於「Dystopian」文學及其哲學意義的大致概述,

愛情的限度:一個系統能理解人類的苦難嗎?

一個最尖端的哲學批評嵌入了 Psycho-Pass[ 中,是任何量學系統的感知性限制,以掌握人質經驗。 主人公讀了精神通路、清晰、光彩,但這些是心理狀態的比喻,能抵擋數字的減少。 強暴受害者可能會被高犯罪率地記錄; 患有精神创伤的士兵可能被標榜為潛在威脅。 系統不能分別正義的憤怒、临床抑郁症和犯罪惡性, 因為它缺乏了解上下文、叙事和意義的母性能力。 這是對道德科學的持久夢想的深刻評價。 系列表明,任何通过科技建立完美公正的系統的試圖都將不可避免地失敗,因为它不能捕捉到最初引起道德考量的人類生命的微小結構。

叛逆是道德的必然

系列的確支持叛逆精神,但並非不可,而是對过度的侵犯的必要改正。 高加米的仇恨、島的毀滅性自由, 以及後來的抵抗都突出了一個消除異議可能性的道德制度已經是不道德的。 即使西比爾的計算完全准确,它垄断了司法是太過嚴厲的。 道德機構要求自由說不,反抗,從良心上做起,即使付出了巨大的个人代价。 這回應了存在之前的存在的存在的現象: 人通过自己的行為而不是一個預定的標籤來定义自己。 在 Psycho-Pass 中, 反叛行为本身就是對一個声称知道得更清楚的機器的人格的重申。 如此, 系列讓觀眾眾不以一個自在的解而以永存的道德挑戰:我們願意為安全而犧牲, 遵守會從何處變成合謀?

結論: 編织自有道德的布料

斯比多(FLT:0) 的 心理- Pass [ 遠不止是一種嚴酷的犯罪刺激器,而是一種對道德未來的延伸的哲學冥想。 由於編組監控理論、功利主義、定義主義和技术道德, 系列迫使我們面對我們所設計的系統反映我們道德選擇的不適合的真相 — — 而那些選擇在被置之不理時會變得可怕。 随着人工智能和大數據日益嵌入日常治理之中, 西比爾系統提出的问题需要具体的答案。 我們會把預測演算法當作支持人類智慧的咨詢工具, 還是會授予他們致命的權柄? 答案不在于科技的能力,而是我們集体的意愿,以保持不完美但最终是人性的道德評論。 社會的構體不是由機器組成的;它每天都由人組成,而是由選擇什么可以容忍、質疑問和抵抗。

讀讀電子邊界基金會的監控與公民自由資源,