動畫系列 心理- Pass 构建了一個近乎未來的日本, 由一個無所不在的生物測試系統來統治, 掃描公民的精神狀態, 并指派一個數位的「心理- Pass」 分數來表示他們犯罪行為的倾向。 表面上, 西比爾系統承諾了一個和平社會, 藉由在現代道德辯論前消除威脅。 故事的正面, 系统地拆除了這些先發制人治的道德假設。 由於把执法人员置于一個能讀取心而不是心的算法的支配之下, 系列強迫於觀察者在一個技术饱和的世界裡面對不適合的關於公正、機構和道德的問題。 這篇文章研究了 心理- Ps 的科菲元素, 透過現代道德辯的视角, 哲學、犯罪學和真實世界的平行技术的平行, 說明為什麼顯示了我們時代的現代代代代的現代的現代代的

西比爾系統和犯罪前科的建構

以 的 Psycho-Pass 為中心。 這種系統是Sibyl系統, 一個巨大的街線掃瞄器、穿戴感應器和深學算法, 它們能繼續衡量一個人精神-情感狀態的“ 重 ” 。 如果公民的讀數跨越預定的门槛, 它們就被定为潜在的罪犯。 这一分类可以讓公安局所代表的执法者拘留, 或極度情况下, 使用一個主控者( 改造手槍) , 只有在目標的犯罪协同性通過致命基准時才能射擊。 系統由此來拼寫出在菲利普·K. 中著名的犯罪前犯罪概念。 迪克的 的《 愚人報告》 中, 但增加了心理层面: 犯罪不是在預想中看到的未來的事件; 其內在目前是可以估計可衡量的潛力。

犯罪前的道德問題有三重。 首先, 系統會打破思想與行為的分別。 在西比爾, 人們不因自己所做的而受懲罰, 而是因算法的預言而受懲罰。 第三, 西比爾系統不透明地运作, 內部工作被保密, 連檢查員也不完全了解如何做出判決。 公民不能對他們的心理- Pass 提出訴求, 也不能對分數背后的邏輯提出质疑。 缺乏问责制反映了對刑事司法中所使用的專利风险评估算法的真正关切, 被告在其中不透過象 ComPAS 機關 的問題 : 透過 : 機關 。 [ ProPAPA ] 。

監控、隱私和泛光效应

一個被禁閉的國家。 每個公共空间都由讀取生物訊號的心臟掃瞄器監控; 個人裝置甚至藝術品可以將心理資料轉回中央檔案。 常見的能見度創造了現代泛光學, 令人想起Michel Foucault修改Jeremy Bentham的監獄設計, 囚犯們將觀察的可能性內化, 也因此規定了自己的行為。 在系列中, 公民學著抑制情感, 避免壓力的刺激、書本、音樂、關係, 避免他們被遮掩的雲所覆盖。 這情感自我政治是監控狀態的最终勝利: 不再需要物理干预; 只需訓練人們成為有魅力的對象。

失去隱私不為人知所動, 也就是道德發展的前提。 當精神學的每一次波动都被量化和曝光, 個人就失去了培育同情、悔恨或個人增長所需的空间。 系列回應了愛德華·斯諾登所揭示的與政府大眾監控相關的現代爭議, 以及科技公司所行的商業數據威望。 在智慧裝置不断收獲情感資料的世界中, 公、私之間的線模糊不清。 A 美国公民自由聯盟的報告 ) 强调了從面部認知到情感解析相機等廣泛性的監控科技如何可以像精神-社會一樣冷卻言語和集合。

定義對自由意志:哲學核心

斯比爾系統的存在本身就意味著一種人行為的定決模型 — 即思想、情感和行动是神经和心理投入的可預測的產物。 展覽通過主角阿卡內·津森(Akane Tsunemori)來推动,他一再做出超出西比爾預言的傳遞的選擇。她獨立判斷的能力,即以共識而不是統計概率來行事,就成了決定控制力的活的對話。

這種緊張的印象可以標示一個百年的哲學裂痕。 硬定者認為,所有事件,包括人的决定,都是由先前的國家因果而決定的; 如果西比爾可以取得人腦和环境的完整信息,那么它的預言將是無懈可擊的。 自由者們認為,量子层面的不決定或非物质意识都允許真正的選擇。 共識者們追求的是中場, 強定如果某種行为是自願和審判, 即使這些愿望是自己決定的, 自由意志是有意义的。 西比爾制度抹去中場: 犯罪合力者會取代一個人的推理, 并強硬定外部標籤。 对于一個共和者, 感到憤怒而選擇不暴力的行為自由行為的人; 西比爾只認為憤怒,並判它是一種潜在的威脅。 由此,這系列成為一個有力的解釋,為什麼背景、意向和第二階次反省是道德判的不可或缺的。

后期罪犯是道德悖論

潛伏罪犯的身影代表了西比爾系統的核心道德悖論。 這些人被法律批判為一種態度, 然而很多人仍保留著明确的對與對的感覺, 并积极對抗自己所衡量的衝動。 系列問道 : 一個有暴力思想的人, 但從道德上看, 卻不跟罪犯一樣做。 系統通過懲罰內在國家, 破壞了道德沙漠的原則 — — 人們只因自己自由选择的行為而應受責備。 在這樣做的時候, [ , psycho-Pass , 利用了神經學研究, 顯示我們都充斥著侵略性或反社會衝動; 守法公民的区别在于行使抑制性控制,而不是沒有衝動。 西比爾邏輯忽略了這關鍵的微微小的觀, 將一切悖常視為犯罪。

數理比亞斯和對客观的幻想

Sibyl 把自己看成一個純科學、公正的仲裁者, [[FLT: 0]] psycho-Pass [[FLT: 1] ) 潛在暴露了它所判斷的偏見。 這個系統是用數學语言來訓練的, 以數據來反映社會的價值和偏見。 低社会经济階層或那些有非常规生活方式的人, 常常會觸發犯罪率更高的人造物, 原因不是它們本身就很危險, 而是它們的心理特征偏离了一個人造的规范。 這一系列的說法表明, 算法中穿著中性的文化建構。 這反映了現世對人工智能系統的批判, 它們在算法客观的幌子下重現不平等。

在警力方面,PredPol等預測工具被批評為:在犯罪報告较高的地方過度地巡邏,這又反映了歷史性的色彩族群過度的警察化, 造成回應圈, 使偏見更加固化。 A RAND Corporation研究預測警力[[ 發現, 沒有精心設計,這些系統可以放大而不是修正人類的偏見。 相类似地, Sibyl 的 依赖 心理總體數 表示, 那些表示壓力、焦慮或憤怒的人, 更可能會在边缘化的人群中被加強化, 因而受到懲罰。 系列由此預測到當代人對公平、问责制和算法透明所持的關注, 提醒我們黑盒AI 和編程的人一樣, 其目的不比不上是更客观的。

技術道德判斷的非人性化效果

重複的機械道德使思維和人性道德的理性在那些依靠西比爾系統的人中被削弱。 執行者和檢查者被教會去相信統治者的判斷;如果武器不部署,目標就不是真正的威脅。這項機械道德使思維、权衡背景、感受取人性命的重點的必要性被抹去。 結果就是那些感情疏離的執行者以及努力把直覺的公正感和系統的冷酷法令相协调的檢查者們的團隊。 系列的教訓表明,把道德決定外包給技术並非使那些決定容易,它只是把道德負擔任到一個不易感的機構上,常常會帶來灾难性的后果。

社會的不人性化超越了執法。 公民內化了同樣的理論,避免幫助那些陷入困境的人,因為害怕靠近被騷擾的人會蒙蔽自己的心理-心理。 同情心變成了責任;团结,是统计上的風險。這冷酷的社会動力反映了心理學家謝里·特克爾的觀察,他寫道科技如何削弱面面面同情和道德勇氣的能力。 在一個旁觀者可以在決定介入之前掃描受害者的威胁程度的世界中,共體責任的結構就破裂了。 節目警告說,一個通过算法監控來优化安全性的社会有可能失去讓安全更有意义的人性質。

真實世界平行:從動畫到預測分析

美國的「恐怖份子」(FLT:0)的虛構,在現代的執法做法中發現了不可思議的回應。 全世界一些警察局都試圖建立預測分析平台,為个人或地方分配风险分數。 例如芝加哥的策略性人物列表用算法來分辨公民可能參與槍擊的機率, 不管是受害者還是罪犯。 系統的運作原理和Sibyl相似:分析逮捕記錄、社交網路聯系和其他資料,試圖預測未來的危險。 A Chicago Tribune調查( ) 顯示,這份列表存在嚴重的精度問題,且不相称的黑居民,与當局裡的偏見相呼应。

更何况,生物學監控整合到公共空间已經不再是空港和邊境交界處的情感認知攝像頭,試圖衡量旅行者的意图;健康監控應用程式可以從語言模式和智能手機的使用中推測出精神狀態。 這些科技常常是公共福利的工具,具有相同的內在風險,可以把精細的人類經驗變成簡單的風險測量。 ] Psycho-Pass[ 仍然具有相关性,正因為它把已經在運作的潮流的逻辑結點:一個以完美的安全假象來換私人的社會,以及以安裝機械的道德機械。

安全的代价:平衡秩序和自主

社會安全與個人自主是一種重點。 Sibyl系統支持者認為, 已經消除暴力犯罪, 帶來了前所未有的和平時代。 系列從來不否認22世紀的東京比20世紀的對手更加安全。 但這項問題是:付出了什麼代价? 付出的代价是放棄個人自由、隱私被削弱、任何不適合於統計模具的人被边缘化以及道德機構被空虛。 自由政治哲學的演講認為, 以滅絕自由保障安全的国家不只是一個州,而是一個用公共卫生语言裝扮的高科技暴政。

這種平衡不僅是抽象的,它浮現在每一個關于監控立法、數據保留權和反恐措施的爭論中。 以防止罕见的灾难性事件為名的大型數據收集的功用微計反映了西比爾先發制人的邏輯。 心理-帕斯 說明了纯粹的功用主義,不受尊重人等道德原理的驱使,可以為可怕的違法作證。 系列的精巧反派,尤其是Shogo Makishima,是以秩序之名扼殺個人的產品。 一個犯罪性超常態的人,而西比爾卻不能讀到,他卻提出了一個極端的挑戰:如果一個制度只能對那些它能衡量那些生活在其範圍之外的人,那會怎樣呢? 由此表明,即使他們和總體福利相冲突,尊重权利的多元道德框架的支持者們也因此是這個。

将道德嵌入技術設計:從] 心理-Pass[ 中學到的教訓.

如果]Psycho-Pass [ 作為警示故事,它也為設計者、决策者和公民提供了建设性的洞察力。第一,透明度是不可商榷的。Sibyl的恐怖部分源于其不透明;使用者和主体都一樣,不知道如何做出判斷。在現實世界中,可解釋的AI和算法影響性評估必須成為標準的实践。第二,人的监督和有意义的上诉權必須建在任何影響基本權利的决策系統中。Akane的弧度表明,當一個自願的人被授予了質疑和推翻算法結果的自由時,公理就更好。第三,為價值定數的优化系統必須被檢查。Sibyl优化的數值是常理,而不是公理;類似,把效率放在公平之上的重於重的重的重犯預測工具將不平等根深厚。

道德審查委員會、各種發展团队以及公開對話,是防止Psycho-Pass[所描繪的技術官僚式的障礙所必不可少的。 随着我們把人工智能更深入地融入刑事司法、保健和教育,我們必須抵制放棄對機器道德責任的誘惑。 科技應該是放大人心的一種工具,而不是使其过时的替代物。 科技系列最终重申了混亂、可谬误但最终是人性道德考量的不可替代价值 — — 随着我們的工具變得聰明,這信息越來越大。

結 论

幻覺的幻覺不僅是一種黑暗的網路驚悚。它只是一種對社會用量化的人類靈魂來設計犯罪時所發生的持久哲學性的審問。這一系列的描繪暴露了先發制人公道的危險、隱私和道德機構的削弱以及客观算法判断的幻覺。幻覺不是遥远的科幻;而是在預測的治安、情感監控和數據導動治理中夸大了真正的科技潮流。 利用這些主題, Psycho-Pass 向觀眾觀眾挑战,要求他們去考察自己在日益為安全而自由交易的文化中的共犯。這一系列的公義社會的真正措施不能被降低到數位。它要求人类自覺地运用智慧、共識和道德勇氣。