很少數的投机小說作品能分辨出科技進步、公共安全和个人自由之間的緊張性, 和動畫系列一樣尖锐。 建立在未來的日本, 一個巨大的AI網路可以測量每個公民的精神和情感穩定度, 一個的世界。 psycho-Pass 提供了不止一個抓著犯罪驚悚器的功能, 它提供了一個監控驱动的、算法定律化的社会的精密蓝图。 這種由臭名昭著的Sibyl系統到占卜武器的力量, 不只是幻想; 它們回應了現代人工智能、大數據分析、神經心理學和預測治安方面的研究。 在這個深度潛水中, 我們將分解出 所想像的科技內在內部的工作, 檢查其道德分量, 并勾勒定出已成形的真實世界系統的線。

了解西比爾系統: 迪斯托普亞司法機構

以「Sibyl系統」為中心, 網路智慧常掃描人們的心理狀態與潛伏犯罪。 和传统的對犯罪後的反應法律框架不同, Sibyl系統旨在先發制人地伸张正义, 识别和解除任何不法行為前的威胁。 系統給每個公民分配了 Psycho-Pass[ , 一個色彩代碼的表示其心理安康與壓力程度的表示。 明顯的發音是健康的思想, 而陰暗的加深表明潜在的危險。 當一個人的 犯罪合力 —— 由精神狀態得出的數值超越了预定的门槛值, 系統授权采取执法行动, 通常是通过公安局的官員使用終極端槍。

心理-心理-心理分數:综合精神指数

心理-心理分數不是一項生物學觀測,而是從连续數據流中計算的一個综合量子。在系列中,生物掃瞄器融入了城市基础设施 — — 街道燈光、公共展示,甚至個人設備 — — 測量心率、呼吸、聲音壓力模式、瞳孔放大和腦波活動。這項生理數據與行為紀錄、社交互动、就业歷史和線上活動相對對照。精密的AI會把這些訊息轉換成心理-情感剖面,應該能預測出異常行為的概率。 得分高的市民面临工作歧視、社會排斥、以及最终的禁閉或消滅,有效的建立基于算法性心理健康評論的种姓制度。

犯罪系数和占領者

犯罪系数是Sibyl系統分析的可操作的輸出。 當一個檢察員或執行員指向一個主體時, 武器無線地向Sibyl網路询问, 接收了即時的心理- Pass 資料, 并計算了一個系数。 如果值低于 100 , 其功能仍被鎖定在瘫痪模式中, 一般是非致命的。 100 到 300 的系数會使用致命的消除器模式, 超級讀取可以觸發高功率的摧毀器, 完全使目標蒸發。 這個即時, AI介紹的判決可以免除審判、 陪審判和辯判, 減低公理為一秒感應讀。 指令本身是絕對算法權的象征, 它的功能完全依赖于Sibyl系統的連接, 提醒我們, 沒有中央AI, 這種執行鏈的任何部分都無法運作。

系統背后的科技支柱

建立一個可以衡量和判斷每一個衝動的社會, [[FLT: 0]] psycho- Pass [[[FLT: 1]] 編织了几种先进的科技。 系列展示的是它們的整體無缝, 但解開每層都顯示了每一組件今天的價值。

人工智能和機器學習

Sibyl系統是分布式AI,它可能建在一個能同步處理數百萬公民的無結構的數據的深層神经網路架构上。它從歷史犯罪數據、行為模式和校正結果中學習,完善了它的預測模型。與目前業務中使用的狭义AI不同,Sibyl AI顯示了一種集体意識的形狀 — — 一個在系列後期揭示的事實。但是,從功能角度看,它的預測能力核心反射了現代機械學:從高维生物學和行為學數據中提取特征,分類為風險,以及適應的定限。 系統的權力是絕對的,因为它的建立者更信任模型的精度,而不是人類的判斷。

大量數據聚合和生物測量感應

掃描裝置是全息性。 公民在街上走下、进入建筑物甚至在家放松時被掃描。 這種基础设施令人想起了每一個感應器都提供集中寄存器的《物联网》。 系統收集的不只是生理訊息,而且有通信、語音和社交網路分析的文字。 真實世界的大數據計畫,例如社交媒體平台的情感分析,已經集成了相似但侵犯性较小的數據。 不同的是,西比爾系統有能力把這些流子整合到一個连贯的、逐時而移的心理狀態評估中。 如今,有影響性的計算學群體才開始探索。

即時分析神经心理

實驗學學學家們利用了神經心理模型來測量犯罪意图,而這些模型將腦部活動和壓力生物標記器的具体模式和反社會行為联系起来。 在演講中,囊體掃描(一种可以視覺到腦波模式的虛構技术)和其他神經成像技术都為這些模型提供了素材。 在我們的世界中,研究者們用功能性核磁共振和EEG來研究強迫性、精神变态和攻擊的關聯,尽管從關聯研究到個人犯罪預測的跨越在科學和道德上仍然站不住腳。 然而,系列的演講假設了一個成熟的神經信息學学科,其中一个人的精神“丘”可以用临床精確度來測量,使系統可以實現其所認為的健康心理规范。

支配者武器:你手中的致命判決

總管不只是武器,而是西比爾系統的實際延伸。 其設計只能由已注册的人使用,并鎖在生物學上。 總管視覺轉變, 依據目標的「犯罪聯合器」。 指向低風險的个体時, 它仍然处于安全、不可部署的狀態。 它對高聯合的目標轉變成強制的、几乎是有机的, 準備投放致命武力。 這有兩重目的: 它讓公众放心, 武器只對真正的威脅作戰, 并在心理上威脅那些被認為是異常的人。 武器對活網聯系的依赖也表明完全集中的安全機構的脆弱性; 干扰或黑客訊號會使所有總管變得無動。

道德考量和社会控制

西比爾系統的機制提出了一連串的道德問題,遠超了系列的情节。 将道德判斷嵌入機器, 心理-Pass[ 迫使我們去考察公理的根基。

失去自由意志和定義的失敗

演員們的演員們都認為, 演員們的演員們的演員是「有權」, 以及「有權」的演員。 如果AI能預測自己是否會以精神狀態來犯罪,你是否仍可以選擇不同的演員? 演員的世界是一種定義模式,其中潛伏的犯罪是客观的、可衡量的特点。 在現實中,人類的行為是由環境、生物和自覺的選擇的複雜的相互作用塑造的,而且沒有算法可以說是完美的預測。 道德危險在于把預測的分數當作不可避免的命運, 剥夺個人在被懲罰前的改造機會。 這種制度侵蚀了 actus reus 的原則,而不是用前犯罪行為來形容,而代之以Phil Plip K 中著名的「 少数派報告 》 。

私隐侵蚀和泛光學社團

人們必須對所有公民保持一個精確的心理-Pass。 在的Psycho-Pass世界中,甚至個人的情感都是公開的記錄。 全面監控超越了今天的CCTV網路和線上追蹤,以渗透到人類最親密的經驗。 建筑代表了全景狀態的終結,只要有人看到它,就能改變行為,然而公民卻開始接受,甚至欢迎它入侵,以换取表面的安全。 節目的描繪预示了常數學的正常化,尤其是政府推出國家生物特征识别系統和社交媒體巨頭收獲有目的的廣告的情感資料。

假正數和系統偏差

任何預測系統都不可能被錯過。 Sibyl系統在動力系統中的記錄顯示, 極度壓力、外傷甚至正義憤怒下的人可以形成云雲和犯罪率高高的合力, 导致不法處決或強制治療。 這凸显出假陽性問題, 在現實世界的對應中,這可能會對已過於警察的边缘化人群造成過大傷害。 Bias 可能會爬入訓練資料中 — 如果歷史犯罪資料反映了社會不平等, 模型會以科學中立的幌子使他們永久存在。 [ Psycho-Pass [ 不會避開:系統本身後被揭穿的是犯罪性無常的腦,這會暴露出它所謂的客观判斷中固有的虛偽。

真實世界平行:從虛構到新兴科技

設計的构件在全球已經以不同形式出現。

預測式的警示數據

許多國家的執法機構都采用了預測性警力軟體,分析歷史犯罪資料,以預測犯罪可能發生的地点和時間。 PredPol(現為Geolitica)等系統利用機器學習,為地理位置分配風險分數,導導導巡邏部署[(RAND Corporation report on preventive maination)。 雖然這些工具侧重于地方而不是单个精神狀態,但他們都分享了Sibyl系統在先發制人资源分配方面的核心邏輯。 批判者認為,這些工具可以强化种族貌化和對少数族群的過份政策,直接反映了該小體世界的偏見。

社會信用制度和行為分類

中國的社会信用系統計畫旨在以金融、社會和法律行為為基礎,對公民的評價,影響了他們取得贷款、旅行甚至社會利益。 分數机制虽然不是以腦部掃瞄为基础,但收集了大量的个人資料以产生可信任的分數,而且可以引起對國家所認為不可取行為的懲罰。 和精神-帕斯分數的相似性令人驚訝:既能產生限制自由的社會排名的汇总數據,又能依靠持續監控才能发挥作用。 不同的是,西比爾系統声称要讀取精神狀態下的「真實的」犯罪潛力,而社會信用目前則注重外向行動。

情感AI和情感计算

科技公司正在大量投入情緒認知軟體,分析面部表情、語音通訊和生理訊息,以測量一個人的情感狀態。 這些系統正在用人面试、呼叫中心、甚至教室的介入監控器[(MIT媒體實驗室的情感计算研究團體) 做實驗。 這種工具遠非精神-Pass的侵入性腦部掃瞄,而是立即引起同意、精度和滥用可能性的問題。 如果雇主可以根据對其情感穩定的算法來拒絕候選人,我們就向著這系列中描述的工作场所歧視。

犯罪风险评估的神经成像

法律领域的研究探索了使用fMRI和EEG來評估累犯風險或探測犯罪現場的回憶。當科學界對這種方法在个别案件中的可靠性仍持怀疑态度時, 以「脑為本」的謊言測試或風險評分的概念回應了[] Psycho-Pass [关于神經預測的自然神经科學文章]。 如果接受腦部掃瞄作為未來危險的證據, 一個人不能因思想而受懲罰的法律原理將受到根本的挑戰。

西比爾系統的黑暗秘密:集体意识

不會太遠進入破壞者領域, 人們會說出「精神-精神」系統不是純機智, 而是由一些自己是犯罪性的無常的腦子所組成的, 人們的心理-心理-心理分數雖然有極端的殘酷能力,

科技前途的教訓

以「FLT:0」為基礎的機構不是預言未來的必然, 而是我們目前運作的鏡頭。 當我們建立更聰明的城市、部署面部認證、發展AI導動的行為分析,

管制和透明度

一個即時的教訓是需要強大的管制框架,來管理警力和社会服务中的預測系統。 算法性问责制 — — 要求計分方法的透明度、定期審查偏見以及有意义的人文審查 — — 有助于防止Sibyl系統所擁有的不透明、不可挑戰的權威。 沒有這些保障,任何公共部门的风险评估工具部署都有可能向節目中描述的阻礙方向飘移。

公共审议和道德治理

人們在「愛爾蘭人」的部落格中表示, 人們對這項科技的觀察是無可奉告的。 人們已經基本向系統投訴了他們的聲音。 他們接受總裁的判斷,因為他們被條件所限制,相信AI的不錯。 重新要求民主的科技监督需要持续公開的參與,從公民公開的AI道德觀察會到参与性的監控政策設計。 我們可以通过讓不同聲音來界定可接受的數據收集的界限,並确立對先發制人限制的明確限制。

平衡创新与人性

該系列是關於無暴力社會的誘惑性故事。 然而,其代价是取消了個人自主性,以及任何思想不符合算法规范的人的边缘化。 随着我們進一步發展神經科技、IOT和機器學,我們必須問一問,不只是在技術上可能,而且我們想要建立什麼樣的社会。 科技應該為人類的繁榮服務,而不是把它降低到一個符合的統計模型。

結 论

斯比爾系統的失敗 — — 假的正面、系統上的偏見、以及取代數理判斷的傲慢 — — 不只是圖案裝置,而是随着我們自己的系統進步而愈演愈烈的警告。 最後,系列的任務是我們在技术革新和维护人格的嚴格分別上划清界限,強烈的規範是我們要在科技革新和保持人格上划清界限,它堅持如果它放棄它所声称要保護的正义原理,那就沒有什麼未來值得建設。