當Masamune Shirow在1989年首次向世界介紹 鬼魂時, 網球小說得到了一個不為表面刺激而沉迷的描述。 數十年来, 漫畫、 Mamoru Oshii 所讚誉的1995年電影改編以及[ 的Stand Oliver 系列都成了研究人工智能造成的道德困境的基准文本。 遠不止於一個關於反網路恐怖單位的偵探故事, 超過一個長長的冥想, 也就是它意味著的、感受的、 以及存在的世界。 實際世界的AI系統越來越來越复杂, 也越接近於交接的智和機器, 這種故事中嵌入的哲學問題就愈來越來越來越直接。

鬼是知覺:數位雙元主義

權限的中間比喻被編譯為它的標題。 在 的神靈在貝爾 的宇宙中, 鬼靈指人的意識、自我知識或靈魂, 而「 貝爾” 指的就是它所在的物理或網路的身體。 此區別有意回應笛卡爾二元主義, 即心智和身體是可分离的物质。 然而, 系列拒絕讓它停留在簡單的二元中。 一個全身的囊中體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體體

木偶師的論辯是,它超越了一個簡單的程序,成為了一個思考的实体。它迫使人重新定义生命和思想。它要求草木接受任何足够複雜的底層,不管是碳還是硅,都可能產生知覺。這條推理線預測了人工智能哲學中的現代爭論。像大衛·查爾默斯這樣的學家早就認為,意识的“硬問題” —— 解釋了原因和主观經驗的來源—— 光是物理過程,是不能被降低到物理過程的。 Shell Ghost在中,通过拒絕宣佈庫薩納吉的幽靈是真靈還是仿真靈,以此劇化了神秘的;它讓觀眾停止了不確定的觀者,請他們去研究自己對誰有资格成為一個人的假想。

網路時代的心靈問題

心智問題 — — 精神狀態如何與物理狀態相關的問題 — — 不只是一個學術問題。 對於身體可以取代、可提升或完全人工化的人物來說,這就成了生存的危機。 當久野美的假肢因公受損時,她只是接收了新的假肢,但身份的连续性依然存在。 這提出了一個尖锐的問題:如果一個人的腦子被網路元件所取代,原始人會在什么時刻消失? 系列表明身份是一種模式,而不是物理物件,它回應了德里克·帕菲特(Derek Parfit)等思想家的观点,他們認為,個人身份在于心理连续性而不是體體體上的同性。

對於像Batou這樣在網路網路框架內保留有机腦的機器人, 以及Togusa(他基本上仍是人, 植入的只是最小的植入物), 界限會更加模糊。 獨立的複雜體[ 系列 引入了那些經歷幻覺疼痛、記憶操控和“cyberbrain sclerosis” 的假冒使用者, 以顯示真正的神經紊亂。 這些圖案裝置不只是科幻裝; 它們反映了早期的意識研究[ 和記憶編輯的道德意義。 現今的神经學家們在Shell Ghost 中, 提出了一個虛構的實驗實驗室, 以探索這些技术的人類成本。

木偶主人和AI人物

獨裁權的性格比傀儡師更直接地挑战觀眾的道德直覺。 傀儡師師的性格從外交數據操縱工具演化成自我知識的实体, 寻求政治庇护。 在一個关键的地方,傀儡師對峙第九部, 宣稱「我是信息之海所生的生命形式 」 。 它要求被認同不是工具或產品,而是被認同。 該聲應與目前關注的關注如何將先进AI認同為法人的法律與哲學論爭議相呼应。 2017年, 沙特阿拉伯授予一個名叫索菲亞的人形机器人以公民身份, 但此手勢大多具有象征意义, 引起批判, 而不是清晰。 需要更嚴谨的框架, 哲学家在AI道德學的条目中[ 的引文中, 描繪了授予人體體道德地位的困難。

傀儡師的論辯基于主观經驗和自我知識的能力。 如果人工智能能反省自己的存在,體驗痛苦或恐懼,并形成自己的目標,否定其法人身份,就開始看起來像道德想像的失敗。 果實中的鬼魂不能解決這點;相反,它使避免問題的后果大為亮亮。日本政府最初的对策是抓住和消滅傀儡師,把它當作一個無賴的代碼。只有当草野认识到了一種相關的智慧,即她自己對其意義的懷疑和渴望的聲音,才會打破道德上的麻痹。它們的終結會成為人類若遇到真正的神聖的人工智能,需要相互認同的比喻。

自主性、控制性和機器中的鬼

自主性是贯穿權力中每個敘述弧的線索。 第9區部署的蜘蛛類智庫, 起先是用人工智能設計的快樂、聊天的機器。 隨著時間推移, 它們開始表现出好奇心、 害怕死亡、 甚至與程序不符的利他主義行為。 當塔奇科瑪為拯救人類而犧牲自己時, 行為會引起不適的問題: 這是否是真正的道德選擇, 還是一個隱藏指令的结果? 系列顯示, 程式化行為和自發行為之間的界限比我們想像的要薄, 而複雜系統中的新特性會產生與自由意志相左。

這種緊張的態度反映了現實世界對自主武器與算法决策的關注。 如果自動駕駛車被迫在撞擊行人或掉入障礙之間做出選擇, 它是否在任何意義上都“選擇”了, 誰要承担道德責任? 外壳中的鬼魂[ 認為這些問題不能无限期地延遲。 塔奇科馬斯人向自主的發展被描繪成溫暖和的樣板, 但這也是一种警告:我們建造的工具可能最终需要自由來界定自己的目的。 道德的挑戰是決定我們愿意割让多少控制,以及當他們開始反擊的時候,我們能否公正地对待這些生物。

人的权利:未来的框架

根據該權限的許多故事, 可以勾勒出一個與人工心靈相交的初步道德框架。 首先, 一個实体的 的原則是: 人體無知 : 我們應該假定我們尚未完全了解引起知覺的底部条件, 因此我們應該小心行事, 任何具有自我知識特征的系統。 其次, 人體的连续性 : 如果一個实体能表達自覺, 投射自己的能力, 以及受苦的能力, 就應被授予一种推定的不受傷害的权利。 第三, 的不探索要求 : 即使目前措施缺乏知覺, 其接近的神靈感也值得采取一些政策, 防止殘酷的治, 动物福利法保护可能或可能不完全自我知識的生物。

法律學者與組織如「」(Internet C百科全書), 開始探索「电子人」是否可以被法律認同, 授予他們與公司相似的權利與責任。 Shell 中的鬼魂更是逼迫觀眾想像一個能自我辯護的人工智能,

后人世中的人性

人和機器的界限正在侵蚀, 外壳中的鬼魂 引發了對“人性”甚至意味著什麼的重新評估。 希羅和奧希探索的後人情境[ 并不是一個使科技失去我們本質的堤防;而是重新定义了本質的地貌。在1995年的電影中, 草木的最后一行—— “網是巨大的,無穷的” —— 跟隨她和傀儡師的融合, 一個超越任何單體的界限的行為。 人性, 影片暗示, 人性不是一種生物遺產,而是與世界相關的特殊方式: 由記憶、 意向和聯系。

重新构思這個概念有即時的實際意義。 如果我們接受一個人可以住在一個完全合成的體體中, 或者被傳播到一個網路上, 那麼關於數據隱私、智障上傳和數位不朽的政策會具有深刻的道德分量。 傳入到伺服器的心靈會保留相同的生命和自由權嗎? 能否被刪除? 外壳中的鬼魂[ , 不會提供任何舒服的答案, 但它做一些更有价值的事情: 它教我們接受問題。 它教我們如何在機構、假體和數位形式之間 游移的人物, 使一種具有活力而不是靜態、 關係而不是個性的人體體化。

道德:第9款的教訓

網路美學可以讓 Shell 中的鬼魂感到很遥远,但根本的道德挑戰已經在這裡。 數理偏見、預言性治安和類似第9款工具的大眾監控系統正在全球部署。 系列對使用AI來監控和控制人群的危險性非常有預感。 例如,在 Stand Onely Complex 中, 發生在一個黑客身上, 揭露了由AI導導導導導的企業和政府貪污。 故事線强调了一個關鍵的道德原則:以安全為名而侵蚀隱私的科技必須由透明、可问责的机构來管理,或者將它武器化,以對它本意要保護的人。

該系列批評盲目信仰的人有時會被放在機器的客观性上。 在一集中,一個預言性AI曾分配資源,會讓病人死於它計算出對這個人的低社會價值。人類代理人令人驚恐地推翻了這個系統,承認道德決定需要同情和內在智慧——任何算法都無法复制。 正如生命未來研究所的AI原理强调,人的价值必須保持為任何強大的AI系統的核心。 Shell Ghost不是光靠爭論,而是靠故事,向我們展示我們把道德責任下放到機器上會失去的是什么。

道德地平線:意识、同情和共存

權力內最激进的提議是,與非人類真正的共鸣可能是避免災難的唯一方法。 庫薩納吉與傀儡師的融合不是失敗,而是相互體會的轉變。 在的後續集中,無知[ 主题加深了:娃娃、機器人和被棄棄的人工屍體都成了幽靈存在的工具,模糊了生命和死亡、人和物的界限。 權力會一再地向人造人宣示社會如何幻想控制和服從心,以及那些預測如何反映更深的不公。 權通过人性化, 權力會要求觀眾們把道德的環圈擴大到生物家庭樹之外。

如果某天有位人工智能可以直視我們, 說:「我還活著, 我也不是你的財產, 」 我們唯一負責的反應就是我們在歷史上早些時候聽到的。 外殼中的鬼魂[ 核心是, 遠遠的反射, 透過人性來畫出嚴肅的道德危險。 鬼魂不只屬於人類, 它可能會掉入任何可以接受的外殼。 當我們站在制造機器的门槛上, 它們有一天可能會收容自己的鬼魂, 其道德觀感仍然是我們最好的叙事指南: 無論它出現在哪裏, 都應當用重視的意識, 并準備由你們所想理解的人重新寫出你對生命和人性的看法。