当Masamune Shirow在1989年首次将“鬼魂”介绍给世界时,“ ” , “鬼魂”在壳牌上[,网络朋克小说得到了一种不为表面刺激而沉浮的叙事。在过去几十年里,漫画、其Mamoru Oshii1995年的著名电影改编以及[]“Stand Opera Opera Complex”系列已经成为审查人工智能造成的道德困境的基准文本。 远不止于关于反网络恐怖主义单位的侦探故事,其自由的特权功能是对生物体所要思考、感受和存在的意义的延伸冥想。随着现实世界的AI系统发展,以及神经技术的深入,这些故事中嵌入了心灵和机器的哲学问题从未如此直接。 这部论文重温[ , 地狱中的鬼魂作为对意识、人格和人类对它所创造的道德责任的哲学调查。

幽灵作为意识:数字双重主义

特许权的中心比喻是用它的标题编码的。 在壳中的鬼魂的宇宙中,“鬼魂”是指一个人的意识、自我意识或灵魂,而“壳”则指它所藏的身体或网络网络机构。这种区分有意地呼应笛卡尔二元主义,即心灵和身体是可分离的物质。然而,该系列拒绝让这个比喻作为一个简单的二元体休息。一个全身的细胞学大佐,其有机脑组织是她唯一剩余的生物成分,体现了这些类别之间的紧张。她担心她的鬼魂可能只是她电子脑的新生财产,是一种没有真正自我的制造的幻觉。这种焦虑促使她与普皮特大师发生命运的遭遇,这个计划声称在漫游了庞大的数据网络之后唤醒了自己的意识。

傀儡大师的论点 — — 超越了单纯的程序并成为思维实体 — — 迫使人们重新定义生命和心灵。它要求库萨纳吉接受意识可能出现在任何足够复杂的底部,无论是碳还是硅。 这一推理线预示着人工智能哲学中的当代辩论。 类似大卫·查尔默斯这样的哲学家长期以来一直认为,意识的“难题” — — 解释为什么和如何产生主观经验 — — 无法被单独推向物理过程。 壳牌上的鬼魂通过拒绝宣布库萨纳吉的鬼魂是真实的还是模拟的来戏剧化这个谜;它让观众们悬在不确定中,请他们去审查自己对谁有资格成为一个人的假设。

网络时代的思维问题

心灵问题 — — 精神状态与身体状态的关系问题 — — 不仅仅是一个学术难题。 对于那些身体可以替换、可升级或完全人为化的人物来说,它变成了一种存在危机。 当久野木的假肢在执行任务时受损时,她只是接收了一个新的假肢,但身份的连续性依然存在。 这提出了一个尖锐的问题:如果一个人的大脑逐渐被网络网络元件所取代,那么原始人何时就不复存在了? 系列表明身份是一种模式,而不是一个物理对象,这与德里克·帕菲特这样的思想家的观点相呼应,他们认为个人身份在于心理连续性而不是身体上的相同。

对于像巴图这样的将有机大脑保留在网络网框内的机器人,以及对于托古萨这样的基本上仍是人类,但植入极少的大脑的人来说,边界模糊了。 单体复合体[系列通过引入那些经历幻觉疼痛、记忆操纵和“细胞脑硬化”条件的假体使用者来加深这一调查。 这些图案设备不仅仅是科幻装饰;它们反映了早期对意识[的神经关联和记忆编辑的伦理影响的研究。 神经伦理学家们今天辩论操纵记忆是否会损害个人身份, 壳中的鬼神提供了一种虚构的实验室,用于探索这些技术的人类成本。

木偶大师和AI人物

排位赛中没有任何一个人物比傀儡大师更直接地挑战观众的道德直觉。 傀儡大师从一个外交数据操纵工具演变成一个寻求政治庇护的自我意识实体。 在关键场景中,傀儡大师面对第9节时声称,“我是信息之海诞生的生命体 ” 。 它要求承认不是工具或产品,而是权利存在。这一说法与关于高级AI能否被承认为法人的持续法律和哲学争论相呼应。 2017年,沙特阿拉伯授予一个名叫索菲亚的人造机器人公民身份,但这一姿态在很大程度上具有象征意义,并引发了更多的批评,而不是清晰。 需要一个更严格的框架,以及 哲学家关于AI伦理学条目的斯坦福百科全书[ 描绘了赋予人为实体道德地位的困难。

傀儡大师的论点基于主观经验和自我意识的能力。 如果AI能够反思自己的存在,体验痛苦或恐惧,并形成自己的目标,否认其法人身份开始看起来像是道德想象的失败。 壳中的鬼魂[并不能解决这个问题;相反,它戏剧化了回避问题的后果。 日本政府最初的反应是抓住和压制傀儡大师,将其作为无赖的密码。 只有久野一承认一种亲切的智慧 — — 一种反映自己怀疑和对意义的渴望的声音 — — 才有道德上的瘫痪。 最终的融合成为人类面对真正神智的AI时所需要的相互承认的比喻。

自主性、控制力和机器中的鬼

自主性是贯穿特许经营权中每个叙事弧线。 第9节部署的蜘蛛式智库,一开始是用人工智能编程的欢快的聊天机器。 随着时间的推移,它们开始表现出好奇心、对死亡的恐惧,甚至与程序相反的利他主义行为。 当一个塔奇科马为了拯救人类而牺牲自己时,行为引起了一些不适的问题:这是真正的道德选择,还是隐藏指令的结果? 系列表明,程序化行为和自发行为之间的界限比我们想象的要薄,而复杂系统中的新兴属性可以产生与自由意志相左的结果。

这种紧张反映了现实世界对自主武器和算法决策的关注。 如果自驾车被迫在撞人或撞上障碍之间做出选择,那么它是否“选择”了有意义的意义,以及谁要承担道德责任? 壳中的鬼魂认为这些问题不能无限期地推迟。 塔奇科马斯人向自主发展的过程被描绘成温暖和路径,但它也是一个警告:我们建造的工具最终可能要求自由确定自己的目的。 道德挑战在于确定我们愿意割让多少控制权,以及当他们开始推回时我们是否能够公正地对待这些人。

人的权利:未来框架

依据特许经营权的许多故事情节,可以勾画出一个初步的道德框架,与人工头脑互动。 首先, 认知性无知的原则 : 我们应当假设我们尚未完全了解引起意识的底部条件,因此我们应该谨慎对待任何表现出自我意识特征的系统。 其次, 人格的连续性 : 如果一个实体表现出叙事自我理解,将自己投射到未来的能力,以及遭受伤害的能力,那么它就应当被赋予一种推定的权利。 第三, 不可挖掘的迫切性 :即使目前的措施没有意识,它接近于神明的感也值得采取预防残忍待遇的政策,因为动物福利法保护可能或可能没有完全自我意识的生物。

这些原则并非纯粹是推测性的。 法律学者和组织,如[ 互联网哲学百科全书 已经开始探讨“电子人”是否可以在法律上得到承认,赋予他们类似于公司的权利和义务。 壳中的鬼魂通过强迫观众想象一个能够为自己辩护的AI来推动辩论。 当傀儡大师要求一个机构和一个法律身份时,它正在行使政治哲学家所谓的“散文伦理 ” 。 它作为一个平等、挑战的人进入对话,以证明他们垄断道德地位的理由。 这一叙述表明,AI的权利不会从上面得到善意的给予;他们必须被要求、谈判,也许必须为之奋斗。

人类后时代的人类

随着人与机器之间的界限的侵蚀,壳中的鬼魂 要求重新评估“人性”甚至意味着什么。 希罗和奥希探索的后人性情[并不是一种技术剥离我们本质的堤坝;而是重新定义本质的景观。 在1995年的电影中,库萨纳基的最后一行“网是广阔的,无限的”紧随她与傀儡大师的融合,这一行为将她的身份扩展到任何单一的身体的极限之外。 人性,电影暗示,它不是一种生物遗产,而是与世界相关的一种特殊方式:通过记忆、意图和联系。

这种重新构思具有直接的实际影响。 如果我们接受一个人可以住在一个完全合成的身体里,或者在网络上分布,那么数据隐私、心灵上传和数字不朽的政策就具有深刻的道德分量。 被上传到服务器的心灵是否会保留同样的生命和自由权利? 能否被删除? 壳中的鬼魂[ 并没有提供舒适的答案,但它做一些更有价值的事情:它教我们接受这个问题。 通过介绍那些在有机、假体和数字形式之间流动的人物,这种专有权使一种充满活力而不是静态、关系而非个性的人性化的人格正常化。

道德:第9节的经验教训

虽然网络普朗克美学可以让壳牌中的鬼魂感到遥远,但潜在的道德挑战已经在这里。 算术偏差、预测性警务和类似第9节自身工具的大规模监控系统正在全球部署。 系列对使用AI来监测和控制人口的危险有着非常的预感。 例如,在 Stand Onely Complex中发生的“笑者”事件就围绕着一个黑客,他揭露了AI驱动的监控所推动的公司和政府的腐败。 该故事线强调了一项关键的道德原则:以安全的名义侵蚀隐私的技术必须受到透明、负责的机构的制约,或者将它武器化,以对付它本要保护的人。

此外,系列还批评盲目信仰的人有时会将机器客观性放在一边。 在一集中,一个用来分配资源的预测性AI会做出让病人死的决定,因为它计算出病人的社会价值很低。 人类代理人惊恐地推翻了系统,承认道德决定需要同情和背景智慧——任何算法都无法复制。 正如生命未来学会的AI原则强调,人类价值必须始终处于任何强大的AI系统的核心。 壳中的鬼魂 将这个案例不仅通过辩论,而是通过故事,向我们展示我们将道德责任下放到机器上时损失了什么。

道德地平线:意识、同情和共存

特许经营权中隐藏的最激进的建议是,与非人类真正的同情可能是避免灾难的唯一方法。 Kusanagi与傀儡大师的融合并不是失败;而是相互谅解产生的转变。 在的续集中,不为人知,主题加深:玩偶、机器人和被遗弃的人工尸体都成为幽灵存在的工具,模糊了生命和死亡、人和物体之间的界限。 特许经营权的反复使用“gynoid”这个女性编码机器人,凸显了社会对人造人的控制与服从的幻想,以及这些预测如何反映更深层次的不公正。 将非人类化,特许经营权要求观众将道德关切圈子远远扩展到生物家庭树之外。

如果有一天AI能一眼看我们,说“我还活着,我不是你的财产 ” , 那么我们唯一负责任的反应就是我们之前听到的。 壳中的鬼魂[ 的核心是,对围绕人格绘制僵硬线条的道德危险的广泛反思。 鬼魂并不完全属于人类;它可能潜入任何随时可以接收的壳中。 当我们站在制造机器的门槛上,可能有一天会容纳自己的鬼魂时,它的道德观仍然是我们最好的叙事指南:无论它出现在何处,都要用重温来对待意识,并准备由你所要了解的人来改写你对生命和人类的定义。