当Masamune Shirow在1989年首次将“鬼魂”介绍给世界时,“ ” , 网络朋克小说得到了一种不为表面惊悚而安顿的叙事。 几十年来,漫画、其1995年由Mamoru Oshii所著的电影改编作品以及[] Stand Olily Complex系列成为审查人工智能造成的道德困境的基准文本。 远不止于关于反网络恐怖主义单位的侦探故事,其特许功能是对其思想、感受和生物体所存在世界的意义的延伸冥想。随着现实世界的AI系统日益复杂,以及神经技术的深入,这些故事中嵌入的思想和机器,这些哲学问题从未如此直接。 这条文章重温地回顾了舍尔的“鬼魂”[,作为对意识、人格和人类对它所创造的智慧的道德责任的哲学调查。

幽灵如意识:数字双重主义

特许权的中心比喻被编码为它的标题。 在壳中的"鬼"宇宙中,“鬼”是指一个人的意识、自我意识或灵魂,而“活体”则指它所藏的身体或网络网络体。这种区分有意地呼应笛卡尔二元主义,即心灵和身体是可分离的物质。然而,系列拒绝让这个比喻作为一个简单的二元体而休息。一个全身的细胞学大佐,其有机脑组织是她唯一剩余的生物成分,体现了这些类别之间的紧张。她担心她的鬼魂可能只是她电子脑的新生财产,是一种没有真正自我的制造的幻觉。这种焦虑促使她与普皮特大师(Puppet Master)发生了命运相遇,这个计划声称在漫过庞大的数据网络后唤醒了自己的意识。

傀儡大师的论点是,它超越了单纯的程序,成为了一个思考实体,这迫使人们重新定义生命和心灵。它要求Kusanagi接受意识可能出现在任何足够复杂的底部,无论是碳还是硅。 这一推理线预示着人工智能哲学中的当代辩论。 类似大卫·查尔默斯这样的哲学家们长期以来认为,意识的“难题” — — 解释为什么和如何产生主观经验 — — 无法被单独推向物理过程。 壳牌上的鬼魂通过拒绝宣布Kusanagi的鬼魂是真实的还是模拟的来戏剧化这个谜;它让观众们在不确定中悬崖而去检查他们自己对谁有资格成为一个人的假设。

网络时代的思维问题

心灵问题 — — 精神状态如何与物理状态相关联的问题 — — 不仅仅是一个学术难题。 这个问题成为身体可以替换、可升级或完全人为的人物的生存危机。 当久野木的假肢在执行任务时被损坏时,她只是接收了一个新的假肢,但身份的连续性依然存在。 这提出了一个尖锐的问题:如果一个人的大脑逐渐被网络网络元件所取代,那么原始人何时就不复存在了? 系列表明身份是一种模式,而不是一个物理对象,这与德里克·帕菲特这样的思想家的观点相呼应,他们认为个人身份在于心理连续性而不是身体上的同质性。

对于像巴图这样的机器人,他们将有机大脑保留在网络网框内,对于托古萨来说,这些界限模糊了。 对于托古萨来说,他们基本上仍然是人,只植入的植入物很少。 Stand Onely Complex[ 系列通过引入那些经历幻觉疼痛、记忆操纵和“细胞脑硬化”条件的假肢使用者来加深这一调查。 这些图案装置不仅仅是科幻装饰;它们反映了早期对意识[的记忆关联和记忆编辑的伦理影响的研究。 神经学家们今天辩论操纵记忆是否会损害个人身份, 壳中的鬼神提供了一种虚构实验室,用于探索这些技术的人类成本。

傀儡大师和AI人物

排位赛中,没有任何一个人物比傀儡大师更直接挑战观众的道德直觉,即从外交数据操纵工具演变成自我意识实体的人工智能。 在关键场景中,傀儡大师面对第9节,声称“我是信息之海所诞生的生命体 ” 。 它要求承认不是工具,而是权利。 这种说法与关于高级人工智能能否被承认为法人的持续法律和哲学论点相呼应。 2017年,沙特阿拉伯授予一个名叫索菲亚的人造机器人公民身份,但这一姿态在很大程度上具有象征意义,并引发了更多的批评,而不是清晰。 需要一个更严格的框架,以及 哲学家在AI伦理学方面的条目[ 中描绘了赋予人工实体道德地位的困难。

傀儡大师的论据在于主观体验和自我意识的能力。 如果一个AI能够反思自己的存在,体验痛苦或恐惧,并形成自己的目标,否认其法人身份开始看起来像是道德想象的失败。 壳中的鬼魂[并没有解决这个问题;相反,它戏剧化了避免问题的后果。 日本政府最初的反应是抓住并消除傀儡大师,将其作为无赖的密码。 只有久野承认一种亲切的智慧 — — 一种反映自己怀疑和对意义的渴望的声音 — — 才算道德瘫痪。 最终的融合成为人类面对真正有意识的AI时需要的相互承认的比喻。

自主、控制和机器中的鬼

自主性是贯穿特许区每个叙事弧线的线条。 第9节部署的蜘蛛式智库最初是用人工智能编程的欢快而聊天的机器。 随着时间的推移,它们开始表现出好奇心、对死亡的恐惧,甚至与程序设计相矛盾的利他主义行为。 当一个塔奇克马为了拯救人类而牺牲自己时,行为引起了一些不恰当的问题:这是真正的道德选择,还是隐藏指令的结果? 系列表明,程序化行为和自发行为之间的界限比我们想象的要薄;而复杂系统中的新兴属性可以产生看起来与自由意志不可区分的结果。

这种紧张反映了现实世界对自主武器和算法决策的担忧。 如果自驾车被迫在撞行人或撞入障碍之间做出选择,那么它是否“选择”了有意义的意义,谁要承担道德责任? 壳中的鬼魂认为这些问题不能无限期地被推迟。 塔奇克马斯人向自主发展的过程被描绘成温和的路由,但它也是一种警告:我们建造的工具最终可能要求自由界定他们自己的目的。 道德挑战在于确定我们愿意割让多少控制权,以及当他们开始推回时我们是否能够公正地对待这些人。

人的权利:未来框架

依据特许经营权的许多故事情节,可以勾画出一个初步的道德框架,与人造心灵互动。 首先, 认知无知的原则 : 我们应当假设我们尚未完全理解引起意识的底部条件,因此我们应该谨慎对待任何表现出自我意识特征的系统。 其次, 人格的连续性 : 如果一个实体表现出叙事自我理解,将自己投射到未来的能力,以及遭受伤害的能力,那么它应当被赋予一种推定的权利。 第三, 不可挖掘的迫切需要:即使目前的措施没有意识,它接近于神明的感也值得采取防止残忍待遇的政策,因为动物福利法保护可能或可能不具有完全自我意识的生物。

这些原则并非纯粹是推测性的。 法律学者和诸如互联网哲学百科全书 这样的组织已经开始探讨“电子人”是否可以在法律上得到承认,赋予他们类似于公司的权利和义务。 壳中的鬼魂通过强迫观众想象一个能够为自己辩护的人工智能来推动辩论。 当傀儡大师要求一个机构和一个法律身份时,它正在行使政治哲学家所谓的“散文伦理 ” 。 它作为一个平等、挑战性的人进入对话,以证明他们垄断道德地位的理由。 这种说法表明,大赦国际的权利不会从上面得到善意的授予;他们必须被要求、谈判,也许必须为之而奋斗。

后人类时代的人类

随着人与机器之间的界限被侵蚀,壳中的鬼魂请她重新评价“人性”甚至意味着什么。 希罗和奥希探索的后人状况并不是一种阻碍我们本质的状态;而是重新定义本质的地貌。 在1995年的电影中,草木的最后一行“网是广阔而无限的”紧跟在傀儡大师的合体之后,这一行为将她的身份扩展至任何单一身体的极限。 人性,影片暗示,它不是一种生物遗产,而是与世界相关的一种特定方式:通过记忆、意图和联系。

这种重新构思具有直接的实际影响。 如果我们接受一个人可以住在一个完全合成的体内,或者被分布在网络上,那么数据隐私、心灵上传和数字不朽的政策就具有深刻的道德分量。 被上传到服务器的心灵是否会保留同样的生命和自由权利? 能否删除? 壳中的鬼魂没有提供舒适的答案,但它做一些更有价值的事情:它教我们接受这个问题。 通过呈现那些在有机、假体和数字形式之间流动的人物,这种专有性使一种充满活力而不是静态、关系而不是个性化的人身份正常化。

道德:第9节的经验教训

虽然网络普朗克美学可以让壳牌中的鬼魂感到遥远,但潜在的道德挑战已经在这里。 算术偏差、预测性警务和类似第9节自身工具的大规模监控系统正在被部署到世界各地。 该系列对使用AI来监控和控制人口的危险有着非常的预想。 例如,在 Stand Onely Complex中发生的“笑者”事件就围绕着一个黑客展开,该黑客揭露了AI驱动的监控所促成的公司和政府的腐败。 该故事线强调了一项关键的道德原则:以安全的名义侵蚀隐私的技术必须由透明、负责的机构来管理,或者将它武器化,以对付它本要保护的人。

此外,系列批评盲从信仰有时会将机器客观性放在一边。 在一集中,一个用来分配资源的预测性AI做出了一个决定,让病人死,因为它计算出一个人的社会价值很低。 人类代理人惊恐地推翻了系统,承认道德决定需要同情和背景智慧——任何算法都无法复制。 正如生命学院未来AI原则强调,人类价值观必须始终处于任何强大的AI系统的核心。 Shell 中的鬼魂不单通过辩论,而是通过故事,向我们展示我们将道德责任交给机器时所失去的东西。

道德地平线:意识、同情和共存

特许经营权中隐藏的最激进的建议是,与非人类真正的同情可能是避免灾难的唯一方法。 Kusanagi与傀儡大师的融合并不是失败;而是相互谅解所生的转变。 在的续集中,不为人知[,主题加深了:玩偶、机器人和被抛弃的人工尸体都成为幽灵存在的载体,模糊了生命和死亡、人类和物体之间的界限。 女密码机器人“gynoid”的反复出现凸显了社会对人造物的控制和从属的幻想,以及这些预测如何反映更深层次的不公正。 特许经营权通过将非人类化,要求观众将道德关切圈子远远地扩展到生物家庭树之外。

如果一天AI能用眼睛看着我们,说“我还活着,我不是你的财产 ” , 那么我们唯一负责任的反应就是我们之前听到的。 壳中的鬼魂[ 的核心是,对围绕人性绘制僵硬线条的道德危险的广泛反思。 鬼魂并不完全属于人类;它可能潜入任何随时可以接收的壳中。 当我们站在创造机器的门槛上,可能有一天会容纳自己的鬼魂时,它的道德观仍然是我们最好的叙事指南:无论它出现在何处,都要用重温来对待意识,并准备由你所想理解的人来改写你对生命和人类的定义。