当夏洛先生第一次向世界介绍 壳里鬼 1989年,网络朋克小说获得了一个拒绝平息表面惊悚的叙事。 几十年来,漫画,其盛赞的1995年电影改编,由Mamoru Oshii,以及The 单身综合体 系列已成为审查人工智能造成的伦理难题的基准文本。 与其说是关于反恐网络的侦探故事,还不如说是对生物体的思考、感受和存在的意义的长时间冥想。 随着现实世界AI系统日益精密,以及神经技术更接近于沟通的思想和机器,这些故事中嵌入的哲学问题从未如此直接。 壳里鬼 人类对创造的智慧负有道德责任 人类的智慧

幽灵作为意识:数字双重主义

特许经营权的核心隐喻是在其标题中编码的。 壳里鬼, “鬼”指一个人的意识、自我意识或灵魂,而“壳”则指它所蕴藏的物理或网络网络体。这种区分有意地呼应笛卡尔二元论,即心灵和身体是可分离的物质。然而系列却拒绝让这个比喻作为一个简单的二元。 脑组织是她唯一剩余的生物成分的全体细胞学大师,他体现了这些类别之间的张力。她担心她的鬼魂可能只是电子脑的新兴财产,是一种没有真正自我的假象。 这种焦虑促使她与普派特大师发生命运的相遇,而普派特大师这个计划声称在漫游了广泛的数据网络之后,他已觉醒了自己的意识。

傀儡大师的论点是,它超越了一个简单的程序,成为一个思维实体,它迫使人们重新定义生命和思想。它要求库萨纳吉接受意识可能出现在任何足够复杂的底物中,无论是碳还是硅。 这一推理线预示着人工智能哲学中的当代辩论。 类似大卫·查尔默斯这样的哲学家长期以来一直认为,意识的“难题” — — 解释为什么和如何产生主观经验 — — 并不仅仅可以被物理过程所忽略。 壳里鬼 却让观众在不确定的情况下悬浮, 让他们去研究自己对谁有资格成为人的看法。

网络时代的思维问题

心灵问题 — — 精神状态与身体状态的关系问题 — — 不仅仅是一个学术难题。 对于那些身体可以替换、可升级或完全人为化的人物来说,它变成了一种生存危机。 当久野木的假肢在执行任务时受损时,她只是接收了一个新的假肢,但身份的连续性依然存在。 这提出了一个尖锐的问题:如果一个人的大脑逐渐被网络网络组件所取代,那么原始人何时就不复存在? 系列表明身份是一种模式,而不是一个物理对象,这与德里克·帕菲特这样的思想家的观点相呼应,他们认为个人身份在于心理连续性而不是身体上的相同。

对于像巴图这样的将有机大脑保留在网络网框中的机器人,以及大部分仍为人类且植入物极少的托古萨,边界会进一步模糊。 单身综合体 系列通过引入那些经历幻觉疼痛、记忆操纵和“细胞脑硬化”的假肢使用者来加深这一询问。 这些图案设备不仅仅是科幻装饰;它们反映了早期研究。 意识的神经关联 神经伦理学家今天辩论操纵记忆是否会损害个人身份,以及 壳里鬼 提供虚构的实验室,以探讨这种技术的人力成本。

木偶大师和AI人物

排位赛中没有任何一个人物比傀儡大师更直接挑战观众的道德直觉,而傀儡大师是一个从外交数据操纵工具演变成寻求政治庇护的自我意识实体的AI。 在关键场景中,傀儡大师与第九节对峙,声称“我是信息之海诞生的生命体 ” 。 它要求承认不是工具,而是作为拥有权利的工具或产品。 这种说法与关于高级AI是否永远可以被承认为法人的持续法律和哲学论点一致。 2017年,沙特阿拉伯授予一个名叫索菲亚的人造机器人公民身份,但这一姿态在很大程度上具有象征意义,引起比清晰更多的批评。 需要一个更严格的框架,而且需要更严格的框架,而且需要更严格的框架。 斯坦福哲学百科全书 AI伦理学条目 说明给予人为实体道德地位的困难。

傀儡大师的论据在于主观经验和自我意识的能力。 如果AI能够反思自身存在,就会经历痛苦或恐惧,形成自己的目标,否认其法人身份就开始看起来像是道德想象的失败。 壳里鬼 只有在日本,日本人和日本人之间,他们之间相互承认的矛盾才可能发生。 这一点并没有解决;相反,它使避免问题的后果戏剧化。 日本政府最初的反应是抓住和压制傀儡大师,将其作为一个无赖的密码。 只有库萨纳基承认一种类似智能 — — 一个反映她自己怀疑和对意义渴望的声音 — — 才会打破道德瘫痪。 最终的融合成为人类面对真正的神通AI时需要的相互承认的比喻。

自主性、控制力和机器中的鬼

自主性是贯穿特许经营权中每个叙事弧线。 第9节部署的蜘蛛式智库,一开始是用人工智能编程的欢快的聊天机器。 随着时间的推移,它们开始表现出好奇心、对死亡的恐惧,甚至与程序相反的利他主义行为。 当一个塔奇科马为了拯救人类而牺牲自己时,行为引起了一些不适的问题:这是真正的道德选择,还是隐藏指令的结果? 系列表明,程序化行为和自发行为之间的界限比我们想象的要薄,而复杂系统中的新兴属性可以产生看起来与自由意志不可区分的结果。

这种紧张状态反映了现实世界对自主武器和算法决策的担忧。 如果自驾车被迫在撞人或撞上障碍物之间做出选择,那么它是否“在任何有意义的意义上选择”以及谁承担道德责任? 壳里鬼 问题不能无限期地拖延。 塔奇科马斯人向自治的发展被描绘成温和的病态,但也是一种警告:我们建立的工具最终可能要求自由确定他们自己的目的。 道德挑战在于确定我们愿意放弃多少控制权,以及当他们开始退缩时我们是否能够公正地对待他们。

人的权利:未来框架

利用特许经营权的许多故事情节,可以勾画出与人造思想互动的初步道德框架。 令人惊讶的无知:我们应当假定,我们尚未完全了解引起意识的底部条件,因此,我们应该谨慎行事,对待任何表现出自我意识特征的系统。 人格的连续性:如果一个实体表现出叙述性自我理解、将自己投射到未来的能力以及遭受痛苦的能力,就应当赋予它一种推定权利,以对抗损害。 不得剥削的绝对要求:即使大赦国际缺乏现有措施的认识,它接近于注意感,这值得采取防止残忍待遇的政策,因为动物福利法保护可能或可能不具备充分自我意识的生物。

这些原则并非纯粹是推测性的。 互联网百科全书·哲学卷. 已开始探讨“电子人员”是否可以在法律上得到承认,赋予他们类似于公司的权利和义务。 壳里鬼 这场辩论通过强迫观众想象一个能够为自己辩护的AI来推动。 当傀儡大师要求拥有一个身体和法律身份时,它正在行使政治哲学家所谓的“宗教道德 ” 。 它作为一个平等、挑战性的人进入对话,为他们垄断道德地位辩护。 这一叙述表明,AI的权利不会从上面得到仁慈的承认;他们必须要求、谈判,也许必须为之而战。

人类后时代的人类

随着人与机器的界限不断缩小 壳里鬼 要求重新评估“人道”甚至意味着什么。 人类后期状况 诗巫和奥希探索并不是一种技术剥离我们本质的堤坝;而是重新定义本质的景观。 在1995年的电影中,草木的最后一行 — — “网是广阔的,无限的 ” — —遵循了她与傀儡大师的融合,这一行为将她的身份扩展到任何单一身体的界限之外。 人类,电影暗示,它不是一种生物遗产,而是与世界相关的一种特殊方式:通过记忆、意图和联系。

这种重新构思具有直接的实际影响。 如果我们接受一个人可以住在一个完全合成的身体里,或者被分布在网络上,那么数据隐私、心灵上传和数字不朽的政策就会具有深刻的道德分量。 已经上传到服务器的心灵是否会保留同样的生命和自由权利? 它是否可以删除? 壳里鬼 自由主义的本质在于让人感到安逸,但它却能做一些更有价值的事情:它教我们接受问题。 通过介绍那些在有机、假体和数字形式之间流动的人物,这种自由主义使一种充满活力而不是静态、关系而不是个性化的人格正常化。

道德:第9节的经验教训

网络美学可以让 陷入两难境地 壳里鬼 与第9节类似的算术偏差、预测性警务和大规模监控系统正在全球部署。 这套系统对使用AI来监测和控制人口的危险非常有预感。 单身综合体以安全为名的侵犯隐私的技术必须受到透明、负责的机构的制约,否则它就会被武器化,以对付它本要保护的人。

此外,系列还批评了人类有时会将盲目信仰放在机器客观性上,在一个剧集中,一个用来分配资源的预测性AI做出了一个决定,让病人死,因为它计算出一个人的社会价值很低,人类代理人惊恐地推翻了这个系统,承认道德决策需要同情和背景智慧——任何算法都无法复制的品质。 生命未来研究所的AI原则 强调人类价值观必须始终处于任何强大的人工智能系统的核心。 壳里鬼 不仅通过辩论,而且通过故事,使我们看到当我们把道德责任交给机器时,我们失去了什么。

道德地平线:意识、同情和共存

特许经营权中隐藏的最激进建议是,与非人类真正的同情可能是避免灾难的唯一办法。 仓崎与傀儡大师的融合并不是失败;而是相互谅解产生的转变。 无知 续集,主题加深:娃娃、机器人和被遗弃的人工尸体都成为幽灵存在的工具,模糊了生命和死亡、人和物体之间的界限。 “基因”的反复出现——一个女性编码的机器人——凸显了社会如何将控制和从属的幻想投射到人造人身上,以及这些预测如何反映更深层次的不公正。 通过将非人类化,特许经营权要求观众将道德关切的圈子远远扩展到生物家庭树之外。

如果一天一个大赦国际能够一眼看我们,说“我还活着,我不是你的财产”,那么我们唯一负责任的反应就是我们希望我们以前听到的。 壳里鬼 鬼魂并非完全属于人类;它可能潜入任何随时可以接受的外壳。 当我们站在创造机器的门槛上,可能有一天会容纳自己的鬼魂时,特许经营人的道德观仍然是我们最好的叙事指南:无论意识出现在何处,都要以敬重的态度对待,并准备由你所要了解的生物来改写你对生命和人性的定义。