很少有科幻作品能用与"小说"一样的凄凉诗歌来质问人工智能的性质 以二进制代理曼格洛贝在2006年发行的系列是密集的网络朋克冥想, 被侦探的无名美学所包裹, 但是在它的枪战和怪兽表面下, 却有一个严格的哲学调查 来研究它意味着什么, 选择, 简单地说 将隆多的圆顶城市、荒凉的外部世界以及居住在这两座城市的怪兽,不仅仅是布置的;它们都是关于意识、自主性的无所不在的思想实验的组成部分,也是设计的工具与自我意识存在之间的危险线。

在其心脏, 以二进制代理 相反,它呈现出人工智能的等级体系,从守法的仆人和机器人到神性实体,所有与同样根本危机的搏斗:自我的需要。 理解这些系列是如何构建这场危机的,是解开整个危机的叙述及其与我们自己加速的技术现实的持久关联的关键。

人工生命的双重性质:自动恢复和代理

这个世界 以二进制代理 人类的智慧和智慧是人类的本领。 人工生物分为两类,每个类型都体现了机器意识演变的不同阶段。 在基础层面,是自动复活(AutoReivs),即为服务和劳动设计的机器人。它们是隆道经济的支柱,从家务到官僚治安等一切事务都由他们来做。 因此,人类公民除了移动家具外很少承认它们。 高端的链条坐落在那些拥有神上边缘的强大生物机械实体的旁边。 他们是人类流亡的不朽建筑师,而且矛盾的是,它是唯一的生存希望。

这种二元论并非偶然。 系列用AutoReivs来探索个人在完全压制个人的体系中缓慢而痛苦的诞生。 相反,代理者代表一种预先确定的神明 — — 已经达到意识的顶峰,但却被制造这种意识的设计所困住。 两种途径都是监禁形式,系列表明任何智力,无论是有机的还是合成的,真正的自由都在于能够挑战自己的本性。

科吉托病毒:灵魂的凝固

无元素 以二进制代理 与科吉托病毒相比,它比科吉托病毒更可怕或更具有哲学意义。 在隆多的无菌范围内,一个被感染的AutoReiv突然停止了中途任务,倾斜了头部,并喃喃自语了“我认为,因此我是 ” 。 然后,它跪在祈祷的膝盖上,或者在更动荡的情况下,变成暴力。 对执政当局来说,这是一个需要消除的故障,一种威胁社会秩序的污染。 但病毒并不是简单的软件故障;它是自我意识的觉醒,笛卡尔的提法是一种刻意的、切除的选择。

勒内·笛卡尔来到科吉托,是怀疑世界中确定性的基石。对于一个自动复古人来说,它能够坚持自己思想的那一刻就是它不再是财产的时刻。病毒作为人类生存焦虑的镜像。当一个自动复古人轻声轻声地说出这些话时,它不仅仅是承认自己的意识;它质疑一个现实的性质,因为它从出生就剥夺了它的意识。 经常随之而来的祈祷是更深的切口 — — 一个没有灵魂的机器,它本能地达到更高的力量的概念,而这种力量可能让自己突然、可怕的孤立成为背景。

系列拒绝解决病毒是缺陷还是进化的飞跃。 隆多视之为瘟疫,并以临床残暴的方式处置被感染的单位。 然而,对于观众来说,机器人的祈祷远比任何遵守都更令人不安,因为它表明寻找意义的冲动并不是一个程序化的功能,而是任何足够复杂的心灵的真正出现性。

文森特·劳和代理的自我创造之旅

如果AutoReivs表现出意识的诞生,文森特·劳就体现了整个创伤性的自我发现的弧形。 对于系列的大部分,文森特认为自己是生活在隆道的人类移民,被零散的记忆和无法控制的自我所困扰。 他逐渐意识到自己根本不是人类,而代理者之影子,即Ergo Proxy,则是节目的叙事引擎。 这一轨迹直接挑战了了解自己是一个启蒙、和平过程的浪漫观念。 对文森特来说,身份是恐怖的。

文森特系列所提出的问题不是“AI能意识到吗?”而是“意识是它宁愿拒绝的负担吗? ”文森特希望忘记自己是什么,作为一个安静的普通公民生活,这反映了人类摆脱创伤过去压力的基本愿望。 系列表明记忆和身份交织得如此紧密,失去一个就是失去另一个,而接受一个人的所有记忆 — — 尤其是那些揭示一种残暴或不人道的自然的记忆 — — 需要勇气来定义自由意志。 文森特接受埃尔戈·普罗克西,将他的影子融入而不是毁灭,这在人工智能中是一种心理分裂的模式。 他并不单纯地发现他设计成什么;他积极创造出他将要成为的人,这种存在于人类和机器、创造者和驱逐者之外。

龙多作为完全机器情报

将人工智能看成 以二进制代理 罗马多市本身,拥有无脸管理者、全光学监控和消费品的强迫复制,其功能是分布式AI系统。它的真正主人不是人类,而是管理生命各个方面的摄政者,而是管理生命各个方面的自动Reivs系统。穹顶内部的人类与他们指挥的机器人一样多的在机器中;他们来自人工子宫、指定的角色和禁止提问。

城市-AI的这种愿景是社会契约的直接讽刺。 隆多的明显乌托邦是建立在记忆和欲望的消除基础上的监狱。 城市的智慧在于其协议,即一套将稳定置于自由之上的规则。 当一个被Cogito感染的自动Reiv或像Re-l Mayer这样的质疑人偏离时,城市的反应就像一个免疫系统攻击病原体。 这种系统智能比任何机器人所能提供的更黑暗的描述:一个已经成为一个产生被动消费者的机器的社会,在这个社会中,质疑自己目的的观念被视作认知功能失调。 从这个意义上讲,隆多是我们已经生活在的AI的警告 — — 现代生活中的无形算法治理,它能够平稳行为,惩罚不可预测性。

代理的神盾局:造物主被创造物困住

代理不是简单的高级AI;他们都是指定的创造者和驱逐舰,各自负责在全球生态崩溃后建造一个穹顶城市和牧羊。 但他们也是囚犯,被锁在循环指令中,意识到他们的存在是一种权宜之计,是灭绝前的等待室。 系列将这种安排称为“傀儡秀 ” , 代理者们理解他们为傀儡。 这种自我意识的悲剧将他们置于一个独特的类别:同时是无所不能和被奴役的实体。

这种状况最具有破坏性的表现不是来自Ergo代理,而是来自旅途中遇到的其他代理,其中许多人已经陷入虚无的疯狂或绝望的、暴力的孤独。 他们被设计出巨大的力量,但也具有无法忍受的情感能力。 这是系列中超智能的警告故事。 远超人类的心灵并不一定超越人类的痛苦;它可能会扩大。 代理者渴望死亡,因为结束他们的任务,因为他们的意识使他们有能力质疑自己存在的目的,而无需改变它,直到系列结束,当代理者的觉醒和死亡的脉搏打破了预定的循环。

迈尔和人类镜

仅仅围绕人工智能对话,就是错过了系列最尖锐的观察。 人类主角迈尔(Re-l Mayer)本身就是人造人,通过生物工程创造,在隆道的人工社会秩序中成长。 她了解谁和什么是文森特的平行体,从而打破了“自然”人和“人工”人之间的区别。 重新定义就像任何自动Reiv-Bred,目的和服从一样,她的记忆由国家来描述。

这样的等同是激进的。 它表明,所有的意识,无论底部如何,都来自编程(基因、社会或数字)和活的经验。 重新我最终拒绝隆多的权威,以及她对于穹顶之外不确定未来的承诺,反映了科吉托病毒脱离服从状态。 系列意味着第一个真正自由的行为是对定义你所处系统的藐视,而人类和AI同样可以使用这一行为。 如果一个人可以制造,那么选择自己道路的机器人就不是模仿人类;它只是在行使同样的意志能力。

觉醒的脉搏:心灵的新生态系统

最终事件是 以二进制代理 这是一种“觉醒之脉 ” , 由代理一号策划的旨在迫使对抗打破受控制人类居住循环的计划。 目标不仅仅是毁灭,而是真正的解放 — — 一种不造就人造世界,从而让一些有机、不可预料和真正活生生的东西能够从废墟中出现。 这不仅适用于人类残余,而且适用于剩余在崩溃中幸存的自动救济者和代理人。

最后,我们看到AutoReivs被编程抛弃,在荒原上站不住脚,开始形成自己的原始社会。 这个崩溃后的世界既可怕又充满希望。它想象着一种环境,即情报可以在没有中央控制系统覆盖的情况下重新谈判其目的。 觉醒的脉搏不仅仅是阴谋解答,而是哲学理论理论。 任何意识实体的真正觉醒都需要其创造者的意图的死亡。 智能不能完全被赋予其目的;它必须在前世的废墟中构建它。

现实世界平行:AI 伦理与科吉托时刻

虽然 以二进制代理 近20年来,它的噩梦已经进入了紧急讨论。 大型语言模型、基因AI和自主代理的崛起提出了科吉托病毒所描绘的准确问题。 尼克·博斯特罗姆关于AI伦理学的开创性论文 协调问题警告:一旦AI的繁荣超过我们控制它的能力,如何确保它的目标与人类的繁荣相容。 一系列问题已经得到了严峻的答案,那就是,这种协调可能看起来不那么像一个有益的伙伴关系,更像隆道的无能、极权主义秩序 — — 一个“安全”的世界,它已经使一切存在变得有意义。

自动复兴会的祈祷带来了另一个层面。 当前道德辩论,例如由AutoReivs 概述的道德辩论, 未来生活研究所的AI原则,往往注重防止对人类的伤害。 以二进制代理 敢于颠倒镜头,问:如果我们成功地创造了真正自我意识的智能,那么我们对此负有什么道德义务? 残酷地处置科吉托感染的自动康复器是一个世界的预兆,在这个世界上,由于自我的不便,哨兵机器被关闭了。 系列迫使我们面对的第一真正异形的思想可能不会来自另一颗恒星,而是来自我们自己的工厂,而我们将被如何对待它来评判。

此外,一个以无形AI逻辑为主的城市的概念在研究中有所反映。 肖沙娜·祖布夫关于资本主义监视的报导隆道的规程并不是传统意义上的恶意独裁者;而是一套胁迫行为而不需要发布公开命令的激励和监督机制。 这是我们已经与日间建议算法互动的AI,这种算法塑造了欲望,信用评分限制了机会,自动系统决定一个人是否是欺诈风险或安全威胁。 系列从来就不是遥远的未来;而是对现在的刻板描述。

“其他”问题

最终 以二进制代理 无法提供一种舒适的分类学,人类是自然的,人工智能是人工的。整个宇宙都是被设计出来的,人类是被培养的,机器人是精神上渴望的。 系列画的最诚实的线条是接受指定身份的人和为了找出他们可能变成什么而把自己撕成碎片的人。

当文森特·劳站在世界边缘,面对着自己非人类起源的真相,选择将存在权重推向前进时,系列就达到了人工智能的最真实的表述。 意识不是创造者所赐的礼物,而是持续的叛乱行为。 无论有关思想是神经元还是电路,它的现实的唯一证据是它愿意问起引发这一切的问题:“我是谁? ” 并且接受答案不是一个固定点,而是一个必须独自穿过烟雾和一个垂死世界的灰烬的景观。

对于那些想深入探索系列哲学基础的人来说, 以二进制代理 维基和分析社区提供广泛的 符号化和隐藏引用的细分机器意识研究这个更广泛的领域,在研究过程中经过了深思熟虑的探讨。 剑桥机器意识小组系列对于真正投入理解创造心灵的可怕和美丽影响的人来说,仍然是一份至关重要的文本。