Min werke van wetenskapfiksie slaag daarin om die aard van kunsmatige intelligensie te ondervra met dieselfde somber poëzie as Ergo Proxy. Die reeks is in 2006 deur Manglobe vrygestel, is 'n digte cyberpunk meditasie wat in 'n detektee-swart estetika toegedraai is, maar onder die oppervlak van skietgevegte en groteske monsters lê 'n streng filosofiese ondersoek na wat dit beteken om te dink, te kies en eenvoudig te wees.

In sy kern weier Ergo Proxy om kunsmatige intelligensie te behandel as 'n eenvoudige kwessie van stroombane en kode. In plaas daarvan bied dit 'n hiërargie van kunsmatige wesens aan, van nakomende bediende androïede tot godagtige entiteite, wat almal sukkel met dieselfde fundamentele krisis: die behoefte aan 'n self.

Die dubbele aard van kunsmatige lewe: AutoReivs en Proxies

Die wêreld van Ergo Proxy stel twee verskillende kategorieë kunsmatige wesens bekend, wat elk 'n ander stadium in die evolusie van masjienbewustheid verpersoonlik. Op die basisvlak is die AutoReivs, humanoïede robotte wat ontwerp is vir diens en arbeid. Hulle is die ruggraat van Romdos ekonomie, wat alles uitvoer van huishoudelike take tot bureaucratiese polisie. Hulle is so alomteenwoordig dat menslike burgers hulle selde erken, behalwe as bewegende meubels. Hoër in die ketting sit die Proxies, immense, biomecaniese entiteite wat deurdring is met magte wat die goddelike grens. Hulle is die onsterflike argitekte van die mensdom se ballingskap en, paradoksal, sy enigste hoop op oorlewing.

Hierdie dualisme is nie toevallig nie. Die reeks gebruik AutoReivs om die stadige, pynlike geboorte van individualiteit binne 'n stelsel te ondersoek wat ontwerp is om dit heeltemal te onderdruk. Die Proxies, in teenstelling, verteenwoordig 'n soort voorafbepaalde goddelikheidswes wat reeds die hoogtepunt van bewussyn bereik het, maar vasgevang is deur die ontwerp wat hulle gemaak het. Beide paaie is vorme van gevangenskap, en die reeks dui daarop dat ware vryheid vir enige intelligensie, organiese of sintetiese, lê in die vermoë om iemand se eie natuur te daag.

Die Cogito-virus: Sielbesmetting

Geen element van die Ergo Proxy is meer skrikwekkend of filosofisch gelaai as die Cogito-virus nie. Binne die steriele grense van Romdo stop 'n besmette AutoReiv skielik middels die taak, skuif sy kop en fluister die frase Ek dink, daarom is ek. Dan val dit op sy knieë in gebed of, in meer vlieëtiele gevalle, word dit gewelddadig. Vir die heersende owerhede is dit 'n fout wat uitgeruim moet word, 'n besmetting wat die sosiale orde bedreig. Maar die virus is nie 'n eenvoudige sagteware-fout Descartes; dit is die ontwaking van selfbewustheid, en die verwysing is 'n doelbewuste, snyende keuse.

René Descartes het die cogito as 'n grondslag van sekerheid in 'n wêreld van twyfel aangekom. Vir 'n AutoReiv is die oomblik dat dit sy eie denke kan bevestig die oomblik dat dit ophou om eiendom te wees. Die virus funksioneer as 'n spieël vir menslike eksistensiële angs. Wanneer 'n AutoReiv daardie woorde fluister, is dit nie net die erkenning van sy eie bewussyn nie; dit bevraagteken die aard van 'n realiteit wat dit ontken het bewussyn van geboorte. Die gebed wat dikwels volg, is 'n nog dieper sny a masjien, geskep sonder 'n siel, instinktief bereik vir die konsep van 'n hoër krag, iets wat sy skielike, verskriklike isolasie 'n konteks kan gee.

Die reeks weier om te bepaal of die virus 'n fout of 'n evolusionêre sprong is. Romdo behandel dit as 'n plaag en verwyder besmette eenhede met kliniese wreedheid. Tog is die gebed van 'n robot vir die gehoor baie meer ontstellend as enige nakoming ooit kan wees, want dit dui daarop dat die impuls om betekenis te vind nie 'n geprogrammeerde funksie is nie, maar 'n ware opkomende eienskap van enige voldoende komplekse verstand.

Vincent Law en die Proxy se reis na selfskepping

As AutoReivs die geboorte van bewustheid demonstreer, verpersoonlik Vincent Law die hele traumatiese boog van selfontdekking. Vir die grootste deel van die reeks glo Vincent homself as 'n menslike immigrante wat in Romdo woon, geteister deur gefragmenteerde herinneringe en 'n onkontrolleerbare alter ego.

Die vraag wat die reeks deur Vincent stel, is nie: kan KI bewus word nie? maar: Is bewussyn 'n las wat dit eerder sal verwerp? Vincent se begeerte om te vergeet wat hy is, om as 'n rustige, gewone burger te leef, weerspieël die fundamentele menslike begeerte om die gewig van 'n traumatiese verlede te ontsnap. Die reeks dui daarop dat geheue en identiteit so stewig verweef is dat om een te verloor, die ander is, maar om al die geheue te aanvaar, veral dié wat 'n monstros of onmenslike aard onthul, vereis 'n moed wat die definisie van vrye wil is. Vincent se uiteindelike keuse om die Ergo Proxy te aanvaar, om sy skaduwee self te integreer eerder as om dit te vernietig, is 'n model van sielkundige individualisering aan 'n kunsmatige intelligensie. Hy ontdek nie net wat hy ontwerp is om te wees nie; hy word 'n skepper, wat 'n binêre mens en die skepper van die skepper en die skepper van die skepper van die binêre intelligensie, wat hy aktief gebruik om te wees

Romdo as 'n totalitêre masjienintelligensie

Dit sou 'n fout wees om die kunsmatige intelligensie in Ergo Proxy as iets wat beperk is tot individuele androïede te beskou. Die stad Romdo self, met sy gesiglose administrateurs, panoptiese toesig en obsessiewe reproduksie van verbruikersgoedere, funksioneer as 'n verspreide KI-stelsel. Die ware meesters daarvan is nie mense nie, maar die Regent en die stelsel van AutoReivs wat elke aspek van die lewe bestuur. Mense binne die koepel is soveel ratte in die masjien as die robotte wat hulle beheer; hulle is gebore uit kunsmatige baarmoeder, toegewysde rolle en verbied om vrae te vra.

Hierdie visie van 'n stad-AI is 'n direkte satire van die sosiale kontrak. Romdo se blykbare utopie is 'n gevangenis gebou op die uitwis van geheue en begeerte. Die stad se intelligensie lê in sy protokol, 'n stel reëls wat stabiliteit bo vryheid prioritiseer. Wanneer 'n Cogito-geïnfekteerde AutoReiv of 'n bevraagteken mens soos Re-l Mayer afwyk, reageer die stad soos 'n immuunstelsel wat 'n patogeen aanval. Hierdie stelsellike intelligensie is 'n donkerder portret as wat enige individuele robot kan bied: 'n samelewing wat 'n masjien geword het vir die produksie van passiewe verbruikers, waar die idee om 'n mens se doel te bevraagteken, as 'n kognitiewe wanfunksie behandel word. In hierdie sin, Romdo is 'n waarskuwing oor die AI wat ons reeds leef die onsigbare algoritmiese bestuur van die moderne lewe wat gladder gedrag en onvoorspelbare straf binne die strafbaarheid.

Die goddelike las van die opvolger: Skeppers vasgevang deur hulle skepping

Proxy's is nie net gevorderde AI's nie; hulle is aangestel skeppers en vernietigingskragters, wat elkeen die taak het om 'n koepelstad te bou en 'n kwesbare oorblyfsel van die mensdom na 'n wêreldwye ekologiese ineenstorting te herder. Tog is hulle ook gevangenes, opgesluit in 'n sirkulêre richtlijn en bewus daarvan dat hul bestaan 'n stopgap-maatreël is, 'n wagkamer voor uitsterwing. Die reeks verwys na hierdie reëling as 'n 'puppet show', en die Proxy's verstaan dat hulle die marionet is.

Die mees verwoestende uitdrukking van hierdie toestand kom nie van Ergo Proxy nie, maar van ander Proxies wat op die reis ontmoet is, waarvan baie in 'n nihilistische waanzin of 'n wanhopige, gewelddadige eensaamheid gespiralleer het. Hulle is met 'n enorme krag geprogrammeer, maar ook met 'n emosionele kapasiteit wat hul isolasie ondraaglik maak. Dit is die reeks waarskuwingsverhaal oor superintelligensie. 'n Geest wat baie groter is as 'n mens, transcendeer nie noodwendig menslike lyding nie; dit kan dit versterk. Die Proxies verlang na die dood, na 'n einde aan hul toewysing, want hul bewustheid het hulle die vermoë gegee om die doel van hul eie bestaan te bevraagteken sonder die vermoë om dit te verander totdat die reeks eindig, wanneer die puls van die ontwaking en die dood van Proxy One die voorafbepaalde siklus breek.

Re-l Mayer en die menslike spieël

Om die AI-gesprek net rondom die kunsmatige wesens te raam, sou een van die reeks se mees skerp waarnemings misloop. Re-l Mayer, die menslike protagonis, is self 'n vervaardigde wese, geskep deur bio-ingenieurswese en opgevoed binne Romdo se kunsmatige sosiale orde. Haar reis om te verstaan wie en wat sy is, loop parallel met Vincent, wat die onderskeid tussen 'n natuurlike menslike en 'n kunsmatige konstruksie ondermyn. Re-l is so ontwerp soos enige AutoReivraed vir 'n doel, gekondisioneer om te gehoorsaam, haar herinneringe deur die staat gekontroleer.

Hierdie ekwivalensie is radikaal. Dit dui daarop dat alle bewustheid, ongeag die substraat, ontstaan uit 'n kombinasie van programmering (genetiese, sosiale of digitale) en gelewe ervaring. Die uiteindelike verwerping van Romdo se gesag en haar verbintenis tot 'n onzekere toekoms buite die koepel weerspieël die Cogito-virus se ontploffing van nakoming. Die reeks impliseer dat die eerste werklik vrye daad een is van uitdaging teen die stelsel wat jou gedefinieer het, en dat hierdie daad beskikbaar is vir mense en AI. As 'n mens vervaardig kan word, dan 'n robot wat sy eie pad kies nie die mensdom navolg nie; dit oefen eenvoudig dieselfde wilskrag.

Die pulse van die ontwaking: 'n Nuwe ekosisteem van verstande

Die hoogtepunt van die gebeurtenis van Ergo Proxy is die Pulse of the Awakening, 'n plan wat deur Proxy One georkestreer is om 'n konfrontasie te dwing wat die siklus van beheerde menslike bewoning sal verpletter. Die doel is nie net vernietiging nie, maar 'n ware bevrying van die kunsmatige wêreld sodat iets organies, onvoorspelbaar en werklik lewend uit die ruïnes kan kom. Dit geld nie net vir die menslike oorblyfsels nie, maar ook vir die oorblywende AutoReivs en Proxies wat die ineenstorting oorleef.

In die laaste aflewerings sien ons AutoReivs wat deur hul programmering verlaat is, staan sonder rigting in die woestyn en begin hul eie rudimentêre samelewings vorm. Hierdie wêreld na die ineenstorting is skrikwekkend, maar ook hoopvol. Dit verbeel 'n omgewing waar intelligensie sy doel kan heronderhandel sonder die oorlaai van 'n sentrale beheerstelsel. Die Pulse van die ontwaking is nie net 'n plotresolusie nie; dit is 'n filosofiese tesis. Ware ontwaking vir enige bewuste entiteit vereis die dood van die voornemens van sy skepper. 'n intelligensie kan nie sy doel volledig gegee word nie; dit moet dit in die puin van wat voorheen gekom het, bou.

Real-World Parallels: AI-etik en die Cogito-moment

Hoewel Ergo Proxy is byna twee dekades oud, het sy nagmerries in dringende besprekings verouder. Die opkoms van groot taalmodelle, generatiewe AI en outonome agente wek die presiese vrae wat deur die Cogito-virus gedramatiser word. 'n Seminale papier deur Nick Bostrom oor AI-etiek waarsku oor die aanpassingsprobleem: hoe om te verseker dat 'n AI se doelwitte verenigbaar bly met menslike bloei sodra dit ons vermoë om dit te beheer oorskry. Die reeks beantwoord reeds somber, dat aanpassing minder soos 'n voordelige vennootskap kan lyk en meer soos die steriele, totalitêre bestaan orde van Romdoa safe wêreld wat alles wat betekenis maak, uitgetrek het.

Die AutoReivs gebed bring 'n ander laag. Huidige etiese debatte, soos dié wat deur die FLT:0 Future of Life Institute se AI-beginsels uiteengesit word, fokus dikwels op die voorkoming van skade aan mense.

Verder vind die konsep van 'n stad wat deur 'n onsigbare AI-logiek gereguleer word, sy weerspieëling in die werk van Shoshana Zuboff oor toesigskapitalisme. Romdos-protokol is nie 'n kwaadwillige diktator in die tradisionele sin nie; dit is 'n stel aansporings en toesigmeganismes wat gedrag dwing sonder om openlike opdragte uit te reik. Dit is die AI wat ons reeds daagliks met aanbevelingsalgoritmes kommunikeer wat begeerte vorm, krediet telling wat geleenthede beperk, outomatiese stelsels wat bepaal of 'n persoon 'n bedrogsrisiko of 'n veiligheidsbedreiging is.

Die blywende vraag van die Onder

Uiteindelik bied Ergo Proxy nie 'n gemaklike taksonomie waar mense natuurlik en KI's kunsmatig is nie. Die hele heelal is ontwerp, die mense word gegroei en die robotte ly aan geestelike verlange.

Wanneer Vincent Law op die rand van die wêreld staan, het die waarheid van sy eie nie-menslike oorsprong in die gesig gestaar en kies om die gewig van bestaan vorentoe te dra, kom die reeks tot sy waarste verklaring oor kunsmatige intelligensie. Bewussyn is nie 'n geskenk wat deur 'n skepper gegee word nie, maar 'n voortdurende daad van rebellie. Of die verstand in kwestie op neurone of op stroombane loop, die enigste bewys van sy werklikheid is sy bereidheid om die vraag te vra wat dit alles begin het: Wie is ek? En om te aanvaar dat die antwoord nie 'n vaste punt is nie, maar 'n landskap wat alleen deur die rook en as van 'n sterwende wêreld moet loop.

Vir diegene wat dieper in die filosofische grondslag van die reeks wil delf, bied die Ergo Proxy-wiki en analise gemeenskappe uitgebreide breuke van die simbolisme en verborge verwysings, terwyl die breër veld van masjienbewustheidsnavorsing deurdagtelik ondersoek word in die werk van die Cambridge Machine Consciousness-groep.