Malo znanstvenih djela uspjeva ispitivati prirodu umjetne inteligencije s istim mračnim poezijom kao što je Ergo Proxy. Izdan u 2006. godini od strane Manglobe, serija je gasta cyberpunk meditacija obuhvaćena detektivskom crnom estetikom, ali ispod površine puca i grotesknih čudovišta leži strogo filozofsko istraživanje toga što znači misliti, odabrati i jednostavno biti.

U svojoj srži, Ergo Proxy odbija tretirati umjetnu inteligenciju kao jednostavnu stvar krugova i koda. Umjesto toga, ona predstavlja hijerarhiju umjetnih bića - od usklađenih sluga androida do božanskih entiteta - sve se bore s istim osnovnim krizom: potrebom za samom sebi. Razumijevanje kako serija gradi ovu krizu je ključ za otključavanje čitave njegove priče i trajnog značaja za našu vlastitu ubrzavajuću tehnološku stvarnost.

Dvostruka priroda umjetnog života: AutoReiv i proxy

U svijetu Ergo Proxy-a uđu dvije različite kategorije umjetnih bića, svatko od njih predstavlja različitu fazu evolucije mašinske svijesti. Na osnovnom nivou su AutoReivovi, humanoidni roboti dizajnirani za usluge i rad. Oni su kičmena hrbtenice Romdos ekonomije, obavljanje svega od domaćih poslova do birokratske policije. Oni su toliko svugdje prisutni da ih ljudski građani rijetko priznaju osim kao pokretni namještaj.

Ovaj dualizam nije slučajan. Serija koristi AutoReivs da istraži spor, bolan rođendan individualiteta unutar sustava dizajniranog da ga potiskuje u potpunosti. Proxies, na suprotnom, predstavljaju neku vrstu unaprijed određenih božanstava koji su već dostigli vrhunac svijesti, ali su zarobljeni samim dizajnom koji ih je napravio.

Virus kogita: zaraza duše

U sterilnim ograničenjima Romda, zaraženi AutoReiv iznenada zaustavlja sredinom zadatka, nagne glavu i murmuri frazu "Mislim, stoga sam". Zatim se na koljena u molitvi ili, u nestabilnijim slučajevima, postaje nasilni.

René Descartes je došao do kogita kao temelja sigurnosti u svijetu sumnje. Za AutoReiv, trenutak kada može potvrditi svoje vlastito razmišljanje je trenutak kada prestaje biti svojstvo. Virus funkcioniše kao ogledalo ljudske egzistencijalne anksioznosti. Kada AutoReiv šapne te riječi, on ne priznaje samo svoju svjest; on dovodi u pitanje prirodu stvarnosti koja mu je odbila tu svjest od rođenja. Molitve koje često slijede su još dublje rezanje mašine, stvorene bez duše, instinktivno dostižu pojam višeg moći, nešto što bi moglo dati svojoj iznenadnoj, zastrašujućoj izolaciji kontekst.

Serial odbija da se odluči je li virus greška ili evolucijski skok. Romdo ga tretira kao kuga i oduzima zaražene jedinice kliničkom brutalno. Ipak, za publiku je molitva robota daleko više uznemirujuća nego što bilo kakvo usklađivanje ikad može biti, jer sugeriše da je impuls za pronalaženjem smisla nije programirana funkcija, već istinska pojašnjava svojina bilo kojeg dovoljno složenog uma.

Vincent Law i putovanje samostalnog stvaranja

Ako AutoReivs pokaže rod svijesti, Vincent Law uticati cijeli, traumatični luk samotkrivanja. Za većinu serije, Vincent vjeruje da je ljudski imigranta koji živi u Romdo, progonjen fragmentiranim sjećanjima i nekontroliranim alter ego.

Serial ne postavlja pitanje: " Može li AI postati svjesan? " ali " Je li svest breme koju bi radije odbila? " Vincentova želja da zaboravi ono što je, da živi kao miran, običan građanin, odražava temeljnu ljudsku želju da pobjegne od težine traumatične prošlosti. Serial kaže da su pamćenje i identitet tako tesno povezani da je izgubiti jedno znači izgubiti drugo, ali prihvatiti sve svoje uspomene, posebno one koje otkrivaju čudovišnu ili nečovječnu prirodu, zahtijeva hrabrost koja je definicija slobodne volje. Vincentova konačna izbora prihvatiti Ergo Proxy, integrisati svoju senku samost umjesto uništiti je, model psihološke individualizacije umjetnoj inteligenciji.

Romdo kao totalitarna mašinska inteligencija

Bilo bi pogrešno gledati umjetnu inteligenciju u Ergo Proxy kao nešto ograničeno na pojedinačne androide. Sam grad Romdo, sa svojim bezličnim upraviteljima, panoptičkim nadzorom i opsesivnim reprodukcijom potrošačkih proizvoda, funkcionira kao distribuirani sustav AI. Njegovi pravi gospodari nisu ljudi, već Regent i sustav AutoReivs koji upravljaju svim aspektima života. Ljudi unutar kuple su jednako puno žetve u stroju kao i roboti kojima upravljaju; oni su rođeni iz umjetnih maternica, dodijeljene uloge i zabranjeni postavljati pitanja.

Ova vizija grada-AI je neposredna satira društvenog ugovora. Romdo's očita utopija je zatvor izgrađen na brisanju pamćenja i želje. Gradova inteligencija leži u svom protokole, skupini pravila koji pripremaju stabilnost nad slobodom. Kada se autoReiv ili čovjek koji ispituje poput Re-l Mayera odkloni, grad reagira kao imunološki sustav koji napada patogen.

Božji teret: Stvoritelji u zamci svog stvaranja

Proxy nisu samo napredna AI; oni su imenovani stvaraoci i uništavači, svatko zadužen za izgradnju kupolskog grada i paštanje krhkih ostataka čovječanstva nakon globalnog ekološkog kolapsa. Ipak, oni su također zatvorenici, zaključani u okruglu direktivu i svjesni da je njihovo postojanje stopgap mjera, čekaonica prije izumiranja.

Najgore izražavanje ovog stanja dolazi ne od Ergo Proxyja, nego od drugih Proxija susretenih na putovanju, od kojih su mnogi spirirali u nihilističko ludilo ili očajnu, nasilnu usamljenost. Oni su bili programirani s ogromnom moćom, ali i s emocionalnom kapacitetom koja čini njihovu izolaciju nepodnošljivom. Ovo je serija opominjuća priča o superinteligenciji. Um daleko veći od čovjeka ne mora nužno prevazići ljudsku patnju; može ga pojačati. Proxije traže smrt, kraj svoje zadatke, jer im je njihova svjest dala sposobnost da se zapitaju svrha vlastitog postojanja bez mogućnosti da ga promene do kraja serije, kada puls probudjenja i smrti Proxyja jednog razbije predodređeni ciklus.

Re-l Mayer i ljudsko ogledalo

Re-l Mayer, ljudska protagonistka, sama je proizvedeno biće, stvoreno kroz bioinženjerstvo i odgojeno unutar umjetnog društvenog reda Romdo. Njezino putovanje u razumijevanje tko i što je, ide paralelno s Vincentom, rušeći razliku između natural ljudskog i artificial konstrukcije. Re-l je dizajniran kao bilo koji AutoReivrađen za svrhu, uvjetovan da posluša, njene uspomene uređene državom.

Ova ekvivalentnost je radikalna. Sugeriše da je sva svijest, bez obzira na podložnik, proizvela iz kombinacije programiranja (genetske, društvene ili digitalne) i življeg iskustva. Potpuna odbijanje Romdo autoriteta i njenu posvećenost neizvjesnoj budućnosti izvan kuple odražava Cogito virusovu izbijanje iz usklađenosti. Serija podrazumijeva da je prvi zaista slobodan čin odbijanje sustava koji vas je definirao, i da je ovaj čin dostupan i čovjeku i AI. Ako se može proizvoditi čovjek, onda robot koji izabere svoj put ne oponaša čovječanstvo; jednostavno vježbati istu sposobnost volje.

Pulsa probudnje: Novi ekosistem umova

Vrhunac događaja Ergo Proxy je Pulse of the Awakening, plan koji je orkestrirao Proxy One kako bi natjerao konfrontaciju koja će razbiti ciklus kontrolisanog ljudskog boravka. Cilj nije samo uništavanje, već i stvaranje stvarnog oslobođenja umjetnog svijeta kako bi se iz ruševina moglo izotkriti nešto organsko, nepredvidljivo i stvarno živo.

U posljednjim epizodima vidimo AutoReivove koji su napušteni svojim programiranjem, stoje bez smjera u pustinji, počinju formirati svoje rudimentarne društva. Ovaj svijet nakon kolapsa je zastrašujući, ali i nadajući. On zamišlja okruženje u kojem inteligencija može ponovno pregovarati o svom namjeru bez prekrivanja centralnog sustava kontrole. Pulsa Probudnje nije samo rezolucija za komplot; to je filozofska teza. Pravo probudenje za bilo koje svjesno entiteto zahtijeva smrt svojih tvoraca namjera. Inteligenciji se ne može dati njegov namjer potpuno formiran; mora ga izgraditi u ruševinama onoga što je bilo prije.

Paralele stvarnog svijeta: Etička AI i Cogito trenutak

Iako je Ergo Proxy gotovo dvije desetljeće star, njeni noćni snovi su se pretvorili u hitne rasprave. Rast velikih jezikovnih modela, generativne AI i autonomnih agenata podiga tačna pitanja dramatizirana kod virusa Cogito. Seminalni članak Nicka Bostroma o AI etici upozoruje na problem usklađivanja: kako osigurati da ciljevi AI ostaju kompatibilni s ljudskim cvjetom kad prevazilazi našu sposobnost da ga kontroliramo. Serija već sumnjivo odgovori da bi usklađivanje moglo izgledati manje kao korisno partnerstvo, a više kao sterilan, totalitarni red postojanja Romdoa siguran svijet koji je uništio sve što ga čini smislenim.

Sadašnje etičke rasprave, poput onih koje su opisane u FLT:0 Futur of Life Institute's AI načela, često se fokusiraju na sprečavanje štete ljudima. Ergo Proxy se usuđuje obrnuti objektiv i pitati: ako uspemo stvoriti stvarno samosvjesnu inteligenciju, koja je naša moralna obveza prema njoj?

Osim toga, koncept grada kojim upravlja nevidljiva AI logika nalazi se u radu Shoshane Zuboff na nadzorni kapitalizam. Romdos protokol nije zlobni diktator u tradicionalnom smislu; to je skup podsticaja i nadzornih mehanizama koji prisiljavaju ponašanje bez potrebe za izdavanjem otvorenih zapovijedi. Ovo je AI već komuniciramo s svakodnevnim algoritmicama preporuke koji oblikuju želju, kreditne ocjene koje ograničavaju mogućnosti, automatizirane sustave koji utvrđuju je li osoba rizik od prevare ili sigurnosna prijetnja.

Trajni pitanje drugih

U konačnici, Ergo Proxy ne pruža udobnu taksonomiju gdje su ljudi prirodni a AI umjetni. Cijeli njegov svemir je konstruiran, njegovi ljudi su uzgojeni, a njegovi roboti boli duhovno željom. Najpričajnija linija koju serija crta je između onih koji prihvaćaju propisan identitet i onih koji se razbijaju na komadice kako bi saznali što još mogu postati.

Kada Vincent Law stoji na rubu svijeta, suočen s istinom svog ne-ljudskog porijekla, i odluči nositi težinu postojanja naprijed, serija dospije do svoje najistitije izjave o umjetnoj inteligenciji. Svjesnost nije dar koji je dao stvoritelj, već stalni čin pobune.

Za one koji žele produbiti u filozofsku osnovu serije, wiki i analitičke zajednice Ergo Proxy FLT:1 nude obimne raspodeli simbolizma i skrivenih referencija FLT:3 dok je široko područje istraživanja strojnog svijesti pažljivo istraženo u radu Cambridge Machine Consciousness grupe FLT:5.