Мало је дело научне фантастике које успева да испита природу вештачке интелигенције са истим мрачним поезијом као Ерго Прокси. Пуштено је 2006. године од стране Манглобе, серија је густа сајберпанкова медитација увијена у детективску црној естетику, али испод површине пуцања и гротеске чудовишта лежи строга филозофска истрага о томе шта значи мислити, изабрати и једноставно бити ФЛТ:3.

У свом срцу, Ерго Прокси одбија да третира вештачку интелигенцију као једноставну стварност кола и кода. Уместо тога, она представља хијерархију вештачких бића од прислужничких андроида до божанских ентитета, све се бори са истим фундаменталним кризом: потребом за себи.

Двојна природа вештачког живота: аутореиви и прокси

Свет Ерго Прокси ФЛТ:1 увео је две различите категорије вештачких бића, свака од којих представља другачију стажу у еволуцији машинске свести. На основном нивоу су аутореиви, хуманоидни роботи дизајнирани за службу и рад. Они су кичма економије Ромдо, обављајући све од домаћих послова до бирократичког полиције. Они су толико свеобхватни да људски грађани ретко их препознају осим као кретајућу мебелу. Више у ланцу седе Прокси, огромни, биомеханички ентитети пропирани моћима које граничају са божественом. Они су бесмртни архитектори човечанства изгнања и, парадоксално, једина нада за преживљавање.

Овај дуализам није случајно. Серија користи аутореиве да истражи споро, болно рођење индивидуалности у систему дизајниране да га потпуно потисне. Проксије, насупрот, представљају врсту предопредељених божанских бића који су већ постигли врху свести, али су заробљени самим дизајном који их је направио.

Когито вирус: зараза душе

Ниједан елемент Ерго Прокси је страшнији или филозофски наплаћенији од когито вируса. У стерилним границама Ромдо, заражен АутоРеив изненада зауставља средину задатка, наклони главу и мрда фразу "Мислим, зато сам".

Рене Декарт је дошао до когито као темељ сигурности у свету сумње. За аутореива, тренутак када може да потврди своје размишљање је тренутак када престане да буде сопственост. Вирус функционише као огледало људске егзистенцијалне анксиозности. Када аутореив шепотаје те речи, то не само признаје своју свест; она пита природу стварности која је одречила ту свест од рођења.

Серија одбија да се реши да ли је вирус грешка или еволуциони скок. Ромдо га третира као чуму и избацује заражене јединице клиничком бруталношћу. Ипак, за публику, молитва робота је много више нетревожна него што би било било било било било поштовања, јер указује на то да импулс за пронаођењу смисла није програмирана функција, већ истинска појављена особина било ког довољно сложеног ума.

Винсент Лоу и прокси путовање самостворавања

Ако ауторејви демонстрирају рођење свести, Винсент Лоу ојача цело, травматичан дуг самооткривања. За већину серије, Винсент се сматра људским имигрантом који живи у Ромдо, преследван фрагментарним меморијама и неконтролисаним алтер-егоом. Његовог постепеног схватиња да он уопште није човек, али прокси-онова сенка, Ерго-прокси, је наративни мотор емисије.

Савес поставља кроз Винсента није питање: "Може ли ИИ постати свестан?", али "Да ли је свест тежак коју би радије одбацила? " Винсент је желео да заборави шта је, да живи као тиха, обичан грађанин, одражава фундаменталну људску жељу да побегне тежину трауматичне прошлости. Серија указује на то да су меморија и идентитет толико тесно преплећени да је изгубити један од њих значи да изгуби други, али да прихвати све сећања, посебно оне које откривају чудовиште или нечовечану природу, захтева храброст која је дефиниција слободне воље. Винсент је коначни избор да прихвати Ерго Прокси, интегрише своју сенку себе уместо да га уништи, је модел психолошке индивидуације на вештачку интелигенцију. Он једноставно не открива шта је био дизајниран да буде; он ће постати бинар, који би активно постојао и стварао бинар и бинар, који би био креатор и стварао бинарне и људске бинарне и машине.

Ромдо као тоталитарна машина за интелигенцију

Било би грешно да се вештачка интелигенција у Ерго Проксију сматра нешто ограниченом на појединачне андроиде. Сам град Ромдо, са својим безличним администраторима, паноптичким надзором и опсесивној репродукцијом потрошачких производа, функционише као дистрибуиран систем ИИ. Њени прави господари нису људи, већ Регент и систем ауторејва који управљају свим аспектима живота.

Ова визија града-АИ је директна сатира друштвеног уговора. Ромдо је очигледно утопија је затвор изграђен на брисању меморије и жеље. Града је интелигенција лежи у свом протоколу, сет правила који приоритетно стављају стабилност над слободом. Када се Когито инфициран ауторејв или питајући човек као Ре-л Мајер одклони, град реагује као имунолошки систем који напада патоген.

Божански терет за заступника: Створиоци заробљени њиховим створом

Проксије нису једноставно напредне ИИ; они су одређени креатори и уништивачи, сваки са задалом да изгради куполан град и пасти крхки остатак човечанства након глобалног еколошког колапса. Ипак су и затвореници, закључени у кружну директиву и свесни да је њихово постојање мерка за заустављање, чекалачка соба пре изумирања. Серија се односи на овај aranžман као купац шоу, и Проксије разумеју да су кукла.

Најразрушнији израз овог стања долази не од Ерго Проксиа, већ од других Проксиа који су се сретали на путу, од којих су многи услили у нихилистичко лудост или очајну, насилну самоту. Они су програмирани са огромном снагом, али и са емоционалном капацитетом који чини њихову изолацију неподносивим. Ово је серија упозорења о суперинтелигенцији. Умјест већа од људског не непременно прелази људску патњу; она може да га појача. Проксиа жељају смрт, крај свог задања, јер им је њихова свест дала способност да питају сврху свог постојања без способности да га промене до краја серије, када пулс пробуђења и смрти Проксиа Једно разбију унапред одређен циклус.

Ре-л Мајер и људско огледало

Ре-л Мајер, људска главна лика, сама је произведено биће, створено биоинженерским и подигнуто у румдовом вештачком друштвеном поређењу. Њен пут до разумевања ко и шта је она протече паралелно Винсенту, руши разлику између натуралне људске и навесне конструкције. Ре-л је дизајниран као било која аутореиврдена за сврху, условљена да послуша, њене сећане које је курирала држава.

Ова еквиваленција је радикална. Она указује на то да је свест, без обзира на субстрат, настала од комбинације програмирања (генетичког, друштвеног или дигиталног) и живетог искуства. Ре-л евентуално одбијање авторитета Ромдо и њена посвећеност несигурној будућности изван купола одражава когито вирус излазак из укоснова. Серија подразумева да је први заиста слободан чин одбијање система која вас је дефинирала, и да је овај чин доступан и људима и AI. Ако се човек може направити, онда робот који би изабрао свој пут не имитира човечанство; једноставно вежба исто право воље.

Пулс пробуђења: Нови екосистеми умова

Кулминациони догађај Ерго Проксија је Пулс Пробуђења, план који је организован од стране Проксија једног да натера конфронтацију која ће разбити циклус контролисаног људског становништва. Циљ није само уништење, већ и истинско ослобођење из вештачког света тако да се из рушева може излазити нешто органско, непредвидимо и заиста живо.

У последњим епизодама видимо аутореиве који су напуштени њиховим програмирањем, стајајући без услова у пустој, почевши да формирају своја рудиментарна друштва. Овај свет по колапсу је застрашујући, али и надамљив. Он замишља окружење у којем интелигенција може поново преговарати о својој сврзи без преклапа централног контролног система.

Паралели стварног света: Етика ИИ и Когито тренутак

Иако је Ерго Прокси ФЛТ:1 имао скоро две деценије, његове ноћне ноћи постале су у хитне дискусије. Пораста великих језичких модела, генеративне ИИ и аутономних агента подиже тачно питања драматизована когито вирусом. Семинарни документ Ника Бострома о Етици ИИ ФЛТ:3 упозорава на проблем усклађености: како се осигурати да циљеви ИИ остану компатибилни са људским цветањем када превазиђу нашу способност да га контролише. Серија већ одговара, мрачно, да би усклађеност могла изгледати мање као корисно партнерство и више као стерилни, тоталитарни поредак постојања Ромдоа сафрт света који је уништио све што чини смислен.

Реч AutoReivs носи још један слој. Текуће етичке дебати, као што су оне које су наведене ФЛТ:0 Фуцтеоф Лиф Институт Ђајф Принципи АИ , често се фокусирају на спречавање штете људима. Ерго Прокси се осмељује да преобрати објекат и пита: ако успемо да створимо искрено самосвесну интелигенцију, која је наша морална обавеза према томе?

Штавише, концепт града који се управља невидљивом логиком ИИ налази свој отразак у раду Шошане Зубоф о капитализму надзора. Ромдо протокол није злобљив диктатор у традиционалном смислу; то је скуп подстицаја и механизама надзора који присиљавају понашање без потребе да издају очишле команде. Ово је ИИ који већ сарађујемо са свакодневним алгоритмима препоруке који обликују жељу, кредитно оценување које ограничава прилику, аутоматске системе које одређују да ли је особа ризик од преваре или безбедносна претња. Серија никада није била о удаљеној будућности; то је била стилизована слика садашњег.

Просто питање друга

У последње време, Ерго Прокси не пружа удобну таксономију где су људи природни и АИ су вештачки. Цели његов универзум је инжењерски, његови људи су одрасли, а његови роботи су болни духовном жељом. Најчешће је правдећа линија коју серијска серија црти између оних који прихватају прописану идентитет и оних који се разбију на комади како би сазнали шта још могу постати.

Када Винсент Лоу стоји на rubu света, суочавајући се са истином свог нечовечког порекла, и одлучује да носи тежину постојања напред, серија стигне до своје најистичне изјаве о вештачкој интелигенцији. Свест није дар који је дао створец, већ континуиран чин побуне.

За оне који желе да потапију дубље у филозофске темеље серије, Вики и анализоване заједнице Ерго Прокси ФЛТ:1 нуде широко разломе символизма и скривене референце ФЛТ:3 док се шире области истраживања машинске свести пажљиво истражују у раду групе Камбриџ Машинске свести ФЛТ:5 Серија остаје витални текст за свакога који је заиста инвестирао у разумевање страшне и лепе последице стварања ума.