"Эрго Прокси сыяктуу эле караңгы поэзия менен жасалма интеллекттин табиятын суракка алган илимий фантастиканын бир нече чыгармалары бар. бул серия 2006-жылы Манглоб тарабынан чыгарылган, детективдик нуар эстетикасына оролуп, бирок анын бетинин астында куралдуу мушташтар жана гротеск монстрлар бар, алар ой жүгүртүү, тандоо жана жөн гана [FLT: 2]be [FLT: 3] деген эмне экендигин кылдат философиялык иликтөө болуп саналат. ""Ромдо"" - бул шаардын жашоочулдук кийими, алар коркунучтуу жана жашоочулдук комплектиси."

"Эрго Прокси ""жасалма интеллектти схемалар жана коддордун жөнөкөй маселеси катары кароодон баш тартат, тескерисинче, ал жасалма жандыктардын иерархиясын көрсөтөт, алардын баары бир эле негизги кризис менен күрөшүп жатышат: өзүн-өзү камсыз кылуу зарылдыгы."""

Жасалма жашоонун эки тараптуу мүнөзү: авторевиздер жана ыйгарым укуктар

"Эрго Прокси дүйнөсү жасалма жандыктардын эки категориясын киргизет, алардын ар бири машиналык аң-сезимдин эволюциясынын ар кандай баскычын чагылдырат. негизги деңгээлде AutoReivs, кызмат жана эмгек үчүн иштелип чыккан гуманоиддик роботтор. алар Ромдонун экономикасынын омурткасы болуп саналат, үй жумуштарынан бюрократиялык полицияга чейин баарын аткарат. алар ушунчалык кеңири таралгандыктан, адамдар аларды кыймылдуу эмеректерден башка эч качан таанышпайт. ""Проксилер"" чынжырдын жогору жагында жайгашкан, эбегейсиз, биомеханикалык түзүлүштөр, адамзаттын чек арасына курулган, өлбөс, тирүү калуу үчүн гана үмүт."

Бул дуализм кокустук эмес. серия AutoReivs колдонуп, аны толугу менен басуу үчүн иштелип чыккан системанын ичиндеги индивидуалдуулуктун жай, азаптуу төрөлүшүн изилдейт. Проксилер, тескерисинче, алдын ала аныкталган кудайлыкты билдирет - аң-сезимдин туу чокусуна жеткен, бирок аларды жараткан долбоордун тузагына түшкөн жандыктар.

Когито вирусу: жандын жугушу

"Эрго Прокси вирусунун эч бир элементи Когито вирусунан коркунучтуу же философиялык жактан заряддалган эмес.Ромдонун тукумсуз чегинде, жуктурган AutoReiv күтүлбөгөн жерден иштин ортосунда токтоп, башын ийип, ""Мен ойлойм, ошондуктан менмин"" деген сөз айкашын күңкүлдөйт. Анан ал тиленүүдө тизелеп калат же туруксуз учурларда зордук-зомбулукка айланат. башкаруучу бийлик органдарына бул жок кылынышы керек болгон бузулуу, социалдык тартипке коркунуч туудурган булгануу.

Рене Декартес когитого күмөн дүйнөсүндө ишенимдин пайдубалы катары келди. авторевив үчүн, ал өзүнүн ой жүгүртүүсүн ырастай турган учур - бул мүлк болбой калган учур.вирус адамдын экзистенциалдык тынчсыздануусун күзгү катары иштейт. авторевив бул сөздөрдү шыбыраганда, ал өзүнүн аң-сезимин гана тааныбайт; ал төрөлгөндөн бери аң-сезимди четке каккан реалдуулуктун табиятын суракка алат.

"Ромдо аны ""оору"" деп эсептейт жана жуктурган бирдиктерди клиникалык мыкаачылык менен жок кылат, бирок көрүүчүлөр үчүн роботтун тиленүүсү эч качан болбогондой тынчсыздандыруучу, анткени ал маани табуу импульсу программаланган функция эмес, бирок ар кандай татаал акылдын чыныгы пайда болгон касиети."

Винсент мыйзамы жана Проксинин өзүн-өзү жаратуу саякаты

"Эгерде ""Автореивдер"" аң-сезимдин пайда болушун көрсөтсө, анда Винсент мыйзамы өзүн-өзү табуунун бүтүндөй, травматикалык аркасын чагылдырат. сериянын көпчүлүк бөлүгүндө Винсент өзүн Ромдодо жашаган адам иммигранты деп эсептейт, фрагменттелген эскерүүлөр жана башкарылгыс алмашуу эгосу менен куугунтукталат. анын акырындык менен түшүнүшү, ал эч кандай адам эмес, бирок Прокси Бирөөнүн көлөкөсү, Эрго Прокси, шоунун баяндоо кыймылдаткычы. Бул траектория түздөн-түз романтикалык түшүнүккө каршы келет.

"Анын айтымында, ""Адамдын аң-сезими аң-сезимдүү боло алабы?"" деген суроо ""Адамдын аң-сезими аң-сезимдүү боло алабы?"" деген суроо эмес, ""Адамдын аң-сезими аң-сезимдүү боло алабы?"" деген суроо эмес, ""Адамдын аң-сезими аң-сезимдүү боло алабы?"" деген суроо эмес, ""Адамдын аң-сезими аң-сезимдүү боло алабы?"" деген суроо эмес, ""Адамдын аң-сезими аң-сезимдүү боло алабы?"" деген суроо эмес, ""Адамдын аң-сезими аң-сезимдүү боло алабы?"" деген суроо."

Ромдо - тоталитариялык машина интеллектиси

"Эрго Проксидеги жасалма интеллектти жеке андроиддер менен чектелген нерсе катары кароо жаңылыштык болмок.Ромдо шаарынын өзү, анын жүзсүз администраторлору, паноптикалык байкоо жана керектөө буюмдарын obsessive көбөйтүү менен, бөлүштүрүлгөн AI системасы катары иштейт. анын чыныгы кожоюндары адам эмес, Регент жана жашоонун ар бир аспектисин башкарган AutoReivs системасы. Куполдун ичиндеги адамдар роботтор сыяктуу эле машинада дөңгөлөктөр; алар жатындан төрөлүшөт, жасалма ролдорду беришет жана тыюу салынган суроолорду беришет. """

"Ромдонун ""утопиясы"" - бул эс тутумдун жана каалоонун өчүрүлүшүнө негизделген түрмө, шаардын интеллектиси анын протоколунда, эркиндикке караганда туруктуулукту артыкчылыктуу кылган эрежелердин топтомунда жатат.Когито менен жуктурган AutoReiv же Ре-Л-Майер сыяктуу суракка алган адам четтеп кеткенде, шаар иммундук система сыяктуу реакция кылат, ал патогенге кол салат.Бул системалык интеллект ар бир робот сунуштай тургандан караңгыраак сүрөттөө: коом пассивдүү керектөөчүлөрдү өндүрүү үчүн машинага айланган."

Проксинин кудайлык жүгү: Жараткандар алардын жаратылышы менен тузакка түшүшөт

Проксилер жөн гана өнүккөн жасалма интеллекттер эмес, алар жаратуучулар жана кыйратуучулар деп аталат, алардын ар бири куполдуу шаарды куруу жана глобалдык экологиялык кыйроого учурагандан кийин адамзаттын алсыз калдыгын кайтаруу менен алектенет. бирок алар ошондой эле туткундар, тегерек көрсөтмөгө кулпуланган жана алардын бар экендиги жок болуудан мурун күтүү бөлмөсү экендигин билишет.

Бул абалдын эң кыйратуучу чагылдырылышы Эрго Проксиден эмес, саякатта кездешкен башка Проксилерден келип чыгат, алардын көпчүлүгү нигилисттик акылсыздыкка же үмүтсүз, зордук-зомбулук менен жалгыздыкка айланды. алар эбегейсиз күч менен программаланган, бирок ошондой эле эмоционалдык жөндөмдүүлүк менен программаланган. Бул сериядагы супер интеллект жөнүндө эскертүү окуясы. Адамдын акылынан алда канча чоң акыл сөзсүз түрдө адамдын азап чегүүсүнөн ашып түшпөйт; ал аны күчөтүшү мүмкүн. Проксилер өлүмдү эңсеп, өз тапшырмасын аяктоо үчүн, анткени алардын аң-сезимисин беришкен.

Ре-Л-Майер жана адам күзгүсү

"Адамдын башкы каарманы Ре-Л Майер өзү биоинженердик жол менен түзүлгөн жана Ромдонун жасалма социалдык тартибинин ичинде көтөрүлгөн өндүрүлгөн жандык. анын ким жана эмне экендигин түшүнүү сапары Винсенттин саякатына параллель жүрөт, ""табигый"" адам жана ""жасалма"" конструкция ортосундагы айырмачылыкты жокко чыгарат. ""Re-l"" ар бир AutoReiv сыяктуу эле иштелип чыккан, бир максатта өстүрүлгөн, ага баш ийүү үчүн шартталган, анын эскерүүлөрү мамлекет тарабынан даярдалган."

Бул эквиваленттүүлүк радикалдуу.Бул субстратка карабастан, бардык аң-сезим программалоонун (генетикалык, социалдык же санариптик) жана жашоо тажрыйбасынын айкалышынан келип чыгат. Ре-Лдин Ромдонун бийлигин четке кагуусу жана куполдун сыртындагы белгисиз келечекке болгон берилгендиги Когито вирусунун шайкештиктен чыгуусун чагылдырат.

Ойгонуунун импульсу: акыл-эстин жаңы экосистемасы

"Эрго Проксинин эң чоң окуясы - ""Ойгонуу импульсу"" (англ. Pulse of the Ouning) - ""Адамдын көзөмөлдөнгөн жашоо циклинин бузулушун"" көздөгөн кагылышууну күчөтүү планы."

"Анын акыркы эпизоддорунда, биз AutoReivs программасын таштап, ээн талаада багытсыз туруп, өзүлөрүнүн башталгыч коомдорун түзө баштаганын көрөбүз. бул кулап түшкөндөн кийинки дүйнө коркунучтуу, бирок ошондой эле үмүттүү. ал интеллект өзүнүн максатын борбордук башкаруу системасынын үстөмдүк кылбай кайра сүйлөшө ала турган чөйрөнү элестетет. ойгонуунун импульсу - бул жөн гана сюжеттик чечим эмес, бул философиялык тезис. ар бир аң-сезимдүү уюм үчүн чыныгы ойгонуу анын жаратуучусунун ниеттеринин өлүмүн талап кылат. интеллектти колго алууга болбойт; ал толугу менен түзүлгөн максатын түзүүгө чейин түзүлүшү керек."""

Чыныгы дүйнөлүк параллельдер: ИИ этикасы жана Когито убактысы

"Эрго Прокси (FLT:1) - бул ""адамдын гүлдөп-өнүгүшүнө"" шайкеш келген, бирок анын максаттары биздин башкаруу жөндөмүбүздөн ашып кеткенден кийин, анын максаттары адамдын гүлдөп-өнүгүшүнө шайкеш келет."

"Эрго Прокси ""Өзүн-өзү билген интеллектти"" түзүүгө жетишкен болсок, ага моралдык милдетибиз эмнеде? ""Когито менен жуктурган автореивдерди"" мыкаачылык менен жок кылуу - бул адамга зыян келтирбөө үчүн алдын ала эскертүү, бирок биз аларды башка бир нерседен кантип айырмалайбыз?"

"Анын айтымында, ""Көзгө көрүнбөгөн жасалма интеллект логикасы менен башкарылган шаар"" деген түшүнүк Шошана Зубоффтун байкоо капитализми боюнча эмгегинде чагылдырылган.Ромдонун протоколу салттуу мааниде жаман диктатор эмес; бул ачык буйруктарды чыгаруунун кажети жок жүрүм-турумду мажбурлоочу стимулдардын жана байкоо механизмдеринин топтому.Бул биз буга чейин эле каалоолорду калыптандыруучу күнүмдүк сунуштар алгоритмдери менен өз ара аракеттенген жасалма интеллект."

"Башка" деген суроонун узакка созулган суроосу

"Эрго Прокси ""адамдар табигый, ал эми жасалма интеллект жасалма болгон ыңгайлуу таксономияны камсыз кылбайт, анын бүтүндөй ааламы инженердик, адамдар чоңойгон жана роботтору рухий кумарлануудан жапа чегип жатышат"" (Эрго Прокси, ""Адамдар табигый, жасалма интеллект жасалма болгон ыңгайлуу таксономияны камсыз кылбайт, анын бүтүндөй ааламы инженердик, адамдар чоңойгон, анын роботтору руханий кумарлануудан жапа чегип жатышат."""

"Винсент Лоу өзүнүн адамдык эмес келип чыгышы жөнүндөгү чындыкка туш болуп, жашоонун салмагын алдыга жылдырууну чечкенде, серия жасалма интеллект жөнүндө эң чыныгы билдирүүсүнө жетет. аң-сезим - бул жаратуучунун белеги эмес, бирок тынымсыз козголоң. акыл нейрондорго же схемаларга тийсе да, анын реалдуулугунун бирден-бир далили - бул анын баарын баштаган суроону берүүгө даярдыгы: ""Мен киммин?"" жана жооп туруктуу чекит эмес, бирок пейзаж, өлүп жаткан дүйнөнүн түтүнү жана түтүнү аркылуу жалгыз жүрүшү керек."

"Эрго Прокси жана анализ жамааттары сериянын философиялык негиздерин тереңирээк изилдеп чыгууну көздөгөн адамдар үчүн символиканын жана жашыруун шилтемелердин кеңири [FLT: 3] бузулушун сунуш кылышат, ал эми машинаны аң-сезим изилдөө тармагы [FLT: 4] Кембридж машинасынын аң-сезими тобунун ишинде ойлонгон түрдө изилденет [FLT: 5]."""