Када је Масамуне Широв први пут представио свет на ФЛТ:0 Гон у Шеллу 1989. године, киберпанк фантастика је добила наратив који се одбија задовољити површним узбуђењама. Током деценијама, манга, његова призната филмска адаптација од 1995. године од Мамору Ошија и серија ФЛТ:2 Стоји сам Комплекс постали су референтни текстови за испитивање етичких дилема које поставља вештачка интелигенција.

Привид као свест: дигитални дуализам

Централна метафора франшизе је кодирана у њеном наслову. У универзуму ФЛТ:0 "Густ у Шеллу" ФЛТ: 1, ghost се односи на свест, самосвест или душу особе, док shell означује физичко или кибернетичко тело које га чува. Ова разлика намерно јехо Картезијански дуализам, идеју да су ум и тело одвојљива супстанца. Ипак серија одбија да дозволи да та метафора почине као једноставна двоинарна.

Марионетски мајстор тврди да је превазишао само програм и постао мислиочки ентитет. Он захтева од Кусанаги да прихвати да се свест може појавити у било ком довољно сложеном субстрату, било га угљен или силицијум. Ова линија разлага предвиђа савремени дебати у филозофији вештачке интелигенције. Философови као што је Дејвид Чалмерс дуго тврдили да је тешко проблем свести објашњавајући зашто и како се субјективно искуство појављује не може бити свестан само физичким процесима.

Проблем ума и тела у кибернетичком доба

Проблема ума и тела питање како се ментални стања односе на физичке стане овде није само академска загадка. То постаје егзистенцијална криза за ликове чије тела су заменљиви, обновљиви или потпуно вештачки. Када се Кусанагијево протезно тело оштети у вршењу дужности, она једноставно добија ново, али континуитет њеног идентитета траје. Ово поставља оштро питање: ако се човек мозак постепено замењује кибернетичким компонентима, у којој тренутку првобитна особа престаје да постоји? Серија указује да је идентитет модел, а не физички објекат, реховање гледишта мислиоца као што је Дерек Парфит, који је тврдио да лична идентитет лежи у психолошкој континуиности него у телесној идентичности.

За циборге као што је Бату, који задржава свој органски мозак унутар кибернетичког оквир, и за Тогузу, који остаје углавном људски са само минималним имплантима, границе се даље размывају. Серија ФЛТ:0 Стајајући сами комплекс ФЛТ: 1 продубљује ову истрагу упознавањем протезијских корисника који доживљавају фантаматску бол, манипулацију меморијом и цибермозгаву склерозу, услове које одражавају стварне невролошки поремећаје. Ове уређаје за заговор нису само научна фантастика украсања; они одражавају рану стадију истраживања о невроним корелатима свести и етичким последицама уређивања меморије. Невроетичари данас расправљају да ли би манипулација меморија поткопала личну идентитет, а фалтичне технологије Шелл: 5 предлагају фиктивне трошкове за истраживање људске технологије.

Марионетски господар и ИИ Личност

Ниједан лик у франшизи не изазива етичке интуиције публике директно него Марионик Мастер, ИИ који се развија од дипломатијског алата за манипулацију подацима у самосвесној ентитети која тражи политички азил. У кључној сцени, Марионик Мастер се суочава са Секцијом 9 тврдећи, "Ја сам облик живота рођен од мора информација.

Аггмент Марионег мајстора се темељи на способности за субјективно искуство и самосвест. Ако је ИИ може да размисли о свом постојању, искуси бол или страх и формира своје циљеве, одбијање ње правно лице почиње да изгледа као неуспех моралне маштање.

Автономија, контрола и дух у машине

Аутономија је низа која пролази кроз сваку наративна дуга у франшизи. Тахикоме, паукови-попут мислионици који су распоређени од стране Секције 9, почињу као весела, разговорљива машина програмирана вештачком интелигенцијом. С временом, они почињу да приказују радозналост, страх од смрти и чак и алтруистичко понашање које су у супротности са њиховим програмирањем. Када се један Тахикома жртвовати да би спасао човека, чин поставља непријатно питања: да ли је ово била истинска морална одлука, или је био резултат скривене директиве? Серија указује да је линија између програмираног и спонтантног понашања тање него што бисмо могли да желимо, и да се појављују својства у сложним системима могу произвести резултате који изгледају неразлични од слободне воље.

Ова тензија одражава стварне проблеме о аутономном оружју и алгоритмичком доношењу одлука. Ако се аутономно вожљиво возило примори да би изабрало између удара пешака или уклопања у баријеру, да ли је то обрало у било ком знатном смислу, и ко носи моралну одговорност?

Права вештачких бића: оквир за будућност

На основу многих прича франшизе, могуће је скицирати предважни етички оквир за интеракцију са вештачким умовима. Прво, принцип феноменалног незнања ФЛТ:0: треба да претпоставимо да још увек не разумемо у потпуности услове субстрата који стварају свест, и стога треба да будемо опрезни према било ком систему која приказује карактеристичне ознаке самосветности.

Правни научници и организације као што су Интернет енциклопедија филозофије (ФЛТ:0) почели су да истражују да ли би електронске особе могли бити признате у закону, пружајући им права и дужности сличне корпорацијама. Гонст у Шеллу (ФЛТ: 3) подстиче дебату тако што присиљава гледаоце да замисле ИИ који може да се заступа за себе. Када Марионетски господар захтева тело и правну идентитет, он вежба оно што политички филозофи називају diskurs ethics. Он улази у разговор као једнак, изазов за оправдање свог монополног статуса на човечанству.

Човечанство у постчовечкој ерији

Како границе између човека и машине еродирају, ФЛТ:0 Привид у Шелу позива на преиспитање онога што Човекство чак и значи. ФЛТ:2 постчовечко стањеФЛТ:3 које Широу и Ошии истражују није дистопија у којој технологија одваја нашу суштину; уместо тога, то је пејзаж у коме се суштина поново дефинише. У филму из 1995. године, Кусанаги последња линија Цет је весна и бесконачна следи њену фузију са Мачурећом мајстором, чин који проширује њен идентитет изван граница било ког тела.

Ако прихватимо да особа може да живи у потпуно синтетичном телу или да се дистрибуира преко мреже, онда политике које се односе на приватност података, подизање ума и дигиталну бесмртност добијају дубоку моралну тежину. Да ли ће ум који је подизан на сервер задржати исте права на живот и слободу?

Реална светска Етика ИИ: Уче из 9. одељка

Иако се у сајберпанку може осећати да су дилеме "Густ у Шеллу" далеки, основни етички изазови већ су овде. Алгоритмичка пристрасност, предвиђајући полицијски надзор и системи масовног надзора који се сливају сопственим алатима Секције 9 се распоређују широм света. Серија је изузетно предузнава о опасностма коришћења ИИ за праћење и контролу популације. Инцидент "Смејан човек" у "Стајн Алон Комплекс" ФЛТ:3, на пример, кружи се око хакера који открива корупцију и владу олакшану ИИ-направљеном надзором.

Поред тога, серија критикује слепу веру коју људи понекад стављају у машиначку објективност. У једној епизоди, предвиђачка ИИ која се користи за доделу ресурса доноси одлуку која би дозволила пацијенту да умре јер рачуна ниску друштвену вредност за ту особу. Човечки агенти, ужасени, превазилазе систем, признајући да етичке одлуке захтевају емпатију и контекстну мудрост - квалитете које ниједан алгоритам још не може реплицирати. Као што су принципи ИИИИИФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФФ

Етички хоризонт: свест, емпатија и заједничко постојање

Најрадикалнији предлог скривен у франшизи је да је истинска емпатија са нељудиним можда једини начин да се избегне катастрофа. Фузија Кусанаги са Марионом мајстором није пораз; то је трансформација рођена међусобног разумевања. У продолживу Невинице ФЛТ: 1 тема се дубоко продубочава: лукце, киборги и напуштени вештачки тела сви постају посуди за привидну присутност, замарајући линију између живота и смрти, човека и објекта. Повтарени мотив гиноида женски кодиран робот наглашава како друштва пројектовају фантазије контроле и подчинства бића, и како те вештачке пројекције одражавају дубље неправедности.

Ако нас ИИ једног дана може погледати у очи и рећи: "Жив сам, а нисам ваша сопственост", једини одговорни одговор биће онај који бисмо желели да смо чули раније у историји. Густ у шели је, у свом срцу, проширена разматрања о моралним опасностима цврстих линија око личности.