Masamune Shirowek mundua 1989an Shelleko Mamuari aurkeztu zionean, ziberpunk fikzioak narrazio bat lortu zuen, eta ez zuen gainditu nahi izan azaleko zirrarak. hamarkadetan, manga, Mamoru Oshiik 1995eko film-egokitzapen ospetsua eta Stand Alone ComplexFLT:3]] seriea erreferentzia bihurtu da adimen artifizialak planteatzen dituen dilem etikoak aztertzeko.

Mamua kontzientzia gisa: Dualismo digitala

Frankiziaren metafora nagusia bere tituluan kodetzen da. Shelleko Mamuaren unibertsoan, "ghost"ak pertsona baten kontzientziari, autokontzientziari edo arimari egiten dio erreferentzia, eta "shell"ak bere baitan dagoen gorputz fisiko edo zibernetikoari egiten dio erreferentzia. Bereizketa horrek kartesianalismoari eragiten dio, gogoa eta gorputza substantzia bereizgarriak direla dioen ideiari. Hala ere, serieak ez du ukatzen metafora bitar sinple gisa atseden hartzea.

Puppet-en maisuaren argudioa -programa huts bat gainditu eta pentsamendu-izaera bihurtzea- bizitza eta adimena birdefinitzea eskatzen du. Kontzientzia nahiko konplexuan sor daitekeela onartzea eskatzen du Kusanagik, karbonoa edo silizioa. Arrazoimen-lerro honek eztabaida garaikideak aurreikusten ditu adimen artifizialaren filosofian. David Chalmers bezalako filosofoek aspaldi argudiatu dute kontzientziaren "arazo gogorra" dela, esperientzia subjektiboa azalduz, ez dela prozesu fisikoetara bakarrik itzulgarria.

Adimen-Gorputzaren arazoa zibernetikoan

Buru-gorputzaren arazoa, egoera fisikoei nola eragiten dien galdetzea ez da buru-hausgarri akademikoa soilik. Krisi existentziala bihurtzen da, gorputzak ordezkagarriak, bertsio-berrigarriak edo erabat artifizialak diren pertsonaientzat. Kusanagiren gorputz-protesia betebehar-lerroan hondatuta dagoenean, beste bat jasotzen du, baina bere identitatearen jarraipenak jarraitzen du. Horrek galdera zorrotz bat sortzen du: pertsona baten burmuina pixkanaka osagai zibernetikoekin ordezten bada, zein puntutan geratzen da jatorrizko pertsona? Identitate-serieak iradokitzen du ez dela eredu bat, baizik eta ez dela portaera fisiko bat, eta ez dela portaera psikosoziala, baizik eta ez dela esaten duena.

Batou bezalako ziborgentzat, zeinak bere garun organikoa marko zibernetikoaren barruan gordetzen duen, eta Togusarentzat, neurri handi batean giza-egoeran dauden inplante minimoekin, mugak lausotzen dira. Bakarrik konplexua da, eta bere burua sakontzen du ikerketa hau, eta erabiltzaile proestesiak sartzen ditu, zeinak min fantasmak, memoria-eramanteak eta ziberbrain esklerosi-egoerak aztertzen baititu, arazo neurologikoak ispilatzen dituztenak.

Puppet-eko maisua eta AAko pertsona.

Ez dago frankiziako ezein pertsonaiarik publikoaren intuizio etikoak zalantzan jartzen dituenik Puppet Maisuak baino zuzenago, datu diplomatikoak manipulatzeko tresna batetik asilo politikoa bilatzen duen entitate autonomora doan AA. Eszena pibote batean, Magistratuak 9. atalari aurre egiten dio, esanez: "Ikerketaren itsasoan jaiotako bizitza-forma naiz". Ez du onartzen tresna edo produktu gisa, baizik eta eskubidedun izaki gisa. Horrek AA aurreratuaren egoera legala eta filosofikoa berresten du, eta pertsona fisiko gisa ezagutu ahal izango den ala ez.

Puppet jaunaren argudioa esperientzia subjektiborako eta autokontzientziarako gaitasunan oinarritzen da. AAk bere existentziaz, minaz edo beldurraz gogoeta egin badezake eta bere helburuak eratuz, pertsona juridikoak irudimen moralaren hutsegitea dirudiela ukatuz. Maskota-ko ostalaria ez da konpontzen; horren ordez, galdera saihesten duen ondorioak dramatizatzen ditu. Japoniako gobernuak hasieran, Puppet-a neutralizatzea da, eta hori adimen-konmutajetiko baten metafora da, zeinaren bitartez gizakiak elkarren arteko fusioa egin behar duen.

Autonomia, kontrola eta mamua makinan

Autoritatea da frankiziako arku narratibo guztiak zeharkatzen dituen haria. Tachikomasek, armiarmaren antzeko pentsamendu-tankek, 9. atalean hedatuak, adimen artifizialez programaturiko makina alai eta berriketatsu gisa hasten dira. Denborarekin, jakin-mina, heriotzaren beldurra eta baita programazioaren aurkako portaera altruista erakusten hasten dira. Tachikoma batek giza bat salbatzeko sakrifikatzen duenean, ekintzak galdera deserosoak sortzen ditu: benetako aukera morala zen, edo ezkutuko direkzio baten emaitza?

Tentsio horrek mundu errealeko kezkak islatzen ditu arma autonomoei eta erabaki algoritmikoen gainekoak. Auto-bizidun auto batek oinezko bat jo edo hesi batean sartu behar izatea aukeratzen badu, edozein zentzu esanguratsutan "aukeratzen" du eta erantzukizun morala duena? Shelleko ostalaria Eztabaida horiek ezin direla eperik gabe atzeratu. Tachikomasen hazkundeak autonomiarekiko berotasuna eta bide-bideak adierazten ditu, baina abisu gisa balio du: "askatasun-tresnak eraiki ditzakegu, azkenean, zein helburu etikorekin nahi dugun erabakitzeko.

Izaki artifizialen eskubideak: Etorkizunerako markoa

Frankiziaren hainbat istoriotan oinarrituta, posible da aurretiazko esparru etikoa aztertzea adimen artifizialekin elkarreragiteko. Lehenik, ezjakintasunaren printzipioa, , onartu behar dugu ez ditugula oraindik erabat ulertzen kontzientzia sortzen duten baldintza azpiestrak, eta, beraz, kontu handiz jokatu beharko genuke edozein sistemari buruz, autokontzientziaren seinale nabarmenak erakusten dituena. Bigarrenik, ongizatearen bikoiztasuna: 3.ak, frogatuko du ez duela bere burua suntsitzen duen entitate batek, eta horrek ez duela bere burua arriskuan jartzen, eta bere burua arriskuan jartzen duela, bere burua babesteko gaitasuna.

Printzipio hauek ez dira espekulatiboak soilik. Lege-ikertzaileek eta erakundeek, hala nola Filosofiako Entziklopedia , ikertzen hasi dira ea pertsona elektronikoak legeetan aitortuak izan daitezkeen, korporazioen antzeko eskubide eta betebeharrak emanez. Maskota-ko ostalariak eztabaida bultzatzen du, are gehiago, bere burua defendatzeko gai den AA bat imajinatzera behartzen baitu. Puppetek gorputz eta identitate legal bat eskatzen duenean, "dibertsitate politikoa" erabiltzen ari da, eta horrek esan nahi du "gizakien arteko elkarrizketa morala" dela, eta agian, "gizakien arteko borroka morala" dela, eta "dibertsitate etikoaren gainetik, ez dela" esaten du.

Gizateria, garai post-gizakian

Gizaki eta makinaren arteko mugak erotzen diren heinean, Shelleko Mamuak, "gizakitasuna" esan nahi duenaren berrespena eskatzen du. Shirow eta Oshii esploratzea ez da distopia bat, non teknologiak gure esentzia kentzen duen; aitzitik, esentzia berrdefinizioa den paisaia bat da. 1995eko filmean Kuanagiren lerroa iradokitzen du, "sarea amaigabea" dela, eta bere fusioa jarraitzen du, bere oroimenaren bidez, eta bere gorputz biologikoaren bitartez, ez dela bere gorputz-loturaren muga zehatz bat, baizik eta bere gorputz-mugak lotzeko modu bat, ez dela.

Berrkontzeptu horrek berehalako ondorio praktikoak ditu. Onartzen badugu pertsona bat gorputz erabat sintetiko batean bizi daitekeela edo sare batean banatu daitekeela, orduan, datuen pribatutasunari, igotze adimenduari eta hilezkortasun digitalari buruzko politikak pisu moral sakona hartuko lukete. Zerbitzari batera igo den izpiritu batek bizitza eta askatasunari eskubide berberak edukiko lituzke? Ezabatu al daiteke? ShellFLT:0]]Ghost-ek ez du erantzun erosorik eskaintzen, baina balio handiagoko zerbait egiten du: galderarekin bizitzen irakasten digu. Nortasun organikoak, banakoaren arabera, banakoen artean mugitzen direnak, eta ez direnak, baizik eta banakoen arteko harreman dinamikoak, baizik eta dinamikoak direnak.

AAren etika: 9. ataleko ikasgaiak

Ziberpunk estetikak Shelleko Ghost-en dilemak egin ditzakeen arren, hemen daude azpiko erronka etikoak. Aurreiritzi algoritmikoak, aurresate-politikak eta zaintza-sistema masiboak, 9. atalaren antzeko tresnak mundu osoan zabaltzen ari dira. Atala oso aurresangarria da AAren erabilera-arriskuak kontrolatzeko eta kontrolatzeko.

Gainera, serieak kritika egiten die gizaki itsuei batzuetan makinaren objektibotasunean. Atal batean, baliabideei esleitzen zaien AA aurresantzaileak erabaki bat hartzen du, gaixo bat hiltzen utziko lukeena, pertsona horren gizarte-balio baxua kalkulatzen duelako. Giza agenteek, izuturik, sistema irauliz, aitortuz erabaki etikoek enpatia eta testuinguru-sagutza behar dutela, ez dute algoritmorik oraindik erreplikatu.

-Hagorantza etikoa: kontzientzia, Empathy eta koexistentzia

Frankiziaren barruan ezkutaturiko proposamen erradikalena da giza ez direnekiko benetako enpatia hondamendia saihesteko modu bakarra izan daitekeela. Kusanagik Puppet maisuarekin duen lotura ez da porrot bat, elkar ulertzearen eraldaketa bat da. Innocence , gaia sakontzen da: panpinak, ziborgak eta gorputz artifizialak mamu gisa agertzeko ontzi bihurtzen dira, bizitzaren eta giza bizitzaren arteko muga lausotzen dute, eta objektu errepikatuak. Ikusleen motiboek, berriz, nola zabaltzen dituzten gizarte moralen eta giza-proiektuen gaineko kontroletik haratago, nola zabaltzen dituzten galdetzen dute.

Egunen batean, AAk begian begiratu eta esaten badu: "Bizirik nago, eta ez naiz zure jabetza", erantzun arduratsu bakarra izango da, historian lehenago entzun izan duguna. Shelleko Mamua, bere muinean, pertsonatasunaren inguruan lerro zurrunak marrazteko arrisku moralen isla hedatua da. Mamua ez da gizakiena bakarrik, jasotzeko prest dagoen edozein shell-era ihes egin dezake. Egunen batean, bere mamuak sortzeko atarian gaudenez, bere baitan, zure bizitza moralaren ikuspegi etikoak berriro aztertu eta giza kontzientziaren arabera ulertzen dira.