Adimen etikoaren ikuspegitik, lege-multzoak ez du ulertzen zergatik egiten duen aurrera, baizik eta printzipio etikoen bidez, eta ez da egia, baizik eta printzipio etikoen bidez, eta ez da egia, baizik eta printzipioen bidez, ez da egia, eta ez da egia, baizik eta printzipioen bidez, ez da egia, ez da egia, baizik eta printzipio etikoen bidez, ez da egia, ez da egia, baizik eta printzipio etikoen bidez, ez da egia, ez da egia, baizik eta moralaren eta moralaren bidez, ez dela egia, ez dela egia, ez dela egia, baizik eta ez dela egia, ez dela egia, ez dela egia, ez dela egia, ez dela egia, ez dela egia, ez dela egia, ez dela egia, ez dela egia, baizik eta ez dela egia, ez dela egia, ez dela egia, ez dela egia, ez dela egia, ez dela egia, ez dela egia, ez dela egia, baizik eta, ez dela egia, ez dela.

Sibyl sistema eta prekrimen arkitektura

Zentrala Sibyl Sistema da, kaleko eskaner sare zabala, sentsore higaduragarriak eta ikaskuntza sakoneko algoritmoak, pertsona baten egoera psiko-emozionala etengabe neurtzeko. Hiritar batek aurrez zehaztutako atalasea gurutzatzen badu, kriminal latent bat izendatuko da. Sailkapen horrek segurtasun publikoaren batzordeak ezarritako betearazpena baimentzen du, itxi edo muturreko kasuetan, pertsona bat desagertarazten du, eta, beraz, bere buruarengan duen efektuaren aurrean, ikus-entzunezkoa, eta ez da ikusten.

Hirugarren mailako arazo etiko bat, alegia, hiru bider handiagoa da. Lehenik, pentsamenduaren eta ekintzaren arteko bereizketa txikitzen du. Sibylen azpian, pertsona bat zigortzen da egin dutenarengatik, algoritmoak uste duenagatik baizik. Horrek murriztu egiten du oinarrizko printzipioa, alegia, actus reus, errudun-ekintza, sistema juridiko gehienak eraiki diren heinean. Bigarrenik, sistemak "latent kriminal" klase iraunkor bat sortzen du, gizabanakoak ocstratu eta eskubideez ezabatuak, nahiz eta inoiz ez diren, defentsa-sistema bat egin, eta ez diren kasuen aurrean, ez diren gizarte-sak, ez direnen aurrean, ez direnen aurrean, ez direnen aurrean, ez direnen aurrean, ez direnen aurrean, ez direnen aurrean, ez-spekretu eta ez direnen aurrean, ez direnen aurrean, ez direnen aurrean, ez direnen aurrean, ez-spekresidiziplinamenduak, ez direnen aurrean, ez direnen aurrean, ez direnen aurrean, ez direnen aurrean, ez dira inoiz egiten.

Zaintza, pribatutasuna eta efektu panoptikoa

"Psycho-Pass"-ek pribatutasuna ezabatu den mundu bat pintatzen du. Espazio publiko oro seinale biologikoak irakurtzen dituzten eskaner zimatikoen bidez kontrolatzen da; gailu pertsonalek eta artelanek datu psikologikoak artxibo zentralera itzul ditzakete. Ikuspen konstanteak panoptiko modernoa sortzen du, Michel Foucault-en Jeremy Benthamen espetxe-diseinuaren egokitzapena gogorarazten du, zeinetan behaketa eta portaera arautzeko aukera sartzen baita.

Pribatutasuna galtzea Psycho-Passs-en ez da eragozpen bat, giza identitatearen mehatxu existentziala baizik. Pentsamendu pribatuak izateko gaitasuna, bultzada ilunekin kanpoko judiziorik gabe moldatzeko, ezinbesteko baldintza da garapen moralerako. Psikosiaren gorabehera guztiak kuantifikatzen eta agerian uzten direnean, gizabanakoek behar duten lekua galtzen dute enpatia, damua edo hazkunde pertsonala lantzeko. Serieak oihartzuna egiten du gobernu zentralaren inguruan, Edward Snowdenek agerian utzitako zaintzaren inguruan, baita datu komertzialen artean ere, nola egiten den mugimendu intelektualen artean.

Determinismoa vs. Nahimen askea: Oinarri filosofikoa

Adimenez handinahia den harietako bat da, inolaz ere, inolaz ere ez, eta makina batek zure joera kriminal latentzia neurtu eta etorkizuna zehaztasun ia perfektuarekin iragartzen badu, zein zentzutan zara agente libre? Sibyl-en existentziak giza portaeraren eredu determinista bat dakar, non pentsamenduak, emozioak eta ekintzak neuralaren eta sarrera psikologikoen irteerak aurreikusten diren.

Tentsio horrek mendeetan zehar dagoen arrakala filosofiko bat aztertzen du. Determinista gogorren arabera, gertakari guztiak, giza erabakiak barne, kausaz determinaturik daude aurreko estatuek; Sibylek pertsona baten burmuinari eta inguruneari buruzko informazio osoa eskura badezake, iragarpenak ez dira zehatzak izango. Askatasun-ekintzak, borondate askeari buruzkoak (ez dira nahastu behar etiketa politikoarekin), argudiatuko dute ez determinismoa maila kuantikoan edo ez-materialean benetako aukera ematen duela. Konpatikoek erdiko oinarria bilatzen dute, eta aske izango da, ekintza bat bere kabuz sortzen bada, eta horrela, nahi duen pertsona batek bere burua deuseztatzen du.

Morala paradoxa gisa kriminal lakatsua

Kriminalaren figurak Sibyl sistemaren bihotzean dagoen paradoxa morala gorpuzten du. Pertsona hauek legez kondenaturik daude, baina askok zuzen eta oker sentitzen dute, eta beren bulkada neurtuen aurka aktiboki borrokatzen dute. serieak galdetzen du: pentsamendu bortitzak mantentzen dituen pertsona bat da, baina ez du inoiz delitu-egile baten balio moralaren baliokide egiten? Barne-egoerak zigortzen dituenean, basamortu moralaren printzipioa deuseztatzen du, jendeak libreki aukeratzen dituen ekintzengatik bakarrik errudun izatea merezi duen ideia.

Bias algoritmikoa eta objektibotasunaren ilusioa

Sibyl arbitzaile zientifiko, inpartzial gisa aurkezten den arren, sistema hori eraiki zuen gizartearen balioak eta aurreiritziak islatzen dituzten datuetan oinarritzen da. Azpi-estratu sozioekonomikoetako edo ezohiko bizi-estiloetako pertsonaiek, askotan, delitu-koefizienteak sortzen dituzte, ez berez arriskutsuak direlako, baizik eta profil psikologikoek, "munduko" arauen arabera, "munduko" errealitate-aldakuntzaren" gisa agertzen den "salbuespena" dela iradokitzen dutelako.

Polikean, PredPol bezalako tresna aurresantiboak kritikatu egin dira, krimen-txosten handiagoak dituzten auzoetara ez oso neurritsu zuzentzen dituelako, eta, aldi berean, kolore-komunitateen gehiegizko politika historikoa islatzen du, alborapena eragiten duen atzera-begizta sortuz.

Judizio Moral Teknologikoaren eragin gizarajoa

Arrazoimen errepikatu bat da Sibyl sisteman konfiantza duten pertsonen artean. Indarrek eta ikuskatzaileek erabateko konfiantza dute nagusiaren judizioan; arma ez bada hedatzen, helburua ez da benetako mehatxu bat. Moraltasun mekaniko horrek testuingurua pisatu eta bizitza hartzeko pisua sentitzen du. Ondorioz, indar-indardun talde bat da, eta kontrol-indartsu bihurtzen da, kontrol-tresna moralak ez du berez sortzen, eta ez du erabaki moralak desegiteko egiten.

Deshumanizazioa lege-betearazletik haratago doa, hiritarrak logika bera barneratzen du, eta ez die laguntzen nahigabean daudenei pertsona asaldatu baten hurbiltasunak bere Psikopata propioa sor lezakeen beldurrez. Empathy erantzukizun bat da, elkartasuna, arrisku estatistikoa. Gizarte-dinamika hotz horrek Sherry Turkle psikologoaren behaketak islatzen ditu, teknologiak nola desagertarazten duen aurpegi-aurpegiko enpatia eta ausardia moralaren gaitasuna.

Mundu errealeko paraleloak: animetik analitika prediktiboetara

"FLT:0"Psycho-Passs -en fikzioak oihartzunik ez du gaur egungo legea betearazteko praktiketan. Mundu osoko hainbat polizia-sailek analitika aurresantiboko plataformekin esperimentatu dute, arrisku-partitunak banakoei edo kokalekuei esleitzen dizkieten. Adibidez, Chicagoko Gai Estrategikoen Zerrendak algoritmo bat erabili du herritarrak sailkatzeko, arma-indarkerian parte hartzeko aukeragatik, biktima edo egile gisa. Sistemak antzeko logikan zuen Sibyl-en aurrean: atxiloketa, sare sozialetako loturak eta beste datu batzuk aztertuz, etorkizuneko arrisku-egoerak, eta animeen zerrendarekiko arrisku-arazo larriak zirela eta haien aurka agertu ziren.

Gainera, monitorizazio biometrikoa espazio publikoetan ez da espekulatiboa. Emozio-ezagutzarako kamerak, aireportuetan eta muga-gurutzetan hedatuak, bidaiarien asmoa neurtzeko ahaleginak egiten dituzte; osasun-jarraitzaileek adimen-egoerak inferi ditzakete ahots-ereduetatik eta smartphone-erabileratik. Teknologia horiek, sarritan ongizate publikorako tresna gisa merkaturatzen direnak, arrisku-metriko sinplifikatuetan giza esperientzia murrizteko berezko arrisku bera dute.

Segurtasunaren prezioa: Balancing Order eta Autonomy

Tentsio etiko zentral bat Psycho-Passs, ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇ , ⁇

Oreka hori ez da abstrakzio hutsa, zaintza-legeriei buruzko eztabaida garaikide guztietan agertzen da, datuak atxikitzeko aginduei eta terrorismoaren aurkako neurriei buruz. Kalkulu utilitaristak datu-bilketa masiboak baimentzen ditu gertakari katastrofiko bakanak saihesteko, Sibylen logika aurrefabrikatua islatzen du.

Diseinu Teknologikoan etika betetzea: ikasgaiak ]Psycho-Passs

Bestalde, "Sbyl"en izua ez da negoziatzen, baizik eta bere opakutasunagatik, erabiltzaileak eta subjektuak ere ez dira kontuan hartzen epaiak nola lortzen diren. Mundu errealean, AA eta eragin algoritmikoak ebaluatzeko gai diren ohiko praktika bihurtu behar dira. Bigarren giza gainbegiratzea eta errekurtsoa sistema bidezko erabakiak hartzeko eskubidea da, eta berdin-berdinak dira epaiak nola lortzen diren ez jakitean.

Etika-ebaluazioko taulak, garapen-talde anitzak eta etengabeko elkarrizketa publikoa funtsezkoak dira justizia kriminalean, osasungintzan eta hezkuntzan adimen artifiziala sartzen den heinean, erantzun egin behar diogu ordenagailuei erantzukizun morala kentzeko tentazioari. Teknologia giza judizioa areagotzeko tresna bat izan behar da, ez zaharkitua uzten duen ordezkoa. Azkenean serieak berresten du giza-ebaluazio etikoaren balio geldiezina, baina giza-tresna gisa, azkenean, giza-ebaluazio handiagoa, eta giza-tresna gisa hazten da.

Ondorioa:

Gizarte batek krimena saihesten saiatzen denean, ziberpunk beltz bat baino askoz gehiago da. Gizarte batek giza arima kuantifikatuz gero, zer gertatzen den, gizarte batek krimena saihesten saiatzen denean, egiten duen galdeketa filosofikoa da. Sibyl sistemaren irudikapenaren bidez, justizia preemptiboaren arriskuak, pribatutasunaren eta moralaren higadura eta judizio algoritmikoaren lilurak agerian uzten ditu. Animearen ikuspen distopikoak ez dira fikzio urrunak; benetako joerak aztertzen dituzte, eta gero eta gehiago, politika-arlokoak, eta segurtasun-arazoak, etab.