Anime-sarja Psycho-Pass[ luo lähes tulevan Japanin hallitseman biometrisen valvontajärjestelmän, joka skannaa kansalaisia . Mielenlaatuiset valtiot ja antaa numeerinen pisteet . Psycho-Pass. Pinnalle Sibyl System lupaa rauhanomaisen yhteiskunnan neutralisoimalla uhkia ennen kuin ne näkyvät. Tuon viilun mukaan tarina purkaa järjestelmällisesti eettiset oletukset, jotka tukevat tällaista ennaltaehkäisevää hallintoa. Asettamalla lainvalvontaviranomaiset armoilla algoritmin, joka voi lukea ajatuksia, mutta ei sydämiä, sarjan katsojat kohtaavat epämiellyttäviä kysymyksiä oikeudenmukaisuudesta, virasto, ja erittäin olemus moraalista teknologisesti tyydytetyssä maailmassa. Tämä artikkeli tarkastelee sci-fi elementtejä []Psycho-Pas[[]]]].

Sibyl-järjestelmä ja esirikollisuuden arkkitehtuuri

Keskus ]Psycho-Pass[] on Sibyl-järjestelmä, laaja katuskannereiden verkosto, puettavat sensorit ja syväoppimisen algoritmit, jotka mittaavat jatkuvasti henkilön ...hue. Jos kansalainen lukee ennalta määrätyn kynnyksen yli, hänet nimetään piileväksi rikolliseksi. Tämä luokitus mahdollistaa yleisen turvallisuusviraston antaman lainvalvonnan, joka pystyy pysäyttämään tai ääritapauksissa eliminoimaan henkilön käyttämällä dominatoria - joka muuttaa käsiasetta, joka vain jos tavoite on asetettu rikoksentekijälle tappavaksi. Järjestelmässä on näin ollen olemassa esirikoksen käsite, jota on tutkittu Philip K. Dick. ]Minoritiotion Report[[]Minority Report[[]]

Eettinen ongelma esirikoksen kanssa on kolminkertainen. Ensinnäkin se hajottaa ajatuksen ja toiminnan välisen eron. Sibylin mukaan henkilöä rangaistaan siitä, mitä hän on tehnyt, mutta mitä algoritmi ennustaa heistä voi tulla. Tämä heikentää [actus reus[[]]] -perusperiaatetta.Sen mukaan useimmat oikeusjärjestelmät on rakennettu. Toiseksi, järjestelmä luo pysyvän alaluokan . ... latenttirikollisten, ...yksilöiden, jotka ovat stressaantuneita ja riistetty oikeuksia, vaikka he eivät koskaan syyllistyisikään haitalliseen tekoon. Kolmanneksi, Sibyl-järjestelmä toimii ilman avoimuutta; sen sisäiset työt luokitellaan, ja jopa tarkastajat eivät täysin ymmärrä, miten tuomioita tehdään.

Valvonta, yksityisyys ja Panoptic Effect

Psycho-Pass[ maalaa maailman, jossa yksityisyys on poistettu kokonaan. Jokainen julkinen tila on valvottu symaattiset skannerit, jotka lukevat biologisia signaaleja; henkilökohtaiset laitteet ja jopa taideteokset voivat välittää psykologista tietoa takaisin keskusarkistoon. Jatkuva näkyvyys luo modernin panoptikon, joka muistuttaa Michel Foucaultin sopeutumista Jeremy Benthamin vankilasuunnitteluun, jossa vangit sisäistävät tarkkailun mahdollisuuden ja säätelevät omaa käyttäytymistään vastaavasti. Sarjassa kansalaiset oppivat tukahduttamaan tunteita ja välttämään stressikkäitä ärsykkeitä, musiikkia, suhteitaan.

Yksityisyyden menetys Psycho-Pass[]:ssa ei ole pelkkä haitta, vaan se on eksistentiaalinen uhka ihmisen identiteetille. Kyky saada yksityisiä ajatuksia, tarttua synkkiin impulsseihin ilman ulkoista arvostelukykyä, on moraalisen kehityksen edellytys. Kun jokainen psyyken vaihtelu on määrällisesti ja alttiina, yksilöt menettävät tilan, jota tarvitaan empatian, katumuksen tai henkilökohtaisen kasvun viljelemiseen. Sarjassa toistetaan Edward Snowdenin paljastama joukkohallinnon valvontaa koskevat keskustelut sekä teknologiayritysten harjoittama kaupallinen datavirta. Maailmassa, jossa älykkäät laitteet keräävät jatkuvasti emotionaalisia tietoja, julkisen ja yksityisen sektorin välinen linja on hämärtymässä.

Determinismi vs. vapaa tahto: filosofinen ydin

Yksi älyllisesti kunnianhimoisimmista -videoista on sen jatkuva sitoutuminen vapaa tahtokeskusteluun. Jos kone pystyy mittaamaan piilevää rikollista suuntausta ja ennustamaan tulevaisuuttasi lähes tarkasti, missä mielessä olet vapaa agentti? Sibyl Systems -esiintyminen tarkoittaa determinististä ihmiskäyttäytymisen mallia. Jos ajatukset, tunteet ja toimet ovat ennakoitavia hermo- ja psykologisten panosten tuotoksia. Näyttely työntää tätä vaikutusta vastaan sen päähenkilön, tarkastaja Akane Tsunemorin, kautta, joka tekee toistuvasti valintoja, jotka jäävät Sibyl. Hänen kykynsä riippumattoman tuomion, että hän toimii empatian sijaan tilastollisen todennäköisyyden, tulee elävä vasta-argumentti deterministi.

Tämä jännitys kartat vuosisatojen vanhaan filosofiseen repeämään. Vaikeat deterministit väittävät, että kaikki tapahtumat, mukaan lukien ihmisen päätökset, ovat syy-seurausisesti ennalta määrättyjen valtioiden määrittelemiä; jos Sibyl voisi saada täydellisen tiedon henkilöstä aivot ja ympäristö, sen ennusteet olisivat vääjäämättömän tarkkoja. Libertaristit ilmaisesta tahdosta (eivät saa sekoittaa poliittista merkkiä) väittävät, että indeterminismi kvanttitasolla tai ei-materialistisen tietoisuuden avulla voidaan aidosti valita. Compatibilistit etsivät keskimmäinen maa, joka väittää, että vapaa tahto on mielekäs, jos toiminta tulee yhdestä . Kääntyy, mutta ei tee mielistellä, vaikka nämä halut ovat itse määritettyjä. Sibyl-järjestelmä poistaa keskimmäinen maa: Rikos, joka ohittaa henkilön.

Latent Criminal kuin Moral Paradoksi

Latentti rikollinen ilmentää moraalista paradoksia Sibylin järjestelmän ytimessä. Nämä yksilöt on laillisesti tuomittu mielentilasta, mutta monet pitävät selkeän käsityksen oikeasta ja väärästä ja aktiivisesti taistella heidän mitattuja impulsseja vastaan. Sarja kysyy: on henkilö, joka kätkee väkivaltaisia ajatuksia mutta ei koskaan toimi moraalisesti samanarvoisesti tuomittua rikollista? Rankaisemalla sisävaltioita järjestelmä purkaa moraalisen autiomaan periaatteen. Ajatus siitä, että ihmiset ansaitsevat syyn vain teoistaan vapaasti valitsemansa. Näin tehdessään Psycho-Pass[[] käyttää neurologista tutkimusta, joka osoittaa, että me kaikki kuljemme aggressiivinen tai antisosiaalinen impulssi; mikä erottaa lainkuuliaisen kansalaisen, on toimintaa, ei impulssin. Sibylogia ei puutu.

Algoritmiset Biat ja objektiiven harhakuva

Vaikka Sibyl esiintyy puhtaasti tieteellisenä, puolueettomana sovittelijana, []Psycho-Pass[[], paljastaa hienovaraisesti ennakkoluulot, jotka on paistettu sen tuomioihin. Järjestelmä on koulutettu tietoihin, jotka heijastavat sen rakentaneen yhteiskunnan arvoja ja ennakkoluuloja. Luonne on kulttuurillinen rakenne, joka on pukeutunut matematiikan kielellä neutraaliksi. Tämä peilikuvat tekoälyjärjestelmien reaalimaailman kritiikkiä, jotka lisäävät epätasa-arvoa algoritmisen objektiivisuuden varjolla.

Poliisitoiminnassa PredPolin kaltaisia ennakoivia työkaluja on arvosteltu suhteettomasti partioiden ohjaamisesta lähialueille, joissa on korkeampia rikosraportteja, mikä puolestaan heijastaa historiallista väriyhteisöjen ylipolikointia, joka luo palautteen, joka juoksuttaa puolueellisuuden. A ]AND Corporationin tutkimus ennakoivista poliisitoimista[[], jonka mukaan ilman huolellista suunnittelua tällaiset järjestelmät voivat vahvistaa pikemminkin kuin korjata ihmisten ennakkoluuloja. Samoin Sibyl. Sibylons luottaen agregaattiin psykologiseen tietoon tarkoittaa, että ihmiset, jotka ilmaisevat stressiä, ahdistusta tai vihaa, ovat todennäköisemmin voimistuvia syrjäytyneissä ryhmissä. Sarja ennakoi näin ollen nykyajan huolia oikeudenmukaisuudesta, vastuullisuudesta ja algoritmisen hallinnon avoimuudesta, muistuttavat meitä, että musta-box AI ei ole objektiivinen kuin ihmiset, jotka ohjelmoivat sen.

Teknologisen moraalin epäinhimillinen vaikutus

Toistuva motiivi Psycho-Pass[] on atrofia ihmisen moraalinen päättely keskuudessa, jotka luottavat Sibyl System. Tuloksena on työntekijöiden täytäntöönpanosta, jotka tulevat emotionaalisesti irrallinen, ja tarkastajat, jotka kamppailevat sovittaa heidän intuitiivinen oikeustajunsa järjestelmän kanssa . Sarja osoittaa, että ulkoistaminen eettisten päätösten teknologian ei helpota näitä päätöksiä.

Demomanisaatio ulottuu lainvalvonnan ulkopuolelle. Kansalaiset sisäistävät saman logiikan, pidättyvät auttamasta muita hädässä pelosta, että häiriintyneen henkilön läheisyys saattaa hämärtää oman Psykopassin. Empatiasta tulee vastuu; solidaarisuus, tilastollinen riski. Tämä jähmettävä sosiaalinen dynamiikka heijastaa psykologi Sherry Turklen havaintoja, jotka ovat kirjoittaneet siitä, miten teknologia voi heikentää kykyä kasvokkain empatiaan ja moraaliseen rohkeuteen. Maailmassa, jossa sivulliset voivat skannata uhrin uhkatason ennen kuin päättävät puuttua asiaan, yhteisövastuun rakenne purkautuu. Näyttelyssä varoitetaan, että yhteiskunta optimoidaan turvallisuuden avulla algoritmisen valvonnan riskejä menettämällä erittäin inhimilliset ominaisuudet, jotka tekevät turvallisuudesta mielekästä.

Real-World Rinnakkaisuudet: Animesta Predictive Analytics

]:n fiktiossa on epäuskottavia jälkiä nykypäivän lainvalvonnan käytännöistä. Useat poliisilaitokset ovat kokeilleet ennustavia analytiikka-alustoja, jotka antavat riskipisteitä yksilöille tai paikoissa. Chicago. Strateginen aiheluettelo esimerkiksi käytti algoritmia asettaakseen kansalaiset paremmuusjärjestykseen heidän todennäköisyydellään olla mukana aseväkivallassa joko uhrina tai rikoksentekijänä. Järjestelmä toimii samalla logiikalla kuin Sibyl: analysoimalla pidätystietoja, sosiaalisia verkostoyhteyksiä ja muita tietoja, se yritti ennustaa tulevaa vaaraa. A ]Chicago Tribune tutkimus[ paljasti, että luettelo kärsi vakavista täsmällisyydestä ja suhteettomasti kohdennetuista mustalaisista asukkaista, jotka toistivat animessa esiin tuotuja harhaongelmia.

Lisäksi biometrisen seurannan integrointi julkisiin tiloihin ei ole enää spekulatiivista. Tunteidentunnistuskamerat, joita käytetään lentoasemilla ja rajanylityspaikoilla, yrittävät mitata matkustajia.Terveyden seurantasovellukset voivat päätellä mielentiloja äänimalleista ja älypuhelinten käytöstä. Nämä tekniikat, joita usein markkinoidaan yleisen hyvinvoinnin välineinä, sisältävät saman luontaisen riskin siitä, että vivahdetut ihmiskokemukset muuttuvat yksinkertaisiksi riskimittareiksi. [[]Psycho-Pass[] on merkityksellinen juuri siksi, että se dramatisoi jo käynnissä olevan suuntauksen loogista päätepistettä: yhteiskunta, joka vaihtaa yksityisyyttä täydellisen turvallisuuden illuusioon ja moraalista virastoa konevarmuuden mukavuuden takaamiseksi.

Hinta turvallisuus: tasapainottava järjestys ja itsehallinto

Sibilin järjestelmän kannattajat väittävät, että se on poistanut väkivaltaisen rikollisuuden ja aiheuttanut ennennäkemättömän rauhan aikakauden. Sarja ei koskaan kiellä, että Tokio 22:nnen vuosisadan aikana on pinnallisesti turvallisempi kuin sen 1900-luvun vastine. Silti se kysyy: mihin hintaan? Hintana on henkilökohtaisen vapauden luovuttaminen, yksityisyyden eroosio, kaikkien sellaisten henkilöiden syrjäytyminen, jotka eivät sovi tilastolliseen muottiin, ja moraalista virastoa onttoaminen. Näyttely on sopusoinnussa liberaalin poliittisen filosofian kanssa, jonka mukaan valtio, joka takaa turvallisuuden sammuttamalla vapautta, ei ole vain valtio vaan korkean teknologian tyrannian, joka on pukeutunut kansanterveyden kielelle.

Tämä tasapaino ei ole pelkkä abstrakti; se näkyy kaikissa nykykeskusteluissa valvontalainsäädännöstä, tietojen säilyttämistoimista ja terrorismin vastaisista toimenpiteistä. Utilitaristinen laskenta, joka mahdollistaa massatietojen keräämisen harvinaisten katastrofaalisten tapahtumien estämiseksi, peilaa Sibyl. []Psycho-Pass[[]], osoittaa, että puhdas utilaarisuus, joka ei ole peräisin deontologisista periaatteista kuten ihmisten kunnioittamisesta, voi perustella hirvittäviä rikkomuksia. Sarja . Nuonsseja villaineja, erityisesti Shogo Makishima, ovat tuotteita järjestelmästä, joka tukahduttaa yksilöllisyyden järjestyksen nimessä. Makihima, joka on rikollisesti oireeton henkilö, jota Sibyl ei voi lukea, aiheuttaa lopullisen haasteen: jos järjestelmä voi hallita vain niitä, mitä se voi mitata, mitä sen ulkopuolella asuville tapahtuu?

Eettisen suunnittelun sisällyttäminen tekniikan suunnitteluun: Psycho-passin opetukset[]

Jos Psycho-Pass[ toimii varoittavana tarinana, se tarjoaa myös rakentavia oivalluksia suunnittelijoille, poliittisille päättäjille ja kansalaisille. Ensinnäkin avoimuus ei ole neuvoteltavissa. Sibylin kauhu johtuu osittain sen läpinäkyvyydestä; käyttäjät ja aiheet pidetään tietämättöminä siitä, miten tuomiot saavutetaan. Todellisessa maailmassa selitettävissä tekoälyssä ja algoritmisissa vaikutusten arvioinneissa on oltava vakiokäytäntö. Toiseksi ihmisen valvonta ja mielekäs muutoksenhakuoikeus on rakennettava mihin tahansa perusoikeuksiin vaikuttavaan päätöksentekojärjestelmään. Akane. Akassa on optimoitava psykologisen normaaliuden vuoksi, ei oikeudenmukaisuuden vuoksi. Vastaavasti rektiivisyyden ennustaminen on toteutettava siten, että algoritmisten vaikutusten arvioinneista tulee objektiivisia.

Eettiset arviointilautakunnat, erilaiset kehitysryhmät ja jatkuva julkinen vuoropuhelu ovat välttämättömiä, jotta voidaan estää teknokraattinen dystopia, joka [Psycho-Pass[[]] kuvaa. Kun integroimme tekoälyn syvemmälle rikosoikeuteen, terveydenhuoltoon ja koulutukseen, meidän on vastustettava kiusausta luopua moraalisesta vastuusta koneita kohtaan. Teknologia olisi väline, joka vahvistaa ihmisen harkintakykyä, ei korvaa sitä, että se on vanhentunut. Sarja vahvistaa lopulta sotkuisuuden, erehtyvyyden, mutta viime kädessä inhimillisen eettisen käsittelyn ja viestien korvaamattoman arvon, joka kasvaa yhä kovemmaksi työkalujemme kasvaessa.

Päätelmä

Psycho-Pass[ on paljon enemmän kuin tumma kyberpunk triller. Se on jatkuva filosofinen kuulustelu siitä, mitä tapahtuu, kun yhteiskunta yrittää kartuttaa rikollisuutta mittaamalla ihmissielun määrää. Sarja paljastaa Sibyl-järjestelmän kuvauksensa avulla ennalta ehkäisevän oikeudenkäytön vaarat, yksityisyyden ja moraalin eroosion ja objektiivisen algoritmisen arvioinnin harhakuvan. Anime. dystopistisen vision visiot eivät ole kaukaisia tieteisfiktioita; ne ovat liioiteltuja pohdintoja todellisista teknologisista suuntauksista ennakoivassa poliisitoiminnassa, tunnevalvonnassa ja datalähtöisessä hallinnassa.