Psykopass on maamerkki kyberpunk anime, joka ensimmäisen kerran ilmestyi vuonna 2012, jonka Production I.G kanssa tarinan kirjoittanut Gen Urobuchi. Sarjassa kuvittelee 22-luvun Japani, jossa laaja verkosto biometristen skannereiden ja psykometrinen analyysi. Sybil- järjestelmä..................................................................................................................................................................................................................--------------------------------------------- Rikoskerroin. Ne, joilla lukemat ylittävät tietyn kynnyksen, ovat pidätettyjä tai äärimmäisissä tapauksissa eliminoitu järjestelmän valvojat ennen kuin mitään rikos on todella tehty. Nauhoitus paljastuu tarttuvana trillerinä, mutta sen todellinen voima piilee jälkimainingeissa ihmiskoneen konfliktia, joka purkautuu, kun järjestelmä oletettu erehtymättömyys kyseenalaistetaan. Tämä jälkiseuraukset, ja moraalinen tilinteon se voimistaa, edelleen resonoida paljon näytön ulkopuolella, tarjoaa prescient linssi, jonka avulla tutkia oman kiihtyvä sotkeutuminen valvontatekniikka, ennustavia algoritmeja, ja ulkoistaminen moraalinen arviointi koneita.

Sybil-järjestelmä: Tekninen Leviathan

Euroopan Psykopass Sybil-järjestelmä, joka yhdistää jokaisen yksilön psykometriset tiedot yhteiskunnassa. Toisin kuin yksi supertietokone tai monoliittiohjelma, Sybil paljastuu myöhemmin kollektiiviseksi tietoisuudeksi, joka koostuu sadoista rikollisesti oireettomista ihmisaivoista, jotka on verkotettu yhteen. Tämä irvokas käänne korostaa sarjan keskeistä teemaa: jopa oletettavasti täydellisen koneen on lopulta taisteltava ihmisluonnon sotkuisen, irrationaalisen todellisuuden kanssa. Psykopass... ja sen avulla voidaan ennaltaehkäisevä oikeus. Public Safety Bureau's Inspections and Enforceers -järjestö pidättää tai neutralisoi tappavasti piileviksi rikollisiksi leimatut henkilöt usein ennen kuin he ovat syyllistyneet laittomaan toimintaan.

Rikoskerroin ja ennaltaehkäisevä oikeus

• Rikoskerroin on polttoaine, joka antaa valtuudet koko dystopia. Se on indeksi johdettu biometristen lukemien . sydämen nopeudella, oppilas laajentua, äänistressi kuvioita, ja aivoaalto toimintaa. että määrällistää henkilö.Sen avulla henkilö alttius rikkoa lakia. Jos numero ylittää laillisesti määritelty vaara-alue, dominator aseen, jonka kenttäupseerit automaattisesti määrittää sopiva vastaus: ei-tappava halvaantumisen tai tappava eliminator. Ei ole oikeudenkäynti, ei neuvoja, ja ei muutoksenhakua. Järjestelmän tehokkuus on kaikki paitsi hävittänyt perinteisen väkivaltarikollisuuden, mutta se on myös on ontto ulos koko käsite oikeuden. Yhteiskunta on vaihdettu sotkuisia, epätäydellisiä prosesseja ihmisen tuomioita varten viritetty, hetkellinen tuomio algoritmi. algoritmiset riskinarvioinnit Kuten COMPASin uudelleenjärjestämistyökalu, jonka on osoitettu upottavan rotuun ja sosioekonomiseen ennakkoluuloon objektiivisuuden viilun alle (ProPublica... korostaa juuri näitä vaaroja).

Tavoitemoraalisuuden kuvitelma

Sybil.Sen auktoriteetti perustuu uskomukseen, että se on puolueeton, datalähtöinen, ja siksi moraalisesti erehtymättömiä ihmisiä parempi. Tämä usko on aggressiivisesti ylläpidetty propagandalla, sosiaalisella ehdollistuksella ja aivan todellisella Dominatorin uhkalla. Silti sarja paljastaa syvän valheen tällaisen teknokraattisen autoritaarisuuden ytimessä: moraalia ei voida vähentää määrälliseksi panokseksi. Poistamalla ihmisen empatian, harkintakyvyn ja kontekstillisen ymmärryksen Sybil-järjestelmä ei ainoastaan dehumanisoi niitä, jotka se tuomitsee, vaan myös riistää yhteiskunnan yhteisestä vastuusta moraalisista syistä. Konfliktin jälkimainingeissa paljastuu juuri se, kuinka vaarallinen tämä luopumus on tullut. Kun järjestelmä itsessään on osoittautunut inhimilliseksi ja tahallaan manipuloitu.

Ihmis-Machinen konflikti: kapina algoritmista sääntöä vastaan

Ihmisen koneen ristiriita Psykopass Se ei ole yksinkertainen sota lihan vs. teräs. Se on filosofinen taistelu käydään kautta toimia sen merkkiä, joista jokainen edustaa erilainen vastaus järjestelmän moraalin. Tarkastaja Akane Tsunemori kamppailee sovittaakseen yhteen velvollisuus ylläpitää lakia hänen kasvava tietoisuus lain. epäinhimillisyys. Forcer Shinya Kogami vikoja täysin, ajavat henkilökohtainen pyrkimys kosto, että järjestelmä kieltää häntä. Ja antagonisti Shogo Makishima, ainutlaatuinen immuuni yksilöiden oikeus moraaliseen valintaan voi koskaan olla todella oikeudenmukainen.

Avainmerkit viraston asiamiehinä

Akane Tsunemori kaari on luultavasti kaikkein opettavainen. Hän alkaa mallikansalainen, jonka rikoskerroin pysyy jatkuvasti selvänä, testamentti hänen sisäistää vaatimusten. Kuitenkin, kun hän todistaa järjestelmän julmuutta ensi käden, hän ei hylkää sitä; sen sijaan, hän pysyy sisällä ja työskentelee uudistaa sitä sisältä. Hänen päätöksensä heijastaa syvästi humanistinen asenne, että laki ei ole koskematon jumala, vaan ihmisen esine, joka voi ja täytyy muotoutua uudelleen, kun se tulee epäoikeudenmukainen. Kogami, sen sijaan, että se on kolmas pole. Hänen mielestään todellinen vapaus voidaan löytää vain tyhjillään ja korruptoitunut ja valitsee henkilökohtaisen koston järjestelmäuudistus, lopulta tulla karttuva elää ulkopuolella yhteiskunnan, joka on määritellyt hänet.

Filosofinen yhteentörmäys: Määrääväisyys vs. vapaa tahto

Koko konfliktin taustalla on syvä filosofinen kysymys: jos kone pystyy ennustamaan tulevaa käyttäytymistäsi lähes tarkasti, onko sinulla edelleen vapaa tahto? Sybil-järjestelmä toimii tehokkaasti deterministisen ihmispsykologian mallin pohjalta olettaen, että piilevät rikolliset suuntaukset voidaan tunnistaa ja että yksilöllä ei ole mielekästä kykyä poiketa tuosta kehitysradasta. Tämä on poikkeuksellinen eettinen uhkapeli. predestination sekä tsafenolaatti, mutta nykyajan kierre: reaalimaailmassa ennakoiva poliisi ja rangaistusalgoritmit, sama presuppositio on koodattu ohjelmisto, joka päättää ihmisten kohtaloa. Tutkimus on osoittanut, että ennustavat työkalut eivät vain ennustaa rikollisuutta. analyysi algoritmisesta ennakkoluulosta ennakoivassa poliisitoiminnassa) Jälkimainingeissa ihmis-koneen konflikti Psykopass draama kertoo, mitä tapahtuu, kun tämä deterministinen logiikka on työnnetty lopulliseen päätökseensä: yhteiskunta, joka on unohtanut, miten kuvitella vaihtoehtoisia tulevaisuudennäkymiä tai miten antaa anteeksi.

Jälkikasvu: Yhteiskunta sielunsa etsimisessä

Sarjan ja sen myöhempien elokuvien huippu Järjestelmän syntiset trilogia ja Psykopassi 3. Maalata monimutkainen kuva maailmasta yrittää koota itseään. Sybil on paljastettu ei virheetön jumala, vaan erehtyvä, itsetietoinen entiteetti, joka on alkanut tunnustaa omia rajoituksiaan. Jälkimainingeissa ei ole puhdas voitto kummallekin puolelle. Sen sijaan, se on sotkuinen, jatkuva neuvottelu ihmisen viraston ja teknisen valvonnan. Useat keskeiset muutokset määrittelevät tämän ajanjakson.

Institutionaaliset korvaukset ja uudistukset

Yksi silmiinpistävä kehitys on järjestelmä.Sybil on päättänyt sallia jonkin verran ihmisen valvontaa. Sybil tuo Akane Tsunemorin sen sisimpään piiriin ei avuton komponentti, vaan tasavertaisena osallistujana, jolla on mahdollisuus vastustaa. Tämä symbolinen muutos merkitsee siirtymistä absoluuttisesta algoritmisesta vallasta yhteistyömalliin. Vaikka uudistettu rakenne myöntää, että mikään järjestelmä ei voi olla moraalisesti omavarainen. Ulkopuolinen tarkastus, toisinajatteleva ääni ja säilyttäminen ihmisen arvostelu on nyt tunnustettu olennaisia takeita. ihmis-silmukan sisään Valtuutus tekoälyn päätöksenteon korkean tason päätöksenteossa autonomisista aseista tuomioon.

Uusien yhteiskunnallisten liikkeiden nousu

Maan alla olevat rikollisyhteisöt, jotka pakenivat kaupungeista konfliktin aikana, muodostavat oman itsehallinnollisen erillisalueensa. Nämä ryhmät hylkäävät Sybil Systemin moraalisen laskennan kokonaan, valitsevat sen sijaan yhteisymmärryksessä, yhteisöllisessä oikeudenkäytössä. Sarja ei romantisoi näitä siirtokuntia. He ovat täynnä omia vaarojaan. He ovat kuitenkin konkreettinen vaihtoehto panopticonille. He viestittävät, että jopa täydellisessä valvonnassa ihmiskestävyys voi poistaa aidon vapauden tiloja. Kiinan sosiaalisten luottojen kokeilujen ja muiden algoritmisten hallintomuotojen laajentuessa, tällainen fiktiivinen artikuloimista vastarintaa tarjoavat arvokas mielikuvituksellinen resurssi.

Tekninen vastuu ja Sybilin kompromissi

Jälkiseurauksissa otetaan myös käyttöön Tekninen vastuu Sybil-järjestelmä on itse alkanut käsitellä omaa läpinäkyvyyttään pikemminkin kuin vahvuutta. Se alkaa perustella päätöksiään, ainakin ihmisten valintojen perusteella. Tämä lähestymistapa kohti selitettävyyttä vastaa Euroopan unionin yleistä tietosuoja-asetusta (GDPR), joka sisältää oikeus selitykseen Vaikka sarja ei koskaan täysin ratkaise turvallisuuden ja avoimuuden välistä jännitettä, se viittaa siihen, että hallinnon tulevaisuuden on perustuttava dynaamiseen tasapainoon eikä sokeaan mustan laatikon ajatteluun.

Todellisen maailman pohdinnat: psykopassista ennalta arvaavaan poliisitoimintaan

Kestävä merkitys Psykopass Löydät sen häiritsevä läheisyys nykyisten teknologisten suuntausten. Kaikkialla maailmassa hallitukset ja yritykset ovat ottaneet käyttöön järjestelmiä, jotka kaikuvat Sybilin kehyksessä sekä rakenteessa että eettisessä implisiittisessä implisiikassa. Ennusteet poliisin algoritmit, tunnetunnistusohjelmistot julkisissa tiloissa ja sosiaaliset luottojen pisteytysmekanismit kaikki lepäävät samalla perustalla olettaen, että käyttäytymistä voidaan mitata, ennustaa ja ennalta hallita. Ihmisten ja koneiden välisen konfliktin jälkimainingeissa sarjassa on kyse jyrkästä varoittavasta tarinasta niille, jotka rakentavat näitä reaalimaailman järjestelmiä.

Algoritmiset Bias ja inhimilliset kustannukset

Yksi selvimmistä opetuksista. Psykopass ja todellinen rikosoikeusteknologia on ongelma algoritminen harha. Sybil System.Science kerroin oli pitkään, pidetään puhtaasti objektiivinen väestö. Vasta kun halkeamia ilmestyi yhteiskunnan ymmärtäneet, että järjestelmä oli tehnyt erittäin virheellisiä päätöksiä. Kohteena ihmisiä, jotka voivat laukaista stressin vastauksia trauma, mielenterveyden sairaus, tai jopa yksinkertainen erimielisyys. Reaalimaailman työkalut osoittavat samaa suuntausta. COMPAS uusinta algoritmi todettiin virheellisesti merkitä mustat vastaajat suuri riski lähes kaksinkertainen määrä valkoisia vastaajia. Nämä virheet eivät ole katkoksia; ne ovat ennustettavissa lopputulos koulutus koneen oppimismalleja tietoja, jotka jo koodaa rakenteellinen eriarvoisuutta. Ilman tiukkaa tarkastusta ja sitoutumista oikeudenmukaisuuteen, algoritmiset järjestelmät vahvistavat erittäin epäoikeudenmukaisuudet he väittävät poistaa.

Valvontakapitalismi ja yksityisyyden ehtyminen

Lainvalvonnan lisäksi - Psykopass Myös ennustaa nousussa, mitä oppinut Shoshana Zuboff kutsuu valvontakapitalismi. Sybil-järjestelmä ei vain valvo rikollisuutta, se kerää ja kompuroi koko väestön psykologisia tietoja. Jokainen tunne, jokainen epäilyksen välähdys, muuttuu raaka-aineeksi taloudellista ja poliittista järjestystä varten. Tänään digitaaliset jalanjälkemme on miinoitettu ennustamaan ja manipuloimaan käyttäytymistä, usein ilman mielekästä suostumusta. Sarjan jälkimainingeissa korostetaan, että todellinen elpyminen vaatii paitsi institutionaalista uudistusta myös yksityisyyden kulttuurin vahvistamista perusoikeutena. Kun konfliktinjälkeisen maailman kansalaiset alkavat salata omaa biometristä käyttäytymistään ja muodostaa epämääräisiä yhteisöjä, he tekevät teon, joka resonoi syvästi nykyaikaisen keskustelun kanssa tietojen keräämisen rajoista ja oikeudesta poistua laajalta valvonnalta.

Kestävät opetukset ja eettiset imperatiivit

Piirustus kerronnallisesta kaaresta Psykopass, voimme distata useita vaatimuksia suunnittelu ja hallinto reaalimaailman tekoäly ja valvontajärjestelmät. Nämä opetukset eivät ole pelkkiä älyllisiä harjoituksia; ne ovat selviytymisstrategioita tulevaisuuden, joka on jo muotoutumassa.

Kriittisen valvonnan välttämättömyys

Akane Tsunemori ... matka opettaa meille, että sokea tottelevaisuus automaattiseen auktoriteettiin on resepti julmuudelle. Järjestelmien on edistymisestä riippumatta oltava jatkuvan, riippumattoman valvonnan alaisia. algoritmiset tilintarkastuslautakunnat, tarkastaja kenraalit, tai kansalaisten tarkastus paneelit, periaate on sama: ihmisten on säilytettävä lopullinen vastuu päätöksistä, jotka vaikuttavat ihmiselämään. Luopua että velvollisuus on kutsua alas sellainen moraalinen tyhjiö, että Sybil lopulta tunnustaa.

Ihmisen tuomion säilyttäminen automaattisissa järjestelmissä

Sarjassa toistuvana motiivina on kireys dominatorusin välittömän tuomion ja ihmisen harkintakyvyn tuskallisen moraalisen painon välillä. Sarja on viime kädessä toisen puolella, vaikka se myöntääkin, että ihmisen arvostelukyky on virheellinen. Vastaus ei ole luopua teknologiasta vaan suunnitella rajapintoja, jotka tukevat pikemminkin kuin korvaavat eettistä päättelyä. Tutkimuksissa on osoitettu, että kun algoritmeja esitetään työkaluina harkintaan, eikä lopullisia sovittelijoita, tuloksia parannetaan ja päätöksentekijät pysyvät mukana työn moraalisissa ulottuvuuksissa. Stanford Encyclopedia ... tarjoaa erinomaisen katsauksen siitä, miten tällaiset puitteet voidaan rakentaa.

Suunnittelun tekniikka eettisten ydin

Ehkä kaikkein syvällisin perintö Psykopass on sen vaatimus, että me upottaa etiikka varhaisempaan vaiheeseen teknologisen suunnittelun. Sybil järjestelmä luotiin ratkaisemaan ongelma.Toivo täysin turvallinen yhteiskunta.Ennen kuin koskaan kuulustella, onko tämä halu oli itse patologinen. Tänään insinöörit ja poliittiset johtajat on vältettävä samaa ansaa. Eettiset vaikutustenarvioinnit, osallistava suunnitteluprosessit, ja kieltäytyminen käsitellä tehokkuutta korkeimman arvon ovat kaikki välttämättömiä. Vaihtoehto on maailma, jossa, kuten synkimpinä aikoina sarjan, juuri työkaluja rakennamme suojella meitä tulee välineitä sortoa.

Lopulta Nousu tuhkasta Se ei ole vain tekstitys fiktiiviselle epilogille, vaan se on sopiva kuvaus siitä, mitä on tapahduttava aina kun yhteiskunta tajuaa antaneensa liikaa valtaa koneilleen. Psykopass osoittaa, että elpyminen on mahdollista, mutta se vaatii rohkeutta, rehellisyyttä ja horjumatonta sitoutumista ihmiselämän sotkuiseen, irreducible-arvoon. Oman maailmamme kiukutellessa kohti yhä yhdennetympiä algoritmisen hallinnon muotoja, sarja on juhlallinen muistutus siitä, että tällaisten konfliktien liekit eivät ole väistämättömiä.Ne ovat nyt tekemämme valintojen tulosta, ja ne voidaan välttää, jos opimme pitämään luomuksemme tilivelvollisina ennen kuin on liian myöhäistä.