Table of Contents

Psycho-Passis[ е забележително киберпънк аниме, което за първи път се излъчва през 2012 г., създаден от производството I.G с история, написана от Gen Urobochi. Серията представя на 22-ри век Япония, където обширна мрежа от биометрични скенери и психометричен анализ, определени като Sybil System[ преувеличи всеки аспект на живота, който се наблюдава постоянно, техните емоционални и психологически състояния се намаляват до число Crimefor[. Тези с четения над определен праг са неудържими или в крайни случаи, елиминирани от системата, преди да се извърши престъпление.

Системата Сибил: Технологичен левиатан

В основата на Психо-Пас се намира системата Сибил, разпрострящ се изкуствен интелект, който събира психометричните данни на всеки индивид в обществото. За разлика от един акробат или монолитна програма, Сибил по-късно се разкрива като колективно съзнание, съставено от стотици криминално аномалия човешки мозъци, свързани заедно. Този гротескен обрат подчертава поредицата неосъществима централна тема: дори една уж перфектна машина трябва да се бори с мръсната, ирационална реалност от човешка природа. Системата определя всяко лице като Психо-Паса мярка за тяхната латентност и прилага доктрина на .

Коефициентът на престъпността и изпреварващата справедливост

Crimenor е горивото, което захранва цялата дистопия. Това е индекс, получен от биометрични четене на сърцето, зениците dilaction, гласни стрес модели, и мозъчна дейност, която quantifies a person гонят да наруши закона. Ако броят пресича законно определена опасна зона, Dominator оръжие, разположен от поле служители автоматично определя подходящия отговор: несмъртоносен парализер или смъртоносен елиминатор. Няма процес, няма адвокат, и не обжалване. Системата е overforted традиционно насилие престъпление, но тя е също така издълбана самата концепция на правосъдието. Обществото е търгувала каша, несъвършени процеси на човешкото решение за санализирани, моментна присъда, произнесена от алгоритъм.

Илюзията за цел морал

Сибилс власт почива на убеждението, че тя е безпристрастна, задвижвани от данни, и следователно морално превъзхождане на паднали човешки същества. Това убеждение е агресивно поддържано чрез пропаганда, социално опазване, и много реалната заплаха от Dominator. И все пак серията излага дълбоката лъжа в сърцето на такъв технократичен авторитаризъм: моралът не може да бъде намален до набор от неточности. Като се премахне човешкият капацитет за съпричастност, deliscribe, и контекстуално разбиране, системата Сибил не само дехуманизира тези, които тя съди, но и премахва обществото от всяка споделена отговорност за моралните мотиви. Последствията от конфликта разкриват колко опасно е станала тази абдикация. Когато самата система е доказано, че е фалшиваема както позитиви, така и нарочно подмамства населението е оставена без етичния неоптим или институционална рамка, за да се справи с разкритието.

Конфликтът между хора и машини: Бунтът срещу алгоритмичното управление

Конфликтът между хората и машините в Psycho-Passi не е обикновена война на плътта срещу стомана. Това е философска битка, водена чрез действията на героите му, всеки от които представлява различен отговор на системата на морала. Инспектор Акане Цунемори се бори да съгласува задължението си да спазва закона с нарастващото си осъзнаване на закона. Енфорс Шиня Когами дефекти изцяло, водена от лично търсене на възмездие, което системата отрича. И антагонистът Шого Макишима, уникално имунизиран към Сибилс психометричните сканирания, става терорист-философ, който се стреми да премахне системата чрез разкриване на противоречията си.

Ключови знаци като агенти на Агенцията

Тя започва като модел гражданин, чиято престъпност коефициент остава постоянно ясно, завещание за нейното вътрешно съответствие. И все пак, тъй като тя наблюдава системата тъмен от първа ръка, тя не го изоставя; вместо това, тя остава в рамките на институцията и работи, за да го реформира отвътре. Нейното решение отразява дълбоко хуманистка позиция: че законът не е недосегаем бог, но човешки артефакт, който може и трябва да бъде реформиран, когато тя стане несправедлива. Kogami, от контраст, въплъщава отхвърлянето на тази възможност. Той вижда Сибил като непоправимо корумпиран и избира лично отмъщение над системна реформа, ставайки нехраним живот извън обществото, което някога го е дефинирал. Makishima е третият поля радикален либертарианец, който вярва, че истинската свобода може да бъде намерена само в забраванието на всички системи за контрол, дори и ако това означава, че неосъществяването на тритен план на всеки един от тях показва, заколен характер на всеки вид.

Философският сблъсък: определяне на съдбата срещу свободната воля

Подразбирайки целия конфликт е дълбок философски въпрос: ако една машина може да предскаже бъдещето ви поведение с почти перфектна точност, все още ли притежавате свободна воля? Системата Сибил ефективно работи върху детеминистичен модел на човешката психология, като се предположи, че латентни криминални тенденции могат да бъдат идентифицирани и че индивидът няма смислен капацитет да се отклони от тази траектория. Това е необикновен етичен хазарт. Тя е отекчава вековни дебати за предопределение и коматибилизмът, но със съвременните инструменти не само прогнозират, че престъпленията създават контури, които подсилват много модели, които те твърдят, че същата presupcing marguides е кодирана в софтуера, който решава съдбата на хората.

Следата: Общество в търсене на душата си

Крайъгълният край на серията и последващите й филми, включително Победителите на системата трилогия и Психо-Пас 3 заснет сложна картина на един свят, опитващ се да се сглоби. Сибил е бил изложен не като безупречен бог, а като погрешен, самоосъзнаващ се обект, който е започнал да признава собствените си ограничения. Последствията не са чиста победа за всяка страна. Вместо това, това е каша, продължаващи преговори между човешката агенция и технологичния надзор.

Институционално преструктуриране и реформи

Едно от най-забележителните събития е решението на системата да позволи на един вид човешки надзор. Сибил внася Акане Цунемори в най-съкровения си кръг не като безпомощен компонент, а като равен участник с капацитета да възразява. Тази символична промяна сигнализира за преминаване от абсолютна алгоритмична власт към по-сътрудничещ модел. Макар че все още дълбоко несъвършена, реформираната структура признава, че никоя система не може да бъде морално самодостатъчно. Външният одит, разсеените гласове и запазването на човешките рецензии сега са признати като основни гаранции. Тези огледала съвременни призовават за човек-в-в-при-прилеп мандат в вземане на решения във високи завземания, от автономни оръжия към съдебни присъди.

Възходът на новите социални движения

На местно ниво обикновените граждани започват да си възвръщат автономията си. Подземните общности на латентните престъпници, които избягаха от градовете по време на конфликта, образуват свои собствени собствени собствени собствени собствени собствени собствени анклави. Тези групи отхвърлят моралния смятане на Сибил Система. Те сигнализират, че дори в света на пълното наблюдение човешката издръжливост може да издълбае пространства на истинска свобода. Както Китай се бори със собствените си опасности, те представляват реална алтернатива на паноптикона.

Технологична отчетност и компромиса на Сибил

Последиците също така въвеждат концепцията за технологична отчетност като централен политически въпрос. Бюрото за обществена безопасност е преструктурирано, и нови механизми за надзор са установени, за да се предотврати злоупотребата с Dominator орган. Най-важното, самата система за защита на данните започва да третира своята собствена неточност като отговорност, а не като сила. Тя започва да оправдава решенията си, поне да избира човешки оператори. Това движение към обяснението отразява принципите, които са в основата на общата нормативна уредба за защита на данните на Европейския съюз (GDPR), която включва право на обяснение за автоматизирани решения. Докато поредицата никога не решава напълно напрежението между сигурността и прозрачността, тя не предполага, че бъдещето на управлението трябва да включва динамично равновесие, а не сляпо представяне на черно-бокса мотиви.

Реално-световни Отражения: От психо-пас до предсказуема полиграфия

По целия свят правителствата и корпорациите разполагат със системи, които отразяват рамката на Сибил както в структурата, така и в етично отношение. Предсказуемите полицейски алгоритми, софтуера за разпознаване на емоциите в обществените пространства и механизмите за социално оценяване на кредитите се основават на едно и също фундаментално предположение, че поведението може да бъде количествено, прогнозирано и предварително управлявано. Последиците от конфликта на човешки машини в поредицата служат като старков предупредителен разказ за тези, които изграждат тези системи на реалния свят.

Алгоритъмен Биас и човешката цена

Един от най-трезвяващите уроци и от двете Psycho-Passe и действителната технология на наказателното правосъдие е проблемът алгоритни предразсъдъци[. The Sybil Systems Crimetric trimitc беше, за дълго време, считан за чисто обективен от населението. Само когато се появяват пукнатини обществото заснема, че системата е била дълбоко невалидни решения . . Хората, които са били подложени на стрес отговори, които биха могли да бъдат предизвикани от травма, психично заболяване, или дори прости дисент. Истинските инструменти показват същата тенденция. The COMPAS recidisvism алгоритъм е установено, че неточно знам черно ответниците като висок риск при почти два пъти темп на бели ответници. Тези грешки не са блика; те са предвидими резултати от обучение модели на обучение на данни, които вече са кодирани структурно неравенство.

Надзорен капитализъм и ерозия на личния живот

Освен правоприлагането Психикъл-пас[ също предвещава възхода на това, което ученият Шошана Зубов призовава ]Наблюдение капитализъм[. Системата Сибил не само наблюдава престъпността; тя жъне и комодира психологическите данни на цялото население. Всяка емоция, всеки трептещ от съмнение, става суровина за икономически и политически ред. Днес дигиталните ни стъпки са също така минирани да предсказват и манипулират поведението си, често без да са съгласни. Последствията от поредицата подчертава, че истинската реформа изисква не само институционална реформа, но и културно възстановяване на неприкосновеността на личните данни като основно право.

Поддържане на уроци и етични императори

Чертеж от описателната дъга на Psycho-Passiss, можем да дестилираме няколко императиви за проектиране и управление на реалните системи за ИИ и наблюдение. Тези уроци не са просто интелектуални упражнения; те са стратегии за оцеляване за бъдеще, което вече се оформя.

Необходимостта от критичен надзор

Акан Цунемори ни учи, че сляпото подчинение на автоматизираната власт е рецепта за зверство. Системите, независимо колко напреднали, трябва да бъдат обект на непрекъснат, независим надзор. Този надзор трябва да бъде оправомощен да спре операции, изисква прозрачност, и се застъпва за лицата, които са уловени в машината. Дали под формата на алгоритмичен одиторски борд, инспектор генерали, или гражданин преглед панели, принципът е един и същ: хората трябва да запазят крайната отговорност за решения, които засягат живота на човека. Да абдикират, че задължението е да се покани спускане в вида на морален вакуум, че Sybil в крайна сметка трябваше да признаят.

Запазване на човешките решения в автоматизирани системи

В серията в крайна сметка се страни с последните, дори и да се признава, че човешката присъда е неточна. Отговорът не е да се освободи от технологията, а да се проектират интерфейси, които подкрепят, а да се изметнат етичните разсъждения. В области, вариращи от медицината до наказателното правосъдие, проучванията показват, че когато алгоритмите са представени като инструменти за делибериране, а не като крайните арбитражи, резултатите се подобряват и решенията, които могат да бъдат използвани с моралните измерения на тяхната работа. [В Станфордския Енциклопедията за въвеждане на етиката на изкуствения интелект предоставя отличен преглед на това как могат да бъдат построени тези рамки.

Проектиране на технологии с етика в ядрото

Може би най-дълбокото наследство на Psycho-Passiss е неговото търсене, че внедрихме етика в най-ранните етапи на технологичния дизайн. Системата Сибил е създадена за решаване на проблем, който е напълно безопасен за обществото, без да се разпитва дали това желание е било неточно. Днес инженерите и не е трябвало да избягват същия капан. Етични оценки на въздействието, авангардни дизайн процеси и отказ да се третира ефективността като най-висока стойност са всички съществени. Алтернативата е свят, където, както в най-тъмните часове на поредицата, самите инструменти, които изграждаме, за да ни предпазим, се превръщат в инструменти на на нашето подтисничество.

В крайна сметка Ризинг от Аш не е просто субтитри за измислен епилог; това е подходящо описание на това, което трябва да се случи, когато обществото осъзнае, че е внесло твърде много сила на машините си. Последиците от конфликта между хората и машините в Психо-пас[] ни показва, че възстановяването е възможно, но изисква смелост, честност и непоколебима ангажираност към объркания, необратима стойност на човешкия живот. Тъй като нашият свят напада към все по-интегрирани форми на алгоритмично управление, серията стои като тържествено напомняне, че пламъците на такива конфликти не са неизбежни те са продукт на избор, който правим сега и могат да бъдат избегнати, ако се научим да държим нашите творения отговорни, преди да е твърде късно.