روان شناسی-Pass یک انیمه برجسته سایبرپانک است که برای اولین بار در سال 2012 توسط تولید I.G با داستانی که توسط Gen Urobuchi نوشته شده است، ساخته شده است.این سریال یک ژاپن 22 قرن را تصور می کند که یک شبکه گسترده از اسکنرهای بیومتریک و تجزیه و تحلیل روان سنجی است - به عنوان ترجیح می دهد به عنوان یک مدل Urobuchi. سیستم Sybil- هر جنبه ای از زندگی را که شهروندان به طور مداوم تحت نظارت قرار می گیرند، وضعیت عاطفی و روانی آنها به یک عددی کاهش می یابد. جرم و جنایت Coperکسانی که در بالای یک آستانه خاص ثبت شده اند یا در موارد شدید، توسط مجریان سیستم حذف شده اند قبل از هر جرم در واقع متعهد است، روایت به عنوان یک هیجان انگیز جذب کننده آشکار می شود، اما قدرت واقعی آن در پی درگیری انسان- ماشین آلات نظارت است که فوران می کند زمانی که عدم وقوع سیستم مورد سوال قرار می گیرد که پس از آن، و نیروهای قضاوت اخلاقی، به بررسی دقیق از طریق دستگاه های نظارت تصویری ما، به سرعت پردازش های نظارت بر روی دستگاه های نظارت بر روی صفحه نمایش، ادامه می دهد.

سیستم Sybil: یک ⁇ تکنولوژیکی

در هسته روان شناسی-Pass سیستم Sybil، یک هوش مصنوعی گسترده که داده های روان شناختی هر فرد در جامعه را جمع می کند، بر خلاف یک سوپرکامپیوتر منفرد یا یک برنامه تک تک، Sybil بعداً به عنوان یک آگاهی جمعی متشکل از صدها مغز انسان غیر قانونی که به طور مشترک شبکه می کنند، آشکار می شود.این پیچ و تاب های عجیب و غریب بر موضوع اصلی تأکید می کند: یک ماشین ظاهراً باید با هر سیستم واقعیت غیر منطقی مقابله کند. روان شناسی-Pass- اندازه گیری جرم و جنایت دیرین آنها - و دکترینی از عدالت پیشگیرانهکسانی که به عنوان جنایتکاران دیرین به سر می برند یا به طور مرگبار توسط بازرسان اداره امنیت عمومی و انورها خنثی می شوند، اغلب قبل از اینکه هر گونه اقدام غیرقانونی انجام دهند.

عدالت کیفری و کارآمد

The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The The جرم و جنایت Coper سوخت است که کل دیستپی را قدرت می دهد، یک شاخص از خواندن بیومتریک است - ضربان قلب، تخریب دانش آموز، الگوهای استرس صوتی و فعالیت موج مغز - که تمایل فرد برای شکستن قانون را اندازه گیری می کند، اگر شماره عبور از منطقه خطر قانونی تعریف شده، یک سلاح مخرب مستقر توسط افسران میدانی به طور خودکار تعیین پاسخ مناسب: یک مطالعه غیر نقدی دقیق است که همه چیز را تجزیه و تحلیل می کند، اما هیچ سیستم ثبت نام قانونی نیست، هیچ یک سیستم ثبت نام قانونی و یا یک سیستم آزمایشی غیر کشنده است. ارزیابی ریسک الگوریتمی مانند ابزار اصلاح گرایی COMPAS، که نشان داده شده است که تعصبات نژادی و اجتماعی و اقتصادی را تحت پوشش ⁇ قرار دهد (تحقیقات ProPublica در مورد سوگیری ماشین این خطرات را دقیقاً مشخص می کند.

توهم اخلاقی عینی

اقتدار Sybil بر این باور استوار است که بی طرفانه، داده محور است و بنابراین از نظر اخلاقی برتر از انسانهای ناقابل سقوط است، این باور به طور تهاجمی از طریق تبلیغات، شرطی سازی اجتماعی و تهدید واقعی از Dominator حفظ می شود - با این حال این مجموعه نشان می دهد که دروغ عمیق در قلب چنین اقتدارگرایی فنی: اخلاق نمی تواند به طور عمدی به یک توهم اندازه گیری شده از دیدگاه اخلاقی، نه تنها زمانی که سیستم درک اخلاقی آن را تضعیف می کند، بلکه فقط در مورد آن است.

درگیری انسان- ماشین: شورش علیه قانون الگوریتمی

درگیری انسان- ماشین در روان شناسی-Pass جنگ ساده ای از گوشت در مقابل فولاد نیست، نبرد فلسفی است که از طریق اعمال شخصیت های آن صورت گرفته است، هر کدام از آنها نشان دهنده پاسخ متفاوتی به سیستم انکار اخلاق است. بازرس آکیان سومنوری تلاش می کند تا وظیفه خود را برای مقابله با قانون به طور منحصر به فرد خود از بی انسانی قانون، جلوگیری کند.

ویژگی های کلیدی به عنوان عامل آژانس

قوس آکان سوموری مسلماً آموزنده ترین است.او به عنوان یک شهروند مدل که شریک جرم و جنایتش به طور مداوم روشن است، گواهی بر انطباق درونی اش، با این حال، همانطور که او شاهد اولین حلقه ی بی رحم سیستم است، او در نهایت آن را رها نمی کند؛ در داخل موسسه باقی می ماند و تلاش می کند تا آن را از درون تصمیم گیری اصلاح کند، یک الگوریتم زندگی عمیقاً نشان می دهد که هر یک مانع از آن است، و به طور غیرمنصفانه ای که می تواند تغییر دهد، در نهایت به طور غیرمنصفانه ای به طور غیرمنصفانه ای به آن تبدیل شود؛ و در آن تبدیل شود؛ در نهایت، بلکه باید آن تغییر دهد که یک جامعه ی شخصی به طور غیرمنصفانه ای به طور غیرمنصفانه باشد، در آن را تغییر دهد، در آن را تغییر دهد؛ در آن را تغییر دهد؛ در آن را تغییر دهد؛ در نهایت، در آن را به طور غیرمنصفانه ای که در آن را به طور غیرمنصفانه ای به طور غیرمنصفانه ای به طور غیرمنصفانه ای که در آن را تغییر دهد؛ در آن را به طور غیرمنصفانه ای به طور غیرمنصفانه ای به طور غیر قابل تغییر دهد؛ در نهایت، در آن را به طور سیستماتیک، در آن را به عنوان یک جامعه ی شخصی

درگیری فلسفی: تعیین گرایی در مقابل اراده آزاد

ریشه کن کردن کل درگیری یک سوال فلسفی عمیق است: اگر یک ماشین بتواند رفتار آینده شما را با دقت نزدیک به کامل پیش بینی کند، آیا هنوز اراده آزاد دارید؟ سیستم سیبیل به طور موثر بر یک مدل تعیین کننده روانشناسی انسان عمل می کند، با فرض اینکه گرایش های جنایی دیرین را می توان شناسایی کرد و فرد هیچ ظرفیت معنی داری برای منحرف شدن از آن مسیر ندارد. پیش بینی و همدلیاما با یک پیچ و تاب معاصر: در دنیای واقعی پیش بینی الگوریتم های اصلاح و ارسال، همان پیش فرض به نرم افزار است که سرنوشت مردم را تصمیم می گیرد. تحقیقات نشان داده است که ابزارهای پیش بینی نه تنها پیش بینی جرم را پیش بینی می کنند - آنها حلقه های بازخورد ایجاد می کنند که الگوهایی را که ادعا می کنند اندازه گیری می کنند تقویت می کنند (تحقیقات نشان می دهد که ابزارهای پیش بینی کننده نه تنها پیش بینی جرم است).تجزیه و تحلیل سوگیری الگوریتمی در پیش بینی• عواقب درگیری انسان- ماشین در روان شناسی-Pass آنچه اتفاق می افتد را به نمایش می گذارد وقتی که منطق تعیین کننده به نتیجه نهایی خود می رسد: جامعه ای که فراموش کرده است چگونه آینده های جایگزین را تصور کند یا چگونه ببخشد.

دانلود موسیقی متن فیلم The Aftermath: A Society in Search of Its Soul

اوج فیلم ها و فیلم های بعدی آن – از جمله Sinners of the System سه گانه و دانلود فیلم Psycho-Pass 3- یک تصویر پیچیده از دنیایی که سعی دارد خود را با هم ترکیب کند، Sybil نه به عنوان یک خدای بی نقص بلکه به عنوان یک نهاد بی عیب و نقص و خودآگاه که محدودیت های خود را تایید کرده است، در معرض قرار گرفته است.پس پیروزی تمیز برای هر دو طرف نیست، این یک مذاکره آشفته و مداوم بین سازمان انسانی و نظارت فنی است.

اصلاحات و اصلاحات

یکی از قابل توجه ترین تحولات تصمیم سیستم برای اجازه دادن به درجه نظارت انسان است. Sybil باعث می شود که Akane Tsunemori به داخل ترین دایره خود - نه به عنوان یک جزء بی طرف بلکه به عنوان یک شرکت کننده برابر با ظرفیت برای اعتراض به این تغییر نمادین یک تغییر از اقتدار الگوریتمی مطلق به یک مدل مشارکتی بیشتر می دهد، در حالی که هنوز به طور عمیق اصلاح نشده است، ساختار مخالفتی که هیچ سیستم حسابرسی داخلی و ضروری را نمی شناسد. انسان در حلقه تعهد در تصمیم گیری هوش مصنوعی بالا، از سلاح های مستقل گرفته تا محکومیت قضایی.

ظهور جنبش های اجتماعی جدید

در سطح مردمی، شهروندان عادی شروع به بازپس گیری استقلال خود می کنند، جوامع زیرزمینی مجرمان دیرین که در طول درگیری از شهرها فرار کردند، خود را به محاصره های خود می رسانند، این گروه ها حساب های اخلاقی سیستم Sybil را به طور کامل رد می کنند، به جای آن برای عدالت عمومی و عمومی، این سریال این شهرک ها را رمانتیک نمی کند – آنها با خطرات جایگزین خود – اما آنها می توانند یک سیگنال واقعی از نظارت واقعی را نشان دهند. همانطور که آزمایش های اعتباری اجتماعی چین و سایر اشکال حکومت الگوریتمی گسترش می یابدچنین تفسیرهای داستانی مقاومت، یک منبع تخیلی ارزشمند را ارائه می دهند.

قابلیت پاسخگویی تکنولوژی و Sybil Compromise

پس از آن نیز مفهوم را معرفی می کند. پاسخگویی تکنولوژیکی به عنوان یک مسئله سیاسی مرکزی، اداره امنیت عمومی بازسازی شده است و مکانیسم های نظارتی جدید برای جلوگیری از سوء استفاده از اختیارات Dominator ایجاد شده است، مهمتر از همه، سیستم Sybil خود را شروع به درمان ابهام خود به عنوان یک مسئولیت به جای یک قدرت، آن را شروع به توجیه تصمیمات خود، حداقل برای انتخاب اپراتورهای انسانی. حق توضیح در حالی که این سریال هیچگاه تنش بین امنیت و شفافیت را به طور کامل برطرف نمی کند، نشان می دهد که آینده حکومت باید به جای تسلیم کور به استدلال جعبه سیاه، تعادلی پویا داشته باشد.

بازتاب های واقعی جهانی: از روانکاوی تا پیش بینی پلیس

ارتباط پایدار روان شناسی-Pass در نزدیکی عدم نفوذ آن به روند فعلی تکنولوژیکی، دولت ها و شرکت ها در حال استقرار سیستم هایی هستند که چارچوب Sybil را در هر دو ساختار و القاء اخلاقی منعکس می کنند. الگوریتم های پیش بینی کننده، نرم افزار تشخیص احساسات در فضاهای عمومی، و مکانیسم های امتیاز اعتباری اجتماعی همه در همان فرض بنیادی که رفتار می تواند اندازه گیری، و پیش بینی شده باشد، و از آن، هشدار دهنده ی این است که در این سیستم های جنگ جهانی به عنوان یک درگیری شدید انسانی مدیریت می شود.

نام انگلیسی: Algorithmic Bias و Human Cost

یکی از هوشیارترین درس ها از هر دو روان شناسی-Pass تکنولوژی واقعی عدالت کیفری مشکل اصلی است الگوریتمیشرکت جرم سیستم Sybil برای مدت طولانی، صرفاً عینی از سوی مردم در نظر گرفته شد.تنها زمانی که شکاف ها به نظر می رسید جامعه درک می کرد که سیستم قضاوت های عمیقی را مرتکب شده است – هدف قرار دادن مردم بر اساس پاسخ های استرس که می تواند توسط تروما، بیماری روانی یا حتی ابزارهای ساده دنیای واقعی ایجاد شود، همان گرایش الگوریتم یادگیری جامع را نشان می دهد که به اشتباه ادعا می کند که آنها در مورد استفاده از خطا های مربوط به کاهش داده های مربوط به علت آلودگی سیاه است، دو برابر آن نیست.

سرمایه داری نظارت و فرسایش حریم خصوصی

فراتر از اجرای قانون، روان شناسی-Pass همچنین افزایش آنچه که دانشمند Shushana Zuboff می نامد را زیر نظر می گیرد. نظارت بر سرمایه داریسیستم Sybil صرفاً جرم را زیر نظر نمی گیرد؛ برداشت ها و تنظیم داده های روان شناختی یک جمعیت را به طور کامل تنظیم می کند.هر احساس، هر یک از انحراف های شک، مواد خام برای نظم اقتصادی و سیاسی می شود. امروز، ردپای دیجیتال ما به طور مشابه استخراج و دستکاری رفتار، اغلب بدون رضایت معنی دار، نشان می دهد که بازیابی واقعی نه تنها خواستار اصلاحات در زمینه های حفظ حریم خصوصی مدرن است که به عنوان یک مجموعه اساسی از شهروندان، و دستکاری می شود.

پایان دادن به درس ها و سوء تفاهم های اخلاقی

برگرفته از داستان روان شناسی-Passما می توانیم چندین ضرورت برای طراحی و حاکمیت سیستم های هوش مصنوعی و نظارتی دنیای واقعی را به کار گیریم؛ این درس ها صرفاً تمرینات فکری نیستند؛ آنها استراتژی های بقا برای آینده ای هستند که در حال حاضر شکل می گیرد.

ضرورت بینش انتقادی

سفر آکان سوموری به ما می آموزد که اطاعت کورکورانه از اقتدار خودکار دستورالعملی برای سیستم های شهری است، مهم نیست که چقدر پیشرفته است، باید به نظارت مستمر و مستقل بپردازد که نظارت باید قادر به متوقف کردن عملیات، شفافیت و حمایت از افرادی باشد که در ماشین آلات گرفتار شده اند. هیئت مدیره حسابرسی الگوریتمیژنرال های بازرس یا پنل های بررسی شهروندی، اصل یکسان است: انسان ها باید مسئولیت نهایی تصمیماتی را که بر زندگی انسان تأثیر می گذارد، حفظ کنند.

نظارت بر قضاوت انسانی در سیستم های خودکار

یک سرریز تکراری در سری تنش بین حکم فوری دومینستراتور و وزن اخلاقی از اختیار انسان است، سری در نهایت با دومی همراه است، حتی با توجه به اینکه قضاوت انسان ناقص است، پاسخ این نیست که با تکنولوژی کنار گذاشته شود، بلکه طراحی رابط هایی است که به جای استدلال اخلاقی، در زمینه های پزشکی از مطالعات جنایی حمایت می کنند، زمانی که الگوریتم های تصمیم گیری را بهبود می دهند و به جای ابزارهای نهایی برای طراحی رابط هایی که جایگزین استدلال اخلاقی می شوند. ورود به دانشگاه استنفورد به اخلاق هوش مصنوعی یک مرور عالی از چگونگی ساخت چنین چارچوب هایی فراهم می کند.

طراحی تکنولوژی با اخلاق در هسته

شاید عمیق ترین میراث روان شناسی-Pass تقاضا آن است که ما اخلاق را در مراحل اولیه طراحی فن آوری جاسازی می کنیم.سیستم Sybil برای حل یک مشکل ایجاد شده است - تمایل به یک جامعه کاملا امن - بدون هیچ وقت بازجویی از اینکه آیا این میل خود را پاتولوژی است یا خیر، مهندسان و سیاستگذاران امروز باید از همان تله، ارزیابی اثرات اخلاقی، فرآیندهای طراحی مشارکتی، و امتناع از درمان به عنوان بالاترین ارزش جایگزین، همه ابزارهای بسیار تاریک و ضروری برای محافظت از ما به عنوان ابزار بسیار تاریک است.

در پایان، افزایش از Ashes نه تنها یک زیرنویس برای یک اپیلوگ داستانی است؛ بلکه شرح درستی از آنچه باید اتفاق بیفتد است، هر زمان که یک جامعه متوجه شود که قدرت زیادی به ماشین های خود داده است. روان شناسی-Pass نشان می دهد که بهبودی ممکن است، اما نیازمند شجاعت، صداقت و تعهد بی نظیر به ارزش کثیف و غیرقابل تقلیل زندگی انسان است، زیرا جهان ما به شکل های یکپارچه تر حکومتداری الگوریتمی آسیب می زند، این سریال به عنوان یادآوری جدی است که شعله های چنین درگیری ها اجتناب ناپذیر نیستند - آنها محصول انتخاب هایی هستند که ما اکنون انجام می دهیم و می توانند اجتناب شوند اگر دیرباز هم دیر به آن توجه کنیم.