प्रौद्योगिकी के नैतिकता: 'psycho-pass' में विज्ञान-फाई तत्वों की खोज

Determinism बनाम फ्री विल: The Philosophic Core

सबसे बौद्धिक रूप से महत्वाकांक्षी धागे में से एक Psycho-pass] स्वतंत्र इच्छा बहस के साथ इसकी निरंतर सगाई है। यदि कोई मशीन आपके अव्यक्त आपराधिक प्रवृत्ति को माप सकती है और निकट-सही सटीकता के साथ अपने भविष्य की भविष्यवाणी कर सकती है, तो क्या भावना आप एक स्वतंत्र एजेंट हैं? सिबिल सिस्टम का अस्तित्व मानव व्यवहार का एक निश्चित मॉडल का अर्थ है - एक जहां विचार, भावनाएं और क्रिया तंत्रिका और मनोवैज्ञानिक आदानों के पूर्वानुमानीय आउटपुट हैं। यह शो अपने प्रोटैगोनिस्ट के माध्यम से इस निहितार्थ के खिलाफ धक्का देता है, इंस्पेक्टर अकेन त्सुनिष्ठता, जो अक्सर उन प्रभावों को प्रभावित करती है जो कि वहनात्मक निर्णयों के लिए एक बार-परक बन जाता है।

एक सदियों पुराने दार्शनिक राइफल पर यह तनाव मानचित्र। हार्ड डिटर्मिनिस्ट तर्क देते हैं कि मानव निर्णयों सहित सभी घटनाएं, पूर्व राज्यों द्वारा काउंसलर रूप से निर्धारित की जाती हैं; यदि सिबिल किसी व्यक्ति के मस्तिष्क और पर्यावरण के बारे में पूरी जानकारी तक पहुंच सकता है, तो इसकी भविष्यवाणी अनौपचारिक रूप से सटीक होगी। स्वतंत्र इच्छा के बारे में लिबर्टी (राजनीतिक लेबल के साथ भ्रमित नहीं होना) का तर्क है कि अंतरिक्ष यान के बीच में होने वाली इच्छा को दर्शाता है।

ल्याटेंट क्रिमिनल के रूप में मोराल पैराडोक्स

अव्यक्त अपराधी का आंकड़ा सिबिल सिस्टम के दिल में नैतिक विरोधाभासों का प्रतीक है। इन व्यक्तियों को कानूनी रूप से एक विघटन के लिए निंदा की जाती है, फिर भी कई लोग सही और गलत की स्पष्ट भावना को बरकरार रखते हैं और सक्रिय रूप से उनके मापा आवेगों के खिलाफ लड़ाई करते हैं। श्रृंखला पूछती है: वह व्यक्ति जो हिंसक विचारों को परेशान करता है लेकिन कभी भी उन पर नैतिक रूप से एक अपराधी अपराधी के बराबर कार्य नहीं करता है? आंतरिक राज्यों को दंडित करके, प्रणाली नैतिक रेगिस्तान के सिद्धांत को अस्वीकार करती है - विचार यह है कि लोग केवल उन विकृतियों के लिए दोषी हैं जिन्हें वे स्वतंत्र रूप से चुनते हैं। ऐसा करने में, [FLT: 0]

अल्गोरिथमिक बायस और ऑब्जेक्टिविटी का भ्रम

हालांकि सिबिल ने खुद को एक शुद्ध वैज्ञानिक, निष्पक्ष आर्बिटर के रूप में प्रस्तुत किया है, Psycho-pass] पूरी तरह से अपने निर्णयों में बेक किए गए पूर्वाग्रहों को उजागर करता है। सिस्टम डेटा पर प्रशिक्षित है जो समाज के मूल्यों और पूर्वाग्रह को दर्शाता है जो इसे बनाया गया था। निचले सामाजिक आर्थिक स्तर से वर्ण, या अनैच्छिक जीवनशैली वाले लोग अक्सर उच्च अपराध गुणांक को ट्रिगर करते हैं क्योंकि वे स्वाभाविक रूप से खतरनाक हैं लेकिन क्योंकि उनकी मनोवैज्ञानिक प्रोफाइल एक निर्मित मानदंड से अलग हो जाती है। श्रृंखला यह बताती है कि "समानी ह्यू" के रूप में कौन सी गिनती है।

प्रिडपोल जैसे पॉलिसिंग, भविष्यवाणियों के उपकरण को उच्च अपराध रिपोर्ट वाले पड़ोस के लिए गैर-प्रायोगिक रूप से गश्ती निर्देशित करने के लिए आलोचना की गई है, जो बदले में रंग के समुदायों के ऐतिहासिक अति-पॉलिडिंग को दर्शाता है, एक फीडबैक पाश बनाता है जो पूर्वाग्रह में प्रवेश करता है। A RAND Corporation अध्ययन पूर्वानुमान पर पाया गया कि बिना सावधानीपूर्वक डिजाइन के, ऐसे सिस्टम सही मानव पूर्वाग्रह के बजाय बढ़ सकते हैं। इसी तरह, सिबिल के कुल मनोवैज्ञानिक डेटा पर निर्भरता का मतलब है कि व्यक्ति जो तनाव, चिंता व्यक्त करता है, या क्रोध-मानवीयता को इंगित करता है।

प्रौद्योगिकीय नैतिक न्याय के Dehumanizing प्रभाव

]Psycho-pass में एक आवर्ती रूप है जो कि सिबिल सिस्टम पर निर्भर करते हैं उन लोगों के बीच मानव नैतिक तर्क का शोष है। प्रवर्तनकर्ताओं और निरीक्षकों को प्रमुख के फैसले पर पूरी तरह से भरोसा करना सिखाया जाता है; अगर हथियार तैनात नहीं करता है, तो लक्ष्य एक वास्तविक खतरा नहीं है। यह यांत्रिक नैतिकता उन तंत्रों को जानबूझकर करने की आवश्यकता को दूर करती है, जो संदर्भ का वजन महसूस करती है, नैतिक रूप से निर्धारित करने के लिए निर्णयों को अस्वीकार करती है। परिणाम उन लोगों के लिए एक कार्यबल है जो भावनात्मक रूप से अलग हो जाते हैं, और निरीक्षकों ने नैतिक बोझ के साथ न्याय की अपनी सहज भावना को फिर से प्रभावित किया है।

dehumanization कानून प्रवर्तन से परे फैलता है। नागरिक एक ही तर्क को आंतरिक रूप से व्यक्त करते हैं, दूसरों को डर के लिए संकट में मदद करने से बचना कि एक परेशान व्यक्ति से निकटता अपने स्वयं के मनोवैज्ञानिक-पास को बादल दे सकता है। Empath एक दायित्व बन जाता है; एकजुटता, एक सांख्यिकीय जोखिम। यह सामाजिक गतिशील मनोवैज्ञानिक शेरी तुर्कल द्वारा अवलोकनों को दर्शाता है, जिसने इस बारे में लिखा है कि कैसे प्रौद्योगिकी चेहरे से चेहरे की सहानुभूति और नैतिक साहस के लिए क्षमता को नष्ट कर सकती है। एक ऐसी दुनिया में जहां दर्शक हस्तक्षेप करने से पहले पीड़ित के खतरे के स्तर को स्कैन कर सकते हैं, सांप्रदायिक जिम्मेदारी के बहुत कपड़े को अविश्वासित कर सकते हैं।

रियल-वर्ल्ड समानांतर: एनीम से प्रिडेक्टिव एनालिटिक्स तक

की कथा Psycho-pass समकालीन कानून प्रवर्तन प्रथाओं में अकन्नी गूँजता को ढूंढता है। दुनिया भर में कई पुलिस विभागों ने भविष्य में विश्लेषण प्लेटफार्मों के साथ प्रयोग किया है जो व्यक्तियों या स्थानों पर जोखिम स्कोर सौंपते हैं। शिकागो की सामरिक विषय सूची, उदाहरण के लिए, बंदूक हिंसा में शामिल होने की उनकी संभावना से नागरिकों को रैंक करने के लिए एक एल्गोरिदम का इस्तेमाल किया, या तो पीड़ित या अपराधी के रूप में। पूर्वाग्रह प्रणाली ने सिबिल के समान तर्क पर काम किया: गिरफ्तारी रिकॉर्ड, सामाजिक नेटवर्क संबंधों और अन्य डेटा द्वारा, इसने भविष्य के खतरे का पूर्वानुमान करने का प्रयास किया।

इसके अलावा, सार्वजनिक स्थानों में बॉयोमीट्रिक निगरानी का एकीकरण अब speculative नहीं है। Emotion-recognition कैमरों ने हवाई अड्डों और सीमा पार करने पर तैनात किया, यात्रियों के इरादे को मापने का प्रयास किया; स्वास्थ्य निगरानी ऐप आवाज पैटर्न और स्मार्टफोन के उपयोग से मानसिक राज्यों को प्रभावित कर सकते हैं। ये तकनीकें अक्सर सार्वजनिक कल्याण के लिए उपकरणों के रूप में विपणन की जाती हैं, जो जोखिम मीट्रिक को सरलीकृत करने में मानव अनुभव को बदलने का एक ही अंतर्निहित जोखिम लेती हैं। Psycho-pass] वास्तव में प्रासंगिक बनी हुई है क्योंकि यह पहले से ही गति में एक प्रवृत्ति के तार्किक समापन बिंदु को दर्शाता है: एक समाज जो कि एक पूर्णता एजेंसी के लिए गोपनीयता का आदान-प्रदान करता है।

सुरक्षा की कीमत: संतुलन आदेश और स्वायत्तता

]Psycho-pass में एक केंद्रीय नैतिक तनाव सामूहिक सुरक्षा और व्यक्तिगत स्वायत्तता के बीच व्यापार बंद है। सिबिल सिस्टम के समर्थकों का तर्क है कि इसने हिंसक अपराध को समाप्त कर दिया है और अप्रत्याशित शांति के युग के बारे में लाया है। श्रृंखला कभी भी इनकार नहीं करती है कि 22 वीं सदी में टोक्यो अपनी 20 वीं सदी के समकक्ष से सतही रूप से सुरक्षित है। फिर भी यह पूछता है: किस कीमत पर? कीमत व्यक्तिगत स्वतंत्रता का समर्पण है, गोपनीयता का क्षरण, किसी के हाशिएदारीकरण जो सांख्यिकीय मोल्ड को फिट नहीं करता है, और राज्य की सुरक्षा को सीमित करने वाली स्थिति को दर्शाती है।

यह संतुलन एक मात्र अमूर्त नहीं है; यह निगरानी कानून, डेटा अवधारण जनादेश और आतंकवाद विरोधी उपायों के बारे में हर समकालीन बहस में मौजूद है। उपयोगितावादी कैलकुलस जो दुर्लभ विनाशकारी घटनाओं को रोकने के नाम से बड़े पैमाने पर डेटा संग्रह की अनुमति देता है, सिबिल के पूर्ववर्ती तर्क को प्रतिबिंबित करता है। Psycho-Pass] सुझाव देते हैं कि शुद्ध उपयोगितावादी व्यक्ति केवल उस विवाद को नियंत्रित नहीं कर सकता है।

एथिक्स को टेक्नोलॉजिकल डिज़ाइन में एम्बेड करना: ]Psycho-pass] से सबक

यदि ]Psycho-pass एक चेतावनी कहानी के रूप में कार्य करता है, तो यह डिजाइनरों, नीति निर्माताओं और नागरिकों के लिए रचनात्मक अंतर्दृष्टि भी प्रदान करता है। सबसे पहले, पारदर्शिता गैर-नक्राम्य है। सिबिल के डर आंशिक रूप से इसकी अस्पष्टता से उत्पन्न होता है; उपयोगकर्ताओं और विषयों को समान रूप से इस बात की अनदेखी में रखा जाता है कि कैसे फैसले को बेहतर ढंग से निष्पादित किया जाए।

नैतिकता समीक्षा बोर्ड, विविध विकास टीमों और चल रहे सार्वजनिक संवाद के लिए आवश्यक हैं कि वे तकनीकी डिस्पैसिया की तरह को रोकने के लिए कि Psycho-Pass] चित्रित किया गया है। चूंकि हम आपराधिक न्याय, स्वास्थ्य देखभाल और शिक्षा में कृत्रिम बुद्धि को गहरा एकीकृत करते हैं, हमें मशीनों के लिए नैतिक जिम्मेदारी का पालन करने के लिए प्रलोभन का विरोध करना चाहिए। प्रौद्योगिकी एक ऐसा उपकरण होना चाहिए जो मानव निर्णय को बढ़ाता है, यह विकल्प नहीं है जो इसे अप्रचलित करता है। श्रृंखला अंततः गड़बड़ी, फेल होने योग्य, लेकिन अंततः मानव नैतिक भ्रम-एक संदेश जो हमारे उपकरण के रूप में बढ़ता है।

निष्कर्ष

Psycho-pass एक गहरे साइबर पंक थ्रिलर से कहीं अधिक है। यह एक सतत दार्शनिक अंतर्ग्रहण है जो तब होता है जब एक समाज मानव आत्मा को मापने के द्वारा अपराध को दूर करने का प्रयास करता है। सिबिल सिस्टम के चित्रण के माध्यम से, श्रृंखला प्रीम्पेटिव न्याय के खतरों को उजागर करती है, गोपनीयता और नैतिक साहस का क्षरण, और उद्देश्य एल्गोरिदमिक निर्णय के भ्रम को कम करती है। एनीम के डिस्पेडियाई दृष्टि दूर विज्ञान कथा नहीं हैं; वे मानव-अनुकूली विषयों के अतिरंजित प्रतिबिंब हैं।