Η σειρά anime Psycho-Pass κατασκευάζει μια σχεδόν μελλοντική Ιαπωνία που κυβερνάται από ένα πανταχού παρόν σύστημα βιομετρικής επιτήρησης που σαρώνει τις ψυχικές καταστάσεις των πολιτών και αναθέτει μια αριθμητική βαθμολογία «Ψυχο-Πάσσα» που δείχνει την τάση τους για εγκληματική συμπεριφορά. Στην επιφάνεια, το Σύστημα Σίβυλλο υπόσχεται μια ειρηνική κοινωνία εξουδετερώνοντας τις απειλές πριν εκδηλωθούν. Κάτω από αυτό το καπλαμά, η αφήγηση αποκαθιστά συστηματικά τις ηθικές υποθέσεις που στηρίζουν μια τέτοια προληπτική διακυβέρνηση. Τοποθετώντας τους αξιωματικούς επιβολής του νόμου στο έλεος ενός αλγορίθμου που μπορεί να διαβάσει μυαλά αλλά όχι καρδιές, οι θεατές της σειράς αναγκάζουν να αντιμετωπίσουν δυσάρεστα ερωτήματα σχετικά με τη δικαιοσύνη, την υπηρεσία, και την ίδια την ουσία της ηθικής σε έναν τεχνολογικά κορεσμένο κόσμο.

Το Σύστημα Σίβυλλας και η Αρχιτεκτονική της Προέγκλημα

Κεντρικό για Ψυχο-Πάσο είναι το Σύστημα Σίβυλλο, ένα τεράστιο δίκτυο σαρωτών δρόμου, φορητών αισθητήρων και αλγορίθμων βαθιάς μάθησης που μετρούν συνεχώς το «χούε» της ψυχοσυναισθηματικής κατάστασης ενός ατόμου. Σε περίπτωση που η ανάγνωση ενός πολίτη διασταυρώνεται με προκαθορισμένο όριο, χαρακτηρίζονται λανθάνοντες εγκληματίες. Αυτή η ταξινόμηση επιτρέπει στην επιβολή του νόμου, που ενσωματώνεται από το Γραφείο Δημόσιας Ασφάλειας, να συγκρατεί ή, σε ακραίες περιπτώσεις, να εξαλείψει το άτομο χρησιμοποιώντας ένα κυρίαρχο ⁇ ένα μετασχηματιστικό πιστόλι που πυρπολεί μόνο αν ο Συντελεστής Εγκλήματος του στόχου περάσει ένα θανατηφόρο σημείο αναφοράς. Το σύστημα αυτό κατατάσσει την έννοια του προέγκλημα, το οποίο είναι γνωστό ότι εξερευνάται σε ένα όραμα Έκθεση μικροβίων, αλλά προσθέτει μια ψυχολογική διάσταση: το έγκλημα δεν είναι ένα μελλοντικό γεγονός που υποτίθεται ότι είναι ένα ενδημαϊκό όραμα· είναι ένα εν δυνάμει εγγενές γεγονός.

Το ηθικό πρόβλημα με το προέγκλημα είναι τριπλό. Πρώτον, καταρρέει η διάκριση μεταξύ σκέψης και δράσης. Σύμφωνα με τη Sibyl, ένα άτομο τιμωρείται όχι για ό,τι έχει κάνει αλλά για ό,τι προβλέπει ο αλγόριθμος ότι μπορεί να γίνουν. Αυτό υπονομεύει τη θεμελιώδη αρχή actus reus[[1]] ⁇ η ένοχη πράξη ⁇ πάνω στην οποία κατασκευάζονται τα περισσότερα νομικά συστήματα. Δεύτερον, το σύστημα δημιουργεί μια μόνιμη υποκατηγορία “επιτυχών εγκληματιών”, άτομα που εξοστρακίζονται και απογυμνώνονται από δικαιώματα ακόμη και αν δεν διαπράττουν ποτέ επιβλαβή πράξη. Η σειρά δείχνει ότι αυτοί οι άνθρωποι περιορίζονται σε εξειδικευμένες ζώνες ή αναγκάζονται σε θέσεις εργασίας χαμηλού επιπέδου, δημιουργώντας μια αυτοεκπληρούμενη προφητεία όπου ο κοινωνικός αποκλεισμός ενισχύει το ψυχολογικό στρες και οδηγεί την λανθάνουσα εγκληματική ετικέτα υψηλότερα. Τρίτον, το σύστημα Sibyl λειτουργεί χωρίς διαφάνεια.

Παρακολούθηση, ιδιωτικότητα και το φαινόμενο της οπτικής

Το Psycho-Pass[ ζωγραφίζει έναν κόσμο όπου η ιδιωτικότητα έχει καταργηθεί. Κάθε δημόσιος χώρος παρακολουθείται από κυματικούς σαρωτές που διαβάζουν βιολογικά σήματα, προσωπικές συσκευές και ακόμη και έργα τέχνης μπορούν να αναμεταδίδουν ψυχολογικά δεδομένα πίσω στο κεντρικό αρχείο. Η διαρκής ορατότητα δημιουργεί ένα σύγχρονο πανοπτικό, που θυμίζει την προσαρμογή του σχεδιασμού της φυλακής του Jeremy Bentham, στο οποίο οι τρόφιμοι εσωτερικεύουν την πιθανότητα παρατήρησης και ρυθμίζουν τη δική τους συμπεριφορά ανάλογα. Στη σειρά, οι πολίτες μαθαίνουν να καταπιέζουν τα συναισθήματα και αποφεύγουν τα αγχωτικά ερεθίσματα ⁇ βιβλία, μουσική, σχέσεις ⁇ αλείφουν το σύννεφο της απόχρωσης τους. Αυτή η συναισθηματική αυτο-πολιτική είναι η απόλυτη νίκη της κατάστασης επιτήρησης: δεν χρειάζεται πλέον να παρεμβαίνει σωματικά· απλά εκπαιδεύει τους ανθρώπους να γίνουν υπάκουα θέματα.

Η απώλεια της ιδιωτικής ζωής στο Ψυχο-Πάσσο[[LPT:1]] δεν αντιμετωπίζεται ως απλή ενόχληση αλλά ως υπαρξιακή απειλή για την ανθρώπινη ταυτότητα. Η ικανότητα να έχουν ιδιωτικές σκέψεις, να μαλώνουν με σκοτεινές παρορμήσεις χωρίς εξωτερική κρίση, αποτελεί προϋπόθεση για την ηθική ανάπτυξη. Όταν κάθε διακύμανση της ψυχής είναι ποσοτικοποιημένη και εκτεθειμένη, τα άτομα χάνουν το χώρο που χρειάζονται για να καλλιεργήσουν συμπάθεια, μεταμέλεια ή προσωπική ανάπτυξη. Η σειρά απηχεί τις σύγχρονες συζητήσεις γύρω από τη μαζική κυβερνητική επιτήρηση που αποκαλύπτεται από τον Edward Snowden, καθώς και την εμπορική datavillence που ασκείται από τις εταιρείες τεχνολογίας. Σε έναν κόσμο όπου οι έξυπνες συσκευές συλλέγουν συνεχώς συναισθηματικά δεδομένα, η γραμμή μεταξύ δημόσιων και ιδιωτικών φωτογραφικών μηχανών μπορεί να θολώσει. έκθεση από την Αμερικανική Ένωση Πολιτικών Ελευθεριών υπογραμμίζει το πόσο διαυγή παρακολούθηση, από την αναγνώριση προσώπου σε κάμερες ανίχνευσης συναισθημάτων, μπορεί να ανατριχήσει την ομιλία και τη συνέλευση με τρόπους που η κοινωνία μπορεί να αντικρύπτει τον καθρέφτη.

Καθορισμός εναντίον Ελεύθερης Θέλησης: Ο Φιλόσοφος Κεντρικός

Ένα από τα πιο πνευματικά φιλόδοξα νήματα στο Ψυχο-Πάσσα είναι η διαρκής εμπλοκή του με την ελεύθερη βούληση συζήτησης. Αν μια μηχανή μπορεί να μετρήσει την λανθάνουσα εγκληματική τάση σας και να προβλέψει το μέλλον σας με σχεδόν τέλεια ακρίβεια, με ποια έννοια είστε ένας ελεύθερος παράγοντας; Η ίδια η ύπαρξη του συστήματος Σίβυλλα συνεπάγεται ένα ντετερμινιστικό μοντέλο ανθρώπινης συμπεριφοράς ⁇ ένα όπου σκέψεις, συναισθήματα και δράσεις είναι οι προβλέψιμες εξόδους νευρικών και ψυχολογικών εισροών. Η παράσταση ωθεί ενάντια σε αυτή την επίπτωση μέσω του πρωταγωνιστή της, Επιθεωρητής Akane Tsunemori, ο οποίος επανειλημμένα κάνει επιλογές που πέφτουν έξω από την προγνωστική εντολή της Σίβυλλας. Η ικανότητά της για ανεξάρτητη κρίση, για την ανάληψη δράσης πάνω στην κατανόηση και όχι στη στατιστική πιθανότητα, γίνεται το ζωντανό αντι-επιχείρημα για την αποτροπή του ελέγχου.

[Η Sibyl μπορεί να έχει πρόσβαση σε πλήρη πληροφόρηση σχετικά με τον εγκέφαλο και το περιβάλλον ενός ατόμου. Οι σκληρές ντετερμινιστικές προβλέψεις του υποστηρίζουν ότι όλα τα γεγονότα, συμπεριλαμβανομένων των ανθρώπινων αποφάσεων, καθορίζονται αιτιωδώς από προηγούμενες πολιτείες.Αν η Sibyl μπορούσε να έχει πρόσβαση σε πλήρη πληροφόρηση σχετικά με τον εγκέφαλο και το περιβάλλον ενός ατόμου, οι προβλέψεις της θα ήταν αλάνθαστα ακριβείς. Οι ελευθεριακοί σχετικά με την ελεύθερη βούληση (δεν πρέπει να συγχέονται με την πολιτική ετικέτα) ισχυρίζονται ότι ο αντεπιστεροτισμός σε κβαντικό επίπεδο ή η μη-υλιστική συνείδηση επιτρέπει την πραγματική επιλογή. Οι συμπολεμιστές αναζητούν ένα μεσαίο έδαφος, υποστηρίζοντας ότι η ελεύθερη βούληση είναι σημαντική αν μια δράση ρέει από τις επιθυμίες και τις συζητήσεις του, ακόμη και αν αυτές οι επιθυμίες είναι οι ίδιες καθορισμένες. Το καθεστώς Sibyl διαγράφει ότι το μεσαίο έδαφος: ένας Συντελεστής Εγκλήματος παρακάμπτει τη λογική ενός ατόμου και επιβάλλει μια εξωτερική ετικέτα.

Ο Λανθάντης Εγκληματίας ως Ηθικό Παράδοξο

Η μορφή του λανθάνοντος εγκληματία ενσαρκώνει το ηθικό παράδοξο στην καρδιά του συστήματος Σίβυλλα. Αυτά τα άτομα είναι νομικά καταδικασμένα για διάθεση, ωστόσο πολλοί διατηρούν μια σαφή αίσθηση του σωστού και του εσφαλμένου και ενεργά να καταπολεμούν τις μετρημένες παρορμήσεις τους. Η σειρά ρωτάει: είναι ένα άτομο που τρέφει βίαιες σκέψεις αλλά ποτέ δεν ενεργεί πάνω τους ηθικά ισοδύναμο με έναν καταδικασμένο δράστη; Τιμωρώντας εσωτερικές πολιτείες, το σύστημα διαλύει την αρχή της ηθικής ερήμου ⁇ την ιδέα ότι οι άνθρωποι αξίζουν να κατηγορήσουν μόνο για πράξεις που επιλέγουν ελεύθερα. Κάνοντας το αυτό, ο Ψυχο-Πας ενσαρκώνει σε νευρολογικές έρευνες δείχνοντας ότι όλοι μας τρέφουμε επιθετικές ή αντικοινωνικές παρορμήσεις· αυτό που διακρίνει τον νομοταγή πολίτη είναι η άσκηση ανασταλτικού ελέγχου, όχι η απουσία της παρόρμησης. Η λογική της Σιβυλικής αγνοεί αυτή την κριτική, αντιμετωπίζοντας κάθε αντιβιοτική σκέψη ως έγκλημα που περιμένει να συμβεί.

Αλγοριθμική Bias και η ψευδαίσθηση της αντικειμενικότητας

Αν και η Σίβυλλα παρουσιάζεται ως καθαρά επιστημονική, αμερόληπτη κριτής, Ψυχο-Πας] εκθέτει διακριτικά τις προκαταλήψεις που ψήθηκαν στις κρίσεις της. Το σύστημα εκπαιδεύεται σε δεδομένα που αντανακλούν τις αξίες και τις προκαταλήψεις της κοινωνίας που το κατασκεύασε. Χαρακτήρες από χαμηλότερα κοινωνικοοικονομικά στρώματα, ή από εκείνους με αντισυμβατικό τρόπο ζωής, συχνά ενεργοποιούν υψηλότερους συντελεστές του εγκλήματος όχι επειδή είναι εγγενώς επικίνδυνοι αλλά επειδή τα ψυχολογικά προφίλ τους αποκλίνουν από έναν κατασκευασμένο κανόνα. Η σειρά υποδηλώνει ότι αυτό που μετράει ως «σαφή απόχρωση» είναι ένα πολιτιστικό οικοδόμημα, ντυμένος στη γλώσσα των μαθηματικών για να εμφανιστεί ουδέτερο. Αυτό καθρεφτίζει τις κριτικές των συστημάτων τεχνητής νοημοσύνης που αναπαράγουν ανισότητα υπό την πρόφαση της αλγοριθμικής αντικειμενικότητας.

Στην αστυνόμευση, εργαλεία πρόβλεψης όπως η PredPol έχουν επικριθεί για την καθοδήγηση περιπολιών δυσανάλογα σε γειτονιές με ανώτερες αναφορές εγκλήματος, η οποία με τη σειρά της αντικατοπτρίζει την ιστορική υπερ-πολιτεία των κοινοτήτων του χρώματος, δημιουργώντας έναν βρόχο ανάδρασης που εγκλωβίζει την προκατάληψη. Η RAND Corporation μελέτη για την προγνωστική αστυνόμευση[ διαπίστωσε ότι χωρίς προσεκτικό σχεδιασμό, τέτοια συστήματα μπορούν να ενισχύσουν και όχι να διορθώσουν ανθρώπινες προκαταλήψεις. Ομοίως, η εξάρτηση της Sibyl σε συγκεντρωτικά ψυχολογικά δεδομένα σημαίνει ότι τα άτομα που εκφράζουν άγχος, άγχος ή θυμούς ⁇ υποθέσεις που είναι πιο πιθανό να αυξηθούν σε περιθωριοποιημένες ομάδες ⁇ είναι τιμωρημένα. Η σειρά προβλέπει έτσι σύγχρονες ανησυχίες σχετικά με τη δικαιοσύνη, τη λογοδοσία και τη διαφάνεια στην αλγοριθμική διακυβέρνηση, υπενθυμίζοντάς μας ότι ένα μαύρο κουτί AI δεν είναι πιο αντικειμενικό από τους ανθρώπους που το προγραμμάτισαν.

Η Απανθρωπιστική Επίδραση της Τεχνολογικής Ηθικής Κρίσης

Ένα επαναλαμβανόμενο μοτίβο στο Ψυχο-Πάσσο είναι η ατροφία της ανθρώπινης ηθικής λογικής μεταξύ εκείνων που βασίζονται στο Σύστημα Σίβυλλας. Οι δυνάστες και οι επιθεωρητές διδάσκονται να εμπιστεύονται απόλυτα την κρίση του κυρίαρχου· αν το όπλο δεν αναπτυχθεί, ο στόχος δεν αποτελεί πραγματική απειλή. Αυτή η μηχανική ηθική απομακρύνει την αναγκαιότητα να εσκεμμένων, να σταθμίζουν το πλαίσιο, να αισθάνονται το βάρος της αφαίρεσης μιας ζωής. Το αποτέλεσμα είναι ένα εργατικό δυναμικό των εκτελεστών που αποσπώνται συναισθηματικά, και επιθεωρητών που αγωνίζονται να συμβιβάσουν τη διαισθητική αίσθηση της δικαιοσύνης τους με τα ψυχρά διατάγματα του συστήματος. Η σειρά δείχνει ότι η εξωτερική ανάθεση ηθικών αποφάσεων στην τεχνολογία δεν διευκολύνει αυτές τις αποφάσεις ⁇ απλώς εκτοπίζει το ηθικό βάρος σε ένα ανιδιοτελές μηχανισμό, συχνά με καταστροφικές συνέπειες.

Η απανθρωποποίηση επεκτείνεται πέρα από την επιβολή του νόμου. Οι πολίτες εσωτερικεύουν την ίδια λογική, αποφεύγοντας να βοηθήσουν τους άλλους που βρίσκονται σε κίνδυνο από φόβο ότι η εγγύτητα με ένα διαταραγμένο άτομο μπορεί να θολώσει τη δική τους ψυχο-Πάσχη. Η ενσυναίσθηση γίνεται ευθύνη· η αλληλεγγύη, ένας στατιστικός κίνδυνος. Αυτή η ανατριχιαστική κοινωνική δυναμική αντανακλά παρατηρήσεις από την ψυχολόγο Σέρι Τερκλ, η οποία έχει γράψει για το πώς η τεχνολογία μπορεί να διαβρώσει την ικανότητα για προσωπική συμπάθεια και ηθικό θάρρος. Σε έναν κόσμο όπου οι παρευρισκόμενοι μπορούν να σαρώσουν το επίπεδο απειλής ενός θύματος πριν αποφασίσουν να επέμβουν, ο ίδιος ο ιστός της κοινοτικής ευθύνης αχαλίνωτη. Η εκπομπή προειδοποιεί ότι μια κοινωνία βελτιστοποιημένη για την ασφάλεια μέσω αλγοριθμικής παρακολούθησης κινδυνεύει να χάσει τις ίδιες ανθρώπινες ιδιότητες που καθιστούν την ασφάλεια σημαντική.

⁇ αλ-κόσμος Παράλληλοι: Από το Anime στην Προγνωστική Ανάλυση

Η φαντασία Ψυχο-Πάσσα[ βρίσκει μια παράξενη απήχηση στις σύγχρονες πρακτικές επιβολής του νόμου. Αρκετά αστυνομικά τμήματα παγκοσμίως έχουν πειραματιστεί με προγνωστικές πλατφόρμες ανάλυσης που δίνουν αποτελέσματα σε άτομα ή τοποθεσίες.Η Στρατηγική Λίστα Υποκειμένων του Σικάγου, για παράδειγμα, χρησιμοποίησε έναν αλγόριθμο για να κατατάξει τους πολίτες από την πιθανότητα να εμπλακούν σε ένοπλη βία, είτε ως θύματα είτε ως δράστες. Το σύστημα λειτούργησε με παρόμοια λογική με τη Σίβυλλα: αναλύοντας αρχεία σύλληψης, κοινωνικούς δεσμούς δικτύου και άλλα δεδομένα, επιχείρησε να προβλέψει μελλοντικό κίνδυνο. Μια Chicago Tribune έρευνα αποκάλυψε ότι ο κατάλογος υπέφερε από σοβαρά προβλήματα ακρίβειας και δυσανάλογα στοχευτους μαύρους κατοίκους, απηχώντας τις ανησυχίες που εγείρονται στο anime.

Επιπλέον, η ενσωμάτωση της βιομετρικής παρακολούθησης στους δημόσιους χώρους δεν είναι πλέον κερδοσκοπική. Οι κάμερες αναγνώρισης συναισθημάτων, που αναπτύσσονται σε αεροδρόμια και συνοριακές διαβάσεις, προσπαθούν να μετρήσουν την πρόθεση των ταξιδιωτών· οι εφαρμογές παρακολούθησης της υγείας μπορούν να υποστούν νοητικές καταστάσεις από φωνητικά πρότυπα και χρήση smartphone. Αυτές οι τεχνολογίες, που κυκλοφορούν συχνά στο εμπόριο ως εργαλεία για δημόσια ευημερία, φέρουν τον ίδιο εγγενή κίνδυνο να μετατρέψουν την αποχρώντα ανθρώπινη εμπειρία σε απλοποιημένες μετρήσεις κινδύνου. Psycho-Pass] εξακολουθούν να είναι σημαντικές ακριβώς επειδή δραματοποιεί το λογικό τελικό σημείο μιας τάσης που ήδη κινείται: μια κοινωνία που ανταλλάσσει την ιδιωτική ζωή για την ψευδαίσθηση της τέλειας ασφάλειας, και ηθική υπηρεσία για την άνεση της βεβαιότητας των μηχανών.

Το τίμημα της ασφάλειας: Εξισορρόπηση Τάξη και Αυτονομία

Μια κεντρική ηθική ένταση στο Ψυχο-Πάσσα[ είναι η ανταλλαγή μεταξύ συλλογικής ασφάλειας και ατομικής αυτονομίας. Οι υποστηρικτές του συστήματος Σίβυλλα υποστηρίζουν ότι έχει εξαλείψει το βίαιο έγκλημα και έχει επιφέρει μια εποχή πρωτοφανούς ειρήνης. Η σειρά δεν αρνείται ποτέ ότι το Τόκιο τον 22ο αιώνα είναι επιφανειακά ασφαλέστερο από το ομόλογό του του 20ου αιώνα. Ωστόσο, ρωτάει: με ποιο κόστος; Το τίμημα είναι η παράδοση της προσωπικής ελευθερίας, η διάβρωση της ιδιωτικής ζωής, η περιθωριοποίηση οποιουδήποτε που δεν ταιριάζει στη στατιστική φόρμα, και η κούφωση της ηθικής υπηρεσίας. Η έκθεση ευθυγραμμίζεται με τη φιλελεύθερη πολιτική φιλοσοφία, η οποία υποστηρίζει ότι ένα κράτος που εγγυάται την ασφάλεια με την κατάσβεση της ελευθερίας δεν είναι απλά ένα κράτος αλλά μια υψηλής τεχνολογίας τυραννία ντυμένη στη γλώσσα της δημόσιας υγείας.

Αυτή η ισορροπία δεν είναι απλή αφαίρεση, αλλά αναδύεται σε κάθε σύγχρονη συζήτηση σχετικά με τη νομοθεσία επιτήρησης, τις εντολές διατήρησης δεδομένων και τα αντιτρομοκρατικά μέτρα. Ο χρηστικός λογισμός που επιτρέπει τη συλλογή μαζικών δεδομένων στο όνομα της πρόληψης σπάνιων καταστροφικών γεγονότων καθρεφτίζει τη λογική της προκατάληψης της Σίβυλλ. Οι ψυχοπαθείς κακοποιοί της σειράς, ιδιαίτερα η Σογκό Μακισίμα, είναι προϊόντα ενός συστήματος που πνίγει την ατομικότητα στο όνομα της τάξης. Η Μακισίμα, ένα εγκληματικά ασυμπτωματικό πρόσωπο που δεν μπορεί να διαβάσει η Σιμπίλ, θέτει την απόλυτη πρόκληση: αν ένα σύστημα μπορεί μόνο να κυβερνήσει εκείνους που μπορεί να μετρήσει, τι συμβαίνει σε όσους ζουν εκτός των παραμέτρων της; Η έκθεση υποστηρίζει έτσι για ένα ηθικό πλαίσιο που σέβεται ακόμη και όταν τα συνολικά δικαιώματα της ευημερίας.

Ενσωματώνοντας τη Δεοντολογία στην Τεχνολογική Σχεδίαση: Μαθήματα από Ψυχο-Πάσσα

Αν Psycho-Pass χρησιμεύει ως μια προειδοποιητική ιστορία, προσφέρει επίσης εποικοδομητικές ιδέες για τους σχεδιαστές, τους διαμορφωτές πολιτικής και τους πολίτες. Πρώτον, η διαφάνεια είναι μη διαπραγματεύσιμη. Ο τρόμος της Sibyl πηγάζει εν μέρει από τη θολότητά της. Οι χρήστες και τα θέματα διατηρούνται σε άγνοια του πώς οι αποφάσεις επιτυγχάνονται. Στον πραγματικό κόσμο, εξηγήσιμες AI και αλγοριθμικές εκτιμήσεις επιπτώσεων πρέπει να γίνουν τυπική πρακτική. Δεύτερον, η ανθρώπινη εποπτεία και ένα ουσιαστικό δικαίωμα προσφυγής πρέπει να ενσωματώνονται σε οποιοδήποτε σύστημα λήψης αποφάσεων που επηρεάζει τα θεμελιώδη δικαιώματα. Το τόξο του Akane αποδεικνύει ότι όταν δίνεται στον ευσυνείδητο άνθρωπο η ελευθερία να αμφισβητεί και να παρακάμπτει τις αλγοριθμικές αποδόσεις, η δικαιοσύνη εξυπηρετείται καλύτερα. Τρίτον, οι μετρήσεις ενός συστήματος βελτιστοποιείται για να πρέπει να παρακολουθούνται λεπτομερώς οι υποθέσεις με βάση την αξία.

Οι επιτροπές δεοντολογίας, οι ποικίλες ομάδες ανάπτυξης και ο συνεχιζόμενος δημόσιος διάλογος είναι απαραίτητα για να αποτρέψουμε το είδος της τεχνοκρατικής δυστοπίας που παρουσιάζει η Ψυχο-Πάσσα. Καθώς ενσωματώνουμε την τεχνητή νοημοσύνη βαθύτερα στην ποινική δικαιοσύνη, την υγειονομική περίθαλψη και την εκπαίδευση, πρέπει να αντισταθούμε στον πειρασμό να παραιτηθούμε από την ηθική ευθύνη των μηχανών.Η τεχνολογία πρέπει να είναι ένα εργαλείο που ενισχύει την ανθρώπινη κρίση, όχι ένα υποκατάστατο που την καθιστά απαρχαιωμένη. Η σειρά τελικά επιβεβαιώνει την αναντικατάστατη αξία της ακατάστατης, της ψευτούς, αλλά τελικά της ανθρώπινης ηθικής απελευθέρωσης ⁇ ένα μήνυμα που γίνεται πιο δυνατό καθώς τα εργαλεία μας γίνονται πιο έξυπνα.

Συμπέρασμα

Το Psycho-Pass είναι κάτι πολύ περισσότερο από ένα σκοτεινό κυβερνοπανκ θρίλερ. Είναι μια διαρκής φιλοσοφική ανάκριση του τι συμβαίνει όταν μια κοινωνία επιχειρεί να εκπονήσει το έγκλημα ποσοτικοποιώντας την ανθρώπινη ψυχή. Μέσω της απεικόνισης του συστήματος Sibyl, η σειρά εκθέτει τους κινδύνους της προληπτικής δικαιοσύνης, της διάβρωσης της ιδιωτικής ζωής και της ηθικής υπηρεσίας, και της ψευδαίσθησης της αντικειμενικής αλγοριθμικής κρίσης. Τα δυστοπικά οράματα του anime δεν είναι μακρινή επιστημονική φαντασία, είναι υπερβολικές αντανακλάσεις των πραγματικών τεχνολογικών τάσεων στην προγνωστική αστυνόμευση, την παρακολούθηση συναισθημάτων και τη διακυβέρνηση που βασίζονται στα δεδομένα. Με τη συμμετοχή σε αυτά τα θέματα, το Psycho-Pass προκαλεί τους θεατές να εξετάσουν τη δική τους συνενοχή σε έναν πολιτισμό που όλο και περισσότερο εμπορεύεται την ελευθερία για ασφάλεια.