Một loạt các trò chơi giải trí Name Xây dựng một vùng gần với khu vực rộng lớn ở Nhật Bản được điều khiển bởi hệ thống giám sát sinh trắc học đa dạng, nhằm quét qua các tình trạng tâm thần của công dân và chỉ định một số người có quan điểm đạo đức có khuynh hướng phạm tội. Name thông qua ống kính của những cuộc tranh luận đạo đức đương đại, vẽ về triết học, tội phạm học, và công nghệ thực tế tương đương để minh họa tại sao chương trình vẫn là một ví dụ khẩn cấp cho thời đại của chúng ta.

Hệ thống Sibyl và kiến trúc của tội ác tiền định

Trung tâm tới Name Hệ thống Sibyl, một mạng lưới lớn gồm máy quét đường phố, máy cảm biến có thể đeo và học tập sâu các thuật toán để đo lường liên tục “sự chú ý của một người về tình trạng tâm lý - cảm xúc của người đó. Báo cáo thiểu số Tuy nhiên, thêm vào một khía cạnh tâm lý: Tội ác không phải là một sự kiện trong tương lai được nhìn thấy trong một tầm nhìn; nó là một tiềm năng vốn có trong hiện tại.

Vấn đề đạo đức với tiền tội phạm là 3 lần, thứ nhất, nó làm suy giảm sự khác biệt giữa suy nghĩ và hành động. dưới sự chỉ đạo của Sibyl, một người bị trừng phạt không phải vì những gì họ đã làm mà vì những gì thuật toán dự đoán họ có thể trở thành. cruus reusThứ hai, hệ thống tạo ra một nhóm thấp kém dưới cấp độ “các tội phạm, người bị phân biệt chủng tộc, người nhà của người dân bị phân biệt và bị tước quyền lợi, ngay cả khi họ không phạm một hành động có hại. Các loạt bài này cho thấy những người này bị hạn chế trong các khu vực chuyên biệt hoặc bị ép làm những việc thấp, tạo ra một lời tiên tri tự đầy đủ nơi mà sự miễn cưỡng về tâm lý xã hội và đưa ra nhãn hiệu tội phạm cao hơn. Thứ ba, hệ thống Siby hoạt động mà không cần minh bạch; những công việc bên trong được phân loại, và ngay cả thanh tra cũng không hiểu rõ cách họ kháng cáo. Những người dân không thể kháng cáo, họ không thể kháng cáo, cũng không thể không thể nào không thể nào không có trách nhiệm về các vấn đề về lý trí tuệ của các trường hợp pháp luật pháp, những trường hợp có khả năng này có khả năng bị cáo, những thuật gia bị cáo có khả năng bị cáo buộc tội phạm pháp, những sự hiểu biết về các thuật gia bị cáo có khả năng bị cáo buộc về các thuật gia bị cáo phạm pháp, những tội về các tội về các tội phạm pháp lý bị cáo có thể Điều tra về thành kiến của máy .

Quan sát, riêng tư và tác động của thuốc

Name Mỗi không gian công cộng được giám sát bởi máy quét sóng âm học đọc được các tín hiệu sinh học; thiết bị cá nhân và nghệ thuật nghệ thuật có thể chuyển tiếp dữ liệu tâm lý đến kho lưu trữ trung tâm. tầm nhìn liên tục tạo ra một sự thay đổi hiện đại, gợi nhớ lại sự thích nghi của Michel Foucault về thiết kế nhà tù của Jeremy Bentham, trong đó tù nhân có thể quan sát và điều khiển hành vi của mình theo đó.

Mất đi sự riêng tư trong Name Khả năng để có những suy nghĩ riêng tư, để đấu tranh với những sự thúc đẩy tối tăm mà không cần sự phán đoán bên ngoài, là điều kiện tiên quyết cho sự phát triển đạo đức. khi mỗi sự dao động tâm lý được định lượng và phơi bày, mỗi cá nhân mất không gian cần thiết để phát triển sự đồng cảm, hối hận hay sự phát triển cá nhân. những cuộc tranh luận hiện đại xung quanh chính phủ được tiết lộ bởi Edward Snow, cũng như sự phát triển của các công nghệ thương mại. trong một thế giới mà các thiết bị thông minh thường xuyên thu thập dữ liệu cảm xúc, ranh giới giữa công chúng và cá nhân. Báo cáo từ Liên minh dân sự Hoa Kỳ Cho thấy công nghệ giám sát lan tràn như thế nào, từ nhận diện khuôn mặt đến máy quay phát hiện cảm xúc, có thể làm lạnh tiếng nói và tập trung theo cách phản ánh xã hội điên loạn.

Chủ nghĩa định nghĩa chống lại tự do Will: The Philosophic Core

Một trong những sợi chỉ đầy tham vọng tri thức nhất trong Name Nếu một cỗ máy có thể đo lường xu hướng tội phạm tiềm tàng của bạn và dự đoán tương lai của bạn với sự chính xác gần như hoàn hảo, thì bạn là một người tự do? theo ý nghĩa nào? chương trình đẩy chống lại điều này thông qua nhân vật chính trị, thanh tra Ane Tsumori, người đã liên tục đưa ra một mô hình xác định về hành vi của con người - một nơi mà tư tưởng, cảm xúc, và hành động là kết quả có thể đoán trước của sự đồng cảm và đầu vào tâm lý.

Những người quyết định không phân biệt rõ ràng các sự kiện, kể cả quyết định của con người, đều được xác định bởi các quốc gia trước đó; nếu Sibyl có thể truy cập toàn bộ thông tin về não bộ và môi trường sống của một người, những dự đoán của nó sẽ hoàn toàn chính xác. những người tự do chủ trương về các sự kiện (không nhầm lẫn với các ý muốn chính trị) cho rằng sự phân biệt về mặt chất lượng hoặc không chất lượng, nếu Sibyll có thể truy cập đầy đủ thông tin về một bộ não và môi trường xung quanh, những dự đoán này sẽ được xác định một cách tự do nếu hành động của một người có ý muốn tự do và những ham muốn của mình, ngay cả những ham muốn của chính họ là do sự phân biệt đối lập ở mặt đất, một hệ thống suy luận giữa hoặc không có ý thức vật chất liệu cho phép một sự lựa chọn đúng đắn, một người có thể hiểu biết được ý nghĩa của một sự suy xét theo ý thức đạo đức, và hành động phản ánh ý thức suy luận sai lầm về ý kiến của người có thể là một sự suy nghĩ của một người có thể là một ý thức về một ý thức về một ý thức Từ điển Stanford Encyclopedia of Philosophy in on Know and free Will .

Tội phạm sau cùng là kẻ nghịch lý đạo đức

Nhân vật này bị kết án về mặt pháp lý cho một khuynh hướng, nhưng nhiều người vẫn giữ được ý thức rõ ràng về đúng và sai và tích cực chống lại những ham muốn đo lường của họ. loạt bài hỏi: là một người chứa đựng những suy nghĩ bạo lực nhưng không bao giờ hành động trên họ về mặt đạo đức tương đương với một tội phạm bị kết án? bởi việc trừng phạt bên trong các bang, hệ thống phá vỡ nguyên tắc của sa mạc đạo đức ý tưởng rằng con người đáng bị đổ lỗi cho những hành động mà họ tự do lựa chọn. Name Tiếp cận với nghiên cứu thần kinh cho thấy rằng tất cả chúng ta đều nuôi dưỡng những xung đột nhanh chóng hoặc phản xã hội; điều phân biệt công dân tuân thủ luật pháp là thực hiện kiểm soát miễn dịch, chứ không phải sự thiếu vắng sự thôi thúc của sự thúc.

Thuật toán Bias và ảo tưởng của tính khách quan

Mặc dù Sibyl tự cho mình là một người phân xử hoàn toàn khoa học, không thiên vị, Name Những đặc tính từ tầng lớp thấp hơn của xã hội, hoặc những người có lối sống không bình thường, thường gây ra những sự ảnh hưởng cao hơn của tội ác không phải vì chúng vốn là nguy hiểm nhưng vì những hồ sơ tâm lý của họ phản ánh những quy tắc được tạo ra.

Trong việc xét xử, các công cụ dự đoán như PredPol đã bị chỉ trích vì chỉ huy đội tuần tra không cân đối với khu phố với các báo cáo tội phạm cấp cao, và điều này phản ánh sự quá chính trị của cộng đồng màu sắc, tạo ra một vòng phản hồi có xu hướng thiên vị. Tập đoàn RAND nghiên cứu về việc xác định vị trí Tương tự, sự phụ thuộc vào dữ liệu tâm lý học của Sibyl có nghĩa là những người biểu lộ căng thẳng, lo âu hoặc tức giận có khả năng được nâng cao trong các nhóm bị cấm bị trừng phạt.

Ảnh hưởng vô nhân đạo của sự phán xét về đạo đức kỹ thuật

Một con ma cà rồng tái xuất trong Name Các nhà nghiên cứu và thanh tra được dạy để tin cậy hoàn toàn nơi sự phán xét của Đấng hủy diệt; nếu vũ khí không được triển khai thì mục tiêu không phải là mối đe dọa thật sự.

Sự phân biệt chủng tộc không chỉ kéo dài ngoài phạm vi pháp luật. sự cộng tác này cũng là một sự tác động xã hội phản ánh quan sát của nhà tâm lý học Sherry Turkle, người đã viết về cách công nghệ có thể làm xói mòn khả năng đối mặt với sự đồng cảm và lòng can đảm đạo đức của họ. trong một thế giới mà người ngoài cuộc có thể quét qua mức độ đe dọa của nạn nhân trước khi quyết định, sự giải quyết của trách nhiệm hợp tác. cảnh báo rằng một xã hội đang mất đi sự an toàn của thuật toán kiểm soát những tính chất của con người có ý nghĩa.

Những sự tương đồng thực tế: từ Aim đến phân tích dự đoán

Chuyện hư cấu của Name Một số sở cảnh sát trên thế giới đã thử nghiệm với nền tảng phân tích dự đoán cho các cá nhân hay địa điểm tương tự. Điều tra Chicago Tribune tiết lộ rằng danh sách này bị ảnh hưởng bởi những vấn đề nghiêm trọng và không tương xứng với người da đen, đồng thời cũng có những mối lo ngại về thành kiến được nêu lên trong giải trí.

Hơn nữa, sự kết hợp của việc giám sát sinh trắc học vào không gian công cộng không còn là khả năng suy đoán nữa. các máy quay phim cảm xúc, triển khai tại các sân bay và các đường biên giới, cố gắng đánh giá mục đích của du khách; các ứng dụng theo dõi sức khỏe có thể suy luận từ các mẫu hình giọng nói và cách sử dụng điện thoại thông minh. những công nghệ này thường được quảng cáo như là công cụ cho sự thịnh vượng cộng, mang lại cùng một rủi ro vốn có tính chất tương tự của việc chuyển đổi kinh nghiệm sắc thái thành những rủi ro đơn giản hóa. Name vẫn còn liên quan chính xác bởi vì nó làm cho điểm kết thúc hợp lý của một xu hướng đang chuyển động: một xã hội trao đổi sự riêng tư cho ảo tưởng về sự an toàn hoàn hảo, và cơ quan đạo đức để có được sự an ủi của máy móc.

Giá an ninh: Giữ thăng bằng trật tự và tự động

Một sự căng thẳng về đạo đức ở trung tâm Name là sự đánh đổi giữa sự an toàn tập thể và sự tự chủ cá nhân. những người ủng hộ hệ thống Sibyl tranh luận rằng nó đã loại bỏ tội ác bạo lực và mang lại một kỷ nguyên của hòa bình chưa từng thấy. sự phân chia của bất cứ ai không phù hợp với thống kê và rỗng tuếch của cơ quan đạo đức. biểu diễn bằng triết lý tự do, nó đảm bảo an ninh bằng cách dập tắt một trạng thái tự do không chỉ là một quốc gia tự do công nghệ mà còn là một quốc gia có sức khỏe công cộng, một quốc gia có sức mạnh công cộng, một hệ thống xã, một hệ thống xã hội tự do, và một hệ thống xã hội, một hệ thống xã hội tự do, một hệ thống xã hội tự do, một hệ thống xã hội, và một hệ thống xã hội tự do, một hệ thống xã hội tự do, và một hệ thống xã hội tự do, một hệ thống xã hội, một hệ thống xã hội, một hệ thống xã hội, một hệ thống xã hội, một hệ thống xã hội, một hệ thống xã hội, một hệ thống xã hội, một hệ thống xã hội, một hệ thống xã hội, một hệ thống xã hội, một hệ thống

Sự cân bằng này không chỉ là một sự trừu tượng; nó xuất hiện trong mọi cuộc tranh luận hiện đại về luật giám sát, các lệnh bảo vệ dữ liệu và các biện pháp chống khủng bố. Name Makishima, một người có tinh thần bất kính, có thể biện hộ cho những hành vi vi vi phạm nghiêm trọng.

Nhốt đạo đức vào thiết kế kỹ thuật: Bài học từ Name

Nếu Name là một câu chuyện cảnh báo, nó cũng cung cấp sự hiểu biết xây dựng cho các nhà thiết kế, chính sách và công dân. thứ nhất, độ trong minh bạch không phải là một phần của sự xuất hiện của Sibyl, một phần từ tính chất thận trọng của nó; người dùng và đối tượng đều được giữ trong sự không biết về cách thức phán quyết được thực hiện. Trong thế giới thực, giải thích được và thuật toán ảnh hưởng phải trở thành thực tế. Thứ hai, sự giám sát con người và quyền hấp dẫn phải được xây dựng một hệ thống quyết định quan trọng ảnh hưởng cơ bản. Cung của Ane cho thấy khi một sự tự do do do do của con người và thuật toán được áp dụng, công bằng tốt hơn. thứ ba, một hệ thống tối ưu tiên đoán phải được dựa trên sự cân bằng tâm lý, không phải là một sự cân bằng tương tự nhiên tương tự, vì lợi ích tương tự, công bằng công bằng công bằng, công bằng, công bằng, vì công bằng, công bằng và công bằng, công bằng, công bằng, công bằng, công bằng, công bằng, vì công bằng, công bằng, công bằng, vì công bằng, công lý và công bằng, vì công bằng

Các ban giám định đạo đức, các đội phát triển đa dạng, và các cuộc đối thoại công cộng đang diễn ra là thiết yếu để ngăn chặn các loại của sự cản trở công nghệ mà Name Khi chúng ta tích hợp trí thông minh nhân tạo sâu hơn vào công lý tội phạm, chăm sóc y tế và giáo dục, chúng ta phải chống lại sự cám dỗ để từ bỏ trách nhiệm đạo đức với máy móc công nghệ là một công cụ để tăng cường sự phán đoán của con người chứ không phải một sự thay thế làm cho nó lỗi thời. cuối cùng loạt bài viết này xác nhận lại giá trị không thể thay thế của sự lộn xộn, sai lầm nhưng cuối cùng là sự suy xét đạo đức của con người mà phát triển lớn hơn khi công cụ của chúng ta trở nên thông minh hơn.

Kết thúc

Name Qua việc mô tả hệ thống Sibyl, loạt bài này vạch trần mối nguy hiểm của công lý trước khi bị suy yếu về sự riêng tư và đạo đức, và ảo tưởng về sự phán đoán khách quan của các thuật toán không phải là khoa học viễn tưởng; chúng phản ánh những xu hướng công nghệ trong việc dự đoán, theo dõi cảm xúc, và quản lý dữ liệu. Name Những người xem phải xem xét sự đồng lõa của họ trong một nền văn hóa ngày càng có nhiều sự trao đổi tự do cho an ninh. thước đo thực sự của một xã hội công bằng, loạt phim khẳng định rằng không thể giảm xuống thành một con số - nó đòi hỏi sự vận dụng không đổi, ý thức của sự khôn ngoan, sự đồng cảm và lòng can đảm về đạo đức.