Ít có tác phẩm nào của những tiểu thuyết tưởng tượng đã làm giảm sự căng thẳng giữa sự tiến bộ công nghệ, sự an toàn công cộng và sự tự do cá nhân mạnh mẽ như một loạt các trò giải trí NameĐặt ở Nhật Bản tương lai nơi mà một mạng lưới AI rộng lớn đo lường màu sắc tinh thần và sự ổn định cảm xúc của mỗi công dân, thế giới của Name cung cấp nhiều hơn là chỉ một kích thích tội phạm gripping -nó đưa ra một bản thiết kế tỉ mỉ của một xã hội được điều khiển bởi giám sát, thuật toán. cơ chế cung cấp năng lượng này, từ hệ thống Sibyl nổi tiếng đến vũ khí của Maker không chỉ là chỉ là tưởng tượng; chúng vang vọng các nghiên cứu hiện đại trong trí thông minh nhân tạo, dữ liệu lớn, tâm lý học thần kinh học và dự đoán. trong lặn sâu này, chúng tôi sẽ phân tích các công nghệ bên trong tưởng tượng trong các công nghệ được tưởng tượng trong tưởng tượng Name kiểm tra trọng lượng đạo đức của chúng, và vẽ ra những đường thẳng tới hệ thống thế giới thực đã hình thành.

Hiểu hệ thống Sibyl: Kiến trúc sư của một cỗ máy công lý Dy stopian

Ở trái tim của Name Vũ trụ nằm trong hệ thống Sibyl, một trí thông minh được mạng lưới liên tục quét dân số để đánh giá trạng thái tâm thần và tội phạm tiềm ẩn. không giống như một khuôn khổ pháp luật truyền thống phản ứng với tội ác sau khi nó xảy ra, hệ thống Sibyl nhắm vào công lý tiền định -- nhận dạng và trung lập mối đe dọa trước khi bất cứ hành động bất hợp pháp nào được thực hiện. hệ thống giao cho mỗi công dân một công dân một công dân một công dân một nhiệm vụ. NameMột màu sắc rõ ràng cho thấy một tâm trí khỏe mạnh, trong khi sự mù quáng sâu hơn cho thấy mối nguy hiểm tiềm ẩn khi một cá nhân có thể gặp nguy hiểm. Đồng bộ tội phạm- một giá trị số học đến từ trạng thái tinh thần của họ - ra một ngưỡng đã được định trước, hệ thống cho phép hành động thực thi, thường thông qua các sĩ quan của Cục An toàn cộng đồng sử dụng súng của Do Thái giáo.

Điểm tâm thần tương hợp

Điểm tâm thần không phải là một đọc sinh trắc học; nó là một số lượng tổng hợp từ luồng dữ liệu liên tục. Trong loạt, sinh vật-máy tính hợp nhất vào cơ sở hạ tầng thành phố- tính, hiển thị công cộng, thậm chí là thiết bị cá nhân, thậm chí là các thiết bị cá nhân --có thể kiểm tra nhịp tim, chảy mồ hôi, mẫu hình căng thẳng, giọng nói bị giãn nở, hoạt động não bộ. dữ liệu sinh học này được tham khảo chéo với các bản ghi hành vi, tương tác xã hội, công việc và hoạt động trực tuyến. Một kỹ thuật toán phức tạp sau đó dịch những tín hiệu này thành một hồ sơ di chuyển tâm lý mà được cho là xác suất dự đoán có khả năng cao. Các công việc bị phân biệt đối xử, và bị phân biệt đối xử, hoặc loại trừ hiệu quả, hoặc một thuật toán viên y tế, hoặc một hệ thống sức khỏe.

Người phạm tội có hiệu quả và người làm chủ

Hệ thống tội phạm hiệu quả là kết quả có thể hoạt động của hệ thống phân tích Sibyl. Khi một thanh tra hay tổ chức thực hiện chỉ một máy làm chủ tại một chủ đề, hệ thống không dây không dây nhận được kết quả thực tế của hệ thống điện tử vận hành, và tính toán một hệ số hoạt động. Nếu giá trị nằm dưới 100, máy chủ vẫn còn bị khoá trong chế độ liệt, thường không gây chết người. Hệ thống tập trung giữa 100 và 300 tham gia chế độ ililitor, và việc đọc có thể kích hoạt dữ liệu bị hủy diệt nhanh, mà không cần thiết. Tính năng này sẽ hoạt ngay lập tức, kiểm tra và giảm hiệu lực của hệ thống tập đoàn tự vệ, và hệ thống tự động tự động của hệ thống tập trung, không có chức năng liên tục của hệ thống tập hợp tập tin ký tự, và hệ thống tập hợp tập tin cấu hình, và hệ thống tập hợp tập hợp tập tin thực hiện thời, không có khả năng truy cập và hệ thống tập tin hệ thống tập tin hệ thống tập tin thực hiện các chức năng tự, và hệ thống tập tin bị ngắt quãng thời gian phụ, không có khả năng truy cập và hệ thống tập tin thực

Trụ điện kỹ thuật phía sau hệ thống

Để xây dựng một xã hội nơi mà mọi thôi thúc có thể được đo lường và đánh giá, Name Trong khi loạt phim trình bày chúng như một tổng thể, giải mã mỗi lớp cho thấy mỗi thành phần hợp lý như thế nào ngày nay.

Kiến thức về trí thông minh nhân tạo và máy móc

Hệ thống AI được phân phối, có thể được xây dựng trên một hệ thống mạng thần kinh sâu sắc có khả năng xử lý dữ liệu không có cấu trúc từ hàng triệu công dân cùng lúc. nó liên tục học từ dữ liệu tội phạm lịch sử, mô hình hành vi, và sửa chữa kết quả, tinh luyện các mô hình dự đoán của nó. Không giống như các AI hẹp sử dụng trong ngành công nghiệp hiện đại, hệ thống AI có khả năng xử lý các dữ liệu không có cấu trúc. một thực tế được tiết lộ sau này, nhưng từ một quan điểm có tính năng xác thực, lõi của máy tính dự đoán hiện được: tính năng học tập từ các dữ liệu sinh học sinh học và hành vi học, phân loại nguy cơ thành các loại, và ngưỡng xử lý sự tự thích hợp.

Phân biệt dữ liệu và sinh trắc học lớn

Một trong những khía cạnh nổi bật nhất của Name Cơ sở hạ tầng này gợi nhớ về sự hiện diện của thiết bị quét. Người dân được quét khi họ đi bộ trên đường phố, vào các tòa nhà, hoặc thậm chí là thư giãn tại nhà. Cơ sở hạ tầng này gợi nhớ về sự hiện diện của Internet của các thứ (Iot) trên steroids, nơi mà mỗi bộ cảm biến cung cấp một kho trung tâm. Hệ thống này thu thập không chỉ các tín hiệu sinh lý học mà còn nhắn tin từ các thông tin liên lạc, giọng nói và phân tích mạng xã hội. Các hoạt động dữ liệu lớn trên thế giới, chẳng hạn như các thiết bị truyền thông xã hội để phân tích, có tính năng tương tự, mặc dù ít nội dung hơn. Sự khác biệt là khả năng của hệ thống Siby để kết hợp này vào dòng điện tử, bằng cách đánh giá tinh thần, bằng cách kiểm tra tình trạng hiện nay chỉ ảnh hưởng đến cộng đồng đang bắt đầu.

Thần kinh vận hành trong thời kỳ thực

Để đo lường ý định tội phạm trước khi nó xuất hiện, Hệ thống Sibyl dựa trên các mô hình tâm lý học liên kết các mô hình đặc trưng của hoạt động não bộ và các phân tích sinh học để phản đối xã hội. Trong chương trình, sự phát hiện sóng âm tính quét - một công nghệ tưởng tượng hình ảnh các mẫu sóng não bộ - và các kỹ thuật khác về thần kinh cung cấp những mô hình này.

Vũ khí của Đức Chúa Trời: Hãy để sự phán xét chết người trong tay bạn

Do not translate the mDor là hơn một khẩu súng; nó là phần mở rộng vật lý của bản án của hệ thống Sibyl. Thiết kế để được sử dụng chỉ bởi những nhân viên đăng ký và bị khóa vào sinh trắc học của họ, nhà sản xuất ma túy biến đổi tùy thuộc vào mục tiêu của tội ác không hiệu quả. Khi chỉ vào một cá nhân có rủi ro thấp, nó vẫn còn ở trong một trạng thái an toàn, không thể phá hủy. Khi nó chuyển đổi thành một dạng cao cấp, hữu cơ, gần như sẵn sàng để gây chết người. Sự chuyển đổi này phục vụ một mục đích kép: nó đảm bảo rằng chỉ những hành động công chúng chống lại những mối đe dọa thật, và sự đe dọa tâm lý. Tính năng của chúng cũng có thể sống trên mạng mạng lưới bảo rằng các mối đe dọa hệ thống bảo có thể gây nhiễu sóng.

Các định lượng và kiểm soát xã hội

Cơ chế của Hệ thống Sibyl đưa ra một loạt câu hỏi đạo đức vượt quá phạm vi của loạt bài. Name buộc chúng ta phải xem xét nền tảng của công lý.

Mất tự do ý chí và sự thất bại định kỳ

Nếu một AI có thể dự đoán bạn sẽ phạm tội ác dựa trên tình trạng tâm thần của bạn hay không, bạn vẫn có thể chọn một cách khác không? cruus reus- Xóa bỏ hành động, không phải suy nghĩ, và thay thế nó bằng sự bất lực trước tội ác, một khái niệm được khai thác nổi tiếng trong “Bản báo cáo thiểu số của Philip K. Dick.

Sự phân chia quyền riêng tư và xã hội Panopoton

Để duy trì một hệ thống tâm thần chính xác cho mỗi công dân, hệ thống Sibyl phải giám sát mọi thứ. Name Sự giám sát này không chỉ là một hệ thống giám sát trên mạng ngày nay và còn được theo dõi trực tuyến để thâm nhập vào những góc gần gũi nhất của kinh nghiệm con người.

Những tích cực và bias hệ thống giả

Hệ thống dự đoán không thể sai. Bản ghi chép của Hệ thống Sibyl trong trò chơi điện tử cho thấy những cá nhân đang bị căng thẳng, chấn thương tâm lý, hoặc ngay cả sự tức giận chính đáng có thể đăng ký một màu sắc bị che mờ và một hệ thống tội phạm cao không hiệu quả, dẫn đến việc thực hiện sai hoặc bắt buộc. Điều này nhấn mạnh vấn đề của những dương tính sai trái, mà trong một tương ứng thực tế có thể không cân bằng các nhóm bị thiệt hại quá mức. Bias có thể thâm nhập vào dữ liệu đào tạo - nếu dữ liệu lịch sử phản ánh sự bất bình đẳng, mô hình sẽ bảo vệ chúng dưới sự trung lập khoa học. Name không tránh né điều này: Sau này hệ thống này được tiết lộ gồm có bộ não có tính cách tội phạm, một sự xoắn ốc phơi bày sự giả hình vốn có trong những phán xét khách quan của hệ thống này.

Những sự tương đồng thực tế: từ hư cấu đến kỹ thuật sinh sản

Trong khi hệ thống Sibyl hoạt động hoàn toàn không có gì đáng tin cậy, các thành phần thiết kế của nó đã được phát triển ở nhiều dạng khác nhau trên toàn cầu.

Tiên đoán về thuật toán

Các cơ quan thực thi pháp luật tại nhiều nước đã thông qua việc dự đoán phần mềm phân tích dữ liệu tội phạm lịch sử để dự báo nơi và khi tội ác xảy ra. (TIẾNG CÒI CÒI) Dù những công cụ này tập trung vào nơi chốn thay vì các trạng thái tinh thần riêng lẻ, nhưng chúng có cùng lập luận cơ bản về sự định vị tài nguyên, và những nhà phê bình cho rằng những công cụ này có thể củng cố việc phân biệt chủng tộc và quá chính trị của những cộng đồng thiểu số, một mối quan tâm trực tiếp phản ánh những vấn đề thiên vị của thế giới của một nhà giải trí.

Hệ thống tín dụng xã hội và việc ghi chép hành vi

Hệ thống tín dụng xã hội của Trung Quốc chủ yếu đánh giá người dân dựa trên hành vi tài chính, xã hội và pháp lý, ảnh hưởng đến việc tiếp cận các khoản vay, du lịch và ngay cả quyền lợi xã hội.

AI và máy tính gây xúc động

Các công ty kỹ thuật đang đầu tư rất nhiều vào phần mềm nhận diện cảm xúc phân tích nét mặt, giọng nói và tín hiệu sinh lý để đánh giá tình trạng ảnh hưởng của một người. (Chương trình nghiên cứu tính toán bằng kỹ thuật tính toán tại phòng thí nghiệm truyền thông MIT) Trong khi không được chụp não bộ, những công cụ như thế nêu lên những câu hỏi ngay về sự đồng ý, chính xác và khả năng lạm dụng.

Suy nghĩ về nguy cơ phạm tội

Trong lãnh vực pháp lý, các cuộc nghiên cứu đã khám phá bằng cách dùng phương pháp FMRI và điện não đồ để đánh giá rủi ro tái phạm hoặc phát hiện ra những ký ức về hiện trường án mạng. Name (Thuyết thần kinh học tự nhiên về các tiên đoán thần kinh) Nguyên tắc pháp lý mà một người không thể bị trừng phạt chỉ vì suy nghĩ sẽ bị thách thức về cơ bản nếu một cuộc chụp não được thừa nhận là bằng chứng về sự nguy hiểm trong tương lai.

Bí mật đen tối của hệ thống Sibyl: Một sự nhận thức tập thể

Không được đi quá xa vào lãnh thổ bị phá hoại, câu chuyện kể Name Hệ thống này sẽ sụp đổ sự khác biệt giữa thẩm phán và tội phạm. hệ thống này sẽ luôn được định hình bởi những giá trị và những người thiết kế và những người được thiết kế và thiết kế những người được cho là có tâm thần.

Bài học cho tương lai kỹ thuật của chúng ta

Các cơ chế phía sau Name Khi chúng ta xây dựng những thành phố thông minh hơn, triển khai nhận diện khuôn mặt, phát triển các phân tích hành vi theo hướng AI, loạt bài yêu cầu chúng ta dừng lại và cân nhắc những gì chúng ta đang trao đổi cho lời hứa của an ninh.

Điều tiết và trong suốt

Một bài học ngay lập tức là nhu cầu về các khuôn khổ điều chỉnh mạnh mẽ chi phối việc sử dụng hệ thống dự đoán trong các hoạt động chính trị và các dịch vụ xã hội. trách nhiệm của Algorimic - yêu cầu minh bạch trong cách tính toán, kiểm toán thường xuyên cho sự thiên vị, và có ý nghĩa của con người có thể giúp ngăn chặn các loại thẩm quyền không thể bị phá vỡ các quyền hạn của hệ thống Sibyl sử dụng. mà không có sự bảo vệ, bất kỳ giai đoạn cơ hội đánh giá rủi ro công cụ công cộng nào đi vào các dự án di chuyển rủi ro đến hư hỏng mô tả trong chương trình.

Sự tự do lựa chọn và sự lãnh đạo của cộng đồng

Những công dân của Name Họ chấp nhận sự phán xét của người chủ nhà vì họ có điều kiện tin rằng trí óc không thể sai lầm của trí óc nhân dân đòi hỏi sự liên tục tham gia của công chúng, từ các hội nghị đạo đức trên AI cho đến việc thiết kế các chính sách giám sát, chúng ta có thể xác định giới hạn của các dữ liệu được chấp nhận và thiết lập giới hạn rõ ràng về sự hạn trước khi bị hạn chế.

Giữ thăng bằng giữa sự đổi mới và nhân loại

Cuối cùng, loạt bài là một câu chuyện cảnh báo về sự quyến rũ của một xã hội không bạo lực. chi phí, là sự bãi bỏ sự tự trị cá nhân và sự hạn chế của bất cứ ai có tâm trí không phù hợp với các tiêu chuẩn thuật toán. khi chúng ta tiến bộ công nghệ thần kinh, IoT, và máy học, chúng ta phải hỏi không chỉ những gì là có thể thực tế mà là loại xã hội mà chúng ta muốn xây dựng. công nghệ nên phục vụ con người phát triển, không giảm nó thành một mô hình thống kê của sự phục tùng.

Kết thúc

Cơ chế của Name Khi xem xét những công nghệ sinh trắc học vô tận và phân tích tình trạng tâm lý theo hướng tự động tới những người có quan điểm giết người - xây dựng một thế giới nơi mà sự an toàn tuyệt đối và tự do không tồn tại. bằng cách kiểm tra những công nghệ giả tưởng này với chi tiết hạt, chúng ta đạt được một khuôn khổ mạnh mẽ để phân tích những phát triển thực tế trong việc dự đoán, cảm xúc, và sự phá hoại xã hội. Hệ thống Sibyl không có sự xác định rõ ràng về tính chất hệ thống và sự tự trị của thuật toán để thay thế các thiết bị này không chỉ là những thiết bị nhằm bảo vệ công lý.