Công nghệ của tương lai: một sự quan sát của những người ảo tưởng trong "Psycho-Gon"

Các nền tảng triết học của kỹ thuật ảo

Trước khi lao mình vào những con đường trơ trụi của NameCần thiết phải thiết lập cuộc thảo luận trong vùng đất trí tuệ nơi mà công nghệ máy tính nảy mầm. Kỹ thuật: Hay kiểm soát và giao tiếp trong động vật và máy móc Từ ngữ mô tả việc nghiên cứu hệ thống điều hành, vòng phản hồi và truyền thông thông tin, Winer hình dung một thế giới nơi mà các sinh vật sống và máy móc có thể được hiểu thông qua các nguyên tắc thông tin và các nguyên tắc thông tin thông thường. một căn phòng điều chỉnh nhiệt độ, một con mồi theo dõi con mồi, một tế bào thần kinh phóng điện - tất cả đều là biểu hiện của sự tự sửa chữa phản hồi.

Điều khiến cho các công nghệ ảo mạnh mẽ và nguy hiểm đến thế, nó loại bỏ những vật liệu đặc trưng của một hệ thống như là thịt, kim loại, phần mềm — và tập trung hoàn toàn vào cách mà thông tin được tạo ra và quyết định. Name Hệ thống Sibyl không chỉ đơn thuần là một mạng lưới máy tính; nó là một hệ thống thứ hai, một hệ thống không chỉ giám sát xã hội mà còn bao gồm chính nó trong vòng phản hồi, thích nghi các quy tắc của nó để duy trì sự ổn định của nó.

Kiến trúc của hệ thống Sibyl

Hệ thống Sibyl đứng như một trong những phát minh gây lạnh nhất của hệ thống định vị làm lạnh nhất của ADOPian, chính vì kiến trúc của nó không chỉ đơn thuần là cơ khí mà còn là sự kết hợp kỳ lạ của các sinh học và kỹ thuật số.

Sự tiết lộ này chỉnh sửa lại toàn bộ dự án công nghệ tối ưu của loạt bài. Sibyl không hoạt động trên một bộ não tinh khiết hoặc tính toán thần thánh rõ ràng. nó chạy trên một quốc hội của những kẻ tâm thần, có sở thích và bản năng sinh tồn trở thành bản năng tự hướng dẫn tối ưu của hệ thống. bằng cách kết hợp những bộ não này, Sibyl đạt được một lõi "nhân đạo" mà có thể hiểu được hình mẫu của tội ác mà một tâm trí tổng hợp có thể bỏ qua, nhưng nó đồng thời tự ly dị khỏi sự đồng thời từ sự đồng cảm hay lương tâm.

Điểm số của Linh hồn số-Gauge

Trong cuộc sống hàng ngày, công dân giao diện với Sibyl qua của họ NameMột chỉ số và màu tương ứng định lượng sự ổn định tâm lý và khuynh hướng tội phạm của họ. quét theo cách thụ động bằng cảm biến đường phố và hoạt động tích cực trong cuộc chạm trán cảnh sát, điểm số của một người tăng lên với sự căng thẳng, chấn thương, hoặc sự thù địch tiềm ẩn. "Con người" làm nhơ bẩn tâm hồn: rõ ràng bóng tối của aquamarine và sự phù hợp, trong khi bùn hướng về phía hồng, đỏ và cuối cùng là dấu hiệu của tinh thần nguy hiểm một khi một bóng tối bị che phủ. Đồng bộ tội phạm - mức độ đe dọa thời gian thực - vượt qua một ngưỡng nhất định, cá nhân được chỉ định là một tội phạm tiềm năng, bất kể họ có thực sự phạm tội hay không.

Sự định lượng của tâm thần chuyển đổi cuộc sống bên trong thành một mô hình công cộng. cơ thể trở thành một ăng ten đi bộ, liên tục truyền dữ liệu cảm xúc cho bộ xử lý trung tâm. theo cách tính toán công nghệ, điểm số tâm thần- vận hành liên tục được cung cấp cho cả cá nhân lẫn trạng thái. người dân nội bộ chăm chú nhìn vào Sibyl, lo lắng theo dõi sắc màu của riêng họ trong các nhóm được chấp nhận. hệ thống đạt được sự kiểm soát chính của nó không phải qua lực lượng, mà là hành vi tự đánh giá của một dân số sợ hãi của chính mình.

Xã hội ảo: Điều khiển thông qua trong suốt

Name Tuy nhiên, Sibyl là một người có thể thấy được một điểm quan sát trung tâm một cách vĩnh viễn, một sự sửa trị nội tâm, dù không có người bảo vệ nào xem. Hình ảnh kỹ thuật số của trí óc Nó không chỉ xem hành động, mà còn cho rằng mình có ý định, tâm trạng và ham muốn tội phạm tiềm ẩn. lời hứa là một nước Nhật không có tội ác, nhưng cái giá là một dân chúng luôn tự bào chữa cho mình, tránh những hoạt động căng thẳng, thức ăn cay, âm nhạc to hoặc nghệ thuật bị buộc tội về cảm xúc - bất cứ điều gì có thể làm xói mòn sắc màu của họ.

Dưới chế độ minh bạch, cuộc sống xã hội này không thể được xác định bởi những người có khả năng phân chia tâm lý, những mối quan hệ có thể bị phá vỡ bởi những điểm số của một người bạn đời, và phương pháp trị liệu thường là sự kìm hãm của sự đau khổ thay vì sự chữa lành thật sự. định nghĩa của một công dân "có tâm lý học" là một trong những định nghĩa có thể giảm sự phát triển của con người xuống mức độ cao nhất của một thuật toán.

Sắc màu xã hội và sự ra đời của tội ác sau khi chết

Loại tội phạm tiềm năng Một khi đã được chọn, một người bị tước quyền, bị xã hội loại bỏ, bị giam cầm hoặc bị cưỡng ép làm một người theo chủ nghĩa cưỡng bách — một thợ săn, thường không thể tránh khỏi: căng thẳng vì những đám mây có màu sắc, tạo ra một vòng lặp tự lặp, một hệ thống, trong thời trang máy tính thật sự, tự khẳng định là nó kiểm soát được.

Điều này cho thấy sự sai lầm cốt lõi của logic trước tội ác của Sibyl, nó xem tâm trí con người như một cỗ máy xác định có thể dự đoán được kết quả của một tội phạm có thể được đo lường, nhưng trong việc đo lường, nó thay đổi những gì nó đo lường. Màu sắc không phải là một quan sát trung lập về khoa học; nó là một sự can thiệp cấu trúc tự xác định. Bằng cách đặt tên một người nào đó mới được dự đoán là tội phạm, Sibyl không ngăn chặn tội phạm; thường là một tội phạm từ sự tuyệt vọng của một công dân. Do đó, vòng phản hồi của hệ thống trở thành một vòng phản hồi tự đầy đủ, chính xác của một phản hồi tích cực mà một hệ thống thông minh thực sự thông minh sẽ được thiết kế để giảm thiểu.

Nhân viên và thanh tra:

Tại ranh giới khó khăn giữa sự phán xét của Sibyl và các con đường là những nhân viên của Cục An toàn Công Cộng: Thanh traNhững công dân khỏe mạnh với màu sắc rõ ràng, và Lực lượngNhững kẻ tội phạm tiềm năng làm việc như săn chó trong một sợi xích ngắn. DoorComment Người làm chủ là hiện vật công nghệ tối tân nhất: liên kết trực tiếp với Sibyl, đọc một công ty tội phạm hoạt động trong thời gian thực và tự động chuyển đổi giữa người tê liệt không gây chết người, và chế độ phá hủy hủy, loại bỏ sự tự do của con người ra khỏi lực kéo.

Thiết lập này ngoại vi hoá sự chia cắt công nghệ. Thanh tra đại diện bộ mặt có lý trí, quy tắc của hệ thống; Enforcer hiển thị sự sai lệch thúc đẩy hệ thống cần dự đoán các lỗi khác. Chúng là những sự kết hợp cộng sinh, nhưng mối quan hệ này được gắn chặt với sự phẫn nộ, phụ thuộc và bạo lực tâm lý. Các lực lượng sống dưới sự đe dọa liên tục của chủ thể của chính mình chuyển động chết người nếu các sắc thái quá xấu xa. Chúng là hiện thân của các vòng phản hồi, sự tồn tại của chúng để định nghĩa quyền lực và tính bất thường.

Sức ép tâm lý

Shinya Kogami, một người đàn ông bị hành hạ, một thanh tra, người đàn ông quyến rũ của ông ta bị ám ảnh bởi một tên tội phạm xuất sắc, bị ám ảnh bởi một kẻ phạm pháp, bị tiêu diệt.

Thanh tra Akane Tsunmori đại diện cho la bàn đạo đức của cử tọa, một “tâm trí khỏe mạnh đang bị ảnh hưởng bởi sự vô nhân đạo của hệ thống, và cuộc hành trình tâm lý của cô ấy là một sự thức tỉnh chậm cho sự thật rằng hệ thống này phân loại gọn gàng — sắc màu rõ ràng, tinh xảo — không phải là sự thật nhưng là sự tiện nghi hành chính trị.

Sự cai trị kỹ thuật và sự thanh sạch về tự do ý chí

Nỗi sợ hãi sâu thẳm nhất của Name Sibyl không chỉ đơn thuần tiên đoán tội ác, mà còn có thể xác định được những người có khả năng đọc được ý tưởng của bạn, mà còn hiểu được sự suy đồi triết học của cơ quan đạo đức. tội phạm không còn là một tác nhân đạo đức để lý luận, sửa đổi, hoặc được tha thứ. đây là một đơn vị lỗi để bị cô lập hoặc bị phá hủy.

Trong khuôn khổ này, xã hội của Name Nó đã đạt được hòa bình, nhưng nó là sự hòa bình của một máy móc được thay thế bởi một hệ thống thuật toán. hệ thống Sibyl là một ảo tưởng tối thượng về công nghệ: một chính phủ không có ai, nơi mà các quyết định không phải do chính trị gia có thể sai lầm mà là bởi một mạng lưới dữ liệu tích hợp và bảo tồn vấn đề não bộ. nhưng loạt loạt không ngừng vạch trần sự dối trá tại trung tâm ảo tưởng này. Siby không phải là trung lập; nó là một thực thể tự lợi dụng dữ liệu, che giấu sự tồn tại của riêng mình, và bảo tồn các cá nhân lớn hơn, và sự cân bằng mạng và kết thúc của sự cân bằng, và sự cân bằng, như là một kẻ bạo chúa và một kẻ bạo chúa, một kẻ độc, một kẻ phá hoại, một kẻ thù của con người, một kẻ thù của con người, một kẻ thù của kẻ thù của hắn, một kẻ thù của hắn, một kẻ thù của hắn, một kẻ thù của hắn, một kẻ thù của hắn, một kẻ thù của hắn, một kẻ thù của hắn, một kẻ thù của hắn, một kẻ thù của hắn, kẻ thù của hắn, kẻ thù của hắn,

Những song song thực tế: dự đoán chính trị và Tín dụng Xã hội Algorithic

Tầm nhìn của người Di stopian Name Phát triển thêm lo lắng mỗi năm như công nghệ thực tế inch về cơ sở chính. hệ thống xác định chính xác như PredPol và COMS ở Hoa Kỳ đã sử dụng dữ liệu tội phạm lịch sử để dự đoán nơi tội ác sẽ xảy ra và có khả năng tái sử dụng. những hệ thống này mang lại thành kiến về chủng tộc và kinh tế xã hội, cung cấp một vòng phản hồi mà trong đó cộng đồng quá chính trị tạo ra nhiều dữ liệu hơn nữa để biện hộ cho việc quá chính trị. Phiên tòa xét xử vào COMPAS cho thấy thuật toán này có khả năng là giả mạo bị cáo da đen là nguy cơ cao, phản ánh màu sắc "Nhà khoa học" của Sibyl có thể che đậy thành kiến cấu trúc dưới vẻ bề ngoài của sự khách quan.

Trong khi đó, hệ thống tín dụng xã hội của Trung Quốc với việc tổng hợp hành vi, tài chính và dữ liệu xã hội để giao cho công dân một điểm đáng tin cậy, ảnh hưởng đến việc đi lại, cho vay và làm việc. mặc dù chưa phải là một nhà đọc suy nghĩ-đinh-nanh, nguyên tắc tương tự một cách đáng lo ngại: liên tục cung cấp một thuật toán để cung cấp một sự phán xét mà tái sử dụng cơ hội sống. thậm chí trong nền dân chủ tự do, sự gia tăng của sự phát triển của chế độ dân chủ, Chủ nghĩa tư bản theo dõiNhư giả thuyết của Shosha Zuboff, thấy các công ty tư nhân tích hợp các dữ liệu về hành vi để dự đoán và thay đổi hành vi con người vì lợi nhuận. các vòng phản hồi của công nghệ ảo hiện đang được vũ khí hóa không phải bởi một Sibyl đơn lẻ nhưng bởi một mạng lưới các nền tảng, tất cả những người dùng không thể thay đổi theo cách ứng xử và theo khuôn mẫu phù hợp. Name Lời cảnh báo của ông không còn là chuyện tưởng tượng nữa: chúng ta đang sống trong một sự lặp lại nguyên thủy của lý luận đó.

Sự phân tích về quyền kiểm soát: Rước dậy và Khải - huyền

Không hệ thống điều khiển nào, tuy nhiên hoàn toàn có thể hoàn toàn đóng chặt ranh giới của nó chống lại những điều không thể đoán trước được. Namelà số liệu Shogo Makishima Một lỗi lầm nghiêm trọng là sự cố sinh tồn, cho thấy toàn bộ hệ thống mã hóa, một hệ thống bị bóp nghẹt, Makishima có thể thực hiện những hành động tàn bạo nhất mà không bao giờ gây ra sự đe dọa của Sibyl. một đàn đạo đức được máy móc thực thi .

Hệ thống này đại diện cho sự tranh chấp giữa người với người thư thái và người Akane, ở dưới cùng, là một cuộc tranh luận về bản chất của tự do trong thời đại ảo. Hệ thống này đại diện cho sự minh bạch thuật toán; Makishima tượng trưng cho sự bất khả chiến bại, không thể chối cãi của con người — xấu xí, hủy hoại, nhưng cũng là nguồn gốc của tất cả các nghệ thuật và sự lựa chọn xác thực. Khi cuối cùng nó được tiết lộ rằng Sibyl chính Sikil đã cố gắng tuyển dụng Makishima, hấp thụ bộ não không thể hấp thụ bộ não không thể kiểm soát được vào bộ não tập thể, phản hồi mạng hoàn thành nhiều nhất: hệ thống muốn tiêu thụ những sự bất thường của nó sẽ trở thành giới hạn của chính nó.

Chứng thiếu sinh lực của chứng biếng ăn ảo

Công trình xây dựng thế giới Name là một lớp học cao cấp trong việc đưa triết lý vào thiết kế thị giác. với những đường cơ khí học và giọng nói lịch sự lạnh lùng của nó tuyên bố: “Hãy cho phép Deminator một cách hoàn hảo biểu tượng của một hệ thống mà giết chết như một cú nhấn vào nhiệt độ. thành phố này, tất cả những quảng cáo toàn thân bằng hình ảnh và máy quét đại diện không phải là nơi tiêu dùng siêu tân tiến, nơi mà người dân được tắm trong ngành tiếp thị vĩnh viễn trong khi được sắp xếp bởi những điểm tâm linh của họ.

Ngay cả bảng màu sắc mang ý nghĩa công nghệ. Màu xanh mát và xanh lá cây của một xã hội khỏe mạnh khơi gợi môi trường vô trùng, kiểm soát, trong khi đỏ nhuộm đỏ và tím của sắc màu của một sắc màu tội phạm gợi ý sự hung bạo entropy và chảy máu. Chuỗi dùng thẩm mỹ của nó để củng cố ý tưởng trung tâm điều khiển: một hệ thống cân bằng hoàn hảo là tĩnh và vô thức; – đời sống thật sự, hỗn loạn — là một cuộc nổi loạn của màu sắc mà hệ thống phải liên tục giảm. Khi lựcr chết mòn bạo lực trong các mục tiêu của mình, các lối thoát nước biển không chỉ là một cuộc nổi loạn chống lại trật tự xanh của Nhật Bản.

Kỹ thuật vi tính và tình trạng con người

Ở tâm điểm của nó, Name Một người là một cỗ máy xác định có thể được biết trước, cung cấp đủ dữ liệu? nếu vậy, giấc mơ công nghệ cao về kiểm soát là đơn giản là một kỹ thuật tốt nhưng chuỗi trả lời có vẻ không có. sự tồn tại của những người có đầu ra tội phạm, và khả năng cho các nhân vật như Akane phát triển vượt quá vai trò của họ, gợi ý rằng sự thừa đi quá sức chịu đựng của các vòng phản hồi. con người không đơn thuần là tự đánh giá mình; họ đang tự cải thiện bản thân, có khả năng tự hỏi những khuôn khổ mà họ có thể thực hiện.

Đây là ý nghĩa sâu sắc của “tâm thần trong tâm thần học: tâm thần như một lực cản trở sự thụ động, không chỉ là một bằng lái mà còn là một hành trình sống động.

Bài học cho tương lai kỹ thuật của chúng ta

Những người xây dựng, nhà chính sách, và công dân có thể rút ra được gì từ câu chuyện ma thuật tối tăm này? bài học đầu tiên là sự nguy hiểm của sự lười biếng đạo đức ăn mặc như một thuật toán hiệu quả. khi chúng ta giao những phán quyết đạo đức cho hệ thống mà chúng ta không hiểu, chúng ta né tránh trách nhiệm định nghĩa chúng ta là những người đại diện đạo đức. mỗi mô hình dự đoán đều đưa ra những giả định về bản chất con người; để lại những giả định đó không kiểm soát được là hành động của những người tự chia sẻ. Name Khuyến khích chúng ta duy trì cái mà nhà triết học John Danaher gọi là "người-trong-thủy-lắc-tanh-không chỉ hoạt động, mà còn Đạo đức - một cuộc thẩm vấn tích cực, kiên trì về các giá trị hệ thống kỹ thuật của chúng ta mã hóa.

Sự kinh hoàng của Sibyl là sự liên kết của nó, cách mà những phán quyết của nó trực tiếp từ scan đến sự phê chuẩn không có chỗ cho sự mơ hồ, đồng cảm hoặc tranh cãi. vùng riêng tư không thể truy cập nơi mà người dân có thể suy nghĩ và cảm thấy mà không bị đo lường. không có sự va chạm như vậy, những phản hồi thắt chặt vào một cái thòng lọng. điểm vượt qua tâm thần không phải là một công cụ chẩn đoán để chữa bệnh mà là một công cụ của cái chết xã hội.

Cuối cùng, chúng ta phải nhận ra rằng công nghệ của tương lai, như Sibyl, sẽ không đến như một sản phẩm vô tận, một nhà sáng tạo duy nhất nhưng là một tài sản nổi bật của các hệ thống liên kết như các tập đoàn, các chính phủ và cơ sở hạ tầng, và sự kết hợp giữa hai bên. Name Một lời cảnh báo mang tính bảo vệ, một câu chuyện rằng tương lai sáng chói nhất có thể gieo bóng tối vào tâm hồn con người. nhiệm vụ không phải là từ chối những công nghệ ảo mà là từ chối sự giao dịch hỗn độn, không thể đoán trước, và vinh quang không thể chối cãi cho nhân loại một sự tồn tại hoàn toàn, hoàn toàn rõ ràng, trống rỗng.