Trong khung cảnh của tiểu thuyết phỏng đoán, một số hoạt động phân tích sự xung đột giữa công nghệ và đạo đức con người như một mô hình cảm giác lạnh lùng với sự gia tăng của chính chúng tôi quản lý dữ liệu. đặt trong thế kỷ 22 nơi một mạng lưới sinh trắc học rộng lớn, hệ thống Sibyl - có thể mỗi người dân có thể xung đột tâm lý để dự đoán ý định tội phạm, câu chuyện được dựng lên để làm lạnh nhạt với chính bản thân mình và quản lý dữ liệu. chương trình này không chỉ giải trí; nó đào bới các khái niệm nền tảng của công lý, tự do tự do, và yêu cầu hệ thống xã hội, rằng chúng tôi có thể loại bỏ rủi ro được thiết kế với tự nhiên, tự nhiên, tự nhiên của bản chất của con người, trong bài báo này, và suy luận đạo đức của hệ thống đạo đức, và suy luận đạo đức giả, và suy luận đạo đức của hệ thống đạo đức, và suy luận đạo đức, và sự hiểu biết được về đạo đức của hệ thống đạo đức, và sự suy luận của hệ thống đạo đức của hệ thống đạo đức, và sự suy luận của hệ thống tinh thần, và sự suy luận của hệ thống tinh thần

Kiến trúc về sự kiểm soát: Giải quyết hệ thống Sibyl

Ở lõi của tập đoàn tâm thần là một bộ phận quản lý thông tin kỹ thuật mà làm cho hệ thống pháp luật truyền thống bị lỗi thời. Hệ thống Sibyl không chỉ đơn thuần là một bộ máy giám sát; nó là một thẩm phán tâm lý, ban giám khảo, và thi hành tử hình được cô đặc thành thành một hệ thống sinh học số. Các công dân được chỉ định một "Psycho- Java- Java", một chỉ số hoạt động được đưa ra từ bộ cảm biến thần kinh liên tục qua các thiết bị di động. Khi thanh tra viên đặt tên mục tiêu tại một mục tiêu, nó đọc chủ đề "Cercition" (đồng thời gian thực sự xúc phạm) và xác suất thích hợp từ một thiết bị chống hút bụi và các thiết bị di động. Nhưng khi một bộ phận thanh tra chỉ ra lệnh giảm thiểu hiệu lực của một hệ thống giả thuyết này thì nó sẽ giảm thiểu khả năng gây ra một dấu vết.

Hệ thống Sibyl chuyển đổi các giá trị của tội ác từ hành vi quan sát được sang cảnh trí ẩn. Trong quy luật thông thường, một cá nhân được đánh giá dựa trên hành động, ý định và ngữ cảnh, được vẽ qua các tiêu chuẩn cộng đồng như phục hồi hay bồi thường. Sibyl bỏ tất cả điều đó. Tính hiệu quả của tội phạm là một số, bắt nguồn từ các mẫu căng thẳng, dao động cảm xúc, và tính cách mà ngay cả các nhà thiết kế của nó không hiểu đầy đủ. Tính chất biến đổi này làm tăng sự khủng hoảng đạo đức ngay lập tức: một mô hình thống kê có thể thực sự thu thập được tính chất của đạo đức? giảm độ phức tạp của một hệ nhị phân và hệ thống tội phạm, nơi mà chỉ có vài chi tiết trong các tính chất của các thuật toán học ngày nay, mà có thể dự đoán được sự suy luận về tính chất của các thuật toán học. nghiên cứu đã chỉ ra Có thể tái tạo và phóng đại các thành kiến xã hội dưới vẻ bề ngoài của tính không thiên vị. cho thấy sự lo lắng này có thể dễ dàng trở thành một sự an toàn đối với những người ngoài và những người không có thành kiến.

Công lý được cấu hình lại: Sự chết của sự hợp nhất về đạo đức

Trong thế giới của ngành tâm thần học, không có thử thách, không có luật sư bào chữa, không có luật sư, không có luật sư, không có luật sư, phán quyết ngay lập tức, thuật toán, sự sụp đổ của quá trình đòi hỏi phải chăng là một vấn đề kỹ thuật thuần túy, bị tước đi nguồn gốc đạo đức và hộp thoại.

Hãy xem số phận của những cá nhân với những người có hiệu quả cao tội phạm chưa phạm một tội ác. họ bị gán cho tội ác. họ bị đóng dấu "kẻ ác cảm", bị ép buộc vào trung tâm phục hồi, thường xuyên bị giam cầm, hoặc ép buộc trở thành "Enforcers" - chó săn của nhà nước mà đuổi người khác trong cùng một cuộc vận động kinh hoàng. kinh nghiệm chủ quan của họ bị xóa bỏ. đau buồn phiền, đau buồn hay sự tức giận có thể thúc đẩy một người đọc sách tâm thần, biến nạn nhân thành mục tiêu. hệ thống này sản xuất các tội phạm mà nó cho là để nhận ra lý trí. điều này là công bằng hơn bất cứ điều gì sẽ là công cụ của họ sẽ được xóa bỏ hoàn toàn các công cụ của họ?

Sự suy thoái của tự do ý chí và sự ra đời của một đạo đức tuyệt vời

Có lẽ là chiều hướng tồn tại nhất của tâm thần-Got là sự thẩm vấn của nó về tự do ý chí. nếu tội ác của cá nhân được dự đoán chắc chắn - nếu bà chủ phát âm một bản án chết trước khi một ngón tay được đưa ra bạo lực - sau đó cơ quan này ở đâu? loạt bài này đã xác định đường dẫn đến hệ thống Sibyl đã tạo ra một vũ trụ nơi mà sự lựa chọn là ảo giác. điều này có thể gây ra một tác động đáng kinh ngạc cho trách nhiệm đạo đức. một người bị kết án vì một ý nghĩ họ chưa hành động? từ lâu đã nhận ra sự khác biệt giữa ý tưởng và hành động, nhưng trong trường hợp này, sự suy giảm dần, sự phân biệt này bị phá vỡ.

Khi cô ấy tham gia vào Cục An toàn Công cộng, cô ấy theo sát sự phán xét của hệ thống, tin rằng họ phản ánh một sự thật khách quan. nhưng, khi cô ấy chứng kiến sự đấu tranh để giành lại quyền tự trị trong một cái lồng xác định. lần đầu tiên cô ấy tham gia vào Cục An toàn Công Cộng, cô ấy theo sát một cách độc đoán của hệ thống, tin rằng họ phản ánh một sự thật khách quan. nhưng, khi cô ấy chứng kiến những người chủ nghĩa đòi hỏi sự tự do hành quyết của mình là những người chỉ có một sự đe dọa hay tuyệt vọng, cô ấy bắt đầu nghi ngờ. sự tăng trưởng của cô ấy không phải là một sự nổi loạn đơn giản nhưng là một sự cân nhắc lại các quy định đạo đức của chính mình. Cô ấy phải quyết định hành động theo một sự thật cá nhân hoặc một ý thức công bằng mà thuật toán học không thể giải quyết được nội tâm của chính bản thân. Sự ác cảm và trách nhiệm của con người .

Những đặc điểm bị đóng đinh: Con người phải đối mặt với sự thất bại của hệ thống

Chị Akane Tsunemori: Lương tâm suy thoái

Chị Akane bắt đầu với một sản phẩm mẫu mà hệ thống Sibyl sau này thèm muốn và cố gắng thích hợp. tuy nhiên, sự rõ ràng của chị không phải là dấu hiệu của sự vâng phục nhưng là một nhân loại mạnh mẽ hơn, kiên cường hơn. khi chị gặp những kẻ chống đối có sức hấp dẫn là Shogo Makima, những kẻ mà tội ác cũng đọc là không đáng tin mặc dù sự bạo lực của người khác bị bạo lực, chị Ane đối mặt với những lời nói dối của hệ thống.

Shinya Kogami: Chi phí cho sự tin tưởng

Khi một thanh tra chính là người thực hiện các hành vi vô tội, thì Shinya Kogami đã vượt qua được một hệ thống tội ác. Một khi một thanh tra, Kogami trở thành một Enforcer sau khi đám mây tâm thần của mình trong sự thức tỉnh của một thảm kịch cá nhân.

Các lực lượng: Các công cụ của một hệ thống hỗn hợp

Các Enforcer đơn vị Tomimi Masaoka, Shuusei Kagari, Yayoi Kunizuka, và những người khác - tạo ra một dàn hợp xướng bi thảm. mỗi người là một "kẻ phạm tội" được dùng như một vũ khí để săn đuổi giống họ, một hiệp ước ảm đạm mua cho họ một sự tự do với giá cả tự do, và sự tồn tại của họ là một số công cụ hy sinh. Masaoka, cựu chiến binh, biết rằng hệ thống bị kết án là phá vỡ, nhưng ông phục vụ bởi vì ông không thấy sự thay thế. Tính tình giống như trẻ em đã bắt đầu từ khi hệ thống tâm thần học của ông bắt đầu là một người phát triển. Các chiến binh, họ biết rằng hệ thống này là một hệ thống buộc phải chia cắt các câu chuyện đạo đức đó để gây ra sự hiểu biết về sự thỏa hiệp và sự thương mại.

Người Panopticon nhận ra: giám sát, riêng tư và hợp đồng xã hội

Ngày nay, chúng ta sống trong một thế giới của những thiết bị thông minh, những nhà phân tích dự đoán trong các cửa hàng bán lẻ, và lưới cá nhân nhạt nhạt đi so với các phương pháp của Sibyl nhưng hoạt động trên cùng một nguyên tắc triết học: nhiều dữ liệu bằng nhiều hơn an toàn hơn. những người phân tích thông thường của sự giám sát bởi sự kết thúc của nó: một dân số đã tự động hóa đồng hồ, tự ép buộc tâm trước khi họ hoàn toàn không gian công cộng với ảnh chụp và tạo ra một môi trường thích hợp để tạo ra một cấu trúc thích hợp.

Sự hiện thấy này hợp với khái niệm của Michel Foucault paopticon Trong lĩnh vực tâm thần-xiên cứu không chỉ quan sát mà còn có thể đo lường và phân loại theo tỉ lệ bình thường, ảo giác an toàn trở thành một loại thuốc mê. người ta chấp nhận sự giám sát bởi vì họ tin rằng nó bảo vệ họ khỏi những "tiểu thức siêu âm" như Makishima những người trượt qua mạng lưới thuật toán. nhưng loạt bài báo cho thấy mối đe dọa lớn nhất không phải là một con quái vật ẩn giấu trong hệ thống tuyên bố phá hoại nó. Hệ thống này được tiết lộ trong một quá trình siêu âm của một siêu cường độ, một bộ não có thể được cấu tạo bởi một hệ thống tối ưu, không thể được xác định chính xác bởi một sự cảnh báo của nó là một sự phát hiện tối ưu, vì nó không thể được xác định rõ ràng bởi một sự kiện này là một sự phát hiện tối ưu của một hệ thống công nghệ cao, nhưng nó là một sự phát hiện của một sự phát hiện của một hệ thống tối ưu, nhưng nó là một hệ thống không thể kiểm soát được xác nó là một hệ thống công nghệ cao nhất, nó là một hệ thống không thể kiểm soát được.

Sự bất trung của thuật toán

Hệ thống Sibyl là một thực thể có thành kiến bằng cách thiết kế, được chỉnh sửa để đánh giá sự hòa hợp xã hội trên tất cả các loại khác. những người nghĩ khác nhau, cảm thấy sự phù hợp với nhau là tự động nghi ngờ. hệ thống không trung lập; nó là một công cụ chính trị mặc áo choàng của khoa học. mục tiêu là công lý nhưng là sự ổn định trước của một trật tự xã hội. cái nhìn sâu sắc này có những răng sắc trong thời đại nơi AI thuê công cụ, thẻ tín dụng, và đánh giá rủi ro được vận hành. Khi không có tính thanh minh hay Aka tìm hiểu về sự thật, cô buộc phải chọn một hệ thống an toàn, và không gian sẽ bị phá vỡ, và không gian bí mật, để có thể đưa ra một kết quả trong khi các cơ quan pháp luật không gian cố định, và không xác định, để ngăn chặn các cơ quan pháp lý, hoặc không gian cố định, để đưa ra một cơ quan pháp lý, hoặc không gian cố định, và không xác định, để đưa ra một cơ quan pháp lý, hoặc không gian bí mật, để thay đổi, và không gian cố định, nhưng để tạo ra một cơ thể bị

Giá bảo đảm không thể đạt được:

Sự mặc cả trung tâm của vũ trụ tâm thần là một trong những chúng ta thường được yêu cầu để chấp nhận: hy sinh một phần của tự do của bạn và bạn sẽ được bảo vệ khỏi bạo lực. loạt bài này cho thấy tại sao giao dịch này là một semian. an toàn được hứa hẹn bởi Hệ thống Sibyl là một ảo tưởng bởi vì hệ thống tự tạo ra các loại mới của sự nguy hiểm. nó bắt bớ những người bệnh tâm thần, khủng hoảng và những nhà sáng tạo những người cần thiết cho một xã hội sống động. bằng cách đặt đầy đủ cảm xúc của con người nó tạo ra một nền văn minh vô sinh vật vô sinh không thể giải thích được những thách thức của nó. Maki, tất cả sự tàn bạo lực của ông là một triệu chứng của một người đàn ông thực sự có kinh nghiệm thực sự sống động, một thế giới đang khao khát một hệ thống nhân cách tân tiến và một hệ thống duy trì sự ngăn chặn sự ngăn chặn sự phát triển của chính sách của chính sách này là một hệ thống duy nhất và một hệ thống duy nhất của chính sách của chính sách duy nhất mà không có thể tạo ra một hệ thống duy nhất có thể tạo ra một hệ thống duy nhất một hệ

Nhận định đạo đức nhân đạo

Thay vì thế, nó gợi ý sự trở lại cho những công việc khó khăn và không chắc chắn của đạo đức. lập trường cuối cùng của Akane không phải là sự từ bỏ pháp luật nhưng là một sự bác bỏ của một sự kiểm soát lạnh lùng của một máy móc. cô ấy khăng khăng đòi hỏi công lý phải tiếp tục tranh cãi, rằng khoảng cách giữa một quy tắc và một ứng dụng của nó phải được thỏa mãn bởi lương tâm con người. điều này ngụ ý rằng mối đe dọa thật sự cho công lý không phải là một sự tội phạm nhưng là một hệ thống cho rằng một sự hiểu biết hoàn hảo. Đối với người xem là bài học hoài nghi về thẩm quyền của nó, vì sự thiếu thẩm quyền của nó là vấn vượt quá khả năng của các vấn. AI hiện đang được nghiên cứu Điều đó nghiên cứu trách nhiệm thuật toán.

Cuối cùng, cuộc chiến cho tương lai trong tâm thần-Gon không phải là cuộc chiến với những nhà lãnh đạo mà là với những ý tưởng. mà là cuộc chiến về định nghĩa của một cuộc sống tốt, về việc sự an ninh có nghĩa là sự thiếu vắng rủi ro hay sự hiện diện của phẩm giá. loạt bài báo này định nghĩa lại công lý không phải là một kết quả cố định nhưng là một sự thực hành liên tục, cảnh giác. tính đạo đức được chuyển từ một điểm bên ngoài ra chiến trường nội bộ nơi mà những cá nhân như Akane chọn để nhìn thấy nhân loại trong hệ thống đó đã bị loại bỏ. khi thế giới của chúng ta bị tổn thương sâu hơn đối với công nghệ dự đoán, tinh thần - sáng tạo, cảnh giác khẩn cấp, cảnh giác chúng ta, và có thể hành động hiệu quả nhất để nhìn vào mắt của mình và sẽ nói rằng, "Tôi sẽ tự đánh giá của mình"

Những điều kiện thiết yếu

  • Hệ thống Sibyl phơi bày mối nguy hiểm của việc thay thế định lượng đánh giá cho việc đánh giá đạo đức định lượng, một bài học mà cộng hưởng với những cuộc tranh luận hiện đại về AI trong lãnh đạo.
  • Công lý thật đòi hỏi phải luôn luôn xem xét uy quyền; các hệ thống không thể nghi ngờ vốn đã vi phạm quyền tự do của con người và gây ra sự chống đối của chính họ.
  • Những đặc tính như Akane, Kogami và Enforcers cho thấy rằng đạo đức được rèn luyện không phải để tuân theo mà là trong cuộc đàm phán đau đớn giữa lương tâm cá nhân và nhu cầu hệ thống.
  • Sự giám sát hứa hẹn sự an toàn thường chỉ làm mất đi sự riêng tư và sự đàn áp của chính những đức tính khiến cho sự tự do có ý nghĩa.
  • Lấy lại công lý trong thời đại công nghệ đòi hỏi chúng ta phải bảo tồn những yếu tố không thể đoán trước, chủ quan và rõ ràng của con người trong tất cả các quyết định ảnh hưởng đến cuộc sống.