Hệ thống sinh trắc học Psycho-Gon [FLT: 1] xây dựng một hệ thống gần như tự nhiên Nhật Bản bằng hệ thống giám sát sinh trắc học (FLT: 0] và giao cho một số người có số liệu thống kê [FLTT: 1] cho thấy họ có xu hướng hành vi tội phạm. Trên bề mặt, hệ thống Sibyl hứa hẹn một xã hội hòa bình bằng cách đưa ra những mối đe dọa trung lập trước khi họ biểu hiện. Bên dưới, những lời tường thuật có tính cách hệ thống phá vỡ các giả định đạo đức như thế. [bằng cách áp dụng pháp luật nhân đạo đức không được phép sử dụng] có thể đọc được những câu hỏi về các lực lượng, nhưng không thể làm người xem những câu hỏi về đạo đức, và những câu hỏi về đạo đức trong thế giới công nghệ:

Hệ thống Sibyl và kiến trúc của tội ác tiền định

Trung tâm Các thuật toán liên tục đo lường “sự nhạy cảm của một người là hệ thống Sibyl, một mạng lưới lớn gồm các máy quét đường phố, mặc bộ cảm ứng, và học tập sâu mà liên tục đo lường trạng thái tâm lý của một người. Nếu công dân đọc qua một ngưỡng đã định trước, họ sẽ được chọn là một tội phạm có khả năng sau. Việc phân loại này cho phép thực thi pháp luật, được Cục an toàn công cộng, để giữ lại hoặc trong trường hợp cực đoan, loại bỏ một cá nhân đang dùng súng trường hợp thay đổi chỉ nếu đồng đồng hành vi phạm tội phạm có hiệu lực.

Trước khi phạm tội, vấn đề đạo đức là ba phần: yếu tố này làm suy giảm sự khác biệt về tư tưởng và hành động.

Quan sát, riêng tư và tác động của thuốc

Psycho- LEP [FLT: 1] vẽ một thế giới nơi sự riêng tư hiện đại đã bị xóa bỏ. Mỗi không gian công cộng được giám sát bởi máy quét âm thanh có thể đọc được tín hiệu sinh học; thiết bị cá nhân và thậm chí nghệ thuật có thể chuyển tiếp dữ liệu tâm lý về kho lưu trữ trung tâm. Khả năng liên tục tạo ra một hệ thống thông tin hiện đại, gợi nhớ lại sự thích nghi của Jeremy Bentham, trong đó tù nhân bên trong có khả năng quan sát và điều chỉnh hành vi của họ. Trong loạt công dân, học cách ngăn chặn cảm xúc và tránh những mối quan hệ căng thẳng, các mối quan hệ giữa các đám mây cảm xúc của họ, điều này không còn cần thiết kế nữa.

Mất đi sự riêng tư trong Psycho-PA [FLT: 1] không được coi là bất tiện nhưng là mối đe dọa tồn tại cho nhân cách con người. Khả năng có tư duy riêng tư, vật lộn với những ham muốn tối tăm, là điều kiện tiên quyết cho sự phát triển đạo đức. Khi mỗi dao động tâm lý được xem là vô định và phơi bày, người mất không gian cần thiết để vun trồng sự đồng cảm thông, hối tiếc hoặc sự tăng trưởng cá nhân. Những cuộc tranh luận về việc chính phủ thời hiện đại xung quanh tiết lộ bởi Edward Snowden, như là dữ liệu thương mại thực hiện bởi các công ty thương mại. Trong một thiết bị thu thập thông minh, thông minh giữa các thiết bị cảm và thông tin cá nhân, [Freci thị trường riêng tư] [Frecition] cách thức ghi nhận cảm xúc từ máy ảnh điện thoại: cách thức của người Mỹ, kiểm tra điện thoại: cách thức nhận hình ảnh và cách thức của người dùng của người dùng, có thể kiểm tra điện thoại:

Chủ nghĩa định nghĩa chống lại tự do Will: The Philosophic Core

Một trong những sợi chỉ đầy tham vọng trí tuệ nhất trong [Fsycho- LEP ) là sự gắn kết lâu bền với tự do ý chí. Nếu một máy có thể đo lường xu hướng tội phạm tiềm tàng của bạn và dự đoán tương lai của bạn với sự chính xác gần hoàn hảo, theo nghĩa nào bạn là một tác nhân tự do? Hệ thống Siby: 1 trong những mô hình định trước của hành vi con người, 1 nơi mà suy nghĩ, cảm xúc và hành động là kết quả có thể đoán trước của thần kinh và đầu vào tâm lý. Hiển thị chống lại điều này thông qua lời tiên tri, Akaori, người làm cho các lựa chọn dựa trên sự suy nghĩ của cô ấy, và dựa trên khả năng tự định đoạt của cô ấy, hơn là khả năng hành động để xác định lại khả năng hành động để xác định lại khả năng hành động.

Những người quyết định khó quyết định rằng mọi sự kiện, kể cả quyết định của con người, đều được xác định một cách chính xác bởi các quốc gia trước đó; nếu Sibyl có thể truy cập toàn bộ thông tin về não và môi trường của một người, những lời tiên đoán của nó sẽ hoàn toàn chính xác. những người tự do chủ về ý chí (không muốn tự do) tranh luận về chính trị, không nhầm lẫn với chính trị) đã tranh luận rằng sự phân biệt giữa các mức độ lượng tử hoặc không có vật chất cho phép sự lựa chọn đúng đắn.

Tội phạm sau cùng là kẻ nghịch lý đạo đức

Nhân vật này bị kết án về một khuynh hướng, nhưng nhiều người vẫn giữ ý thức rõ ràng về đúng và sai và tích cực chống lại những ham muốn đo lường của họ. loạt bài hỏi: là một người chứa đựng những suy nghĩ bạo lực nhưng không bao giờ hành động trên họ về mặt đạo đức tương đương với một tội phạm bị kết án? Theo việc trừng phạt các chính sách bên trong, hệ thống phá vỡ nguyên tắc của sa mạc đạo đức ý tưởng rằng con người đáng bị đổ lỗi cho hành động mà họ chọn. Trong trường hợp này, [FL: 0] bỏ qua những hành động thiếu suy nghĩ này, bỏ qua những hành vi sai trái của tội ác.

Thuật toán Bias và ảo tưởng của tính khách quan

Mặc dù Sibyl tự cho mình là một người theo chủ nghĩa khoa học, không thiên vị, Psycho- LE khéo léo phơi bày thành kiến, nhưng hệ thống này được đào tạo dựa trên dữ liệu phản ánh những giá trị và thành kiến của xã hội đã xây dựng nó. Các ký tự từ tầng lớp kinh tế thấp hơn, hoặc những người có lối sống khác thường gây ra những thành kiến cao hơn không phải vì chúng có tính chất tự nhiên mà do tính toán của họ đi lệch lạc khỏi một hệ thống sản xuất cũng như chuỗi gợi ý rằng “có thể xác định được một sự cấu tạo văn hóa, trong toán học, xuất ra từ các hệ thống vô tính chất nhân tạo này.

Trong trường hợp sử dụng, các công cụ dự đoán như PredPol đã bị chỉ trích cho hướng dẫn các đội tuần tra không cân đối với các khu vực báo cáo phạm pháp cao hơn, mà thay vào đó phản ánh tính chất lịch sử của các cộng đồng màu sắc, tạo ra một vòng phản hồi mà gây ra thành kiến. A [FLT: 0] Tập đoàn RAND nghiên cứu về xác định [FL: 1], phát hiện rằng nếu không có thiết kế cẩn thận, hệ thống như thế có thể phóng đại thay vì sửa đổi thành kiến của con người. Tương tự, sự phụ thuộc vào dữ liệu tâm lý học có nghĩa là những cá nhân biểu lộ sự lo lắng, hoặc nhiều hơn nữa trong việc tăng cường [các nhóm người cùng thời, do đó, việc dự đoán về các thuật toán, và sự thành kiến về tính toán, do mục đích của Aby, là một thuật toán học, không có nhiều hơn là một thuật toán, một thuật toán, và cũng không có tính toán tổng hợp lệ hóa, và cũng không có tính toán hoá tập trung lập trình bày tỏ ra những người, vì mục tiêu cực, mà là một thuật toán, và cũng không có tính toán.

Ảnh hưởng vô nhân đạo của sự phán xét về đạo đức kỹ thuật

Một lý luận đạo đức lặp đi lặp lại trong [FLT: 0] Psycho-Comition là sự hủy diệt của lý luận đạo đức con người trong [FLT: 0] [FLT: 0]; nếu vũ khí không được thể hiện, mục tiêu này không phải là mối đe dọa thật. Đạo đức cơ khí này loại bỏ sự cần thiết phải cố ý cân nhắc, cảm thấy trọng lượng của một cuộc sống. Kết quả là lực lượng của những người thực thi trở thành lực lượng phân biệt chủng tộc, và thanh tra thanh tra hợp nhất tâm của họ với các chỉ thị của hệ thống công lý.

Sự phân biệt chủng tộc không chỉ kéo dài ngoài phạm vi pháp luật. sự hợp nhất này cũng là một sự tác động xã hội phản ánh quan sát của nhà tâm lý Sherry Turkle, người đã viết về cách công nghệ có thể phá hoại khả năng đối mặt với sự đồng cảm và lòng can đảm đạo đức trong một thế giới mà người ngoài cuộc có thể quét qua mức độ đe dọa của nạn nhân trước khi quyết định can thiệp, một sự giải quyết trách nhiệm hợp tác cảnh báo một xã hội cảnh báo rằng sự an toàn của thuật toán kiểm soát sự mất đi những tính chất của con người có ý nghĩa.

Những sự tương đồng thực tế: từ Aim đến phân tích dự đoán

Sự tưởng tượng của Psycho-Got [FLT: 1] tìm thấy âm vang kỳ lạ trong thực hành pháp luật đương đại. Một số sở cảnh sát trên khắp thế giới đã thí nghiệm với các nền tảng tiên đoán mà đặt điểm rủi ro cho cá nhân hay địa điểm. Ví dụ, danh sách chiến lược của Chicago dùng thuật toán để xếp hạng người dân bằng cách sử dụng vũ lực, hoặc nạn nhân. Hệ thống này hoạt động tương tự như vậy với tư cách là một hệ thống phân tích các hồ sơ, mạng xã hội, và các dữ liệu khác, nó cố gắng dự đoán tương lai. [FT] [TT] tiết lộ những mối quan tâm nghiêm trọng của họ về vấn đề này, và sự phân tích của người dân, tính chính xác định trước đó, và sự sai lệch chuẩn bị ảnh hưởng bởi những người dân thành kiến.

Hơn nữa, sự kết hợp của việc giám sát sinh trắc học vào không gian công cộng không còn là khả năng suy đoán nữa. máy ảnh cảm xúc, được triển khai tại sân bay và biên giới, cố gắng đánh giá mục đích của du khách; kiểm tra sức khỏe có thể suy ra trạng thái tâm thần từ cách nói và cách sử dụng điện thoại thông minh. Những công nghệ này thường được quảng cáo như là công cụ cho sự thịnh vượng cộng đồng, mang lại cùng một rủi ro vốn có tính chất vốn có của việc chuyển đổi kinh nghiệm sắc thái thành những thiết bị đơn giản hóa rủi ro. [L: 0] Ứng dụng giám sát có thể suy nghĩ từ trạng thái giọng nói và cách sử dụng điện thoại thông minh. Những công nghệ này thường được phân loại như là công cụ để quảng cáo cho một xu hướng hợp lý trong một xã hội đang chuyển đổi sự riêng tư hoàn toàn của cơ quan hệ thống an ninh và sự an ninh đạo đức.

Giá an ninh: Giữ thăng bằng trật tự và tự động

Một sự căng thẳng đạo đức chủ yếu trong cho rằng nó đã loại bỏ tội ác bạo lực và mang lại một kỷ nguyên hòa bình chưa từng có. Chuỗi không bao giờ phủ nhận rằng Tokyo trong thế kỷ 22 là một sự an toàn hời hợt hơn so với sự tự trị của tập thể và cá nhân. Tuy nhiên, nó hỏi: với cái giá phải trả là sự đầu hàng của tự do cá nhân, sự suy giảm sự riêng tư, sự hạn chế của bất cứ ai không làm uốn nắn, và không làm cong sự vô đạo đức.

Sự cân bằng này không chỉ là một sự kiện trừu tượng; nó xuất hiện trong mọi cuộc tranh luận hiện đại về luật giám sát, điều khiển tính năng ghi chú, và các biện pháp chống khủng bố. Tính toán tiện lợi cho phép thu thập dữ liệu hàng loạt nhân vật mang tên của các sự kiện thảm họa hiếm có, gương Sibyl, có thể biện minh cho sự vi phạm trong hệ thống tội phạm, đặc biệt là những sản phẩm của hệ thống gây chết giả gợi ý rằng tính chất thanh sạch, không có thể dựa trên những nguyên tắc đạo đức như thế, có thể chứng minh những người có quyền hạn, nhưng cũng có thể chứng minh những người có quyền hạn như thế, vì thế mà có thể áp đặt những quan điểm sai lệch về những người phạm pháp lý của hệ thống đạo đức, vì những người này không thể hiểu được.

Nhốt đạo đức vào Thiết kế kỹ thuật: Bài học từ Psycho- LE )

Nếu [FLT: 0]Psycho- LEM [FLT: 1] là một câu chuyện cảnh giác, nó cũng cung cấp những hiểu biết xây dựng cho các nhà thiết kế, chính sách và công dân. Đầu tiên, sự minh bạch là không phải bàn cãi. Sự sợ hãi của Sibyl roots một phần từ tính chất của nó là một câu chuyện cảnh giác, nó cũng cung cấp những sự hiểu biết xây dựng cho các nhà thiết kế, và công dân. Thứ nhất, tính minh bạch là không phải được xây dựng một hệ thống quyết định cơ bản, người dùng cũng như đối tượng không hiểu thấu đáo về cách phán quyết. Trong thế giới thực, giải thích các ảnh hưởng của AI và thuật toán phải được thực hiện theo tiêu chuẩn. Thứ hai, sự giám sát con người và ý nghĩa chính thức suy luận về sự hợp lý, công bằng công bằng, không phải được xác định chính xác hơn.

Những bảng xem xét đạo đức, nhóm phát triển đa dạng, và đối thoại công cộng là cần thiết để ngăn chặn loại công nghệ cản cản trở áp dụng [FLT- 1] mô tả ). Khi chúng ta tích hợp trí thông minh nhân tạo sâu sắc hơn vào công lý, chăm sóc y tế và giáo dục, chúng ta phải chống lại cám dỗ để từ bỏ trách nhiệm đạo đức cho máy móc. Công nghệ nên là một công cụ để tăng cường sự phán đoán của con người, chứ không phải thay thế nó mới có thể làm nó lỗi thời.

Kết thúc

Psycho- LEM là hơn nhiều hơn hẳn một idunk mack igiper. Nó là một cuộc thẩm vấn triết học bền vững về những gì xảy ra khi một xã hội cố gắng để thiết kế tội phạm bằng cách định lượng tâm hồn con người. Qua việc mô tả hệ thống Sibyl, loạt bài báo vạch trần mối nguy hiểm của công lý trước khi bị suy yếu, sự suy giảm của sự riêng tư và đạo đức, và ảo tưởng của sự phán đoán khách quan. Một hình ảnh của một xã hội ngừng hoạt động không phải là viễn tưởng xa khoa học viễn tưởng; chúng phản ánh những xu hướng thật sự của công nghệ trong việc giám sát, và dữ liệu liên quan. [T] [T], chủ đề này có tính chất độc lập, không thể giảm bớt sự hiểu biết về sự hiểu biết về sự tự do đạo đức.