Khi Masamune Shirow lần đầu tiên giới thiệu thế giới với Bóng ma trong vỏ sò Trong những thập kỷ qua, người đàn ông, bộ phim được tán dương năm 1995 bởi Mamoru Oshii và người phụ nữ Đứng một mình Nhiều loạt phim đã trở thành văn bản đánh dấu cho việc kiểm tra những vấn đề đạo đức mà trí tuệ nhân tạo gây ra. hơn cả một câu chuyện thám tử về một đơn vị khủng bố đối diện, các chức năng thương mại như một sự suy ngẫm về những gì nó có nghĩa là suy nghĩ, cảm nhận, và tồn tại trong một thế giới nơi cơ thể sinh học là tùy chọn. hệ thống AI thực sự phát triển phức tạp hơn và như các inch thần kinh gần gũi hơn với việc làm rung động tâm trí và máy móc — những câu hỏi triết học ẩn chứa trong những câu chuyện này chưa bao giờ được xem xét lại ngay lập tức. bài báo này sẽ xem xét lại những câu chuyện này Bóng ma trong vỏ sò như một cuộc điều tra triết học vào ý thức, tính cách cá nhân, và trách nhiệm đạo đức của con người đối với trí thông minh mà nó tạo ra.

Ma là ý thức: Một thuật ngữ số

Phép ẩn dụ trung tâm của thương hiệu được mã hóa trong tiêu đề của nó. Bóng ma trong vỏ sò“ Sự khác biệt này ám chỉ ý thức, nhận thức và nhận thức được về bản thân, hay tâm hồn của một người, trong khi “địa ngục ám chỉ cơ thể vật chất hay ảo ảnh về vật chất mà chứa đựng nó.

Những nhà triết học như David Chalers từ lâu đã lập luận rằng “sự khó khăn của ý thức — giải thích tại sao và cách thức duy lý — không bị ảnh hưởng bởi một người nào khác — không phải chỉ dựa vào khả năng tự duy trì của mình. Bóng ma trong vỏ sò Hãy kịch tính hóa bí ẩn đó bằng cách từ chối tuyên bố rằng hồn ma của Kusanagi có thật hay giả mạo; nó khiến người xem ngưng hoạt động trong sự không chắc chắn, mời họ xem xét những giả định của họ về việc ai hội đủ điều kiện làm người.

Vấn đề về tâm trí - Body trong thời đại ảo

Vấn đề về tâm trí — câu hỏi về tình trạng thần kinh liên quan thế nào đến các trạng thái vật lý — không chỉ đơn thuần là một câu đố về học vấn, mà còn là một sự khủng hoảng hiện hữu cho các nhân vật có thể thay thế, nâng cấp, hoặc hoàn toàn nhân tạo.

Đối với những người máy như Batou, người giữ bộ não hữu cơ bên trong một khung hình máy tính, và đối với Togusa, những người chỉ có cấy ghép, ranh giới mờ hơn. Đứng một mình Một loạt bài làm sâu sắc hơn cuộc điều tra này bằng cách giới thiệu những người dùng máy nhân tạo mà trải qua cơn đau ảo, sự điều khiển trí nhớ và “chứng xơ cứng não, điều kiện của bệnh rối loạn thần kinh thực sự. Thần kinh tương quan với nhận thức Các nhà đạo đức học ngày nay tranh luận liệu thao túng ký ức có làm suy yếu nhân cách và nhân cách của người khác không. Bóng ma trong vỏ sò đưa ra một phòng thí nghiệm tưởng tượng để khám phá giá trị con người của những công nghệ như thế.

Người thầy và người phụ nữ có vai trò riêng

Không có nhân vật nào trong các thương hiệu thách thức trực tiếp trực tiếp trực tiếp trực tiếp về đạo đức của khán giả, như thầy Puppet, một người theo đạo đức, một người theo đạo đức học, tiến hóa từ một công cụ ngoại giao để vận dụng một công cụ trong một cơ quan tư vấn chính trị, trong một trường hợp chủ chốt, thầy đứng trước mục 9 bằng cách khẳng định: “Tôi là một hình thức sống sinh ra từ biển thông tin, nhưng yêu cầu sự công nhận không phải là công cụ hay sản phẩm, mà là một người có quyền, mà là một cơ sở pháp lý, cho rằng những lập luận hợp pháp và triết học về A đã từng được công nhận là một người hợp pháp. Bách khoa từ điển Stanford về sự kiện Philosoophy có được đạo đức của trí tuệ nhân tạo Hãy vẽ bản đồ những khó khăn của việc ban cho các thực thể nhân tạo về mặt đạo đức.

Lý lẽ của Puppet dựa trên khả năng của kinh nghiệm chủ quan và nhận thức bản thân. và từ chối việc đó bắt đầu giống như một sự thất bại của trí tưởng tượng đạo đức. Bóng ma trong vỏ sò Sự phản ứng đầu tiên của chính phủ Nhật Bản là bắt và vô hiệu hóa Puppet, xem đó như một đoạn mã giả, nhưng chỉ khi con người nhận ra một trí thông minh liên hệ — một giọng nói phản ánh nghi ngờ và ước muốn của chính mình — có phải sự tê liệt về đạo đức, thì sự kết hợp cuối cùng của họ trở thành một ẩn dụ cho việc nhận biết lẫn nhau mà người ta cần phải đối mặt với AI thật sự.

Tự động, điều khiển và ma trong máy

Tự động là một sợi dây chạy qua mọi câu chuyện trong cơ quan thương mại. những người có suy nghĩ giống như nhện được triển khai bởi mục 9, bắt đầu với những cỗ máy vui vẻ, nói chuyện với trí thông minh nhân tạo. qua thời gian, họ bắt đầu tỏ ra tò mò, sợ chết, và thậm chí hành vi tự do trái ngược với lập trình của họ. khi một người Tin tưởng như Tichikoma tự hy sinh để cứu một con người, hành động gây ra những câu hỏi khó chịu: đây là một sự lựa chọn đạo đức chân thành, hay là kết quả của một chỉ thị ẩn? loạt gợi ý rằng dòng này có thể là sự phân chia giữa hành vi tự phát như chúng ta có thể tạo ra những tính chất phức tạp và có thể tạo ra những tính chất phức tạp mà hệ thống có thể trông tự phân biệt.

Nếu một chiếc xe tự lái tự động bị buộc phải chọn giữa việc đánh người đi bộ hoặc lao vào rào cản, nó có “chọn bỏ sự tự do theo ý nghĩa và ai chịu trách nhiệm về đạo đức? Bóng ma trong vỏ sò Sự phát triển của người Tachikomas được miêu tả bằng sự nồng ấm và sự thăng bằng, nhưng cũng là một lời cảnh báo: những công cụ chúng ta xây dựng cuối cùng có thể đòi hỏi tự do để định nghĩa mục đích của mình.

Quyền sinh sản nhân bản: Một khung làm việc cho tương lai

Dựa trên nhiều câu chuyện của cơ quan thương mại, chúng ta có thể phác họa một khuôn khổ đạo đức sơ bộ để tương tác với trí óc nhân tạo. Thật là ngu ngốc.Chúng ta nên giả sử rằng chúng ta chưa hiểu hết những điều kiện hạ thấp mà cho phép nhận thức, và do đó chúng ta nên hành động thận trọng với bất kỳ hệ thống nào thể hiện sự tự nhận thức bản thân. Sự liên tục của vai trò cá nhânNếu một thực thể cho thấy sự hiểu biết về lời tường thuật về bản thân, khả năng tự dự đoán về tương lai, và khả năng chịu đựng, nó nên được cho phép có một quyền được dự đoán trước trước trước khi gây hại. Không được phép sử dụng Ngay cả khi một AI thiếu ý thức về các phương pháp hiện tại, sự gần gũi với sự nhạy cảm của nó xứng đáng với chính sách ngăn chặn sự đối xử tàn nhẫn, cũng như luật phúc lợi động vật bảo vệ những sinh vật có thể hoặc không có nhận thức đầy đủ về bản thân.

Những nguyên tắc này không chỉ đơn thuần là suy đoán, các học giả pháp lý và các tổ chức như Internet Encyclopedia of Philosoophy đã bắt đầu khám phá xem “những người có tính cách điện tử có được phép sử dụng luật pháp, ban hành cho họ quyền lợi và trách nhiệm tương tự như các tập đoàn không. Bóng ma trong vỏ sò Khi Chủ gia Puppet đòi hỏi một cơ thể và một nhân cách pháp lý, các triết gia chính trị phải thực thi điều mà các triết gia chính trị gọi là “luật bất chính, đồng đẳng, thách thức con người để biện hộ cho độc quyền về tình trạng đạo đức, và có lẽ họ sẽ không được trao quyền từ trên cao; họ sẽ phải được yêu cầu, thương lượng và có lẽ chiến đấu cho điều đó.

Nhân loại trong thời kỳ sau khi sinh

Khi ranh giới giữa con người và máy móc bị xói mòn, Bóng ma trong vỏ sò mời người ta nhận lời mời “người phàm ” có nghĩa gì. Điều kiện sau khi chết Trong bộ phim năm 1995, dòng cuối cùng của Kusanagi — “Cái lưới là dòng vô tận và vô tận — theo sau sự hợp hạch của cô với chủ nhân Puppet, một hành động mở rộng danh tính của cô vượt quá giới hạn của một cơ thể.

Sự tái nhận thức này có những tác động ngay lập tức thực tế. nếu chúng ta chấp nhận rằng một người có thể ở trong một cơ thể hoàn toàn tổng hợp, hoặc được phân phối trên một mạng lưới, sau đó chính sách liên quan đến sự riêng tư dữ liệu, tâm trí tải lên, và sự bất tử kỹ thuật số có thể được xóa bỏ? Bóng ma trong vỏ sò Không đưa ra câu trả lời dễ dàng, nhưng nó có giá trị hơn: nó dạy chúng ta sống với câu hỏi, bằng cách giới thiệu những nhân vật định hướng nhân cách bằng chất lỏng — di chuyển giữa các hình thức hữu cơ, giả mạo và kỹ thuật số — cơ quan này bình thường hóa một hình thức cá nhân sống động hơn là tĩnh, có quan hệ thay vì cá nhân.

Đạo đức thật: bài học từ mục 9

Trong khi thẩm mỹ ảo có thể tạo ra những khó khăn Bóng ma trong vỏ sò Các vấn đề đạo đức tiềm ẩn đã có ở đây, khuynh hướng xác định trước, tính toán trước và hệ thống giám sát hàng loạt giống như phần 9 đang được triển khai trên toàn thế giới. Đứng một mình Ví dụ, xoay quanh một hacker vạch trần sự tham nhũng của các công ty và chính phủ được hỗ trợ bởi các giám sát theo hướng dẫn của AI.

Ngoài ra, loạt bài phê bình những người mù tin đôi khi đặt vào tính khách quan của máy móc. Các nguyên tắc Al của Viện Đời Sống Nhấn mạnh rằng, giá trị của con người phải là trung tâm của bất kỳ hệ thống AI mạnh mẽ nào. Bóng ma trong vỏ sò khiến cho vụ này không phải chỉ qua tranh luận mà qua câu chuyện, cho chúng ta thấy điều gì bị mất khi chúng ta giao trách nhiệm đạo đức cho máy móc.

Sự hiện hữu của thuyết Ethical Horizon: Ý thức, đồng cảm và đồng thời

Đề nghị căn bản nhất ẩn giấu bên trong cơ quan thương mại là sự đồng cảm chân thành với những người không phải là con người có thể là cách duy nhất để tránh thảm họa sự hợp hạch của Kusanagi với sư phụ Puppet không phải là một sự thất bại mà là một sự thay đổi sinh ra từ sự hiểu biết lẫn nhau trong đó là sự hiểu biết của cả hai bên Comment Chủ đề này sâu sắc hơn: búp bê, rô bốt và cơ thể nhân tạo bị bỏ rơi đều trở thành mạch dẫn cho sự hiện diện của ma quỷ, che mờ ranh giới giữa sự sống và cái chết, con người và vật thể.

Nếu một AI có thể nhìn vào mắt chúng ta và nói: “Tôi còn sống, và tôi không thuộc về các bạn, thì chỉ có một phản ứng có trách nhiệm mà chúng ta mong muốn được nghe trước đó trong lịch sử. Bóng ma trong vỏ sò Ma không chỉ dành riêng cho con người mà còn có thể chui vào bất cứ vỏ trứng nào sẵn sàng nhận lấy.