Đang khai thác hệ thống Ethical Dilemma of Al Autonomy trong ) Aldnoah.Zero ) ) )

Trong phong cảnh rộng lớn của mecha anime, một loạt các loạt bài báo đối mặt với trọng lượng triết học của trí tuệ nhân tạo như [Fdnoah.Zero . Trong khi chương trình này cung cấp các cuộc chiến ngoạn mục giữa trái đất và lực lượng sao Hỏa, sự đóng góp quan trọng nhất của nó là gương đạo đức nó giữ cho quỹ đạo công nghệ của chúng ta. chủ đề trung tâm - AI tự trị trong chiến tranh không phải là giả tưởng; nó là một mối quan tâm cấp thiết, thực mà là một sự quan tâm mạnh mẽ mà giải mã các câu chuyện bằng các nhân vật, sự xung đột hệ, thất bại hệ thống và lý trí của máy tính hung bạo.

Bộ phim tránh được những câu trả lời dễ dàng, thay vì đưa ra những vấn đề khó xử về chính trị, quân sự và sâu sắc cá nhân. nó hỏi: khi một cỗ máy có thể chọn lấy một cuộc sống, ai mang trọng lượng đạo đức? những bảo vệ nào có thể được khi chính mã lệnh được rèn luyện từ người ngoài hành tinh, một siêu công nghệ không thể thay đổi? và nhân loại có nguy cơ mất đi khi nó đưa ra những quyết định chết người nhất của nó cho hệ thống mà không cảm thấy hối hận?

Ổ đĩa Aldnoah: Hơn một nguồn điện

Để hiểu được Al, kỹ thuật cổ xưa này của sao Hỏa, chỉ được kích hoạt bởi một dòng di truyền được công nhận, là nền tảng của quân đội Đức (Fs Empire) có thể. Nó điều khiển máy chiến tranh hình người (Brampit:1) và chủ yếu là nó kết thúc chúng với khả năng hoạt động gần với năng năng năng định hướng của cơ học. Không như trái đất, hoàn toàn dựa vào kỹ năng phi công, Alnah-Adah, quản lý các đơn vị bảo vệ, và thậm chí là sự tự do định hướng, và thậm chí là sự phân phối năng lượng.

Điều này tạo ra sự mất cân bằng sâu sắc: Lực trái đất đang chiến đấu không chỉ với các phi công mà còn với toàn bộ hệ thống cộng sinh nơi mà vai trò của phi công có thể thu nhỏ đối với người giám sát chiến lược.

Định nghĩa sự tự động trong vũ trụ Aldnoah

Tự động chống lại tự động lại.

Chương trình này phân biệt các cấp độ độc lập của máy tính. Trái đất, lực lượng UFE (các lực lượng không xác định của trái đất) Katakts hoạt động trên sự kiểm soát chặt chẽ của con người, với AI giới hạn các chức năng như tính toán quỹ đạo và báo động lại. Ngược lại, các tàu bay khác nhau đã hiển thị những gì các nhà nghiên cứu gọi [FLT: 0] tính tự trị [FLT1] [FLT1]; khả năng đặt các vận động phụ, tái định tuyến, tái định tuyến, và thậm chí là những phi công đánh giá cao nếu lái xe tải hành động phụ (FLTT: 0] [BLTTTT] [BTTTT: 1], ví dụ Di chuyển nhiều hệ thống vũ khí, có thể dự đoán nhanh hơn bất kỳ hệ thống chiến trường con người, và thậm chí có thể dự đoán lại nhiều hệ thống chiến trường con người, và thậm chí là bất cứ vận động nào.

Sự tự trị có cột này không chỉ là một thiết bị để tạo ra một thiết bị, mà còn là một ý tưởng gây ấn tượng mạnh mẽ đối với Bộ Quốc Phòng Hoa Kỳ qua sự tôn sùng của mình đối với Aldnoah, có quyền sử dụng đạo đức bình thường trong nền văn hóa của con người, một bước được [FTT: T] thảo luận về hệ thống tự trị [L: Hệ thống tự trị]; [T] cho phép sử dụng vũ khí [T].

Ảo tưởng về sự điều khiển phi công

Ngay cả khi một người ngồi trong buồng lái Aldnoah.Zero có thể làm suy yếu ảo ảnh của người điều khiển. [FLine Troyard] [Frrris Katrakt là biểu tượng. Các thuật toán dự đoán của Tharsis cho anh ta biết tương lai có thể dựa trên dữ liệu lớn, có hiệu quả cầm tay lái một cách khéo léo. Trong một vài thời điểm quan trọng, Slaine phụ thuộc rất nhiều vào sự hiểu biết của máy mà trực giác đạo đức của anh ta trở thành phụ. Vấn đề đạo đức ở đây là một trong [FA: [FA] [FL] [T: TGGGGHHHHHH, kiểm soát được. Trong một số thời điểm nhất quán tính năng nhất quán, nó chứng minh một chức năng của người, và một người có thể bị giảm thiểu thiểu số trách, và một người có thể bị mắc bệnh dịch, nhưng nó lại là một người có thể bị suy giảm bớt một lỗi về tiêu chuẩn bị thương nặng hơn một người, và một người, và một người lái xe máy có thể bị mắc chứng bệnh, nhưng nó có

Các đường huyết được tách ra

1. "Vucuum nghĩa vụ"

Cuộc khủng hoảng đạo đức ngay lập tức trong loạt mối quan tâm [FLT: 0] [FLnoT: 0] không có quyền pháp lý, và các lập trình viên ). Nếu một đơn vị tư pháp Aldnoah giết nhầm người dân thường, tòa án quân sự sẽ không có liên quan. Các thiết bị này không có sự nhân cách hợp pháp, và các lập trình viên của nó đã chết lâu; gia đình Vers chỉ đơn thuần kích hoạt công nghệ, họ không xây dựng logic của nó. Có thể phi công tranh luận máy tính vượt quá quyền cai trị. Kết quả là sự trống rỗng nơi không có thủ phạm rõ ràng. Những tấm gương này là những người tự trị hợp pháp xung quanh vũ khí tự trị, như hệ thống nghiên cứu [FT]: [T] sát: kẻ giết người đàn ông] kiểm soát chiến dịch chống lại chế độ vũ khí vũ khí vũ khí vũ khí vũ khí gây ra bởi các vụ tàn bạo lực.

2. Sự vô nhân đạo hóa chiến tranh

Aldnoah.Zero không chỉ cho thấy sự tin cậy nơi các dải đạo đức của nó. Zero [FLT:] [FLT: 1] không chỉ hiển thị các máy chiến đấu; nó cho thấy sự tin cậy nơi các dải đất dựa trên cơ quan đạo đức của nó như thế nào. Các binh lính Trái đất bị buộc phải đối xử với các phương tiện điều khiển mà không phải là các tai họa môi trường, mà còn là các trận lụt - như sét - phải được sống sót thay vì lý luận.

3. Vấn đề về sự phân chia trong bộ luật của người ngoài hành tinh

Vấn đề liên kết Aldnoah cổ điển không phải do con người tạo ra; nó là di tích của một nền văn minh đã tuyệt chủng. Làm thế nào để đảm bảo các mục tiêu của hệ thống nhân tạo vẫn còn liên kết với các giá trị con người (nếu có) những nhà xây dựng đầu tiên của nó được đặt vào một cách đáng sợ. Công nghệ Aldnoah không phải do con người tạo ra; nó là di tích của một nền văn minh đã tuyệt chủng. Không ai còn sống hiểu rõ các nguyên tắc cơ bản hoặc các giới hạn đạo đức (nếu bất kỳ) những nhà xây dựng đầu tiên của nó được gán vào. Các lực lượng thượng lưu trữ nó như là một quyền siêu phàm, nhưng các lực trái đất tiếp xúc với kết quả của nó như là sự độc đoán và nam tính. Tình huống này tương tự song song song song với những nỗi sợ hãi của Abox, nơi mà ngay cả các nhà phát triển không thể dự đoán hành vi xử lý đạo đức.

4 Có khả năng nổi loạn hoặc mục tiêu của Dị biệt

Dù động cơ của A - qui - rô - ma không gây ra sự nổi loạn toàn diện, nhưng loạt bài này liên tục gợi ý về hệ thống kiểm soát không thể đoán trước của họ.

Những sự tương đồng thực tế: từ truyện hư cấu đến chiến trường

Hệ thống tự động đã được triển khai trong các vai trò quân sự hạn chế: bao gồm đạn dược, không người lái và Hiệp định bảo vệ mạng ). Một số vũ khí Hội Nghị Liên Hiệp Quốc đã nhiều lần tranh luận về lệnh cấm vũ khí tự trị, nhưng vẫn còn một hiệp ước ràng buộc. Các chức năng kéo dài như một trường hợp nghiên cứu trong trường hợp mà công nghệ trở nên bình khi công nghệ trở nên cứng nhắc, văn hóa cao quý mà sự kiểm soát đạo đức.

Trường hợp của những con robot giết người

Bộ phim ngắn nổi tiếng [FLT: 0] cho phép ngăn chặn các robot giết người [FLTT:1) đưa ra một phiên bản lớn: Vers Katrakts là những con robot giết người một cách hiệu quả với hàng loạt các thiết bị tự trị và sự kiêu ngạo của chế độ. Cả hai đều nhấn mạnh cùng một sự kinh hoàng: việc chọn những người không có đạo đức và không có sự phán xét.

Nhân phẩm và quyền quyết định của con người

Một nguyên tắc đạo đức lặp đi lặp lại trong các cuộc tranh luận hiện đại là “quyền tự động của quyết định của con người trong các hoạt động giết người. [FLnoah.Zero ] bước chân vào vấn đề này nhiều lần.

Thần quyền của sao Hỏa: Văn hóa của sự ủy quyền

Aldnoah.Zero ) không trình bày sự tự trị thuần túy của AI, nhưng dựa trên một nền văn hóa chính trị hoàn toàn không hoàn hảo.

Sự thất bại của các tổ chức này là trọng tâm của vấn đề đạo đức không có sự quản lý trong suốt, có thể giải thích được AI, và các quy tắc có thể áp đặt được, hệ thống tự trị trở thành công cụ của áp bức thay vì bảo vệ. loạt bài báo cho thấy công nghệ nằm trong một cấu trúc quyền lực bị phá vỡ sẽ tăng sự bất công. các Vers Katrakt không phải là xấu; hệ thống mà mặc quần áo cho họ với sự vô đạo đức không bị trừng phạt.

Trái đất phản sinh: Sự đổi mới dưới dạng giả mạo

Bên kia, lực lượng Liên Hợp Quốc của Trái Đất phải đối mặt với sự ràng buộc đạo đức của chính họ. vượt ra ngoài giới hạn và tuyệt vọng, họ bị cám dỗ để tăng khả năng AI của mình. Inaho Kaizuka chiến thuật khéo léo sử dụng sự hỗ trợ cơ bản của trí tuệ- tính toán đạn đạo đức của họ - tính toán chống lại các dự đoán của Thars, khai thác hệ thống latency - cho thấy cách mà con chó bị hạ có thể đấu tranh với sự kiểm soát ngược lại. nhưng sự phòng thủ này không giải quyết được lượng đạo đức. mỗi bước tiến về phía bắc tiến tới tự động tự vệ, thậm chí là tự vệ, thắt chặt trái đất nếu nó có thể tồn tại, để phản ứng, nó có thể phản ứng lại, AIT.

Bài học đạo đức là không phải là giải pháp đạo đức ). Chỉ tương ứng với vũ khí tự trị của kẻ thù không nói về sự sai lầm cơ bản của việc ra quyết định sống và chết cho máy móc. Các loạt bài khuyến khích kiềm chế ngay cả [FLT: 1] đặc biệt khi đối thủ đã bỏ rơi nó.

Tôi có thể nào tỏ ra hòa hợp với đạo đức không?

Bệnh cúm người do người gây ra?

Ông ấy sử dụng trí tuệ giới hạn của mình để tăng cường, không thay thế sự phán đoán của ông ấy ông ấy coi máy này như một công cụ, liên tục kiểm tra lại đầu ra của nó và đánh giá nó một cách quá mức khi trực giác con người nói ngược lại mối quan hệ này là mô hình mà nhiều người theo đạo đức gọi là “sự kiểm soát tinh thần con người: con người vẫn còn là một tác nhân đạo đức nhưng là một cố vấn tinh vi nhưng thuộc hạ đẳng về cảm xúc của mình làm tăng thêm một câu hỏi khác nữa: nếu người điều hành lý tưởng phải trở thành một người vô cảm như máy, thì sự phân biệt của con người?

Slaine Troyard: Lương tâm suy đồi

Cuộc hành trình của chị Silaine vạch rõ một sự kết hợp thảm khốc giữa sự oán giận và sự xác định của con người.

Thiết kế AI trong thực tế: Những gì giải đấu dạy chúng ta

Nếu Aldnoah.Zero có một thông điệp có sẵn, thì nhân loại phải những hạn chế đạo đức vào hệ thống tự động trước khi họ trở thành một hệ thống tự trị. thảm kịch của Đế Quốc Vers: họ thừa kế một công nghệ mà họ không thể hiểu được, gói nó lại trong thần thoại, và giải phóng nó mà không cần nền tảng văn hóa hay luật pháp để kiểm soát. Sự phát triển ADT, đột phá vỡ đối với các hệ thống tự trị, các ứng dụng y học, và các ứng dụng y tế, không thể mua được.

Những điều kiện để có tương lai an toàn

  • Sự tha thứ và khả năng giải thích: [FLT: 1] Nếu chúng ta không thể thẩm vấn tại sao một hệ thống đã chọn hành động, chúng ta không thể giao trách nhiệm. Hộp đen của Aldnoah không được tái tạo trong vũ khí riêng của chúng ta.
  • HERG:0] Mỗi hành động chết người nên yêu cầu một quyết định tạm thời của con người, với nhận thức đầy đủ về tình huống, không phải là một dấu cao su trên một giấy giới thiệu AI.
  • Sự áp đặt quốc gia: [FLT: 1] Vũ trụ của chương trình thiếu bất cứ thân thể trung lập nào để cưỡng lại sự vi phạm.
  • [FLT:] Tiến trình giải phóng vũ khí đối với Aldnoah: ) không thể chỉ là một luật có giá trị cao; xã hội phải nuôi dưỡng một sự kháng cự sâu sắc để đưa ra quyết định đạo đức. Alnoah.Zero cho thấy điều gì xảy ra khi một nền văn hóa tôn vinh đại biểu như thế.

Kết luận: Chúng ta không thể tự động đi

Aldnoah.Zero là hơn nhiều hơn so với một câu chuyện về các hành tinh xung đột; đó là một cuộc thẩm vấn đạo đức kéo dài của một tương lai chúng ta đang tiến đến nhanh chóng. Các chuỗi buộc chúng ta phải đối mặt với sự thật đáng lo ngại rằng không có thuật toán, không có vấn đề gì, không có vấn đề gì về độ cao của việc lấy đi một cuộc sống. và khi chúng ta cố gắng chuyển đổi nó thành máy móc, chúng ta không trở nên hiệu quả hơn - ít hơn - ít hơn người. Bài học cuối cùng là một lời kêu gọi công nghệ, nhưng một đạo đức để đưa ra những hệ thống mã hóa cổ xưa không bao giờ có thể sai khiến cho người ngoài hành tinh sống, và khi chúng ta chết đi, và khi chúng ta cố gắng chuyển đổi nó thành một loạt các khoảnh, chúng ta không bao giờ có thể trả lời một câu hỏi được đặt ra, trừ khi chúng ta đã được đưa ra một câu hỏi: [FT] không bao giờ có ý kiến: [FT], NW] không bao giờ có thể hỏi: một câu hỏi về mặt trái], nhưng có

Khi chúng tôi phát triển các hệ thống tự trị thực sự, từ việc bảo vệ AI đến các quyết định xã hội được điều khiển bởi thuật toán, Aldnoah.Zero phục vụ như một hiện vật văn hóa cảnh giác, nhắc nhở chúng tôi rằng những tình thế tiến thoái lưỡng nan nhất không phải là kỹ thuật nhưng là con người sâu sắc.