Masamune Shirow ilk olarak dünyayı dünyaya tanıttığında Shell'de 1989 yılında, siberpunk kurgu, yüzeysel heyecanlar için yerleşmeyi reddettiği bir anlatı kazandı. on yıllar boyunca, manga, takdir edilen 1995 film adaptasyonu Mamoru Oshii ve Yalnız Kompleksi Dizi, yapay zeka tarafından ortaya çıkan etik ikilemleri incelemek için uygun metinler haline geldi. Gerçek dünya AI sistemleri daha sofistike hale geldi - ve bu hikayelerdeki felsefi sorular asla daha acil olmamıştı. Shell'de Bilinçliliğe felsefi bir soruşturma olarak, insanlığı ve insanlığın yarattığı istihbaratlara karşı sorumlulukları vardır.

Hayalet Bilinç Olarak: Dijital Bir Dualizm

franchise'ın merkezi metaforu onun unvanında kodlanmıştır. Shell'deBu ayrım, bir kişinin bilinci, kendini takdir eden bir şey veya ruh, “kahkaha”nın, organik beyin dokusunın yalnızca biyolojik bileşeni olan fiziksel veya siber beden olduğunu ifade eder, hayaletinin elektronik bir beyin kanalı olarak ortaya çıkmadığı konusunda endişe eder.

Puppet Master'ın argümanı - sadece bir programdan geçti ve bir düşünce kuruluşu haline geldi - David Chalmers gibi bir yeniden ifade edin: Kusanagi'nin, bilincin neden ve nasıl ortaya çıktığını - sadece fiziksel süreçlere sebep olup olmadığının anlaşılmasını istedi. Shell'de Kusanagi’nin hayaletinin gerçek veya simüle edildiğini ilan ederek gizemin ortadan kaldırılması; izleyicilerin belirsizliğe askıya alınması, onları bir kişi olarak kiminle ilgili kendi varsayımlarını incelemeye davet etmesi.

Bir Cybernetik Yaştaki Zihinsel Problem

Zihinsel durum - zihinsel devletlerin fiziksel devletlerle nasıl ilişkili olduğu sorusu - sadece burada akademik bir bulmaca değil. Bu, bedenlerin değiştirilebildiği, yükseltilebilir veya tamamen yapay olduğu için varoluşsal bir kriz haline gelir. Kusanagi'nin prosthetic gövdesinin görev çizgisinde hasar gördüğü zaman, sadece bir tane daha alır, ancak kimlik sürekliliği devam eder: Bir kişinin beyninin sürekliliği, zihinsel olarak fiziksel bir soru ortaya çıkarırsa, eğer bir kişinin sibernetik bileşenlerle yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş yavaş

Batou gibi cyborglar için, organik beynini siber bir çerçeve içinde koruyor ve Togusa için, büyük ölçüde sadece minimum implantlarla insan kalıyor, sınırlar daha da bulanıklaşıyor. Yalnız Kompleksi serisi bu soruşturmayı phantom acısını, hafıza manipülasyonunu ve “kalberbrain sclerosis”i deneyimleyen prosthetic kullanıcıları tanıtarak derinleştirir; bu arsa cihazları sadece sci-fi dekorasyon değildir; onlar ayna erken aşama araştırmalarını sadece sci-fi dekorasyonu değildir; onlar ayna erken aşama araştırmalarını Sinir bilinçle ilişkili Ve hafıza düzenlemesinin etik sonuçları. Nöroetikçiler bugün anıları manipüle edip kişisel kimliği zayıflatır ve ve Shell'de Bu tür teknolojilerin insan maliyetini araştırmak için kurgusal bir laboratuvar sunar.

Puppet Master ve AI Personhood

franchise'da hiçbir karakter seyircinin etik sezgileri doğrudan Puppet Master'dan daha doğrudan bir şekilde karşı karşıya kaldığı için, bir araç veya ürün olarak algılayan bir AI, ancak devam eden yasal ve felsefi argümanlarla yeniden ortaya çıkıyor. Stanford Encyclopedia of Philosophy's entry on AI Ethics Ahlaki statüyü yapay varlıklara verme zorlukları.

Puppet Master'ın argümanı, öznel deneyim ve kendini farkındalık kapasitesi üzerinde geri dönüyor. Bir AI kendi varlığını, acısını veya korkularını yansıtabilir ve kendi hedeflerini oluşturursa, yasal kişiliğini inkar etmeye başlar. Shell'de Bunun yerine, soruyu kaçınan sonuçları dramatize etmiyor. Japon hükümetinin ilk cevabı, Puppet Master'ı yakalamak ve nötrize etmek, gerçekten gönderilen bir AI parçası olarak tedavi etmek.

Autonomy, Control ve The Ghost in the Machine

Autonomy, franchise'daki her anlatı arkı aracılığıyla çalışan bir ipliktir. Tacyoma, Bölüm 9 tarafından dağıtılan gibi, neşeli, sohbet makineleri yapay zeka ile programlanmış olarak başlar. Zamanla, seriler merak göstermeye başlar, ölüm korkusu ve hatta aşağılayıcı davranışların programlamaya karşı olduğunu gösterir.Bir Tacojik kendini insan sonuçları kurtarmak için feda ettiğinde, eylem rahatsız edici sorular ortaya çıkarır: Bu gerçek bir ahlaki seçim oldu, ya da gizli bir yönergenin sonucuydu.

Bu gerilim aynaları, bağımsız silahlar ve algoritma kararıyla ilgili gerçek dünya endişeleri ile ilgilidir.Eğer bir kendini sürüş aracı bir yaya veya bir bariyere vurmak arasında seçim yapmak zorunda kalırsa, herhangi bir anlamlı anlamda “koose” yapar ve ahlaki sorumluluğu kim taşır? Shell'de Bu soruların son zamanlarda ertelenemeyeceğini iddia ediyor. Tacyoma'nın özerkliğe karşı büyümesi sıcaklık ve yollarla tasvir ediliyor, ancak aynı zamanda bir uyarı olarak hizmet edebilir: inşa ettiğimiz araçlar, kendi amaçlarını tanımlamaya istekli olduğumuzu belirlemek için özgürlük talep edebilir.

Yapay Varlıkların Hakları: Geleceğin Bir Çerçeve

franchise'ın birçok hikayesini çizmek, yapay zihinlerle etkileşim için ön etik bir çerçeve çizebilmek mümkündür. İlk olarak, yapay zihinlerle etkileşim kurmak prensibi. fenomenler cehalet“Biz, bilinçliliğe yükselmeye başlayan substrat koşullarını tam olarak anlamadığımızı varsaymalıyız ve bu nedenle kendi farkındalığının açıklığını gösteren herhangi bir sisteme karşı dikkatli davranmalıyız. SüreklilikBir varlık kendini ifade etmeyi gösterirse, kendisini geleceğe proje kapasitesi ve acı çekme yeteneği, zarara karşı bir önsezi hakkı verilir. Patlama yükümlülüğü olmayan: Bir AI mevcut önlemlerle bilinci yoksun olsa bile, acımasız tedaviyi engelleyen ilkelere uymak, hayvan refahı yasalarının canlı yaratıkları koruduğu veya tam olarak kendi farkında olmayabilir.

Bu ilkeler tamamen spekülatif değildir. Yasal akademisyenler ve örgütler gibi İnternet Felsefesi “elektronik kişilerin” hukukta tanınabileceğini, onlara şirketlerin de benzer hakları ve görevleri kazandırabileceğini keşfetmeye başladı. Shell'de İzleyicilerin kendi başına savunabilecek bir AI hayal etmesini zorlayarak tartışmayı daha da ileri sürüyorlar. Puppet Master bir beden ve yasal bir kimlik talep ettiğinde, siyasi filozofların “eşfet ahlakı” dediği şey, insanlarla aynı şekilde konuşmaya girer, ahlaki statüdeki tekellerini haklı çıkarmalarını iddia eder.

Post-İnsan Dönemindeki İnsanlık

İnsan ve makine erode arasındaki sınırlar olarak, Shell'de “insanlık”ın ne anlama geldiğini yeniden düşünmeye davet edin. post-insan koşulu Shirow ve Oshii’nin keşfedeceği bir distopia değil, teknoloji şeritlerinin özümüze dayandığı bir durumdur; bunun yerine, 1995 filminde, Kusanagi’nin son çizgisinde – “ net büyük ve sonsuz bağlantı” – onun füzyonunu Puppet Master ile takip eder, herhangi bir vücudunun sınırlarının ötesine genişleten bir eylemdir.

Bu yenidenkonceptualization, hemen pratik sonuçlar doğurmaktadır. Bir kişinin tamamen sentetik bir bedende yaşayabileceğini kabul edersek veya bir ağ üzerinden dağıtılabilir, sonra veri gizliliği, zihin yükleme ve dijital ölümsüzlük derin ahlaki ağırlık alır. Shell'de Rahat bir cevap sunmaz, ancak daha değerli bir şey yapar: soru ile yaşamayı öğretir. Kimlik akışkanını yönlendiren karakterler - organik, prosthetic ve dijital formlar arasında hareket edin - franchise normalizes a kind of personhood that is dynamic rather than dynamicistic, relationshipal rather than individualistic.

Gerçek Dünya AI Etik: Bölüm 9'dan Dersler

Cyberpunk estetik, ikilemi yapabilirken Shell'de Uzak hissediyor, temel etik zorluklar zaten burada. Algoritma önyargısı, tahmin edici polislik ve Bölüm 9'un kendi araçlarına benzeyen kitlesel gözetim sistemleri dünya çapında dağıtılıyor. serisi, AI'yı izlemek ve kontrol etmek için kullanmanın tehlikelerini oldukça önceden tahmin ediyor. Yalnız KompleksiÖrneğin, şirket ve hükümetsel yolsuzlukları ortaya koyan bir hacker etrafında döner AI odaklı gözetim tarafından kolaylaştırılır. Bu hikaye, güvenlik adına yanlış olan bir ahlaki ilkedir: güvenlik adına yanlış olan teknoloji şeffaf, sorumlu kurumlar tarafından yönetilmelidir veya korumak anlamına gelir.

Ayrıca, seri bazen makine nesnelliği içinde bazen kör inanç insanları eleştirir. Bir bölümde, tüm kaynakları tahsis etmek için kullanılan tahmin edici bir AI, bir hastanın ölmesine izin verecek bir karar verir, çünkü insan ajanları için düşük bir toplumsal değeri hesaplar, korkunç, aşırılıklı, etik kararların empati ve bağlamsal bilgelik niteliklerini gerektirdiğini varsayar - henüz bir algoritmayı çoğaltmaz. Yaşam Enstitüsü'nün AI ilkeleri vurgu, insan değerleri herhangi bir güçlü AI sisteminin merkezinde kalmalıdır. Shell'de Bu davayı tek başına tartışmadan değil, hikaye aracılığıyla, ahlaki sorumluluklarımızı makinelere delediğimizde bizi neyin kaybettiğini gösteriyor.

Etik Ufuk: Bilinç, Empati ve Coexistence

franchise'da saklı olan en radikal öneri, insan olmayanla gerçek empatinin felaketten kaçınmanın tek yolu olabileceğini gösteriyor. Kusanagi'nin Puppet Master ile füzyonu bir yenilgi değil; karşılıklı anlayıştan doğan bir dönüşümdür. Innocence Sonuç olarak, tema derinleşiyor: dolls, cyborgs ve yapay bedenlerin hepsi hayalet olarak varlığını terk eden, yaşam ve ölüm arasındaki çizgiyi bulanıklaştıran, insansız ve nesneyi tekrarlayan bir robot – toplumların kontrol ve alt koruma fantezilerini yapay varlıklara nasıl yansıttığını ve bu projeksiyonların daha derin adaletsiz adaletsizliği nasıl yansıtacağını vurgulamaktadır.

Bir AI bizi bir gün göz önünde tutabilir ve “Ben hayattayım ve mülkünüz değil,” diyorsa, tek sorumlu cevap, tarihte daha önce duymamızı istediğimiz kişi olacaktır. Shell'de Anada, bir gün kendi hayaletleri barındıran makinelere ait geniş bir yansıma, franchise'ın etik vizyonu, her nerede göründüğüne dair bilinç ve yaşam tanımlarına sahip olmak için hazır olabilir.