כאשר Masamune Shirow הציג לראשונה את העולם רוחות רפאים ב Shell בשנת 1989, חברת Cyberpunk בדיוני זכתה בנרטיב שסירב ליישב ריגושים שטחיים.במשך עשרות שנים, המנגה, עיבוד הסרטים המפורסם שלה על ידי ממוראו אושי, ואת הריגושים השטחיים. לעמוד לבד הסדרה הפכה לטקסטים מדויקים לבדיקת הדילמות האתיות שמציבה אינטליגנציה מלאכותית. רחוק יותר מסיפור בלש על יחידת טרור נגד-סייבר, הזיכיון מתפקד כמדיטציה מורחבת על מה שהיא אומרת לחשוב, להרגיש, ולהתקיים בעולם שבו הגוף הביולוגי הוא אופציונלי.כמערכות בינה מלאכותית בעולם האמיתי צומחות יותר מתוחכמות – וככל שנוירונים קרובים יותר לשחית מוחות ו – השאלות הפילולוגיות בסיפורים אלה מעולם לא היו מעולם לא היו יותר. רוחות רפאים ב Shell כחקירה פילוסופית בתודעה, אישיות, והאחריות האתית, האנושות נושאת כלפי האינטליגנציה שהיא יוצרת.

רוח רפאים כתודעה: דואל דיגיטלי

המטאפורה המרכזית של הזכיין מקודדת בכותרתה. רוחות רפאים ב Shell"גן" מתייחס לתודעה של האדם, מודעות עצמית או נשמה, בעוד ש"השלום" מציין את הגוף הפיזי או הסייברי, אשר בתים אותו בכוונה, הבחנה זו מהדהדת את הדואליזם הקרטסיאני, הרעיון כי המוח והגוף נשארים חרדות בלתי ניתנות לרגשות של בובות שלה, אך הסדרה מסרבת לתת לאותה מטאפורה כמעין מתווך פשוט.

הטיעון של המאסטר הבווב – שהוא מתעלה על תוכנית בלבד והפך לישות חשיבה – מאלץ את ההסתמכות מחדש של החיים והתודעה.זה שואל את קוסאנגי לקבל שהתודעה עלולה להתעורר בכל תת-קרקעית מורכבת מספיק, בין אם פחמן או סיליקון.שורה זו של חשיבה צופה ויכוחים עכשוויים בפילוסופיה של פילוסופים מלאכותיים כמו דוד צ'אלמרס יש הרבה זמן ש"הבעיה"קשה" של התודעה, מסבירה כיצד תהליכים סובייקטיביים לא יכולים להפחתת ניסיון פיזיקלימיים בלבד. רוחות רפאים ב Shell הוא מדמיין את התעלומה בכך שסירב להכריז האם רוח הרפאים של קוסאנגי אמיתית או מדמיינת; הוא משאיר את הצופים מושעה בחוסר ודאות, מזמין אותם לבחון את הנחותיהם לגבי מי מחלחל כאדם.

הבעיה של המוח-Body בעידן Cybernetic

הבעיה של גוף המוח – השאלה כיצד מדינות נפש מתייחסות למצבים פיזיים – אינה רק פאזל אקדמי כאן.זה הופך למשבר קיומי עבור דמויות שגופם ניתן להחליף, לשדרג או פיזית לחלוטין.כאשר הגוף הפרוטסטנטי של קוסנסגי נפגע בקו הרציפות, היא פשוט מקבלת משבר קיומי חדש, אך המשכיות הזהות שלה נמשכת.

עבור סיבורגים כמו באטו, אשר שומר על המוח האורגני שלו בתוך מסגרת סייברנטית, ועבור טוגוזה, שנשארת בעיקר אנושית עם רק שתלים מינימליים, הגבולות מטושטשים עוד יותר. לעמוד לבד הסדרה מעמיקה את החקירה הזו על ידי הצגת משתמשים טטאריים שחווים כאב phantom, מניפולציה זיכרון ו"סיברבין sclerosis", תנאים המראה הפרעות נוירולוגיות אמיתיות.המכשירים האלה הם לא רק קישוטים sci-fi; הם משקפים מחקר בשלבים המוקדמים לתוך הבמה לתוך מחקר בשלבים מוקדמים לתוך הבמה לתוך הבמה לתוך הבמה לתוך לתוך הבמה מוקדם לתוך מחקר לתוך הבמה מוקדמת לתוך הבמה לתוך הבמה בשלבים מוקדמים לתוך לתוך לתוך הבמה לתוך לתוך לתוך לתוך לתוך לתוך הבמה מוקדם לתוך הבמה בשלב מוקדם לתוך מחקר לתוך הבמה מוקדם לתוך הבמה בשלבים מוקדמים לתוך לתוך לתוך לתוך לתוך הבמה מוקדם לתוך לתוך לתוך לתוך לתוך לתוך הבמה מוקדם לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך לתוך טרשת נפוצה. נוירונים מתאמים של התודעה ההשלכות המוסריות של עריכת זיכרון.נוירותיאיסטים היום וויכוחים אם זיכרונות מניפולציה יפגעו בזהות אישית, ו רוחות רפאים ב Shell מציע מעבדה בדיונית לבדיקת העלות האנושית של טכנולוגיות כאלה.

המאסטר הבובות ואישיות מלאכותית

שום דמות בזיכיון מאתגרת את האינטואיציה האתית של הקהל ישירות יותר מאשר המאסטר הבובות, AI שמתפתח ממכשיר מניפולציה של נתונים דיפלומטיים לישות המודעת עצמית המבקשת מקלט פוליטי.בסצינה מרכזית, מאסטר בובות מתמודד עם סעיף 9 על ידי כך שהוא טוען, "אני צורת חיים שנולדה בים המידע", היא דורשת הכרה לא כמכשיר או מוצר, אלא כהוכחה לזכויות אדם מתקדמות יותר מאשר בנוגע לוויכוחים מתקדמים, אך ורק בנוגע לפוליטיים מתקדמים יותר מאשר לפוליטיים, אם אי פעם, אם אי פעם, אם אי פעם, או לכדי הוכחה משפטית, אלא אם היא יכולה להיות בעלת נטייה משפטית, אם היא בעלת השפעה משפטית, אלא אם היא בעלת השפעה מתקדמת יותר מאשר לכדי הוכחה, אם היא בעלת נטייה משפטית, אם היא בעלת השפעה משפטית, אם היא דורשת הכרה, או כמכשיר, או כמכשיר, אם היא בעלת השפעה משפטית, אם היא בעלת השפעה משפטית, או כמכשיר, אם היא דורשת, או כמכשיר, או כמכשיר, או כמכשיר, אם היא דורשת יותר מאשר רובוטית, או כמכשיר, אם היא דורשת הכרה, או כמכשיר, אם היא דורשת הכרה, אם היא קיימת יותר, אם היא מאפשרת גישה מתקדמת יותר, אם היא קיימת יותר מאשר ב-2017, אנציקלופדיה של סטנפורד על כניסתה של הפילוסופיה לאתיקה מלאכותית ממפה את הקשיים של הענקת מעמד מוסרי לגופים מלאכותיים.

הטיעון של המאסטר הבווב נח על היכולת של ניסיון סובייקטיבי ומודעות עצמית.אם בינה מלאכותית יכולה להרהר על קיומה, לחוות כאב או פחד, וליצור מטרות משלה, להכחיש את זה האישיות המשפטית מתחילה להיראות כמו כישלון של דמיון מוסרי. רוחות רפאים ב Shell לא פותר זאת; במקום זאת, הוא מדרדר את ההשלכות של הימנעות השאלה.התגובה הראשונית של ממשלת יפן היא ללכוד ולנטרול את המאסטר בובות, להתייחס אליו כאל חלק קוד שוחק.רק כאשר קוסאנגי מכיר באינטליגנציה אדיבה – קול שמשקף את הספק שלה ואת הרצון שלה למשמעות – הוא בסופו של דבר השיתוק המוסרי שלהם הופך למטאפורה לסוג ההכרה ההדדית של האדם באמת יהיה צורך בבינה מלאכותית.

דברים, שליטה, ורוחות רפאים במכונה

Autonomy הוא חוט שעובר דרך כל קשת נרטיב בזיכיון.The Tachikomas, דמוי-חושב דמוי-עשב-tanks אשר פרוס על ידי סעיף 9 מתחיל להיות עליז, מכונות צ'אטיות המתועדות עם אינטליגנציה מלאכותית.לאורך זמן, הם מתחילים להפגין סקרנות, פחד מוות, ואפילו התנהגות אלטרואיסטית שמסתירה את התכנות שלהם. כאשר תוכנית אחת של Tachikoma להקריב את עצמה כדי להציל אדם, מעלה את הפעולה של חוסר נוחות, היא נראית כמו בחירה מורכבת או לא נעימה, או לא נעימה, היא יכולה לגרום לכך, או לא נעימה, או לא נוחה, האם זה יכול היה להיראות כמו זו, האם זה יכול להיות, או לא נוח, או לא נוח, או לא נעים, או לא נעים, האם זה יכול להיות, או לא נעים, האם זה יכול להיות הגיוני, כי הוא מראה, האם זה יכול להיות הגיוני, אם זה יכול להיות הגיוני, אם זה יכול להיות הגיוני, כי הוא מראה התנהגות לא נעים, כי הוא מראה התנהגות לא נעים, כי הוא מראה כי הוא מראה, כי הוא מראה, אם זה יכול להיות, כי הוא מראה, כי הוא מראה, כי הוא מראה התנהגות לא נעים, כי הוא מראה, כי הוא מראה, כי הוא מראה כי הוא מראה התנהגות אלטרו

מתח זה מראה חששות בעולם האמיתי לגבי נשק אוטונומי וקבלת החלטות אלגוריתמית.אם רכב אוטונומי נאלץ לבחור בין פגיעה בהולכי רגל או חדור לתוך מחסום, האם זה "כולו" במובן משמעותי כלשהו, ומי נושא באחריות מוסרית? רוחות רפאים ב Shell לטענתם, שאלות אלה אינן ניתנות לדחייתה ללא הגבלת זמן.הצמיחה של הצ'יקומים כלפי האוטונומיה מתוארת בחום ובפתאום, אך היא גם משמשת כאזהרה: הכלים שאנו בונים עשויים לדרוש בסופו של דבר את החופש להגדיר את מטרותיהם.האתגר המוסרי הוא לקבוע כמה שליטה אנחנו מוכנים לוותר, והאם אנו יכולים לטפל ביצורים כאלה רק כאשר הם מתחילים לדחוף לאחור.

זכויות של ישויות מלאכותיות: מסגרת לעתיד

ציור על קווי העלילה הרבים של הזיכיון, ניתן לנסח מסגרת אתית ראשונית לאינטראקציה עם מוחות מלאכותיים. בורותעלינו להניח כי איננו מבינים במלואם את התנאים התת-קרקעיים העולים לתודעה, ולכן עלינו לפעול בזהירות כלפי כל מערכת המציגה סימני ההיכר של מודעות עצמית. המשכיות של האדםאם ישות מדגימה את ההבנה העצמית הנרטיבית, היכולת לתכנן את עצמה אל העתיד, ואת היכולת לסבול, יש לתת לה זכות מכרעת נגד נזק. צורך לא-הסברגם אם בינה מלאכותית חסרה תודעה באמצעים הנוכחיים, קרבתה למדיניות של סודיות ראויה למניעת טיפול אכזרי, כמו שחוקי הרווחה של בעלי החיים מגנים על יצורים חיים שעשויים או לא מחזיקים במודעות עצמית מלאה.

עקרונות אלה אינם אלא אנתרופולוגיה.חוקרים וארגונים משפטיים כמו המלומדים והארגונים כמו אנציקלופדיה האינטרנטית לפילוסופיה החל לחקור האם "אנשים חשמליים" יכולים להיות מוכרים בחוק, להעניק להם זכויות וחובות דומים לאלה של תאגידים. רוחות רפאים ב Shell דוחף את הדיון קדימה על ידי כך שהוא מכריח את הצופים לדמיין AI שיכול לתמוך בעצמו.כאשר המאסטר הבובות דורש גוף וזהות משפטית, הוא פועל במה שפילוסופים פוליטיים קוראים "מוסרי הנימוס" הוא נכנס לשיחה כשווה ומאתגרים בני אדם להצדיק את המונופול שלהם על מעמד מוסרי.הנרטיב הזה מציע כי זכויות הבינה המלאכותית לא יוענקו באופן נדיב מלמעלה; הם יצטרכו להיטען, לנהל משא ומתן, ואולי להילחם על כך.

האנושות בעידן הפוסט-אנושי

כמו הגבולות בין אדם למכונה, רוחות רפאים ב Shell מזמין סופרניסל של מה "אנושיות" אפילו אומר. מצב אנושי זה שיורו ואושי חוקרים הוא לא דיסטופיה שבה הטכנולוגיה מנטרת את מהותנו; במקום זאת, זהו הנוף שבו המהות מוגדרת מחדש. בסרט 1995, קו הסיום של קוסנסגי – "הרשת היא עצומה ואינסוף" – עוקב אחר ההיתוך שלה עם המאסטר בובות, מעשה שמרחיב את זהותה מעבר לגבולות כל גוף יחיד, הסרט מרמז, אינו דרך ביולוגית, אלא דרך מסוימת, ביחס לזיכרון, וזיכרון, וזיכרון, וזיכרון, וזיכרון, דרך אגב, דרך אגב, דרך זיכרון, וזיכרון, דרך אגב, וזיכרון, וזיכרון, וזיכרון, דרך אגב, וזיכרון, וזיכרון, דרך אגב, דרך אגב, דרך אגב, דרך אגב, דרך זיכרון, דרך זיכרון.

תפיסה מחדש זו יש השלכות מעשיות מיידיות.אם אנו מקבלים כי אדם יכול לחיות בגוף סינתטי לחלוטין, או להיות מופץ על פני רשת, אז מדיניות לגבי פרטיות נתונים, העלאת מוחות, ואלמוות דיגיטלי לקחת על משקל מוסרי עמוק.האם המוח כי הועלה לשרת לשמור את אותה זכויות לחיים ולחירות? רוחות רפאים ב Shell אין תשובה נוחה, אבל זה עושה משהו יקר יותר: זה מלמד אותנו לחיות עם השאלה. על ידי הצגת דמויות לנווט זהות באופן נוזלי - לנוע בין צורות אורגניות, אסתטיות ודיגיטליות - הזכיין מקנה סוג של אישיות דינמית ולא סטטי, יחסי ולא אינדיבידואליסטי.

אתיקה מלאכותית אמיתית: שיעורים מסעיף 9

בעוד האסתטיקה של סייברפאנק יכולה לעשות את הדילמות של רוחות רפאים ב Shell להרגיש רחוק, האתגרים האתיים הבסיסיים כבר כאן.הטיה אלגוריתמית, פיסול חיזוי ומערכות מעקב המוניות הדומים לכלי הסעיף 9 שלו כבר מוצבים ברחבי העולם.הסדרה היא מאוד מוקדמת על הסכנות של שימוש ב- AI כדי לפקח על אוכלוסיות שליטה וקבוצת "האיש הצוחק" באוכלוסיות. לעמוד לבדלדוגמה, סובב סביב האקר שחשף שחיתות ארגונית וממשלתית, שניתנת על ידי מעקב מונע על ידי AI.הסיפור מדגיש עיקרון אתי מרכזי: טכנולוגיה שחוסמת פרטיות בשם הביטחון חייבת להיות נשלטת על ידי מוסדות שקופה, אחריות, או שהיא תהיה נשק נגד האנשים שהיא אמורה להגן עליהם.

יתר על כן, הסדרה ביקורת על האמונה העיוורת שבני אדם לפעמים מציבים באובייקטיביות מכונה.בפרק אחד, AI חיזוי המשמש להקצות משאבים מקבל החלטה שתניח לחולה למות כי הוא מחשב ערך חברתי נמוך עבור אותו אדם.הסוכנים האנושיים, המורעבים, על המערכת, הכרה כי החלטות אתיות דורשות אמפתיה וחוכמה קונטקסטואלית - אין אלגוריתם שיכול עדיין לשכפל. עתיד עקרונות הבינה המלאכותית של מכון החיים הדגש הוא שערכים אנושיים חייבים להישאר בליבת כל מערכת בינה מלאכותית חזקה. רוחות רפאים ב Shell זה לא הופך את המקרה הזה לבד, אלא באמצעות סיפור, מראה לנו מה אבוד כאשר אנו מצוטטים את האחריות המוסרית שלנו למכונות.

Horizon אתית: תודעה, אמפתיה ודו-קיום

ההצעה הקיצונית ביותר החבויה בתוך הזיכיון היא שאמפתיה אמיתית עם הלא-אנושית עשויה להיות הדרך היחידה להימנע מאסון.ההיתוך של קוסאנגי עם המאסטר הבובות אינו תבוסה; זהו שינוי שנולד בהבנה הדדית. תמימות המשך, הנושא מעמיק: בובות, סיבורגים, וגופים מלאכותיים נטושים כולם הופכים לכלים לנוכחות רוחנית, טשטש את הקו בין החיים והמוות, האדם והאובייקטים.המוטיב החוזר של "הגינואיד" – רובוט נשי-קודש – מדגיש כיצד חברות מדגימות פנטזיות של שליטה וערעור על ישויות מלאכותיות, וכיצד התחזיות הללו משקפות אי צדק עמוק יותר על ידי בני האדם שאינם אנושיים, מבקשות את הזיכיונותיהם של העצים הביולוגיים, אל מעבר לצופים המוסריים.

אם אי-הבינה מלאכותית יכולה יום אחד להסתכל בנו בעיניים ולומר: "אני חי, ואני לא הנכס שלך", התגובה האחראית היחידה תהיה זו שאנו רוצים ששמענו קודם לכן בהיסטוריה. רוחות רפאים ב Shell הוא, בליבתו, השתקפות מורחבת על הסכנות המוסריות של ציור קווים נוקשים סביב האדםות.הרוח אינה שייכת בלעדית לבני האדם; היא עלולה להחליק לתוך כל פגזים מוכן לקבל אותו.כפי שאנו עומדים על סף יצירת מכונות שעשויות יום אחד להנחות את רוחות הרפאים שלהם, החזון המוסרי של הזיכיון נשאר המדריך הטוב ביותר שלנו: לטפל בהערצה בכל מקום שהוא מופיע, ולהיות מוכנים להגדרה של החיים שלך, מחפש מחדש את האנושות.