עלייה מאשס: המאוחר של הסכסוך האנושי-מקן בפזיכו-פאס

Psycho-Pass זהו מכונאי סייברפאנק שטבע לראשונה בשנת 2012, שנוצר על ידי הפקה I.G עם סיפור שהועלה על ידי Gen Urobuchi.הסדרה מדמיינת את יפן מהמאה ה-22 שבה רשת עצומה של סורקים ביומטריים וניתוח פסיכומטרי - מועדפים כניתוח הפסיכומטרי - מעדיפים כ"ניורובונצ'י". מערכת Sybil- מעלים כל היבט בחיים.אזרחים במעקב כל הזמן, המצב הרגשי והפסיכולוגי שלהם מופחת ל המספרי פשע Coefficientאלה עם קריאה מעל סף מסוים נעצרים או, במקרים קיצוניים, מסולקים על ידי אוכפים של המערכת לפני כל פשע מבוצע למעשה.הנרטיב מתפתח כמותחן מרתק, אבל הכוח האמיתי שלו הוא בעקבות הסכסוך האנושי-מכונה המתפרע כאשר המערכת אמורה להיות מוטמעת, נחקרת על ידי האלגוריתמים המוסריים שהיא כוחותיה, ממשיכה להדהד הרחק מעבר למסך המנבא, אשר מציע מעקב אחר עדשות מנבאות שלנו, באמצעות אלגוריתמיות, אשר מנבאת, באמצעות אלגוריתמים, אשר משקף את האלגוריתמים, אשר משקף את האלגוריתמים של אלגוריתמים של אלגוריתמים של אלגוריתמים של אלגוריתמים, אשר מנבאים, אשר עומדים על ידי אלגוריתמים של אלגוריתמים של אלגוריתמים של אלגוריתמים של אלגוריתמים בעלי יכולת מעקב מוסרי, אשר עומדים על ידי אלגוריתמים של אלגוריתמים של אלגוריתמים, אשר עומדים על ידי אלגוריתמים של אלגוריתמים מוסריים, אשר עומדים על ידי אלגוריתמים, אשר עומדים בפני אלגוריתמים, אשר עומדים בפני אלגוריתמים, אשר עומדים בפני אלגוריתמים, אשר עומדים בפני אלגוריתמים, אשר עומדים על ידי אלגוריתמים, אשר עומדים בפני אלגוריתמים, אשר עומדים על ידי

מערכת הסיביל: לוית'ן טכנולוגית

בלב ליבה של Psycho-Pass הוא מערכת סיביל, בינה מלאכותית שמצמידה את הנתונים הפסיכומטריים של כל אדם בחברה, בניגוד למחשב סופר יחיד או תוכנית מונוליטית, סיביל מתגלה מאוחר יותר כתודעה קולקטיבית המורכבת מאות מוחות אסטומטיים כפייתיים פליליים המחוברים יחדיו. זה מתפתל את הנושא המרכזי של הסדרה: אפילו מכונה מושלמת כביכול חייבת בסופו של דבר להתמודד עם המציאות המבולבלת, הלא רציונלית של כל אחד מהם מבסס את הטבע האנושי. Psycho-Pass- מידה של פליליות מאוחרת שלהם - ואוכף דוקטרינת צדק מונעאלה שסומנו כפושעים סמויים נתפסים או נטרלים באופן קטלני על ידי המפקחים והכוחות של הלשכה לביטחון הציבור, לעתים קרובות לפני שהם ביצעו פעולה בלתי חוקית כלשהי.

צדק פשע וקידום

The The The פשע Coefficient הדלק הוא הכוח את כל הדיסטופיה.זהו מדד הנגזר מקריאות ביומטריות - קצב הלב, הדילול התלמיד, דפוסי הלחץ הקוליים ופעילות גלי המוח - שמדכא את הנטייה של אדם לשבור את החוק.אם המספר חוצה את אזור המשפט המוגדר באופן חוקי, נשק דומיניטור שמוצב על ידי קציני שדה קובע באופן אוטומטי את התגובה המתאימה: לא-לייזר או מפילר של ספקטרום, אך אין לו כיום הליך משפטי, אלא גם משפט מסלקטיבי, אלא גם כן, אלא גם כן, אלא גם כן, אלא גם כן, שום מערכת משפט אל-אלי, אך אין לו, אלא משפט אל-אלי, אלא משפט, אלא אין לו, אלא משפט מסלקטיבי, אלא משפט אכזרי, אך אין לו, אלא משפט אכזרי, אלא גם כן, אלא גם כן, אלא משפט. הערכות סיכון אלגוריתמיות כמו הכלי של ה- COMPAS, אשר הוכח כי הוא הטמיע הטיה גזעית וחברתית תחת טינה של אובייקטיביות (Venes of Objectivity)חקירתו של פרו-פרנציה למכונה מדגיש בדיוק את הסכנות האלה).

אשליה של מוסריות אובייקטיבית

סמכותה של סיביל נשענת על האמונה שהיא חסרת פניות, המונעת על נתונים, ולכן נעלה מבחינה מוסרית על בני האדם הבלתי אפשריים.אמונה זו נשמרת באופן אגרסיבי באמצעות תעמולה, מיזוג חברתי, והאיום האמיתי של הדומינינר.אבל הסדרה חושפת את השקר העמוק בלבה של סמכות טכנולוגית שכזו, אך לא ניתן להפחית את המוסר להגדרה של נטיות קוונטיות ובלתי ניתנות לפירוק של אמפתיה אנושית בלבד, אלא גם לכדי אמפתיה אנושית.

סכסוך אנושי-מכונה: מרד נגד חוק אלגורימית

הקונפליקט האנושי-מכונה Psycho-Pass אינה מלחמה פשוטה של בשר מול פלדה.זהו מאבק פילוסופי שמתבצע באמצעות פעולות דמויותיו, שכל אחד מהם מייצג תגובה שונה למערכת ההסתה של המוסר.מפקח אקאן טרנמורי נאבק כדי ליישב את חובתה לקיים את החוק במודעות הגוברת שלה של חוסר האנושיות של החוק, בין אם כוחותיה של שינגהם, מונעים על ידי חיפוש אישי לנקמה שמערכת החיסון באמת מכחישה את ה"מכאן"חיק"ח,"ח, ש"ח,"ח,"לכאורה"ל"ל"ל"ל,"ל,"ח,"ה"לעמוד ב"מכחישו"ח,"ה"ל"ל,"ל,"ל, "ה,"ח,"ל,"ל"ל"ל,"ל"ל"ל, "ה, "ה" את ה" את ה" את ה"ד, "ה" את ה"ח, "ה," את ה" את ה" את ה" את ה"ח, "המשטרה, "ה" הוא, אם הוא, "ה" הוא, "ה" הוא, "ה, "ה" הוא, "ה" הוא, "ה" הוא זה, "ה

דמויות מפתח כסוכני הסוכנות

קשתו של אקראן טסטורי היא ככל הנראה המרסנית ביותר.היא מתחילה כאזרח מודל שפשעו קוקטי נשאר ברור, עדות לציות הפנימי שלה, אך כשהיא עדה לסימן האכזריות של המערכת, היא אינה נוטשת אותו; במקום זאת, היא נשארת בתוך המוסד ופועלת לרפורמה מבפנים.

The Philosophical Clash: Determinism vs. Free Will

בהנחה שכל הסכסוך הוא שאלה פילוסופית עמוקה: אם מכונה יכולה לחזות את התנהגותך העתידית עם דיוק כמעט מושלם, האם עדיין יש לך רצון חופשי?מערכת סיביל פועלת ביעילות על מודל ⁇ סטי של פסיכולוגיה אנושית, בהנחה שניתן לזהות נטיות פליליות מאוחרת וכי לאדם אין יכולת משמעותית להתנתק מהטרפורה זו. המונחים: predestination ו compatibilismאבל עם טוויסט עכשווי: בעולם האמיתי אלגוריתמים חיזוי וחיתוך, אותה נטייה מוקודמת לתוכנה המחליטה את גורלם של אנשים.מחקר הוכיח כי כלים חיזוי לא רק פשע חיזוי - הם יוצרים לולאות משוב שמחזקות את הדפוסים שהם טוענים למדוד (הדפוסים של התחזיות)ניתוח של הטיה אלגוריתמית ב policing חיזויתוצאות הסכסוך האנושי-מכונה Psycho-Pass הוא מצלם את מה שקורה כאשר ההיגיון הדארקטיוני הזה נדחק לסיומו האולטימטיבי: חברה ששכחה כיצד לדמיין עתידים חלופיים, או איך לסלוח.

The Aftermath: A Society in Search of Its Soul

שיא הסדרה והסרטים הבאים שלה - כולל הסרט « ניצחונות של המערכת טרילוגיה ו Psycho-Pass 3- תמונה מורכבת של עולם שמנסה להרכיב את עצמו יחד.סיביל נחשף לא כאל אל חסר פגמים אלא כישות בלתי נמנעת ומודעת עצמית שהחלה להכיר במגבלותיה שלו.התוצאות אינן ניצחון נקי לכל צד. במקום זאת, זהו משא ומתן מבולגן ומתמשך בין סוכנות אנושית לתובנות טכנולוגיות.

מוסדות רפורמות ורפורמות

אחת ההתפתחויות הבולטות ביותר היא החלטת המערכת לאפשר תואר של פיקוח אנושי.סיביל מביא את אקראן טסטואמורי אל תוך המעגל הפנימי ביותר שלה - לא כמרכיב חסר אונים, אלא כמשתתף שווה עם היכולת להתנגד.שינוי סמלי זה הוא שינוי מסמכות אלגוריתמית מוחלטת למודל שיתופי יותר. האדם-ב-the-loop המנדט בקבלת החלטות ב-AI גבוה, מנשק אוטונומי ועד לחקיקה שיפוטית.

עלייתן של תנועות חברתיות חדשות

ברמה העממית, אזרחים רגילים מתחילים לתבוע את האוטונומיה שלהם, קהילות של פושעים סמויים שנמלטו מהערים במהלך הסכסוך, יוצרים את ה ⁇ העצמי שלהם.קבוצות אלה דוחות את החישוב המוסרי של מערכת סיביל, ובמקום זאת, במקום לצדק מוחלט וקהילתי.הסדרה אינה מזימנת את ההתנחלויות הללו – הן מכופות עם הסכנות שלהם - אבל הן מייצגות אלטרנטיבה מוחשית למרחבי הראייה של עולם, אפילו לאות של חללים של מעקב. כמו ניסויים אשראי חברתיים של סין וצורות אחרות של ממשל אלגוריתמי מתרחבות, articulations בדיוני כזה של התנגדות מציעים משאב דמיוני יקר.

אחריות טכנולוגית וחילול

התוצאות מציגות גם את הרעיון של אחריות טכנולוגית כנושא פוליטי מרכזי.משרד הביטחון הציבורי מארגן מחדש, ומנגנוני פיקוח חדשים מבוססים על מניעת השימוש בסמכות הדומינינר.רוב חשוב, מערכת היציבות עצמה מתחילה להתייחס לאופייה שלה כאחריות ולא לכוח.זה מתחיל להצדיק את החלטותיה, לפחות כדי לבחור מפעילי אנוש. הזכות להסביר לקבלת החלטות אוטומטיות, בעוד הסדרה לעולם לא פותרת את המתח בין אבטחה ושקיפות, היא טוענת כי עתיד הממשל חייב לכלול איזון דינמי ולא כניעה עיוורת לחשיבה של ארגז שחור.

מחשבות אמיתיות בעולם: מ-Psycho-Pass to Predictive Policing

הרלוונטיות המתמשכת של Psycho-Pass שקרים בסמיכותה הבלתי פוסקת למגמות הטכנולוגיות הנוכחיות.ברחבי העולם, ממשלות ותאגידים הם מערכות המהדהדות את מסגרת סיביל בשני המבנה וההטלת ההסתה האתית. אלגוריתמים, תוכנה לזיהוי רגשות במרחבים ציבוריים, ומנגנוני ניקוד אשראי חברתיים כולם על אותה ההנחה הבסיסית שהתנהגות יכולה להיות מכוונת, לחזות, ולנהל את תוצאותיה של מערכת החשיבה האנושית-המתרתיבה זו, כמערכת זהירות אמיתית.

דואס אלגורית' והעלות האנושית

אחד השיעורים הממפוכחים ביותר משני Psycho-Pass טכנולוגיית הצדק הפלילי בפועל היא הבעיה של הטיה אלגוריתמית.המקדם של מערכת סיבילי היה, במשך זמן רב, נחשב אובייקטיבי לחלוטין על ידי פופולצ'ה רק כאשר הסדקים הופיעו החברה הבינו כי המערכת עשתה שיפוטים פגומים מאוד - targeting אנשים בהתבסס על תגובות הלחץ שניתן להפעיל על ידי טראומה, מחלה נפשית, או אפילו דיסינטוטים פשוטים בעולם האמיתי להראות את אותה נטייה.

קפיטליזם וחורבן הפרטיות

מעבר למשטר, Psycho-Pass גם להאפיל על העלייה של מה שלומד Shoshana Zuboff קורא מעקב אחרי הקפיטליזםמערכת סיביל אינה רק מעקב אחר פשע; היא מקצרת ומשווה את הנתונים הפסיכולוגיים של אוכלוסייה שלמה.כל רגש, כל שבריר של ספק, הופכת לחומר גלם עבור סדר כלכלי ופוליטי כיום, טביעות הרגל הדיגיטליות שלנו מומכרות באופן דומה לחיזוי ולתפעל התנהגות, לעתים קרובות ללא הסכמה משמעותית.

שינוי שיעורים ואימטיבים אתיים

ציור מתוך Theנרטיב arc of Psycho-Passאנו יכולים לבודד מספר הפניות לתכנון ולממשל של מערכות בינה מלאכותית ופעולות מעקב בעולם האמיתי.הלקחים האלה אינם רק תרגילים אינטלקטואליים; הם אסטרטגיות הישרדות לעתיד שכבר מתבש.

עקשנות של פיקוח ביקורתי

המסע של אקראן טוסיונמור מלמד אותנו כי ציות עיוור לסמכות אוטומטית הוא מתכון לזוועות.מערכות, לא משנה כמה מתקדמות, חייב להיות כפוף לראייה רציפה ועצמאית.שעל הראייה צריכה להיות מועצמת לעצור פעולות, לדרוש שקיפות, ולעמוד לדין על האנשים שנתפסים במכונה. אלגוריתם ביקורתמפקח כללי, או פאנלים של ביקורת אזרחית, העיקרון הוא זהה: בני אדם חייבים לשמור על האחריות האולטימטיבית על החלטות המשפיעות על חיי אדם.כדי לקבוע כי חובתם היא להזמין את הירידה לתוך סוג של ריק מוסרי שסיביל בסופו של דבר היה צריך להודות.

קבלת המשפט האנושי במערכות אוטומטיות

מוטיב חוזר בסדרה הוא המתח בין פסק הדין המיידי של הדומיניר לבין המשקל המוסרי של שיקול דעת האדם.הסדרה בסופו של דבר צד עם האחרון, גם כאשר היא מכירה כי שיפוט האדם פגם.התשובה אינה לזלזל בטכנולוגיה אלא לעצב ממשקים התומכים במקום השתלות חשיבה אתית. כניסתה של אנציקלופדיה סטנפורד לאתיקה של בינה מלאכותית מספק סקירה מצוינת על איך ניתן לבנות מסגרות כאלה.

עיצוב טכנולוגיה עם אתיקה ב- Core

אולי המורשת העמוקה ביותר של Psycho-Pass הדרישה שלו היא שאנחנו להטביע את האתיקה בשלבים המוקדמים של עיצוב טכנולוגי.מערכת הסיביל נוצרה לפתרון בעיה – הרצון לחברה בטוחה לחלוטין – מבלי לחקור האם התשוקה הזו היא פתולוגית.המהנדסים והמדיניות של ימינו חייבים להימנע מאותה מלכודת.ההשלכות האתית, תהליכי עיצוב חלקיים, וסירוב להתייחס ליעילות כערך הגבוה ביותר הם הכרחיים בעולם, שבו אנו הופכים להיות כלי מזערי מאוד, כמו גם הכלים של שעות של דיכוי, כדי להגן עלינו, כמו הכלים האפלים ביותר, כמו גם על הכלים שלנו, כמו הכלים, כמו גם על עצמנו, כמו הכלים האפלים ביותר, כמו גם על הכלים שלנו, כמו גם על הכלים המנגנונים האפלים ביותר, כמו גם על פני שעות של שעות של שעות של מערכת העצבים שלנו, כמו גם על עצמנו, כמו גם על כלי המנגנונים האפלים ביותר, כמו גם על פני שעות של מערכת העצבים, כמו גם על ידי יצירתנו, כמו גם על פני שעות של מערכת העצבים שלנו, כמו גם על ידי יצירת מערכות העצבים, כמו גם על מנת להגן על ידי יצירת כלים אפלים ביותר, כמו כלים אפלים ביותר, כמו גם על עצמנו, כמו גם על מנת להגן על עצמנו, כמו גם על ידי יצירת מערכות העצבים, כמו כלים אפלים ביותר, כמו גם על ידי יצירת כלי המנגנונים האפלים ביותר, כמו

בסופו של דבר, עלייה ב Ashes לא רק ראוי לאפיפיור בדיוני; זה תיאור pt של מה צריך לקרות בכל פעם שהחברה מבינה שהיא סיפקה יותר מדי כוח למכונות שלה. Psycho-Pass מראה לנו כי התאוששות אפשרית, אך היא דורשת אומץ, כנות ומחויבות בלתי מתפשרת לערך המבולגן, הבלתי-מעורר של חיי האדם.כפי שהעולם שלנו פוגע בצורות משולבות יותר של ממשל אלגוריתמי, הסדרה עומדת כתזכורת חגיגית לכך שהלהבות של סכסוכים כאלה אינן בלתי נמנעות – הן תוצר של בחירות שאנו עושים כעת, והן יכולות להימנע אם נלמדות את יצירתנו המאוחרת לפני כן.