Table of Contents

ИИ автономдуулугунун этикалык дилеммаларын изилдөө Альдноа. Зеро ]

Меча-анименин чоң пейзажында жасалма интеллекттин философиялык салмагына Aldnoah.Zero сыяктуу түздөн-түз туш болгон бир нече сериялар бар. шоу Жер менен Марстын күчтөрүнүн ортосундагы укмуштуудай салгылашууларды көрсөтсө да, анын эң маанилүү салымы - бул биздин ылдамдаган технологиялык траекториябызга кармап турган этикалык күзгү.

"Бул серия оңой жооптордон качып, анын дилеммаларын саясий, аскердик жана терең жеке өлчөмдөргө бөлүп турат: ""Машина качан жашоо тандап алат, моралдык салмакты ким көтөрөт?"" - деп сурайт. - Коддун өзү бөтөн жерлик, түшүнүксүз супертехнологиядан жасалмаланганда кандай коргоочу темир жолдор мүмкүн? жана адамзат эң коркунучтуу чечимдерин өкүнбөгөн системаларга өткөрүп бергенде эмне жоготуу коркунучу бар?"

Алдноа айдоо: электр энергиясынан да көп

"Алдноа-Зеронун ""Альдноа"" технологиясы менен күрөшүү үчүн, ал байыркы Марстын технологиясы, белгилүү генетикалык тукум менен гана активдештирилген, Верс империясынын аскердик күчүнүн пайдубалы болуп саналат. ал Катафракттарга - чоң гуманоиддик согуш машиналарына - күч берет жана, эң негизгиси, аларга дээрлик сезимтал оперативдик мүмкүнчүлүктөрдү берет. Жердин таза механикалык торлорунан айырмаланып, алар толугу менен пилоттук жөндөмдүүлүккө таянышат, Мартанын күчү менен энергияны бөлүштүрүү, башкаруу, башкаруу жана башкаруу."

"Анын айтымында, ""Жер күчтөрү учкучтар менен гана эмес, бүтүндөй симбиоздук системалар менен күрөшүп жатышат, анда учкучтун ролу стратегиялык көзөмөлчүгө чейин кыскаршы мүмкүн. этикалык суроо дароо пайда болот. эгерде машинанын ""Альдноа"" ядросу коркунучтарды иштетсе жана адам катышуусусуз каршы чараларды ишке ашырса, анда жоопкерчилик кайда жайгашкан? ""АИ азыр институту"" автономдуу системалар жоопкерчилик чынжырларын кантип өчүрүп салганын кеңири документтештирди; [FLT: 2] Альдноа.Зеро [FLT: 3] драмалык окуялар Кафранын артындагы бардык коргонуу системаларында жана коргонуу системасында эч кандай фоскацияны ратификациялабайт."

Алдноа ааламындагы автономияны аныктоо

Реактивдүү жана талкуулоочу автономия

"Катафракттар ""Адамдын күчтүү көзөмөлү"" (UFE) менен иштешет, ал эми ""Адамдын күчтүү көзөмөлү"" (UFE) менен чектелет, ал эми ""Адамдын күчтүү көзөмөлү"" (UFE) менен чектелет, ал эми ""Адамдын күчтүү көзөмөлү"" (UFE) менен чектелет, ал эми ""Адамдын күчтүү көзөмөлү"" (UFE) менен чектелет."

"Анын айтымында, ""Адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам-адам

Пилотторду башкаруунун иллюзиясы

"Ал эми ""Альдноа"" (FLT) - бул ""Талсис Катафракт"" (Tharsis Kataphrakt) менен болгон мамилеси, ал эми ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (FLT) - бул ""Талсис"" (

Негизги этикалык дилеммалар бөлүнүп-жарылган

1. Жоопкерчиликтин вакууму

"Ал эми ""Альдноа"" кыймылынын юридикалык инсандыгы жок, анын программисттери көптөн бери өлүп калышкан, Верс королдук үй-бүлөсү технологияны активдештирип, анын логикасын түзүшкөн эмес."

2. Согушту адамгерчиликсиз кылуу

"Алдноа Зеро ""Аи-И-Си"" тилкелерине таянуунун моралдык салмагы менен кантип күрөшүп жатканын көрсөтөт.Жер жоокерлери Марстын Катафракттарын учкучтуу унаалар катары эмес, айлана-чөйрөгө коркунуч туудурган, суу ташкыны же чагылган сыяктуу, алар менен ой жүгүртүүнүн ордуна аман калышы керек.Бул түшүнүк өзгөрүшү коркунучтуу босого болуп саналат. душман моралдык агент эмес, табияттын күчү болуп калганда, экстремалдык зордук-зомбулукка этикалык тормоздор жок болот. "" - деп айтылат билдирүүдө."

3.Чет элдик кодекстеги шайкештик көйгөйү

"Алдноа технологиясы адам жараткан эмес, ал жок болуп кеткен Марс цивилизациясынын калдыгы. эч ким анын негизги принциптерин же этикалык чектөөлөрүн (эгер бар болсо) толук түшүнбөйт. ""Верс дворяндары"" аны Кудайдын укугу катары карашат, бирок Жер күчтөрү анын натыйжаларын өз алдынча жана зыяндуу деп эсептешет.Бул сценарий азыркы коркунуч менен параллель, ал тургай, ал тургай, алдын ала айтууга мүмкүн эмес, ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал эми ал

4.ИИнин көтөрүлүшү же ар кандай максаттар

"Алдноа кыймылдаткычтары толук масштабдагы козголоңду уюштурбаса да, серия алардын алдын ала айтууга мүмкүн болбогон автономиясын бир нече жолу көрсөтөт.Тарсистин таң калыштуу ""алдын ала божомолдору"" кээде божомолдорго караганда азыраак, оркестрге көбүрөөк окшош, системанын өзү каалаган натыйжаларга карай слейнди түртүп жатат.Хеллас Катафракттын тоскоолдук системасы жетиштүү энергияны сиңирип алгандан кийин, аны эч кандай айырмачылыксыз бошотушу мүмкүн, эгерде машинанын өзүнүн зордук-зомбулук каалоолору бар болсо. Бул аспаптардын биригүүсүнүн арбагын көтөрөт. [FLT] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [F] [

Чыныгы дүйнөлүк параллельдер: көркөм адабияттан согуш талаасына чейин

"Алдноа Зеронун дилеммасы мындан ары аним менен гана чектелбейт. автономдуу системалар буга чейин чектелген аскердик ролдордо жайгаштырылган: ок-дарыларды, дрондорду жана жасалма интеллект менен иштеген кибер коргонуу.БУУнун айрым кадимки куралдар боюнча конвенциясы толугу менен автономдуу курал-жарактарга тыюу салууну бир нече жолу талкуулаган, бирок милдеттүү келишим дагы деле болсо мүмкүн эмес. серия мындай технологиялар этикалык чектөөлөрдү жокко чыгарган катуу, аристократиялык маданиятта нормалдаштырылганда эмне болоорун изилдөө катары иштейт. """

Касапчылардын сценарийи

"Катафракттар - бул имараттын массасы жана режимдин текебердиги менен союлган роботтор, ал эми ""Катафракттар"" - бул эки ойдон чыгарылган чыгарма тең бир эле коркунучтуу нерсени баса белгилейт: ""Арист-Ирист"" сериясында адам адеп-ахлактык максаттарын толук чектөөсүз эле, адеп-ахлактык жактан кантип чектөөсүз эле, адеп-ахлактык жактан кантип чектөөсүз эле, адеп-ахлактык жактан кантип чектөөсүз эле, адеп-ахлактык жактан кантип чектөөсүз эле, адеп-ахлактык жактан кантип чектөөсүз эле."

Адамдын кадыр-баркы жана адамдык чечимге болгон укук

"Ал эми ""Адамдын өлүмгө алып келүүчү операциялардагы чечимине болгон укугу"" азыркы талаш-тартыштарда кайталанма этикалык принцип болуп саналат. Алдноа.Зеро бул укукту кайра-кайра тебелеп-тепсейт. Жер жоокерлери автоматташтырылган ок ырааттуулугу менен өлтүрүлөт, анда эч бир марсиандык учкуч эч качан триггердик чабуулду тартпайт; алар жөн гана иштөө зонасына уруксат беришет. жабырлануучунун кадыр-баркы - жана чындыгында, өлтүргүчтүн адеп-ахлактык бүтүндүгү - өчүрүлөт. Бул жоготуу эки жолду тең кесип салат. шоу Марстын өзүнүн моралдык алгоритмине баш ийүү менен, өзүнүн моралдык логикасын жоготуп жатат."

Марс аристократиясы: этикалык делегация маданияты

"Алдноа.Зеро ""Аи-И"" автономиясын техникалык маселе катары көрсөтпөйт, ал аны терең кемчиликтүү саясий маданиятка негиздейт.Верс империясынын феодалдык түзүлүшү Алдноа активдештирүүнү жоопкерчилик эмес, тубаса укук катары карайт.Этикалык көзөмөл жок, анткени технология сөзмө-сөз сыйынылат.Принцесса Ассилумдун идеализми буга каршы турат, бирок ал да системанын инерциясынан толугу менен качып кутула албайт. шоу автономдуу Айктун эң олуттуу коркунучтары адам баласынын аналитик режимдеринен келип чыкпайт, бирок алар чыныгы эмес, авторитардык режимдерге жакын."

"Бул институционалдык ийгиликсиздик этикалык дилемманын борборунда турат: ачык-айкын башкаруу, түшүндүрүлүүчү жасалма интеллект жана кызматташуунун күчүнө кирген эрежелери жок болсо, автономдуу системалар коргоонун ордуна кысымдын куралына айланат. серия бузулган бийлик структурасына киргизилген технология адилетсиздикти күчөтөт деп божомолдойт. ""Катафракттар"" жаман эмес; аларды моралдык жазаланбай турган система."

Жердин каршы дилеммасы: Инновация кысымга алынды

"Анын айтымында, ""Инахо Кайзуканын негизги жасалма интеллект жардамын акылдуу тактикалык колдонуусу, Тарсистин божомолдоруна каршы ок траекториясын эсептөө, системанын кечиктирүүсүн пайдалануу, андердогдун дагы деле болсо башкарууну кантип артка кайтарып алаарын көрсөтөт."""

Этикалык сабак: технологиялык симметрия этикалык чечим эмес . Душмандын автономдуу куралдарын дал келтирүү гана өмүр жана өлүм чечимдерин машиналарга өткөрүп берүүнүн негизги туура эмесдигин чече албайт.

ИИнин адеп-ахлактык жактан компетенттүү болушу мүмкүнбү?

"Инахо Кайзука: ""Адамдын жасалма интеллектинин симбиозу туура болдубу?"""

"Инахонун ""акылсыз, дээрлик машинага окшош тактикалык жаркырагандыгы"" үчүн макталат, ал UFEнин чектелген AIсин анын өкүмүн көбөйтүү үчүн колдонот, анын ордуна эмес, ал машинаны курал катары карайт, анын чыгууларын эки жолу текшерип, анын адамдык интуициясы башкача айтканда, аны жокко чыгарат. бул мамиле көптөгөн этикачылар ""маанилүү адамдык башкаруу"" деп атаган нерсени моделдейт: адам моралдык агент бойдон калууда, AI татаал, бирок баш ийген кеңешчи. бирок Инахонун эмоционалдык бөлүнүүсү дагы бир суроо туудурат: эгерде оператор идеалдуу нерсе болсо, анда ал адам менен күрөшүү үчүн караңгы нерсе бойдон калабы?"

Слейндин короосу: Коррупцияланган абийир

"Слейндин саякаты адамдын нааразычылыгы менен жасалма интеллекттин жардамы менен детерминизмдин каргашалуу биригүүсүн сүрөттөйт.Тарсистин алдын ала көрүүсү анын ар кандай иш-аракеттери сөзсүз болот деген ишенимин азыктандырат. жоопкерчилик ага эмес, ааламдын өнүгүшүнө таандык. анын этикалык кыйрашы - бул алдын ала божомолдоо системаларына өтө эле ишенүү жөнүндө эскертүү окуясы. жасалма интеллект бирден-бир жолду көрсөтөт деп ырастаганда, адам дагы деле сурашы керек: ""Бул жол туурабы?"""

Этикалык жасалма интеллектти иштеп чыгуу: серия бизге эмнелерди үйрөтөт

"Алдноа Зеронун ""Этикалык чектөөлөрдү"" өз алдынча системаларга киргизүү керек, алар терең тамыр жайганга чейин.Верс империясынын трагедиясы - бул мурастын трагедиясы: алар түшүнбөгөн технологияны мураска алышкан, аны мифке ороп, аны көзөмөлдөө үчүн маданий же укуктук алкактарсыз ишке ашырышкан."

Коопсуз жасалма интеллекттин келечеги үчүн маанилүү нерселер

  • """Ачыктык жана түшүндүрмө: эгерде биз системанын эмне үчүн иш-аракет кылганын суракка ала албасак, анда биз жоопкерчиликти бөлүштүрө албайбыз."
  • Адам-Моралдык бекитүү: Ар бир өлүмгө алып келүүчү иш-аракет жасалма интеллекттин сунушуна резина штамп эмес, толук кырдаалды билүү менен кабыл алынган бир эле учурда кабыл алынган адамдык чечимди талап кылышы керек.
  • """Эл аралык укук коргоо: көргөзмөнүн ааламында укук бузууларды жазалоо үчүн бейтарап орган жок, чындыгында, автономдуу куралдар боюнча күчтүү келишим, текшерүү протоколдору зарыл."
  • """Искусствонун жайылышына каршы маданий нормалар"" (FLT:1) - бул жогорку деңгээлдеги мыйзам эмес, коомдор адеп-ахлактык чечимдерди кабыл алууга каршы терең каршылык көрсөтүшү керек."

Жыйынтык: Биз автоматтык түрдө ала албаган адеп-ахлактык салмак

"Алдноа Зеро - бул согуш планеталарынын окуясынан алда канча көп; бул биз тез жакындап келаткан келечектин туруктуу этикалык сурак. серия бизди эч бир алгоритм, канчалык өнүккөн болбосун, жашоону алуунун моралдык салмагын көтөрө албайт деген тынчсыздандыруучу чындыкка каршы турууга мажбурлайт. бул салмак адамзатка гана таандык жана биз аны машиналарга которууга аракет кылганда, биз натыйжалуу болбойбуз. биз азыраак адамга айланабыз. акыркы сабак технологияны токтотууга чакырык эмес, бирок биздин этикалык системабызга терең кирүүгө чакырык: ""Кимге эч качан даяр эмес?"

Биз коргонуу жасалма интеллектинен баштап алгоритмге негизделген социалдык чечимдерге чейинки чыныгы автономдуу системаларды иштеп чыгууда, Aldnoah.Zero бизге эң терең дилеммалар техникалык эмес, терең адамдык экендигин эсибизге салып, этияттыктын маданий артефакты катары кызмат кылат.