サイコパス 遺伝子のうろくうちにペニンドをしたストーリーで制作した2012年に初めて放映されたランドマーク型のサイバーパンクアニメ。22世紀の日本では、バイオメトリックスキャナや心理分析のネットワークが広がり、その姿をイメージしたシリーズ。 サイビルシステム—あらゆる人生の側面を克服する。市民は絶えず監視され、感情的および心理的な状態は数値に減ります 犯罪係数. 特定のしきい値の上に読み込む人は、実際に犯される前に、システムの執行者によって排除される極端な例で、または、拘留されています。 物語は、スリラーを握るとして展開しますが、その真の力は、システムの想定不当が疑問に思っているときに、人間機械の競合のアフターマスにある。 その後世、道徳的な反発力は、その方向性を強調し、私たちの技術が予測するというビジョンをはるかに超えて、その方向に反発する、私たちの決定的な技術が予測する。

シビルシステム: 技術開発レアサン

コアの サイコパス 社会におけるあらゆる人の心理的データを集約する、Sybil System は、人間の脳の何百もの犯罪的非対称的な人間の脳のネットワークで構成された集合的な意識であるために、Sybil は明らかにされます。このグロテスクなねじれは、一連の中心的なテーマを強調します。さらに、完璧なマシンは、最終的には、各人の人間の脳の不在、無関係性を補う必要があります。各自の組織の組織的組織的組織の組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織的組織 サイコパス— 彼らの潜在犯罪の尺度を測定し、その教義を強制する 予防正義. 犯罪者としてフラグが付けられたものは、公共安全局のインスペクターと執行者によって承認または拒否され、多くの場合、違法行為を犯した前に、.

犯罪係数と前向き正義

とりあえず 犯罪係数 ダイストップアを全力で発揮する燃料です。これは、生体測定読書から得られる指標です。心拍数、瞳孔率の分岐、ボーカルのストレスパターン、脳波活動。それは、人のプロモーターを定量化し、法的な定義された危険ゾーンを交差させれば、フィールドオフィサーが導入したドミネーターの武器は、適切な反応を判断します。非分裂パラライザーまたはレジン除去剤。試験は、悪用しない、悪用された行動を主張し、悪用するものではありません。 アルゴリズムリスク評価 異物性を生じさせたベニヤの下で顔面と社会経済のバイアスを埋め込むことが示されているCOMPASの往復工具のように(ProPublicaのマシンバイアスへの調査 これらの危険を正確に強調します。)

対物モーリティの幻想

シビルの権威は、それが公平である、データ主導であり、したがって、堕落した人間に有利であるという信念に残ります。この信念は、公益者、社会的な調節、およびドミニータの非常に実質的な脅威によって積極的に維持されています。しかし、シリーズは、そのような技術的権威主義の心臓に有利な嘘を明らかにします。道徳性は、その反復の概念に低下することはできません。このシステムは、反復の理由と反復を払わずに、組織は、その反復を疑わしい態度を、または反復することさえ、その理由を明らかにします。

ヒューマン・マシン・コンフリクト: アルゴリズム規則に対する反乱

ヒューマン・マシンの競合 サイコパス 肉体対鋼の単純な戦争ではありません。それは、そのキャラクターの行動によって引き寄せられた哲学的な戦いです。各人が道徳の体系化に異なる反応を表明しています。アカネツネモリの検査官は、法の不全を増大させることで、法律の不当性を増大させることで、法律の義務を補うのに苦労しています。エヌフェルダー・シャイヤ・コガミは、これらの問題が、彼と彼の相殺者を正確に見ることを主張するような行動を、その人物を、その人物を正しく見ることを、その人物を、その人物を、その人物を、その人物を、その人物に見分けることを、その人物を、その人物を、その人物に、その人物を、その人物を、その人物を、その人物を、その人物を、その人物を、その人物を、あるいはその人物を、あるいは反対に、あるいは反対に、あるいは反対に、その人物を、あるいは反対に、あるいは反対に、あるいは反対するようなものにするようなものにするような、あるいは反対に、あるいは反対するような、あるいは反対に、あるいは反対する人物を、その人物を、

代理店としての主要キャラクター

茜つねもりのアークは、間違いなく最も指示的です。彼女は犯罪コフが永続的にクリアなモデル市民として始まり、内部統制のコンプライアンスに対する証言です。しかし、彼女はシステムの残酷な第一人者を目撃すると同時に、彼女はそれを放棄しません。代わりに、彼女は内部からそれを改革するために、施設内の滞在し、内部からそれを改革する働きます。彼女の決定は、深い人間的立場を反映します。それは、法は、もはや神に残らないと、そして、その事実を明らかにすることができないと、その事実を明らかにすることができないということです。

哲学的衝突:決定主義対自由意志

競合全体が深い哲学的質問である:機械が近接の正確さであなたの将来の行動を予測できるならば、あなたはまだ自由意志を持っていますか? Sybil Systemは効果的に人間の心理学の決定的なモデルで動作します、それは潜在刑事傾向が特定でき、個人がその軌跡から逸脱する有意義な能力を持っていないと仮定しています。 これは、異常な倫理的なギャンブルです。 それは、年齢の議論をエコー化します プレデシジョン とりあえず 互換性, しかし、現代的なねじれ: 実際の予測とアルゴリズムをセンシング, 同じプレッポジショニングは、人々の脂肪を決定するソフトウェアにコードされています. 研究は、予測ツールは単なる犯罪を予測しないことを実証しました, 彼らは測定すると主張する非常にパターンを強化するフィードバックループを作成します ()予測的な政治におけるアルゴリズム的なバイアスの分析)。人間機械の対立のアフター数学 サイコパス 決定的な論理が究極の結論に押し込まれるとき、何が起こるかを劇的にドラマチックに:代替の未来を想像する方法を忘れた社会、またはどのように寛容に.

アフター数学:その魂の検索の社会

シリーズのクライマックスとそのその後のフィルムを含みます システムの罪人 トリロジーと サイコパス3— 世界中の複雑な写真を一緒に作ろうとしている。Sybilは、完璧な神ではなく、独自の限界を認め始めた、自己認識のエンティティティティティティティとして露出されている。後世は、どちらかの側にきれいな勝利ではありません。代わりに、それは人的機関と技術監督の間のメッシー、継続的な交渉です。いくつかの主要な変換は、この期間を定義します。

機関体改革と改革

最も印象的な開発の1つは、人間の監督度を可能にするシステムの決定です。 Sybilは、Akane Tsunemoriを最も内側に持ち込むことができます。それは、無力なコンポーネントではなく、オブジェクトへの能力を持つ等しい参加者です。 この象徴的な変更は、絶対的なアルゴリズム的な権限からより共同したモデルへのシフトを信号します。 それでも深く影響する一方で、改革された構造は、システムが道徳的に自己足りない可能性があることを認識しています。 外部監査、偽りのない声、そして今の観察は、人間の観察を観察し、この人間の観察は、人間の観察を正確に認識しています。 人間で育ったループ オートノマイズ武器から司法書士まで、AIの意思決定を高株式化。

社会運動の新潮流

草の根レベルでは、普通の市民は自治を復活させ始めます。 競合の間に都市を逃げた潜伏犯罪者の地下コミュニティは、独自の自己成長の危機を形成します。 これらのグループは、Sybil Systemsの道徳的計算を完全に拒絶し、合意のために代わりに、正義を正当に選択します。 このシリーズは、これらの決済をロマンライズしません。それらは、自分の危険で詐欺されますが、彼らはパンプティコンに有利な代替手段を表しています。 彼らは、彼らは、人間の死体を完全に排除することができます。 中国社会信用実験やアルゴリズムガバナンスの他の形態が拡大する、抵抗のそのようなフィクションの動脈硬化は貴重な想像力のある資源を提供します。

技術的責任とSybil Compromise

アフターマスもコンセプトを取り入れた 技術的な説明責任 中央の政治問題として。 公共安全局は再構成され、新しい監督機構は、ドミネーターの権限の乱用を防ぐために確立されます。 最も重要なのは、Sybil System自体は、強さではなく、責任として独自の不透明度を治療することから始まります。 それは、その決定を正当化し始め、少なくとも人員を選択することから始まります。 これは、説明責任のために移動し、欧州連合の一般データ保護規則(GDPR)で祀られている原則を強調します。 説明する権利 自動決定のため。シリーズは、セキュリティと透明性の緊張を完全に解決しませんが、ガバナンスの将来は、ブラックボックスの推論への盲目の投稿ではなく、動的バランスを伴わなければならないことを示唆しています。

リアルワールド・リフレクション: 心理パスから予測的なポライシングまで

持続的な関係 サイコパス 現状の技術的トレンドに近接するという点でもあります。世界中の政府や企業は、構造と倫理的影響の両立を象徴するSybilフレームワークを象徴するシステムを展開しています。予測的な政治アルゴリズム、公共空間における感情認識ソフトウェア、および社会的信用スコアリングメカニズムは、すべての同じ基礎的な仮定で、量子化、予測、および前方的に管理することができます。これらのシナリオは、これらのシナリオを実践する一連のヒトマシンの直後者であるこれらのシナリオは、これらのシナリオを機能として機能します。

アルゴリズムバイアスと人件費

両方から最も平穏なレッスンの一つ サイコパス 実際の犯罪正義技術は問題です アルゴリズムバイアス. シビル・システムの犯罪コファレンスは、長い間、ピュアな目的と見なされたポップレースのことです。 亀裂が社会に現れたときだけ、システムが深く欠陥のある判断を下したことを把握しました。 トラウマ、精神的な病気、または単に不在によって誘発される可能性のあるストレス応答に基づいて人々をターゲットにしました。 実際のツールは、同じ傾向を提示しました。 コモド・アルゴリズムは、ほぼ同じレベルの検証結果が、それらが、単に誤った結果が、検出されていないことを予測するかどうかを検証するために、ブラックの重要な要素に誤って発見されました。

監視資本主義とプライバシーの侵害

法執行を超えて、 サイコパス また、ショア・ショナナナ・ザボフの呼び出しの上昇を予感 監視資本主義. シビルシステムは、単に犯罪を監視しません。それは、集団全体の心理的データを収穫し、コモディティ化します。すべての感情、疑わしいすべての明滅は、経済と政治秩序のための原料になります。今日、私たちのデジタルフットプリントは、著しく同意なしに、行動を予測し、操作するために同様に分かれています。シリーズのの後押しは、真の回復が制度的な改革だけでなく、市民が行動を解読し、市民が行動を正しく活性化し、市民が行動を阻止するために、適切な行動を阻止するために、市民が行動を阻止する際立するという基本的なプライバシーの文化的な再認識を強調します。

レッスンと倫理的インペティブの継承

物語のアークから描く サイコパス, 私たちは、現実世界のAIと監視システムの設計とガバナンスのためのいくつかの衝動を蒸留することができます. これらのレッスンは単なる知的演習ではありません; 彼らは既に形状を取っている将来の生存戦略です.

重大な過視の必要性

茜つねももりの旅は、自動権限に対する盲目の従順が極力なレシピであることを教えてくれます。システムでは、高度化が進んでも、独立性監督の監督が対象となります。その監督は、機械に捕らえられた個人に対して、業務の中断、需要の透明性、および支持を認める能力を発揮しなければなりません。 アルゴリズム監査ボード、検査官の一般、または市民の検討パネルは、原則同じです。人間は、人間の生活に影響を与える決定のための究極の責任を保持しなければなりません。その義務を主張するために、Sybilが最終的に告白しなければならない一種の道徳的な真空に絶え間ないを誘うことです。

自動システムにおけるヒトの判断を防止

一連の再帰モチーフは、ドミネーターの瞬間的な評論と人間の裁量をアゴナイズする道徳的重みの間の緊張です。シリーズは、最終的に後者と横になり、人間の判断が欠陥であることを認めるとしても。この答えは、技術に分配するだけでなく、サプレプラントの倫理的な推論よりもサポートするインターフェイスを設計することです。医学から犯罪正義に至るまでの分野では、アルゴリズムが最終的な決定を下すのではなく、最終的には、最終的には、その決定を下回るだけでなく、彼らの決定を下回るよりも、その決定を下回るツールとして提示されていると示しています。 スタンフォード・エンシクロペディアが人工知能の倫理に取り組む そのようなフレームワークが構築できるかを、優れた概要に提供します。

コアで倫理と技術の設計

おそらく最も深い遺産 サイコパス 私たちが技術設計の初期段階に倫理を埋め込むという要求です。Sybil Systemは、その欲求が病理学的だったかどうかを、完全に安全な社会への欲求を解決するために作成されました。今日のエンジニアと政策立案者は、同じ罠を避けなければなりません。倫理的な影響評価、参加型設計プロセス、そして最も高い価値がすべて不可欠であるとして効率を治療するための拒否。代替手段は、私たちのツールの最も暗い時間に、私たちが作るツールの最小限のシリーズとして、世界です。

終わりに、 灰からライジング フィクション・エピローグの単なるサブタイトルではありません。社会が機械にあまり力が渡っていることを認識するときに、何が起こるべきかのapt記述です。人間機械の競合のアフター数学 サイコパス 回復が不可能である私たちを示していますが、それは勇気、正直者、そして人間の生活の不透明な価値に対する無機のコミットメントが必要です。 独自の世界がこれまでより統合されたタイプのアルゴリズムガバナンスに対する痛いので、そのような紛争の炎が避けられないという唯一の思い出として、シリーズは、私たちが今作る選択肢の製品であり、それが遅すぎる前に私たちの創造アカウントを保持することを学ぶならば、彼らは避けることができる。