監視されていれば人は従順になるのか｜パノプティコンと『PSYCHO-PASS』

駅の改札、商業施設、オフィス、スマートフォンのロック解除。人の顔や行動を機械が読み取る場面は、すでに日常へ入り込んでいます。映像を記録するだけのカメラもあれば、顔を照合して候補者を探す仕組み、過去の犯罪記録から警戒地域を予測する仕組みもあります。

『PSYCHO-PASS サイコパス』では、人間の心理状態が数値化され、犯罪に関する危険度が処遇へ直結します。作品の社会を理解する手がかりとして、18世紀末にジェレミー・ベンサムが考案した「パノプティコン」があります。

円形の建物、中央の監視塔、塔の内部を見通せない独房。監視者が実際に見ているか分からなくても、見られている可能性が人の行動を変える構造です。この発想は、20世紀にミシェル・フーコーによって、学校、工場、病院、軍隊を含む近代社会の権力モデルへ読み替えられました。

現在の監視技術は、円形監獄の形を取っていません。映像、顔、位置、購買、通信、過去の記録が結び付き、分類と予測が処遇へつながるとき、パノプティコンの問題が新しい姿で現れます。

パノプティコンとは何か

パノプティコンは、イギリスの思想家ジェレミー・ベンサムが18世紀末に構想した施設です。名称は、ギリシャ語の「すべて」を表すpanと、「見る」に関わるoptikosに由来します。

発想の出発点は、弟のサミュエル・ベンサムがロシアで考えた「中央から作業者を監督する仕組み」でした。ジェレミーはこの原理を監獄へ応用し、1787年に書簡の形で説明し、1791年に『パノプティコン、または監視施設』として公刊しました。

建物は円形で、外周に独房が並び、中央に監視塔が置かれます。監視者は各独房を見渡せます。収容者からは塔の内部が見えず、監視者がどの瞬間に誰を見ているか分かりません。

構造	役割
外周の独房	収容者を一人ずつ分け、互いの接触を制限する
中央の監視塔	少人数の監視者が多数の収容者を見渡す
光と遮蔽	収容者を見やすくし、監視者の所在を分かりにくくする
観察される可能性	監視者が不在の時間にも自己抑制を促す

ベンサムはこの仕組みを監獄に限らず、救貧院、工場、病院、学校などにも応用できると考えました。建物の形よりも、「見る側からは収容者が見え、見られる側からは監視者を確認できない」という非対称性が構想の中心です。

ベンサムが目指した刑罰改革

ベンサムは功利主義こうりしゅぎの思想家であり、法と制度を社会全体の幸福に役立つ形へ組み直そうとしました。当時の監獄には、病気、不衛生、暴力、管理の不透明さ、重い財政負担がありました。

パノプティコンの計画には、収容者の健康を守ること、労働と教育を組み込むこと、少人数で管理すること、施設の運営を外部から検査できるようにすることが含まれていました。監視は秩序を保つ手段であり、刑罰制度を効率化し、収容者を社会へ戻す改革案でもありました。

ベンサムは「監視者を誰が監視するのか」という問題にも答えています。1803年の草稿では、監視者を検査するのは公衆であると述べました。施設内部を社会へ開き、管理者の行為も観察の対象に置く発想です。

後世の監視社会論では、パノプティコンが権力の象徴として語られます。ベンサム自身の構想には、管理される側への監視と、管理する側への公開監査が同居していました。

パノプティコンは実際に建てられたのか

ベンサムはロンドンで監獄を建設し、自ら運営する計画を進めました。議会の承認や土地購入まで進んだものの、政府との交渉が長期化し、計画は実現しませんでした。現在のテート・ブリテンは、ベンサムが監獄用地として取得した場所に建っています。

19世紀以降、中央から多数の房を見渡す監獄が各地に造られました。放射状の棟を持つ監獄、円形の収容棟、中央監視所を置く施設が「パノプティコン型」と呼ばれています。

UCLのベンサム・プロジェクトは、これらをベンサムの影響を受けた例として紹介し、詳細な設計と管理原則との違いを区別しています。キューバの青年島に1930年代に造られたプレシディオ・モデーロも、その代表例です。円形収容棟の中央から、周囲の房を一望できる構造を持っていました。

建築史としてのパノプティコンは、実現しなかった一つの計画から、世界各地の監獄建築へ影響を与えた設計思想へ広がりました。

フーコーが読み替えた「監視の内面化」

フランスの哲学者ミシェル・フーコーは、1975年の『監獄の誕生』でパノプティコンを取り上げました。関心の中心は、円形監獄の設計そのものより、人が観察される可能性を意識し、自分で行動を整える仕組みにありました。

フーコーが近代の規律社会を説明するとき、三つの技術が組み合わされます。

技術	内容
階層的監視	上位者が下位者を見渡し、観察の記録を集める
規格化する判断	標準からのずれを測り、評価、矯正、処分へつなげる
試験	観察と評価を結び付け、個人を記録可能な対象にする

学校の成績、工場の作業記録、病院の診療記録、軍隊の訓練評価は、それぞれ目的が異なります。共通するのは、人を観察し、基準と比べ、個人ごとの記録を作ることです。

監視者が常に見ている必要はありません。見られる可能性が継続すると、人は基準を先回りして意識します。監視が建物の外から心の内側へ移る。フーコーはパノプティコンを、近代社会に広がる規律権力のモデルとして用いました。

ベンサム	フーコー
監獄を改善する具体的な制度設計	近代社会の権力を分析する理論モデル
少人数で多数を観察する	観察される可能性を人が内面化する
健康、教育、労働、経済性を重視する	標準化、記録、分類、矯正の広がりを論じる
公衆による監視者の検査も構想する	権力が施設を越えて社会へ浸透する過程を分析する

監視社会はカメラの数だけで決まらない

従来型の監視カメラは、映像を記録し、事故や事件の後で状況を確認する用途が中心です。顔認証機能を組み合わせると、映像内の顔を登録画像と照合し、特定人物の候補を探せます。さらに位置情報、購買履歴、通信記録、過去の行政記録が結び付くと、個人の行動を時間を越えて追跡できます。

監視技術の影響は、次の流れで大きくなります。

収集 → 個人との結合 → 分類・予測 → 判断 → 処遇

仕組み	主な入力	出力	主な問題
従来型監視カメラ	映像	出来事の記録	保存期間、目的外利用、閲覧権限
顔認証	顔画像、登録画像	本人確認、候補者一覧	誤照合、属性間の性能差、追跡
場所型犯罪予測	発生時刻、場所、犯罪種別	警戒地域、時間帯	特定地域への警察活動の集中
個人リスク評価	経歴、行動、属性に関わるデータ	再犯や関与の確率	偏り、説明困難、自己実現的な予測
社会的信用評価	複数分野の行動データ	信頼度や順位	文脈を越えた不利益、異議申立ての困難

カメラが存在するだけの状態と、個人を特定し、点数を付け、その結果で機会や自由を変える制度では、権力の強さが異なります。パノプティコンとの共通点は可視性にあり、現代特有の問題はデータの結合、分類、予測、自動化にあります。

犯罪予測は実際に何を予測するのか

米国司法省の国立司法研究所とRAND研究所は、犯罪予測を四つの種類に整理しています。

1. 犯罪が起きやすい場所や時間を予測する
2. 犯罪へ関与する危険が高い人物を予測する
3. 犯行現場の情報から犯人像を予測する
4. 被害を受ける危険が高い人物や場所を予測する

実務で広く知られるのは、過去の発生地点と時間から警戒地域を示し、警察官の配置へ使う方法です。予測の対象は「この人物が近く犯罪を起こす」という断定より、「この場所と時間帯で特定の犯罪が増える確率」です。

場所型の予測にも偏りが入り込みます。通報件数や逮捕件数は、実際の犯罪発生だけでなく、警察官がどこへ配置され、誰を取り締まったかを反映します。過去に重点警戒された地域の逮捕記録を学習すると、同じ地域が再び高リスクと判定され、警察活動が集中し、新たな逮捕記録が増える循環が生まれます。

国連人種差別撤廃委員会は、この循環が既存の偏りを将来の予測へ運ぶ危険を指摘しています。予測精度を見る際には、入力データがどのように作られたか、警察活動そのものが記録へ与えた影響も含めて検証する必要があります。

顔認証の偽陽性が人を疑わしくする

顔認証では、異なる二人を同一人物と誤って結び付ける結果を偽陽性ぎようせい、同一人物を別人と判断する結果を偽陰性ぎいんせいと呼びます。

一対一照合は、提示された顔と登録された一人分の顔を比べる方法です。スマートフォンの本人確認や入退室管理で使われます。一対多照合は、一枚の顔画像を大規模な登録画像群と比べ、似ている候補を並べる方法です。捜査で候補者を探す場面はこちらに当たります。

NISTは2019年、99の開発者から提出された189のアルゴリズムを、約1827万枚、約849万人分の画像で評価しました。多くのアルゴリズムで、年齢、性別、人種に関わる性能差が確認されました。一対一照合では、一部のアルゴリズムでアジア系、アフリカ系アメリカ人の偽陽性率が白人より10倍から100倍高い結果が出ました。一対多照合では、アフリカ系アメリカ人女性に高い偽陽性率が見られる例がありました。

性能差は、アルゴリズム、画像品質、照明、撮影角度、登録画像群、照合方法で変わります。高性能なアルゴリズムでは属性間の差が小さい例もあります。導入時には、平均精度だけでなく、用途に合った条件と対象集団で誤りを測ることが欠かせません。

一対多照合の偽陽性は、無関係な人を「確認が必要な候補者一覧」へ載せます。候補一覧は捜査の出発点であり、本人確認には別の証拠と人の検証が必要です。全米科学・工学・医学アカデミーも、顔認証を捜査上の手掛かりの一要素として使い、人による確認を組み込むことを提言しています。

信用評価と説明責任

信用評価は、返済履歴や取引情報などから、将来の返済可能性を推定する仕組みです。利用目的と評価対象が限定され、どの情報が判断に使われたかを確認できる場合、融資や保険などの意思決定を支える道具になります。

複数分野の行動を一つの「信頼度」へまとめ、別の場面の不利益へつなげると、社会的信用評価へ近づきます。交通違反、購買、交友関係、発言、職歴など、本来は目的の異なる情報が一つの点数へ集約されると、誤りの影響が生活全体へ広がります。

説明責任には、少なくとも次の情報が必要です。

• 何のために評価するのか
• どのデータを使うのか
• どの期間保存するのか
• どの程度の誤りがあるのか
• 属性や集団によって性能差が生じていないか
• 人がどの段階で判断へ関与するのか
• 本人が結果を知り、訂正や利用停止を求められるか
• 判断へ異議を申し立てる経路があるか
• 誰が記録を監査し、責任を負うのか

日本の個人情報保護委員会は、顔識別機能付きカメラについて、利用目的を具体的に定め、運用主体、利用目的、問い合わせ先などを分かりやすく示す考え方を公表しています。顔特徴データが保有個人データに当たる場合、本人には開示、訂正、利用停止を求める制度があります。

正確さは重要な条件です。正確な分類であっても、目的の範囲が広すぎる制度、理由を知る手段がない制度、訂正できない制度では、人が判断へ参加する余地が小さくなります。

刑罰は過去の行為を裁くのか、未来の危険を管理するのか

刑罰の考え方には、過去の行為に応じて責任を問う応報、犯罪を思いとどまらせる一般予防、再犯を防ぐ特別予防、危険な行為を行う能力を制限する無害化などがあります。

刑罰・予防の考え方	主に見るもの
応報	すでに行われた犯罪と責任
一般予防	処罰が社会全体へ与える抑止効果
特別予防	行為者の改善と再犯防止
無害化	危険な行為を行う機会や能力の制限
予測に基づく介入	将来の犯罪確率や危険度

予測に基づく介入は、警戒地域への人員配置、被害を受けやすい人への支援、再犯防止プログラムなどに使えます。身体拘束、捜索、逮捕、就業制限のような強い不利益へ結び付くほど、予測の根拠と手続の厳格さが求められます。

刑事裁判には無罪の推定むざいのすいていがあり、有罪が証明されるまで無罪として扱う原則があります。将来の確率は、過去の犯罪を証明する証拠とは性質が異なります。危険度の点数が、行為と証拠を置き換えたとき、刑罰は「何をしたか」から「何をする可能性があるか」へ軸を移します。

EU AI規則は、個人のプロファイリングや性格特性だけを根拠に、その人が犯罪を行う危険を評価・予測するAIの利用を禁止しています。客観的で検証可能な犯罪関連事実があり、人が関与を評価する補助システムとは区別されています。

『PSYCHO-PASS』のシビュラシステムは何を統合したか

公式サイトは、シビュラシステムを「人間のあらゆる心理状態を数値化し管理する巨大監視ネットワーク」と説明しています。犯罪に関する数値である犯罪係数はんざいけいすうが測定され、刑事はドミネーターを用いて、犯罪を犯す前の潜在犯せんざいはんを追います。

シビュラシステムは、現実に別々に存在する技術と制度を一つへ集約しています。

• 社会全体を対象とする継続的な監視
• 心理状態と犯罪危険度の数値化
• 適性、職業、治安に関わる判断
• 数値に応じた拘束や執行
• 制度の判断を受け入れる社会規範

パノプティコンとの共通点は、監視の可能性が人の行動へ入り込み、正常と異常の境界を制度が定める点です。フーコーの議論とは、観察、記録、分類、規格化、矯正が連続する点で重なります。

パノプティコン	現実の監視・予測技術	シビュラシステム
建築空間を中央から観察する	カメラ、データベース、統計モデルが分散している	社会全体の心理と行動を一つの基盤が管理する
見られる可能性が自己抑制を生む	記録、照合、評価が行動へ影響する	数値が生活設計と治安処分へ直結する
人の監視者が判断する	人と機械が複数の段階で判断する	システムの判定がドミネーターの執行条件になる
収容施設の秩序を対象とする	用途ごとに法律、組織、データが分かれる	心理、適性、犯罪危険度を横断的に統合する

現在の顔認証は、顔画像の一致候補を出す技術です。犯罪予測は、場所、時間、人物、被害の確率を計算します。心理状態を社会規模で読み取り、犯罪危険度を確定し、武器の作動まで自動で決める技術基盤は現実の運用水準を越えています。

公式資料が明示するのは、シビュラシステムの機能です。パノプティコンやフーコーとの接続は、監視構造を比較する分析として扱います。

身体と記憶が人の同一性をどう支えるかは、関連記事「体を機械に置き換えても同じ人間か｜テセウスの船と『攻殻機動隊』」で詳しく整理しています。

現実の制度が求める歯止め

監視と予測が人の自由や機会へ影響するとき、制度の信頼性は精度だけで決まりません。目的、必要性、データの質、判断過程、異議申立て、監査を組み合わせて評価します。

1. 利用目的を具体的に限定する
2. 目的に必要な範囲のデータを使う
3. 保存期間と閲覧権限を定める
4. 導入前と運用中に誤りと属性間差を測る
5. 自動判定を人が検証する
6. 判断理由とデータの出所を記録する
7. 本人が情報を知り、訂正し、異議を申し立てる経路を設ける
8. 外部監査と公開報告を行う
9. 強い不利益ほど高い証拠基準と手続保障を置く

ベンサムは、監視者を公衆の視線へ開くことで管理者を統制しようとしました。現代のアルゴリズム監査、透明性報告、ログ保存、第三者検証は、監視する側を可視化する仕組みです。

生成AIが現在の形へ至った技術史は、関連記事「生成AIの歴史｜ChatGPTと画像生成AIはなぜ突然すごくなったのか」で扱っています。生成AIと予測・分類システムは用途が異なりますが、学習データ、誤り、説明、責任という共通の課題を持っています。

監視されていれば人は従順になるのか

監視は、人の行動を変えます。監視者が見えなくても、評価される可能性が続けば、人は基準を意識し、自分の振る舞いを調整します。パノプティコンが強い影響を残した理由は、この心理を建築で形にしたことにあります。

現代の監視社会では、見ることに加えて、識別、記録、分類、予測、処遇が連結します。誰が見ているかより、どのデータが集められ、どの基準で点数が付けられ、結果を訂正できるかが大きな意味を持ちます。

『PSYCHO-PASS』のシビュラシステムは、この連結を社会全体へ広げた架空の制度です。ベンサムの監視塔、フーコーの規律社会、現代の顔認証と犯罪予測を重ねると、作品の核心にある問いが具体的になります。

人を安全へ導く仕組みと、人をあらかじめ危険と分類する仕組み。その境界は、精度の高さだけでなく、判断の根拠を知り、誤りを直し、権力を監査できる制度によって決まります。

参考文献

1. Jeremy Bentham, “Panopticon; or, The Inspection-House,” 1791, Transcribe Bentham, UCL
2. UCL Bentham Project, “The Panopticon”
3. Jeremy Bentham manuscript, “Who shall inspect the Inspectors?”, 1803, Transcribe Bentham, UCL
4. Stanford Encyclopedia of Philosophy, “Jeremy Bentham”
5. Stanford Encyclopedia of Philosophy, “Michel Foucault”
6. Michel Foucault, Discipline and Punish: The Birth of the Prison, 1975
7. National Institute of Justice, “Predictive Policing: The Role of Crime Forecasting in Law Enforcement Operations”
8. National Institute of Justice, “Overview of Predictive Policing”
9. National Institute of Standards and Technology, “NIST Study Evaluates Effects of Race, Age, Sex on Face Recognition Software”
10. National Institute of Standards and Technology, “Face Recognition Technology Evaluation: Demographic Effects”
11. National Academies of Sciences, Engineering, and Medicine, Facial Recognition Technology: Current Capabilities, Future Prospects, and Governance, 2024
12. 個人情報保護委員会「犯罪予防や安全確保のための顔識別機能付きカメラシステムの利用について」
13. 個人情報保護委員会「個人情報の保護に関する法律についてのガイドラインに関するQ&A」
14. European Union, Artificial Intelligence Act, Article 5: Prohibited AI practices
15. European Union, Artificial Intelligence Act, Recital 42
16. UN Committee on the Elimination of Racial Discrimination, General Recommendation No. 36 (2020) on Preventing and Combating Racial Profiling by Law Enforcement Officials
17. アニメ『PSYCHO-PASS サイコパス』シリーズ公式サイト「INTRODUCTION」