「2019年の『1984年』」~21世紀のエレフォン 2

 AIによって中国は完璧な全体主義に向かうかもしれない
 統一朝鮮もAIの力で同様の成果を上げるかもしれない
 それぞれの国民にとって それでいいともいけないとも言えるけど
さて日本は――
というお話。f:id:kite-cafe:20190219193316j:plain

【2019年の「1984年」】

 ジョージ・オーウェルは1948年に書いた小説「1984年」の中で、全体主義的監視国家「オセアニア」から逃れようとする若い男女の苦悩を描きました。

 設定では1950年代に起こった核戦争のために世界は三つの国に分かれ、以来ずっと戦争を繰り返していることになっています。その三つのうちのひとつ、「オセアニア」では戦争という非常事態の下でいつの間にかビッグブラザーと呼ばれる指導者の力が強大になり、全体主義が完成しています。

 市民は24時間政府の監視下に置かれ、「テレスクリーン」と呼ばれる双方向テレビジョンと町じゅうに仕掛けられたマイクによって、屋内・屋外を問わず行動を監視されています。
 主人公はそうした社会に違和感を覚え、何とか秘密を暴いて脱出しようとするのですが―――。

 昨日からお話ししている中国に似た風景ですが、多少事情が違います。“オセアニア”は政府が監視網を張り巡らしたのに対し、現代の中国の市民は利便性と交換に、自ら進んで監視下にはいったのです。

 “利便性”といっても中国の場合は単に手ぶらで買い物ができるとかポイントがもらえるといったことだけでなく、商品をごまかされないとか、釣り銭でニセ札をつかまされないとか、あるいは賄賂を渡さなくていい、人口の多い国ですから切符一枚を買うにも長蛇の列をつくらなければならなかったその不便からの解放、といった意味もありますから同情の余地はあります。

 しかしそうやって企業や国家に個人情報を差し出すことによって、中国の市民は間もなく、「オセアニア」市民のように丸ごと国家にかすめ取られてしまうのかもしれません。

【中国の、最悪の近未来予測】

 犯罪履歴のない者、素行の悪くない者、借金をしてもきちんと返済できる者、十分な預金準備のある者、不穏な人間関係や家族関係のない者――、そうした人々にはポイントが加算され、高い割引率で商品が買えたり優先的にコンサートのチケットが手に入ったり、より良い条件で融資が受けられたり企業への就職が与えられたりする。

 またそのために、街の辻々では無数の監視カメラが人々の痰を吐く回数や大声で怒鳴り散らす姿をカウントする。バス待ちの列に割り込む人、列車で他人の席まで奪う人、公園の木の枝を折ったり花を摘んだりする行為も厳しく数えられ、ポイントが引かれていきます。
 道を渡ろうとするお年寄りを助ける人、電車内で席を譲る人、妊婦のために進んで荷物を持とうとする人、彼らにはそのつど点数が加えられる。
 この先、あるいは中国人は世界でもっとも道徳的な民族になっていくのかもしれません。善いことをしないと良い暮らしができない。今は利欲のためだとしても、同じことが3代も続けば身につきます。
 21世紀の終末を待たずして、私たちの隣に理想的な善人国家が生まれるかもしれないのです。

 ただしもちろん少数の悪人は残ります。
 学業と同じで、どこかで回復できないまで遅れてしまった人間は意欲を失ってしまいます。
 どんなにがんばっても大逆転はないと諦めた人や、最初からやる気のない人の中から犯罪者が生まれるかもしれません。けれどその人たちは高度監視社会のシステムに引っかかってどんどんつかまりますからさほど問題ではありません。

 問題は支配者層を監視する監視カメラはないということです。
 そこだけは善行が意味を持たず、悪意がはびこる、つまり悪が独占されるわけです。
 そんな社会を私たちはどんなふうに考えたらよいのでしょう。

 国民は親切で争いごとはほとんどない。人をだましたり傷つけたりする人もほとんどいません(減点対象になりますから)。互いに優しく親切で、思いやりにあふれ温厚な人々ばかりです。
 問題はただひとつ。そうした平和と安寧がすべて「悪意をもった誰かに監視された状態」で保障されているという点だけです。

 映画「マトリックス」では最初、生身の人間はバスタブのような水槽の中でたくさんのケーブルにつながれ、眠るように生きています。しかし単純に眠っているのではなく、頭の中では普通の人間の生活を、普通に送っているのです。
 主人公をはじめとしたごく一部の人間はそれに違和感を持ち、真実を見極めようとしますが、仮想現実の安逸に浸ったままでいようとすれば、それも可能なのです。
 それと似ています。

 ただしそうは言っても王朝時代はもちろん、共産党時代に入ってからも大躍進や文化大革命天安門事件など、混乱があると数万人から数千万人が犠牲になる国です。管理された平和でも血で血を洗うような混乱よりはいいという考え方だってできます。
 中国の人がどう考えるかです。

【韓国もあとを追う】

 ついでですが同じ隣国の韓国にも似た動きあります。

 つい先ごろ、韓国女性家族部(日本の省にあたる)は放送局や番組制作会社に「性平等番組制作案内書」という文書を配布し、「同じような容貌の出演者が過度な割合で出演しないようにする」というガイドラインを示しました。
「音楽放送出演者の容貌の画一性が深刻だ…同じような容貌の出演者が過度な割合で出演しないようにしなければならない」
「状況に合わない行き過ぎた化粧、露出、あるいは密着衣装、身体露出をしない」等々。
2019.02.19 .朝鮮中央日報【社説】開いた口が塞がらない韓国女性家族部の「ガールズグループ容貌規制」

 また今月11日からは市民がアダルトサイトにアクセスしようとすると自動的に遮断する措置も始まっています。
2019.02.19 .朝鮮中央日報「成人がアダルト動画を見るのが罪か」 https遮断に怒った韓国の若者(1)

 退廃的な芸能の粛清、性的紊乱の是正、まさに道徳国家の面目躍如です。

 特にアダルトサイト遮断は、これまで閲覧者が情報をかわす前にアクセス先をチェックするのは不可能とされていたのに対し、今回は新たな技術によってはじめて可能となったものです。

 市民が何かについて調べようとすると内容によっては瞬時に遮断することができる――大統領がこの技術を持って北朝鮮に行けば、市場開放や情報共有によって体制が揺らぐことを恐れる金正恩氏には何よりの贈り物となるでしょう。ほぼ完璧な安全が保障できるわけですから、委員長との信頼関係は盤石なものとなりましょう。

 AIと全体主義はよく馴染むのです。

【日本は――】

 さてAIの進化と国家について、隣国の悪口とも捉えられかねない話をしてきましたがそれでは日本は安全かというと決してそんなことはありません。

 今月の文芸春秋はAI特集として4つの寄稿がありますが、その中の対談「AIと日本人 50年後“AI人間”が生まれる」は、心底、肝を凍らせるだけの力がありました。
(この稿、続く)