あの人のことば
2019年09月07日 09時56分 JST

監視テクノロジーの進む中国は“異形の国”じゃない。日本人が考えるべき「便利すぎる未来」のあり方

日本でも「リクナビ」による内定辞退率予測データの販売が問題となっている。「幸福な監視国家・中国」を刊行した高口康太氏と梶谷懐氏が語る、デジタル社会への備え方とは。

人間の性別や特徴、歩き方のクセまで記録するAIカメラが2000万台以上設置され、私たちを見張っている。

赤信号を無視したらスマホの画面に表示される“点数”が下がり、他人からの信用を失っていく。

そんな未来を、あなたは受け入れられるだろうか。

今、それを現実にしようとしているのが中国だ。

そこには、共産党の一党独裁のもと、監視システムに怯えながら生活する人々が...という極めて筋の通ったロジックが存在しそうだ。

だが、そのイメージに真っ向から反論し「ミスリードだ」と一石を投じる論評がある。

神戸大学大学院の梶谷懐教授とジャーナリストの高口康太氏の共著「幸福な監視国家・中国」(NHK出版)は、こうした「ディストピア感」溢れる社会が、遠くない未来に日本にも到来する可能性すら示している。著者の2人に話を聞いた。

Fumiya Takahashi
インタビューに応じる高口康太氏

■「監視を意識しない」社会

中国×監視テクノロジー。強権的で、人権軽視で...といったイメージが湧いてくる。高口氏は、中国で進む監視テクノロジーは、3段階に大別できると指摘する。

①直接的な監視

実質的な軟禁に近いような監視の状態。ウイグルやチベットなどが当てはまる。独裁体制に害が“ありそう”な人間をも再教育キャンプに入れているとされ、直近では日本を含む22カ国が国連人権委員会宛てに懸念を示す書簡を送っている。

REUTERS
ウイグル出身の子供たち(撮影場所:トルコ)

「数百メートルおきに派出所とか検問を作って、監視されているというのがむき出しでわかるような状況です。刃物の実名制もあり、包丁などを買う時に名前を刻印させ、犯罪が起きたらどういうルートで買ったのかすぐわかるようになっています」と高口氏は話す。

②見張りの存在を意識させる監視

「塔の上から監視役が見張っている刑務所」のような状態。

本当にそこに見張りがいるかわからないが、見張りを常に意識してしまい、行動がコントロールされる。監視カメラの設置がこれに近いかもしれない。

③見張られていることを意識させない監視

人々は監視されていることを意識していない。政府などにとって「問題のある」行動をして初めて警告が発せられるという。

高口氏は、中国の監視テクノロジーの一部はすでにこの領域に達していると考えている。その一例が「社会信用システム」だ。

大まかにいえば、様々な種類の「信用スコア」で人間を点数化し、評価するシステムのことを指す。

例えば金融面。ある人間が金融機関に融資を求めたとする。しかし金融機関からすれば、これまでにお金を貸した履歴がなければ、ちゃんと返済してくれるのか分からない。そこで指標とするのが「信用スコア」。ネットショッピングの決済履歴や学歴などが数値化され、その点数をもとに融資の判断をする。

この「スコア」の加点・減点を決めるのはAI。「何をすれば何点プラス」などといった採点基準が明らかにされておらず、知らず知らずのうちにスコアが変動するのが特徴だ。

梶谷氏は著書で「『よくわからないシステム』によって行動が評価され(略)『自発的な服従』と言われる行動をとる」と指摘している。

「懲戒」分野の信用スコアもある。2014年以降、中国の各省庁などが収集していたブラックリストが連結され、環境汚染をした企業や、旅行先で問題を起こした個人などが一括で検索できるようになった。

さらに、「道徳」を点数化する実証実験も中国の一部で進む。軽犯罪を犯すと点数が下がる一方、献血やボランティアなど社会奉仕活動に従事すると上がるといったもので、こうしたスコアが他人を信用するかどうかの判断指標にもなる。

高口氏:

例えば高橋さん(筆者)から“取材お願いします”と連絡がきたときにも、データベースでチャカチャカって検索するだけで“この人は信じても良さそうじゃないか”とか“ダメなんじゃないか”というのがわかる。

ありとあらゆる記録を残し、統合して検索できるようにするのがデジタル化。デジタル化はイコール監視社会と言っても良いと思います。

また、懲戒機能を補完するのが「失信被執行人リスト」だ。裁判で言い渡された賠償金を払わない人などを主な対象にし、高級ホテルや新幹線の利用などが出来なくなるなどといった制限が課される。

信用中国のサイトより
失信被執行人リスト(名前を隠しています)

■為政者が決める「お行儀の良さ」

こうしたシステムや、主に犯罪防止のために都市化や地方まで網羅するAIカメラの実装が進む中国。「幸福な監視国家・中国」ではこうしたテクノロジーの実装により、中国には「お行儀の良い社会」が生まれていると指摘する。

高口氏:

中国在住の日本人からも、荷物を落としたら戻ってきたとか、タクシーの中に荷物忘れたけど帰ってきたとかの声も聞くようになりましたし、運転マナーも改善されてきました。

ただ、ルールを破ったときのみ発動するので“普通に生きている人間には関係ない”というような意識になっているのが中国の現状です。慣れもあると思いますが、ほとんどの人は意識していません。

ただ、共産党の支配を守るためだけにシステムがあるわけではなくて、社会を滑らかに回すためとか、ビジネスを上手く回すためなんです。

中国はそこを愚直に進めていって、これで便利になる、これで行政が進むなら、とりあえずやってみたらいいんじゃないかと。

確かに、見ず知らずの人間に商談を持ちかけられても、借金を踏み倒すような人間かどうか事前に判断できるのは便利だ。またAIカメラの実装で、盗難や誘拐のような犯罪の未然防止につながればより安心して生活できるだろう。

REUTERS
北京市の監視カメラ

高口氏と梶谷氏は、監視テクノロジーの実装は、人々が「より便利な生活」を求めたことが理由の1つと考えている。言い換えれば、より便利な社会で暮らしたい、という欲求がある以上、日本や他の国でも監視テクノロジーは進み得るのだ。

高口氏:

データを活用すると、社会全体にとって便利なこと、効率が上がることが沢山あるわけです。でも踏み越えちゃいけない一線というか、市民社会のルールや民主主義のルールは破ってはいけませんというのが前提にあった。

ところが「貧すれば鈍す」という言葉の通り、お隣の中国はデジタル化、イノベーションを進めていった結果、部分的には日本よりも便利になっています。そうすると、やっぱりデータを活用しなければ日本が立ち遅れるという考え方もどんどん出てくると思いますし、実際出てきていると思います。

 

梶谷氏:

(日本でも監視テクノロジーの実装が進む)可能性は高いと考えています。

現在のところ日本社会は新しい監視テクノロジーの導入についてかなり慎重ですが、たとえばあおり運転のような社会的に明らかに問題だとされている
事例を減らすためであれば、比較的抵抗なく受け入れられるのでは
ないでしょうか。

考えるべきは、一度慣れてしまえば、抵抗感はもちろん、監視や記録をされている意識も徐々に希薄になっていくことだ。高口氏は交通系ICカード「SUICA」を例に挙げ、次のように話す。

高口氏:

SUICAが始まって2年くらい買わなかったんですよ。

大学の先輩が「こんな個人データを把握されるものを持つなんてアホらしい」とか言って、何も考えずに「ああそうかもしれない」と思って、毎回切符買ってたんですけど、1回SUICA買ったら手放せない(笑)。

データ持っていくなら持っていってくれくらいの感じになるじゃないですか。

ただ、ここに来て大きな疑問が浮かんできた。

人々を信用スコアなどで管理し「お行儀の良い」方向へ導く社会。その「お行儀の良さ」は一体誰が決めているのか。共産党が定めた「あるべき姿」にスコアを道具に誘導されているだけではないのだろうか?

高口氏:

(息苦しさは)ありますよね、どう考えても。何がお行儀が良くて何が悪いのかとか。中国の例では、交通違反をすると信用スコアがマイナス50点になると。献血を2回するとプラス50点。そうすると、献血2回と交通違反1回は果たして同じレベルなのかとか、なんでその点数になるんだというのは謎ですよね。

ただ、最近大学の先生の話を聞いて面白かったのは、「こうしなさい」という合意は特に難しいけれど、「これはダメ」という合意は比較的取りやすいということです。“ポイ捨てダメですよ”とか“交通違反はダメですよ”とかです。

梶谷氏は、日本では反対する勢力が十分に強くならない可能性があるとしている。

梶谷氏:

「お行儀」の良し悪しを決めるのは結局為政者だと言うのは、おっしゃるとおりです。

そうした社会が日本でも出現することに対する反発を示していたのは旧来の革新派、今で言うリベラル勢力ですが、その反発がより広い層に広まっていかない限り、中国で起きているような流れは日本でも広がっていくでしょう。  

Getty Images
イメージ

■「異形のものではない」

 便利さ故に社会に溶け込み、気づけば個人のデータが収集される社会になる。日本人からすれば別世界のような変貌を遂げている「監視国家・中国」を、我々はどのように見ていけば良いのだろうか。

高口氏:

(監視テクノロジーの進歩が)なし崩しに進むのがいいのでしょうか。

自分達が目指すべき情報化社会やデジタル化社会はどういうものか、ということについて、ある程度主体的に認知する必要があります。

そのために中国は素晴らしいお手本というか、先にやっていてくれているわけです。

見習ったり、反面教師にしたりする部分の両方があると思うんですけれども、そういう意味で、中国の事例は、中国そのものに関心がない人でも意味があると思います。

異形の国、独裁国家だから関係ないという見方はあまりよろしくないのではと思っています。

ただ、技術の進歩を人々が「監視」することは容易ではない。AIはそれ自体が、他者に侵入されないためにブラックボックス(中身が見えない)化され、理解へのハードルを著しく高めているからだ。

梶谷氏は、「これだ、という答えはない」としたうえで、具体的な提案を行なっている。

梶谷氏:

一つには新聞・テレビを含めたマスメディアの科学・技術に関するリテラシーの底上げが必要だと思います。市民による「監視の監視」には技術者を始め理科系の知性を巻き込んでいくことがどうしても必要です。
ただ、マスメディアの論調がただ「新しい技術の怖さ」を煽り立てるよう
ものだと、そういった技術系の人々から相手にしてもらえないでしょう。

より大きな枠組みでは、文系と理科系という日本の伝統的な知のすみわけ事態を見直していく必要があるのかも知れません。

「幸福な監視国家・中国」では、「監視社会化について考えることは、つまるところ私たちの社会においてテクノロジーをどう使いこなすかを考えること」だと呼びかけている。 

日本ではGAFAと呼ばれるアメリカのIT企業のサービスが浸透している。Google、Apple、Facebook、Amazonだ。これらはいずれも利用者に原則無料でサービスを提供する代わりに、利用履歴などの個人データを収集している。

EUでは2018年にGDPR(一般データ保護規則)が施行された。個人情報の収集に同意が必要となり、情報の使い道を明示することも義務化された。データの権利保護意識は高まる一方だ。同時に、データの蓄積を必要とするAI技術なども加速度的に発展していくとみられている。

日本でも、リクルートキャリアがAIを利用した「内定辞退率」の予測データを顧客企業に販売していた問題が注目されている。

今後日本にやってくるだろう「今よりも便利な社会」で、我々のデータがどのように集められ、どのように本人の知らないところで使われていくのか。デジタル化社会の先を行く監視国家・中国は、「ディストピア化した世界」と遠ざけるより、身近なお手本とみる方が正しいアプローチなのかもしれない。