AIを使い、ネット上ですべてをコントロールしようとする中国政府

ニッポン放送「飯田浩司のOK! Cozy up!」(2月16日放送)にジャーナリストの佐々木俊尚が出演。中国の会員制交流サイトで北京五輪の選手や競技解説者への攻撃的な投稿などがあったとして、22万件以上の書き込みが削除されたというニュースについて解説した。

2021年11月22日、中国・ASEAN対話関係樹立30周年記念サミットに出席した習近平氏 新華社/共同通信イメージズ 写真提供:共同通信社

中国SNS、オリンピック選手らを中傷する投稿22万件削除

中国の会員制交流サイト(SNS)で、北京オリンピックの選手や競技解説者への攻撃的な投稿や事実と異なる情報発信があったとして、アカウントの閉鎖や投稿の削除が相次いでいる。短文投稿サイト「微博(ウェイボ)」や動画投稿サイト「TikTok」の中国版「抖音(ドウイン)」では、合計1万件以上のアカウントが処分を受け、22万件以上の書き込みが削除された。

飯田)先日ニュースになったのは、抖音で6000件以上が投稿削除された話でしたが、微博ではそれを上回る数が出たということです。

佐々木)誹謗中傷はいけないので、当然と言えば当然なのだけれども、それを国がやるというのが普通ではあり得ないことです。日本で考えてみてください。ツイッターで誹謗中傷はいけませんというのは、もちろんそうなのだけれども、ツイッターの書き込みを国が削除した場合は大騒動になりますよね。

飯田)ツイッター社側が判断してやるか、あるいは裁判に持ち込んでの話になります。

ネット上で全国民を監視する中国共産党 〜AIを使ってコントロール

佐々木)日本の場合、ツイッターが日本の会社ではなく、外資なので面倒なところがあります。中国が強いのはグレート・ファイアウォールで、完全に国内で抱え込んでいるから、中国企業がやることは全部、共産党が制御できるということです。中国共産党政府はインターネットを含めた世論を、あらゆるところでコントロールしようとしているのではないでしょうか。

飯田)そうですね。

佐々木)もともとそういうことをやる国で、2000年ごろの反日デモなども、最初は政府が煽ってやらせたりしていました。当時、デモが暴動になって中国政府がコントロールできないところまで行ってしまい、火消しに躍起になるなど、制御しきれない中国の民意があった。しかし最近はAIを使って、すべてネット上でコントロールするという方向に突き進んでいる感じがあります。

飯田)信用スコアの制度なども、まさにそうですよね。

佐々木)そうなのですよね。いわゆる「社会信用システム」をつくって、横断歩道でおばあちゃんの手を引いてあげると、それを監視カメラが見ていて、自分の社会信用、クレジットが少し上がる。そうすると区役所の窓口で並ぶ列が少し前に行けるとか、あるいはお金を借りるときに少し増えるなど、事細かにいろいろなことがクレジット化されるようです。この番組で前に紹介した『AI監獄ウイグル』という、アメリカのジャーナリストが書いた本があります。

飯田)綿密な取材を基に。

佐々木)ウイグルでどんなAIを使った監視をやっているかということが事細かに書いてあって、テクノロジーを使うとそこまでできるのか、というくらいです。

すべての包丁にQRコードを刻印 〜料理には使えるが、テロには使えなくする

佐々木)驚いたのは包丁の話です。銃や刃物を使ったテロの場合、銃は取り締まることができるけれど、包丁は、料理をしないといけないから「買うな」と言うわけにはいきません。

飯田)生活の道具ですからね。

佐々木)生活の道具だけれども、同時に人を刺すこともできる。そこで中国政府が考えたのは、小売店で売っている包丁すべてにQRコードの刻印をつけるということです。QRコードを読み取ると、その包丁を買った人の名前や住所、その他の情報が出て来る。

飯田)QRコードの記録から。

佐々木)店で包丁を買うと、瞬間にQRコードを刻印するわけです。そのためには、QRコードを刻印する機械が必要です。例えば飯田さんが包丁を買うとして、名前や住所を入れてパソコンで処理すると、QRコードが包丁に刻印されるという機械が10万円くらいするらしいのですが、10万円相当の機械を小売店に買わせているということです。

飯田)買わないと商売できなくするぞと。

佐々木)買わないと包丁が売れない。QRコードを刻印すれば、包丁は買えるけれども、テロには使えません。

飯田)何かがあったときにはすぐに足が付く。

中国西部・新疆ウイグル自治区カシュガル地区で、巨大なスクリーンに映し出された中国の習近平国家主席(中国・カシュガル) AFP=時事 写真提供:時事通信

特定の家には邸内に監視カメラを設置

佐々木)あとは、家のなかにも防犯カメラを付けている。

飯田)そうなのですよね。

佐々木)特定の「この家は危ない」というところだけには、邸内に監視カメラを付け、音も聞こえるようにして、家のなかが全部映るようにするのです。いままでであれば、家のなかは唯一のプライバシー空間だったのですが、そこさえもプライバシーがなくなっている。

予測的取り締まり

佐々木)すごいのは、「予測的取り締まり」です。

飯田)予測的取り締まり。

佐々木)事前にいろいろなところにカメラを設置して顔認識したり、通行する際にゲートを通るとチェックされるなど、新たにデータを集める。そこでイレギュラーな行為をしていると、「こいつは何かしようと考えている」ということでピックアップされ、その家に訪問して何をやっているのかを聞く。そういうことをやるわけです。

飯田)その延長で、防犯カメラを家に置くということがあるわけですよね。

まるで映画『マイノリティ・リポート』の世界

佐々木)これは映画『マイノリティ・リポート』の世界ですよね。2002年に日本でも公開された、トム・クルーズ主演の映画です。未来には、「こいつは犯罪を起こす」という予知能力を持った人がいて、それに基づいて先に検挙しに行くという話です。「あなたは来週殺人を起こすので逮捕します」というような。

飯田)そうでしたね。

佐々木)当時は、「そんなことが起きるわけはないだろう」と思っていましたが、20年後くらいに中国で実現している。しかもあの映画では、超能力者が予知するという話でしたが、それをAIがやるようになった。ハリウッドの映画人も、まさか20年後に人工知能がそこまでできるようになるとは、誰も想像していなかったでしょうが、そういう時代に来てしまったのです。

予測的取り締まりの大矛盾

飯田)「予測的取り締まりの大矛盾」というものが、『AI監獄ウイグル』のなかで指摘されています。イレギュラーな行動と言っても、「少し体調を崩したために家から出て来ない」というような状況が、「イレギュラーだ」として、「あなたは怪しまれているから、診断書を持って来い」というような話になる場合があるということです。無茶苦茶ですよね。

佐々木)AIは確かに進化しているけれど、テロリストが誰かというところまでを浮かび上がらせるのは、そう容易ではないはずです。少し網を広げすぎなのですよね。

飯田)性悪説で社会をつくると本当にそういう状況になり、あっという間に人間同士の信用が崩れて行くのだなと思いました。

漢民族のエリアでは善行を積むと信用のリストが上がる 〜安泰な状態がいいのか、自由を選ぶのがいいのか

佐々木)一方で、ウイグルではない漢民族のエリアでは、善行を積むと信用のリストが上がるということで、「中国社会の信頼度を上げた」と言っている人たちもいるのです。

飯田)牙を向けなければ、自分たちは安泰であるというように思ってしまうところがあるのですか?

佐々木)あらゆるものが管理・監視されているけれども、「安泰な状態がいいのか、自由を選ぶのがいいのか」という議論にもなるのだと思います。どちらの方がいいのか。ウイグルに住んでいても、「全部監視してください。テロリストをあぶり出してください。私は何もしませんから」ということもできるのだけれど、それでいいのかということです。

「七一勲章」授与式、北京で盛大に開催(北京=新華社記者/劉衛兵)= 2021(令和3)年6月30日 新華社/共同通信イメージズ

暴力装置化する監視システム 〜誰もが犯罪者になってしまう可能性も

飯田)本に詳しく書いてありますが、中国政府のやり方は、もはや「ウイグルの人々は全員が潜在的なテロリストだ」という目で見て、そこに対して国家権力が権力行使する。それは暴力装置化するということですよね。

佐々木)ものすごく精密に、本当に犯罪者だけをあぶり出してくれるならいいのだけれど、あまりにも過剰だと「誰もが犯罪者になってしまう」という可能性を考えると、やはり危険ではないかという感じはします。

「それは違います」と言える言論の自由は必要 〜中国のテクノロジーによる監視社会化を他の国も見て行かなければいけない

飯田)ある程度、補正が効くような言論の自由や権力の監視機能があるというのは、使うか使わないかはさて置き、担保しておく必要があるのでしょうか。

佐々木)異論があった場合に、「それは違います」と言える言論の自由は必要ですし、有無を言わさず全部NGにしてしまうことは、極めて危険で独裁的なやり方だと思います。中国のテクノロジーによる監視社会化については、日本も含めて他の国も見て行かなければいけない話だと思います。しかし、なぜか日本国内で「監視社会だ」と言っている人に限って、中国の監視社会について言及しないのは、どういうことでしょうか。

飯田)そう言う人に限って。

佐々木)日本では、少なくとも政府による監視はあまり行われていません。アメリカなどはテクノロジーを使ってやっていますけれど。日本政府に関しては、前に海外のどこかのNPOによる統計調査がありましたが、監視はOECD諸国のなかでも下位の方だということです。だから日本においては、GAFAによる民間の監視のようなものしかないわけです。

シャープパワー 〜世論を操作させる力

佐々木)国による監視について議論するのであれば、中国の事例をもっと見て行かなければいけないし、それこそ最近、「シャープパワー」などという言葉も出て来ています。ソフトパワーやハードパワーという軍事力や文化の力だけではなく、陰謀論を起こさせる力や、世論を操作する力などのことです。

クリミア併合の際に世論をでっち上げた 〜香港でも使われた

佐々木)ロシアがよく使っていると言われていて、クリミア併合のときも、クリミアがロシアに来たがっているという世論を無理やりでっち上げ、クリミア併合を行ったということでした。「世論の後押しがあったのだ」という建前で。それと同じようなことを中国もやろうとしているという話は、散々言われて来ているわけです。

飯田)台湾に対してなのか、あるいはもっとその先で、沖縄もそうなのか。

佐々木)香港に関しては、完全にそうです。香港の人間は大陸とは違うと言って、偉そうにしているということで、大陸にいる中国人の間で「香港は偉そうだ」という世論を盛り上げるような操作をしている。これもまさにシャープパワーなわけです。ここはもっと注視して行きたいと思います。

関連記事(外部サイト)