汚職を取り締まるために導入したAI（人工知能）が高性能すぎてお蔵入りに（中国）
人民の5パーセントを占める公務員の管理にAIを導入する試み
中国では、6400万人が政府関連の仕事についていると推定されている。中国の人口は13.86億 (2017年)なので、全人口の5パーセント近くが官僚組織のどこかに属しているということだ。この巨大組織を管理するために、中国政府はハイテクツールの導入を進めている。
中国が、目的の良し悪しを問わず、監視カメラと顔認証技術の利用という点で、世界の最先端を行っていることはよく知られている。
・お前は常に見張られている。生徒の行動を監視するため、中国の学校で採用された顔認証カメラ : カラパイア
しかし、監視カメラとAIを利用した対汚職用システムについてはやりすぎだったようだ。
http://livedoor.blogimg.jp/karapaia_zaeega/imgs/d/3/d372c0ea.jpg
30か所に導入した結果、驚異の摘発率
中国科学院と共産党が提携して開発された「ゼロ・トラスト（Zero Trust）」は、150を超える政府データベースと社会的関係マップを用いて、公務員の私生活を監視・評価する、汚職捜査人工知能システムである。たとえば、多額の預金がある銀行口座、大きな買い物、政府と親族・知人との間で交わされた受注案件といったサインを基にして、横領・職権乱用・コネによる採用といった汚職の気配を読み取るのだ。
その威力はすさまじかった。
「導入された県・市が30ヶ所に限られていたにもかかわらず、すでに網にかかった公務員は8721人に上っている。」というのだ。
中には逮捕して当然なほど重い罪を犯していた公務員もいたという。
だが、サウスチャイナ・モーニング・ポストによれば、網にかかった公務員のほとんどは警告を受けただけだった。
監視されている事実を知れば、これ以上の無茶はしないだろうとの想定の下、その後も仕事を続けることが許されたという。
http://livedoor.blogimg.jp/karapaia_zaeega/imgs/c/a/ca490b29.jpg
有能すぎてシステムは停止？
ゼロ・トラストシステムが導入された麻陽県、懐化市、澧県などの一部政府はこのシステムを停止した。研究者の1人は、『新しい技術に馴染めなかったのだろう』と話しているそうだが、もしかしたらゼロ・トラストの追求の手は、上層部にも及んだのではないだろうか？
政府筋は、AIが機密データにアクセスすることを管理する法律がないことを、停止した理由の1つとして挙げている。
しかしゼロ・トラストの技術者たちは、ほとんどの場合、システムが正しかったことは証明されており、また汚職の告発は人間がまずそれを確認してからでなければ行われないと反論する。
人間が確認するということは、るまり6400万人の公務員を別の公務員が監視するということになる。 それはかえって状況を悪化させるのではないかという懸念も出てくる。
別の研究者によると、ゼロ・トラストが目指したのは、ガバナンスにボットを活用することに対する「官僚たちの大規模な抵抗を回避すること」だったのだそうだ。
が、それはまさに起きたわけだ。
ビッグ・ブラザーとビッグAIとの取引は、中国を舞台に戦いに転じつつある。さて、勝つのはどちらの陣営だろうか？あるいは、そもそも勝者はいるのだろうか？
References:Is China’s corruption-busting AI system ‘Zero Trust’ being turned off for being too efficient? | South China Morning Post/ written by hiroching / edited by parumo
