[IT law] 中国にて犯罪者予備軍を顔つき（のみ）で判別するシステムの開発が進行中

中国で、顔の特徴から潜在的な犯罪者を見つけ出そう、というクレイジーな実験が行われているんだそうです。以前からよくあるところの、そして大金をつぎ込んだ挙句失敗に終わるところの、顔写真を元に監視カメラで指名手配犯やテロリストを探す、というのではありません。純粋に顔画像のみを用いて、すなわち顔つきだけから、既遂未遂未着手も含め、犯罪を犯しそうな者を判別しようというのです。

具体的には、中国の国家機関が過去に容疑者とみなして摘発した市民数百人を含む2000人弱分の顔写真を学習セットに用いて、顔認証等に用いられる一般的な特徴について容疑者群とそれ以外との差異を抽出して判別基準を作成し、それによって顔写真のみから犯罪者（潜在的なものを含む）を判別しようとしているのだとか。担当の研究者曰く、上唇の曲率や両目間の距離等には容疑者に特徴的なものがある、と主張しているそうです。

実験は、18歳から55歳までの、髭や刺青等のない男性の1856人分の顔画像セットが用いられました。その約4割、730人分が容疑者です。それら画像の90%を用いて学習した判別基準につき、残りの約200人分程度の画像を判別させた実験の結果、その成功率は89%だった、とのこと。

結果だけを見れば、およそ10人に9人は判別出来るという事で、驚愕すべき高精度です。・・・この数字が信用のおけるものなら、という但書は付くし、色々と疑義もあるわけですけれども。

さて。当然ながら、本件試みには各方面から批判・非難が山ほど寄せられているそうです。その内容・論拠は大別して2点。1つは、犯罪すなわち具体的に定義することさえ出来ない不特定の広汎な行為に及ぶ、という内面的な性向と、外見の、しかも静的な特徴との間に、因果関係の存在を見出すべき根拠が存在せず、従って科学的に意味不明な点。もう1つは、本件における犯罪者データは、中国当局が容疑者として摘発した者を集めたに過ぎないため、そもそも犯罪行為を行ったかどうかも定かではなく、従って本実験は、"当局に容疑者として摘発されやすい外見"を判別しているに過ぎず、これをもって犯罪者を判別したものとは到底言えない点です。

実験とそれに対する上記の批判を前提にすれば、ある程度判別が出来た、という結果を論理的に解釈し、理解する事が可能になります。例えば、次のように。

本実験の前提として、外見と犯罪行為一般への積極的性向の間に論理的な根拠は見出だせない。そうである以上、外見による判別は不可能であり、従って、偏りのないデータに対する本実験の成功率は50%に漸近するものと考えられる。しかし、本実験の結果には、明らかに有意な偏りが認められる。従って、データに偏りが存在するものと思われる。学習に用いたデータは、当局に容疑者として摘発された者とそれ以外の者であるから、偶々データ内に偏りがあったのでない限り、外見の特徴と中国当局による摘発対象となる事の間に強い因果関係の存在が示唆される。従って、中国当局は、外見的特徴のみに基いて相当割合の容疑者の摘発を行っているものと推定される。

という感じで。結局のところ、本実験を合理的に解釈して得られた結果は、顔つきから犯罪者を判別出来る、という事ではなく、中国当局は、当局がステレオタイプ化している犯罪者らしい見た目の男を見た目だけで検挙しているらしい、という事になるわけです。恐ろしいですね。もっとも、それはあくまで結果であり、間接的な原因は幾つか考えられるわけですけれども。例えば、中国国内ではウイグル族やチベット族をはじめ、多数のマイノリティが政治的に迫害され、その多数が検挙されてもいる事は周知であるところ、本件で判別に用いたような外見的特徴は、特に民族間に表れやすいものである事からすれば、中国各地の少数民族への迫害を裏付けるものと見る事も可能かもしれません。なおさら恐ろしいですね。

しかし、本件が怖いのはその点に止まりません。中国当局が今回の実験を行った理由は、明らかに犯罪者（潜在的なものを含む）を自動的に識別し検挙するためと思われるところ、本方式をそのままそこに適用するとすれば、これまで行ってきたところの外見のみによる偏見に満ちた根拠のない摘発に倣って検挙を進める形となり、従って無実の市民の摘発する結果になるものと考えられるわけです。それは、本方式により（見かけ上の）根拠が与えられる結果、従来よりもさらに強制的なものになり、規模も大幅に拡大する事が予想されます。しかしその実、これまで（根拠もなく見た目だけから怪しんで）検挙した市民と、その見た目が似ているからというだけで検挙されるという。

家族や親類に検挙された人がいたらその時点でもう大体アウトになる、と考えればその異常性が想像しやすいでしょうか。偶々顔の一部の特徴が過去の容疑者に似ているに過ぎない人でも、整形しなければ、何ら罪に問われる事をしていなくとも、ある日突然容疑者にされてしまうのです。容疑者っぽい顔をしているから、というだけの理由で。

それはもうマッチポンプどころじゃないですね。自分たちでこれまでレッテルを貼ってきた挙句、それを是正するどころか、逆にそれを基準にして、これまでの相手と似ているからお前も犯罪者に違いない、と言いがかりを付けて回るわけです。性質の悪いことに、顔画像のみから自動的に、従って大規模かつ迅速に出来てしまう一方、中国の権力構造からすれば、誰にも修正することは出来ません。無力で哀れな市民は、ただ理不尽を前に絶望するしかないでしょう。

こういう無茶苦茶な話を聞くにつけ、自分は中国人でなくてよかったと心から思うのです。中国人の方々は・・・御愁傷様としか。ただね。どこまで本気なのか、と疑問に思うところもないわけではありません。単に言いがかりのネタをでっち上げようとしているだけなのか、それとも本当に外見だけから犯罪者とわかると信じているのか。非論理的だったり非科学的だったりする事自体は途上国としてある程度致し方ない部分はあるだろうけれども、中国の場合は大体理解していて、それでも悪意の下あえて実行する事もざらにあるものだから、本件もその一例に過ぎないのかもしれない、等とどうしても疑念を抱かされてしまうのです。であればなおさら救えない話ということになるわけですけれども。どちらせによ、恐ろしい事には変わりありませんし、多少その性質が変わるというに過ぎないんでしょうけれどもね。

Convict-spotting algorithm criticised